¿Por qué los chatbots suelen fallar?

Vota este post

chatbot

Los chatbots son «robots de chat» o agentes de máquinas que sirven como interfaces de lenguaje natural a través de texto o voz, lo que permite a los usuarios hacer preguntas o dar comandos en el lenguaje cotidiano y obtener el contenido o servicio necesario en un estilo conversacional.

Los chatbots cambian drásticamente la forma en que las personas interactúan con las empresas en línea. Como uno de los principales proveedores de plataformas de mensajería, Kik, afirma: “Primero hubo sitios web, luego hubo aplicaciones. Ahora hay bots”.

Según se informa, las personas pasan cada vez más tiempo en plataformas de mensajería como Facebook Messenger, que tenía más de 1200 millones de usuarios por mes en 2017. Este cambio fundamental en el comportamiento de los usuarios en línea ha impulsado a todos los gigantes tecnológicos como Google, Amazon, Facebook o LinkedIn y consumidores. empresas de servicios como Starbucks, British Airways y eBay para adoptar chatbots y llegar a sus clientes. Según Gartner, es probable que más del 50 % de las empresas gasten más por año en la creación de bots y chatbots que en el desarrollo de aplicaciones móviles tradicionales para 2021.

Curiosamente, los chatbots no son nuevos. Han existido durante décadas. Pero el verdadero revuelo sobre los chatbots comenzó en 2016 debido a dos razones: primero, los avances masivos en inteligencia artificial (IA). En segundo lugar, un cambio significativo en el uso de las redes sociales en línea a las aplicaciones de mensajería móvil como Facebook Messenger, Telegram, Slack, Kik y Viber.

A pesar de estos impulsores, las aplicaciones de chatbot actuales sugieren que las interfaces de usuario conversacionales aún presentan desafíos sustanciales, en general, y para el campo de la interacción humano-computadora (HCI). Los chatbots implican un cambio en la interfaz entre los usuarios y la tecnología; implican cambiar la dinámica de los usuarios y los patrones de uso. Este artículo profundizará en lo que vemos como un desafío crítico con los chatbots desde una perspectiva centrada en el usuario.

Interfaz conversacional convincente

Un factor clave de éxito para todos los chatbots y las interfaces de usuario de lenguaje natural es la forma en que pueden satisfacer las demandas de los usuarios en un proceso conversacional de manera transparente y eficiente. Pero esta visión de una interfaz conversacional convincente no es fácil de lograr. Una posible explicación detrás de esto es la dificultad de diseñar conversaciones abiertas porque las capacidades del chatbot rara vez capturan todas las formas en que el usuario quiere participar. También ha habido un impulso sustancial en el desarrollo de chatbots y una falta de preocupación sobre cómo las personas usarán los chatbots y con qué propósito, lo que podría dejar a los usuarios frustrados. Además, también estamos presenciando una avalancha de empresas que compiten por ser las primeras en implementar chatbots en su dominio de servicio, a menudo ignorando las necesidades y experiencias de los usuarios.

Sesgo e interacciones engañosas

Tay de Microsoft, implementado en Twitter en 2016, a menudo se considera como el fallo definitivo de los chatbots. Percibido como un chatbot avanzado basado en IA, fue creado para aprender e imitar la personalidad de un joven de 19 años a través de la interacción activa con los usuarios de Twitter. Pero el problema fue que Tay aprendió no solo de los usuarios bien intencionados de Twitter, sino también de los trolls de Twitter, exponiéndolo a todo tipo de conversaciones odiosas supuestamente coordinadas por algunos usuarios de trolls en diferentes comunidades en línea para abusar de las habilidades de comentarios de Tay. En consecuencia, Tay imitó muchos memes odiosos populares en línea. Microsoft eliminó a Tay de Twitter en menos de 24 horas, luego de que elogiara a Adolf Hitler y expresara un sentimiento antifeminista en un lenguaje duro.

La lección aquí es que los chatbots, en general, necesitan una adaptación sustancial para cumplir adecuadamente su tarea. Como se demuestra en el ejemplo de Tay, la variación potencial e impredecible en la entrada del usuario y lo que constituye una respuesta de chatbot válida representan desafíos sustanciales.

Para desarrollar chatbots que puedan adaptarse a las necesidades específicas y contextos conversacionales, existe la necesidad de modelos mejorados de usuarios y contextos con secuencias de interacción específicas para mejorar las respuestas generativas a las entradas de los usuarios dentro de una variedad de contextos conversacionales.

Falta de nuevas percepciones de los usuarios

A pesar de su larga historia, los chatbots todavía se encuentran en un rápido desarrollo, con avances cada día. También podemos esperar que cambie la forma en que las personas interactúan con las interfaces de usuario conversacionales, lo que dará como resultado nuevos comportamientos de usuario, normas sociales y expectativas de usuario. Por lo tanto, es necesario un mayor conocimiento sobre las experiencias de los chatbots desde el punto de vista del usuario final. Los nuevos conocimientos de los usuarios son cruciales para los diseñadores y desarrolladores de chatbots.

Es importante informar a estos diseñadores y desarrolladores sobre los deseos, necesidades y prácticas de los usuarios de chatbot. El diseño de una nueva tecnología interactiva, como un chatbot, requiere un conocimiento profundo sobre por qué las personas eligen usar esta tecnología y por qué las personas dejan de usarla. Es necesario comprender quién usa los chatbots, sus objetivos, las tareas que deben realizar y su contexto de uso.

Obviamente, pero las personas tienden a abrirse más rápidamente a una computadora o tecnología que a los humanos, ya que es más seguro participar en la auto-revelación con un chatbot. Pero sabemos menos sobre a qué pueden conducir a largo plazo tales relaciones con los chatbots, si pueden generar una mayor soledad o depresión o si pueden equilibrarse de una manera que pueda ser beneficiosa para la salud mental de los usuarios.

En resumen, los chatbots no son una tecnología de «solución única para todos». La mayoría de las personas usan chatbots principalmente para la realización efectiva y eficiente de tareas de productividad. Las personas generalmente los usan para obtener asistencia o información y esperan efectividad y eficiencia, a través de chatbots de servicio al cliente, en la realización de tareas de productividad como el acceso a contenido específico o ayuda con tareas administrativas. Por lo tanto, el objetivo principal de un chatbot típico debería ser la gratificación de su usuario promedio que quiere hacer la vida más fácil y productiva.

Deja un comentario