La ia engaña: usuarios ciegos confían en respuestas chatbot
El algoritmo de la confianza ciega. Así se describe el fenómeno que está en auge: gente que se basa ciegamente en las respuestas de los chatbots, incluso cuando están completamente equivocadas. Un nuevo estudio revela que, cuanto más popular se vuelven estos sistemas de inteligencia artificial, más fiabilidad generan en el público. Pese a que la precisión de sus respuestas puede ser baja.
La dinámica de la automatización
Los expertos han bautizado este comportamiento como 'sesgo de automatización'. Es la tendencia de muchos usuarios a confiar incondicionalmente en sistemas automatizados, en lugar de utilizar su propio criterio o investigación adicional. Y tiene una explicación lógica: los chatbots suelen ofrecer respuestas claras, bien redactadas y que generan sensación de autoridad.
Además, utilizar un chatbot para obtener información resulta atractivo por la comodidad que ofrece. No es necesario esforzarse en buscar fuentes adicionales o analizar la información proporcionada. Lo que se obtiene es rápido, fácil y parecía seguro. Pero puede tener consecuencias peligrosas si se toma como única fuente de información.
El problema es que, según el estudio, una parte significativa de las respuestas generadas por asistentes de IA contenían errores, imprecisiones o problemas de contexto. Sin embargo, la mayoría de los usuarios no detectaron esas falencias y aceptaron las respuestas como válidas.
La IA comete errores, y cometidos con frecuencia. Si cada vez más gente emplea chatbots como principal fuente de información, el resultado puede ser un público cada vez más mal informado.