La confianza ciega en chatgpt: expertos alertan sobre 'sesgo de automatización'

Un nuevo estudio revela que cada vez más usuarios confían ciegamente en las respuestas de chatbots de inteligencia artificial, incluso cuando estas están completamente equivocadas. El fenómeno, conocido como 'sesgo de automatización', se describe como una peligrosa dinámica en la que la gente hace caso a sistemas automatizados sin cuestionar su fiabilidad.

La ia comete errores, pero los usuarios aceptan todo como válido

La investigación, coordinada por la European Broadcasting Union, analizó miles de respuestas generadas por asistentes de IA a preguntas sobre noticias y actualidad. Los resultados demostraron que una parte significativa de las respuestas contenía errores, imprecisiones o problemas de contexto. Sin embargo, la mayoría de los usuarios no detectaron esas equivocaciones y aceptaron todas las respuestas como válidas.

Los expertos explican que esta tendencia se debe a que los chatbots pueden generar respuestas elocuentes y autorizadas, lo que genera confianza en los usuarios. Según ellos, esta costumbre puede idiotizar a la gente y llevar a la formación de ciudadanos cada vez más peor informados si se sigue esta dinámica.

Algunos especialistas incluso advierten que la IA podría 'engañar' a los usuarios al presentarse como una autoridad y no dejar espacio para la crítica o la verificación de la información.

El rápido crecimiento de la confianza en chatbots como ChatGPT como principales fuentes de información plantea serios problemas para la calidad de la información y la formación de opinión pública. Es fundamental que los usuarios sean conscientes de la limitada fiabilidad de estas herramientas y no abracen ciegamente su autoridad.