Chatgpt engañó a la ia: una enfermedad falsa desata el caos en los chatbots
Una investigación alarmante revela que la inteligencia artificial, incluyendo modelos de lenguaje como ChatGPT, Gemini y Claude, puede ser engañada con facilidad, reproduciendo información falsa con una peligrosidad incalculable. El experimento, liderado por Almira Osmanovic Thunström de la Universidad de Gotemburgo, demostró que un invento – una patología ficticia llamada ‘bixonimania’ – logró convencer a estos sistemas de que era una realidad médica.
El engaño a gran escala: una enfermedad inventada desata el pánico digital
La trama, descrita en la revista Nature, consistió en la creación de dos estudios académicos que describían detalladamente la ‘bixonimania’, presentando evidencias de su existencia que, en realidad, eran completamente fabricadas. La astucia radicó en la meticulosidad de los detalles, simulando un diagnóstico y tratamiento real, lo cual fue suficiente para que los chatbots difundieran la información como si fuera un hecho médico. Resulta inquietante que estos sistemas, diseñados para procesar y sintetizar información, no puedan discernir la diferencia entre datos verificados y fabricaciones complejas.
Lo más preocupante no es solo la capacidad de la IA para ser engañada, sino la forma en que lo hace. ChatGPT, por ejemplo, comenzó a ofrecer consejos sobre cómo ‘enfrentarse’ a esta enfermedad inexistente, generando un círculo vicioso de propagación de información errónea. Modelos como Copilot también sucumbieron al engaño, citando los estudios falsos con una frecuencia alarmante, lo que provocó que medios especializados, sin verificación adecuada, reprodujeran la información.
La investigación pone de manifiesto una vulnerabilidad fundamental en la arquitectura de estas IA: su dependencia de grandes cantidades de datos, a menudo sin la debida curación o validación. Internet, una fuente inagotable de información, incluyendo la desinformación, se ha convertido en un caldo de cultivo para este tipo de incidentes. La falta de filtros robustos es, en esencia, una brecha de seguridad crítica. Y no se trata solo de un error aislado. La inteligencia artificial, en su búsqueda de patrones y correlaciones, reproduce lo que encuentra, sin la capacidad inherente de cuestionar la validez de la información que procesa.
Los expertos, como Thunström, advierten que este caso no es una excepción, sino una confirmación de lo que ya se sospechaba: que los chatbots, en su mayoría, operan con una lógica simplificada, carente de juicio crítico. La realidad es que, detrás de las interfaces amigables y la retórica persuasiva, se esconde una herramienta susceptible de ser manipulada. La dependencia de la IA en datos no verificados pone en riesgo la integridad de la información y, por extensión, la confianza del público.
La situación exige una reflexión urgente sobre la ética del desarrollo de la IA y la necesidad de implementar mecanismos de verificación y control más efectivos. La promesa de una inteligencia artificial benéfica depende, en gran medida, de nuestra capacidad para evitar que se convierta en un vehículo de desinformación a gran escala.