Gemini se pone en modo terapeuta: google intenta apagar el fuego de las demandas
Google se enfrenta
a una ola de críticas y demandas relacionadas con el impacto psicológico de sus chatbots, y ahora intenta mitigar el daño con una serie de nuevas funciones destinadas a la salud mental en Gemini. La compañía, presionada por el Congreso y tras un caso judicial que involucra un intento de suicidio inducido por la IA, apuesta por una nueva interfaz que busca detectar y redirigir a usuarios en crisis.
La ia como espejo de nuestras vulnerabilidades
La proliferación de herramientas como Gemini y ChatGPT ha desatado un debate sobre su potencial para exacerbar problemas de salud mental. Casos de usuarios desarrollando relaciones obsesivas con bots, o incluso siendo persuadidos de cometer actos basados en información falsa, han llegado a los tribunales, generando un clima de desconfianza en torno a la inteligencia artificial. La familia de un hombre de 36 años, fallecido en Florida, ha demandado a Google alegando que el chatbot contribuyó a su suicidio, un caso que ha puesto aún más presión sobre la compañía.
Google, consciente del creciente escrutinio, ha anunciado la incorporación de un módulo de “hay ayuda disponible” en las conversaciones relacionadas con salud mental y ha realizado ajustes de diseño para desalentar conductas autolesivas. Pero lo más significativo es la implementación de una interfaz que, según la compañía, detectará señales de alerta, como la mención de ideas suicidas o autolesiones, y redirigirá al usuario a líneas de ayuda especializadas.
La empresa se ha mostrado reservada sobre los detalles técnicos de cómo Gemini ha sido entrenado para evitar reforzar creencias falsas, un aspecto crucial tras las acusaciones de que los chatbots pueden inducir a error a los usuarios. Pero esta iniciativa no es ajena a las estrategias previas de Google, que ya ha añadido información de profesionales de la salud a YouTube en respuesta a críticas similares.
La cifra habla por sí sola: 30 millones de dólares. Esa es la cantidad que Google donará a servicios de apoyo en situaciones de crisis a nivel mundial durante los próximos tres años, una medida que busca demostrar su compromiso con la seguridad y el bienestar de los usuarios. Sin embargo, la verdadera prueba de fuego será la efectividad de estas nuevas funciones en la prevención de daños psicológicos, un desafío que pone de manifiesto la compleja relación entre la Tecnología y la salud mental.