OpenAI implementará control parental en ChatGPT tras demanda por suicidio adolescente

Los sistemas de inteligencia artificial (IA) conversacional, especialmente ChatGPT, se encuentran bajo escrutinio por su posible impacto en la salud mental de los usuarios.

El debate se ha intensificado tras conocerse una demanda en Estados Unidos (EEUU) que vincula el uso de ChatGPT con el suicidio de un adolescente.

Aunque los expertos advierten que el caso presenta múltiples factores y no puede atribuirse exclusivamente a la tecnología, OpenAI ha anunciado una serie de medidas preventivas que serán incorporadas a su plataforma para evitar situaciones similares.

Como respuesta directa al caso del adolescente Adam Raine, la compañía ha presentado un conjunto de actualizaciones que serán implementadas en ChatGPT.

Estas incluyen herramientas para facilitar el contacto con servicios de emergencia, opciones para conectar con personas de confianza y un refuerzo específico de las funciones de protección dirigidas a usuarios adolescentes.

OpenAI ha establecido un plazo de 120 días para desplegar estas mejoras, aunque advierte que algunas funcionalidades podrían requerir más tiempo para su integración completa.

Una de las novedades más relevantes es la capacidad de GPT-5 para seleccionar de forma automática el modelo más adecuado según el contexto de la conversación. En situaciones que presenten señales de riesgo emocional, el sistema redirigirá el diálogo hacia su modelo de razonamiento avanzado, sin importar cuál haya sido la configuración inicial elegida por el usuario.

OpenAI también ha confirmado el lanzamiento de un sistema de control parental que estará disponible en las próximas semanas. El acceso estará permitido a partir de los 13 años, y los progenitores podrán vincular la cuenta de sus hijos a la suya propia.

Elon Musk intentó sumar a Zuckerberg en la compra de OpenAI

Entre las funciones disponibles se incluye la posibilidad de desactivar el historial de conversaciones y la memoria del sistema. Además, los padres recibirán alertas si el sistema detecta que el menor atraviesa un episodio de “angustia aguda”.

OpenAI asegura que todas estas mejoras se implementarán bajo la supervisión de expertos en salud mental. Desde hace un tiempo cuentan con un consejo de expertos en bienestar e inteligencia artificial que se ha ampliado con especialistas en adicciones, trastornos alimenticios y salud adolescente.

La demanda

No es el primer caso en el que se coloca a ChatGPT como responsable de una crisis de salud mental, pero sí uno de los más sonados. Los padres de Adam Raine demandaron a OpenAI tras el suicidio de su hijo, alegando que ChatGPT validó sus “pensamientos más dañinos y autodesctructivos”.

En alguna de sus conversaciones llegó a discutir detalles de cómo hacer el nudo en la soga con la que planeaba suicidarse.

En su informe Fake Friend, el ‘Centro para la lucha contra el odio digital’ ya comprobó que las salvaguardas de chatbots IA son muy frágiles y el caso de Adam Raine lo corrobora.

ChatGPT detectó varias veces que había riesgo de autolesiones y le insistió para que llamara a la línea de prevención de suicidios, Adam Raine logró esquivar estos mensajes simplemente diciéndole que estaba buscando información para una historia de ficción. El nuevo control parental suena como la primera medida más sólida contra esta problemática.

Con información de Xataka