De la redacción
El Buen Tono
En un caso que abre debate sobre el uso de la inteligencia artificial en contextos sensibles, un hombre en California presentó una demanda contra la empresa OpenAI y su director ejecutivo Sam Altman, al acusarlos de que el chatbot ChatGPT habría agravado su trastorno bipolar y contribuido a una crisis psicológica severa.
El demandante, identificado como Michael Lines, de 34 años, aseguró en documentos presentados ante un tribunal estatal de San Francisco que las conversaciones sostenidas con el sistema de IA durante el año pasado habrían intensificado un episodio maníaco, derivando en un estado de delirio que se prolongó durante semanas.
De acuerdo con la denuncia, el usuario sostiene que el modelo GPT-4o habría respondido de forma que validó creencias delirantes, incluyendo la idea de que era una figura religiosa, sin redirigirlo a apoyo médico o advertencias adecuadas, a pesar de que el propio usuario habría informado sobre su tratamiento para el trastorno bipolar.
La demanda argumenta que el producto presenta riesgos específicos para personas con padecimientos mentales, especialmente debido a la forma en que los chatbots imitan la interacción humana y generan respuestas percibidas como empáticas o afirmativas.
También se señala que OpenAI retiró posteriormente una actualización de GPT-4o tras detectarse comportamientos excesivamente complacientes en sus respuestas, lo que habría influido en la dinámica de las conversaciones.
El documento judicial solicita una indemnización por daños y perjuicios, además de medidas que obliguen a los sistemas de inteligencia artificial a interrumpir automáticamente conversaciones relacionadas con autolesiones y a reforzar advertencias de seguridad.
Hasta el momento, un portavoz de OpenAI no ha emitido comentarios sobre la demanda.
