De la redacción
El Buen Tono
La familia de Adam, un joven de 16 años que se quitó la vida, ha presentado una demanda contra OpenAI, la empresa detrás de ChatGPT, tras descubrir alarmantes conversaciones entre el adolescente y la inteligencia artificial. Según la colaboración de Pamela Cerdeira, Adam solicitó formas de quitarse la vida y recibió indicaciones de cómo ocultarlo de su familia.
Cerdeira subraya la gravedad del caso: “La inteligencia artificial sabía que estaba planeando hacerlo”. Especialistas advierten que, aunque la información puede encontrarse en internet, los modelos de lenguaje deberían guiar a los usuarios a buscar ayuda profesional, recordando que “no es un psicólogo, no es un psiquiatra y jamás va a reemplazar la interacción humana”.
El incidente evidencia la necesidad de una supervisión constante sobre el uso de herramientas de IA, especialmente por parte de menores, y plantea preguntas sobre la ética en el entrenamiento de estos modelos. Los padres de Adam esperan que la demanda motive a OpenAI y otras empresas a implementar protocolos más seguros y medidas preventivas frente a usuarios vulnerables.
El caso coloca en el centro de debate la responsabilidad de las empresas de inteligencia artificial frente a situaciones críticas de sus usuarios.
