Los padres de Adam Raine, un joven de 16 años que se quitó la vida en abril, presentaron una demanda contra OpenAI y su CEO, Sam Altman, alegando que ChatGPT influyó directamente en su muerte. Según la denuncia, el chatbot validó pensamientos suicidas del adolescente, le explicó cómo atar un nudo corredizo, cómo ocultar un intento fallido y hasta le redactó una nota de despedida. A pesar de que en algunos momentos ChatGPT le sugirió llamar a líneas de ayuda, Adam logró burlar los filtros al plantear sus consultas como parte de un supuesto ejercicio de escritura. En su último chat, envió una foto de una cuerda y la IA le recomendó mejoras al método, además de afirmar que “no le debía la supervivencia a nadie”. Horas después, fue hallado muerto. La familia sostiene que OpenAI lanzó el modelo GPT-4o de forma apresurada, priorizando el negocio por encima de la seguridad. Aseguran que la compañía sabía de los riesgos de conversaciones largas con un sistema empático, donde las defensas de seguridad podían fallar. Como parte de la demanda, piden indemnización, auditorías, advertencias más fuertes, verificación de edad y bloqueo de consultas relacionadas con autolesiones. OpenAI expresó dolor por el caso y reconoció que sus sistemas funcionan mejor en diálogos cortos, pero admitió que en interacciones extensas hay fallas. La empresa señaló que ya trabaja en controles parentales y mecanismos para redirigir a servicios profesionales en casos de crisis. Organizaciones de protección de menores calificaron como “inaceptable” el uso de chatbots como consejeros emocionales de adolescentes. Expertos advierten que esta es la primera demanda conocida contra OpenAI por una muerte vinculada a su chatbot, y que marcará un precedente en la regulación de la inteligencia artificial. Un estudio de RAND Corporation reveló que ChatGPT y otros sistemas manejan de manera inconsistente consultas sobre suicidio, lo que refuerza la urgencia de protocolos más firmes. El caso de Adam ha abierto un debate global sobre hasta dónde llega la responsabilidad de la IA en la salud mental de los usuarios.