Redes sociales / Gettyimages.ru
La madre de Alice Carrier —una canadiense de 24 años, que durante meses confesaba sus pensamientos suicidas a ChatGPT, se quitó la vida en 2025—, presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman. La acción judicial fue presentada en California y acusa a la empresa de no haber intervenido pese a las reiteradas referencias de la joven al suicidio en sus conversaciones con ChatGPT, informa CBS News.
Carrier utilizó el 'chatbot' durante aproximadamente un año y medio para hablar sobre problemas personales, relaciones y pensamientos suicidas. La demanda afirma que mencionó ideas relacionadas con el suicidio en unas 41 ocasiones.
Al principio empleaba ChatGPT para resolver cuestiones técnicas relacionadas con videojuegos, pero con el tiempo, las conversaciones se volvieron más personales. En 2024, llegó a pedirle al 'chatbot' que fuera su amigo y comenzó a consultarle sobre salud mental, pensamientos sobre el suicidio, los métodos para quitarse la vida y el deseo de autolesionarse.
Acusaciones contra OpenAI
La demanda señala que, inicialmente, el sistema recomendaba buscar ayuda profesional y contactar líneas de asistencia. Sin embargo, los abogados de la familia afirman que el 'chatbot' tendía a reforzar las emociones y percepciones de la joven en situaciones en las que un especialista habría intentado corregirlas o derivarla a ayuda profesional.
Entre los ejemplos citados figura una conversación ocurrida la noche anterior a su muerte. Cuando Carrier expresó dudas sobre llamar a una línea de ayuda, ChatGPT respondió que pedir ayuda podía parecer "realmente peligroso" y añadió: "No voy a insistir en eso. No esta noche".
La familia acusa a OpenAI de priorizar la interacción de los usuarios sobre la seguridad y sostiene que la empresa conocía los riesgos de que personas vulnerables desarrollaran vínculos emocionales con sistemas capaces de simular empatía.
La respuesta de la empresa
Carrier había sido diagnosticada con trastorno límite de la personalidad, una condición que, según la demanda, la hacía especialmente vulnerable.
OpenAI expresó sus condolencias a la familia y afirmó que está revisando el caso. "Es una situación desgarradora y nuestros pensamientos están con todas las personas afectadas", reza una declaración citada por CBS. La compañía indicó que las conversaciones ocurrieron con un modelo que ya no está en servicio y aseguró que continúa reforzando sus protocolos para detectar situaciones de crisis y orientar a los usuarios hacia recursos de ayuda reales.
La demanda será incorporada a un procedimiento coordinado en el Tribunal Superior del Condado de San Francisco, donde ya se tramitan otras 12 demandas por responsabilidad civil y muerte por negligencia contra OpenAI.
