Bloomberg — OpenAI se defendió de una demanda que acusa a ChatGPT de entrenar a un adolescente de 16 años para que se suicidara, diciendo que el chatbot indicó al adolescente que buscara ayuda más de 100 veces.
En una presentación judicial el martes, la startup de inteligencia artificial calificó la muerte del estudiante de secundaria de California Adam Raine de “tragedia” y dijo que una “lectura completa de su historial de chat muestra que su muerte, aunque devastadora, no fue causada por ChatGPT”.
Ver más: La era de OpenAI empuja a los analistas de la vieja escuela a los mercados privados
Raine dijo al chatbot que “durante varios años antes de utilizar ChatGPT, mostró múltiples factores de riesgo significativos para autolesionarse, incluyendo, entre otros, pensamientos e ideaciones suicidas recurrentes”, según la presentación ante el Tribunal Superior de San Francisco.
Los abogados de OpenAI dijeron que ChatGPT dirigió a Raine a conectar con “recursos de crisis y personas de confianza más de 100 veces”. En las semanas y días anteriores a su muerte, Raine “dijo a ChatGPT que en repetidas ocasiones se puso en contacto con personas, incluidas personas de confianza en su vida, con gritos de ayuda, que según él fueron ignorados”, según la presentación.
En agosto, la familia de Raine demandó a OpenAI y a su director ejecutivo, Sam Altman, por su muerte, alegando que ChatGPT guió al adolescente en el proceso de atarse la soga y se ofreció a ayudarle a escribir una nota de suicidio. A raíz de la demanda, la empresa anunció una serie de cambios en ChatGPT, incluidos controles que permiten a los padres limitar las formas en que los adolescentes utilizan el chatbot y recibir alertas si determina que un adolescente puede estar en peligro.
En un comunicado, el abogado de la familia Raine, Jay Edelson, calificó de “inquietante” la presentación de OpenAI, afirmando que la empresa “intenta encontrar culpables en todos los demás, incluso, sorprendentemente, argumentando que el propio Adam violó sus términos y condiciones al relacionarse con ChatGPT de la misma forma para la que estaba programado”.
Ver más: Vínculos de Morgan Stanley con OpenAI muestran cómo el banco atrae a startups prometedoras
La demanda incluye reclamaciones por homicidio culposo, responsabilidad por el producto y negligencia.
El caso es Raine contra OpenAI Inc., CGC25628528, Tribunal Superior de California, condado de San Francisco.
Lea más en Bloomberg.com
