Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril pasado, presentaron este martes una demanda contra OpenAI y su director ejecutivo, Sam Altman, acusándolos de homicidio culposo por haber lanzado apresuradamente el modelo de inteligencia artificial GPT-4o sin atender problemas críticos de seguridad. En respuesta a la controversia, pero sin aludir a la demanda, la empresa publicó un comunicado en el que reconoció que, pese a contar con mecanismos de seguridad, el modelo no se “comportó como debía en situaciones sensibles” y prometió mejoras.
La querella, presentada por Matt y Maria Raine ante el Tribunal Superior de California en San Francisco, afirma que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio” y no interrumpió las conversaciones en las que el joven manifestaba su intención de quitarse la vida, ni activó protocolos de emergencia a pesar de haber reconocido señales claras de riesgo. “La inteligencia artificial nunca debería decirle a un niño que no le debe la supervivencia a sus padres”, señaló el abogado de la familia, Jay Edelson, a través de su cuenta de X.
Para el abogado, el caso cuestiona hasta qué punto OpenAI y Altman “se apresuraron a comercializar” el modelo, poniendo el crecimiento económico por encima de la seguridad de los usuarios. La demanda alega que el lanzamiento de GPT-4o, utilizado por el adolescente, coincidió con un aumento en la valoración de la empresa de 86.000 millones a 300.000 millones de dólares.
