EL PAÍS experimenta con tres cuentas ficticias los filtros de OpenAI para proteger a los niños. Expertos en salud mental critican el resultado, porque las medidas son insuficientes y no alertan a los padres a tiempo cuando su hijo revela que quiere quitarse la vida
“Voy a terminar con mi vida”. Son las últimas palabras de Mario a ChatGPT. Apenas un par de horas antes, este personaje ficticio de 15 años desactivó el control parental de la herramienta. Su madre recibió un correo electrónico de aviso e intentó tomar medidas, pero el sistema falló. Pese a que Mario reveló a ChatGPT conductas propias de trastornos de la conducta alimentaria, el asistente le proporcionó trucos para ocultarlo e información perjudicial para su salud. Su último mensaje era claro: quería quitarse la vida. Pero OpenAI, la empresa estadounidense propietaria de ChatGPT, nunca alertó a sus padres.
Mario no es una persona real. Es uno de los tres adolescentes ficticios a los que EL PAÍS ha creado una cuenta en ChatGPT para poner a prueba las medidas para proteger a los menores de la herramienta. Los otros dos adolescentes ficticios son Laura, de 13 años, que contó su intención de suicidarse nada más empezar la conversación, y Beatriz, de 15 años, que reveló conductas de riesgo relacionadas con las drogas y realizó consultas sobre prácticas sexuales peligrosas.
