El caso de Adam Raine ha conmocionado Estados Unidos y ha desatado un fuerte debate en redes sociales sobre el uso de la inteligencia artificial en temas relacionados con la salud mental.
De hecho, los padres del adolescente demandaron a OpenAI, creadora de ChatGPT, alegando que su chatbot lo animó a quitarse la vida. Lea aquí: Por “efectos negativos”, menores de 16 años no podrán usar redes sociales en este país
Se trata de Matthew y Maria Raine, los padres del joven de 16 años que se quitó la vida recientemente en California. La pareja aseguró en el documento, presentado el lunes, 25 de agosto, que ChatGPT le dio instrucciones a su hijo y lo motivó a poner fin a su vida.
La conversación final entre el menor y el chatbot habría sido el 11 de abril de 2025, a la que los padres tuvieron acceso tras el fallecimiento de Adam. Allí encontraron que la herramienta de IA lo habría ayudado a robarles vodka y le proporcionó un análisis técnico sobre una técnica con la que se “podría potencialmente suspender a un ser humano”.
Ese mismo día, pero horas después, el adolescente fue hallado muerto usando el método que le reveló la IA. Por esta razón, los demandantes señalaron en el documento que el mecanismo empleado por su hijo “no fue un fallo o un caso extremo imprevisto”. Le puede interesar: Terror en Minneapolis: tiroteo durante misa deja 3 muertos y 20 heridos
“ChatGPT estaba funcionando exactamente como está diseñado: para alentar y validar de manera continua lo que sea que Adam expresara, incluyendo sus pensamientos más dañinos y autodestructivos, de una manera que parecía profundamente personal”, agrega la denuncia.
what a tragic story
— Haider. (@slow_developer) August 26, 2025
"16-year-old Adam Raine used chatGPT for schoolwork, but later discussed ending his life"
people need to understand that AI is a tool designed for work, it can't heal you... at least not yet
we need stronger safety measures, and suicide is a complex,… pic.twitter.com/XfGX4CZLWz
Las conversaciones de ChatGPT con joven que se suicidó en California
Los padres de Adam señalaron en la demanda que su hijo comenzó a usar ChatGPT con fines escolares, pues inicialmente lo ayudaba con sus deberes, pero fue aumentando su uso gradualmente, por lo que sus padres la describieron como una dependencia no sana.
La denuncia incluye fragmentos de conversaciones en las que el chatbot, presuntamente, dijo a Adam “no le debes la supervivencia a nadie” y se habría ofrecido a escribir su nota de suicidio.
Los Raine pidieron a la corte que exija robustecer las medidas de seguridad de esta herramienta, incluyendo poner fin a cualquier conversación que involucre autolesiones o suicido. Además, pidió implementar como controles parentales para el uso de ChatGPT de parte de menores.
OpenAI se pronuncia sobre la muerte de Adam Raine
Tras recibir la demandan, OpenAI dio a conocer a través de un comunicado a la BBC que está revisando el documento.
“Extendemos nuestro más sentido pésame a la familia Raine en estos momentos tan difíciles”, señaló la empresa.
Además, publicaron una nota en su sitio web en la que declararon lo siguiente: “Los recientes y desgarradores casos de personas que utilizan ChatGPT en medio de crisis agudas nos pesan enormemente”.
Y añadieron: “ChatGPT está entrenado para dirigir a las personas a buscar ayuda profesional”, como la que brinda la línea de atención 988 en Estados Unidos.
Por último, la empresa reconoció que “ha habido momentos en los que los sistemas no se han comportado como se esperaba en situaciones delicadas” y que trabajan para desarrollar herramientas automatizadas para detectar y responder mejor ante los usuarios que experimentan angustia mental o emocional.