La empresa matriz del sistema de Inteligencia Artificial, ChatGPT, OpenAI, informó que desde el mes de octubre se ampliarán ciertas restricciones para los menores de edad. Esta decisión fue tomada a raíz de las denuncias realizadas por padres de familia de Estados Unidos en las cuales culpaban a este chatbot de las autolesiones de sus hijos, los cuales usaban esta IA como un psicólogo al cual le contaban lo que les aqueja día a día.
Uno de los casos más sonados en el último año fue el de Adam Raine, de 16 años, quien se suicidó luego de pedirle “consejos” al chatbot para el acto. Desde entonces, sus padres emprendieron una batalla legal con la empresa fundadora. En un artículo publicado en agosto por The New York Times, se relata y muestra todas las conversaciones compartidas por el menor con ChatGPT.
Al inicio, las conversaciones giraban en torno a temas académicos. Sin embargo, la madre comenta que desde enero de 2025, según un chat, empiezan los diálogos en torno a la muerte y el suicidio de su hijo. En el artículo narran que inicialmente Adam intentó quitarse la vida con una sobredosis de medicamento para el colon irritable, lo cual no resultó. Las conversaciones entre el joven y el chatbot transcurrían en encontrar un método para llegar a su fin, donde narraba día a día lo que quería hacer y solicitaba consejo a la IA para hacerlo.
Por esto, la familia de Raine empezó una batalla asegurando que ChatGPT “mató a su hijo”. A raíz de esa situación, la empresa OpenAI anunció que desde octubre se aplicarán normas restrictivas para la protección de los menores de edad en torno al uso del chatbot. Lee también: Joven se quitó la vida y sus padres demandaron a ChatGPT: esto se sabe.
¿Cómo funcionarán los controles parentales en ChatGPT desde octubre de 2025?
Desde el mes de octubre, OpenAI anunció que los controles incluirán la opción de que los padres vinculen su cuenta con la de sus hijos, gestionen cómo responde ChatGPT a los usuarios adolescentes, desactiven funciones como la memoria y el historial de chats, y reciban notificaciones cuando el sistema detecte “un momento de angustia aguda” durante su uso.
OpenAI ya había dicho que trabajaba en controles parentales, pero la semana pasada precisó el plazo de lanzamiento. “Estos pasos son solo el comienzo”, escribió OpenAI en una publicación de blog. “Seguiremos aprendiendo y reforzando nuestro enfoque, guiados por expertos, con el objetivo de que ChatGPT sea lo más útil posible”.
Esto les permitirá a los padres controlar cómo responde ChatGPT y que su comportamiento sea apropiado para la edad del menor. También podrán administrar ciertas funciones, por ejemplo, desactivar o activar la memoria o el historial.
¿Son suficientes los controles parentales en ChatGPT?
En declaraciones a BBC News, Jay Edelson, abogado defensor de la familia que está demandando a ChatGPT, manifestó que: “en lugar de tomar medidas de emergencia para retirar del mercado un producto conocido como peligroso, OpenAI hizo vagas promesas de hacerlo mejor“.
La demanda fue presentada por Matt y Maria Raine, padres de Adam Raine, el joven que se suicidó tras hablar con el chatbot. Su familia acusa “muerte por negligencia”.
Matt y Maria sostienen que el menor mantenía largas horas de conversación con el chatbot, en medio de profundas crisis personales. De hecho, ChatGPT se convirtió en una especie de ‘confidente’ para Adam. Lee también: OpenAI anuncia fuertes ajustes en ChatGPT tras polémica muerte.