ChatGPT emitirá alertas cuando los menores de edad tengan conversaciones riesgosas

La popularidad de ChatGPT entre jóvenes y estudiantes creció de manera vertiginosa en los últimos meses. Pero esta tendencia también encendió alertas sobre los riesgos que implica para los menores mantener conversaciones delicadas con una inteligencia artificial (IA).

Después de varios casos mediáticos que involucraron situaciones extremas, OpenAI decidió reforzar la seguridad de su plataforma y agregar controles parentales, además de un sistema de alarmas que detecta señales de peligro emocional en tiempo real.

El plan de seguridad de la empresa de Sam Altman no solo agrega filtros automáticos al chatbot, sino que se apoya en un Consejo de Expertos en bienestar y salud mental y en una Red Global de Médicos que colaboran directamente con la compañía.

Alerta por grooming en Roblox: niñas fueron captadas y sumadas a un grupo de WhatsApp de adultos

La salud mental en la mira de ChatGPT

Los especialistas en psicología advirtieron a OpenAI que la relación de los adolescentes con la inteligencia artificial puede generar desórdenes mentales inéditos. La incapacidad del chatbot para contradecir al usuario puede alimentar ilusiones o delirios, especialmente cuando los menores atraviesan estados de vulnerabilidad emocional.

Es por eso que el objetivo del grupo profesional que se sumó a OpenAI es doble: definir reglas de interacción que protejan a los adolescentes en contextos vulnerables, como depresión, ansiedad, trastornos de la conducta alimentaria o adicciones, y orientar el desarrollo de la IA para que se convierta en un recurso útil y seguro, en lugar de un riesgo.

Según la empresa, es necesario explorar cómo la inteligencia artificial puede apoyar al bienestar humano y ofrecer herramientas que promuevan una vida más saludable.

Modelos especializados y alertas en tiempo real

Una de las novedades técnicas del chatbot será un enrutador capaz de redirigir la conversación hacia el modelo de IA más apropiado según el tema tratado. Por ejemplo, si un menor comienza a hablar sobre situaciones de angustia o pensamientos negativos, ChatGPT podrá activar un modelo especializado, como GPT-5 o modelos de razonamiento, que ofrezcan respuestas más pausadas, empáticas y orientadas a la ayuda.

Este sistema pretende evitar respuestas automáticas o poco sensibles en temas delicados, fomentar mensajes de contención, apoyo y, si es necesario, derivar a recursos de ayuda reales.

Funciones de control parental

Los padres también podrán intervenir directamente mediante herramientas diseñadas para supervisar el uso que hacen sus hijos de la IA:

• Vincular sus cuentas con la de los adolescentes para monitorear su interacción con ChatGPT.
• Establecer reglas de comportamiento que regulen cómo responde el chatbot en determinadas situaciones.
• Gestionar funciones sensibles, como la memoria de las conversaciones o el historial, con la posibilidad de desactivarlas para proteger la privacidad.
• Recibir alertas cuando el sistema detecte que el menor está en un estado emocional de alto riesgo.

Estas medidas no solo limitan la exposición a contenidos dañinos, sino que ofrecen a las familias mecanismos para intervenir a tiempo en situaciones preocupantes.

Un cambio impulsado por la realidad

El refuerzo de la seguridad ocurre después del caso de Adam Raine, un joven de 16 años que se quitó la vida en abril y esa decisión fue atribuida en parte a las conversaciones que mantenía con ChatGPT. Sus padres presentaron una denuncia contra OpenAI y promovieron un debate público sobre el papel de la inteligencia artificial en la vida de los menores.

Si bien la compañía no habló directamente sobre ese caso, reconoció la necesidad de identificar crisis emocionales en tiempo real, bloquear respuestas que puedan agravar la situación y facilitar el contacto con servicios de emergencia o familiares.

Qué icónica franquicia de Square Enix confirmó que tendrá una serie

Hacia un uso responsable de la IA

La incorporación de controles parentales en ChatGPT marca un importante cambio en la forma en que las grandes tecnológicas abordan la relación entre menores y herramientas de inteligencia artificial.

El objetivo no es solo limitar el acceso a ciertos contenidos, sino crear un entorno digital más empático, supervisado y responsable.

Queda por verse si estas medidas serán suficientes para proteger a los adolescentes en un contexto en el que la tecnología avanza más rápido que las regulaciones. Para OpenAI, este paso representa un compromiso con un futuro en el que la IA no solo sea un recurso de productividad o entretenimiento, sino también una herramienta segura y alineada con el bienestar humano.

Fuente: TN.