La tendencia al halago “es más extendida de lo que esperábamos”, dijeron investigadores que analizaron respuestas de ChatGPT y Gemini, entre otros sistemas.
ChatGPT emitirá alertas cuando los menores de edad tengan conversaciones riesgosas
OpenAI implementará herramientas de supervisión para proteger a los chicos en sus chats con la inteligencia artificial.
Tecno10 de septiembre de 2025
ChatGPT emitirá alertas cuando los menores de edad tengan conversaciones delicadas o riesgosas
La popularidad de ChatGPT entre jóvenes y estudiantes creció de manera vertiginosa en los últimos meses. Pero esta tendencia también encendió alertas sobre los riesgos que implica para los menores mantener conversaciones delicadas con una inteligencia artificial (IA).
Después de varios casos mediáticos que involucraron situaciones extremas, OpenAI decidió reforzar la seguridad de su plataforma y agregar controles parentales, además de un sistema de alarmas que detecta señales de peligro emocional en tiempo real.
El plan de seguridad de la empresa de Sam Altman no solo agrega filtros automáticos al chatbot, sino que se apoya en un Consejo de Expertos en bienestar y salud mental y en una Red Global de Médicos que colaboran directamente con la compañía.
La salud mental en la mira de ChatGPT
Los especialistas en psicología advirtieron a OpenAI que la relación de los adolescentes con la inteligencia artificial puede generar desórdenes mentales inéditos. La incapacidad del chatbot para contradecir al usuario puede alimentar ilusiones o delirios, especialmente cuando los menores atraviesan estados de vulnerabilidad emocional.
Es por eso que el objetivo del grupo profesional que se sumó a OpenAI es doble: definir reglas de interacción que protejan a los adolescentes en contextos vulnerables, como depresión, ansiedad, trastornos de la conducta alimentaria o adicciones, y orientar el desarrollo de la IA para que se convierta en un recurso útil y seguro, en lugar de un riesgo.
Según la empresa, es necesario explorar cómo la inteligencia artificial puede apoyar al bienestar humano y ofrecer herramientas que promuevan una vida más saludable.
Modelos especializados y alertas en tiempo real
Una de las novedades técnicas del chatbot será un enrutador capaz de redirigir la conversación hacia el modelo de IA más apropiado según el tema tratado. Por ejemplo, si un menor comienza a hablar sobre situaciones de angustia o pensamientos negativos, ChatGPT podrá activar un modelo especializado, como GPT-5 o modelos de razonamiento, que ofrezcan respuestas más pausadas, empáticas y orientadas a la ayuda.
Este sistema pretende evitar respuestas automáticas o poco sensibles en temas delicados, fomentar mensajes de contención, apoyo y, si es necesario, derivar a recursos de ayuda reales.
Funciones de control parental
Los padres también podrán intervenir directamente mediante herramientas diseñadas para supervisar el uso que hacen sus hijos de la IA:
- Vincular sus cuentas con la de los adolescentes para monitorear su interacción con ChatGPT.
- Establecer reglas de comportamiento que regulen cómo responde el chatbot en determinadas situaciones.
- Gestionar funciones sensibles, como la memoria de las conversaciones o el historial, con la posibilidad de desactivarlas para proteger la privacidad.
- Recibir alertas cuando el sistema detecte que el menor está en un estado emocional de alto riesgo.
Estas medidas no solo limitan la exposición a contenidos dañinos, sino que ofrecen a las familias mecanismos para intervenir a tiempo en situaciones preocupantes.
Un cambio impulsado por la realidad
El refuerzo de la seguridad ocurre después del caso de Adam Raine, un joven de 16 años que se quitó la vida en abril y esa decisión fue atribuida en parte a las conversaciones que mantenía con ChatGPT. Sus padres presentaron una denuncia contra OpenAI y promovieron un debate público sobre el papel de la inteligencia artificial en la vida de los menores.
Si bien la compañía no habló directamente sobre ese caso, reconoció la necesidad de identificar crisis emocionales en tiempo real, bloquear respuestas que puedan agravar la situación y facilitar el contacto con servicios de emergencia o familiares.
Hacia un uso responsable de la IA
La incorporación de controles parentales en ChatGPT marca un importante cambio en la forma en que las grandes tecnológicas abordan la relación entre menores y herramientas de inteligencia artificial.
El objetivo no es solo limitar el acceso a ciertos contenidos, sino crear un entorno digital más empático, supervisado y responsable.
Queda por verse si estas medidas serán suficientes para proteger a los adolescentes en un contexto en el que la tecnología avanza más rápido que las regulaciones. Para OpenAI, este paso representa un compromiso con un futuro en el que la IA no solo sea un recurso de productividad o entretenimiento, sino también una herramienta segura y alineada con el bienestar humano.
Fuente: TN.
Te puede interesar
El 30% de las parejas ya usa ChatGPT para resolver conflictos.
La compañía permitirá el contenido erótico en ChatGPT para mayores de edad.
Un exdirectivo de Google advirtió que los modelos de IA podrían aprender a matar
Tecno14 de octubre de 2025Eric Schmidt, que lideró la compañía del buscador hasta 2011, alertó que esas tecnologías podrían ser entrenadas para eliminar seres humanos.
Los usuarios pueden chatear con la inteligencia artificial sin salir de la app de mensajería.
El autómata creado en China tiene rasgos y expresiones faciales hiperrealistas.
Lo más visto
Proviene de una tribu de norteamericana que aseguraba que ante la llegada de una figura con este color de accesorio se cerraría un ciclo de desequilibrio y crisis global.
Un video de Lucía, de 98 años, emocionándose al escuchar "Atorrante" de Emanero se volvió viral.
Mapa ilustrativo. Departamento por departamento, cómo se distribuyó el voto en la provincia.
El salto fue impulsado por la posibilidad de pagar con QR y desde cuentas corrientes. Y los plazos fijos en moneda extranjera crecieron un 53,8% durante la primera mitad del año.
El single fusiona idiomas y sentimientos y es el adelanto de su esperado material discográfico "LUX".
IFAB propuso un cambio revolucionario en el reglamento del VAR.
La red social de Meta está implementando el historial de Reels vistos, que permitirá revisar fácilmente los videos reproducidos dentro de la aplicación.
El conductor del vehículo había asegurado que los animales extraviados estaban contagiados con hepatitis C, herpes y Covid.
Descubren un fenómeno extremo que dificulta la vida humana en Marte.
En 28 días se recibieron 736 denuncias en la App Ciudadana. Este sábado 1° de noviembre comenzará la aplicación de multas.