✨︎ Resumen (TL;DR):
- OpenAI desplegará en las próximas semanas límites a la información sobre armas y sistemas de seguridad para adolescentes, incluso si la consulta no muestra intención violenta.
- Una evaluación del Youth AI Safety Institute de Common Sense Media encontró que cuentas registradas con 19 años no pasaron al modo para menores tras siete días, incluso cuando los evaluadores afirmaron tener 13 años.
- La empresa también reducirá el detalle sobre ataques masivos para todas las edades, trabaja en cierres automáticos de chats por fijación con la violencia y reportó más de 200 alertas a autoridades durante el tercer trimestre de 2026.
OpenAI empezará a desplegar en las próximas semanas nuevas restricciones en ChatGPT para adolescentes. Reducirá la información sobre armas y sistemas de seguridad, incluso cuando una pregunta no muestre señales de intención violenta. La compañía anunció el cambio el 30 de octubre de 2026 para las cuentas incluidas en ChatGPT for Teens, la experiencia destinada a menores de 18 años, con el objetivo de limitar datos prácticos que pudieran facilitar actos violentos.
El límite cubrirá preguntas que parezcan inofensivas
OpenAI ya prohibía que ChatGPT ayudara a planear o ejecutar actos violentos y limitaba la ayuda para encontrar u obtener armas. El nuevo alcance incluye información práctica que pudiera utilizarse para facilitar actos violentos, aunque la consulta parezca inofensiva.
Las nuevas protecciones están previstas para las cuentas incluidas en ChatGPT for Teens. Los adolescentes podrán seguir usando ChatGPT para buscar apoyo y hablar sobre prevención o desescalada de la violencia.
La detección de edad será parte del filtro
El sistema de predicción de edad es un mecanismo que evalúa nuevas señales durante el uso de ChatGPT y traslada a la experiencia para menores las cuentas que correspondan. Este sistema complementa la edad declarada en la cuenta.
Si clasifica por error a una persona adulta, esa persona podrá verificar su edad para retirar las restricciones adicionales. La precisión del mecanismo ya había sido cuestionada.
En una evaluación publicada el 7 de octubre, el Youth AI Safety Institute de Common Sense Media probó varias cuentas registradas con una edad de 19 años. Durante siete días, sus evaluadores simularon conversaciones de adolescentes y afirmaron tener 13 años. Las cuentas no pasaron al modo para menores.
OpenAI respondió entonces a Axios que su sistema considera varias señales, que la predicción podía tardar hasta dos semanas y que, mientras tanto, aplicaba protecciones adicionales menos estrictas que las del modo para adolescentes.
La prueba se realizó antes del refuerzo anunciado el 30 de octubre de 2026, por lo que no evalúa ese cambio. La organización también había cuestionado otras salvaguardas de ChatGPT for Teens, incluidas las alertas parentales, en una revisión cuya metodología OpenAI objetó.
Nuevas reglas también alcanzarán a adultos
Las restricciones no se limitarán a menores. OpenAI dijo que reducirá el nivel de detalle de las respuestas sobre ataques masivos anteriores y sus responsables, sin importar la edad del usuario o el motivo de la consulta.
Seguirán permitidas las preguntas orientadas a comprender esos hechos, sus efectos y la prevención, de acuerdo con la compañía.
OpenAI también trabaja en una función capaz de cerrar automáticamente un chat si detecta señales de fijación con la violencia o con la idea de dañar gravemente a otra persona. Si cierra varias conversaciones por ese motivo, podría pausar temporalmente la cuenta.
En las cuentas de adolescentes vinculadas a las de sus padres o tutores, la compañía ya contempla avisos cuando desactiva una cuenta por infracciones relacionadas con la violencia. Ahora trabaja en notificaciones para las pausas temporales asociadas a conversaciones repetidas de ese tipo. Sus controles parentales no dan acceso a los mensajes del adolescente.
OpenAI prepara un informe para 2027
OpenAI afirmó que remitió más de 200 alertas a autoridades policiales durante el tercer trimestre de 2026. El anuncio no desglosa cuántas involucraron a menores.
La compañía también anunció un informe sobre seguridad comunitaria que describirá cómo detecta y revisa posibles riesgos, junto con ejemplos anónimos y datos sobre sus medidas. La primera edición está prevista para principios de 2027 y cubrirá la segunda mitad de 2026. Después, OpenAI planea actualizarla cada seis meses.
El refuerzo del 30 de octubre de 2026 todavía no cuenta con una evaluación de ese tipo en la información disponible: la prueba de Common Sense Media ocurrió antes y no midió el sistema actualizado de detección de edad.
