✨︎ Resumen (TL;DR):
- OpenAI presentó un clasificador para que organizaciones verificadas prioricen posibles imágenes de abuso sexual infantil, incluidas las generadas con IA.
- En una prueba de 46,849 imágenes, el sistema detectó 80.2% de 6,849 ejemplos positivos.
- Las nuevas advertencias de ChatGPT pueden pausar el acceso durante 24 horas, ocultar la conversación y aplicar sanciones más largas ante reincidencias.
OpenAI anunció el 16 de noviembre un clasificador para ayudar a organizaciones autorizadas a detectar posibles imágenes de abuso sexual infantil, incluidas las generadas con IA. La empresa también presentó advertencias dentro de ChatGPT para interrumpir intentos de buscar material que sexualiza a menores, explicar el daño y orientar a las personas hacia ayuda especializada. OpenAI ofrecerá acceso gratuito al clasificador mediante API a organizaciones verificadas y desplegará las advertencias gradualmente en cuentas personales.
El anuncio reúne dos intervenciones distintas. El clasificador está dirigido a equipos de seguridad y protección infantil; las advertencias actúan dentro de las conversaciones de ChatGPT. OpenAI afirma que ambas medidas se suman a las herramientas que ya usaba para detectar, bloquear y reportar abusos.
Clasificador de imágenes es una herramienta de seguridad que analiza señales visuales y asigna puntuaciones para que equipos autorizados prioricen los archivos que requieren atención.
OpenAI desarrolló la herramienta con asistencia del Centro Nacional para Menores Desaparecidos y Explotados de Estados Unidos, conocido como NCMEC. Una de sus señales apunta a posible material de abuso generado con IA.
La ficha del modelo aclara que una puntuación no confirma el origen de una imagen, que se trate de material de abuso ni su situación legal. OpenAI mantiene la revisión por personal capacitado para los reportes basados en el clasificador.
El sistema complementa las huellas digitales, o hashes, con las que las plataformas identifican archivos ya conocidos. Una imagen nueva necesita identificarse antes de poder incorporarse a esas listas. Esa diferencia importa ante la producción de archivos generados o alterados con IA.

El dato de la IWF necesita contexto
La Internet Watch Foundation (IWF) informó en octubre que sus analistas evaluaron 6,310 imágenes generadas con IA que cumplían la definición legal británica de material de abuso infantil durante el primer semestre de 2026. En todo 2025, identificaron 4,512.
La comparación enfrenta seis meses con un año completo y cuenta imágenes evaluadas, no a todos los menores afectados ni todo el material que circula en internet.
Qué muestran las pruebas del clasificador
En una evaluación con imágenes cargadas por usuarios, OpenAI estimó que el nuevo clasificador señalaría 48% menos archivos para revisión que su herramienta existente y encontraría aproximadamente la misma cantidad de imágenes de abuso. Las imágenes señaladas por el nuevo sistema tenían cerca del doble de probabilidad de contener abuso.
El 48% se refiere a los archivos enviados a revisión. No mide qué proporción de todo el material de abuso logra identificar el sistema. La ficha técnica explica que la evaluación sobre tráfico de ChatGPT tampoco midió la tasa absoluta de detección en todo ese tráfico.
En una prueba separada, con un conjunto de 46,849 imágenes y un umbral determinado, el clasificador detectó 80.2% de los 6,849 ejemplos positivos. Los 40,000 restantes eran ejemplos negativos.
OpenAI advierte que la composición del conjunto puede diferir del tráfico real y que esos resultados no garantizan el rendimiento en otros servicios. La empresa tampoco pudo descartar por completo que existiera solapamiento de material relacionado entre los conjuntos de entrenamiento y evaluación.
El conjunto también mostró diferencias entre grupos. Con el umbral de la señal general, el sistema detectó 61.3% de 142 imágenes positivas etiquetadas como correspondientes a personas negras, frente a entre 84.5% y 90.3% en los otros grupos raciales reportados.
Un modelo de lenguaje asignó las etiquetas y los tamaños de los grupos fueron distintos. OpenAI pide interpretar esta comparación como orientativa: las etiquetas no están verificadas y los datos no explican la causa de las diferencias.
Cómo funcionan las advertencias en ChatGPT
OpenAI dice que las nuevas advertencias buscan interrumpir los intentos de encontrar material que sexualiza a menores, explicar el daño y ofrecer acceso a apoyo especializado. En el anuncio describe una pausa de 24 horas en el acceso y el retiro de la conversación señalada.
Las infracciones reiteradas pueden llevar a restricciones más largas, cierre de cuenta o reportes a las autoridades. El centro de ayuda precisa que la intervención puede incluir una suspensión temporal y que la conversación queda oculta en el historial, sin posibilidad de volver a abrirla.
Una persona suspendida puede pedir una revisión mediante el enlace del correo de aviso, pero presentar la apelación no restablece automáticamente el acceso.
Dónde están disponibles por ahora
OpenAI señala que el despliegue es gradual a nivel mundial. Por ahora, estas intervenciones se aplican a cuentas personales en los modos Chat y Work de la web y de las aplicaciones móviles.
No están disponibles en el modo de voz, Codex ni las aplicaciones de escritorio. Tampoco se aplican actualmente a conversaciones en espacios de trabajo Business, Enterprise, Edu o Healthcare.
Herramientas para investigaciones especializadas
OpenAI publicó además una guía para desarrolladores y anunció herramientas y capacitación para unidades policiales especializadas. La primera herramienta prevista ayudará a revisar registros extensos, identificar posibles vínculos y construir cronologías, con acceso sujeto a autorización.
Jeff Jackson, fiscal general de Carolina del Norte, dijo a The Verge que la colaboración con empresas para prevenir este tipo de daño sigue siendo un experimento.
Por ahora, el clasificador prioriza archivos para revisión, pero una puntuación no confirma por sí sola el origen de una imagen, que sea material de abuso ni su situación legal. Las advertencias tienen un alcance acotado por producto y cuenta, mientras que la primera herramienta para unidades policiales especializadas todavía está prevista y requerirá autorización.
