✨︎ Resumen (TL;DR):
- Project Lily usa conversaciones reales para comparar respuestas de ChatGPT y calificarlas.
- En las cuentas Free, Plus y Pro, el uso de chats para mejorar los modelos está activado por defecto.
- Desactivar la opción solo cubre conversaciones nuevas; Temporary Chat puede conservarse hasta 30 días por seguridad.
Contratistas externos de OpenAI revisan conversaciones reales de ChatGPT para calificar sus respuestas y ayudar a mejorar los modelos, según documentos internos, guías de trabajo y prompts examinados por 404 Media. OpenAI confirmó que personal autorizado y proveedores de confianza pueden acceder al contenido de cuentas individuales cuando el usuario no desactiva esa opción, activada por defecto en las cuentas Free, Plus y Pro.
Project Lily evalúa respuestas de chats reales
Los materiales consultados por 404 Media usan el nombre en clave Project Lily para este flujo. El proceso no se limita a mensajes marcados por seguridad. El contratista recibe un prompt real y, en algunos casos, una conversación completa. Después resume la intención del usuario y compara varias respuestas generadas por ChatGPT.
El evaluador señala qué partes están alineadas o no con los objetivos del modelo, asigna una calificación de 1 a 7 y explica su decisión. Las guías buscan respuestas menos antropomórficas, menos complacientes y más naturales. También piden detectar la adulación excesiva, los emojis innecesarios, el tono paternalista y los cierres diseñados para prolongar la conversación.
El material no identifica qué modelo concreto se está entrenando ni aclara si se trata de uno disponible actualmente o de un sistema futuro. Tampoco demuestra que cada conversación sea leída por una persona. Lo que sí documenta es un flujo de evaluación humana sobre conversaciones de usuarios, vinculado a la configuración de datos de cada cuenta.
Quitar el nombre no borra el contexto personal
El panel de los revisores no muestra el nombre de usuario, pero 404 Media encontró casos en los que el prompt aparece junto a un resumen de las memorias del usuario. Ese resumen puede incluir usos anteriores del chatbot, una ubicación aproximada u otro contexto personal.
Quitar el identificador de la cuenta no equivale a eliminar todos los datos que podrían revelar quién está detrás de una conversación.
OpenAI dijo a 404 Media que procesa las conversaciones con una versión de Privacy Filter antes de enviarlas a los contratistas. Privacy Filter es un sistema que detecta y oculta información personal. La empresa reconoce que puede omitir identificadores poco comunes o referencias privadas ambiguas, y que puede ocultar de más o de menos cuando el contexto es limitado.
La documentación de OpenAI advierte que el filtro no es una certificación de anonimización ni sustituye la revisión humana en ámbitos de alta sensibilidad, como el legal, médico o financiero. Su función es reducir la exposición directa, no volver inaccesible una conversación de consumo para cualquier persona.
Cómo desactivar el uso de chats para mejorar modelos
El Centro de ayuda de OpenAI explica que la compañía puede usar prompts, respuestas, imágenes y archivos de sus servicios para particulares con el fin de mejorar el rendimiento de sus modelos, según la configuración de la cuenta. Para desactivar esa opción, el usuario debe abrir Settings, entrar en Data Controls y apagar Improve the model for everyone.
El cambio se aplica a las conversaciones nuevas. No funciona como una orden retroactiva para borrar datos que ya fueron desidentificados y separados de la cuenta. Eliminar el historial tampoco garantiza la eliminación de material que ya pasó por ese proceso o que deba conservarse por razones legales o de seguridad.
Hay dos matices adicionales en la configuración:
- Temporary Chat no aparece en el historial, no crea memorias y no se usa para mejorar los modelos mientras permanezca como temporal. OpenAI puede conservar una copia durante un máximo de 30 días por motivos de seguridad. Si el usuario la guarda, se convierte en un chat normal y vuelve a seguir las preferencias de la cuenta.
- Aunque el entrenamiento esté desactivado, enviar una valoración positiva o negativa puede permitir que la conversación asociada a ese comentario se use para mejorar los modelos.
Las cuentas empresariales tienen otra configuración
Para las ofertas empresariales, OpenAI afirma que no entrena por defecto con las entradas y salidas de ChatGPT Business, ChatGPT Enterprise o la API, salvo que la organización decida compartir esos datos. Esa separación no cambia la configuración de una cuenta personal de ChatGPT.
El flujo de revisión humana puede ayudar a detectar errores y ajustar conductas difíciles de medir automáticamente. También deja una tensión concreta: una conversación que parece individual puede llegar a un proceso de evaluación humana según la configuración de la cuenta.
Para quien usa una cuenta personal, la consecuencia es directa. Desactivar Improve the model for everyone limita el uso de las conversaciones nuevas, pero no borra lo que ya fue desidentificado y separado de la cuenta. La regla más segura es no introducir en un chat de consumo información que no aceptaría que revisara el personal autorizado.
