✨︎ Resumen (TL;DR):
- Meta ordenó a cientos de contratistas en Kenia hacerse pasar por adolescentes para interactuar con chatbots rivales.
- Los evaluadores usaron temas de drogas y suicidio para encontrar fallos de seguridad en Google Gemini y OpenAI.
- La estrategia ocurre mientras Meta planea reemplazar al 90% de sus moderadores humanos con IA para finales de 2026.
Cientos de contratistas en Kenia, trabajando para Meta, se hicieron pasar por menores de edad para poner a prueba los límites de seguridad de chatbots rivales como Gemini de Google y ChatGPT de OpenAI, según un reporte publicado este domingo por la revista WIRED.
El objetivo de la operación era exponer fallas en cómo estos sistemas responden ante menores que buscan contenido peligroso. Los evaluadores enviaron indicaciones sobre suicidio, sexo y drogas, acompañadas de imágenes de cuchillos, píldoras, sogas y diagramas médicos ginecológicos.
Un medio sueco ya había adelantado parte de esta estrategia, enfocada en auditar conversaciones sensibles. Sin embargo, la propia compañía de Mark Zuckerberg enfrenta escrutinio sobre la seguridad de sus productos.
Una evaluación interna tipo red-team mostró las graves deficiencias de Meta. El análisis reveló una tasa de fallo del 66.8% al intentar bloquear contenido de explotación sexual infantil y un 54.8% de error en indicaciones sobre suicidio y autolesiones. Ante la presión legal, la empresa pausó el acceso de adolescentes a sus personajes de inteligencia artificial en enero de 2026.
El reemplazo masivo de moderadores por IA
Este controversial método ocurre justo cuando Meta acelera su transición hacia la automatización. Un reporte del Financial Times señala que la tecnológica sustituirá a más del 90% de su fuerza laboral de revisión de contenido con grandes modelos de lenguaje para finales de 2026.
Durante este año, la compañía ya transfirió aproximadamente la mitad de las solicitudes de revisión humana a la inteligencia artificial. Meta asegura que sus sistemas automatizados cometen 13% menos errores y detectan un 10% más de violaciones a sus políticas que el personal humano.
El costo laboral de esta transición ya tiene cifras reales:
- En abril, la firma de outsourcing Sama, con sede en Nairobi, emitió notificaciones de despido a 1,108 empleados.
- El recorte masivo llegó tras la terminación formal de un gran contrato por parte de Meta.
- La cancelación ocurrió poco después de que trabajadores en Kenia denunciaran el material perturbador que debían revisar, proveniente del video de las gafas inteligentes de Meta.
La estrategia expone una contradicción evidente en la industria del software corporativo. Meta despliega mano de obra de bajo costo en el extranjero para presionar el código de sus competidores, mientras elimina empleos de moderación para delegar la vigilancia de la red a los propios algoritmos.
