✨︎ Resumen (TL;DR):
- OpenAI creó un programa para que especialistas externos evalúen de forma independiente los riesgos de sus modelos.
- La compañía ofrecerá apoyos directos de $100,000 dólares y hasta $1 millón en créditos para desarrolladores.
- El anuncio surge tras severas críticas de extrabajadores y autoridades por priorizar el negocio sobre la seguridad.
OpenAI anunció el lanzamiento de su Safety Fellowship, un programa diseñado para que ingenieros e investigadores externos realicen pruebas independientes sobre la seguridad y la alineación moral de los sistemas de inteligencia artificial.
El proyecto se ejecutará desde septiembre de 2026 hasta febrero de 2027. Los participantes recibirán un pago mensual, poder de cómputo y acceso a las oficinas del centro de investigación Constellation en Berkeley, California, aunque el esquema también permite la modalidad de trabajo remoto.
La empresa busca candidatos con perfiles en ciencias computacionales, ciberseguridad, privacidad y ciencias sociales. Al finalizar el periodo, los seleccionados deberán entregar reportes, métricas o bases de datos orientados a prevenir el uso indebido de los algoritmos de alto riesgo.
Esta medida llega en un punto crítico para la compañía. A principios de año, el gobierno de Canadá exigió a OpenAI fortalecer sus protocolos después de que la empresa omitiera alertar a las autoridades sobre una cuenta vinculada al sospechoso de un tiroteo escolar.
A la par, exinvestigadores de la firma acusaron a la empresa de publicar únicamente los resultados de seguridad que le favorecían, en medio de una tendencia de la industria por relajar los controles de supervisión para acelerar lanzamientos comerciales.
Políticas públicas y semana de 4 días
Como parte de su estrategia, OpenAI publicó un documento de 13 páginas titulado “Industrial Policy for the Intelligence Age: Ideas to Keep People First”. El texto propone que los gobiernos administren la disrupción económica de la IA a través de un fondo público de riqueza, impuestos al trabajo automatizado y una semana laboral de cuatro días subsidiada.
“Estamos entrando en una nueva fase de organización económica y social que reformará fundamentalmente el trabajo, el conocimiento y la producción”, escribió OpenAI en el documento, aclarando que esto es solo un punto de partida para el debate.
Para promover estas propuestas, la compañía habilitará subvenciones de hasta $100,000 dólares y $1 millón de dólares en créditos de API para proyectos que las expandan, y realizará un taller en Washington, D.C., el próximo mayo para discutir con legisladores.
El sector tecnológico reaccionó con escepticismo. Analistas citados por la revista Fortune calificaron las propuestas como un caso de “nihilismo regulatorio”, argumentando que la empresa busca moldear leyes a su favor bajo el disfraz de interés público. Por su parte, The Wall Street Journal señaló que el plan choca con los próximos debates del Congreso sobre legislaciones de IA, mientras medios como Gizmodo tacharon el documento de vago y repetitivo.
