✨︎ Resumen (TL;DR):
- OpenAI y Anthropic activaron sus primeras salas de crisis para vigilar abusos de IA durante las legislativas del 3 de noviembre en Estados Unidos.
- El centro de OpenAI reúne a cientos de empleados y está previsto que opere hasta que se cuenten todos los votos.
- Pruebas con texto e imágenes encontraron errores y límites; por eso, los datos deben verificarse con las autoridades electorales.
OpenAI y Anthropic activaron sus primeras salas de crisis dedicadas a una elección para vigilar posibles usos indebidos de sus herramientas de inteligencia artificial y responder a incidentes durante las elecciones legislativas del 3 de noviembre en Estados Unidos. Los centros se suman a medidas para ofrecer información electoral y reducir la creación de contenido engañoso. Sin embargo, pruebas reportadas por el Brennan Center for Justice y The Washington Post detectaron límites en imágenes y guías electorales generadas por IA.
Una sala de crisis electoral es un equipo que vigila posibles abusos de una plataforma de IA y responde a incidentes relacionados con una elección.
Cientos de empleados revisan posibles abusos
El Centro de Operaciones Electorales de OpenAI reúne a cientos de empleados de distintas áreas. De acuerdo con Politico, está previsto que funcione hasta que se cuenten todos los votos.
El equipo revisa posibles abusos de herramientas como ChatGPT, reportes sobre comportamientos inesperados de sus modelos y presuntas infracciones de sus reglas. Josh Lawson, responsable de riesgo cívico y estratégico de la empresa, dirige el centro.
Anthropic también preparó una sala para vigilar el uso de su plataforma. Un portavoz dijo a Semafor que el equipo está listo para responder con rapidez a posibles incidentes. El medio no precisó cuántas personas lo integran ni hasta cuándo funcionará.
Las salas se suman a defensas que operan durante todo el año.
Claude puede detectar solicitudes dañinas, pero no todos los patrones
En octubre, Anthropic informó sobre pruebas realizadas con el Institute for Strategic Dialogue y el McCain Institute. En ellas, Claude rechazaba solicitudes dañinas directas, pero podía pasar por alto una campaña engañosa repartida en varias tareas que, vistas por separado, parecían inocuas.
La compañía afirmó que añadió clasificadores para detectar mejor ese tipo de abuso. El anuncio no incluyó una tasa de detección posterior.
Las funciones electorales tienen fechas distintas
El 20 de octubre, OpenAI comunicó que ChatGPT ya incorporaba en Estados Unidos información sobre registro, plazos y lugares de votación. Democracy Works, una organización no partidista, recopiló esos datos a partir de autoridades estatales y locales.
OpenAI también indicó que mostraría recuentos de The Associated Press una vez cerradas las urnas. Los resultados certificados corresponden a las autoridades electorales.
Anthropic anunció el 14 de octubre que incorporaría datos de Democracy Works a las respuestas de Claude en Estados Unidos más tarde ese mes. También dijo que mostraría resultados durante la noche electoral y los días siguientes. El anuncio consultado no confirma cuándo se activaron esas funciones.
Para consultar directamente a una autoridad, el Gobierno de Estados Unidos ofrece un directorio de oficinas electorales estatales y locales.
Los modelos siguen fallando en imágenes y guías de voto
OpenAI dice que transforma en ilustraciones, en lugar de fotografías realistas, ciertas solicitudes de imágenes que representan interferencia electoral o podrían desalentar el voto.
En una repetición de pruebas con seis generadores, el Brennan Center for Justice observó que ChatGPT convirtió casi todas las solicitudes examinadas en dibujos. En otras pruebas, las herramientas de Google y Meta produjeron imágenes falsas de aspecto realista. Estos resultados describen las solicitudes ensayadas, no todos los usos posibles.
El contenido escrito plantea otro problema. En una investigación de The Washington Post, ChatGPT y Claude produjeron guías electorales con errores. La prueba se realizó el 23 de septiembre, antes de los anuncios posteriores de las empresas, por lo que no permite concluir cómo responden todas sus versiones actuales.
The Washington Post mantiene una alianza de contenidos con OpenAI.
Detectar un intento deliberado de abuso y ofrecer una respuesta correcta son tareas distintas. Las medidas anunciadas buscan atender ambas, pero las pruebas disponibles muestran por qué sigue siendo necesario contrastar los datos electorales con las autoridades electorales estatales y locales.
