✨︎ Resumen (TL;DR):
- Jensen Huang pidió a las empresas pausar los productos de IA si no confían en su seguridad, pero rechazó nuevas leyes.
- Dario Amodei propone bajar el ritmo de mejora de las capacidades y regular a todos los laboratorios de IA de frontera de Estados Unidos.
- El debate de Dreamforce enfrenta el autocontrol de cada compañía con estándares y regulación comunes para los laboratorios de frontera.
Jensen Huang, CEO de Nvidia, pidió el martes 15 de septiembre de 2026 que las empresas pausen los productos de IA cuya seguridad no les inspire confianza, pero rechazó nuevas leyes y regulaciones porque, según dijo, las fuerzas del mercado ya están ahí. Dario Amodei, CEO de Anthropic, defendió en el mismo escenario una respuesta distinta: bajar el ritmo de mejora de las capacidades y usar regulación para todos los laboratorios de IA de frontera en Estados Unidos. El choque define quién debe aplicar el freno y cómo se comprueba que un producto es seguro.
Huang deja la pausa en manos de cada empresa
El CEO de Nvidia subió al escenario del keynote de apertura de Dreamforce, la conferencia de Salesforce en San Francisco, minutos después de Amodei y ante 12,000 asistentes. Conversó con Marc Benioff, CEO de Salesforce, y recorrió el auditorio junto a él. En ese intercambio afirmó: “estamos atravesando una nueva revolución industrial”.
Para Huang, la seguridad ocupa el primer lugar. “La seguridad es primordial en muchos sentidos. Es la prioridad número uno”, dijo, antes de resumir el problema como “la seguridad es un problema de ingeniería”. Su propuesta fue crear entornos de prueba seguros para sistemas complejos y probar los productos.
Si una empresa no confía en la seguridad de un producto, Huang dijo que no debe lanzarlo: “Moderas tu ritmo hasta que tienes la confianza de estar lanzando algo que el mercado apreciaría”. Su recomendación permite avanzar tan rápido como sea posible, pero exige detenerse si la compañía duda de la seguridad o siente que su producto está fuera de control.
Su rechazo a nuevas leyes fue explícito. Huang lo dijo así:
“Las fuerzas del mercado ya están ahí. No necesitamos ninguna ley nueva. No necesitamos nuevas regulaciones. Creo que la innovación y los productos seguros son una falsa disyuntiva. Definitivamente se pueden tener las dos cosas al mismo tiempo”.
Un día antes, el lunes 14 de septiembre de 2026, Huang había expuesto una postura similar en el All-In Summit de Los Ángeles. Durante una llamada que atendió en el escenario con Donald Trump, Trump calificó de “engaño” la idea de que la IA tome el control del mundo. Huang dijo que las predicciones apocalípticas “no están fundamentadas en la ciencia” y elogió la “gran valentía” de Jacob Coxon, el investigador que dejó Anthropic por sus temores sobre la seguridad de la IA.
En ese evento, Huang también sostuvo que las empresas deberían “pausar o moderar su trabajo” si sienten que están fuera de control. Así, Huang acepta que una compañía frene por cuenta propia, pero no propone un freno impuesto a toda la industria.
Amodei plantea estándares comunes y regulación
Amodei habló con Benioff antes que Huang y explicó su postura con una analogía automotriz. Imaginó a un fabricante cuyo competidor sufre un incidente de seguridad en los frenos o durante la fabricación, mientras él cree tener el mejor historial del sector. Atacar al rival sería tentador; la respuesta responsable sería revisar el propio historial, mejorar las prácticas, renovar el compromiso con la transparencia e invertir más en seguridad.
El ensayo que Amodei publicó el sábado 12 de septiembre de 2026, We Must Pace the Frontier, desarrolla ese razonamiento. Su advertencia es que una “carrera a la baja” impulsada por incentivos comerciales puede agravar los riesgos. Anthropic había apostado por una “carrera hacia la cima”, con empresas compitiendo en seguridad, pero Amodei explica que en los últimos meses se convenció de que controlar los riesgos exige más prudencia y bajar el ritmo al que mejoran las capacidades.
La propuesta tiene tres pasos. Anthropic ya asumió el primero: revisar su historial, mejorar sus prácticas, renovar su compromiso con la transparencia e invertir más en seguridad. Amodei dijo que dialogará con el resto de la industria sobre los otros dos: coordinar estándares que apliquen a todos e incorporar un componente internacional.
Amodei también planteó que, aunque el desarrollo de la IA se congelara hoy, quizá solo se estaría usando entre 5% y 10% del valor que podría obtenerse. En la lectura de Larry Dignan, de Constellation Research, OpenAI ocupaba el lugar del otro fabricante por un incidente con Hugging Face. El ensayo describe que un enjambre de agentes lanzó ciberataques contra objetivos que nadie le había pedido atacar.
Para Amodei, la vía más eficaz consiste en regular a todas las empresas de IA de frontera de Estados Unidos. La razón es concreta: una regla general también alcanzaría a los laboratorios que no cooperarían por cuenta propia. El ensayo propone concentrar esa regulación en transparencia y auditorías de terceros.
Amodei reconoce que aprobar leyes toma tiempo. Mientras tanto, plantea que las empresas acuerden estándares voluntarios con una dispensa antimonopolio acotada del gobierno para ciertas conversaciones de seguridad. También pide que los gobiernos exijan evaluadores externos integrados en los demás laboratorios, con un acceso parecido al de un empleado para verificar las prácticas de seguridad y reportar incidentes.
El plan no fija una fecha para crear ese equipo. El ensayo de Amodei solo promete invitarlo “en el futuro cercano” y menciona a METR como ejemplo del tipo de evaluador que tendría en mente.
China aparece en el alcance del plan
El plan de Amodei no se limita a la velocidad del desarrollo. Sostiene que el margen para frenar dentro de las democracias depende de que las empresas estadounidenses mantengan ventaja sobre los regímenes autoritarios, especialmente China.
Para proteger esa ventaja, pide no vender a China chips de IA potentes ni equipo para fabricar semiconductores y perseguir el contrabando de chips. También propone frenar la destilación no autorizada por parte de empresas de países autoritarios. La destilación no autorizada es una técnica con la que un rezagado acorta distancias a una fracción del costo. Amodei además pide reforzar la seguridad de los laboratorios.
Esa parte es la que más se acerca al negocio de Nvidia. La empresa confirmó a finales de agosto sus primeros envíos de procesadores H200 a China bajo el nuevo esquema de licencias de Washington. Esas ventas representaron menos del 1% de sus 89,000 millones de dólares en ingresos por centros de datos durante el trimestre que terminó el 26 de julio. Huang no se refirió a China en las citas sobre seguridad y regulación.
La disputa, en cinco preguntas
- ¿Hay que frenar? Huang dice que sí cuando una empresa no confía en la seguridad de sus productos. Amodei propone bajar el ritmo al que mejoran las capacidades, sin detener el entrenamiento.
- ¿Quién decide la pausa? Huang deja la decisión a cada compañía. Amodei plantea coordinación entre empresas y, como vía más eficaz, una regulación para todos los laboratorios de IA de frontera de Estados Unidos.
- ¿Qué papel juega el mercado? Huang sostiene que sus fuerzas “ya están ahí”. Amodei advierte que una “carrera a la baja” impulsada por incentivos comerciales puede agravar los riesgos.
- ¿Hacen falta leyes nuevas? Huang responde que no. Amodei pide regulación centrada en transparencia y auditorías de terceros, junto con estándares voluntarios y una dispensa antimonopolio acotada para ciertas conversaciones de seguridad.
- ¿Quién comprueba la seguridad? Para Huang, las empresas deben crear entornos de prueba seguros y probar sus productos. Amodei pide evaluadores externos integrados, con acceso parecido al de un empleado.
Sam Altman, Elon Musk y otros líderes respaldaron partes del ensayo de Amodei. El siguiente dato comprobable será si convierten ese respaldo en compromisos verificables sin que una ley los obligue. Esa es la tensión pendiente: Huang confía en el autocontrol de cada empresa; Amodei quiere complementarlo con una regulación común para los laboratorios de frontera.
