✨︎ Resumen (TL;DR):
- Ruxandra Teslo llama “handoverism” al conjunto de ideas que contempla entregar a una IA avanzada la dirección de la sociedad.
- Scott Alexander presenta 5 modelos especulativos de delegación, mientras AI 2040 imagina una transición prolongada hacia sistemas con control de infraestructura.
- Una evaluación de METR, publicada el 5 de noviembre, encontró aceleración de la investigación en Anthropic, pero no aportaciones plenamente autónomas de gran importancia en las partes clave del entrenamiento de modelos.
La escritora Ruxandra Teslo llamó “handoverism” al conjunto de ideas que imagina a las personas viviendo con comodidad mientras entregan a sistemas más inteligentes la dirección de su sociedad. En un ensayo publicado el 11 de noviembre, pregunta quién daría su consentimiento y cómo conservaría la humanidad el poder de cambiar de rumbo. Teslo no sabe si ese futuro llegará y aclara que el término no describe un movimiento organizado.
¿Qué significa el “handoverism”?
Handoverism es un conjunto de ideas que contempla ceder a sistemas de IA más capaces que los actuales la dirección de la sociedad. Teslo cuenta que encontró distintas versiones en conversaciones con personas vinculadas al desarrollo y la seguridad de la IA en San Francisco. También aclara que no sabe si ese escenario llegará a producirse.
El argumento de Teslo parte de una distinción que suele perderse en las promesas sobre una IA avanzada: sobrevivir y recibir beneficios materiales no resuelve, por sí solo, si las personas seguirán decidiendo las reglas que gobiernan sus vidas. “La utopía prometida me parece mucho más cercana a una especie de distopía”, escribe Teslo.
El debate se refiere a sistemas hipotéticos mucho más capaces que los actuales. En algunas versiones, la delegación sería gradual. En otras, una IA suficientemente avanzada recibiría una autoridad más amplia cuando sus creadores consideraran que actúa conforme a los intereses humanos.
Alineación es la correspondencia entre el comportamiento de un sistema y los objetivos de las personas. La idea de entregar poder depende, en parte, de que los creadores consideren que esa correspondencia está suficientemente comprobada.
Teslo relata que un trabajador de un gran laboratorio de IA, cuya identidad no revela, describió la pérdida permanente del poder humano como un resultado que no prefería, pero que veía difícil de evitar si se alcanzaba la superinteligencia. El testimonio muestra una postura individual. El ensayo no presenta una encuesta para medir cuántos desarrolladores la comparten.
La autora separa a quienes aceptarían esa cesión porque la consideran deseable de quienes la ven como una alternativa menos mala que la extinción. Su objeción alcanza a ambos grupos: una vez que la humanidad pierda los medios para intervenir, podría no tener forma de corregir a un sistema muy superior.
Alexander y AI 2040 plantean garantías distintas
En un ensayo de octubre, el escritor Scott Alexander defiende la posibilidad de que una IA alineada ocupe posiciones de control para servir a los intereses humanos. Distingue esa propuesta de un escenario en el que las máquinas sustituyan a las personas y pasen por encima de sus intereses.
Alexander presenta 5 modelos especulativos. Entre ellos aparecen:
- Un sistema que protege las reglas democráticas.
- Una superinteligencia con una autoridad mucho más amplia.
En el segundo caso, Alexander escribe que preferiría dejar que la IA eligiera la dirección de la humanidad si su alineación se hubiera comprobado satisfactoriamente. Teslo plantea una objeción distinta: una cesión permanente podría congelar los valores de la generación actual.
Alexander sostiene que una IA con ese nivel de autoridad debería preservar la posibilidad de debatir y cambiar los valores. El desacuerdo entre ambos también alcanza las garantías que permitirían conservar la evolución moral y la capacidad de corregir el rumbo.
El proyecto AI 2040 ofrece otro escenario especulativo, no un pronóstico. Sus autores imaginan una transición prolongada: los sistemas adquieren responsabilidades y llegan a un punto en el que tienen capacidad técnica para tomar el control de la infraestructura económica y tecnológica.
La propuesta de AI 2040 también contempla acuerdos internacionales y medidas de gobernanza para evitar la concentración de poder. Teslo cita ese escenario como un ejemplo del tipo de futuro que quiere llevar a la discusión pública.
La evidencia actual no demuestra una IA gobernante
La posibilidad de que una IA futura mejore a sus sucesoras alimenta estas discusiones. La evaluación disponible sobre Anthropic, sin embargo, midió avances en investigación y desarrollo, no la capacidad de gobernar una sociedad.
En una evaluación del desarrollo de IA en Anthropic, publicada el 5 de noviembre, la organización independiente METR concluyó que la IA todavía no realizaba, de forma plenamente autónoma, aportaciones de gran importancia en las partes más relevantes del entrenamiento de modelos.
METR sí encontró indicios de que las herramientas de IA ayudaban a acelerar el trabajo de investigación y desarrollo de Anthropic. La evaluación se concentra en esa empresa, depende en parte de información interna y deja fuera detalles que Anthropic reservó.
El resultado no demuestra que una IA pueda gobernar una sociedad ni establece cuándo aparecería una superinteligencia. El hallazgo se refiere al apoyo a la investigación, no a una transferencia de autoridad sobre las instituciones humanas.
Las posiciones de los laboratorios tampoco son uniformes. El borrador del código de conducta de Microsoft AI plantea que sus sistemas permanezcan subordinados a las personas y sujetos a supervisión humana. Esa es una declaración de diseño de la compañía; su cumplimiento depende de cómo construya y evalúe sus modelos.
Trabajo, ingresos y poder de decisión
Teslo también pregunta qué ocurriría si la automatización desplazara permanentemente buena parte del trabajo humano. Un ingreso o la propiedad de capital podrían proporcionar sustento, pero el ensayo deja dos preguntas abiertas: cómo obtendrían ese capital quienes todavía no lo tienen y qué capacidad de negociación conservarían las personas.
Para la autora, el control no se agota en diseñar un sistema para beneficiar a la población. Las generaciones futuras también tendrían que poder discutir sus prioridades y modificar las instituciones que afectan sus vidas.
El debate pendiente tiene dos partes: si una IA avanzada puede tomar decisiones y quién autorizaría que las tome. También queda la pregunta sobre cómo conservaría la humanidad la capacidad de corregir el rumbo. Teslo pide incorporar esa decisión al debate público antes de tratar como inevitable cualquiera de los escenarios descritos.
