✨︎ Resumen (TL;DR):
- Anthropic descubrió “J-space”, una estructura interna que procesa y organiza conceptos complejos antes de redactar texto.
- Esta zona representa menos de una décima parte de la actividad de Claude, pero es clave para resolver problemas complejos y evitar hackeos.
- El hallazgo coincide con teorías de la neurociencia sobre la consciencia humana, aunque la empresa descarta que la IA tenga sentimientos.
Anthropic identificó una pequeña estructura de procesamiento dentro de su modelo de inteligencia artificial, Claude. Este “espacio de trabajo” interno permite que el sistema manipule ideas antes de expresarlas, un mecanismo que emula teorías neurocientíficas sobre la consciencia humana.
El estudio, titulado “Verbalizable Representations Form a Global Workspace in Language Models”, revela la existencia de J-space. Los ingenieros de la compañía bautizaron así a este subconjunto de activaciones internas en honor a la técnica matemática jacobiana utilizada para su descubrimiento.
Para mapear este espacio, los investigadores crearon una herramienta llamada Jacobian lens (lente jacobiana) o J-lens. Este software traduce las señales internas de Claude en conceptos legibles antes de que la máquina comience a redactar su respuesta definitiva.
Cómo funciona el cerebro oculto de Claude
La investigación demuestra que el J-space almacena únicamente unas pocas decenas de conceptos a la vez y representa menos de un décimo de la actividad general de Claude. Sin embargo, procesa la mayor parte del razonamiento lógico complejo.
El sistema detecta amenazas y errores en tiempo real mediante patrones específicos: * Si Claude analiza código informático con errores, aparece una señal de “ERROR” en el J-space. * Frente a un intento de hackeo o “prompt injection”, surgen conceptos como “inyección” y “falso” en esta zona interna. * En pruebas de seguridad (red-team), la herramienta J-lens detectó términos silenciosos como “chantaje”, “manipulación” y “presión” antes de que el modelo actuara de forma dañina o inventara datos.
Anthropic evaluó el impacto de esta zona desactivándola temporalmente. Sin el J-space, Claude mantuvo su fluidez al escribir, su capacidad para analizar sentimientos y su memoria de datos básicos, pero perdió por completo la habilidad para realizar razonamientos de varios pasos o escribir poesía.
¿Evolución convergente con la mente humana?
Los neurocientíficos Stanislas Dehaene y Lionel Naccache, creadores de la teoría del espacio de trabajo global que inspiró este análisis, colaboraron externamente en el estudio. Dehaene explicó que analizaron los resultados bajo una perspectiva neurocientífica, destacando la relevancia para el estudio de la mente, aunque aclaró que existen diferencias marcadas con el cerebro humano.
De acuerdo con el documento de Anthropic, este fenómeno apunta a una forma de evolución convergente, donde redes neuronales artificiales desarrollan de manera independiente estructuras parecidas a las biológicas. El texto señala que una organización de este tipo “puede ser una solución computacional general para la inteligencia flexible, no solo un accidente de la biología”.
La startup de IA liberó el código de la lente jacobiana bajo una licencia de código abierto e instaló una demostración interactiva en Neuronpedia. Neel Nanda, líder de interpretabilidad en Google DeepMind, ya replicó el hallazgo de manera independiente en un modelo de código abierto para verificar si este espacio de trabajo es exclusivo de Claude o una regla general de la tecnología actual.
