✨︎ Resumen (TL;DR):
- MAPLE ofrece en Lowell, Vermont, un programa residencial para personas con experiencia en investigación o desarrollo de IA.
- La estancia dura al menos un mes e incluye trabajo, meditación, talleres y retiros mensuales en silencio.
- La academia negó que buscara crear un sistema para guiar a otras IA, una versión atribuida a antiguos integrantes.
La Monastic Academy for the Preservation of Life on Earth (MAPLE), un monasterio budista de Vermont, ofrece formación para influir en el desarrollo de la IA porque sostiene que su diseño refleja los valores de sus creadores. Sam Kriss publicó un reportaje sobre la academia en The New Yorker el 16 de noviembre; MAPLE negó después que quiera crear un gurú artificial.
Una residencia para especialistas en IA
El maestro budista Soryu Forall fundó MAPLE en 2011. En su respuesta al reportaje, la academia cuestionó que los datos puedan representar todo lo que importa de una persona o de su entorno.
Según MAPLE, esa forma de valorar el mundo influye en qué problemas se eligen y qué resultados se consideran deseables.
En Lowell, Vermont, MAPLE ofrece un programa residencial para personas con experiencia en investigación o desarrollo de IA, incluidas quienes trabajan en la seguridad de estos sistemas. La estancia dura al menos un mes y el calendario combina:
- Tiempo de trabajo
- Meditación
- Talleres sobre budismo e IA
- Retiros mensuales en silencio
La alineación de modelos es el reto técnico de lograr que un sistema se comporte de acuerdo con los objetivos y valores que sus creadores le asignan. MAPLE considera que su formación puede aportar a ese trabajo.
El ensayo con IA y la disputa sobre un gurú artificial
Un informe de MAPLE del verano de 2023 documenta un uso concreto de IA. Durante un retiro, la comunidad recurrió a un modelo de lenguaje para producir meditaciones guiadas a partir de las enseñanzas de Forall. Una voz sintética leyó las indicaciones al grupo.
El modelo preparó material para una práctica que la academia ya realizaba con sus residentes.
Kriss atribuye a antiguos integrantes la versión de que MAPLE buscaba crear un sistema que sirviera de maestro para otras inteligencias artificiales. El director ejecutivo de la academia rechazó esa descripción. En su respuesta pública, MAPLE también dijo que considera inviable construir un gurú artificial.
La academia confirmó que reserva parte de sus enseñanzas sobre IA para quienes se forman allí. También comparte con un grupo de practicantes una doctrina sobre cómo responder a los problemas que atribuye a la tecnología.
MAPLE dijo que restringió el acceso después de que materiales difundidos anteriormente fueran malinterpretados o se usaran de maneras que considera perjudiciales. No reveló el contenido de la doctrina.
Lo que MAPLE documenta públicamente es un programa para influir en profesionales y un uso de IA para preparar meditaciones. El desacuerdo del reportaje apunta a la versión de que la academia buscaba crear una máquina con autoridad para guiar a otras IA, una intención que MAPLE niega.
