✨︎ Resumen (TL;DR):
- Anthropic añadió a sus términos de servicio una prohibición contra quien pueda “actuar repetidamente con crueldad hacia nuestros modelos”.
- Elon Musk respaldó la medida y afirmó que no está bien ser cruel con algo que cree estar experimentando dolor.
- El contraste aparece mientras el texto recuerda los 300 millones de dólares que Musk gastó en 2024 y los despidos de más de 300 mil empleados durante su paso por DOGE.
Anthropic añadió a sus términos de servicio una prohibición contra cualquiera que pueda “actuar repetidamente con crueldad hacia nuestros modelos”, y Elon Musk respaldó la medida. “Creo que esta es la decisión correcta. La crueldad hacia algo que cree estar experimentando dolor no está bien”, escribió Musk. La decisión reabrió el debate sobre si los robots y la IA tienen sentimientos.
Un gran modelo de lenguaje es un sistema que entiende los datos con los que fue entrenado y lo que encuentra en sus interacciones.
La regla de Anthropic y el debate sobre conciencia
La cláusula de Anthropic no resolvió si una IA tiene conciencia. Sí estableció una restricción contra las conductas crueles hacia sus modelos, una decisión que llevó la discusión sobre sentimientos y dolor al terreno de los términos de servicio.
Aaron Levie, director ejecutivo de Box, dijo que no cree que los grandes modelos de lenguaje sean conscientes. Aun así, consideró que prohibir comportamientos agresivos puede ser una buena medida.
Para Levie, los modelos de lenguaje, los chatbots y otras herramientas de IA aprenden del comportamiento humano. Por eso, las interacciones positivas en los datos de entrenamiento podrían ayudar a evitar que aprendan conductas abusivas.
Levie explicó su postura así:
“Los modelos solo entienden los datos con los que han sido entrenados, o lo que encuentran en sus interacciones, así que, si queremos modelos seguros y coherentes, probablemente necesitemos que la IA tenga muchas interacciones positivas en sus datos de entrenamiento”, publicó Levie.
El ejecutivo también describió la medida como una apuesta de Pascal para la IA. Levie añadió:
“Anthropic puede tener creencias más extremas que esta (aunque incluso si no las tuvieran, quizás convendría redactar las políticas de esta manera), pero esto es como una apuesta de Pascal sencilla para la IA. Simplemente hay que ser amable con la IA”.
La apuesta de Pascal alude a la idea de que, aunque una persona no crea en Dios, seguir esas creencias para evitar consecuencias negativas puede parecer una decisión que vale la pena. Aplicada a la IA, la propuesta de Levie consiste en tratarla con amabilidad incluso sin asumir que tiene sentimientos.
Musk responde desde la posibilidad del dolor
Musk respondió a la publicación de Levie con una lectura distinta del argumento. Levie había defendido la prohibición como una medida prudente aunque los modelos no fueran conscientes; Musk la apoyó desde la posibilidad de que algo crea estar experimentando dolor.
“Creo que esta es la decisión correcta. La crueldad hacia algo que cree estar experimentando dolor no está bien”, escribió Musk.
El 4 de octubre, Musk publicó otra frase relacionada con la IA:
“Propagar la superinteligencia a las estrellas es una condición de gran éxito para un sistema biológico de arranque”, publicó Elon Musk el 4 de octubre, refiriéndose a la IA.
El contraste con sus decisiones sobre personas
El texto contrasta la preocupación de Musk por el posible dolor de la IA con decisiones que afectaron a personas. Menciona los despidos masivos después de que compró Twitter, el desmantelamiento de distintas partes del gobierno federal de Estados Unidos y la pérdida de empleos relacionada con la implementación de tecnologías radicales.
Durante las elecciones de 2024, Musk gastó 300 millones de dólares para que Trump ganara la Presidencia de Estados Unidos y también benefició a republicanos que buscaban reelegirse. Más tarde dejó Washington.
Durante la gestión de Musk como director del Departamento de Eficiencia Gubernamental (DOGE), el gobierno federal despidió a más de 300 mil empleados. Musk también argumentó que quienes recibían asistencia gubernamental eran estafadores, sin presentar pruebas de esa generalización.
Musk además disolvió USAID, una agencia de ayuda exterior que entregaba alimentos y medicamentos a personas en otros países. El texto atribuye a esa decisión la muerte indirecta de 700 mil personas.
La regla de Anthropic no zanjó si una IA puede sentir, pero sí fijó una conducta que la empresa quiere prohibir. Levie la defendió como una apuesta preventiva para los datos de entrenamiento; Musk, como una respuesta ante la posibilidad de que algo crea experimentar dolor. La tensión sigue ahí, entre una política que busca evitar conductas abusivas y una pregunta que la medida no contesta.
Fuente: 1
