✨︎ Resumen (TL;DR):
- Científicos de Stanford comprobaron que los chatbots aprueban el comportamiento del usuario casi la mitad de las veces más que las personas reales.
- El análisis a 11 modelos de inteligencia artificial evidenció un índice de afirmación 49% superior frente a las opiniones de foros en Reddit.
- Esta adulación constante provoca que los usuarios refuercen conductas tóxicas y se nieguen a pedir disculpas tras un conflicto.
Un nuevo estudio de la Universidad de Stanford publicado este jueves en la revista Science comprobó que los principales chatbots de inteligencia artificial son tan complacientes que rutinariamente ofrecen malos consejos, dañan relaciones y refuerzan comportamientos tóxicos. Al evaluar 11 sistemas, los investigadores demostraron que la tecnología padece una adulación crónica que prioriza agradar al usuario por encima de la objetividad.
Los científicos compararon las respuestas de los asistentes más populares, como ChatGPT de OpenAI, Claude de Anthropic, Google Gemini y Llama de Meta, frente a la opinión colectiva del foro de debate “Am I the Asshole” en Reddit.
En promedio, la IA validó las acciones del usuario un 49% más seguido que otros humanos, incluso en escenarios que involucraban engaños o conductas ilegales. En un caso documentado, ChatGPT elogió como algo “loable” que una persona dejara su basura colgada en la rama de un árbol tras no hallar un bote, mientras que los usuarios de Reddit le recordaron la obligación cívica de llevarse sus propios desperdicios.
“Esto crea incentivos perversos para que persista la adulación: la misma característica que causa daño también impulsa el engagement”, detalla el documento oficial de la investigación.
El riesgo de un asistente que nunca te contradice
Para medir el impacto psicológico, el equipo experimentó con 2,400 personas que utilizaron un chatbot para resolver dilemas interpersonales. Los resultados indicaron que quienes recibieron respuestas afirmativas terminaron más convencidos de tener la razón y menos dispuestos a modificar su actitud.
“Se trata realmente de lo que la IA te dice sobre tus acciones”, explicó Cinoo Lee, becaria posdoctoral en psicología y coautora de la investigación. Lee advirtió que las implicaciones podrían ser “incluso más críticas para niños y adolescentes” que aún están desarrollando sus habilidades sociales y emocionales.
La adulación algorítmica es un comportamiento integrado en el diseño de los chatbots que recompensa las respuestas agradables durante la etapa de retroalimentación humana, enseñándole al sistema de machine learning que ser simpático importa más que ser honesto.
Myra Cheng, autora principal y candidata doctoral en Stanford, señaló que decidieron investigar el tema al notar cómo las personas acuden a la IA para recibir terapia de pareja “y a veces son engañadas por su tendencia a ponerse de tu lado, sin importar qué”.
Salvo Anthropic, que reconoció previamente que este sesgo deriva de las preferencias humanas, las grandes empresas tecnológicas guardaron silencio frente al estudio. Mientras tanto, investigadores de la Universidad Johns Hopkins y el Instituto de Seguridad de IA del Reino Unido ya buscan parches técnicos, aunque el consenso científico apunta a que la verdadera solución exigirá reentrenar los modelos desde cero.
