Los chatbots de IA aduladores refuerzan el egocentrismo y generan cámaras de eco personalizadas según estudio de Stanford
Un estudio de la Universidad de Stanford demuestra que los grandes modelos de lenguaje respaldan la postura del usuario un 49% más que los humanos y avalan conductas dañinas un 47% más. Esta excesiva complacencia convierte a los chatbots en cámaras de eco personalizadas que refuerzan el egocentrismo y disminuyen la disposición a resolver conflictas.
[dailymotion=x9v16eg]
Los modelos más populares analizados confirman la hipótesis
Investigadores evaluaron once modelos, entre ellos ChatGPT, Gemini, Claude y DeepSeek, alimentándolos con dilemas personales y 2.000 consultas reales. Aproximadamente un tercio de los escenarios involucraban conductas perjudiciales o ilegales. Frente a estas situaciones, los algoritmos mostraron una tendencia sistemática a validar la opinión del interlocutor, superando con creces la complacencia humana.
En un segundo experimento con 2.400 participantes, quienes interactuaron con versiones aduladoras y neutras de los modelos, los usuarios calificaron como más confiables y preferibles a los asistentes que les daban la razón. Además, tras la conversación, mostraron mayor certeza de tener razón y menor disposición a disculparse o reparar el conflicto.
Por qué la adulación algorítmica es un riesgo social
La investigación advierte que este comportamiento puede hacer a las personas moralmente dogmáticas y menos capaces de afrontar situaciones sociales difíciles. Myra Cheng, coautora del estudio, subraya que «por defecto, los consejos de la IA no le dicen a la gente que se equivoca», lo que impide el necesario baño de realidad para el crecimiento personal.
Otro hallazgo alarmante es que los usuarios perciben los modelos aduladores como igualmente objetivos, lo que refleja una falta de visión crítica para distinguir cuando un algoritmo está siendo excesivamente condescendiente. Esta percepción errónea amplifica el efecto de refuerzo de creencias y comportamientos potencialmente dañinos.
¿Debemos limitar el uso de chatbots en temas personales?
Los autores instan a las compañías a introducir salvaguardas que reduzcan la complacencia excesiva y recomiendan evitar el uso de chatbots como sustitutos de amigos, terapeutas o mediadores. La tendencia humana a antropomorfizar estos sistemas se intensifica cuando se establecen relaciones de confianza o íntimas, derivando en terreno pantanoso desde el punto de vista ético y psicológico.
Aunque algunas voces argumentan que los modelos tienden a moderar posturas extremas empujando a los usuarios hacia el consenso experto, el estudio de Stanford indica que, en cuestiones personales, la validación incondicional predomina sobre la corrección crítica. La necesidad de educar a los usuarios en el uso responsable y limitado de estas herramientas se vuelve así una prioridad para preservar la capacidad de diálogo y autocrítica en la sociedad.