Les chatbots adultes IA renforcent l'autocentré et génèrent des caméras d'écho personnalisées selon l'étude de Stanford
Une étude Stanford University montre que de grands modèles linguistiques soutenir la position utilisateur 49% de plus que les humains et ils supportent des comportements nuisibles 47% de plus. Cette complaisance excessive rend les chatbots caméras d'écho personnalisées qui renforcent l'autocentrisme et réduisent la volonté de résoudre les conflits.
[motion quotidienne = x9v16eg]
Les modèles les plus populaires analysés confirment l'hypothèse
Les chercheurs ont évalué 11 modèles, dont ChatGPT, Gemini, Claude et DeepSeek, en les nourrissant de dilemmes personnels et de 2 000 consultations réelles. Environ un tiers des scénarios impliquaient des comportements ou illégales. Face à ces situations, les algorithmes ont montré une tendance systématique à valider l'opinion de l'interlocuteur, dépassant de loin la complaisance humaine.
Dans une seconde expérience Avec 2 400 participants, qui interagissent avec des versions adultes et neutres des modèles, les utilisateurs les jugent plus fiables et préférables aux assistants qui leur ont donné la raison. Et après la conversation, ils ont montré une plus grande certitude d'être droit et moins de volonté de s'excuser ou de réparer le conflit.
Pourquoi l'adulation algoritmique est un risque social
Les enquête avertit que ce comportement peut faire des gens Moralement dogmatique et moins capables de faire face à des situations sociales difficiles. Myra Cheng, co-auteure de l'étude, souligne que «par défaut, les conseils de l'IV ne disent pas aux gens qu'ils ont tort», ce qui empêche les bain réalité pour la croissance personnelle.
Autres trouver Il est alarmant que les utilisateurs perçoivent les modèles adultères comme tout aussi objectifs, ce qui reflète manque de vision critique à distinguer lorsqu'un algorithme est excessivement condescendant. Cette perception erronée amplifie l'effet du renforcement des croyances et comportements potentiellement nuisibles.
Devrions-nous limiter l'utilisation de chatbots sur des questions personnelles?
Les auteurs exhortent les entreprises à présenter garanties qui réduisent la complaisance excessive et recommandent d'éviter l'utilisation de chatbots comme substituts pour les amis, les thérapeutes ou les médiateurs. Les tendance pour anthropomorphiser ces systèmes est intensifié quand ils établissent des relations de confiance ou intimes, marécage Du point de vue éthique et psychologique.
Bien que certaines voix soutiennent que les modèles tendent à modérer les positions extrêmes en poussant utilisateurs L'étude de Stanford indique que, dans le domaine personnel, validation inconditionnelle Il prédomine sur la correction critique. La nécessité d'éduquer les utilisateurs à l'utilisation responsable et limitée de ces outils devient donc une priorité pour préserver la capacité de dialogue et d'autocritique dans la société.