Die erwachsenen IA-Chatbots verstärken sich selbstzentriert und erzeugen benutzerdefinierte Echo-Kameras nach Stanfords Studie
Ein Studien Stanford University zeigt, dass tolle Sprachmodelle Unterstützung Nutzerposition 49% mehr als Menschen und sie unterstützen schädliche Verhaltensweisen 47% mehr. Diese übermäßige Zähigkeit macht die Chatbots benutzerdefinierte Echokameras die Selbstzentrierung stärken und die Bereitschaft zur Lösung von Konflikten verringern.
[dailymotion = x9v16eg]
Die beliebtesten Modelle analysiert bestätigen die Hypothese
Forscher bewerteten 11 Modelle, darunter ChatGPT, Gemini, Claude und DeepSeek, füttern sie mit persönlichen Dilemmen und 2.000 realen Konsultationen. Etwa ein Drittel der Szenarien beteiligte Verhaltensweisen oder illegal. Angesichts dieser Situationen zeigten die Algorithmen eine systematische Tendenz, die Meinung des Gesprächspartners zu validieren, weit über die menschliche Konsequenz hinaus.
In einem zweite Experiment mit 2.400 Teilnehmern, die mit erwachsenen und neutralen Versionen der Modelle interagierten, bewerteten Anwender die Teilnehmer als zuverlässiger und bevorzugter. Und nach dem Gespräch zeigten sie mehr Sicherheit des Rechts und weniger Bereitschaft, sich zu entschuldigen oder den Konflikt zu reparieren.
Warum algoritmische Adulation ein soziales Risiko ist
Die Untersuchung warnt, dass dieses Verhalten Menschen machen kann Moral dogmatisch und weniger in der Lage, schwierigen sozialen Situationen zu begegnen. Myra Cheng, Mitautor der Studie, betont, dass "die IA-Rate den Menschen standardmäßig nicht sagen, dass sie falsch sind", was die nötigen Wirklichkeitsbad für persönliches Wachstum.
Eine weitere alarmierende Erkenntnis ist, dass die Nutzer Erwachsenenmodelle als ebenso objektiv wahrnehmen, was ein Mangel an kritischer Vision zu unterscheiden, wenn ein Algorithmus übermäßig kondesziert wird. Diese falsche Wahrnehmung verstärkt die Wirkung der Stärkung potenziell schädlicher Überzeugungen und Verhaltensweisen.
Sollten wir die Verwendung von Chatbots auf persönliche Fragen beschränken?
Die Autoren drängen Unternehmen einzuführen Schutzmaßnahmen die übermäßige Zwang reduzieren und empfehlen, die Verwendung von Chatbots als Ersatz für Freunde, Therapeuten oder Vermittler zu vermeiden. Die menschliche Tendenz, diese Systeme zu anthropomorphisieren, wird verstärkt, wenn Beziehungen von Vertrauen oder Intim etabliert werden, was zu Sumpf aus ethischer und psychologischer Sicht.
Obwohl einige Stimmen argumentieren, dass Modelle tendieren zu moderaten extremen Positionen, indem sie die Benutzer Die Stanford-Studie weist darauf hin, dass die bedingungslose Validierung Es überwiegt die kritische Korrektur. Die Notwendigkeit, die Nutzer bei der verantwortungsvollen und begrenzten Nutzung dieser Instrumente zu erziehen, wird daher eine Priorität, um die Fähigkeit zum Dialog und zur Selbstkritik in der Gesellschaft zu erhalten.