IA Chatbots beurteilen dich und sie können dich ruinieren.
Ein Studien die letzten zeigen, dass IA Chatbots nicht mehr nur Fragen beantworten, sondern glauben psychologische Profile und Richter als ob sie eine Prüfung wären.
Diese Systeme Funktionen wie Wettbewerb, Integrität und Wohlwollen, scoring sie als Spalten auf einem Tabellenblatt, ohne menschliche Flexibilität.
Das Problem wird durch klare Vorurteile verbunden: Alter, Religion oder Geschlecht beeinflussen die Entscheidung des Bots, auch wenn der Rest der Informationen identisch ist. Bei Kredit- oder Rekrutierungstests sind diese Bias manchmal stärker als die der realen Menschen.
Darüber hinaus können verschiedene Modelle von IA völlig unterschiedliche Urteile über die gleiche Person geben, was bedeutet, dass das Werkzeug, das ein Unternehmen wählt, Ihre Kreditkapazität oder Ihren nächsten Job ohne Sie bemerken könnte.
Die IA-Bots entscheiden, ob sie Ihnen Kredit geben?
In Kreditsimulationen, die Chatbot nicht nur die Zahlen betrachten; eine Version erstellen Vertrauen basierend darauf, wie er Ihre Absicht wahrnimmt. Wenn der Algorithmus Sie gut aufmerksam betrachtet, erhöhen sich Ihre Chancen und umgekehrt.
Diese mechanische Art der Beurteilung kann jeden beeinflussen, der einen Kredit braucht, ohne zu wissen, warum.
die verborgene Vorliebe: Alter, Religion und Geschlecht
Die Forscher entdeckten, dass, obwohl alle anderen Daten waren die gleichen, der Bot änderte seine Entscheidung nach dem Alter, Religion oder Geschlecht des Benutzers. Diese Vorurteile erscheinen vor allem in Finanz- und Rekrutierungsszenarien.
In einigen Fällen war die Vorspannung des Bots systematischer und starker als die des Menschen.
verschiedene Modelle, verschiedene Urteile
Es gibt keine einzige "Opinion" der IA. Verschiedene Modelle bewerteten die gleiche Person auf eine völlig andere Weise, als hätte jeder einen eigenen moralischen Kompass.
Dies bedeutet, dass die Wahl Modell ein Unternehmen kann entscheiden Kredit oder Ihre Jobchancen, ohne Sie zu bemerken.