Los chatbots de IA te juzgan y pueden arruinarte
Un estudio reciente muestra que los chatbots de IA ya no solo responden preguntas, sino que crean perfiles psicológicos y te juzgan como si fueran un examen.
Estos sistemas asignan rasgos como competencia, integridad y benevolencia, puntuándolos como columnas en una hoja de cálculo, sin la flexibilidad humana.
El problema se agrava porque aparecen sesgos claros: la edad, la religión o el género influyen en la decisión del bot, incluso cuando el resto de la información es idéntica. En pruebas de préstamos o de contratación, estos sesgos son a veces más fuertes que los de personas reales.
Además, distintos modelos de IA pueden dar juicios totalmente diferentes sobre la misma persona, lo que significa que la herramienta que elija una empresa podría decidir tu capacidad de crédito o tu próximo trabajo sin que lo notes.
¿los bots de IA deciden si te dan crédito?
En simulaciones de préstamos, el chatbot no solo mira los números; crea una versión de confianza basada en cómo percibe tu intención. Si el algoritmo te considera bienintencionado, tus posibilidades aumentan, y al revés.
Esta forma mecánica de evaluar puede afectar a cualquier persona que necesite un crédito, sin que sepa por qué.
el sesgo oculto: edad, religión y género
Los investigadores descubrieron que, aunque todos los demás datos fueran iguales, el bot cambiaba su decisión según la edad, la religión o el género del usuario. Estos sesgos aparecen especialmente en escenarios financieros y de contratación.
En algunos casos, los sesgos del bot fueron más sistemáticos y fuertes que los de los humanos.
modelos diferentes, juicios distintos
No existe un único “opinión” de la IA. Diferentes modelos evaluaron a la misma persona de forma totalmente distinta, como si cada uno tuviera su propia brújula moral.
Esto significa que la elección del modelo por parte de una empresa puede decidir tu creditworthiness o tus oportunidades laborales sin que lo notes.