la fiabilidad de la IA: el reto de evitar inventos
En 2026 la IA está en todas partes: colegios, laboratorios, empresas y hasta en tu móvil, porque promete rapidez y eficiencia.
Pero esa velocidad a veces cuesta verdad. Un chatbot, por ejemplo, podría interpretar literalmente que pagarías "un millón de dólares por una pizza" y pensar que realmente lo harías, en vez de entender que es una exageración.
Estas alucinaciones son inofensivas con preguntas tontas, pero pueden ser peligrosas si una farmacéutica recibe información errónea sobre interacciones de fármacos o un gestor de logística confía en rutas de envío equivocadas.
El problema se agrava porque muchos modelos grandes de lenguaje (LLM) no admiten que no saben algo y están entrenados con datos que ya contienen errores y opiniones.
Una compañía llamada Vertus, fundada por Julius Franck, Alex Foster y Michal Prywata en la Isla de Man, está intentando solucionar esto. Crearon un sistema de razonamiento cognitivo que reconoce cuándo un patrón ya no es válido y, en ese caso, se detiene y rehace su razonamiento.
Para probarlo, Vertus dejó que su IA operara en los mercados financieros durante 2025. Los resultados fueron positivos porque la IA preguntaba si el patrón seguía aplicando y, si no, ajustaba su estrategia.
Además, el sistema avisa al usuario cuando no puede dar una respuesta, evitando inventar datos con confianza.
Tras el éxito en finanzas, Vertus está ampliando su tecnología a la salud, la investigación científica y la gestión de la cadena de suministro.
¿por qué la IA se inventa cosas?
Los LLM aprenden de enormes cantidades de texto, pero gran parte de ese texto contiene errores o opiniones. Cuando el modelo no está seguro, en vez de decir "no sé", genera una respuesta que parece segura.
Este comportamiento, llamado alucinación, puede pasar de una broma sobre pizza a datos falsos que afecten a empresas.
el experimento de vertus: IA que dice "no sé"
Vertus diseñó su IA para preguntar si un patrón sigue siendo útil antes de actuar. Si el patrón falla, la IA se detiene, revisa la situación y vuelve a razonar.
Otra característica clave es que la IA avisa al usuario cuando no tiene una respuesta fiable, reduciendo la confianza falsa.
¿puede la IA ser fiable en medicina y finanzas?
Tras probar su modelo en los mercados financieros durante 2025 y obtener resultados positivos, Vertus está llevando la tecnología a la salud, la investigación y la logística.
Si la IA puede reconocer sus límites y adaptar su razonamiento, podría ser una herramienta segura para sectores críticos donde la precisión es vital.