La ONU pide una prohibición global de los robots asesinos de IA
El Secretario General de la ONU, António Guterres, ha pedido a la comunidad internacional que prohíba el desarrollo y uso de armas autónomas letales, también conocidas como 'robots asesinos'. Considera que su desarrollo es 'morally repugnant' y que decisiones como la de quitar la vida a un ser humano deben seguir siendo exclusivamente humanas.
Durante el primer Diálogo Global sobre Gobernanza de la IA en Ginebra, Guterres destacó que algunas decisiones deben permanecer siempre en manos humanas, especialmente aquellas que involucran la vida o la muerte. Subrayó que la tecnología de IA debe desarrollarse y utilizarse de manera ética y responsable.
¿Qué son los robots asesinos?
Los robots asesinos son sistemas de IA diseñados para seleccionar y eliminar objetivos de forma autónoma, sin supervisión humana directa. La preocupación es que estos sistemas puedan tomar decisiones que ponen en riesgo la vida humana sin un control adecuado.
Ejemplos de películas y series que exploran este tema incluyen The Terminator y Black Mirror, mostrando futuros distópicos donde máquinas inteligentes se vuelven contra la humanidad.
Posiciones enfrentadas
La industria tecnológica está dividida respecto al uso de la IA en aplicaciones militares. Algunos argumentan que puede ayudar en la toma de decisiones durante el combate y reducir el riesgo de víctimas civiles. Otros, como Guterres y el Papa, enfatizan la necesidad de una regulación estricta para evitar un descontrol de la tecnología.
El presidente de Estados Unidos, Trump, ha señalado que su administración busca acelerar el uso de la IA en inteligencia y guerra, pero con un enfoque en valores americanos.
Riesgos y preocupaciones éticas
Los defensores de la prohibición de los robots asesinos temen que la carrera armamentista en IA pueda llevar a la creación de sistemas autónomos con procesos de toma de decisiones opacos e incontrolables. Esto podría tener consecuencias más graves que las imaginadas en la ficción distópica.