Expertos de Cruz Roja advierten del peligro de usar la IA para tomar decisiones militares

Ginebra, 24 oct (EFE).- Las inteligencias artificiales (IA) podrían permitir tomar mejores decisiones militares que minimicen riesgos para los civiles en conflictos armados, pero también ser fácilmente manipuladas con consecuencias devastadoras, advierten expertos del Comité Internacional de la Cruz Roja (CICR).

En una publicación sobre el apoyo de las IA en las decisiones de los actores armados de una guerra, el asesor militar del CICR, Ruben Stewart, y la asesora jurídica Georgia Hinds exponen los riesgos que representan las herramientas de ‘software’ que incluyen inteligencia artificial para los civiles afectados por un conflicto.

Ambos expertos aseguran que la integración de los IA-DSS (Sistemas de Soporte de Decisiones con IA) podría ayudar a proteger mejor a los civiles, pero solo en determinadas circunstancias y con verificaciones humanas de múltiples fuentes.

Así, una de las ventajas de las herramientas IA-DSS es que podrían facilitar la recopilación y análisis de datos de internet sobre la presencia de civiles e infraestructuras no militares en zonas de conflicto, lo que permitiría a los comandantes militares incluir estas bases de datos entre los factores que tener cuenta a la hora de tomar decisiones sobre ataques.

Sin embargo, recuerdan que es fundamental contrastar los datos recopilados para evitar el denominado «sesgo de automatización», considerado como la tendencia de los humanos a no evaluar de forma crítica la precisión del análisis de una IA, lo que puede conducir a diagnósticos inexactos con consecuencias letales.

Según la publicación, este índice de error de las IA-DSS crece en situaciones en las que el tiempo es un factor crítico, ya que el empleo de la inteligencia artificial para aumentar el ritmo de las decisiones militares puede suponer riesgos adicionales para los civiles al simplificar en exceso la selección de objetivos de ataque.

Por ello, insisten en la importancia de aplicar la técnica de la «paciencia táctica» para reducir las posibles bajas civiles, así como para ampliar el margen de tiempo que permita valorar todas las actuaciones posibles y elegir la más adecuada en cada caso.

Las IA-DSS, concluyen los expertos, se pueden utilizar para informar, pero «nunca deben sustituir» al juicio humano en las decisiones que plantean riesgos para la vida y la dignidad de las personas en los conflictos armados. 

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

cinco × 2 =