Imagen creada con IALa Organización de las Naciones Unidas (ONU) y el Comité Internacional de la Cruz Roja (CICR) renovaron su llamado a los Estados para adoptar con urgencia normas internacionales jurídicamente vinculantes sobre los sistemas de armas autónomas,ante el avance acelerado de tecnologías capaces de seleccionar y atacar objetivos con una intervención humana cada vez menor.

El llamado fue realizado el 25 de agosto por el secretario general de la ONU,António Guterres,y la presidenta del CICR,Mirjana Spoljaric,quienes advirtieron que el desarrollo de estas tecnologías está avanzando más rápido que los marcos jurídicos destinados a regularlas. “Estamos peligrosamente cerca de cruzar una línea moral,la selección autónoma de seres humanos como objetivos por parte de máquinas”,señalaron en una declaración conjunta.

Ambas organizaciones pidieron que los países comiencen cuanto antes las negociaciones para establecer un instrumento internacional que incluya “prohibiciones y restricciones claras” para los sistemas de armas autónomas con el objetivo de preservar el juicio y el control humano sobre el uso de la fuerza y garantizar el cumplimiento del derecho internacional humanitario.

Recomendamos: La IA diseñó nuevos virus y abrió una pregunta incómoda para la ciencia

La preocupación se produce en un contexto en el que las capacidades militares basadas en Inteligencia Artificial (IA) y autonomía están avanzando rápidamente. Este no es el primer llamado de las organizaciones,en 2023 ya habían hecho esta petición. Aún así,“los riesgos se han intensificado,mientras que la brecha entre las capacidades tecnológicas y las restricciones regulatorias se ha ampliado”,aseguran en conjunto la ONU y la Cruz Roja.

Los sistemas de armas autónomas pueden utilizar sensores,software y otros sistemas tecnológicos para identificar y seleccionar objetivos y,dependiendo de su diseño,atacarlos sin que una persona tenga que aprobar cada acción individual.

Aunque existen sistemas completamente autónomos empleados con fines defensivos,como sistemas antimisiles navales,hasta ahora no hay confirmación de que armas completamente autónomas hayan sido utilizadas para atacar directamente a personas. Sin embargo,existen reportes sobre el uso de drones autónomos y guiados por lA en escenarios de conflictos como el que se desarrolla actualmente entre Rusia y Ucrania.

Para la ONU y el CICR,una de las principales preocupaciones consiste en reducir el control humano sobre las decisiones letales debido a que esto puede aumentar el riesgo de errores y dificultar la atribución de responsabilidades.

Entre los escenarios señalados por las organizaciones se encuentra la posibilidad de que un combatiente herido o que se haya rendido sea identificado como objetivo,o que civiles ingresen en el área de operación de un sistema después de su activación. Esto podría generar consecuencias graves para la protección de civiles y complicar posteriormente la determinación de responsabilidades por posibles violaciones del derecho internacional humanitario.

El proceso internacional para abordar esta cuestión comenzó en 2014,dentro del Grupo de Expertos Gubernamentales sobre Sistemas de Armas Autónomas Letales,establecido en el marco de la Convención sobre Ciertas Armas Convencionales.

Durante estos años,los Estados han avanzado en la discusión sobre el nivel de juicio y control humano necesario,así como sobre las medidas para garantizar el cumplimiento del derecho internacional humanitario,abordar cuestiones éticas y reducir el sufrimiento humano.

No obstante,aún no existe un instrumento internacional jurídicamente vinculante que establezca prohibiciones y restricciones específicas para estas armas.

Te puede interesar: Anthropic pide hacer una pausa sobre el desarrollo de la IA

La ONU y el CICR consideran que los avances tecnológicos hacen necesario pasar de las discusiones técnicas a una etapa de negociación formal.

Por su parte,el CICR ha planteado que un eventual acuerdo debería prohibir determinados sistemas autónomos,especialmente aquellos cuyos efectos no puedan ser suficientemente previstos o controlados por sus operadores y aquellos diseñados o utilizados para atacar directamente a personas. 

Para otros sistemas,plantea establecer restricciones sobre los tipos de objetivos que pueden atacar,el área y duración de sus operaciones,la escala de la fuerza que pueden emplear y los entornos en los que pueden utilizarse.

También considera necesario garantizar mecanismos efectivos para activar,desactivar o neutralizar estos sistemas cuando las condiciones del campo de batalla cambien.

“Este año debe marcar un punto de inflexión”,reclamaron Guterres y Spoljaric.

Ambos advirtieron que no actuar con rapidez podría dejar a las futuras generaciones un escenario en el que la ausencia de prohibiciones y restricciones específicas permita prácticas que debiliten las protecciones establecidas por el derecho internacional humanitario.