La mañana del 28 de febrero, decenas de niñas y docentes ingresaron a la escuela primaria Shajareh Tayyebeh de Minab, una ciudad de más de 70.000 habitantes en el sur de Irán. Era sábado, el primer día de la semana laboral en ese país. También el primer día de la operación «Furia Épica», como denominó el Pentágono a la ofensiva que lanzó contra Irán junto a Israel (Tel Aviv, por su parte, la llamó «Rugido del León»).
 |
| Protesta ante la sede de Palantir, en Nueva York, por su colaboración con el ICE. |
Los misiles Tomahawk no son cualquier misil. Pueden cubrir más de 2.000 kilómetros de forma autónoma, a velocidades cercanas a los 880 km/h, e impactar en su objetivo con un margen de error de pocos metros.
La escuela estaba ubicada en un edificio que hace una década fue separado de una base de las fuerzas navales del Cuerpo de Guardianes mediante un muro. Dicha base también fue golpeada en los ataques del 28 de febrero. Por ello, es probable que EE. UU. identificara esa base como objetivo militar pero que los mapas utilizados para esa identificación no estuvieran actualizados. Pero ¿quién es responsable de ese error en una guerra en la que se combate esencialmente con inteligencia artificial?
La cadena de muerte
En términos militares, con kill chain (literalmente, ‘cadena de muerte’) nos referimos a la secuencia de acciones que ocurre entre la identificación de un objetivo, la decisión de atacar y el despliegue del ataque. Durante casi un siglo, los ejércitos han intentado comprimir la kill chain todo lo posible, algo que permitiría atacar al enemigo de forma más rápida y eficaz.
Este deseo se convirtió en necesidad por primera vez durante la Guerra del Golfo del año 1991, cuando los iraquíes emplearon lanzadores móviles de misiles capaces de desplazarse varios kilómetros antes de que los estadounidenses pudieran coordinar una respuesta. Las viejas técnicas analógicas, en las que los analistas tenían que revisar manualmente mapas, grabaciones y otros datos, no servían. Se necesitaban máquinas capaces de volar tan bajo como para esquivar los radares, identificar un objetivo y eliminarlo en minutos. En pocas palabras, drones armados: vehículos capaces de volar (y atacar) sin tripulación a bordo.
«La pregunta es si los drones nos tentarán a hacer cosas incorrectas. Pero no parece que sea así, porque tenemos casos en los que los drones se usaron de manera justa, y parece que, en realidad, mejoran nuestra capacidad de actuar con justicia», dijo en 2012 a The Guardian Bradley Strawser, filósofo y por entonces profesor en la Universidad Naval de Monterrey. «Literalmente cada acción que realizan queda registrada. Ante una decisión difícil, los operadores pueden incluso tomarse su tiempo y llamar a otras personas a la sala. Hay más margen para los controles y la supervisión», argumentó.
Pero con el aumento de los datos, poco a poco los controles y supervisión se volvieron cada vez más complejos. «En un futuro no muy lejano, vamos a encontrarnos nadando en sensores y ahogándonos en datos», aventuró en 2010 un alto cargo de inteligencia de la Fuerza Aérea estadounidense. Y eso fue lo que pasó. La difusión de redes sociales, drones y tecnologías de vigilancia masiva aumentaron enormemente la disponibilidad de datos en manos de los ejércitos para identificar y rastrear objetivos. Eso llevó a un cuello de botella. ¿Quién podía analizar tanta información? La inteligencia artificial trajo la respuesta.
Guerra sin piloto
Su investigación comenzó a principios de la década de 2010, años antes de la invasión rusa de Ucrania, una guerra que se ha convertido en un campo de experimentación para el uso de algoritmos e inteligencia artificial en batalla. «Muchas empresas emergentes llevaron sus nuevas tecnologías al conflicto», señala Schwarz.
Muy pronto, la asimetría del conflicto en Ucrania trajo el uso masivo de drones teledirigidos. A diferencia de los complejos y costosos sistemas Predator, estos eran instrumentos baratos que, con una inversión de apenas 500 dólares y comandados de forma remota, eran capaces de destruir tanques. No obstante, se revelaron vulnerables ante la guerra electrónica, es decir, ataques que interrumpen la comunicación entre el dron y su piloto. Esto propició que se impulsara el desarrollo de aeronaves con capacidades autónomas de vuelo y ataque.
Los drones autónomos están dotados de software capaz de transportar explosivos a lo largo de cientos de kilómetros y localizar objetivos. Otro tipo de drones, de cuatro hélices, se dotaron de inteligencia artificial para atacar a soldados rusos sin intervención humana cuando las comunicaciones fallaran. El siguiente paso fueron los enjambres de drones, capaces de perpetrar ataques masivos sin necesidad de contar con decenas de operadores.
Al margen del posible desarrollo de estos robots, en la actualidad las decisiones bélicas ya pasan por las principales empresas de inteligencia artificial, las mismas que diseñan los chatbots (asistentes conversacionales de IA) que cada día usan millones de personas para corregir correos electrónicos.
Decisiones de algoritmos
En febrero de este año, el secretario de Defensa estadounidense Pete Hegseth exigió a Anthropic acceso sin restricciones a sus sistemas de inteligencia artificial para cualquier uso militar. La respuesta del consejero delegado, Dario Amodei, fue una negativa pública: «En conciencia, no podemos aceptar su petición». Hegseth contestó designando a Anthropic como «riesgo para la cadena de suministro», una calificación reservada habitualmente a empresas vinculadas con gobiernos adversarios, como la china Huawei o la rusa Kaspersky.
En respuesta, Anthropic demandó al Gobierno, que por su cuenta comenzó el proceso de reemplazar Claude con los modelos de empresas que supuestamente aceptaron sus condiciones, como ChatGPT, de OpenAI, y Gemini, de Google. Hasta ese momento, la colaboración entre esta empresa –fundada por exmiembros de OpenAI– y el Departamento de Defensa había sido estrecha.
El Mando Central de EE. UU. (CENTCOM) habría utilizado una versión clasificada de Claude para asistir en evaluaciones de inteligencia, identificación de objetivos y simulación de escenarios de combate durante operaciones militares en Irán. Según reveló The Wall Street Journal, Claude también habría sido empleado en la operación militar estadounidense que condujo a la captura del presidente venezolano Nicolás Maduro en enero de este año.
«Sugieren miles de objetivos y luego tienes un equipo reducido de personas para comprobarlos o validarlos, pero tienen que hacerlo a toda velocidad», subraya Schwarz a La Marea. «Ocurre tan rápido que tenemos que preguntarnos si puede haber una supervisión significativa o si el humano simplemente va diciendo “sí, no, sí, no”, absorbido por la lógica funcional del sistema de IA, por la lógica de la máquina».
Según una investigación publicada en el año 2024 por la revista israelí-palestina +972 Magazine, Israel empleó el sistema Lavender en Gaza para analizar datos de vigilancia masiva de casi la totalidad de los 2,3 millones de habitantes de la Franja. El sistema asigna a cada individuo una puntuación del 1 al 100 según su probabilidad de ser miliciano. La investigación indica que la supervisión humana se reducía con frecuencia a una validación pro forma de aproximadamente 20 segundos por objetivo, tratando en la práctica la sugerencia de la máquina como una decisión firme.
«Para hacer posible la violencia de masas es necesario deshumanizar al enemigo», concluye Schwarz. Y para eso, la inteligencia artificial ofrece grandes oportunidades. «Cuanto mayor es la distancia entre la aplicación de la fuerza y sus efectos, mayor es también la distancia emocional y moral que se genera».
A diferencia de los sistemas de armas convencionales, fabricados por empresas como Lockheed Martin y sujetos a marcos regulatorios, el uso militar de la inteligencia artificial carece de regulación.
Frenar la máquina
Hoy, Asaro, vicepresidente del Comité Internacional para el Control de Armas Robóticas (ICRAC) y portavoz de la campaña Stop Killer Robots, se muestra esperanzado con el estado actual del borrador para negociar un marco legal común en las Naciones Unidas que permita ejercer control sobre las armas con altos niveles de automatización.
Tras varios intentos fallidos de prohibir por completo el uso de armas autónomas, el estado actual de las negociaciones se centra en regular su empleo y definir en qué contextos son aceptables. Es el caso, por ejemplo, de los sistemas de defensa antimisiles, que deben operar con inmediatez para neutralizar amenazas masivas. El debate de fondo radica en hasta qué punto es imprescindible mantener a un humano en el proceso y qué nivel de intervención se considera «significativo». Por ello, las discusiones se centran en la definición de un «control humano apropiado al contexto».
«La idea es que “apropiado” no sea un término vacío», matiza Asaro. «Exige algún tipo de valoración humana contextual que confirme que el sistema opera en un entorno conocido y que es capaz de hacerlo correctamente».
Estos esfuerzos regulatorios chocan con la oposición de potencias muy activas en el desarrollo armamentístico, convencidas de que la IA les otorgará una ventaja táctica decisiva. Países como Estados Unidos, Rusia, China, Israel, Corea del Sur y Turquía prefieren sustituir un tratado vinculante por meras «directrices» o «mejores prácticas».
En el caso de las armas nucleares, un tratado de prohibición ha logrado establecer normas claras. Aunque las potencias nucleares no lo firmaron, el respaldo de la mayor parte del mundo consolidó una norma internacional que declara estas armas «inmorales e ilegales». Del mismo modo, aunque Siria nunca firmó el tratado sobre armas químicas, la comunidad internacional la hizo responsable de su uso. «Esperamos lograr algo similar. Como mínimo que podamos restringir el uso de estos sistemas y alejar la IA de las aplicaciones bélicas más peligrosas que podamos imaginar», concluye Asaro.
Así, al menos, la responsabilidad de las muertes de civiles podrá
seguir siendo identificable y no quedar sepultada tras algoritmos
indescifrables.
Comentarios
Publicar un comentario