El Secretario General de la ONU, António Guterres, pidió el lunes que las armas autónomas letales sean prohibidas por el derecho internacional, declarando que las máquinas que seleccionan objetivos sin control humano son "moralmente repugnantes". El llamado se produce mientras la disputa legal entre Anthropic y el Pentágono sobre el uso de IA en armas autónomas entra en su quinto mes y tres proyectos de ley del Senado de EE.UU. buscan codificar restricciones sobre la IA militar.
El Secretario General de la ONU, António Guterres, pidió el lunes que las armas autónomas letales sean prohibidas por el derecho internacional, declarando que las máquinas que seleccionan objetivos sin control humano son "moralmente repugnantes". El llamado se produce mientras la disputa legal entre Anthropic y el Pentágono sobre el uso de IA en armas autónomas entra en su quinto mes y tres proyectos de ley del Senado de EE.UU. buscan codificar restricciones sobre la IA militar.
"Las máquinas seleccionando y atacando a su objetivo y quitando una vida — sin control ni juicio humano. Eso es moralmente repugnante", dijo Guterres en un discurso sobre gobernanza de la IA en Ginebra. "Llamémoslas como son: robots asesinos". El jefe de la ONU instó a los gobiernos a no "esperar a la atrocidad para actuar", añadiendo que "algunas decisiones deben permanecer para siempre humanas — ninguna más que la de quitar una vida humana".
El discurso reavivó una disputa que estalló en febrero cuando Anthropic se negó a las demandas del Pentágono de permitir "cualquier uso lícito" de sus modelos Claude de IA, incluyendo para armas autónomas y vigilancia masiva nacional. El Pentágono designó a Anthropic como un riesgo para la cadena de suministro de la seguridad nacional — la primera designación de este tipo aplicada a una empresa estadounidense — y el presidente Trump ordenó a las agencias federales cesar el uso de la tecnología de Anthropic. Dos tribunales federales están ahora viendo demandas separadas, y un juez de California bloqueó temporalmente las medidas punitivas del Pentágono en marzo tras determinar que la designación era "probablemente tanto contraria a la ley como arbitraria y caprichosa".
El vacío de gobernanza que la disputa expuso ha atraído la atención legislativa. Tres senadores demócratas han presentado proyectos de ley este año dirigidos a la IA militar: la Ley HALO del senador Adam Schiff exigiría que un comandante humano retenga la autoridad última sobre cualquier uso de la fuerza que involucre sistemas de armas autónomas; la Ley de Barreras de Protección de la IA de la senadora Elissa Slotkin prohibiría que la IA autorice lanzamientos de armas nucleares y prohibiría que los sistemas autónomos realicen ataques letales sin autorización humana; y la Ley de IA Militar Segura y Responsable de la senadora Kirsten Gillibrand restringiría el uso de IA en el despliegue de armas nucleares, la vigilancia nacional y los sistemas totalmente autónomos. Los proyectos de ley no han avanzado en el Congreso controlado por los republicanos.
El Llamado Paralelo del Papa
El Papa León XIV defendió la prohibición de las armas controladas por IA en su encíclica papal esta primavera, advirtiendo que los sistemas de IA amenazaban con "normalizar una visión antihumana". Dijo que las armas impulsadas por IA corrían el riesgo de reducir los costos políticos de la guerra para quienes poseen IA avanzada, haciendo que la guerra sea "más 'factible' y menos sujeta al control humano". La intervención del Papa y el discurso de Guterres reflejan una creciente presión internacional por restricciones vinculantes, aunque no hay ningún proceso formal de tratado en marcha.
Lo que Está en Juego en el Mercado
La disputa tiene implicaciones directas para los contratistas de defensa y las empresas de IA. El contrato de Anthropic con el Pentágono por $200 millones, firmado en julio de 2025, fue el primero en integrar modelos de IA de frontera en redes militares clasificadas. OpenAI intervino horas después de la prohibición de Trump para suministrar sus modelos al Pentágono, aunque el acuerdo apresurado provocó la renuncia de la líder de robótica de OpenAI, Caitlin Kalinowski, quien dijo que las barreras de protección de las políticas "no estaban suficientemente definidas". El Pentágono ha seguido utilizando Claude para la selección de objetivos operativos en el conflicto de Irán durante el período de eliminación gradual de seis meses, según informes que el Departamento de Defensa no ha confirmado oficialmente.
La última vez que el jefe de la ONU emitió un llamado comparable sobre tecnología de armas — un impulso en 2018 para una prohibición de armas totalmente autónomas — no le siguió ningún acuerdo internacional vinculante. El impulso actual enfrenta vientos en contra similares: Estados Unidos, Rusia y China se han opuesto a restricciones vinculantes sobre armas autónomas letales en las conversaciones de la ONU. Pero la disputa de Anthropic ha desplazado el debate de un principio abstracto a términos contractuales concretos, y los tres proyectos de ley del Senado representan el esfuerzo legislativo estadounidense más serio hasta la fecha para definir dónde la IA puede y no puede tomar decisiones de vida o muerte.
Este artículo es únicamente con fines informativos y no constituye asesoramiento de inversión.
