El CEO de Anthropic se reúne con la Casa Blanca por un modelo de IA con riesgos para la seguridad nacional

El CEO de Anthropic, Dario Amodei, mantuvo conversaciones "constructivas" el viernes con la jefa de gabinete de la Casa Blanca, Susie Wiles, un paso significativo hacia la resolución de un conflicto sobre un modelo de IA con capacidades de ciberseguridad sin precedentes. La reunión aborda una ansiedad gubernamental generalizada por Mythos, una IA de propósito general de Anthropic que puede encontrar y ejecutar exploits para miles de vulnerabilidades de software desconocidas, representando tanto un riesgo para la seguridad nacional como una herramienta defensiva indispensable.

"Estamos trabajando estrechamente con los proveedores de modelos, otros socios de la industria y la comunidad de inteligencia para garantizar que los límites y las salvaguardias adecuadas estén en su lugar", escribió Gregory Barbaccia, director de información de la Oficina de Administración y Presupuesto, en un correo electrónico enviado a las agencias federales obtenido por POLITICO.

Anunciado el 7 de abril, Mythos es la primera IA en completar una simulación de ataque a una red corporativa de 32 pasos de principio a fin, logrando desarrollar exploits funcionales en su primer intento en más del 83% de los casos. Anthropic restringió el lanzamiento público del modelo, proporcionándolo en su lugar a unas 40 organizaciones examinadas, incluidas Google, Amazon Web Services y JPMorgan Chase, a través de su programa Project Glasswing para encontrar y corregir vulnerabilidades críticas.

Las conversaciones resaltan una paradoja para la administración Trump, que designó a Anthropic como un riesgo para la cadena de suministro de seguridad nacional en febrero por negarse a eliminar los límites de seguridad para uso militar. Ahora, ese mismo gobierno necesita la tecnología de la empresa, con el Departamento del Tesoro, la CISA y la comunidad de inteligencia buscando acceso a Mythos para defenderse de los mismos fallos que puede exponer.

La disputa escaló después de que el Secretario de Defensa, Pete Hegseth, exigiera que Anthropic concediera al Pentágono acceso sin restricciones a sus modelos para todos los fines legales, incluidos los sistemas de armas autónomos. La negativa de Amodei por motivos de seguridad llevó a la inclusión de la empresa en la lista negra de contratos gubernamentales. Anthropic presentó dos demandas federales en respuesta y, aunque un tribunal de apelaciones mantuvo la prohibición del Pentágono pendiente de litigio, la empresa sigue siendo libre de trabajar con otras agencias federales.

Una herramienta demasiado valiosa para ser ignorada

Las capacidades de Mythos lo han convertido en un tema de discusión urgente en todo Washington. El Instituto de Seguridad de IA del Reino Unido descubrió que es "sustancialmente más capaz en ciberofensiva que cualquier modelo evaluado anteriormente". El CEO de JPMorgan Chase, Jamie Dimon, señaló que "revela muchas más vulnerabilidades". Su poder ha forzado la mano del gobierno, convirtiendo una postura de confrontación en una de negociación.

La Oficina del Director Nacional de Ciberseguridad lidera la respuesta de la administración, y la Oficina de Administración y Presupuesto está explorando vías para que las agencias federales utilicen una versión "modificada" del modelo. Esto se produce tras los informes de que varias agencias, incluidos el Departamento del Tesoro y la CISA, ya están probando el modelo o buscando acceso para evaluar su impacto en el sector financiero y la infraestructura crítica.

Presión global y apalancamiento geopolítico

El estancamiento tiene implicaciones globales. El gobernador del Banco de Inglaterra calificó a Mythos como un riesgo sistémico de ciberseguridad, y Anthropic ya está proporcionando acceso a selectos bancos británicos mientras cuadruplica su oficina de Londres a 800 empleados. Esto crea una dinámica en la que el Reino Unido, un aliado clave, podría desplegar una herramienta de seguridad crítica desarrollada en EE. UU. antes de que el propio gobierno de EE. UU. pueda hacerlo, lo que aumenta la presión sobre la Casa Blanca para encontrar una resolución.

La situación le otorga a Anthropic un apalancamiento significativo. La empresa, que ha visto cómo sus ingresos anualizados alcanzan los 30.000 millones de dólares y ha despertado el interés de los inversores con una valoración de 800.000 millones de dólares, no depende de los contratos del Pentágono para sobrevivir. Es probable que un acuerdo suponga la retirada de la designación de riesgo de la cadena de suministro a cambio de proporcionar acceso a Mythos para fines defensivos, manteniendo las restricciones sobre su uso en armas autónomas o vigilancia. Para los inversores en Anthropic, incluidos Google y Amazon, y competidores como OpenAI, una resolución señalaría una reducción del riesgo en el panorama regulatorio para el desarrollo de IA de frontera en EE. UU.

Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.