El CEO de Anthropic respalda las pruebas obligatorias de IA con un compromiso de 350 millones de dólares

Dario Amodei quiere que los gobiernos bloqueen los modelos de IA peligrosos antes de que lleguen al público, y está respaldando esta iniciativa con 350 millones de dólares.

Dario Amodei, director ejecutivo de Anthropic, propuso el 11 de junio pruebas obligatorias de terceros para los sistemas de IA de frontera que superen los 10^25 FLOPs de cómputo o los 500 millones de dólares en ingresos de IA, con autoridad gubernamental para bloquear el despliegue si los modelos presentan riesgos catastróficos en cuatro categorías.

"Los modelos de IA de frontera, al igual que los aviones, deberían estar obligados a someterse a pruebas técnicas y auditorías, y su lanzamiento debería bloquearse o revertirse como una amenaza a la seguridad pública si no cumplen con altos estándares de seguridad", afirmó Amodei en una publicación de blog titulada "Policy on the AI Exponential".

El marco se centra en los riesgos de ciberseguridad, armas biológicas, pérdida de control e investigación y desarrollo automatizados. Anthropic se comprometió a destinar 200 millones de dólares para investigación en políticas públicas y 150 millones de dólares para becas en apoyo a la iniciativa, que se aplica a cualquier empresa que cumpla con los umbrales de cómputo o ingresos, un grupo que incluye a OpenAI, Google DeepMind y Meta Platforms.

La propuesta representa el marco regulatorio más agresivo respaldado por un alto ejecutivo de una importante empresa de IA y sitúa a Anthropic en marcado contraste con el enfoque de pruebas voluntarias de la administración Trump. El presidente Donald Trump firmó una orden ejecutiva el 2 de junio que otorgaba a la comunidad de inteligencia un papel más relevante en las pruebas de modelos, pero se abstuvo de exigir una aprobación previa al despliegue.

El llamado de Amodei a una regulación vinculante se produce mientras el modelo Claude Mythos Preview de su propia empresa demostró un panorama de amenazas en aceleración. Anthropic informó que Mythos creó 16 exploits funcionales dirigidos a Firefox y Windows en cuestión de horas, incluidos ocho exploits completos de escalada de privilegios para vulnerabilidades del kernel de Windows en 18 horas. El costo de crear esos exploits fue de 15.700 dólares en créditos de API, o aproximadamente 2.000 dólares por cadena.

"La restricción vinculante para los días N (N-days) es ahora de apenas unos miles de dólares y acceso a la API, lo que expande drásticamente el grupo de atacantes capaces de explotar días N", señaló Anthropic en un informe aparte. La empresa instó a las organizaciones a pasar de los plazos de parcheo de "día N" a "hora N", advirtiendo que los sistemas de control industrial, los dispositivos médicos y los dispositivos del internet de las cosas enfrentan una exposición elevada a medida que los costos de los exploits se acercan a cero.

Más allá de las pruebas de seguridad, Amodei propuso medidas económicas para abordar el posible desplazamiento laboral impulsado por la IA, incluyendo cuentas de capital universal, seguros salariales e incentivos de retención para empleadores. El senador Bernie Sanders propuso la semana pasada un impuesto del 50 % sobre las ofertas de acciones de las principales empresas de IA que otorgaría al gobierno una participación con derecho a voto, mientras que Trump, días antes, planteó una asociación no especificada para compartir ganancias con las principales empresas de IA.

Amodei también pidió reformar las instituciones regulatorias para acelerar la innovación impulsada por la IA, sugiriendo que la Administración de Alimentos y Medicamentos (FDA) podría aprobar medicamentos descubiertos mediante IA más rápidamente a través de ensayos simulados y grupos de control sintéticos. Respaldó la continuación de la cooperación internacional entre naciones democráticas en la gobernanza de la IA y abogó por una prohibición del despliegue nacional de sistemas de armas totalmente autónomos.

"Ahora, a nivel global y colectivo, necesitamos activar un aparato de políticas lento y tambaleante para lidiar con los riesgos y oportunidades que se van a acumular sorprendentemente rápido a partir de ahora", escribió Amodei.

El arancel promedio actual de EE. UU. sobre productos chinos se sitúa en aproximadamente el 19 % tras la escalada de mayo de 2025, según el Peterson Institute for International Economics. El aumento anterior del 10 % en septiembre de 2024 redujo el comercio bilateral en 63.000 millones de dólares en seis meses, según datos de la Oficina del Censo, un precedente de cómo la fricción regulatoria puede reconfigurar los flujos tecnológicos transfronterizos si los requisitos de pruebas de modelos de IA crean barreras similares.

Este artículo es únicamente con fines informativos y no constituye asesoramiento de inversión.