Trois des plus grands dirigeants mondiaux de l'IA appellent le Congrès à imposer le dépistage de l'ADN synthétique, avertissant que les outils d'intelligence artificielle en rapide amélioration pourraient aider des acteurs malveillants à développer des armes biologiques.
Trois des plus grands dirigeants mondiaux de l'IA appellent le Congrès à imposer le dépistage de l'ADN synthétique, avertissant que les outils d'intelligence artificielle en rapide amélioration pourraient aider des acteurs malveillants à développer des armes biologiques.
Sam Altman d'OpenAI, Dario Amodei d'Anthropic et Demis Hassabis de Google DeepMind ont signé une lettre exhortant le Congrès à exiger des entreprises vendant des acides nucléiques synthétiques qu'elles soumettent les commandes de leurs clients à un dépistage des combinaisons dangereuses, invoquant le risque que l'IA puisse éroder les barrières de connaissances qui ont historiquement empêché les acteurs malveillants d'obtenir des armes biologiques.
« Les systèmes d'IA s'améliorent rapidement, et parallèlement aux avantages incroyables pour la science et la médecine, il existe une réelle possibilité que les barrières de connaissances qui ont historiquement empêché les acteurs malveillants d'obtenir des armes biologiques s'érodent de manière significative », indique la lettre.
La lettre a été organisée par deux groupes de réflexion axés sur la technologie et a également été signée par Mustafa Suleyman, directeur de l'IA chez Microsoft, et Alexandr Wang, directeur de l'IA chez Meta. Une étude de Microsoft a révélé que les outils d'IA peuvent désormais concevoir des séquences de gènes imitant des protéines dangereuses et contourner les contrôles de sécurité existants, selon le document source.
Cette initiative intervient après que le président Trump a signé mardi un décret sur la surveillance de l'IA et la cybersécurité, s'éloignant d'une approche non interventionniste. La Maison-Blanche a déclaré l'année dernière qu'elle remplacerait le cadre de dépistage génétique de l'ère Biden par ses propres directives, mais n'a pas encore publié de politique de remplacement.
Le vide réglementaire
L'administration Biden précédente exigeait des bénéficiaires de fonds fédéraux qu'ils soumettent à un dépistage les commandes de gènes synthétiques, mais Trump a révoqué ce cadre dans l'un de ses premiers décrets en janvier 2025. Les partisans de la nouvelle lettre affirment que le Congrès devrait adopter une loi s'appliquant à tous les acheteurs d'acides nucléiques synthétiques, et pas seulement à ceux recevant des fonds fédéraux. Plusieurs projets de loi ont été proposés mais n'ont pas abouti, laissant un ensemble disparate de normes industrielles volontaires.
Le secteur de la biologie synthétique, évalué à environ 14 milliards de dollars en 2024 selon les estimations de l'industrie, repose sur des séquences d'ADN et d'ARN personnalisées pour des applications allant du développement de vaccins à la biotechnologie agricole. Des entreprises telles que Twist Bioscience, Integrated DNA Technologies et GenScript dominent le marché de la synthèse de gènes et seraient directement affectées par toute nouvelle exigence de dépistage.
Le décret de Trump cette semaine exige que les développeurs de modèles mettent en œuvre des protocoles de cybersécurité et rapportent les résultats des tests de sécurité, bien qu'il n'aille pas jusqu'au dépistage obligatoire que les PDG recherchent désormais. Un responsable de la Maison-Blanche a déclaré que l'administration s'engageait à équilibrer innovation et sécurité.
Division du secteur sur les coûts de conformité
Les opposants soutiennent qu'il est subjectif de déterminer quelles combinaisons d'acides nucléiques sont considérées comme dangereuses et préviennent que les coûts de conformité pourraient nuire aux startups. Dean Ball, ancien conseiller de Trump pour l'IA à la Foundation for American Innovation, a déclaré que les coûts en valaient la peine compte tenu des risques. « Si vous synthétisez ce qui produit la vie biologique et les virus, nous vous demandons de dépister pour voir si c'est dangereux d'une manière ou d'une autre », a déclaré Ball. « Cela semble une chose raisonnable à exiger de la société. »
Altman a rencontré mercredi des responsables de la Maison-Blanche et des législateurs pour discuter de la proposition d'OpenAI visant à renforcer les exigences pour les développeurs de modèles. L'entreprise a récemment lancé un programme utilisant son modèle axé sur la science pour collaborer avec le gouvernement fédéral à la prévention des risques biologiques.
La lettre représente un rare domaine d'accord entre dirigeants rivaux de l'IA qui sont souvent en désaccord sur les politiques. Altman et Amodei adoptent généralement des positions opposées sur la réglementation de l'IA, Anthropic soutenant des règles plus strictes que d'autres dans le secteur. Hassabis a reçu le prix Nobel 2024 pour ses travaux sur une plateforme d'IA qui prédit les structures des protéines et accélère la découverte de médicaments.
Pour les grandes entreprises technologiques, notamment Microsoft, Google et Meta, des mesures de sécurité proactives pourraient réduire le risque réglementaire à long terme. Mais la pression en faveur d'un dépistage obligatoire crée également une responsabilité potentielle pour les développeurs de modèles d'IA dont les outils pourraient être utilisés pour concevoir des séquences dangereuses, ajoutant une nouvelle dimension au débat sur la responsabilité de l'IA.
L'International Gene Synthesis Consortium, un groupe industriel dont les membres incluent Twist Bioscience et GenScript, effectue déjà un dépistage volontaire des commandes. Une exigence fédérale obligatoire garantirait que tous les fournisseurs respectent des normes cohérentes, plutôt que de créer des incitations pour les acteurs malveillants à rechercher des fournisseurs non réglementés.
Cet article est fourni à titre informatif uniquement et ne constitue pas un conseil en investissement.
