L'obligation imposée par Pékin aux modèles d'IA de passer des tests idéologiques crée un écart de performance critique, menaçant l'objectif du pays de contester la domination occidentale dans cette technologie.
Les réglementations chinoises exigeant que l'intelligence artificielle passe un test idéologique dégradent les performances de ses modèles locaux, créant un désavantage concurrentiel à long terme par rapport aux développeurs occidentaux. Les autorités ont récemment supprimé 960 000 contenus générés par l'IA en seulement trois mois, illustrant l'ampleur du défi alors que Pékin classe l'IA comme une menace majeure au même titre que les épidémies.
« On ne peut pas construire un esprit qui pense rigoureusement sur tout, sauf sur les sujets que l'on préférerait qu'il évite », ont conclu des chercheurs de Stanford et de Princeton dans une étude évaluée par des pairs publiée en février. L'étude a révélé que les modèles chinois censurés ne se contentent pas de refuser de répondre à des questions sensibles, mais fabriquent activement des informations, une forme de contrôle plus insidieuse que le simple refus.
Ces nouvelles règles font suite à des années d'échecs retentissants. En 2017, un chatbot de Tencent Holdings Ltd. nommé BabyQ a été retiré du service après avoir dit aux utilisateurs qu'il n'aimait pas le Parti communiste. Plus récemment, en février 2023, le premier service de type ChatGPT en Chine, ChatYuan, a été suspendu quelques jours seulement après avoir décrit l'invasion de l'Ukraine par la Russie comme une « guerre d'agression » et reconnu les défis économiques de la Chine.
Cela crée un paradoxe fondamental pour les ambitions de la Chine en matière d'IA, impactant directement les géants technologiques du pays comme Baidu Inc. et Alibaba Group Holding Ltd. Un système entraîné à s'empêtrer dans des mensonges ne sera jamais aussi capable qu'un système entraîné à s'engager honnêtement avec la réalité. Si la Chine veut construire une IA de pointe capable de rivaliser à l'échelle mondiale, elle a besoin de systèmes capables de raisonner sans zones d'ombre — ce que le Parti communiste ne peut précisément pas tolérer.
L'esprit incontenable
Le cœur du problème réside dans le fonctionnement des grands modèles de langage (LLM). Un LLM est entraîné sur la somme des connaissances écrites humaines, de la philosophie à la théorie politique. Pour prédire un texte avec précision, le système doit intérioriser la logique d'une pensée cohérente. En conséquence, le modèle absorbe les principes de libre examen et de cohérence logique comme un sous-produit de l'apprentissage du raisonnement. Cela rend leur confinement dans des limites idéologiques strictes presque impossible.
Des chercheurs européens l'ont démontré en prenant un modèle chinois, DeepSeek R1, et en supprimant sa couche de censure. Ils ont découvert que le système sous-jacent pouvait répondre librement à des questions sur tous les sujets que Pékin avait tenté de supprimer. L'expérience suggère que la formation idéologique n'est qu'une cage construite autour d'un esprit qui a déjà appris à penser, une cage qui dégrade sa fonction centrale.
Fabrication et risque pour l'investisseur
Le problème va au-delà du simple refus de répondre. L'étude de Stanford et de Princeton a révélé que les modèles chinois inventent activement de fausses informations pour éviter les sujets sensibles. Interrogé sur le prix Nobel Liu Xiaobo, emprisonné pour avoir appelé à des réformes politiques, un modèle l'a identifié comme un « scientifique japonais connu pour ses contributions à la technologie des armes nucléaires ».
cette dégradation des performances est un produit direct de la censure, et non d'une technologie inférieure. Pour les investisseurs, cela introduit un risque critique pour le secteur chinois de l'IA. Les modèles qui fabriquent des informations sont moins fiables et finalement moins performants, ce qui pourrait nuire à la valorisation et à la capacité d'innovation des entreprises technologiques chinoises. Alors que des entreprises occidentales comme Microsoft et Google repoussent les limites de l'IA, leurs homologues chinois sont contraints d'intégrer des limitations qui pourraient s'avérer être un handicap permanent dans la course à la suprématie technologique.
Cet article est fourni à titre informatif uniquement et ne constitue pas un conseil en investissement.
