Une tendance virale connue sous le nom de « tokenmaxxing » suscite la controverse dans la Silicon Valley, alors que les ingénieurs rivalisent pour consommer de vastes quantités de jetons (tokens) d'IA afin de signaler leur compétence en intelligence artificielle. Cette pratique a mis en évidence un fossé entre la volonté d'adoption de l'IA et le risque d'inefficacités de plusieurs millions de dollars, illustré par un classement interne chez Meta qui suivait l'utilisation des jetons, avec un utilisateur de premier plan accumulant environ 2 millions de dollars de coûts en un seul mois.
« Les développeurs détourneront n'importe quel objectif lié aux bonus ou aux promotions, et cette fois n'est pas différente », a déclaré Gergely Orosz, auteur de la newsletter The Pragmatic Engineer, dans un message sur X. L'incident souligne un défi croissant pour les entreprises technologiques : comment encourager l'utilisation de nouveaux outils d'IA puissants sans inciter à des comportements de gaspillage qui gonflent les coûts d'exploitation sans retour sur investissement clair.
L'ampleur de la consommation de jetons chez Meta était substantielle. Selon un rapport de The Information, un classement non officiel appelé « Claudeonomics » a vu l'utilisation des jetons à l'échelle de l'entreprise passer de 6,02 billions à 73,7 billions en seulement 30 jours avant d'être retiré. Le premier individu au classement a consommé entre 281 milliards et 328,5 milliards de jetons, un chiffre qui pourrait approcher les 2 millions de dollars selon les tarifs publics des fournisseurs d'IA comme Anthropic et OpenAI.
Cette envolée des dépenses liées à l'IA, qui ont quadruplé pour les entreprises au cours de l'année écoulée selon les données de Ramp et Gartner, devient un « angle mort de plusieurs billions de dollars » pour les directeurs financiers. La question centrale est de savoir si la consommation de jetons est un indicateur pertinent de la productivité ou simplement une mesure de vanité qui encourage les ingénieurs à brûler des ressources sans créer de valeur, ce qui pourrait avoir un impact sur la culture d'entreprise et les futurs investissements en IA.
Le classement des milliards de jetons
Le classement « Claudeonomics » chez Meta a déclenché une frénésie d'activité visant à grimper dans les rangs. Les employés auraient eu recours à diverses tactiques pour gonfler leur nombre de jetons, notamment en concevant des messages (prompts) excessivement longs, en exécutant plusieurs agents d'IA en parallèle et en déployant des robots de transcription de réunions dont l'utilisation de jetons était créditée au développeur. Certains ingénieurs auraient ordonné à des agents d'IA de générer de gros volumes de modifications de code insignifiantes n'offrant aucune amélioration fonctionnelle, selon The Information. « J'invite tout le monde à estimer grossièrement la consommation d'énergie derrière cela », a écrit un employé sur un forum interne. « Si ce n'était pas si absurde, ce serait déchirant. »
Ce comportement n'est pas propre à Meta. Un incident similaire s'est produit chez Amazon, où la directive d'un manager d'utiliser plus fréquemment un outil de codage IA a conduit les ingénieurs à écrire un script qui gonflait artificiellement leur utilisation par 10, propulsant l'équipe en tête d'un classement interne. Jon Chu, associé chez Khosla Ventures, a qualifié l'utilisation de la consommation de jetons comme mesure de performance de « politique absolument stupide » sur X. La tendance a toutefois été alimentée par certains leaders de l'industrie, le PDG de Nvidia, Jensen Huang, déclarant qu'il serait « profondément alarmé » si un ingénieur gagnant 500 000 dollars par an utilisait moins de 250 000 dollars de jetons.
Une question d'incitations
En réponse au débat sur le « tokenmaxxing », certaines entreprises choisissent délibérément de récompenser les résultats plutôt que la consommation. Par exemple, le fabricant d'équipements de sécurité Axon offre des bonus en espèces aux équipes qui dépassent leurs objectifs annuels d'au moins 15 %. Josh Isner, président d'Axon, s'attend à ce que ses 2 000 ingénieurs logiciels dépassent collectivement leurs objectifs de 2024 de 30 %, principalement grâce à l'utilisation d'outils d'IA, mais a déclaré que l'évaluation des employés sur l'utilisation des jetons n'est pas alignée sur les objectifs de l'entreprise. « Comment savez-vous que vous obtenez les résultats que vous voulez ? » a-t-il demandé.
D'autres dirigeants, comme Aaron Levie, PDG de Box, intègrent les gains de productivité attendus de l'IA directement dans les objectifs de la feuille de route produit, ce qui influence ensuite la rémunération. Le débat se concentre sur la valeur du jeton en tant qu'indicateur. Alors que certains, comme le PDG de Y Combinator Garry Tan, défendent le « tokenmaxxing », des critiques comme la directrice de l'exploitation de Linear, Cristina Cordova, sont plus sceptiques. « Classer les ingénieurs par consommation de jetons, c'est comme si je classais mon équipe marketing par celui qui dépense le plus d'argent », a-t-elle déclaré. « Ne confondez pas un taux de combustion élevé avec un taux de réussite élevé. » Alors que les entreprises naviguent dans la transition vers l'IA, le défi reste de construire des structures d'incitation qui favorisent l'innovation authentique plutôt qu'une culture du gaspillage numérique.
Cet article est à titre informatif uniquement et ne constitue pas un conseil en investissement.