La tendencia del 'Tokenmaxxing' le cuesta a Meta casi 2 millones de dólares por un solo ingeniero

Una tendencia viral conocida como "tokenmaxxing" está causando controversia en Silicon Valley, ya que los ingenieros compiten por consumir grandes cantidades de tokens de IA para señalar su competencia con la inteligencia artificial. La práctica ha expuesto una brecha entre el impulso por la adopción de la IA y el riesgo de ineficiencias de millones de dólares, ejemplificado por una tabla de clasificación interna de Meta que rastreaba el uso de tokens, con un usuario superior acumulando un costo estimado de 2 millones de dólares en un solo mes.

"Los desarrolladores manipularán cualquier objetivo vinculado a bonos o promociones, y esta vez no es diferente", dijo Gergely Orosz, autor del boletín The Pragmatic Engineer, en una publicación en X. El incidente destaca un desafío creciente para las empresas tecnológicas: cómo fomentar el uso de nuevas y potentes herramientas de IA sin incentivar un comportamiento derrochador que infla los costos operativos sin un retorno de inversión claro.

La escala del consumo de tokens en Meta fue sustancial. Según un informe de The Information, una tabla de clasificación no oficial llamada "Claudeonomics" vio el uso de tokens en toda la empresa crecer de 6,02 billones a 73,7 billones en solo 30 días antes de ser eliminada. El individuo superior en la tabla consumió entre 281.000 millones y 328.500 millones de tokens, una cifra que podría acercarse a los 2 millones de dólares según los precios públicos de proveedores de IA como Anthropic y OpenAI.

Este aumento en los gastos relacionados con la IA, que se han cuadruplicado para las corporaciones durante el último año según datos de Ramp y Gartner, se está convirtiendo en un "punto ciego de un billón de dólares" para los directores financieros. El problema central es si el consumo de tokens es un indicador significativo de la productividad o simplemente una métrica de vanidad que anima a los ingenieros a quemar recursos sin crear valor, afectando potencialmente la cultura corporativa y las futuras inversiones en IA.

La tabla de clasificación de los mil millones de tokens

La tabla de clasificación "Claudeonomics" en Meta desató un frenesí de actividad destinado a escalar en las filas. Según se informa, los empleados recurrieron a varias tácticas para inflar sus recuentos de tokens, incluyendo el diseño de prompts excesivamente largos, la ejecución de múltiples agentes de IA en paralelo y el despliegue de bots de transcripción de reuniones donde se acreditaba al desarrollador el uso de los tokens. Algunos ingenieros supuestamente ordenaron a los agentes de IA generar grandes volúmenes de cambios de código triviales que no ofrecían ninguna mejora funcional, según The Information. "Invito a todos a estimar aproximadamente el consumo de energía detrás de esto", escribió un empleado en un foro interno. "Si no fuera tan absurdo, sería desgarrador".

Este comportamiento no es exclusivo de Meta. Un incidente similar ocurrió en Amazon, donde la directiva de un gerente de usar una herramienta de codificación de IA con más frecuencia llevó a los ingenieros a escribir un script que inflaba artificialmente su uso por 10 veces, catapultando al equipo a la cima de una clasificación interna. Jon Chu, socio de Khosla Ventures, calificó el uso del consumo de tokens como métrica de rendimiento como una "política absolutamente estúpida" en X. Sin embargo, la tendencia ha sido alimentada por algunos líderes de la industria; el CEO de Nvidia, Jensen Huang, declaró que estaría "profundamente alarmado" si un ingeniero que gana 500.000 dólares al año usara menos de 250.000 dólares en tokens.

Una cuestión de incentivos

En respuesta al debate sobre el "tokenmaxxing", algunas empresas están eligiendo deliberadamente recompensar los resultados en lugar del consumo. El fabricante de equipos policiales Axon, por ejemplo, ofrece bonos en efectivo a los equipos que superan sus objetivos anuales en al menos un 15 por ciento. Josh Isner, presidente de Axon, espera que sus 2.000 ingenieros de software superen colectivamente sus objetivos de 2024 en un 30 por ciento, en gran parte debido al uso de herramientas de IA, pero afirmó que evaluar a los empleados por el uso de tokens no está alineado con los objetivos de la empresa. "¿Cómo sabes que estás obteniendo los resultados que deseas?", preguntó.

Otros ejecutivos, como el CEO de Box, Aaron Levie, están integrando las ganancias de productividad de IA esperadas directamente en los objetivos del roadmap del producto, lo que luego influye en la compensación. El debate se centra en el valor del token como métrica. Mientras que algunos, como el CEO de Y Combinator, Garry Tan, defienden el "tokenmaxxing", críticos como la COO de Linear, Cristina Cordova, son más escépticos. "Clasificar a los ingenieros por consumo de tokens es como si yo clasificara a mi equipo de marketing por quién gasta más dinero", dijo. "No confunda una alta tasa de gasto con una alta tasa de éxito". A medida que las empresas navegan por la transición a la IA, el desafío sigue siendo construir estructuras de incentivos que fomenten la innovación genuina en lugar de una cultura de desperdicio digital.

Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.