'토큰맥싱' 트렌드로 메타 엔지니어 한 명당 약 200만 달러 비용 발생

엔지니어들이 인공지능에 대한 능숙함을 보여주기 위해 방대한 양의 AI 토큰을 소비하는 '토큰맥싱(tokenmaxxing)'이라는 바이럴 트렌드가 실리콘밸리에서 논란을 일으키고 있습니다. 이 관행은 AI 도입 추진과 수백만 달러 규모의 비효율성 위험 사이의 갈등을 노출시켰습니다. 토큰 사용량을 추적하는 메타 내부 리더보드가 그 예로, 한 상위 사용자는 한 달에 약 200만 달러에 달하는 비용을 발생시킨 것으로 추정됩니다.

"개발자들은 보너스나 승진과 연결된 목표라면 무엇이든 이용하려 하며, 이번에도 다르지 않습니다."라고 'The Pragmatic Engineer' 뉴스레터의 저자 게르겔리 오로스(Gergely Orosz)는 X 게시물에서 밝혔습니다. 이 사건은 기술 기업들에게 새로운 과제를 안겨주었습니다. 바로 명확한 투자 수익 없이 운영 비용만 부풀리는 낭비적인 행동을 부추기지 않으면서도 강력한 새로운 AI 도구의 사용을 어떻게 장려할 것인가 하는 점입니다.

메타의 토큰 소비 규모는 상당했습니다. 'The Information'의 보고서에 따르면, '클로드노믹스(Claudeonomics)'라고 불리는 비공식 리더보드에서 전사적 토큰 사용량은 불과 30일 만에 6.02조 개에서 73.7조 개로 급증한 후 폐쇄되었습니다. 리더보드 1위 개인은 2,810억 개에서 3,285억 개의 토큰을 사용했는데, 이는 Anthropic 및 OpenAI와 같은 AI 제공업체의 공개 가격을 기준으로 할 때 200만 달러에 육박할 수 있는 수치입니다.

Ramp와 Gartner의 데이터에 따르면 지난 한 해 동안 기업들의 AI 관련 비용이 4배로 증가하면서, 이러한 급증세는 최고재무책임자(CFO)들에게 '조 단위 달러의 사각지대'가 되고 있습니다. 핵심 이슈는 토큰 소비가 생산성을 나타내는 의미 있는 지표인지, 아니면 단순히 엔지니어들이 가치 창출 없이 자원을 낭비하도록 부추기는 허영 지표인지 여부이며, 이는 기업 문화와 향후 AI 투자에 영향을 미칠 수 있습니다.

10억 토큰 리더보드

메타의 '클로드노믹스' 리더보드는 순위를 올리려는 열풍을 불러일으켰습니다. 직원들은 토큰 수를 부풀리기 위해 과도하게 긴 프롬프트를 설계하거나, 여러 AI 에이전트를 병렬로 실행하고, 개발자에게 토큰 사용량이 할당되는 회의 녹취 봇을 배포하는 등 다양한 전술을 동원한 것으로 알려졌습니다. 'The Information'에 따르면 일부 엔지니어들은 기능적 개선이 전혀 없는 사소한 코드 변경을 대량으로 생성하도록 AI 에이전트에게 지시하기도 했습니다. 한 직원은 내부 포럼에 "이 뒤에 숨겨진 에너지 소비량을 대략적으로 추산해 보시기 바랍니다. 황당하지 않았다면 정말 가슴 아픈 일이었을 겁니다."라고 적었습니다.

이러한 행동은 메타에만 국한된 것이 아닙니다. 아마존에서도 비슷한 사건이 발생했는데, AI 코딩 도구를 더 자주 사용하라는 매니저의 지시에 따라 엔지니어들이 사용량을 인위적으로 10배 부풀리는 스크립트를 작성하여 팀을 내부 순위 최상단에 올려놓았습니다. Khosla Ventures의 파트너인 존 추(Jon Chu)는 X를 통해 토큰 소비를 성과 지표로 사용하는 것을 "절대적으로 어리석은 정책"이라고 비판했습니다. 그러나 이러한 트렌드는 일부 업계 리더들에 의해 가속화되기도 했습니다. 엔비디아(Nvidia)의 젠슨 황 CEO는 연봉 50만 달러를 받는 엔지니어가 25만 달러 미만의 토큰을 사용한다면 "매우 우려스러울 것"이라고 언급한 바 있습니다.

인센티브의 문제

'토큰맥싱' 논란에 대응하여 일부 기업들은 소비보다는 결과에 보상하는 방식을 선택하고 있습니다. 예를 들어, 법 집행 장비 제조업체인 액손(Axon)은 연간 로드맵 목표를 15% 이상 초과 달성한 팀에게 현금 보너스를 제공합니다. 액손의 조쉬 이스너(Josh Isner) 사장은 AI 도구 사용 덕분에 2,000명의 소프트웨어 엔지니어들이 2024년 목표를 집단적으로 30% 초과 달성할 것으로 기대하면서도, 토큰 사용량으로 직원을 평가하는 것은 회사의 목표와 맞지 않는다고 밝혔습니다. 그는 "당신이 원하는 결과를 얻고 있는지 어떻게 알 수 있습니까?"라고 반문했습니다.

Box의 CEO 에런 레비(Aaron Levie)와 같은 다른 경영진은 예상되는 AI 생산성 향상을 제품 로드맵 목표에 직접 통합하여 보상에 영향을 미치도록 하고 있습니다. 논쟁의 중심은 지표로서 토큰의 가치에 있습니다. Y Combinator의 CEO 개리 탄(Garry Tan)과 같은 이들은 '토큰맥싱'을 옹호하는 반면, Linear의 COO 크리스티나 코르도바(Cristina Cordova)와 같은 비판론자들은 회의적입니다. 그녀는 "토큰 소비량으로 엔지니어의 순위를 매기는 것은 마케팅 팀을 돈을 가장 많이 쓰는 순서대로 순위를 매기는 것과 같습니다. 높은 연소율(burn rate)을 높은 성공률로 착각하지 마십시오."라고 말했습니다. 기업들이 AI 전환기를 헤쳐나가는 가운데, 디지털 낭비 문화가 아닌 진정한 혁신을 육성하는 인센티브 구조를 구축하는 것이 과제로 남아 있습니다.

이 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.