Компаниуд хиймэл оюун ухааны загваруудад их хэмжээний хөрөнгө оруулалт хийх нь зөвхөн хамгийн дэвшилтэт хувилбаруудыг сонгох хандлага руу шилжиж байна.
Хиймэл оюун ухааны (AI) технологид хэт их хөрөнгө зарцуулдаг “tokenmaxxing” буюу токенуудыг дээд зэргээр ашиглах хандлагад шүүмжлэлтэй хандах компаниуд олширч байна. Twilio компанийн гүйцэтгэх захирал AI-ийн хэрэглээ нь хөрөнгө оруулалтын өгөөжийг бодитоор нэмэгдүүлж буй эсэхийг нягтлах нь чухал бөгөөд одоогийн энэхүү хэт үрэлгэн байдал нь ирээдүйд алдаатай шийдвэр хэмээн дурсагдах болно гэж мэдэгджээ.
Гэсэн хэдий ч Shopify зэрэг компаниуд энэ байр суурийг эсэргүүцэж байна. Тус компанийн инженерийн албаны тэргүүн Фархан Тавар өндөр үнэтэй, хамгийн дэвшилтэт загваруудыг ашиглах нь токенийн зардлаас илүүтэйгээр суралцах хурдыг нэмэгдүүлж байгаа тул зардлын талаар төдийлөн санаа зовохгүй байгаагаа илэрхийлжээ.
Үүний зэрэгцээ, Olive стартапыг үүсгэн байгуулагч Билл Нгуен өнгөрсөн сард 774 тэрбум токен ашиглаж, ойролцоогоор 4.5 сая долларын зардал гаргасан байна. Тэрээр зах зээлд гарах хугацаа болон өрсөлдөөний эрсдэлийг чухалчилж буй тохиолдолд хамгийн дэвшилтэт загваруудыг сонгохоос өөр аргагүй гэж үзэж байна.
Энэхүү хандлага нь зах зээлд өндөр хүчин чадалтай, “frontier” буюу хамгийн сүүлийн үеийн загваруудад итгэх итгэл болон санхүүгийн томоохон эрсдэлийг ухамсарласан байр суурь хоёр зэрэгцэн оршиж байгааг харуулж байна.
Дэлгэрэнгүйг эх сурвалжаас харах
Эх сурвалжийг нээх ↓
A fascinating new entry in the Wall Street Journal’s CIO Journal column looks at what one might think would be the aftermath of the tokenmaxxing craze, in which companies spend as much money as possible on AI compute—but the Journal finds at least a couple businesses still acting profligate in the extreme, preferring in this case to spend a ton—but on premium-priced frontier models only.
The CEO of Twilio, a company that makes automation software that lets apps call and text people, summarizes the mood of tokenmaxxing backlash in tech right now. “The big question every company, including Twilio, has to reckon with is: Are we truly driving ROI [return on investment] with our AI usage? There will come a time when the concept of ‘tokenmaxxing’ will be remembered as completely reckless,” he told the Journal.
However, Shopify in particular isn’t having it. Apparently engineers aren’t allowed to use anything that’s not a frontier model, meaning use something expensive like OpenAI’s GPT-5.6 Sol or Anthropic’s Fable 5 or GTFO. Farhan Thawar, who heads engineering at that company tells the journal, “I typically am not as worried about token cost because I’m learning faster than I would have without the tokens.”
Meanwhile, the founder of an AI voice startup called Olive, Bill Nguyen, sounds like an old fashioned tokenmaxxer. He apparently told the Journal that in the past month he has managed to use—mostly on his own—a breathtaking 774 billion AI tokens. The estimated cost of those tokens is$4.5 million.
And, again, it’s frontier models only, Nguyen says. “If time to market and competitive risk is more important, and you’re willing to spend for it, there’s no way you’ll choose anything other than a frontier model,” he tells the Journal.
The frontier only, just like the tokenmaxxers, sound like the true believers in this religion. To compromise, and believe a non-frontier model would be worth using would show lukewarm faith.
