ИИ сломал бюджеты компаний — никто не знает, сколько нейросеть потратит на конкретную задачу
- В опросе 400 компаний за апрель–май только 11% уложились в бюджет на ИИ с допуском перерасхода до 10%.
- Исследование 6800 заданий показало: в 32% случаев менее производительная модель обходилась дороже более эффективной.
- В примере WSJ Gemini 3.1 Pro решила запрос за 85 шагов и $1, а Gemini 3 Flash потратила почти 1000 шагов и $14 без результата.
Почему это важно: Цена токена сама по себе не позволяет надёжно рассчитать общие расходы на решение задачи.
Разработчики ИИ призывают активнее внедрять новые технологии в бизнес-процессы, но проблема в том, что бизнес нередко не может предугадать, сколько именно денег будет потрачено на решение той или иной задачи силами ИИ. В этом уравнении слишком много переменных, чтобы корпоративные пользователи могли достоверно планировать свой бюджет.
Источник изображения: Unsplash, Arlington Research
Как уже не раз отмечалось, призывы руководства организаций к максимальному использованию ИИ сотрудниками в определённый момент привели к шокирующему отрезвлению. Выяснилось, что счета за использование ИИ достигают астрономических сумм, а подтвердить наличие экономического эффекта от этого нововведения порой крайне сложно. Опросы показывают, что только 11% из 400 бизнес-структур по состоянию на апрель и май текущего года могли уложиться в пределы запланированных бюджетов при оплате использования ИИ-моделей сотрудниками, причём эта выборка закладывала погрешность в 10% превышения первоначальной суммы.
В допуск от 11 до 25% превышения первоначального бюджета на ИИ уложились 39% респондентов, ещё 35% попали в более широкий диапазон превышения от 26 до 50%, а вот «промахнулись» на 50% только 13% опрошенных. Правда, 2% респондентов при этом отметили, что вообще не прогнозировали расходы данного вида.
Практическое исследование группы американских учёных и представителей Microsoft Research, которое охватило 6800 различных заданий, выявило высокую степень непредсказуемости результатов работы с ИИ-моделями с точки зрения расходования токенов, за которые обычно надо платить провайдерам. Что характерно, более продвинутые модели, которые обходятся пользователям дороже в пересчёте на каждый токен, по факту могли экономить средства пользователя лучше, чем более доступные ИИ-модели с меньшей производительностью и умеренной удельной стоимостью в пересчёте на токен.

Если более «дешёвая» ИИ-модель применяется для задач, под которые она не оптимизирована, расходы могут превысить вариант обращения к более дорогой и эффективной модели. Исследование показало, что такой перекос наблюдается в 32% случаев. Соответственно, расценки на использование ИИ-моделей сами по себе не могут служить адекватными входными данными для расчёта общих расходов на решение задачи.
На страницах The Wall Street Journal приводится пример с обработкой одного и того же запроса с помощью двух различных моделей Google: более «тяжеловесной» Gemini 3.1 Pro и более доступной и скоростной Gemini 3 Flash. Если первой удалось обработать запрос за 85 шагов, то вторая потратила на это почти 1000 шагов и после этого всё равно не справилась. Затраты в первом случае ограничились $1, а во втором выросли до $14 и фактически не обеспечили желаемого результата.
Даже одна и та же модель расходует различное количество токенов на решение задачи в рамках нескольких последовательных подходов. Соответственно, при одних и тех же условиях расходы на решение задачи будут разными, и не факт, что номинально более дешёвая в использовании ИИ-модель по итогу обеспечит самые низкие материальные затраты. Впрочем, конкретный разброс результатов сильно зависит от версий используемых в таких исследованиях моделей, поскольку они довольно быстро совершенствуются.
Представители Google пояснили, что подобная вариативность свойственна системам ИИ, и общие расходы на их применение зависят от множества разных факторов. Предсказать точную сумму затрат в столь новой сфере порой весьма затруднительно. Google пытается сгладить колебания расходов, устанавливая ограничители и предлагая различные тарифные варианты. Сотрудников компаний для лучшей предсказуемости расходов на использование ИИ тоже надо обучать наиболее эффективным приёмам работы с такими системами.
© 3DNews
