Глава Y Combinator: не экономьте на AI-токенах — это билет в будущее уже сегодня

Гарри Тан, генеральный директор акселератора стартапов Y Combinator, обратился с чётким посланием к основателям, боящимся тратить слишком много AI-токенов (единиц учёта расходов на запросы к моделям искусственного интеллекта и получение ответов): «Не экономьте на топливе». Выступая в подкасте a16z, Тан заявил, что основатели должны дать себе полную свободу в использовании AI-агентов — даже если это требует крупных затрат.

«Нужно включить это на полную мощность. Вместо того чтобы гадать, загрузить ли миллион токенов или 800 тысяч, — просто загружайте», — сказал он об использовании AI-агентов. «Сделав это, вы начинаете жить в 2028 году» — имея в виду, что уже сегодня можно пользоваться преимуществами AI, которые большинство получит лишь в будущем.

По словам Тана, эта выгода недёшева: «Использование агентов на полную мощность обходится в 50 или 100 тысяч долларов в год. Это очень большие деньги. Но для генерального директора или основателя это действительно оправдано», — сказал он. Тан отмечает, что основатели могут превратить этот дорогостоящий опыт в нечто приносящее долгосрочную выгоду: как только агент успешно справляется с задачей, её стоит превратить в «скилл» (навык) — то есть в многоразовую инструкцию, которую ИИ затем автоматически выполняет снова и снова. «Markdown-файл — это сотрудник», — сказал он. «Это сотрудник, который каждый раз безупречно выполняет задачу и делает это столько раз, сколько потребуется».

Однако Тан не одинок в этом мнении — и это далеко не бесспорная позиция: многие другие голоса в Кремниевой долине считают «токенмаксинг» (практику намеренного раздувания расхода токенов) бессмысленным. На прошлой неделе технический директор Uber Правин Неппалли Нага заявил, что компания наблюдает «любопытные данные» по расходам на ИИ, и назвал это «ещё одним признаком того, что эпоха токенмаксинга заканчивается». «Следующий этап будет определяться не тем, кто потратит больше токенов, а тем, насколько эффективно люди их используют», — написал он в X.

Генеральный директор компании по AI-программированию Cognition Скотт Ву в июне также заявил в подкасте, что компании, поощряющие токенмаксинг, «сбились с верного пути»: «Это направление в целом не ошибочно, но кое-где люди явно перегнули палку. Люди говорят: „Мы оцениваем наших инженеров по тому, сколько токенов они тратят“. Давайте лучше оценивать людей по тому, какой результат они дают», — сказал Ву.