Чип Frozen v2 обещает эффективность в 6–10 раз

Alphabet разрабатывает специализированный чип Frozen v2 для инференса, который, по данным отчёта The Information, будет в 6–10 раз эффективнее нынешних ИИ-чипов компании. Об этом со ссылкой на этот отчёт пишет Stansberry Research; применять такие чипы Alphabet может начать уже в 2028 году.

Коротко

• Часть архитектуры Gemini предлагается навсегда вытравить в кремнии: такой подход сокращает перемещение данных внутри чипа и объём вычислений, которые требуются для генерации одного ответа модели, отсюда и рабочее название Frozen.
• Чип ориентирован на инференс, то есть на генерацию ответов уже обученной моделью: обучение идёт ограниченный период, а инференс выполняется постоянно и определяет текущие расходы на электроэнергию и вычисления.
• Alphabet ожидает капитальные затраты около $205 млрд в этом году и опирается на операционный денежный поток, который в прошлом году составил $165 млрд, а в этом ожидается близким к $200 млрд.

Ставка выглядит как смена критерия конкуренции: при примерно сопоставимых возможностях моделей преимущество получает тот, кто дешевле обслуживает каждый запрос. Обучение оплачивается один раз, а инференс тянется всё время жизни продукта, поэтому именно он определяет, окупается ли модель. Для Alphabet удешевление ответа, вероятно, важно сразу в двух местах: в поиске, где ИИ встроен в основной рекламный продукт, и в облаке, где ценой можно забирать долю рынка.

Frozen v2 закрепляет часть архитектуры Gemini в кремнии

По отчёту The Information, Alphabet встроит архитектурные элементы модели Gemini непосредственно в чип. Название Frozen отсылает к тому, что часть модели навсегда фиксируется в физическом кремнии, что уменьшает перемещение данных и снижает объём вычислений, необходимых для формирования одного ответа уже обученной моделью.

Каждый запрос к Gemini, будь то краткое изложение документа или генерация изображения, требует нового цикла вычислений и расходует вычислительные мощности, электроэнергию, память и сетевую полосу. При миллиардах обращений в день эти издержки быстро растут, и на них рассчитан новый чип.

ИИ-дата-центры дороги не только в строительстве: они непрерывно потребляют электроэнергию, выполняя вычисления в облаке, и счёт идёт на миллиарды долларов ещё до того, как модель начнёт отвечать пользователям. Разработка моделей уже обошлась отрасли дорого: OpenAI, Anthropic и xAI потеряли десятки миллиардов долларов в попытке построить лучшую модель.

Капитальные затраты Alphabet в этом году приблизятся к $205 млрд

Alphabet ожидает, что капитальные затраты в этом году приблизятся к $205 млрд. Такой уровень вложений опирается на собственный денежный поток: в прошлом году операционная деятельность принесла компании $165 млрд, а в этом году, по данным Stansberry Research, ожидается около $200 млрд.

Реклама остаётся главным источником выручки Alphabet: в прошлом году на неё пришлось более 75% продаж, и основная её часть приходит из поиска Google. Вместо перечня ссылок поиск теперь показывает AI Overviews и функции на базе Gemini, которые отвечают на вопросы, обобщают информацию и сравнивают товары.

По изложению Stansberry Research, более точное понимание намерения пользователя даёт возможность показывать релевантную рекламу, поэтому ИИ в поиске работает на защиту основного бизнеса. Миллиарды людей пользуются продуктами Alphabet ещё до того, как обращаются к ИИ напрямую. Компания планирует использовать ИИ для дальнейшего роста этих направлений.

Google Cloud вырос на 82% в последнем отчётном квартале

Облачный бизнес принёс Alphabet почти $60 млрд выручки в прошлом году, около 15% продаж компании, и растёт быстрее конкурентов: продажи Google Cloud прибавили 36% против 20% у облачных подразделений Amazon и Microsoft. В последнем отчётном квартале рост Google Cloud ускорился до 82%.

Приложение Gemini насчитывает 950 млн активных пользователей в месяц, а модели Alphabet обрабатывают 22 млрд токенов в минуту. Токен, наименьшая единица текста для модели, соответствует примерно четырём символам. В инженерной среде всё чаще обсуждают эффективность инференса и стоимость одного токена.

Разработчики моделей арендуют инфраструктуру Alphabet, поскольку строить собственные дата-центры такого масштаба им не по средствам. Anthropic, клиент Google Cloud, недавно взяла на себя обязательство потратить $200 млрд на облачные сервисы Google в течение ближайших пяти лет. Дата-центры обеспечивают и обучение, и инференс.

2028 год как единственный ориентир По отчёту The Information, Alphabet может начать использовать Frozen v2 уже в 2028 году; ни сроков запуска производства, ни стоимости, ни объёмов выпуска в изложении Stansberry Research не приводится. Frozen v2 остаётся неанонсированным продуктом, а кратность 6–10 приводится по отчёту The Information и не подтверждена измерениями. Нынешние ИИ-чипы Alphabet в отчёте описаны как одни из лучших в отрасли.