Перейти к содержанию

Google

Чип Frozen v2 обещает эффективность в 6–10 раз

3 мин чтения

Текст написан ИИ-моделью по источникам, на которые ведут ссылки, и сверен с ними второй моделью. Как мы работаем

Google, по сообщению The Information, разрабатывает чип Frozen v2, в кремний которого напрямую встроят часть архитектуры Gemini. Инженеры проекта рассчитывают получать в 6-10 раз больше токенов на ватт, чем дают новейшие TPU самой Google. Использовать такие чипы Alphabet может начать уже в 2028 году.

Экономику проекта 16 августа разобрал Майк ДиБиаси в рассылке Stansberry Research. По его мнению, следующую фазу гонки выиграет не компания с самой умной моделью, а та, что научится отдавать ИИ дешевле всех. Название чипа описывает сам приём: часть модели навсегда «замораживается» в физическом кремнии.

Frozen v2 рассчитан на инференс, так называют генерацию ответов на запросы пользователей. Обучение модели идёт ограниченное время, инференс идёт постоянно. Каждый раз, когда Gemini просят пересказать документ или нарисовать картинку, Alphabet заново проводит цикл вычислений и тратит на него вычислительную мощность, электричество, память и пропускную способность сети. В масштабе миллиардов запросов в день, замечает ДиБиаси, эти расходы быстро растут.

Откуда может взяться выигрыш, объясняет Tech Times. Ускоритель общего назначения не знает, что ему предстоит гонять только Gemini, поэтому прямо во время работы решает, какие арифметические блоки включить, в каком порядке подтягивать данные из памяти и как передавать их между ядрами. Если архитектура зашита в чип, нужная маршрутизация уже существует физически. Обращения к внешней памяти, по словам издания, расходуют примерно на два порядка больше энергии, чем арифметические операции, которые они обслуживают, а большая модель в маленький кэш на кристалле не помещается. Поэтому Frozen v2 должен объединять несколько последовательных шагов вычислений в одну аппаратную операцию и записывать только итоговый результат, не перекладывая промежуточные значения. На обычных чипах похожее слияние операций давно делают программно.

Цифру 6-10 раз считают в токенах на единицу мощности относительно последнего поколения TPU. Tech Times подчёркивает, что Google проект официально не подтверждала, 2028 год остаётся целью из публикации, а сам показатель - прогноз инженеров, знакомых с проектом, без независимых замеров. Название «Frozen» отражает ставку на то, что архитектура Gemini устоялась достаточно, чтобы зашить её в кремний. Проектирование и производство чипа занимают годы, и расчёт делается на то, что за это время топология модели не изменится настолько, чтобы съесть выигрыш. Для моделей другой архитектуры такой чип будет мало полезен.

Как сообщает Tom's Hardware, двое источников The Information называют проект отчасти ответом на нехватку вычислительных мощностей. По их словам, она настолько острая, что Google Cloud отказывалась от сделок с внешними клиентами. В июне Financial Times сообщала, что из-за той же нехватки Google ограничила Meta доступ к Gemini.

Нагрузка, по данным разбора Stansberry, уже большая: у приложения Gemini 950 миллионов активных пользователей в месяц, а модели Google обрабатывают 22 миллиарда токенов в минуту. Если прогноз инженеров подтвердится, при той же площади дата-центров и том же энергобюджете Google, вероятно, сможет обслуживать заметно больше запросов.

Капитальные расходы Alphabet в этом году приблизятся к 205 миллиардам долларов. Операционный денежный поток компании в прошлом году составил 165 миллиардов, в этом от неё ждут около 200 миллиардов, так что капзатраты сопоставимы со всеми деньгами, которые основной бизнес, как ожидается, принесёт за год. OpenAI, Anthropic и xAI, по словам ДиБиаси, уже потеряли десятки миллиардов долларов в гонке за лучшую модель.

Больше 75% выручки Alphabet в прошлом году дала реклама, в основном поисковая. Сейчас поиск отвечает на вопросы через AI Overviews и функции на базе Gemini, и каждый такой ответ тоже требует инференса.

Google Cloud в прошлом году принесла почти 60 миллиардов долларов, около 15% выручки Alphabet. Облако выросло на 36%, почти вдвое быстрее облачных подразделений Amazon и Microsoft с их 20%, а в последнем квартале продажи Google Cloud выросли на 82%. Среди клиентов облака есть и Anthropic: компания обязалась потратить на Google Cloud 200 миллиардов долларов за пять лет.

Пока никто не написал. Будьте первым.

Присоединяйтесь к разговору

Войдите, чтобы оставить комментарий. Он появится после модерации.