Alphabet представила восьмое поколение своих чипов Tensor Processing Units, или TPU, предназначенных для задач искусственного интеллекта. Новые ускорители могут стать дополнительным фактором роста для акций компании, поскольку Alphabet усиливает свои позиции в ИИ за счет собственных специализированных чипов.
Компания использует TPU не только для внутренних вычислительных процессов, но и для обучения своей большой языковой модели Gemini, а также для инференса — работы модели на этапе применения. Это дало Alphabet заметное структурное преимущество по издержкам перед конкурентами, которые по-прежнему в значительной степени зависят от графических процессоров Nvidia для ИИ-нагрузок.
С выходом восьмого поколения Alphabet разделила TPU на два направления: одну версию для обучения моделей, другую — для инференса. Такой подход компания применяет на фоне того, что инференс занимает все большую долю рынка искусственного интеллекта.
Если чип седьмого поколения Ironwood уже создавался с учетом задач инференса, то новый TPU 8i разработан специально для инференса и агентного ИИ. В чипе увеличены объемы статической памяти SRAM и высокоскоростной памяти HBM, чтобы сократить задержки, возникающие при передаче данных между чипами. Кроме того, его можно использовать в паре с центральным процессором Axiom, разработанным Alphabet, для более эффективной работы с агентным ИИ.
По данным Alphabet, новые чипы обеспечивают «на 80% лучшую производительность на доллар» по сравнению с TPU предыдущего поколения.
Alphabet начала разрабатывать TPU более десяти лет назад как более дешевый способ выполнения собственных рабочих процессов и со временем выстроила вокруг этих чипов всю свою аппаратную и программную экосистему. Важным шагом стало и то, что компания отошла от фреймворка TensorFlow, в честь которого названы TPU, что в итоге помогло ее чиповому направлению занять нынешние позиции.
Поддержка PyTorch и JAX — нового внутреннего фреймворка компании — открыла возможность клиентам Alphabet внедрять TPU в крупном масштабе. Это также создает новые источники выручки: чипы все шире применяются в Google Cloud, облачном подразделении компании, и даже продаются напрямую через партнера по совместной разработке Broadcom, производителя полупроводников.
Источник: The Motley Fool
