Google reportedly taps AMD to design next-generation TPU
Согласно сообщению аналитической компании SemiAnalysis, Google объединился с AMD для разработки одного из ускорителей TPUs 10-го поколения. Аналитики SemiAnalysis полагают, что Google может быть заинтересован в использовании CPU-ядер AMD для рабочих нагрузок с высокой интенсивностью использования центрального процессора. Если информация верна, это сотрудничество станет первым крупным участием AMD в проекте по созданию специализированной интегральной схемы (ASIC) для ИИ и может указывать на то, что Google изучает новый тип TPU, который сочетает собственную технологию ускорителей с универсальными ядрами на кристалле для задач, требующих высокой производительности CPU.
«Рыночные слухи предполагают, что [Google] работает с AMD над проектом TPU поколения v10», — говорится в заметке SemiAnalysis для клиентов, процитированной Симоном. «Участие AMD станет первым реальным участием в проекте по созданию кастомной ИИ-ASIC, несмотря на наличие собственной команды по разработке кремния. У AMD есть сильные интеллектуальные права, особенно в области передовых методов упаковки и технологии SoIC. Кроме того, CPU IP также может быть привлекательным, учитывая, что Google и его клиенты требуют TPUs с CPU-ядрами на кристалле для задач обучения с подкреплением».
Разработав девять поколений собственных ИИ-ускорителей (при этом Broadcom выступал фактическим дизайнером кремния) и обладая обширным опытом в архитектуре ускорителей, Google едва ли нуждается в AMD для проектирования обычного TPU. Следовательно, вероятность того, что AMD реализует TPU v10i для вывода или V10t для обучения, низка. Вероятно, Google нуждается в том, что может предоставить только производитель CPU, таком как AMD, включая CPU IP, программируемую логику, интерфейсы связи или определенные знания в области передовых методов упаковки.
CPU-аспект особенно примечателен. SemiAnalysis утверждает, что Google и его клиенты требуют TPUs с CPU-ядрами на кристалле для обучения с подкреплением и потенциально других рабочих нагрузок с высокой интенсивностью использования CPU. Хотя традиционное обучение больших языковых моделей остается преимущественно ориентированным на ускорители, обучение с подкреплением для моделей рассуждения и агентных моделей может требовать значительно больше вычислительных мощностей общего назначения вокруг операций ускорителей.
Google уже начал увеличивать ресурсы CPU вокруг своих новейших ускорителей TPUs, ориентированных на вывод. Его системы TPU 8i, разработанные для вывода, рассуждений и задач обучения с подкреплением, включают один процессор Google Axion CPU на два TPUs. В??, серверы, работающие с TPUs 7-го поколения Google, использовали один процессор Xeon 'Emerald Rapid' на четыре TPUs. Кроме того, мы слышим, что в некоторых случаях соотношение 1:1 между CPU и ускорителями является оптимальным, поэтому будущее ИИ может быть гораздо более CPU-интенсивным, чем мы думаем.
Одновременно с этим, интеграция CPU-ядер непосредственно в пакет TPU может быть логическим следующим шагом, поскольку сокращение расстояния между вычислениями общего назначения и тензорными вычислениями может повысить производительность и снизить энергопотребление. Здесь в игру вступает AMD, так как она уже имеет опыт разработки дизайна уровня центра обработки данных — Instinct MI300A — который объединяет чиплеты x86 и ускорителей. Гипотетический дизайн Google мог бы поэтому объединить чиплеты вычислений TPU, разработанные Google, с CPU AMD и HBM в тесно интегрированном пакете, созданном AMD. Возможно, Intel могла бы появиться как другой потенциальный кандидат, учитывая, что Google и Intel имеют несколько стратегических сотрудничества. Однако у Intel нет опыта создания гибридных дизайнов центров обработки данных x86+ускоритель.
На данный момент характер предполагаемого участия AMD остается неясным. Тем не менее, если отчет действительно точен, важной разработкой может быть не то, что AMD помогает Google построить еще один TPU. Вместо этого имеет значение, что Google рассматривает нового CPU-интенсивного участника своей семьи TPU v10, оптимизированного специально для задач RL и агентных нагрузок, и использует AMD как поставщика некоторых строительных блоков, необходимых для его создания.
Поделиться
