Китай создал нейроморфный ИИ-сервер размером с мини-холодильник
Китайские учёные представили ИИ-сервер BIE-1, вдохновлённый работой человеческого мозга. Устройство размером с мини-холодильник оснащено 1152 процессорными ядрами и 4,8 ТБ памяти DDR5 и, по утверждениям разработчиков, потребляет на 90 % меньше энергии по сравнению со стандартными серверами ИИ в дата-центрах.
Как сообщает South China Morning Post, сервер BI Explorer 1 (BIE-1) был представлен Гуандунским институтом интеллектуальных наук и технологий (GDIIST) на презентации в Макао. Разработчики сравнили его размер с мини-холодильником и отметили, что при максимальной нагрузке температура процессоров не превышает 70 °C.
Несмотря на заявления о «первом в мире мозгоподобном вычислительном устройстве», нейроморфные вычисления не являются новой областью. Например, система Intel Hala Point основана на 1152 чипах Loihi 2, каждый из которых способен имитировать один миллион нейронов. Другой пример — SpiNNaker 2, который также работает без SSD, HDD или GPU, выполняя вычисления по принципам, аналогичным работе мозга.
Отличительной чертой BIE-1 являются его компактные размеры и заявленная энергоэффективность. В отличие от Hala Point и SpiNNaker 2, требующих нескольких серверных стоек, BIE-1 представляет собой автономное устройство, работающее от бытовой электросети. Разработчики утверждают, что оно потребляет в десять раз меньше энергии, чем «суперкомпьютер размером с комнату», обеспечивая при этом сопоставимую производительность. Однако из-за расплывчатого определения термина «суперкомпьютер» данное утверждение трудно проверить.
На сайте GDIIST отмечается, что BIE-1 «отличается низким энергопотреблением и низким уровнем шума и может считаться миниатюризированным суперкомпьютером, делающим передовые интеллектуальные вычисления доступными». Устройство, по словам разработчиков, можно развернуть в домашних условиях, небольших офисах и даже в мобильных средах.
BIE-1 оснащён 1152 процессорными ядрами (совпадает с количеством чипов Loihi 2 в Hala Point), 4,8 ТБ памяти DDR5 и 204 ТБ хранилища. Аппаратное и программное обеспечение разработаны независимо и специально для имитации нейронов мозга и работы с нейросетевыми моделями ИИ. Устройство выполняет стандартные задачи обучения и инференса ИИ нестандартным способом.
Исследователи заявляют, что BIE-1 достигает скорости обучения 100 000 токенов в секунду и скорости инференса 500 000 токенов в секунду. Для сравнения, флагманский ИИ-сервер Nvidia Blackwell GB200 NVL72 заявлен с производительностью инференса 1,5 миллиона токенов в секунду.
BIE-1 может значительно упростить доступ к нейроморфным вычислениям для инженеров, поскольку поставляется как единое устройство, а не как часть стоечной инфраструктуры или экосистемы дата-центра. GDIIST надеется, что сервер найдёт применение в таких важных областях, как медицинские исследования.
Информация о цене и доступности BIE-1 пока отсутствует, особенно в западных источниках. Однако учитывая наличие более чем 200 ТБ высокоскоростного хранилища и передовых характеристик, стоимость устройства, вероятно, будет очень высокой. Если заявленные характеристики окажутся хотя бы частично верными, BIE-1 станет значительным достижением в области нейроморфных вычислений и китайского ИИ-оборудования.
Поделиться
