AMD показала Threadripper Halo Station для локального запуска моделей свыше 1 трлн параметров

В показанной на IFA 2026 конфигурации установлены два Instinct MI350P, каждый с 144 ГБ HBM3E. Получается 288 ГБ быстрой памяти ускорителей, дополненных 2 ТБ системной памяти. Позже AMD планирует вариант с четырьмя MI350P и суммарными 576 ГБ HBM3E. Процессорная часть строится на 96-ядерном Ryzen Threadripper PRO, а основные вычислительные компоненты охлаждаются жидкостью.
На этом фоне заявление о работе с моделями более чем на триллион параметров выглядит менее фантастически, но воспринимать число параметров как прямую характеристику возможностей компьютера нельзя. Требования к памяти сильно зависят от формата весов и квантования, а при реальной работе место дополнительно требуется для контекста и служебных данных.
AMD пока не раскрыла, в каком именно формате и с какими ограничениями запускалась модель такого размера. Поэтому подтвержденная часть новости интереснее громкой цифры: уже показанная двухускорительная система имеет 288 ГБ HBM3E, а будущая четырехускорительная конфигурация должна удвоить этот объем. Именно объем памяти ускорителей здесь определяет класс задач гораздо точнее, чем фраза про триллион параметров.