Результат получен с моделью Qwen3.6-35B-A3B в формате NVFP4 при 512 одновременных запросах. Поэтому 2,25 млрд токенов в сутки нельзя воспринимать как универсальную производительность для любой LLM. Это показатель пропускной способности в конкретном сценарии с большим числом параллельных задач.
В основе W775-V10-L01 лежит NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip. Процессор Grace содержит 72 ядра Arm Neoverse V2 и работает с 496 ГБ LPDDR5X. У Blackwell Ultra есть еще 252 ГБ HBM3E с пропускной способностью 7,1 ТБ/с. В сумме официальная спецификация GIGABYTE заявляет до 748 ГБ когерентной памяти. CPU и GPU связаны через NVLink-C2C с пропускной способностью 900 ГБ/с.
Отдельный интерес представляет сеть. ConnectX-8 SuperNIC оснащен двумя портами по 400 Гбит/с. Тестирование показало 784,3 Гбит/с полезной пропускной способности между Blackwell Ultra GPU при использовании двух линий. Связь со стороны Grace CPU оказалась заметно уже: 228,9 Гбит/с. Причина в архитектуре системы: GPU соединен с ConnectX-8 напрямую через PCIe Gen6 x16, тогда как CPU использует PCIe Gen5 x8.
