MoE

Ling-3.0-tiny запускается на Mac mini и требует меньше памяти за счет MoE

Ling-3.0-tiny получил открытые веса и рассчитан на локальный запуск без мощных серверов. Модель использует 7,9 млрд параметров, но активирует только 1,3 млрд параметров на каждый токен, что снижает требования к оборудованию.