НовостьИскусственный интеллект
Qwen3.8-27B разогнали на одной RTX 3090, но цифра в 1000 токенов требует пояснения
Запуск Qwen3.8-27B на одной GeForce RTX 3090 действительно перевалил примерно за 1000 токенов в секунду, но это суммарная скорость при 64 одновременных запросах. В обычном диалоге с одним пользователем результат на порядок скромнее.