GPU: B300 vs H100 NVL vs H100 vs RTX 6000 Pro

А это сырые пока данные, сведённые из нескольких разных тестов по двум разным моделям — полной «Квен3-30» (A3B) и квантованная «Квен3.5-35» (A3B) на нескольких ускорителях. Самое интересное тут — B300, я про это ещё напишу подробнее отдельно.

Таблица сравнения Qwen3-30B и Qwen3.5-35B на GPU NVIDIA DGX B300, H100, RTX 6000 Pro при 200 и 500 req/s: метрики Output/Total tok/s, TTFT.

gpuИИпрограммирование