Nvidia Tesla H100 NVL

Вот так выглядит видеокарта Nvidia Tesla H100 NVL — одна из трёх карт, на которых мы гоняем различные модели искусственного интеллекта. Сбоку видно, что она большая, но и толщина у неё огого — в два пальца. Извините, что не достал, страшно доставать карту стоимостью в несколько миллионов из антистатического пакетика — вдруг статикой убъёшь.

На этой карте мы гоняем небольшие пока модели — примерно 30—32 миллиарда параметров (Qwen3, Magistral, Mistral, T-Pro 2 и так далее), но в перспективе там будет работать что-то побольше — ≈600 миллиардов или около того.

К слову, взаимодействие с хвалёной моделью T-Pro 2 (её делал Т-Банк) меня как-то разочаровало — медленная и иногда циклится на цифрах. Я попробовал её, помимо всего прочего, на написании эскуэль-запросов, так она иногда вместо имён таблиц внезапно начинает генерить огромные числа. Я ни разу не дождался конца, поэтому не знаю есть ли там вообще конец.

Рука в сером рукаве держит серебристый фольгированный пакет с наклейкой, на фоне стены с изображением белой птицы и цветного ковра.

gpuИИ

Комментарии 3

Dmitry Smirnov № 1
Люто, бешенно завидую. Это ты прям себе в собственность купил? Или у тебя компания, которая купила? Как бы хотелось такое иметь в ноутбуке!…. Но конечно такая карта, это пока еще не в ноутбуке ни разу ))))

Удачи с экспериментами….

Я купил себбе грока4 за 30 баксов в месяц. И смог с ним закрыть детский гештальт -- фехтование 2д скелетиками ))) И парсер русского языка для текстовых адвенчур….

Авторизация вк что-то таймаутит и показывает в окошке честный пхп-стектрейс )))

а при авторизации через емейл и вовсе говорят, что я похож на спам
Ответить