Системы Supermicro NVIDIA HGX™ B200 демонстрируют лидерство в производительности ИИ

Компания Super Micro Computer, Inc. (SMCI), поставщик комплексных ИТ-решений для искусственного интеллекта, высокопроизводительных вычислений, облачных вычислений, систем хранения данных и 5G /Edge, объявляет о выходе на рынок первой в отрасли системы с лучшими показателями производительности по нескольким тестам MLPerf Inference v5.0, используя 8-графический процессор NVIDIA HGX B200. Системы жидкостного охлаждения 4U и воздушного охлаждения 10U показали наилучшую производительность в выбранных тестах. В тестах Llama2-70B и Llama3.1-405B Supermicro продемонстрировала более чем в 3 раза более высокую скорость генерации токенов в секунду (токен/с) по сравнению с 8-графическими системами H200.

Supermicro - единственный производитель систем, опубликовавший рекордную производительность вывода MLPerf для 8-графических процессоров NVIDIA HGX B200 с воздушным и жидкостным охлаждением. Системы с воздушным и жидкостным охлаждением были введены в эксплуатацию еще до начала тестирования MLCommons. Инженеры Supermicro оптимизировали системы и программное обеспечение, продемонстрировав впечатляющую производительность. В пределах операционной рентабельности система Supermicro NVIDIA HGX B200 с воздушным охлаждением продемонстрировала тот же уровень производительности, что и система HGX B200 с жидкостным охлаждением. 

SYS-421GE-NBRT-LCC (8-кратный NVIDIA HGX B200-SXM-180 ГБ) и SYS-A21GE-NBRT (8-кратный NVIDIA HGX B200-SXM-180 ГБ) продемонстрировали лидирующую производительность при выполнении теста Mixtral 8x7B Inference, составленного экспертами, со скоростью 129 000 токенов в секунду. Системы на базе NVIDIA HGX B200 с воздушным и жидкостным охлаждением Supermicro обеспечивают производительность более 1000 токенов в секунду для большой модели Llama3.1-405b, в то время как возможности графических процессоров предыдущих поколений намного ниже. Используя тест LLAMA2-70b, система Supermicro с установленным процессором NVIDIA HGX B200 SXM-180GB для решения небольших задач логического вывода, демонстрирует высочайшую производительность среди систем первого уровня.

Supermicro предлагает широкий ассортимент систем искусственного интеллекта с более чем 100 графическими процессорами, оптимизированными для графических процессоров, как с воздушным, так и с жидкостным охлаждением, а также различные процессоры - от однопроцессорных до 8-сторонних многопроцессорных систем. Стоечные системы Supermicro включают в себя вычислительные, СХД и сетевые компоненты, что сокращает время, необходимое для их установки после доставки на объект заказчика.

В 8-графических процессорах NVIDIA HGX B200 от Supermicro используются технологии жидкостного и воздушного охлаждения нового поколения. Недавно разработанные холодильные плиты и новый блок распределения охлаждающей жидкости (CDU) мощностью 250 кВт более чем в два раза превосходят холодопроизводительность предыдущего поколения в том же форм-факторе 4U. Доступные в конфигурациях 42U, 48U или 52U стеллажи с новыми вертикальными распределительными коллекторами охлаждающей жидкости (CDM) больше не занимают много места в ценных стеллажах. Это позволяет использовать восемь систем, содержащих 64 графических процессора NVIDIA Blackwell в 42-дюймовой стойке, и до 12 систем с 96 графическими процессорами NVIDIA Blackwell в 52-дюймовой стойке.

Новая 10-дюймовая система NVIDIA HGX B200 с воздушным охлаждением оснащена переработанным корпусом с увеличенным тепловым запасом для размещения восьми графических процессоров Blackwell с TDP мощностью 1000 Вт. До 4 новых систем с воздушным охлаждением емкостью 10U могут быть установлены и полностью интегрированы в стойку с той же плотностью, что и у предыдущего поколения, обеспечивая при этом до 15-кратную точность вывода и 3-кратную эффективность обучения.

Приобрести продукцию SUPERMICRO можно на официальном сайте поставщика в России.