Новый суперкомпьютер с искусственным интеллектом NVIDIA DGX GH200

NVIDIA представляет новый класс суперкомпьютеров с искусственным интеллектом, основанный на мощных суперчипах NVIDIA GH200 Grace Hopper и системе коммутации NVIDIA NVLink Switch System. Этот суперкомпьютер разработан для создания передовых моделей нового поколения в области генеративных языковых приложений искусственного интеллекта, рекомендательных систем и анализа данных.

Суперкомпьютер NVIDIA DGX GH200 обладает впечатляющим объемом общей памяти и использует технологию соединения NVLink с системой NVLink Switch System для объединения 256 суперчипов GH200 в единый GPU. Это обеспечивает потрясающую производительность в 1 экзафлоп и 144 терабайта общей памяти — почти в 500 раз больше, чем у предыдущего поколения NVIDIA DGXA100, представленного в 2020 году.

«Генеративный искусственный интеллект, большие языковые модели и рекомендательные системы – это цифровые двигатели современной экономики», – заявил Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA. «Суперкомпьютеры DGX GH200 на базе ИИ объединяют самые передовые ускоренные вычисления и сетевые технологии NVIDIA, чтобы расширить границы искуственного интеллекта.»

Технология NVIDIA NVLink значительно расширяет возможности искусственного интеллекта в масштабе
Суперчипы GH200 позволяют объединить процессоры NVIDIAGrace, основанные на архитектуре Arm, и графические процессоры NVIDIA H100 Tensor Core в одном корпусе, используя чиповые соединения NVIDIA NVLink-C2C. Это увеличивает пропускную способность между графическими и процессорными устройствами в 7 раз по сравнению с передовой технологией PCIe, снижает энергопотребление соединения более чем в 5 раз и обеспечивает высокопроизводительную архитектуру GPU Hopper с емкостью 600 ГБ для суперкомпьютеров DGX GH200.
DGX GH200 — первый суперкомпьютер, в котором суперчипы Grace Hopper используются в сочетании с системой коммутации NVIDIA NVLink Switch System, новым соединением, позволяющим всем графическим процессорам в системе DGX GH200 работать как единое целое. В предыдущих системах объединение восьми графических процессоров с помощью NVLink в один GPU неизбежно приводило к снижению производительности.
Архитектура DGX GH200 обеспечивает в 48 раз большую пропускную способность NVLink по сравнению с предыдущим поколением, предоставляя мощность огромного суперкомпьютера на базе искусственного интеллекта при простоте программирования одного GPU.

Новый исследовательский инструмент для пионеров искусственного интеллекта
Google Cloud, Meta и Microsoft — первые компании, получившие доступ к DGX GH200, чтобы исследовать его возможности в области генеративных рабочих нагрузок искусственного интеллекта. NVIDIA также планирует предоставить дизайн DGX GH200 в качестве образца облачным провайдерам и другим компаниям, занимающимся гипермасштабированием, чтобы они могли адаптировать его для своей инфраструктуры.

Новый суперкомпьютер NVIDIA Helios для продвижения исследований и разработок

NVIDIA создает собственный суперкомпьютер для работы с искусственным интеллектом на базе DGX GH200 для обеспечения работы своих исследователей и команд разработчиков.

Данный суперкомпьютер, получивший название NVIDIA Helios, будет включать четыре системы DGX GH200. Каждая из них будет соединена сетью NVIDIAQuantum-2 InfiniBand для увеличения пропускной способности данных при подготовке больших моделей на базе ИИ. Helios будет включать 1024 суперчипа Grace Hopper и, как ожидается, будет запущен до конца года.

Полностью интегрированный и специально разработанный для мощных моделей
Суперкомпьютеры DGX GH200 включают в себя программное обеспечение NVIDIA, предоставляющее готовое полнофункциональное решение для крупных рабочих нагрузок в области искусственного интеллекта и аналитики данных. Программное обеспечение NVIDIA Base Command предоставляет средства управления рабочими процессами искусственного интеллекта, управления корпоративными кластерами, библиотеки для ускорения вычислений, хранения и сетевой инфраструктуры, а также оптимизированное системное программное обеспечение для выполнения рабочих нагрузок искусственного интеллекта.

Также включен программный уровень NVIDIA AI Enterprise - это программное обеспечение на основе платформы искусственного интеллекта NVIDIA. Оно предоставляет более 100 фреймворков, предварительно обученных моделей и инструментов разработки для упрощения разработки и развертывания производственного искусственного интеллекта, включая генеративный искусственный интеллект, компьютерное зрение, речевой искусственный интеллект и многое другое.

Доступность
Суперкомпьютеры NVIDIA DGX GH200 появятся в продаже к концу года.