Nvidia представляет совершенно новый тип Ethernet для генеративного ИИ

Команда Nvidia раскрыла подробности о новой сетевой платформе, разработанной специально для генеративных рабочих нагрузок ИИ, обещающей молниеносную работу в сети без потерь.

Nvidia представляет совершенно новый тип Ethernet для генеративного ИИ. Фото: из архива компании

Новая технология компании под названием Spectrum-X построена с использованием Ethernet-коммутатора Spectrum-4 и DPU BlueField-3 и обещает увеличение производительности и энергоэффективности в 1,7 раза.

Из сообщения компании:

«Предоставление сквозных возможностей сокращает время работы массивных моделей генеративного ИИ на основе трансформаторов», что, в свою очередь, позволяет компаниям работать и принимать решения быстрее, обеспечивая экономию средств. Spectrum-X — это новый класс сетей Ethernet, который устраняет барьеры для рабочих нагрузок искусственного интеллекта следующего поколения, которые могут преобразовать целые отрасли».

Его ключевой компонент, Ethernet-коммутатор Spectrum-4, способен развивать скорость до 51 Тбит/с. Для потребителей это означает, что в сочетании с DPU BlueField-3 и оптикой Nvidia LinkX активируется сеть 400 Gigabit Ethernet.

Компания стремилась дать представление о мощных сетевых возможностях, которые суперкомпьютеры с искусственным интеллектом теперь могут использовать в реальных случаях.

Из сообщения компании:

«Nvidia Spectrum-X обеспечивает беспрецедентное масштабирование 256 портов 200 Гбит/с, подключенных к одному коммутатору, или 16 тыс портов в двухуровневой топологии, чтобы поддерживать рост и расширение облаков ИИ, сохраняя при этом высокий уровень производительности и минимизируя задержку сети».

Nvidia уже тестирует свой Spectrum-X в своем израильском центре обработки данных в гипермасштабном суперкомпьютере с генеративным искусственным интеллектом, на котором работают серверы Dell PowerEdge XE9680 на базе платформы Nvidia HGX H100 с восемью графическими процессорами.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме