NVIDIA представила процессор HBM3e для приложений генеративного ИИ и HPC

Новая разработка была названа GH200 Grace Hopper Superchip. Она является первой в своем роде и может заниматься обработкой самой большой нагрузки ИИ, который охватывает LLM и векторные базы данных.

Благодаря двойной конфигурации GH200 Grace Hopper имеет в 3,5 раза больший объем памяти по сравнению с ранее произведенными устройствами, а также имеет пропускную способность в три раза больше по сравнению с ними.

GH200 Grace Hopper обладает одним сервером со 144 ядрами Arm Neoverse и производительностью искусственного интеллекта восемь петафлопс. Отметим, что устройство имеет 282 ГБ новейшей технологии памяти HBM3e.

Стало известно, что процессор HBM3e будет доступен к покупке ведущим производителям систем весной следующего года, а первые образцы будут представлены публике уже в этом году.

Для того чтобы удовлетворить постоянно растущий спрос на генеративный искусственный интеллект, центры разработки данных должны иметь ускоренные вычислительные платформы, которые будут обладать специализированными потребностями.

Дженсен Хуанг считает, что новая платформа GH200 Grace Hopper Superchip обеспечивает исключительную технологию памяти и пропускную способность, что делает ее исключительной. Она поможет графическим процессорам достичь высокой производительности и обеспечит серверный дизайн, который можно легко развернуть во всем центре обработки данных.

Ранее стало известно, что новая технология машинного зрения позволит ИИ "видеть" в абсолютной темноте.