NVIDIA презентовала новейшую версию собственного суперкомпьютера Eos, оснащенного 10752 графическими процессорами H100 Tensor Core. Он способен обучать ИИ-модель GPT-3 со 175 млрд параметров на 1 млрд токенов за 3,9 минуты.

Таким образом, NVIDIA побила свой же рекорд, установленный всего полгода назад. Тогда показатель скорости обучения был в 3 раза хуже.

Графические процессоры в Eos объединены сетью NVIDIA Infiniband. Суперкомпьютер оснащен 860 терабайтами памяти и высокой пропускной способностью - 36 ПБ/сек. Всё это обеспечивает максимальную вычислительную мощность до 40 эксафлопс.

Помимо этого достижения, NVIDIA также может похвастать рекордами скорости обучения пяти других ИИ-моделей: Stable Diffusion - 2,5 минуты, DLRM - 1 минута, RetinaNet - 55,2 секунды, 3D U-Net - 46 секунд, BERT-Large - 7,2 секунды.

Доступ к серверам NVIDIA для расширения возможностей искусственного интеллекта другие компании могут арендовать примерно за $37 тыс. в месяц.

Источник: Engadget