Nvidia, нынешний лидер рынка полупроводниковых чипов, представила свой новейший чип, предназначенный для запуска крупномасштабных систем искусственного интеллекта.
7 августа Nvidia, один из ведущих мировых разработчиков полупроводниковых чипов, представила свой последний чип, предназначенный для питания систем искусственного интеллекта высокого уровня (ИИ).
Компания заявила, что ее суперчип следующего поколения GH200 Grace Hopper является одним из первых, оснащенных процессором HBM3e, и предназначен для обработки “самых сложных в мире рабочих нагрузок генеративного искусственного интеллекта, охватывающих большие языковые модели, рекомендательные системы и векторные базы данных”.
Дженсен Хуанг, генеральный директор Nvidia, прокомментировал в keynote, что это дает процессору “импульс” и что:
“Этот процессор предназначен для масштабирования мировых центров обработки данных”.
Хотя GH200 оснащен тем же процессором общего назначения, что и H100 — самый высокопроизводительный чип компании и один из лучших в мире, — он оснащен 141 гигабайтом расширенной памяти и 72-ядерным центральным процессором ARM, который как минимум в три раза мощнее предыдущего чипа.
Новейший чип от Nvidia предназначен для вывода, одного из двух основных компонентов работы с моделями искусственного интеллекта после их обучения. Вывод - это когда модель используется для генерации контента, составления прогнозов и постоянно выполняется.
Хуан сказал, что “практически любая” модель большого языка (LLM) может быть запущена через этот чип, и он будет “делать выводы как сумасшедший”.
“Стоимость вывода больших языковых моделей значительно снизится”.
По словам Хуанга, GH200 поступит во втором квартале 2024 года и должен быть доступен для тестирования к концу 2023 года.
" 
