Компания Nvidia представила уникальный чип для искусственного интеллекта: он в несколько раз мощнее предшественника
Компания Nvidia в рамках конференции GTC 2024 представила ИИ-ускорители нового поколения на графических процессорах с архитектурой Blackwell. По заверениям представителей компании, новые чипы в 25 раз мощнее и энергоэффективнее предшественников, что позволит создавать нейросети нового поколения с минимальными затратами.
Например, для обучения ИИ-модели с 1,8 триллионом параметров требуется 8000 графических процессоров Hopper и 15 МВт энергии. С процессорами с архитектурой Blackwell разработчикам потребуется всего 2000 графических процессоров, а установка будет потреблять почти в 4 раза меньше энергии — всего 4 МВт.
И это гигантский скачок вперед по сравнению с прошлым поколением. Новые модели искусственного интеллекта на базе такого процессора смогут быть в несколько раз мощнее своих предшественников, что несомненно пойдет на пользу и компаниям-разработчикам, и простым пользователям.
Аналитики уже утверждают, что технологические компании выстроились в очередь, а у Nvidia образовался дефицит еще до старта продаж. Так Марк Цукерберг недавно хвастался, что к концу года у него в распоряжении будет около 350 тысяч этих чипов при цене в 40 тысяч долларов за штуку.
Но за что отдают такие деньги? Архитектура Nvidia Blackwell выглядит следующим образом:
- 2 кристалла, произведённых по 4-нм технологии TSMC 4NP. В общей сложности 208 млрд транзисторов;
- новые тензорные ядра;
- шина NV-HBI (соединяет кристаллы) с пропускной способностью 10 ТБ/с;
- 8 стеков памяти HBM3E объёмом 192 Гбайт;
- 8192-битная шина памяти и пропускная способность 8 ТБ/с.
- поддержка интерфейса NVLink пятого поколения, для объединения нескольких ускорителей в одной системе;
- пропускная способность NVLink составляет 1,8 ТБ/с в обоих направлениях;
- NVLink позволяют объединить до 576 GPU в одной системе;
- TDP до 1000 Вт;
- производительность 20 PFLOPS в операциях FP4.
Представители компании Nvidia утверждают, что это настоящая революция в разработке ИИ. А как оно будет на самом деле, мы наверняка узнаем в ближайшие месяцы с ростом возможностей искусственного интеллекта.