Blackwell B200: Революция в обучении нейросетей
Blackwell B200 в 4 раза мощнее Hopper H100 и при этом потребляет на 75 % меньше энергии во время тренировки нейросетей.
Презентация GTC 2024 от NVIDIA
Вчера NVIDIA провела значимую презентацию GTC 2024, где представила новую архитектуру Blackwell и самый мощный чип для ускорения обучения ИИ — Blackwell B200. Узнав о невероятных характеристиках нового GPU, такие как интерес со стороны крупных компаний, включая Amazon, Microsoft и Google, можно предположить, что Blackwell B200 существенно изменит рынок.
Технические особенности Blackwell B200
Blackwell B200 производит компания TSMC, используя улучшенный 4-нанометровый техпроцесс 4NP. При этом NVIDIA приняла решение увеличить площадь кристалла, что позволило увеличить количество транзисторов с 80 миллиардов до 104 миллиардов. Чип состоит из двух базовых GPU, соединённых магистральной линией с пропускной способностью 10 ТБ/с, в результате чего общая сумма транзисторов достигает 208 миллиардов.
Память и производительность
Вокруг GPU располагается 8 чипов памяти HBM3e общей емкостью 192 ГБ. Пропускная способность этой памяти достигает рекордных 8 ТБ/с, что обещает выдающиеся результаты в обучении нейросетей.
Гибкость архитектуры GB200
NVIDIA разработала архитектуру GB200, позволяющую объединять два чипа Blackwell B200 с CPU Grace на одной плате. Каждая такая плата предоставляет 40 петафлопс производительности в вычислениях AI. GB200 поддерживает соединение в стеки, что облегчает создание мощных серверных стоек и целых дата-центров, производительность которых практически не ограничена. Однако стоимость базового чипа B200 составляет десятки тысяч долларов.
Производительность систем GB200
Для наглядного сравнения, предыдущему поколению в лице Hopper H100 для обучения нейросети GPT-MoE с 1,8 трлн параметров требовалось 90 дней, 15 мегаватт мощности и 8000 GPU. С новой системой Blackwell B200 на ту же задачу потребуется лишь 2000 систем GB200 и 4 мегаватта мощности, что демонстрирует увеличение мощности в 4 раза с ростом эффективности в 75 %.
Сравнение с Hopper H100
Ожидания от Blackwell B200
Если предыдущий чип Hopper H100 стал символом революции на рынке ускорителей ИИ, то Blackwell B200 обещает еще более быстрый рост. Ожидается, что системы ИИ будут обучаться быстрее и с меньшими затратами на энергию, что позволит сделать ИИ более доступным как для бизнеса, так и для простых пользователей. Это откроет новые горизонты в применении искусственного интеллекта.
