Oracle и NVIDIA представили самый масштабный облачный ИИ-кластер на базе 131 072 ускорителей NVIDIA B200. Он заработает в первой половине 2025 года.
Oracle и Nvidia представили крупнейший облачный ИИ-кластер с 131 072 ускорителями Nvidia B200 (Blackwell). Это первая в мире система, способная достичь производительности 2,4 Зфлопс (FP8). Кластер начнет работу в первой половине 2025 года, но уже сейчас можно оформить заказы на bare-metal инстансы и OCI Superclaster. Клиенты смогут выбрать тип подключения: RoCEv2 (ConnectX — 7/8) или InfiniBand (Quantum — 2).
Новый кластер Oracle в шесть раз больше по объему, чем аналогичные предложения от AWS, Microsoft Azure и Google Cloud. Также компания предлагает кластеры с NVIDIA A100 (32 768 ускорителей), H100 (16 384 ускорителя), H200 (65 536 ускорителей) и L40S (3840 ускорителей). В следующем году появятся кластеры на базе GB200 NVL72 с более чем 100 тыс. ускорителей GB200. В ближайшее время выйдут более компактные инстансы GPU.A100.1 и GPU.H100.1 с одним ускорителем A100 или H100 (80 Гбайт).
Уже доступны инстансы GPU.H200.8, содержащие восемь ускорителей H200 (141 Гбайт), локальное NVMe-хранилище на 30,7 Тбайт и подключение 200G. Семейство инстансов на базе NVIDIA Blackwell сейчас включает два варианта. GPU.B200.8 содержит восемь ускорителей B200 (192 Гбайт), 30,7-Тбайт NVMe и подключение 400G. GPU.GB200, представляющий собой суперускоритель GB200 NVL72, включает 72 ускорителя B200, 36 Arm-процессоров Grace и NVMe-хранилище на 533 Тбайт с общей скоростью сетевого подключения 7,2 Тбит/с.
Для новых инстансов Oracle подготовит управляемое Lustre-хранилище с пропускной способностью до 8 Гбит/с на каждый Тбайт, улучшенные инструменты мониторинга и управления, помощь в настройке и оптимизированное ПО для ИИ, включая поддержку для Arm.
