CoreWeave и NVIDIA запускают Vera Rubin и Vera CPU для агентов ИИ
CoreWeave и NVIDIA представили новые решения для агентов ИИ: серверы Vera Rubin NVL72 с Ethernet-сетью Spectrum-X 102.4T и процессор Vera CPU. Платформа CoreWeave Forge объединяет инструменты для обучения и оценки моделей, обеспечивая замкнутый цикл разра
CoreWeave объявила о доступности систем NVIDIA Vera Rubin NVL72 и процессора Vera CPU на своей облачной платформе. Компания Cognition стала первым клиентом, запустившим рабочие нагрузки на новой инфраструктуре.
Главные тезисы
- CoreWeave и NVIDIA объявили о доступности систем Vera Rubin NVL72 и процессора Vera CPU.
- Cognition стала первым клиентом, запустившим рабочие нагрузки на Vera Rubin.
- Vera Rubin NVL72 обеспечивает до 4,8x увеличение пропускной способности токенов по сравнению с GB200 NVL72.
- CoreWeave Forge объединяет инструменты для обучения, оценки и улучшения AI-агентов.
- Процессор Vera CPU позволяет запускать более 11 000 одновременных изолированных сред.
Запуск инфраструктуры для агентов ИИ
На конференции CoreWeave Fully Connected в Сан-Франциско компания объявила о доступности систем NVIDIA Vera Rubin NVL72 с сетью Spectrum-X 102.4T Ethernet. Это одна из первых поставок платформы в руки клиентов. Инфраструктура предназначена для работы с агентами ИИ, требующими высокой пропускной способности и низкой задержки.
Первым клиентом, запустившим производственные нагрузки на Vera Rubin, стала компания Cognition, разработчик AI-инженера Devin. В течение нескольких дней CoreWeave развернула кластер Vera Rubin для Cognition, что стало результатом совместной работы инженеров NVIDIA и CoreWeave на всех уровнях стека.
Производительность Vera Rubin NVL72
Cognition провела бенчмаркинг производительности вывода (inference) Vera Rubin NVL72 по сравнению с базовой линией GB200 NVL72, используя реальную рабочую нагрузку по написанию программного обеспечения. Для генерации нагрузки были отобраны задачи из набора FrontierCode, на которых AI-агенты решали поставленные задачи.
Ранние тесты показали, что Vera Rubin NVL72 обеспечивает увеличение общей пропускной способности токенов (token throughput) для рабочих нагрузок SWE-2 вывода до 4,8 раз по сравнению с GB200 NVL72. Это означает более быструю генерацию кода в реальном времени и более отзывчивое многошаговое рассуждение для Devin.
Компания Cognition масштабировалась до тысяч GPU на платформе CoreWeave за девять месяцев. По словам Силаса Альберти из команды Cognition, для сложных рабочих нагрузок агентов, таких как длинный контекст и высокая конкуренция, важнее иметь все компоненты на одной платформе с инженерами, решающими сложные задачи вместе.
Процессор NVIDIA Vera CPU для агентов
CoreWeave также анонсировала доступность процессора NVIDIA Vera, первого CPU, созданного специально для агентов ИИ. Агенты ИИ предъявляют требования к инфраструктуре с двух сторон: обслуживание требует вычислений с низкой задержкой, а улучшение моделей требует тысяч изолированных сред одновременно.
Одна стойка с процессорами Vera содержит 128 CPU и 11 264 ядра, что достаточно для более чем 11 000 одновременных сред, по одному ядру на каждую. Эти среды работают изолированно аппаратно и параллельно с заданиями обучения с помощью CoreWeave Sandboxes. Сетевые коммутаторы Spectrum-X и DPU BlueField-4 обеспечивают безопасную связь агентов с низкой задержкой.
Тестирование показало, что время запуска песочниц агентов на процессорах Vera CPU стало более чем в 3 раза быстрее. На наборе данных Terminal-Bench прирост производительности на Vera CPU составил 1,7x по всем пройденным задачам.
CoreWeave Forge: замкнутый цикл разработки
CoreWeave запустила платформу CoreWeave Forge, объединяющую среду для обучения, оценки и улучшения моделей и агентов. Платформа закрывает разрыв между производственным поведением и следующим циклом обучения, устраняя потерю данных при передаче между инструментами разных вендоров.
Forge объединяет Weights & Biases, экспертизу OpenPipe в области пост-обучения и открытый проект marimo. Доступны новые возможности:
- CoreWeave ARIA: помогает анализировать запуски, предлагать эксперименты и код, интегрируя данные с GitHub.
- CoreWeave Agent Lens: сервис наблюдаемости, улучшающий обнаружение сбоев на 20% и снижающий стоимость исправления проблем вдвое.
- CoreWeave Sandboxes: изолированные среды выполнения на CPU или GPU для агентов, вызовов инструментов и обучения с подкреплением (RL).
Серверное RL обучает в 1,4 раза быстрее при стоимости на 40% ниже, чем при самостоятельном управлении. Также представлен NVIDIA Dynamo, открытый фреймворк вывода для AI-фабрик, и RL Rollouts в приватном превью, позволяющие загружать новые контрольные точки в живое развертывание без перезапуска.
Применение в индустрии
Среди первых компаний, строящих решения на Forge, — Canva, Capital One и MasterClass. Платформа также используется для клинических задач: Ennoble Care, поставщик домашней помощи для 50 000 пациентов Medicare в 15 штатах, выбрал CoreWeave для запуска клинического AI-вывода. Компания будет использовать зарезервированную мощность GPU NVIDIA RTX PRO 6000 на CoreWeave Kubernetes Service для масштабирования агентов документации и поддержки принятия решений.
CoreWeave является единственным облачным провайдером, удерживающим рейтинг Platinum в SemiAnalysis ClusterMAX 1.0, 2.0 и 3.0, и обслуживает девять из десяти ведущих AI-лабораторий.
