headwaynews

Проектируем будущее: ИИ, экология, урбанистика

Искусственный интеллект

Почему Nvidia делает ставку на инфраструктуру вместо чистой мощности GPU

По данным TechCrunch, Nvidia смещает акцент конкурентного преимущества с GPU на инфраструктуру вокруг них.

Почему Nvidia делает ставку на инфраструктуру вместо чистой мощности GPU

В гигаваттном масштабе вычислений оркестрация стала самостоятельной инженерной задачей, и компания строит под неё отдельное железо — пока конкуренты догоняют по чипам.

Системный стек Vera Rubin

В раскрытии архитектуры Vera Rubin журналист TechCrunch перечисляет ключевые узлы: GPU Rubin, CPU Vera, инференс-ускоритель Groq 3 LPX, стойки хранения и сетевые блоки. Логика читается без маркетинговой обёртки: если GPU — двигатель, всё остальное Nvidia называет «остальной частью машины». В суверенном AI-стеке место занимает не только вычислитель, но и весь конвейер доставки токенов — от памяти до коммутации.

Где вязнет пропускная способность

Узкое место — память и трафик данных. Вице-президент Nvidia по технологиям хранения Джейсон Харди в разговоре с TechCrunch обозначил проблему: ёмкость памяти масштабируется с мощностью кластера, но доставить данные к GPU в нужный момент без потерь — отдельная инженерная дисциплина. По его словам, CPU Vera даёт «до 3-кратного ускорения таких операций», позволяя выжать максимум из флеш-хранилищ без узких мест. Цифра названа компанией — к ней стоит относиться как к заявлению вендора, а не как к независимому бенчмарку.

Тот же сдвиг виден у конкурентов. OpenAI в этом месяце представила собственный чип Jalapeño с фокусом на минимизацию движения данных: большая доменная область удерживает весь рабочий процесс в одной связной системе, сокращая задержки и коммуникационные издержки. Индустрия переходит от конкуренции за FLOPs к конкуренции за оркестрацию.

Что остаётся открытым

Реальная проверка заявлений — независимые тесты пропускной способности Vera и метрики «токены-на-ватт» в продуктовых конфигурациях. Открыты вопросы по энергобалансу гигаваттных кластеров, теплоотводу и совместимости с альтернативными ускорителями. Nvidia по-прежнему зависит от скорости, с которой гиперскейлеры — AWS, Google — закроют системный уровень собственными решениями, и от того, останутся ли «трёхкратные улучшения» Харди цифрой из инженерного отчёта или только из слайда для инвесторов.