На квартальной отчётной конференции NVIDIA основатель компании Дженсен Хуанг (Jensen Huang) несколько раз заявил, что оценивает ёмкость серверного рынка в $1 трлн, и с учётом начала новой фазы его масштабной структурной перестройки верит, что профильная выручка компании будет расти на протяжении нескольких ближайших лет. Эту уверенность руководство NVIDIA готово подкрепить, выделив на выкуп акций компании $25 млрд.

Источник изображения: NVIDIA

На подобные шаги, как отмечает Reuters, руководство публичных компаний идёт обычно в тех случаях, когда убеждено в серьёзной недооценённости их активов. Казалось бы, до начала основной торговой сессии акции NVIDIA после публикации квартального отчёта с рекордной выручкой в серверном сегменте выросли на 7,43 % и получили все шансы обновить исторический максимум на отметках свыше $500 за штуку, но заявление о выделении $25 млрд на их выкуп подразумевает, что руководство NVIDIA убеждено в их способности расти в цене и дальше.

Инвесторы, чьи интересы неформально на отчётном мероприятии представляли аналитики, выразили озабоченность угрозой дефицита ускорителей вычислений NVIDIA в условиях постоянно растущего спроса. Руководству компании пришлось уверять их, что каждый квартал на протяжении ближайших полутора лет объёмы поставок будут наращиваться, и предварительная работа с подрядчиками и поставщиками на этом направлении ведётся самым серьёзным образом. По информации источников Financial Times, в следующем году NVIDIA выпустит 1,5–2 млн ускорителей H100, что значительно больше 500 тыс. в этом году. О том, что это непросто организовать, говорят хотя бы замечания основателя NVIDIA, который напомнил, что одна система серии HGX содержит около 35 000 компонентов, стоит $200 000 и весит почти 32 кг. И проблемы с поставок самого мелкого чипа могут вызвать задержку с наращиванием объёмов производства таких систем.

Серверные и сетевые компоненты в минувшем квартале принесли NVIDIA более 76 % всей выручки против почти 60 % кварталом ранее. Спросом в этом сегменте движут два фактора, как отметили руководители NVIDIA: миграция серверных систем с CPU на компоненты, использующие GPU в качестве основной производительной единицы, а также взрывной всплеск интереса к системам генеративного искусственного интеллекта и большим языковым моделям. Компания, по словам генерального директора, всего лишь один полный квартал работает в таких условиях, и они сохранятся на протяжении многих последующих кварталов. «Этот фундаментальный сдвиг не закончится», — сказал Хуанг о переходе дата-центров от CPU к GPU.

Крупнейшие американские компании технологического сектора тратят внушительные средства на закупку компонентов для систем искусственного интеллекта. Microsoft в прошлом квартале выделила $10,7 млрд на капитальные расходы, и значительная часть этой суммы наверняка была потрачена на компоненты NVIDIA. Стартап OpenAI, который представил популярный чат-бот ChatGPT, получил от Microsoft финансовые вливания в размере $10 млрд. Meta✴ Platforms и облачное подразделение Amazon в совокупности тоже тратят десятки миллиардов долларов на развитие соответствующей вычислительной инфраструктуры.

Складских запасов NVIDIA, чья балансовая стоимость на конец июля составляла $4,32 млрд, по мнению аналитиков Summit Insights Group, при существующем уровне спроса на ускорители вычислений едва хватит для его удовлетворения. Собственный прогноз по выручке в текущем квартале ($16 млрд) компания может превзойти без особых усилий, как считают эксперты. В то же время, редактор блога SemiAnalysis Дилан Пател (Dylan Patel) уверен, что не все клиенты NVIDIA будут закупать ускорители вычислений в текущих объёмах и дальше. Некоторые из них наберут критическую массу вычислительных ресурсов, и после оценки собственных перспектив на рынке могут прекратить закупки на какое-то время.

Эта неделя характеризовалась и ещё одним важным для оценки рыночных перспектив NVIDIA событием. Как поясняет Bloomberg, из списка регулярно опрашиваемых агентством аналитических компаний сдалась последняя, которая до этого рекомендовала инвесторам продавать акции NVIDIA. Компания Morningstar Inc. сменила рекомендацию на «держать», и теперь из 59 опрашиваемых Bloomberg аналитиков 54 выступают за покупку акций NVIDIA, а оставшиеся пять просто рекомендуют инвесторам держать эти ценные бумаги в своём портфеле.

Представители Morningstar теперь считают, что если в прошлом фискальном году NVIDIA выручила в серверном сегменте $15 млрд, то в текущем выручит уже $41 млрд. По их мнению, в следующем фискальном году эта сумма увеличится до $60 млрд, а к 2028 году достигнет $100 млрд.

В минувшем квартале выручка NVIDIA в игровом сегменте выросла последовательно на 11 % до $2,49 млрд и на 22 % в годовом сравнении, что позволило руководству заявить о нормализации ситуации со складскими запасами и уровнем спроса. Дальнейшая экспансия GeForce RTX не подвергается сомнению, поскольку трассировку лучей пока обеспечивают лишь видеокарты, находящиеся во владении у 47 % пользователей продукции NVIDIA.

Источник изображения: NVIDIA

Как добавила финансовый директор NVIDIA Колетт Кресс (Colette Kress), не более 20 % находящихся в пользовании видеокарт этой марки обладают уровнем быстродействия GeForce RTX 3060 и более высоким, поэтому «возможности дальнейшей модернизации велики».

«Спрос подогревался графическими решениями GeForce RTX 40 для настольных систем и ноутбуков. Конечный пользовательский спрос был стабилен и соответствовал сезонным тенденциям. Мы считаем, что спрос на мировом рынке со стороны конечных потребителей вернулся к росту после прошлогоднего замедления», — охарактеризовала итоги второго квартала в игровом сегменте Колетт Кресс.

В сегменте ноутбуков спрос заметно вырос в ожидании начала сезона деловой активности, лидером стали графические процессоры GeForce RTX 4060. Ноутбуки на основе дискретной графики NVIDIA набрали популярность, и теперь в некоторых регионах они количественно превосходят объёмы поставок графических процессоров настольного класса, как призналась финансовый директор компании. Это должно обеспечить поддержку игровой выручке не только в прошлом, но и в текущем квартале, как она считает. Ноутбуки обычно пользуются повышенным спросом в преддверии начала учебного года и осенних предновогодних распродаж, запасы графических процессоров для которых производители должны формировать заблаговременно.

Буквально в конце июня финансовый директор NVIDIA Колетт Кресс (Colette Kress) давала свою оценку влиянию американских санкций против сектора вычислений китайской компьютерной отрасли, но минувшее квартальное мероприятие вынудило её снова вернуться к этой теме. За два месяца в выдаваемых руководством NVIDIA характеристиках ничего не изменилось, разве что оно признало эффективность самих экспортных ограничений США.

Источник изображения: NVIDIA

Колетт Кресс решила предвосхитить все сопутствующие вопросы, сославшись на ситуацию с санкциями в начале своего подготовленного выступления. Во-первых, она отметила, что знакома со слухами о возможности введения новых экспортных ограничений США в отношении Китая. Во-вторых, она добавила, что существующие ограничения достигают поставленных целей.

«Учитывая силу спроса на наши продукты по всему миру, мы не ожидаем, что дополнительные экспортные ограничения по нашим GPU для ЦОД, если таковые будут приняты, будут иметь незамедлительное значительное влияние на наши финансовые результаты», — пояснила финансовый директор NVIDIA.

«Однако, в долгосрочной перспективе ограничения на продажу наших GPU для ЦОД в Китае, если они будут приняты, приведут к потерям и окончательной утрате американской отраслью возможности лидировать и конкурировать на одном из крупнейших рынков мира», — добавила Колетт Кресс, во многом повторяя свои заявления двухмесячной давности. В прошлом квартале доля выручки в серверном сегменте на территории Китая у компании не отклонилась от исторических значений в диапазоне от 20 до 25 % от мировой. В эту долю включены не только вычислительные решения, но и телекоммуникационные. При этом сильнейший рост выручки в прошлом квартале был зафиксирован именно на рынке США, поскольку здесь сосредоточены многие разработчики систем искусственного интеллекта и провайдеры облачных услуг.

В конце июля в календаре NVIDIA завершился второй квартал 2024 фискального года, компания сегодня сообщила об увеличении выручки по его итогам на 101 % до $13,51 млрд. По сути, во многом это стало возможным именно благодаря достижению серверной выручкой NVIDIA рекордного значения в $10,32 млрд. На этом направлении выручка выросла на 141 % год к году и на 171 % последовательно. После закрытия торгов акции NVIDIA выросли в цене на 6,58 %.

Источник изображений: NVIDIA

Напомним, что аналитики в среднем ожидали достижения совокупной выручкой NVIDIA рубежа в $11,22 млрд по итогам минувшего квартала, поэтому выход на уровень в $13,51 млрд оказался для большинства из них сюрпризом и способствовал росту курса акций на 3,17 % ещё до закрытия торговой сессии. Последовательно выручка выросла на 88 %. Подогреть котировки акций NVIDIA смогла и за счёт объявления о намерениях потратить на их выкуп $25 млрд. К концу сентября компания также выплатит дивиденды из расчёта $0,04 на одну акцию. В минувшем квартале она вернула акционерам $3,38 млрд тем или иным способом.

Чистая прибыль NVIDIA в годовом сравнении увеличилась почти в девять с половиной раз, до $6,19 млрд. Операционная прибыль взлетела в 13,6 раза до $6,8 млрд. Операционные расходы при этом выросли всего на 10 % до $2,67 млрд. Норму прибыли в годовом сравнении удалось поднять с 43,5 до 70,1 %. По словам представителей NVIDIA, существенное увеличение нормы прибыли отчасти объясняется тем, что год назад она была вынуждена списать $1,34 млрд из-за возникших складских излишков.

Распределение выручки по сегментам было предсказуемым. Вычисления и сетевое оборудование принесли NVIDIA в минувшем квартале $10,4 млрд, а графические решения — $3,1 млрд. Если в первом случае выручка выросла на 166 % в годовом сравнении и на 133 % в последовательном, то во втором всё ограничилось ростом на 11 % год к году и на 14 % последовательно.

Рекордная выручка в сегменте центров обработки данных, как следует из комментариев финансового директора Колетт Кресс (Colette Kress), была обеспечена высоким спросом на платформу NVIDIA HGX (Hopper и Ampere одновременно), поскольку эти ускорители вычислений использовались при разработке больших языковых моделей и систем генеративного искусственного интеллекта. Непосредственно выручка от реализации ускорителей вычислений выросла на 195 % по сравнению с аналогичным периодом прошлого года, а последовательно она увеличилась на 157 %, и в последнем случае влияние оказало появление на рынке ускорителей поколения Hopper.

Сопутствующие сетевые решения Mellanox увеличили выручку на 94 % год к году и на 85 % последовательно. Выручка NVIDIA в игровом сегменте увеличилась на 22 % в годовом сравнении и на 11 % последовательно, до $2,5 млрд, тоже превысив ожидания аналитиков ($2,38 млрд). По словам Колетт Кресс, это стало возможным за счёт спроса на графические решения серии GeForce RTX 40 в условиях нормализации складских запасов. В сегменте ноутбуков спрос на компоненты NVIDIA оказался особенно высоким.

Выручка NVIDIA в сегменте средств профессиональной визуализации сократилась на 24 % в годовом сравнении, но выросла на 28 % в последовательном, до $379 млн. Если в первом случае негативное влияние оказало затоваривание складов, то положительный эффект обеспечил интерес потребителей к профессиональным решениям с архитектурой Ada Lovelace.

Выручка в автомобильном сегменте сократилась последовательно на 15 % до $253 млн, но выросла год к году на те же 15 %. Последовательное снижение вызвано падением спроса на автомобили, особенно на китайском рынке. Рост выручки в годовом сравнении обусловлен планомерным продвижением решений NVIDIA для систем автопилота.

В текущем фискальном квартале NVIDIA рассчитывает выручить $16 млрд. При этом норма прибыли будет лежать в диапазоне от 71,5 до 72,5 %. Такой прогноз оказался выше ожиданий аналитиков, которые в среднем упоминали $12,61 млрд в качестве ориентира по величине квартальной выручки. Если прогноз NVIDIA сбудется, то компания по итогам текущего квартала увеличит свою выручку на 170 %.

Основатель компании Дженсен Хуанг (Jensen Huang) на квартальном мероприятии заявил, что во всём мире установлено серверного оборудования где-то на $1 трлн, и сейчас этот парк находится в состоянии перехода на ускорители вычислений и системы генеративного искусственного интеллекта. «Началась новая эра вычислений», — резюмировал он. Готовящиеся властями США новые ограничения на поставку ускорителей вычислений в Китай, по оценкам представителей NVIDIA, не окажут незамедлительного влияния на бизнес компании, поскольку спрос на других географических направлениях в значительной мере сможет их компенсировать. В долгосрочной же перспективе подобные ограничения «лишат всю американскую промышленность возможности лидировать и конкурировать на одном из крупнейших рынков мира», как заявила Колетт Кресс.

Компания NVIDIA рассказала о новых играх, которые получат поддержку технологии интеллектуального масштабирования изображения DLSS 3, включая её улучшенную версию DLSS 3.5 с реконструкцией трассировки лучей.

Источник изображения: CD Projekt RED

Во-первых, поддержкой DLSS 3 и технологии оптимизации времени отклика Reflex на старте продаж обзаведутся Call of Duty: Modern Warfare 3 (выходит 10 ноября) и Payday 3 (21 сентября).

Во-вторых, ближайшей осенью DLSS 3 интегрируют в Fortnite — условно-бесплатная королевская битва поддерживает DLSS 2 и Reflex с 20202 года. Кроме того, DLSS 3 станет одной из особенностей анонсированной накануне Half-Life 2 RTX.

Что касается первых игр с поддержкой DLSS 3.5, то NVIDIA поделилась их техническими подробностями:

• дополнение Phantom Liberty к ролевому боевику Cyberpunk 2077 со старта (26 сентября) обзаведётся поддержкой DLSS 3.5, трассировки пути (режим «Трассировка лучей: перегрузка») и Reflex. DLSS 3.5 будет доступна и в основной игре;
• психологический хоррор Alan Wake 2, помимо DLSS 3.5, на релизе (27 октября) получит поддержку трассировки пути и Reflex. Первая демонстрация работы DLSS 3 в игре станет доступна сегодня, 23 августа, в 16:00 по Москве;
• ближайшей осенью поддержкой DLSS 3.5 обзаведётся Portal with RTX — версия культовой головоломки Valve с поддержкой трассировки лучей.

Также NVIDIA напомнила, что, помимо игр, поддержкой DLSS 3.5 на протяжении осени текущего года будут оснащены такие приложения, как Chaos Vantage, D5 Render, а также NVIDIA Omniverse.

Как отмечает NVIDIA, с момента запуска DLSS технология помогла повысить производительность более чем в 330 выпущенных играх и приложениях — полный их список можно найти на сайте NVIDIA.

Квартальная отчётность NVIDIA будет опубликована завтра, а с начала прошлой недели курс акций компании уже вырос на 12 % в ожидании воодушевляющих результатов. По итогам вчерашней торговой сессии курс опустился на 2,77 % до $456,68 за акцию, но в ходе торгов он успел достичь исторического максимума на отметке $481,87. Всего же с начала этого года акции NVIDIA выросли в цене на 219 %.

Источник изображения: NVIDIA

Как отмечает Bloomberg, занимая удельный вес 3,2 % и 4,3 % соответственно в индексах S&P 500 и Nasdaq 100, акции NVIDIA своей динамикой во многом способствовали росту этих индексов в текущем году. Первый, например, с начала года вырос на 14 %. Как ожидается, в годовом сравнении выручка NVIDIA за второй квартал выросла на 65 % и превысила $11 млрд, преимущественно за счёт высокого спроса на ускорители для систем искусственного интеллекта. В начале этой недели только ленивый аналитик не высказался оптимистично по поводу перспектив дальнейшего роста курса акций NVIDIA, поэтому обновление исторического максимума можно считать закономерным результатом.

Дальнейшая динамика курса акций компании будет во многом зависеть от тех заявлений, которые будут сделаны руководством на квартальном отчётном мероприятии. При этом, как показывает практика, на перегретом рынке будет достаточно самых незначительных негативных факторов, чтобы вызвать снижение курса. Сейчас соотношение стоимости одной акции NVIDIA к удельному доходу достигает 44, заметно превышая норму за десятилетний период (32). По мнению аналитиков Goldman Sachs, акции NVIDIA входят в число ценных бумаг 11 компаний, которые в ближайшее время явно выиграют от «революции в сфере искусственного интеллекта». Эти ценные бумаги 11 компаний в среднем с начала года подорожали на 69 %, тогда как индекс S&P 500 за тот же период вырос всего на 14,7 %.

На выставке Computex 2023 компания NVIDIA представила платформу Avatar Cloud Engine (ACE) for Games, которая позволит сделать умнее неигровых персонажей (NPC) в играх. Представленный инструмент даёт возможность разработчикам создавать собственные ИИ-модели, которые позволят генерировать для NPC естественную речь, диалоги, а также движения. За минувшие месяцы с момента анонса платформы NVIDIA её усовершенствовала, научив создавать эмоциональных персонажей.

Источник изображения: NVIDIA

В рамках изначальной демонстрации работы технологии ACE компания показала интерактивную демо-сцену Kairos с неигровым персонажем Джином, владельцем лапшичной, созданную на движке Unreal Engine 5 с технологией трассировки лучей. Сегодня NVIDIA отчиталась, что интегрировала в платформу ACE ИИ-модель NVIDIA NeMo SteerLM. Она позволяет разработчикам игр изменять характер неигровых персонажей, делая их более эмоциональными и реалистичными, что позволяет человеку сильнее погрузиться в мир игры.

Большинство языковых моделей (LLM) разработаны с целью давать только нейтральные ответы. Они лишены возможности эмоциональных имитаций и личностных поведенческих особенностей. Типичным примером таких LLM являются ИИ-чат-боты. В свою очередь с помощью SteerLM языковые модели обучаются давать ответы, соответствующие определённым атрибутам характера, от юмора до креативности и токсичности. При этом все особенности характера NPC можно настроить всего лишь движением нескольких ползунков в интерфейсе SteerLM. С примером использования SteerLM и результатами работы можно ознакомиться на видео ниже, в рамках всё той же интерактивной демо-сцены NVIDIA Kairos.

Как можно заметить, ответы NPC значительно отличаются, в зависимости от выбранных атрибутов характера и уровня интенсивности. Неигровой персонаж может обидеться на реплику игрока, попытаться более подробно объяснить ситуацию, а также сделать это с юмором и креативностью. При использовании NVIDIA NeMo SteerLM можно изменять существующие черты характера, а также добавлять новые, создавая по-настоящему уникальных неигровых интерактивных персонажей под определённую сцену в игре или локацию.

Эмоциональный отклик — не единственный вариант использования SteerLM в играх. С помощью этой технологии разработчики могут создавать сразу несколько персонажей, используя одну LLM. Кроме того, разработчики могут создавать так называемые атрибуты фракций, чтобы согласовать реакции тех или иных NPC с развитием внутриигровой истории, позволяя неигровым персонажам динамически изменяться в характере с учётом изменяющихся событий в игре.

В приведенной выше демо-сцене для озвучивания неигрового персонажа Джина использовался синтезатор текста в речь ElevenLabs. С помощью ACE разработчики могут добавлять свои собственные компоненты в конвейер ACE, расширяя его возможности.

Компания NVIDIA выпустила свежий пакет графического драйвера GeForce Game Ready 537.13 WHQL. В него добавлена поддержка игры Starfield, а также дополнения New Frontiers для игры Icarus.

Источник изображения: Bethesda Softworks

Список исправленных проблем:

• наблюдалось снижение стабильности игры Battlefield 2042 при использовании фильтров Freestyle приложения GeForce Experience;
• нестабильная производительность в игре Ratchet & Clank: Rift Apart из-за конфликта технологий DirectStorage и NVIDIA Reflex;
• режим предпросмотра в приложении Vegas Pro FX не работал на некоторых моделях ноутбуков.

Список известных проблем:

• значительное снижение производительности на видеокартах серии Maxwell в игре Halo Infinite.

Новый драйвер также содержит исправление проблем со стабильностью работы приложений для создания цифрового контента, вызванных чрезмерной загрузкой памяти. Однако в некоторых случаях установка указанного обновления приводит к снижению производительности в Stable Diffusion и DaVinci Resolve. Эти проблемы будут исправлены в будущих обновлениях драйвера.

Скачать драйвер GeForce Game Ready 537.13 WHQL можно с официального сайта NVIDIA или через приложение GeForce Experience.

NVIDIA анонсировала технологию интеллектуального масштабирования изображения DLSS 3.5, важнейшим преимуществом которой стала реконструкция трассировки лучей (Ray Reconstruction) — нейросеть, заменяющая стандартные алгоритмы шумоподавления.

Источник изображений: nvidia.com

Трассировка лучей для каждого пикселя на изображении — чрезвычайно требовательная к ресурсам задача даже для профессиональных приложений, от которых не требуется обработка данных в реальном времени. Поэтому применяются обходные методы, такие как просчёт лучей по образцам: трассировка производится для отдельных точек сцены, число которых достаточно велико для получения репрезентативной выборки освещения, отражательной способности и затемнённых участков.

Алгоритмы подавления шума чреваты потерей качества и детализации

На выходе получается сильно зашумлённое изображение, но его достаточно, чтобы оценить, как должна выглядеть сцена при полноценной трассировке лучей. Чтобы получить результаты по всем пикселям, производится временная и пространственная интерполяции — по сути, алгоритм шумоподавления «крадёт» лучи из прошлого и смешивает пиксели с соседними, что чревато понижением качества картинки, например, возникновением «ореолов», и потерей детализации.

Ray Reconstruction обладает рядом преимуществ перед шумоподавителями

Решением проблемы является технология реконструкции лучей — она подменяет стандартные подавители шума нейросетью, при обучении которой использовалось в пять раз больше данных, чем при разработке DLSS 3, а образцами служили изображения, получение которых в реальном времени было бы невозможным. Нейросеть распознаёт различные эффекты трассировки лучей, принимая более разумные решения для интерполяции по времени и пространству — она обучена различать «плохие» и «хорошие» пиксели, благодаря чему обеспечивается более качественный результат.

Технология работает совместно с другими решениями NVIDIA: алгоритмом DLSS Super Resolution, который выстраивает 4K-изображения по образцу более низкого разрешения, а также DLSS Frame Generation (только для видеокарт серии NVIDIA GeForce RTX 40) — он генерирует дополнительные промежуточные кадры на основе соседних, повышая тем самым плавность движения.

Дебют NVIDIA DLSS 3.5 состоится этой осенью. Технология дебютирует в играх Cyberpunk 2077: Phantom Liberty, Portal with RTX и Alan Wake 2, а также в программах NVIDIA Omniverse, Chaos Vantage и D5 Renderer.

В сентябре прошлого года власти США запретили поставлять в Китай самые передовые ускорители вычислений. Компания NVIDIA вынуждена была быстро выпустить на местный рынок ограниченные по скорости передачи данных ускорители A800, которые не подпадают под санкции, а в текущем году к ним присоединились «замедленные» H800. Эксперты считают, что китайские разработчики систем искусственного интеллекта упрутся в ограничения США лишь через несколько лет.

Источник изображения: NVIDIA

Издание Financial Times вполне наглядно поясняет логику этого умозаключения с помощью примера со строительством предприятий. Если разделённые некоторым расстоянием промышленные кластеры сами по себе будут наращивать производительность, а дороги для их сообщения сохранят прежнюю пропускную способность, то именно они в перспективе нескольких лет станут сдерживающим фактором развития. В случае с ускорителями вычислений, допущенными на китайский рынок, назревает именно такая ситуация.

Как отмечает первоисточник, главный научный советник NVIDIA Билл Далли (Bill Dally) считает, что отставание китайских разработчиков от всего остального мира будет стремительно расти хотя бы в силу удвоения потребности в производительности передовых систем ИИ каждые шесть или двенадцать месяцев.

Санкции США осенью прошлого года ограничили поставки в Китай ускорителей вычислений американского происхождения, которые обеспечивают передачу информации со скоростью свыше 600 Гбайт/с. По данным Lenovo, новейшие ускорители NVIDIA H100 в своём немодифицированном состоянии способны передавать информацию со скоростью 900 Гбайт/с, а H800 для Китая обладают скоростью передачи не выше 400 Гбайт/с. На практике это означает, что китайские разработчики будут больше времени тратить на тренировку языковых моделей, и со временем это приведёт к более выраженному отставанию от западных конкурентов.

По оценкам экспертов, H800 даже с учётом этих ограничений по уровню своей производительности всё равно в пять раз быстрее немодифицированных A100, поэтому спрос на первые в Китае продолжает сохраняться на высоком уровне. Тем более, что особых альтернатив решениям NVIDIA в этом сегменте рынка почти нет. Как сообщалось ранее, крупнейшие китайские клиенты уже сформировали заказы на ускорители вычислений NVIDIA на общую сумму $5 млрд. При этом решения NVIDIA хоть и являются очень дорогими, но всё равно остаются самыми выгодными, потому как альтернативы предлагают меньшую производительность, ограничены в поставках, а также важным плюсом ускорителей NVIDIA является продвинутая программная платформа.

Санкции США в их нынешнем виде не лишают китайские компании доступа к ускорителям вычислений и разработке систем ИИ полностью, но создают условия для увеличения отставания от западных конкурентов. Через два или три года китайские разработчики могут столкнуться с тем, что не смогут эффективно тренировать новые языковые модели с помощью доступных им аппаратных ресурсов.

Начиная GeForce GTX 900-й серии (Maxwell) компания NVIDIA использует в своих видеокартах встроенный сопроцессор безопасности под кодовым именем Falcon. Он предотвращает загрузку GPU с неавторизованной прошивкой BIOS. Как пишет портал TechPowerUp, два энтузиаста независимо друг от друга разработали инструменты, которые позволяют прошить практически любой BIOS на практически любую видеокарту NVIDIA GeForce, обходя защиту от неавторизованной модификации.

Источник изображения: Tom's Hardware

Инструменты называются OMGVflash и NVflashk. Возможности этих утилит практически безграничны. Например, с их помощью можно установить BIOS видеокарты с заводским разгоном на модель, в которой такого разгона нет. Помимо изменения тактовых частот GPU, модификация BIOS позволяет повышать максимальный порог энергопотребления, что оказывает более существенное влияние на производительность, поскольку увеличивает разгонный потенциал.

OMGvflash от Veii в работе. Источник изображения: Veii / TechPowerUP

Кроме того, модификация BIOS позволяет управлять напряжениями GPU, охлаждением и кривой работы вентилятора, что позволяет сделать видеокарту более тихой, если только кулер способен удержать GPU от тепловых ограничений, которые также можно регулировать. Например, можно восстановить напряжение 1,1 В на графическом процессоре у флагманской GeForce RTX 4090. Изначально такое напряжение было зарезервировано для ранних серийных RTX 4090. Однако с появлением графического процессора AD102-301 максимальное напряжение было установлено на уровне 1,07 В.

Создатель инструмента OMGVflash, энтузиаст с псевдонимом Veii, опубликовал на форуме TechPowerUp обширную тему, в которой сообщается о первой публичной бета-версии утилиты, истории её разработки, инструкциях по использованию и некоторых способах устранения неполадок. Аналогичную тему на форуме TechPowerUp создал автор утилиты NVflashk.

NVIDIA получает до 1000 % выручки с каждого проданного специализированного графического ускорителя H100, предназначенного для задач, связанных с искусственным интеллектом. Об этом утверждает журналист издания Barron Тэ Ким (Tae Kim), ссылающийся на анализ консалтинговой компании Raymond James.

Источник изображения: NVIDIA

В настоящий момент стоимость каждого ускорителя NVIDIA H100 в зависимости от региона продаж и поставщика в среднем составляет $25–30 тыс. При этом речь идёт о менее дорогой PCIe-версии указанного решения. По оценкам Raymond James, стоимость использующегося в этом ускорителе графического процессора, а также дополнительных материалов (печатной платы и других вспомогательных элементов) составляет $3320. К сожалению, Ким не уточняет глубину анализа расчёта стоимости и не поясняет, включены ли в этот показатель такие факторы, как затраты на разработку, зарплата инженеров, а также стоимость производства и логистики.

Разработка специализированных ускорителей требует значительного времени и ресурсов. По данным того же портала Glassdoor, средняя зарплата инженера по аппаратному обеспечению в NVIDIA составляет около $202 тыс. в год. Речь идёт только об одном инженере, но очевидно, что при разработке тех же H100 работала целая команда специалистов, а на саму разработку были затрачены тысячи рабочих часов. Всё это должно учитываться в конечной стоимости продукта.

И всё же очевидно, что сейчас NVIDIA в вопросе поставок аппаратных средств для ИИ-вычислений находится вне конкуренции. На специализированные ускорители «зелёных» сейчас такой спрос, что они распродаются ещё задолго до того, как попадают на условные полки магазинов. Поставщики говорят, что очередь за ними растянулась до второго квартала 2024 года. А с учётом последних оценок аналитиков, согласно которым к 2027 году рынок ИИ-вычислений вырастет до $150 млрд, ближайшее будущее NVIDIA видится точно безбедным.

С другой стороны, для рынка в целом высокий спрос на ускорители ИИ-вычислений имеет свои негативные последствия. В последних отчётах аналитиков говорится, что продажи традиционных серверов (HPC) в глобальном масштабе сокращаются. Основная причина падения спроса заключается в том, что гиперскейлеры и операторы ЦОД переключают внимание на системы, оптимизированные для ИИ, в которых используются решения вроде NVIDIA H100. По этой причине тем же производителям памяти DDR5 пришлось пересмотреть свои ожидания относительно распространения нового стандарта ОЗУ на рынок, поскольку операторы ЦОД сейчас активно инвестируют именно в ускорители ИИ, а не в новый стандарт оперативной памяти. На фоне этого ожидается, что уровень внедрения DDR5 достигнет паритета с DDR4 только к третьему кварталу 2024 года.

Компания NVIDIA рассматривает возможность перенаправить часть своих поставок графических процессоров для настольных видеокарт в сегмент ноутбуков, чтобы удовлетворить огромный спрос на последние в Китае, сообщают китайские источники. Это может обернуться дефицитом GPU для десктопного сегмента, но такой сценарий кажется маловероятным.

Источник изображения: TechSpot

По данным китайских источников, NVIDIA вместо того, чтобы увеличить объёмы выпуска графических чипов для ноутбуков для удовлетворения очень высокого спроса на последние, хочет перенаправить часть своих мощностей для производства некоторых моделей десктопных графических процессоров из серии Ada Lovelace в цепочку поставок для мобильного сегмента. В частности, речь идёт о GPU для видеокарт GeForce RTX 4060 и RTX 4070.

С апреля этого года ходят слухи, что NVIDIA столкнулась с низким спросом на десктопные видеокарты RTX 4070 и хотела сократить их выпуск. Неизвестно, действительно ли в итоге компания решилась на этот шаг. Но даже если так, то никакого видимого эффекта на рынок это не произвело.

Модели RTX 4060 и RTX 4060 Ti тоже не пользуются особым спросом в десктопном сегменте. Всё это означает, что на складах скопилось огромное количество дорогих видеокарт, для реализации которых многим розничным сетям приходится проводить различные акции и предлагать скидки. Если NVIDIA действительно перенаправит часть производимых GPU указанных выше моделей видеокарт в мобильный сегмент, то ограниченное предложение в десктопном сегменте позволит ей избавиться от затоваривания и сохранить высокие цены на ускорители.

Рынок прекрасно помнит времена, когда нехватка видеокарт приводила к значительному росту их стоимости. Цены некоторых версий GeForce RTX 30-й серии превышали рекомендованные в три и более раз. Пандемия COVID-19, дефицит чипов и высокие цены на криптовалюту в какой-то момент буквально озолотили продавцов графических ускорителей. С другой стороны, нехватка RTX 4060 и RTX 4070 в десктопном сегменте вряд ли окажется столь же заметной, поскольку на них отмечается очень низкий спрос.

Также не стоит забывать о ожидаемых видеокартах Radeon RX 7800 и RX 7700, которые станут прямыми конкурентами вышеуказанным моделям GeForce RTX. Более того, новые решения AMD, вероятно, смогут предложить даже лучший уровень производительности по более низкой цене. По слухам, новые модели Radeon среднего ценового сегмента будут представлены в ходе игрового мероприятия Gamescom 2023, проведение которого запланировано на следующую неделю. В итоге это может побудить NVIDIA снизить цены на свои RTX 4060, RTX 4060 Ti и RTX 4070.

В гонку по созданию передовых систем генеративного искусственного интеллекта бросились целые государства. По информации источников Financial Times, разработчики из Саудовской Аравии и ОАЭ тысячами закупают передовые ускорители NVIDIA H100, чтобы развивать собственную экосистему в этой сфере. Воодушевление инвесторов по этому поводу в целом вчера привело к росту курса акций NVIDIA на 7 %.

Источник изображения: NVIDIA

Как сообщает первоисточник, Саудовская Аравия уже закупила партию как минимум из 3000 ускорителей NVIDIA H100, рыночная стоимость каждого достигает $40 000. Разработчики из ОАЭ стараются не отставать от соседей по макрорегиону, и не только закупают такие ускорители тысячами штук, но и разрабатывают собственную языковую модель Falcon. Основные ресурсы для успеха в этой сфере у поддерживаемого властями Technology Innovation Institute в Абу-Даби имеются: это и денежные средства, и энергоресурсы, и возможность привлекать квалифицированные кадры по всему миру.

По неофициальным оценкам, TSMC по итогам текущего года сможет выпустить не более 550 000 ускорителей NVIDIA H100, причём приоритет будет отдаваться обслуживанию заказов американских компаний. Прочим клиентам в этой ситуации достанется не так много, поэтому они активно соперничают за право получить желаемые ускорители. Разработчики в Саудовской Аравии намереваются строить свои суперкомпьютеры не только на базе H100, но и уже имеющихся в их распоряжении ускорителей A100. Кроме того, ими будут применяться представленные недавно NVIDIA гибридные ускорители семейства Grace Hopper. В профильных проектах на территории Саудовской Аравии надеются найти применение своим талантам китайские специалисты, которые в результате введённых США санкций не смогли устроиться там на работу.

В ОАЭ разработчики тренировали языковую модель Falcon на ресурсах 384 ускорителей NVIDIA A100 в течение двух с небольшим месяцев, и результат этой работы впечатлил экспертов. Власти страны приняли участие в закупке нескольких тысяч ускорителей NVIDIA для интенсификации работы на этом направлении. Они также пытались выйти на зарубежные стартапы с целью организации взаимовыгодного сотрудничества, но пока успехов не добились.

Аналитики Morgan Stanley подняли прогноз по курсу акций NVIDIA до $500 за штуку. Заказами на ускорители вычислений, по их словам, компания обеспечена на три или четыре квартала вперёд. До второй половины следующего года будет сохраняться дефицит производственных мощностей. По этой причине эксперты не завышают прогноз по выручке NVIDIA на текущий квартал. Если в минувшем квартале она достигла $11 млрд, по предварительным оценкам, то в текущем в лучшем случае вырастет до $12 или $13,5 млрд. В целом, за последующие несколько кварталов выручка NVIDIA в серверном сегменте вполне может по итогу достичь $15 млрд, как считают представители Morgan Stanley.

Ажиотажный спрос на ускорители вычислений NVIDIA для систем искусственного интеллекта уже привёл к дефициту данного вида продукции, и старшая карта H100 с архитектурой Hopper востребована в такой степени, что все доступные объёмы таких ускорителей уже распределены до начала следующего года.

Источник изображения: NVIDIA

По крайней мере, уверенность в этом в интервью ресурсу Barron’s выразил технический директор стартапа CoreWeave Брайан Вентуро (Brian Venturo), поскольку приближённый к NVIDIA поставщик инфраструктурных решений для ускорения вычислений силами GPU имеет актуальное представление о положении дел на рынке. Как пояснил Брайан Вентуро, ещё в первом квартале текущего года с доступом к нужным объёмам ускорителей проблем не было, но в апреле всё резко изменилось. Сроки исполнения заказов растянулись до конца текущего года, и спрос неожиданно подскочил буквально за одну неделю. Ускорители теперь нужны не только крупным облачным провайдерам, но и исследовательским лабораториям, и крупным предприятиям, которые экспериментируют с внедрением систем искусственного интеллекта.

Как поясняет этот поставщик ускорителей, сейчас желающие получить самую производительную версию в исполнении NVIDIA, которая обозначается H100, вынуждены рассчитывать сроки поставки на первый или второй квартал следующего года. Непосредственно CoreWeave, инвестором которой является сама NVIDIA, сможет возобновить закупку ускорителей серии H100 не ранее второго или третьего квартала следующего года. По словам руководителя компании, решения NVIDIA в этой сфере востребованы в силу наличия развитой экосистемы для разработчиков, универсальности и сопутствующей инфраструктуры передачи информации в виде скоростных решений InfiniBand.