Microsoft переводит свой ИИ на собственные чипы, но обучать модели будет на Nvidia
Microsoft показала Maia 300, свой ИИ-чип третьего поколения. С 2027 года он должен стать основной системой для работы ИИ-сервисов компании. Nvidia из этой схемы при этом никуда не уходит.
Что случилось
В понедельник Microsoft представила Maia 300, собственный ИИ-ускоритель третьего поколения. Его задача — инференс, то есть обработка запросов к уже готовым моделям. Компания называет его основной системой инференса для своих продуктов и сервисов.
Чип производят по техпроцессу TSMC N2P. Он построен на чиплетах: вычисления, контроллер памяти и ввод-вывод вынесены в отдельные блоки. В одну серверную стойку поместится 96 чипов, вдвое больше, чем у Maia 200. По словам Microsoft, в такой конфигурации стойка обрабатывает до 7 раз больше токенов, чем на Maia 200. Ещё компания ожидает на 40% больше токенов на мегаватт по сравнению с ведущими системами на GPU.
В рабочие сервисы Maia 300 начнёт поступать в 2027 году. Предшественника, Maia 200, анонсировали в январе. Он уже работает в Microsoft Copilot, GitHub Copilot, Microsoft Foundry и на собственных моделях компании.
«Мы ожидаем, что Maia 300 даст на 40% больше токенов на мегаватт по сравнению с ведущими системами на базе GPU.»
«Вне Microsoft их пока никто не тестировал.»
Почему это касается тебя
Если пользуешься Copilot в Office или GitHub, со временем твои запросы будут считаться на чипах Microsoft, а не Nvidia. В компании говорят, что часть функций Microsoft 365 Copilot с Maia 300 должна работать быстрее.
Главный мотив — деньги. Электричество в дата-центрах почти напрямую превращается в расходы. Финдиректор Microsoft говорит, что собственные чипы уже помогали поднять маржу. Чем меньше крупные облака зависят от одного поставщика, тем сильнее меняется расклад на рынке, где сейчас правит Nvidia.
Что умалчивают
- Цифры по эффективности пока проверить некому. Эти чипы, в отличие от TPU у Google и Inferentia и Trainium у Amazon, нельзя арендовать почасово, а вне Microsoft их ещё никто не тестировал. [2]
- Обучать модели Microsoft по-прежнему будет вместе с Nvidia и AMD. А называть сроки развёртывания на несколько гигаватт менеджер компании Алистер Спирс отказался: отрасль меняется очень быстро. [2]
- Масштаб пока скромный. Аналитики Evercore ISI оценивают долю Maia примерно в 10% расходов Microsoft на ИИ-чипы к первому кварталу 2027 года. [2]
Смогут ли собственные чипы техгигантов потеснить Nvidia?
Голос анонимный.
Источники
- The Verge · 12 октября, 16:00Microsoft’s new AI chip makes it less reliant on Nvidia’s GPUs
- CNBC — Top News · 12 октября, 16:00Microsoft to rely more on homegrown AI chips, reducing dependence on Nvidia
- Techmeme · 12 октября, 16:15Microsoft unveils its third-gen in-house AI chip, the Maia 300, built on TSMC's N2P process node and aimed at serving as its "primary AI inference system" (Tom Warren/The Verge)