Память и «сновидения» агентов: как ИИ учится и оптимизируется

Эволюция возможностей агентов

Развитие агентов привело к тому, что они могут выполнять всё более сложные и длительные задачи. Однако управление контекстом в таких сценариях оставалось сложной задачей. Память стала решением, позволяющим агентам учиться на предыдущем опыте и переносить знания между разными задачами.

Что даёт память?

Без памяти каждый агент начинает задачу «с чистого листа». С памятью агенты могут:

• Учиться на общих стратегиях и прошлых ошибках
• Переносить знания между задачами, средами и даже другими агентами
• Создавать «рои агентов», которые совместно формируют и поддерживают общее понимание организации

Результаты внедрения памяти:

• Rakuten: снижение ошибок первого прохода на 97%
• WiseDocs: сокращение типовых проблем в процессе верификации документов

Архитектура памяти в Claude Managed Agents

Система памяти построена вокруг трёх ключевых компонентов:

1. Слой хранения (Storage Layer): управление данными и отслеживание изменений
2. Структура памяти: оптимизирована под файловую систему, чтобы Claude мог использовать свои сильные стороны (навигация, bash, grep)
3. Обработка, управляемая Claude: агенты обновляют память «по ходу дела», как делают заметки

Ключевой принцип — «не мешать Клоду»: модель уже знает, как работать с файловыми системами, поэтому память спроектирована именно в таком виде.

Проблема локальной оптимизации и рождение «Сновидений»

При масштабировании на многопользовательские системы проявились ограничения:

• Агенты повторяли одни и те же ошибки, учась только на своём опыте
• В памяти возникали дублирование и фрагментация
• Обновления были локально оптимальными, но не глобально оптимальными

Решение — «Сновидения» (Dreaming):

Это процесс обратной связи, который:

• Анализирует транскрипты множества сессий и агентов
• Ищет паттерны в ошибках и неэффективности
• Автоматически организует, курирует и оптимизирует общую память

Пример: Harvey достигла 6-кратного увеличения процента выполнения своих юридических тестов благодаря этому подходу.

Как работают «Сновидения»?

Характеристики процесса:

• Пакетный и внеполосный процесс: запускается отдельно от основных сессий агентов (ночью, по часам, по событию)
• Гибкость: управляется через API, можно запускать ad-hoc или по расписанию
• Результат: создаётся проверенный, лучше организованный снимок памяти, который агенты могут принять

Архитектурные преимущества:

• Полезно для систем с множеством агентов (анализ кросс-сессий)
• Чистое разделение: нет компромисса между улучшением памяти и выполнением задачи
• Нулевая задержка для «горячего» пути агента

Демо: Платформа агентов для SRE (Site Reliability Engineering)

Сценарий: система обрабатывает инциденты и алерты.

Типы памяти:

1. Только для чтения: организационная память (SLO, runbooks, график дежурств)
2. Для чтения и записи: контекстная память под конкретную задачу

Пример работы:

Первый агент обнаружил причину алерта и начал исправление, записав в память, что «фикс в процессе». Следующий агент, увидев схожую проблему, уже знал из памяти о готовящемся исправлении и действовал соответственно.

Корпоративный контроль:

Полная история версий памяти, атрибуция правок, модель оптимистичного контроля параллелизма для предотвращения конфликтов.