Учёные выявили серьёзный недостаток систем памяти на основе больших языковых моделей (LLM). Оказалось, что постоянное обновление консолидированных воспоминаний, призванное улучшить работу агентов, наоборот, ведёт к деградации.
В работе, опубликованной на arXiv (2605.12978), исследователи изучали два типа памяти: эпизодическую (сырые записи событий) и консолидированную (обобщённые уроки). Современные системы памяти LLM стремятся к консолидации: модель переписывает прошлые траектории в текстовое хранилище, обновляемое с каждым новым взаимодействием. Однако анализ показал, что такая память становится ошибочной даже при полезном опыте.
В ходе эксперимента с ARC-AGI, набором головоломок на пространственное мышление, GPT-5.4 с консолидированной памятью не справилась с 54% задач, которые ранее успешно решала без памяти. При этом снижение производительности связано именно с этапом консолидации, а не с самим опытом: одни и те же траектории приводили к разным воспоминаниям в зависимости от расписания обновлений.
Контрольная группа с эпизодической памятью (простое сохранение траекторий) сохраняла конкурентоспособность с лучшими консолидаторами. В специально созданной среде ARC-AGI Stream, где агенты могли выбирать между сохранением, удалением и консолидацией, стратегия по умолчанию с сохранением сырых эпизодов вдвое повысила точность по сравнению с принудительной консолидацией.
Полное отключение консолидации (только эпизодическое управление) позволило достичь таких же результатов. Авторы делают вывод: для надёжной работы агентов следует рассматривать сырые эпизоды как первостепенное доказательство, а консолидацию делать явной, а не запускать после каждого взаимодействия.
Практическое значение работы состоит в том, что разработчикам ИИ-агентов стоит пересмотреть архитектуру памяти: возможно, стоит отказаться от автоматической консолидации в пользу более гибких схем, где контроль над обновлениями остаётся за системой.