Словарь ИИ
Что такое память агента
Коротко
Память агента это все, что ИИ-агент помнит помимо текущего запроса: ход разговора, факты о клиенте, прошлые решения и уроки из ошибок.
ИИ-агенты · agent memory
Редакция ММООЗЗГГ.ruПроверено: 1 минута чтения
Ребенку
Когда ты решаешь длинную задачу, ты пишешь черновик, чтобы не забыть промежуточные ответы. А в дневнике хранишь то, что пригодится через неделю: расписание, домашние задания, кто из друзей любит какие игры. У помощника на нейросети тоже есть черновик и дневник. Без них он бы каждый раз знакомился с тобой заново.
Простыми словами
Языковая модельбольшая языковая модель. Большая языковая модель (LLM) это нейросеть, обученная на огромном объеме текстов, которая пишет, пересказывает и разбирает текст по запросу. сама ничего не запоминает между разговорами: каждый запрос она видит с чистого листа. Память строят вокруг нее. Краткосрочная часть лежит прямо в запросе: последние сообщения и промежуточные результаты. Долговременная хранится отдельно, в базе, и подмешивается в запрос, когда нужна. Например, клиент написал в поддержку весной и сказал, что платит только по безналу. Через два месяца агент находит эту заметку и сразу предлагает подходящий способ оплаты, не задавая вопрос повторно.
Для бизнеса
Память делает агента полезным в длинных отношениях с клиентом и в многошаговых задачах: он не переспрашивает, учитывает договоренности и продолжает работу после перерыва. Но все, что агент запомнил о людях, становится персональными данными: их хранение подчиняется 152-ФЗ, нужны сроки хранения и способ удалить запись по требованию. Вторая статья расходов в объеме: чем больше прошлого подмешивается в каждый запрос, тем дороже ответ. Третий риск в устаревших или ошибочных записях, которые агент принимает за правду. До запуска решают, что именно запоминать, где лежит база и кто может ее просматривать. Эти правила фиксируют вместе с настройкой агента, который ведет запись клиентов.
Для специалиста
Память агента (agent memory) делят на рабочую и долговременную. Рабочая (working memory) живет в контекстном окне: история диалога, план, результаты вызовов инструментоввызов функций. Вызов функций (function calling) это способ, которым языковая модель просит программу выполнить действие: модель выбирает функцию и заполняет ее параметры, а код приложения выполняет запрос и возвращает результат.. Долговременная (long-term memory) лежит во внешнем хранилище, часто в векторной базе или в обычной таблице, и извлекается поиском, как в RAG. По содержанию различают эпизодическую память (события и прошлые диалоги), семантическую (факты о пользователе и мире) и процедурную (навыки и инструкции). В работе MemGPT (Packer и др., 2023) модель сама перемещает данные между уровнями памяти по аналогии с виртуальной памятью операционной системы. В Generative Agents (Park и др., 2023) агенты ведут полный журнал опыта на естественном языке, обобщают его в рефлексиирефлексия агента. Рефлексия агента это прием, при котором ИИ-агент оценивает свой результат или неудачную попытку, записывает выводы и делает следующую попытку с их учетом. и используют для планирования. Открытые вопросы: что забывать, как разрешать противоречия между записями и как не дать вредной записи попасть в хранилище.
Пример
Агент записи в автосервисе помнит, что у клиента дизельная машина и что в прошлый раз он просил звонить только после обеда. При новой записи агент сразу предлагает подходящие окна и нужного мастера.
Связанные термины
Вопросы и ответы
Источники
Не уверены, нужно ли это вашей компании?
Карта ИИ-решений