Агентская память ИИ для начинающих.

Привет, прошло много времени с тех пор, как я публиковал свой последний блог. Недавно я узнал много нового об агентах ИИ и подумал о том, чтобы написать небольшой блог о том, как работает память агентов ИИ. Это очень удобный блог для новичков. Тот, кто практически не имеет представления о том, как и почему работает агентная память ИИ, может получить простую ментальную модель, чтобы понять это, и она может стать отправной точкой для дальнейшего исследования. Контекст, Контекст, Контекст TL;DR Память — это контекст LLM Если вы активно работали в сфере LLM, вы, вероятно, слышали об этом термине «Контекст». Он действует как входные данные для LLM для получения ответа. Контекст проходит через нейронную сеть и прогнозирует «токен» в качестве ответа. Чем конкретнее контекст, тем более качественный результат вы получите. Например, если вы зададите вопрос типа «Как исправить утечку памяти в моем коде JavaScript?». Он может вернуть общий ответ, например «убедитесь, что вы освобождаете свою память после вызова функции». Он также может предоставить вам список возможных причин утечек памяти. Это может резонировать, а может и не резонировать с конкретной проблемой, с которой вы имеете дело. С другой стороны, если вы предоставляете фрагменты кода, добавьте дополнительную информацию, например, как он получается.