Контекстные окна — это не память

Все стремятся сделать ИИ умнее. Почти никто не спрашивает, что можно запоминать. Я начинаю ежедневную серию статей о наименее изученном слое ИИ. День 1. Вот в чем путаница: мы начали называть контекстное окно «памятью». Это не так. Контекстное окно — это рабочий стол. Вы складываете на него вещи, работаете, а в конце занятия кто-то убирает со стола. Более крупные модели просто дадут вам больший стол. Память – это картотека. Что уцелело после очистки стола. Итак, представьте себе, что вы нанимаете блестящего аналитика без долговременной памяти. Каждое утро вы информируете их о компании, клиентах и ​​решениях, которые вы уже приняли вместе. Они кивают. Они делают действительно отличную работу. А к завтрашнему дню его уже нет. Вы никогда не назовете этого человека работником умственного труда. Вы бы назвали это очень дорогим Днем сурка. Это большинство «агентов ИИ», работающих сегодня в производстве. Ответом отрасли было рассматривать это как проблему хранения. Больший контекст. Еще одна векторная база данных. Есть еще что-то, надеюсь, получится правильное. Я думаю, что это совершенно неправильный подход. Память — это не проблема хранения. Это проблема доверия. Завтра, день 2: почему RAG — это не память — и почему conf