Рамка RAG с инфракрасной линзой

Это для наших инфраструктурных администраторов, которым было бы больше интересно понять RAG (генерацию с расширенным поиском) с помощью инфракрасной линзы. RAG Framework — Ретривер, Ранкер, LLM Думайте об этом как о трехуровневой системе поддержки/поиска билетов: Retriever — получает соответствующую информацию из большого корпуса или базы данных, используя методы поиска. Это ваш индекс поиска по вашим модулям Runbook, статьям базы знаний и прошлым разрешениям заявок — например, запрос в репозиторий документации AD/VMware на наличие всего, что может соответствовать текущей проблеме. Он забрасывает широкую сеть, вытягивая все, что действительно имеет отношение к делу. Ранкер — оценивает и расставляет приоритеты того, что извлекал ретривер, гарантируя, что LLM получит наиболее актуальные и высококачественные данные. Это похоже на сортировку результатов поиска по релевантности перед эскалацией — вы не передаете специалисту уровня 1 каждую статью базы знаний, в которой упоминается «DNS», вы ранжируете по тому, насколько близко каждая из них соответствует фактическому симптому. LLM — генерирует окончательный ответ, подобный человеческому, используя ранжированную полученную информацию плюс исходный запрос, стремясь к тому, чтобы ответ был фактически точным, последовательным и обоснованным. Это ваш старший инженер, который пишет окончательную заметку по решению проблемы, синтезируя все возможные варианты.