Роль внедрения графа знаний в модели LLM

Что мы строим Я создаю агента QA для графа знаний, который превращает небольшой набор троек сущностей-отношений в векторные вложения, извлекает наиболее релевантные факты для вопроса и обосновывает ответ LLM этими структурированными фактами. Это важно, когда неструктурированное извлечение фрагментов слишком нечеткое и вам нужны точные, реляционные рассуждения. Я буду использовать Oxlo.ai как для встраивания, так и для генерации вызовов. Что вам понадобится Python 3.10 или новее Ключ API Oxlo.ai с https://portal.oxlo.ai. OpenAI SDK и NumPy устанавливаются с помощью pip install openai numpy. Шаг 1. Запустите клиент Oxlo.ai. Я начинаю с импорта OpenAI SDK и указываю его на конечную точку Oxlo.ai. Поскольку Oxlo.ai использует фиксированную цену за каждый запрос, я могу упаковывать длинные запросы с полученными тройками без масштабирования затрат с учетом количества токенов. из openai импорт OpenAI клиент = OpenAI(base_url="https://api.oxlo.ai/v1", api_key="YOUR_OXLO_API_KEY") Шаг 2. Определите и внедрите граф знаний Я создаю несколько реальных троек о технологических приобретениях и основателях, а затем пакетно встраиваю их в модель BGE-Large от Oxlo.ai. Я форматирую каждую тройку как простое предложение, чтобы встраивание отражало полное отношение. импортировать ню