Мы собираемся создать легкий исследовательский агент, который будет принимать технические выдержки из архитектур LLM и возвращать структурированный анализ JSON. Это полезно для инженеров, которым необходимо переваривать документы или документацию, не выполняя полную обработку.
Мы собираемся создать легкий исследовательский агент, который будет принимать технические выдержки из архитектур LLM и возвращать структурированный анализ JSON. Это полезно для инженеров, которым необходимо переваривать документы или документацию, не управляя полным конвейером поиска. В конечном итоге вы получите сценарий, который можно указать на любой текстовый файл.
Что вам понадобится
Python 3.10 или новее
OpenAI SDK: pip install openai
Ключ API Oxlo.ai с https://portal.oxlo.ai.
Шаг 1: Подключитесь к Oxlo.ai
Создайте экземпляр OpenAI SDK, указывающий на Oxlo.ai. Поскольку Oxlo.ai полностью совместим с OpenAI, это единственная необходимая настройка. Я использую здесь Qwen 3 32B, потому что он точно обрабатывает рассуждения и инструкции агента.
из openai импорт OpenAI
клиент = OpenAI(
base_url="https://api.oxlo.ai/v1",
api_key="ВАШ_OXLO_API_KEY"
)
# Проверьте подключение
ответ = client.chat.completions.create(
модель="qwen-3-32b",
messages=[{"role": "user", "content": "Say OK"}],
max_tokens=10
)
print(response.choices[0].message.content)
Шаг 2. Заблокируйте системную подсказку
Системное приглашение ограничивает модель строгим выводом JSON и предотвращает галлюцинации за пределами предоставленного текста. Зафиксируйте это значение как константу, чтобы оно оставалось неизменным в пределах калибровки.