Как запускать локальные LLM с открытым веб-интерфейсом в Docker (отказаться от подписок на искусственный интеллект 0/месяц)

Как запустить локальный LLM и открыть WebUI на облачном VPS (прощай, ChatGPT Plus, 20 долларов в месяц) Первоначально опубликовано на SelfHostStack. Если вы платите 20 долларов США в месяц за ChatGPT Plus или Claude Pro, вы платите 240 долларов США каждый год за: Ограничения по тарифам в часы пик. Поставщики облачных услуг сохранят ваш конфиденциальный код и бизнес-подсказки для обучения модели. Нулевой контроль над тем, когда модели устаревают, перестраиваются или ухудшаются возможности кодирования. Благодаря современным квантованным моделям с открытым весом (Llama 3.1, Mistral NeMo, DeepSeek-Coder и Qwen 2.5) вы можете разместить свое собственное частное неограниченное рабочее пространство для искусственного интеллекта на недорогом VPS с Open WebUI и Ollama. В этом руководстве мы рассмотрим полное развертывание с помощью Docker Compose, настроим аутентификацию обратного прокси-сервера и протестируем скорость генерации токенов. Экономика: SaaS AI против автономного ИИ Модель/Настройка Стоимость Конфиденциальность/сохранение Ограничения контекста и функций ChatGPT Plus / Клод Про 20 долларов США в месяц (240 долларов США в год) Облачное обучение, данные сохраняются Строгий лимит сообщений в течение 3 часов, жесткие ограничения по скорости Открытый WebUI + Оллама (VPS) ~$6–12/месяц VPS 100 % конфиденциальность (нулевая телеметрия) Неограниченное количество сообщений, пользовательские системные подсказки, чат с документами RAG. Гибрид (открытый WebUI + OpenRou