LowPriority: предоставление местному LLM права решать, когда выполнять фоновые задания.

Подробное техническое описание встроенного в устройство планировщика с использованием искусственного интеллекта, управляемого политиками. Целевая аудитория: разработчики. Мы собираемся пройтись по факту архитектура, конвейер принятия решений, модель безопасности и компромиссы мы сделали — с реальным кодом из репозитория. Программное обеспечение для настольных компьютеров выполняет много скрытой фоновой работы: индексаторы, синхронизацию, средства запуска тестов, конвейеры построения, задания машинного обучения, резервное копирование. Почти все это стреляет в худшее время — прямо когда пользователь что-то компилирует или разговаривает по телефону — потому что никто не спросил: «А сейчас действительно хороший момент?» cron планирует время на настенных часах и никогда больше не смотрит на машину. nice/ionice деприоритизировать процесс, но никогда не составлять расписание решение. LowPriority использует другую точку зрения: он наблюдает за вашей машиной, изучает ваши шаблоны использования и для оценки использует местный LLM — в то время как детерминированный Политический механизм решает. LLM является консультантом. Политика – это закон. В этом посте рассматриваются: проектирование компонентов, контракт телеметрии, протокол вывода, детерминированный уровень безопасности, уровень данных, модель безопасного выполнения и стратегия тестирования. Реальный код, реальные компромиссы. 1. Основная идея в одной картинке Каждый планировщик представляет собой функцию трех входов: f(м