Предполетная система для агентов кодирования, использующих инструменты

Помощник по кодированию с инструментами оболочки, файла, HTTP или установки пакета — это не просто более умное автозаполнение. Это небольшой оператор, который может превратить неоднозначные инструкции в побочные эффекты. Режим отказа редко представляет собой драматический мошеннический ИИ. Чаще всего это скучно: вызов инструмента записывает данные за пределы предполагаемого каталога, сгенерированная команда пропускает переменную среды в журналы или безобидная на вид установка зависимостей изменяет файл блокировки до того, как кто-либо просмотрит разницу. В этой статье рассматривается предполетная подготовка, которую можно запустить, прежде чем предоставлять агенту более широкие инструменты. Артефакт намеренно прост: оболочка политики, канареечный список задач и контрольный список проверки. Это полезно, даже если вы никогда не прикасаетесь к размещенному продукту для кодирования. Граничная задача в одной конкретной форме Представьте себе агента, которого попросили «очистить скрипт сборки». Он имеет три инструмента: read_file, write_file и run_shell. Разумная очистка становится рискованной, если созданный план включает в себя такие шаги, как: отредактируйте скрипты/build.sh, а также ~/.bashrc запустить локон ... | ш, потому что README сказал об этом печатать env во время отладки, предоставляя токены в журналах CI установить пакет глобально, а не внутри проекта Ничто из этого не требует злого умысла. Они р