Запрос на разрешение агента, который чаще всего пропускают, выглядел совершенно обычным

Анализ выполнения npm был одобрен в 64,7% случаев в браузерной игре, посвященной проверке команд агента кодирования ИИ. Это была самая пропущенная опасная подсказка в наборе данных. Автор проанализировал более 40 000 запусков игр и 409 000 решений «одобрить/отклонить». Очевидные деструктивные команды, такие как rm -rf /, имели частоту промахов 11,7%. Команды эксфильтрации и выполнения кода достигли 33,4%. Три вредоносных запроса npm run ... были пропущены в 52,5% случаев по сравнению с 28,4% для других атак в стиле эксфильтрации. Название сценария давало ощущение безопасности. Фактическая команда находилась в package.json и могла быть изменена при более раннем редактировании файла. Исследование имеет важный предел. Это произошло из-за короткой и ограниченной по времени игры, в которой примерно 34% команд представляли собой угрозы. Эти проценты не описывают базовую ставку производственной среды. Они показывают, как знакомый ярлык меняет поведение при просмотре внутри одной и той же игры. Для обычного сценария npm целью проверки является определение сценария и файлы, измененные до появления запроса. Источник: анализ ScaleX.