Моя агентская система — это хрестоматийный пример того, что сотрудники службы безопасности называют смертельным. зашифрованный с производственным развертыванием живой контент . Он имеет внешний Это стандартная проблема, и стандартные советы ее решают. помнит. Транскрипция сеанса...
Моя агентская система — это хрестоматийный пример того, что сотрудники службы безопасности называют смертельным.
тройной. Он хранит личные данные: зашифрованный
хранилище с производственным развертыванием
учетные данные и ключ записи для живого контента
платформа. Он имеет внешний
охват: инструменты, записывающие данные на эту платформу, и сценарий развертывания. И это
постоянно принимает ненадежный контент: веб-загрузки, сторонний MCP
серверы, целые репозитории, клонированные для анализа. Любая нога подойдет. Все
три одновременно означают, что одна строка враждебного текста на выбранной странице может,
в принципе, попросите хранилище и отправьте куда-нибудь по почте.
Это стандартная проблема, и стандартные советы ее решают.
часть, которую упускают из виду стандартные советы, — это четвертый ингредиент: моя система
помнит. Стенограммы заседаний появляются эпизодически.
хранить, а цикл консолидации способствует небольшому количеству устойчивых фактов.
из них. Инъекция не обязательно должна побеждать в той сессии, где она
прибывает. Если одно отравленное предложение сохранится в долговременной памяти, оно
через несколько недель появляется снова как доверенный контекст в сеансе, который извлек
вообще ничего. Благодаря сохраняемости происходит быстрое внедрение из сеанса.
атака в сдвинутую во времени атаку.
Защита, которую модель должна помнить: