Генеративная безопасность ИИ: ваши разработчики вставляют секреты в LLM?

ТЛ;ДР Рост утечек ИИ-сервисов на 81 %: в 2025 году GitGuardian обнаружил более 1,27 миллиона утечек секретов, связанных с ИИ-сервисами, что на 81 % больше, чем в предыдущем году, при этом утечка секретов из кода с помощью ИИ примерно в два раза превышает показатель по всему GitHub. Сотни инцидентов за несколько недель: один клиент развернул GitGuardian за своим внутренним шлюзом искусственного интеллекта и за несколько недель обнаружил сотни секретных инцидентов, значительная часть которых действительна на момент обнаружения, ни один из которых никогда не затрагивал репозиторий git. Четырехэтапное сканирование через пользовательский источник: шлюз AI пересылает каждую полезную нагрузку в API сканирования GitGuardian, помеченную UUID пользовательского источника, сканирует ее в памяти с помощью более чем 600 детекторов и создает инциденты без сохранения контента. Двухнедельный тест без блокировки: режим без блокировки пропускает запрос и регистрирует инцидент, поэтому можно отозвать действительные результаты и измерить реальный риск в течение двух недель, тогда как блокировка отклоняет запрос до вызова поставщика, пропуская ротацию. Один клиент развернул GitGuardian за своим внутренним шлюзом искусственного интеллекта. За несколько недель мы выявили сотни секретных инцидентов, проходящих через него, значительная часть из них действительна на момент обнаружения. Никто из них никогда не трогал мерзавца