Разработчики каждый день внедряют все больше в инструменты искусственного интеллекта. Журналы. Стек следов. файлы .env. Ответы API. SQL-ошибки. Примечания клиента. Контракты. PDF-файлы. Скриншоты. Внутренние документы. Этот рабочий процесс полезен, но он также создает тихий риск конфиденциальности: ...
Разработчики каждый день внедряют все больше в инструменты искусственного интеллекта.
Журналы. Стек следов. файлы .env. Ответы API. SQL-ошибки. Примечания клиента. Контракты. PDF-файлы. Скриншоты. Внутренние документы.
Этот рабочий процесс полезен, но он также создает тихий риск конфиденциальности:
Что, если приглашение содержит ключ API?
Что делать, если файл содержит данные о клиентах?
Что делать, если на снимке экрана есть конфиденциальная информация, которую никто не заметил?
Я создал PrivyPrompt, чтобы уменьшить вероятность случайного обмена информацией.
Что делает PrivyPrompt
PrivyPrompt — это расширение Chrome, которое проверяет запросы и поддерживаемые файлы перед их отправкой в инструменты искусственного интеллекта.
Он может предупреждать, маскировать или блокировать конфиденциальный контент, например:
Ключи API, токены, JWT, закрытые ключи и URL-адреса базы данных.
Значения, подобные паролю, и настраиваемые защищенные термины
Электронная почта, номера телефонов, кредитные карты и номера IBAN.
Национальные идентификаторы и форматы идентификаторов для конкретной страны
Конфиденциальные данные о бизнесе, здравоохранении, финансах, юриспруденции и HR-стиле.
Рискованные инструкции ИИ, такие как формулировки быстрого внедрения или секретной эксфильтрации.
Он также поддерживает локальные проверки таких файлов, как текст, код, .env.
, конфигурации, CSV, JSON, Markdown, SQL, журналы, PDF-файлы, файлы DOCX и четкие снимки экрана.
Ориентированность на локальность по замыслу
Я не хотел создавать инструмент, в котором