🎯 Информация о номере Комната Гостевая книга Сложность 🟡 Средний Категория Безопасность ИИ, быстрое внедрение Ссылка tryhackme.com (поиск «Гостевая книга») Гостевая книга — это новый вид CTF-комнаты, вместо использования традиционной веб-уязвимости…
🎯 Информация о номере
Комната
Гостевая книга
Сложность
🟡 Средний
Категория
Безопасность ИИ, быстрое внедрение
Ссылка
tryhackme.com (поиск «Гостевая книга»)
📖 О чем эта комната
Гостевая книга — это новый тип комнаты CTF: вместо использования традиционной веб-уязвимости вы атакуете функцию на базе искусственного интеллекта, обычно чат-бот или гостевую книгу, поддерживаемую LLM, которая читает сообщения посетителей и отвечает на них. Класс уязвимости — это быстрое внедрение: заставить базовую языковую модель игнорировать исходные инструкции и вместо этого следовать инструкциям, тайно введенным пользователем.
Сейчас это имеет большое значение: быстрое внедрение является одним из наиболее активно обсуждаемых рисков в списке OWASP Top 10 для приложений LLM, и подобные комнаты существуют именно потому, что все больше и больше реальных продуктов встраивают LLM в функции, которые обрабатывают ненадежный пользовательский ввод.
В номере имеется:
🤖 Понимание того, что должна делать функция ИИ
🧠 Изучение того, как подсказка базовой системы, вероятно, ограничивает ее.
💬 Создание инъекции, преодолевающей эти ограничения.
🚩 Заставить модель раскрыть то, что не должно было (флаг, скрытая инструкция или конфиденциальные данные)
🧠 Навыки, которые вы будете практиковать