[Перевод] Деградация безопасности при итеративной генерации кода с помощью ИИ (краткое изложение исследования)

Что будет, если навайбкодить всякое, а потом внимательно посмотреть, что это мы натворили и насколько оно ужасно? Пора ли увольнять мясных программистов, или пора отменять подписку и нанимать мясных, чтобы они все исправили, пока не поздно? Краткое изложение исследования с конференции IEEE-ISTAS 2025 о том, как LLMки пишут уязвимый код. Возможно вы замечали, что ИИ очень бодро начинает любой проект, быстро делает какой-то MVP, и даже код получается хороший, аккуратный, безопасный. Но через сколько-то шагов начинается кошмар. Вот внимательный разбор этого кошмара. Открыть врата ужаса