Использование ИИ для кодирования — это не риск. Непонимание того, что он отправил

Введение Существует разрыв между тем, как кодирование с помощью ИИ демонстрируется, и тем, как оно фактически используется в сжатые сроки. В демо модель пишет функцию, разработчик ее читает, понимает и сливает. Под дедлайн модель пишет функцию, разработчик ее просматривает, она выглядит правдоподобно и она сливается. Один и тот же инструмент, два совершенно разных результата, и разница не видна в различиях. Назовем первую когнитивную помощь: ИИ избавляет от необходимости печатать, а не думать. Назовем вторую когнитивной разгрузкой: ИИ убирает мышление, а разработчик просто делает то, что осталось, в основном нажимая «принять». Оба выглядят одинаково в запросе на включение. Они расходятся только позже, когда что-то ломается и кому-то приходится объяснять, почему система делает то, что делает. Вот где этот пробел на самом деле проявляется в производстве. (Иллюстративные композиции взяты из общих закономерностей, а не конкретных инцидентов.) Схема, о которой никто на самом деле не рассуждал Разработчик просит помощника ИИ создать миграцию, добавив новую таблицу с двумя внешними ключами. Выглядит хорошо, работает локально, тесты проходят, поставляется. Никто из команды, включая человека, написавшего миграцию, фактически не работал.