Цепочка мыслей: заставить модель подумать, прежде чем она ответит

Добавьте четыре слова — «давайте подумаем шаг за шагом» — к подсказке, и модель, которая неправильно решала задачу рассуждения, начнет ее решать правильно. Тот факт, что это вообще работает, говорит вам кое-что важное о том, как рассуждают студенты-магистры, а когда они не могут. Цепочка мыслей — один из самых мощных и наиболее неправильно понимаемых методов прикладного ИИ. Вот почему это работает, где помогает, а где это просто театр. Почему «мысли вслух» помогают модели Напомним, что модель генерирует по одному токену за раз, каждый из которых зависит от всего, что было до него. Когда вы заставляете дать прямой ответ, модель должна вычислить сложный, многоэтапный результат за один скачок — и, как человек, выпаливающий ответ, не обдумав его, она делает ошибки по неосторожности. Цепочка мыслей (CoT) просит модель сгенерировать промежуточные этапы рассуждения перед окончательным ответом. Это не косметика. Каждый шаг рассуждения, записанный моделью, становится частью контекста для следующего шага — поэтому модель буквально строит каркас, на который может опереться, разбивая один трудный прыжок на серию простых. Он «показывает свою работу», и эта работа действительно улучшает место назначения. Есть причина, по которой новейшие модели «рассуждения»