Ляпы ИИ: самый абсурдный провал ИИ на этой неделе

Сегодняшние ляпы ИИ Подсказка, которая съела сама себя Что произошло: пользователь попросил ИИ «пересказать эту статью ровно в 10 словах». ИИ обобщил это ровно в 10 словах, а затем потратил еще 200 слов, объясняя, почему он резюмировал это ровно в 10 словах. Урок: когда вы просите ИИ сделать что-то точное, он сделает то же самое И объяснит то же самое. Точность и краткость — не одно и то же. Бесконечный цикл проверки Что произошло: разработчик подключил ИИ-агент к собственному выходному монитору. Агент выведет код, монитор пометит его, агент «исправит» флаг, монитор пометит исправление, агент… вы поняли. Урок: всегда держите человека в курсе, когда ИИ может изменить свой собственный механизм обратной связи. Или хотя бы установите флаг максимального количества итераций. Галлюцинация Цитата Что произошло: ИИ попросили написать научный параграф и включить цитаты. Он процитировал три статьи, ни одна из которых не существует. У них были реалистичные названия, ссылки на правдоподобные аннотации, а соавтором одного из них даже был настоящий исследователь, который не принимал в этом участия и был слегка встревожен, обнаружив их имя в статье, которой не существует. Урок: AI-g