Просишь нейросеть назвать источник цитаты — она без паузы выдаёт название книги, фамилию автора, год, издательство. Всё выглядит убедительно. Идёшь проверять. Книги не существует. Автора тоже.
Или просишь помочь с расчётом. Нейросеть объясняет каждый шаг, всё аккуратно, с формулами. В конце — неправильный ответ. При этом ни малейшего намёка на сомнение.
Многие в такой момент думают: сломалась, глючит, надо перезапустить. Но дело не в этом.
У этого поведения есть конкретная техническая причина — и она никуда не денется с обновлением версии. Это не ошибка в коде, это следствие того, как языковые модели устроены изнутри.