ИИ не может контролировать свои мысли — и это хорошая новость: OpenAI протестировали 13 моделей

[zartdinov]

Это как не думать о желтой обезьяне

[terraincognita07]

Или розовом слоне)

[Real_Egor]

как по мне, то самое пагубное для любого проекта сейчас "это дать ИИ принимать решения". Не готовы они еще к этому (не будем про "еще", не хочу пока что заглядывать в будущее, там все может быть неожиданно)... Даже когда маленькие правки нужно применить ко всему документу, и то за ИИ нужно пристально наблюдать. Они слишком легко делают "не то", или вообще случайно удалить все могут.

это и есть проявления того, что они не могут контролировать длительные рассуждения и следить за вниманием. И помимо простых технических особенностей "маленькое окно оперативной памяти внимания" или "нет сверки внимания между разными запросами" или .. добавьте любой другой пункт про то..., что можно почерпнуть из наблюдения за тем, как мы выполняем "внимательно" сложные задачи... Тут есть и кардинальное отличие. ИИ не умеет нести ответственность, а именно это и является неотьемлемой частью при решении сложных задач. Человек, который не несет ответственность за результат текущей задачи, точно так же распыляет внимание и не замечает совершенных ошибок, или относится к ним пофигистично.