«Бессердечные» нейронные сети — утечка или глюк?

[FirstEgo]

По-моему, больше на пасхалку похоже. К слову, хотелось бы узнать: была ли повторная попытка загрузки того фентезийного романа? Если да, то ответ был таким же?

[ss-nopol]

В в docx скачанным из Интернета может много чего храниться помимо отображаемого текста, там может был внутре ещё какой-то текст.

[avshkol]

Внутри Docx нейросеть разглядела текст кириллицей и кучу английских слов, среди которых выделила core (можно перевести как «сердцевина»), net и т.п., и пошла по пути, будто бы эти слова описывают текст, смысл которого не важен.

[krote]

Это по моему лучшее объяснение откуда взялось "сердцевина" и "бессердечность". Но в принципе можно проверить скормив ИИ пустой docx, если это так то выходит дело в некорректном импорте таких файлов

[StreamThread]

Цитируя одну из местных публикаций: Если есть достаточное пространство для маневра, ошибочный результат может быть воспринят как правильный. Это и произошло с нейросеткой. Она посчитала такой ответ уместным.

[riv9231]

По моим наблюдениям, это представляется маловероятным. По крайней мере, я вообще не замечал чтобы ChatGPT4 отклонялся от контекста, не то чтобы значимо, а хотя бы заметно.

[riv9231]

Почему нет варианта - не доверяю автору? Сейчас очень многие публичные люди пытаются обосновать запрет на развитие "более мощного чем ChatGPT-4 ИИ". И это не удивительно. Прогресс идёт не просто семимильными шагами, прогресс несётся обгоняя самолёты, если срочно не затормозить, может оказаться что вчерашние лидеры, дав импульс всей индустрии, сами окажутся в аутсайдерах. Ставки очень велики, по этому я с недоверием отношусь к тому что мне может напоминать вброс. Не претендуя на истину в последней инстанции, всё-же с недоверием отношусь к этой истории. В общем, я пока сам не увижу - не поверю, а я пока ничего подобного за ChatGPT4 не замечал.

[Terranz]

Чатгпт - не ии, а унылый генератор текста, о чем даже автор сообщает.

С чего все вокруг решили, что это хоть сколько-то интеллект? Это явный глюк

[krote]

Да в общем то человек отвечая на сообщения тут тоже генерирует текст, только у него есть внутренние циклы генерации, которые он зовет "мысли".

Понятно что ИИ это очень грубо продвинутый "Т9", который предсказывает какие слова лучше поставить чтобы они удовлетворяли наименьшей ошибке предсказания. Но и у человека интеллект занимается тем же, что бы вы не делали - например переходя улицу мозг постоянно предсказаниями занимается, где в следующий момент будет автомобиль чтоб под него не попасть, как вытянуть руку чтоб поймать летящий мяч, куда поставить ногу. Предсказывает как выглядит то что скрыто закрывающими предметами, предсказывает расстояние до предметов, материал и т.п.

[ss-nopol]

То есть ты ставишь знак равенства между "выбрать какие слова лучше подставить" и "предсказывать что-то в реальном мире"? По-моему это всё же немного разные вещи.

[krote]

Именно, немного разные, не прям существенно чтоб были какие то иные принципы.

[romxx]

Потому что для многих людей генерация унылого грамматически связного текста и есть основное свойство интеллекта. Даже у человека.

[vassabi]

вот да, иногда кажется что "священность текста" для некоторых людей - связана с их неспособностью его анализировать, понимать и писать свой текст.

А тут - какая-то машина тебе пишет целые простыни связных ответов. Не иначе - там внутри интеллект!

[romxx]

"Ах, обмануть меня несложно, я сам обманываться рад!" (с)