Эпистемологические пределы искусственного интеллекта в его современном понимании

[drbond]

Существует ли вообще решение этой проблемы, можно ли создать модель, способную системно находить инсайты? Я не знаю. И ChatGPT, который помог мне посчитать стоимость «похода в душ» для LLM, в обсуждении природы инсайта в основном поддакивал или говорил банальности. Видимо, и моя, и его семантическая сетка пока не содержит ответа.

Существует. И работает. На любой уже существующей модели.

[Intelllectual]

... !! ... !

не знаю.

!! .... ? ... ?!

...

не знаю

.

[ !! ]

Я не знаю.

... .... ... .... ...

??

. ? ... ! ... ! ... ?

Мы ничего не знаем

[toxic_manager]

Я много чего на знаю, это правда, каюсь

[LamedGroup]

Ну промптом пространство внутри LLM как раз переопределить можно)))

Но вы правы в одном.. сам по себе ИИ - не сможет штурмовать неизвестность.. ИИ не имеет «направления»..

Этоткак раз вопрос - «откуда берётся мысль»)))

ИИ - это как лес «зеркал»… пересобрать можно любую комбинацию (я называю отражением).. но весть вопрос в «операторе» - который это сделает..

[phenik]

Метафора позволяет увидеть новые семантические оси, которых в прежней схеме просто не могло существовать. С точки зрения старой логики они могут выглядеть глупыми, нерациональными или вообще не относящимися к делу: большой-снежный, мокрый-хороший и тд. Но именно эти новые различения позволяют описать ситуацию так, что разрыв, который мы называли проблемой, исчезает. Обнаружение такого нового взгляда на ситуацию и называется инсайтом.

Можно так себе это представить, но как это выглядит на уровне нейронных механизмов в мозге? Вероятно инсайт связан с морфогенезом в мозге, т.е. изменением структуры связности нейронных сетей в следствии интенсивной работы над проблемой, ее обдумывания. При этом кровь и нейрохимические регуляторы приливаются к определенным участкам мозга и соответственно могут стимулировать рост новых синапсов и устранять несущественные, что приводит к возникновению новых ассоциаций. Этот период роста, изменений в сетях, называется инкубацией, и может занимать от дней до месяцев, в зависимости от решаемой проблемы и особенностей самого человека. Процесс во многом случайный, вовлекающий образный уровень мышления, поиск решения задает только некоторый вектор роста связей. Именно такие новые связи являются источниками нового знания, которое принципиально не сводится к уже имеющемуся. Поскольку это процесс может носить бессознательный характер необходим внешний толчок (триггер) к осознанию этих новых связей в виде некоторых представлений. Однозначного варианта нет, зависит от многих обстоятельств и способностей личности. Это может быть внешний толчок, подсказка, ситуация, восприятие, и тд, или сон, или медитативное состояние, как проявление интуиции, как неожиданное воспоминание.

Современные ЯМ являются статическими решениями, они не могут на лету менять веса связей, тем более перестраивать архитектуру под решение новых нестандартных проблем. Это скорее прерогатива нейроморфных технологий, которые ближе к прототипам механизмов в мозге. В этом коменте разобран случай открытия периодического закона Менделеевым, как неплохо задокументированный, в котором, как считается сыграл роль сон. Хотя сам Менделеев этого официально не подтверждал.

Спасибо за интересную статью!

[rocoss]

Вы аргументируете, что инсайт требует смены семантической сетки, а LLM оптимизируют только внутри заданной. Но в прикладных high-stakes доменах критична не генерация новых сеток, а точность и надёжная верификация фактов внутри текущей.

И если принять вашу рамку, означает ли это, что архитектурно стоит разделить «инсайт-генерацию» (человек) и «факт-верификацию» (ИИ)? Или есть паттерны (например, evidence-трассировка в GraphRAG, гибридный поиск с RRF, разрешение конфликтов через supersedes-рёбра), которые позволяют системе детектировать границы своей семантической сетки и сигнализировать: «здесь мой ответ ненадёжен, нужен человек»?