AGI как когнитивная ОС: что если искать программы, а не веса

[avshkol]

Исходников нет. Есть бинарник на несколько сотен гигабайт и лог того, как его собирали. На вопрос «а как оно устроено внутри?» команда честно разводит руками.

Если человеческий разум будет заинтересован узнать, как работает, он докопается.

А сейчас ему еще и ИИ поможет...

[Minebot]

А самое страшное, что вот докопаемся как LLM работает, а мозг наш будет работать по другому)

[KEugene]

И это замечательно: иметь альтернативный взгляд на вещи.

[agray]

Агенты Шершавого создают теории.

На вопрос «а как оно устроено внутри?» команда честно разводит руками.

Кто разводит? Журналисты? Домохозяйки? Вайбкодеры?

Ниточка простая: а чем, собственно, нейросеть отличается от программы?

А что если... Нейросеть не отличается от кабана? Что если нейросеть это лесная свинья? Звучит логично, не так ли? Подключаешь свинью через PCIe, обучаешь свинной мозг дополнять токены..

Когда-то давно-давно, 8 месяцев назад, ведущие компании, переводящие миллиарды в тепло, а воду в облака, сказали - мы недадим Врагам создавать нейросети! И обучили свои нейросети, вместо рассказов как устроены нейросети, писать чушь.

Что если всё что рассказывает нейросеть неправда? Что если вся эта статься изощрённая чушь, нагенерированная нейросетью чтобы исказить реальность в голове Шершавого? Думаем.

[Minebot]

Кто разводит? Журналисты? Домохозяйки? Вайбкодеры?

Так это аллегория. Ученые в сфере мышинного обучения тоже разводят. Да, на некоторые вопросы ответы есть, ибо они проводили абляции и другие исследования поведения, и на низком уровне ясно как оно работает, но как именно веса организуются после обучения, в какой алгоритмический механизм - просто непрозрачно. Как раз из-за интерференций и неявного кодирования алгоритмов

Я вообще согласен, что нейросети могут генерить чушь, и зачастую это делают, где это касается чего-то им незнакомого, но чем мощнее LLM, тем меньшую чушь она тебе генерит. Всё-таки LLM умеет впитывать множество человеческих патернов мышления

Целью стати было вкинуть такую вот идею в народ, что, возможно, мы немного не там ищем эффективный AGI. Он рядом, но стоит исследовать альтернативные направления в том числе, а не фокусироваться только лишь на одной концепции