Comments 92
Язык, по моему мнению, это не необходимость для мышления. Это его следствие. Способ архивации и передачи информации.
Вы достаточно вольно интерпретировали Витгенштейна, он бы с вами не согласился, ну да ладно. Так вот о вашей цитате. Язык это не следствие мышление, а его инфраструктура. Управление инвариантами невозможно без их именования. Рассматривая пример с ЛЛМ, она не производит именование, она предсказывает токен, на основании статистических закономерностей, выявленных в момент обучения, который человек читает как "кошка". Внутри ллм нет языка, нет именования инвариантов. Так что то, что вы воспринимаете как язык ллм , это не язык, а грубо проценты высокой вероятности, выраженные в токенах.
Над ЛЛМ ещё трудиться и трудиться....
то что Рассел рассматривал как главный тезис tractatus (из его работы 1922 года)
Ну да, можно сказать и так, правда это банально, у ллм есть только синтаксис.
А что касается возможности только показать, то это уже другой вопрос о наблюдателе.
не язык, а грубо проценты высокой вероятности, выраженные в токенах.
ИМХО ничто не мешает матрице процентов вероятности быть языком самой по себе.
Инфраструктура обычно появляется под потребность (например, у первобытного человека это была потребность в операциях с его наблюдениями, для того чтобы строить причинно-следственные связи). По поводу именования и ЛЛМ, я с вами согласен. Но сразу возникает очень много вопросов о том, как тогда эти процессы происходят у человека... Спасибо за побуждающий к мысли комментарий!
Язык в виде только текстовой информации не имеет ничего общего с мышлением или познанием мира.
А вот вопрос на засыпку, если я угадываю концовки всех шуток коллеги в курилке исключительно по теории вероятности, значит ли это, что у меня нет мышления, и я просто кожаная LLM?)
Язык, по моему мнению, это не необходимость для мышления. Это его следствие. Способ архивации и передачи информации. Сам по себе, как инструмент, он недостаточен ни для мышления, ни для описания и исследования жизни (чем, по сути, и занимается философия)
Дадим ответить Qwen 3.5:
«Любой алгоритмический язык, обладающий достаточной мощностью для реализации базовых логических операций и рекурсии (или эквивалентных им механизмов управления циклом), является вычислительно полным (Тьюринг-полным); это означает, что он способен вычислить любую функцию, которая в принципе может быть вычислена любой другой алгоритмической системой, при условии наличия неограниченных ресурсов памяти и времени».
-- https://ru.wikipedia.org/wiki/Полнота_по_Тьюрингу
Алгоритмические языки - подмножества естественных. Мозг человека - машина , работу которой которую можно просимулировать, так или иначе. Так что AGI - достижим. И как только она будет сформулирована на каком либо языке, можно будет переформулировать эту симуляцию будет на любом языке и на любом механизме включая LLM
Алгоритмические языки - подмножества естественных.
Вообще-то нет.
И как только она будет сформулирована на каком либо языке, можно будет переформулировать эту симуляцию будет на любом языке и на любом механизме включая LLM
Про вычислительную сложность никогда не слышали? Некоторая задача может быть решаема в теории, но на практике может потребовать времени больше, чем время жизни вселенной.
А я и не утверждаю что компьютер может решить любую задачу, я утверждаю что он можнет решить любую задачу , которую может решить человек и немного плюс.
А по поводу языка вообще неважно, достаточно полноты по Тьюрингу
Это заявление на нобелевскую премию. Потому что другой нобелевский лауреат (Пенроуз) считает ровно противоположное, о чем написал большую книгу. Ну и конечно, вишенка на торте - "немного плюс". Т.е. человек еще по-вашему и не дотягивает до машины тьюринга.
Нет , конечно мозг не дотягивает до машины Тьюринга . У нее лента (память) бесконечная, а у человека вполне себе конечная. Еще аргументы?
-"Потому что другой нобелевский лауреат (Пенроуз)"
Можно конкретно цитату опровергающую хоть одно мое утверждение?
Потому что другой нобелевский лауреат (Пенроуз)
https://ru.wikipedia.org/wiki/Квантовое_сознание
- Ага а еще у человека внутри божественная душа
Дадим ответить Qwen 3.5.
А сами вы ответить не можете? Уже разучились?
Статья очень хорошая. Генератор текстов -- это не разум. Более того, мышление возникло намного раньше языков, которые возникли позже, чтобы реализовать потенциал мышления.
Философам надо оправдывать свою зарплату https://ru.wikipedia.org/wiki/Гипотеза_лингвистической_относительности
Подлинное мышление невозможно без опыта, поэтому да, текущая архитектура может быть очень крутой, но не то, что мы хотим.
В теории с появлением персональных LLM, которые будут бок о бок с владельцем. Возможно рассчитывать на опыт.
Т.е. не будет "реши задачу", а когда будет "не прерывная задача" служить хозяину. И обогащаться опытом.
Про ответственность и факапы, вы понимаете это к хозяину.
Задача прикрутить к AI кажется более простой по сравнению с LLM как таковой. И что тогда, LLM+experience=AGI?
Оба автора (оригинала и интерпретации) всерьез утверждают, что существуют знания, не выраженные в словах, и что экспериментатор обязан иметь руки, как музыкант - слух.
Это конечно no comment, но лишний раз показывает, какая ЦА первая утрачивает гордое имя царя природы.
ПС
И неявно утверждается, что ИИ неспособен создавать новые слова и понятия.
Это конечно no comment
Нет, это как раз нужно прокомментировать. Нагель "Каково быть летучей мышью" - программная статья про принципиально не выразимые и не передаваемый в рамках текущей парадигмы знания.
По определению, знания - это общественно полезный опыт. Указанное - чувственные переживания индивидуума, которые знаниями в данном случае не являются.
Очевидно, что невыразимое и непередаваемое не может принимать участие в современном научно-технологическом процессе.
ПС
Также и языки в целом: одни - крайне унифицированные и с редуцированным эмоциональным корпусом, другие - крайне традиционалистские, с двумя алфавитами в одной строке и огромной поэтической традицией. В результате: на первых - вся наука, на вторых - три человека понимают красоту во всех оттенках и нюансах одной фразы (другую фразу понимают другие три человека).
люди для которых не существуют "знания, не выраженные в словах" вызывают у меня подозрения - а не философские зомби ли они?
люди, которые на полном серьёзе пользуются концепцией "философского зомби", вызывают у меня подозрения - а не из тех ли они людей, которые в 30-40гг прошлого века, утверждали что "евреи не настоящие люди и лишь симулируют чувства, эмоции и сознание"?
Вы не представляете как много людей искренне верят, что клонирование - ключ к бессмертию. Хотя если долго разговаривать, то можно переубедить, от чего человека пробирает ангст, самосознание и страх смерти.
"евреи не настоящие люди и лишь симулируют чувства, эмоции и сознание"
А кто докажет обратное? Ибо в нижнем Интернете у этой идеи огромный ренессанс.
Речь не о знаниях как таковых, а мышлении и том, что мы под ним понимаем. Я пытаюсь донести мысль, что AGI как "тип ИИ, обладающий когнитивными способностями человека", недостижим средствами LLM, так как язык это недостаточное основание для появления мышления
Вы уходите в бессмысленные частности. При чем тут способности именно человека в совокупности как биологической формы жизни? Зачем они железяке и обществу? Они отчуждаемы? А если нет, в чем их польза? Если нет пользы, на чем вы настаиваете?
При чем тут появление мышления? От того, что вы посчитаете когнитивные способности железа недостойными гордого названия "мышление", что-то изменится? Люди перестанут терять работу? Я перестану быть 5х эффективнее? Что меняется от названия? За что вы топите?
Я пытаюсь донести мысль, что AGI как "тип ИИ, обладающий когнитивными способностями человека", недостижим средствами LLM, так как язык это недостаточное основание для появления мышления
Где мысль? Ноль аргументации. Вы просто отрицаете. Отрицание - гнев- торг - по списку. Стадии принятия неизбежного. Что об этом говорит ваше недостижимое мышление?
Язык, по моему мнению, это не необходимость для мышления. Это его следствие. Способ архивации и передачи информации. Сам по себе, как инструмент, он недостаточен ни для мышления, ни для описания и исследования жизни (чем, по сути, и занимается философия).
Язык для мышления первичен. Какие у вас есть категории и понятия (выраженные в словах), так вы и можете размышлять. Если у вас нет в языке слов "я", "человек", "все", "смертен", то вы даже простой вывод "я смертен" не сможете сделать.
Учителю приходится показывать пальцем не предметы и говорить "чашка" ровно потому, что у него нет в голове слова "чашка". После того, как у маленького человека появится в голове слово "чашка", далее никакие пальцеуказания не нужны. Спрашивается, зачем LLM нужно показывать пальцем, если у него уже есть в голове все нужные слова?
вы утверждаете, что ребёнок сначала должен заиметь в лексиконе слово "боль", чтобы осознавать её и больше не повторять те действия, которые ему эту боль причинили? ну то есть вывод, аналогичный мысли "мне больно", он сделать не сможет?
Хороший вопрос, пока ллм не начнет оперировать тем что у человека глубже уровня языка, некое базовое сознание, сможет ли она заменить человека? Словно Биос у компа, нужен ли он для достижения целей agi или у него только базовая функция обеспечения ввода вывода и ей можно пренебречь
Дайте пожалуйста цифры экономического, демографического, культурного или любого другого вклада невыраженных словами знаний.
ребёнок сначала должен заиметь в лексиконе слово "боль", чтобы осознавать её и больше не повторять не действия, которые ему эту боль причинили?
Давайте конкретизируем: говорим про ребенка курицы, который осознает, анализирует, делает выводы и корректирует поведение = практикует мышление?
Давайте конкретизируем: говорим про ребенка курицы
очевидно, речь про человеческого ребёнка, потому что никакой другой никакого слова в лексиконе заиметь не может.
в целом топик про AGI у LLM, поэтому странный вопрос. но если на ваш взгляд это ближе к уровню интеллекта ребёнка курицы - я с радостью поддержу эту мысль)
Вы как раз и показываете, что приведенный вами мыслительный процесс лексикона не требует:
ребёнок, чтобы осознавать боль и больше не повторять те действия, которые ему эту боль причинили; ну то есть вывод, аналогичный мысли "мне больно", он сделать сможет
И лишь хочу уточнить, что это свойственно любому ребенку, не только ребенку человека. Причем, нечеловеческие дети в этом преуспели намного лучше человеческих: они от рождения намного более самостоятельные, они понимают куда идти надо и куда не надо, что есть надо и что не надо, и т.д. Следуя вашей логике, у нечеловеческих детей мышление развито значительно лучше, чем у человеческих: они уверенно делают выводы и корректируют поведение, обладая крайне ограниченным лексиконом.
"Мне больно" - это не вывод.
Вывод может быть таким: Посылки: "я ударил другого" - "ему больно" - "он разозлился" - "он ударил меня" - "мне больно". Вывод (без рассуждений, конечно): "если я ударю мальчика - мне будет больно" ребенок, если у него нет слов в голове, он сделать не сможет. Даже после того, как у него появится понятийный аппарат (реализованный в виде слов), он еще не может провести этот вывод, за него это делает мама.
И кстати, не надо толкать, что собаку типа можно научить не кусать хозяина, хотя у нее нет слов и понятийного аппарата. Собаке не "объясняют". Собаку дрессируют битьем, отрицательными и положительными подкреплениями, вырабатывая у нее условные рефлексы.
Кстати (без нацизма!), и различным представителям хомо сапиенса, у которых нет соответствующего понятийного аппарата (который тащемта, в детстве закладывается родителями), невозможно объяснить недопустимость определенного поведения, когда они попадают в другое общество. Тут только через выработку условных рефлексов можно добиться соответствующего поведения.
Возвращаясь к ребенку. Когда ребенок ударяется об угол пальцем ноги и чувствует боль. Или падая с дивана головой. Никакого вывода он не делает. Тут вырабатывается условный рефлекс. Пинать ногой по ножке дивана не надо. Врезаться головой в препятствия при беге не надо. Слова при этом не нужны, естественно.
Вывод может быть таким: Посылки: "я ударил другого" - "ему больно" - "он разозлился" - "он ударил меня" - "мне больно".
А еще вывод может быть таким: сунул руку в огонь - больно. Для такого вывода не нужен язык, и мама тоже не нужна. К такому выводу приходят даже животные (причем, обычно с первого раза).
Когда ребенок ударяется об угол пальцем ноги и чувствует боль. Или падая с дивана головой. Никакого вывода он не делает. Тут вырабатывается условный рефлекс. Пинать ногой по ножке дивана не надо. Врезаться головой в препятствия при беге не надо.
Это вообще не условный рефлекс. Это именно вывод, знание. Рефлекс это бессознательная реакция организма на внешний раздражитель.
Вовсе нет, к примеру есть образное мышление (когда вы плавно переходите из бодрствования в сон, его можно заметить)
До того как появился закон всемирного тяготения (язык для описания гравитации), люди вполне себе справлялись с предсказанием того, как эта гравитация работает. Если мы рассматриваем мышление не только как инструмент для логических операций, а еще ставим перед ним задачу предсказания и построения причинно-следственных связей (это было критически важно для выживания и эволюции), то язык перестает быть необходимостью для мышления.
(язык для описания гравитации)
Слово "стол" вполне описывает закон всемирного тяготения. Поставь, упал, взлет, утоп и т.д. - это все он же, во всех полезных в жизни нюансах. Можно сказать, что Анна Каренина - роман о всемирном тяготении.
До закона открытия закона всемирного тяготения существовали слова "предмет", "отпущенный", "земля", "падает". Вот фраза "Отпущенный предмет падает на землю" на языке тумбука: "Chinthu icho chafumiskika chikuwa pasi".
Занимательный факт. В языке индейцев, живущих у Амазонки, в языке существует несколько десятков (до ста) названий рыб. У алеутов десятки названий для снега и льда. Как думаете, почему? Да потому что это требовалось для выживания. Именно для выживания язык (точнее, понятийный аппарат) становится критическим фактором. Конкретно вы, попав в джунгли или в прошлое к дикарям, не выживете, потому что у вас нет соответствующего понятийного аппарата (и соответственно, слов) и вы просто не сможете, как говорится, "посоображать".
В языке индейцев, живущих у Амазонки, в языке существует несколько десятков (до ста) названий рыб.
Ну то есть, примерно как и в любом другом языке.
У алеутов десятки названий для снега и льда.
Перестаньте уже тиражировать этот миф.
Я предлагаю вам еще раз прочитать эту статью, полностью. В этой статье не только не говорится, что это миф, но тащемта, только подтверждаются мои слова.
Исследование, посвящённое саамским языкам Норвегии, Швеции и Финляндии, содержит заключение о том, что в них имеется около 180 слов, относящихся к снегу и льду, а также до тысячи слов для обозначения оленей[8]. Другое исследование, посвящённое конноспортивной лексике в киргизском языке, выявило более десяти определений для наименования возрастных групп лошадей[9].
Вы читали методом "черикипинг"? Во-первых, в самом начале прямо написано:
Тем не менее, в эскимосско-алеутских языках для обозначения твёрдого состояния воды (снега и льда) используется примерно 7 существительных и образованных от них корней;
Во-вторых, зачем вы друг стали говоритьо саамских языках, хотя изначально говорили об алеутских? Это же только подтверждает то, что вы просто транслируете миф и не разбираетесь в его сути. Алеутский, саамский, всё одно, да? Ну и тащемта "относящихся к снегу и льду" не означает "названия снега и льда".
В этой статье не только не говорится, что это миф, но тащемта, только подтверждаются мои слова.
Точно? А здесь что написано:
Затем вышло полемическое, наполненное юмором эссе Джеффри Пуллема[англ.], позже оказавшее большое влияние на исследования «снежного» вопроса. Оно повторяло критику Мартин, а сам миф назван там «великим эскимосским словарным обманом» (англ. Great Eskimo Vocabulary Hoax). Пуллем утверждал, что сходство количества корней слов, означающих снег, в эскимосских и английском доказывает отсутствие различий в объёме лексики со значением снега.
Однако из этого не следует, что в языках других культур, где люди видят снег или траву так же часто, но используют другую лексику, имеется меньше слов для описания снега или травы, если те же понятия можно передать словосочетаниями вместо добавления морфем. Иначе говоря, носители английского языка, живущие на Аляске, смогут идентифицировать и назвать не меньше видов снега, чем аборигены.
Ну и факт, что количество "слов для снега в эскимосском языке" растет не по дням, а по часам, конечно же, не является свидетельством того, что ученый изнасиловал журналиста
Роджер Браун[англ.] в работе «Слова и вещи» (англ. Words and things) и Кэрол Истмен (англ. Carol Eastman) в работе «Аспекты языка и культуры» (англ. Aspects of Language and Culture), завысили количество слов: к 1978 году количество «слов для снега» достигло 50, а 9 февраля 1984 года неподписанная передовица в The New York Times говорила о сотне[12].
Виды снега (состояние и консистенция):
Aputiit — снежные заструги (гребни, вырезанные ветром).
Pukak — рыхлый снег внизу, похожий на соль.
Pukaksaq — старый рыхлый снег, пригодный для строительства иглу (если его утрамбовать).
Maujaq — снег настолько глубокий и мягкий, что вязнешь.
Massak — топкий, мокрый снег, по которому трудно идти (каша).
Autilautaq — мокрый снег, который можно скатать в шар.
Katiksunniq — плотный снег, по которому хорошо идти.
Pukirtaq — снег, который проваливается под ногами с хрустом.
Aniu — снег, смешанный с землей (грязный снег весной).
Процессы и явления:
Qanniq — сам процесс снегопада.
Qannialuk — сильный снегопад, пурга.
Qanniapik — легкий снегопад, снежинки в воздухе.
Natiruvaaq — первый снег (еще не укрывший землю полностью).
Pitsiutaq — метель, поземка (низовой ветер со снегом).
Pigsiq — сильная метель, буран (когда ничего не видно).
Виды льда:
Siku — лед вообще.
Sikuliaq — молодой, тонкий лед (первый лед на воде).
Sikuaq — тонкий лед, только что покрывший воду.
Qinuq — лед, который намерзает слоями (наслоенный лед).
Tugaq — ледяной торос, нагромождение льда.
Ivuniq — ледяной холм, торос (большое скопление обломков льда).
Puktaaq — льдина, дрейфующая в воде.
Puttak — полынья, открытая вода во льду (продушина).
Qaannuq — лед, который только начинает ломаться.
Kaimukvee — лед, вздыбленный течением.
Agnak — глыба пресного льда (например, отколовшаяся от ледника).
Nilak — пресная вода, намерзшая на морском льду (сверху), пригодная для питья.
До того как появился закон всемирного тяготения (язык для описания гравитации), люди вполне себе справлялись с предсказанием того, как эта гравитация работает.
Речь не о специализированном языке для некой задачи, а о языке в принципе. Чтобы человек получил возможность мыслить, ему нужен любой язык, на котором можно сформулировать эти мысли.
p.s. Позже человек может расширить этот язык, добавляя в него новые термины.
Как тогда люди придумали первые слова, если у них не было мышления? И зачем они по-вашему их придумали? Наверно чтобы что-то обозначать? Значит это что-то они выделяли без языка?
Это понятно. Я возражал на утверждение "Чтобы человек получил возможность мыслить, ему нужен любой язык". Из него следует, что никакой язык не мог появиться, так как у людей не было мышления.
Не следует. Из "чтобы А нужно Б" не следует "чтобы Б нужно А".
Если считать, что для появления и использования языка (Б) не нужно мышление (А), то исходный тезис о связи языка с мышлением все равно неверный. Если оно не нужно, то и связи никакой нет.
Тем не менее, в данном контексте тезис "чтобы Б не нужно А" тоже неверный, так как использование языка считается одним из признаков мышления. Я только говорю о том, что оно не является причиной. Если у существ есть мышление, они могут придумать, как использовать обозначения. А если нет, то как они придумают. "Придумать, сообразить, догадаться" это мыслительная деятельность.
Если считать, что для появления и использования языка (Б) не нужно мышление (А), то исходный тезис о связи языка с мышлением все равно неверный. Если оно не нужно, то и связи никакой нет.
Наличие языка и/или мышления - это не дискретная величина.
Когда есть отдельные "слова" для обозначения различных ситуаций, это совсем не язык. Когда появляются слова для обозначения различных объектов и действий, это ещё не совсем язык. Когда эти слова начинают комбинироваться в предложения - это уже язык.
Аналогично с мышлением. У насекомых есть какие-то мыслительные процессы, но это совсем не мышление. У собак мыслительные процессы довольно сложные, но это ещё не совсем мышление. Когда животное начинает "мыслить предложениями", это уже мышление.
В результате получаем парадоксальное, на первый взгляд, утверждение: для того, чтобы появилось мышление, требуется язык... и наоборот. Ситуация примерно как в случае курицы и яйца. Что было раньше - курица или куриное яйцо? Если подходить совсем формально, то нужно определить момент, когда "ещё не курица" снесла яйцо, из которого вылупилась "уже курица", и договориться (о терминах), считаем ли мы это яйцо куриным.
Наличие языка и/или мышления - это не дискретная величина.
В данном контексте ее можно считать дискретной - могут ли существа придумать обозначение чего-то знаком.
Когда есть отдельные "слова" для обозначения различных ситуаций, это совсем не язык.
Мы и не доказываем, что это язык. Это не язык, зато мышление.
Когда животное начинает "мыслить предложениями", это уже мышление.
Почему это? Потому что вам так больше нравится?
Ситуация примерно как в случае курицы и яйца.
Если у вас получается взаимозависимость, значит ваши исходные предпосылки неверны.
Тут нет такой ситуации. Сначала появилось мышление, оно дало возможность создать обозначения. Все просто.
Как тогда люди придумали первые слова, если у них не было мышления?
Существует теория, что первые "слова" описывали ситуацию. Например, "приближается леопард" (надо залезть на верхние ветви), "в небе летает орёл" (надо спуститься на нижние ветви) и так далее. Затем появились слова для большего количества ситуаций. Например, слово "др" означало "человек делает отверстие в шкуре с помощью шила". Некоторые учёные даже пытались составить словарь таких изначальных слов. Затем додумались (возникла потребность?) различать действие, субъект и объект. По упомянутой выше теории для их обозначения использовали пары слов. Например, "др" плюс одно слово - это дырка, "др" плюс другое слово - шило, ... и так далее. Примерно с этого момента можно считать, что появился язык, а не отдельные слова/крики, как у примитивных животных.
Значит это что-то они выделяли без языка?
Собаки выделяют отдельные команды, хотя языка команд нет. Нет - означает, что из команд ("сидеть", "фас", ...) не составишь предложение.
Существует теория, что первые "слова" описывали ситуацию.
Ну так по вашей логике они не могли их использовать, потому что не было мышления. Я об этом говорю. Описание ситуации это и есть "сформулировать мысли".
Собаки выделяют отдельные команды
Из этого можно предположить, что у них есть базовое мышление. Такое же, как у первобытных людей, которое позволило им создать первые слова.
означает, что из команд не составишь предложение
Так нам и не надо. Мы говорим про мышление и его признаки. То, что без составления предложений его нет, это ваше предположение, которое надо доказать.
не было мышления
Не было мышления в современном понимании.
То, что без составления предложений его нет, это ваше предположение, которое надо доказать.
Для этого нужно договориться о терминах. Что такое мышление? Эвглена зелёная (одноклеточное) плывёт/поворачивает в сторону света. Видимо, она тоже "понимает ситуацию" - свет в той стороне.
Такое же, как у первобытных людей, которое позволило им создать первые слова.
Отдельные "слова" - это ещё не речь. Чтобы их создать, не нужно обладать интеллектом. Если под "базовым мышлением" Вы подразумеваете "бьют - беги" и т.п., то для такого "мышления" речь не нужна.
Не было мышления в современном понимании.
У мышления одно понимание, у первобытных людей вообще такого термина не было.
В современном понимании обозначение чего-то словом считается признаком мышления.
У дельфинов есть свой язык, поэтому считается, что у них есть сложное мышление.
Для этого нужно договориться о терминах. Что такое мышление?
Вот пока вы не договорились, то и ваше утверждение считается недоказанным.
Если существа придумали обозначать что-то последовательностью звуков, это вполне выглядит как проявление мышления.
Чтобы их создать, не нужно обладать интеллектом.
Еще одно необоснованное утверждение.
Язык для мышления первичен.
На каком языке думают глухонемые от рождения?
Я бы разделил мышление на предметное. Вот как с теми чашками и тарелками. Оно скорее всего не требует языка - есть предметы и их взаимосвязи в физическом мире. Их можно увидеть и внутренне атрибутировать. При этом система атрибутов у каждого индивидуума может отличаться. И язык возник как способ унификации системы атрибутов для лучшего взаимодействия внутри группы и передаче опыта. А вот наличие языка позволило выйти за границы предметного мышления.
Если предполагается что AGI это будет человеческое мышление засунутое в комп то LLM скорее всего не приведет. Просто потому что способ мышления во многом зависит от его физического тела и опыты. но какая-то другая система мышления вполне может появиться. Просто она базируется не на опыте физического мира, а на опыте информационного. И мне кажется основные проблемы тут две:
Опыт информационного мира не применим к физическому миру. Нужна очень точная модель мира, а если она есть то AGI уже не нужен :)
Отсутствие системы мотивации. Что-то мне подсказывает что захардкодить это будет не просто..,
Я бы разделил мышление на предметное. Вот как с теми чашками и тарелками. Оно скорее всего не требует языка - есть предметы и их взаимосвязи в физическом мире. Их можно увидеть и внутренне атрибутировать.
Без языка невозможно ни думать о взаимосвязях, ни атрибутировать.
LLM учились подражать человеку. Стоит ли удивляться, что психология / философия (и прочее) тоже помогают понять LLM?
P.S. а AGI на текущем этапе недостижим по гораздо более прозаической причине - нет обучающих материалов. Чтобы обучить сверхразум нужны тексты от сверхразума в очень больших количествах. А мы пока и сами не знаем, что такое AGI.
Позволю себе порекомендовать к прочтению «Время кобольда» Павла Иевлева. Написано очень недурно, затрагивает и проблемы сознания, и проблемы мышления. Довольно спорна и не без изъянов, но, прям, заставляет подумать. Там есть интересная мысль про ИИ: не буду спойлерить,
Вот, лишь, цитаты из начала книги:
Коллапс волновой функции (редукция фон Неймана), т.е. выбор объектом действительного состояния из диапазона возможностей происходит вследствие выбора совершаемого субъектом, а не объектом наблюдения.
Любое взаимодействие любых субъектов, обладающих сознанием, является взаимодействием наблюдателя с самим с собой.
Существует лишь то, что обладает сознанием, либо то, что воспринимается сознанием наблюдателя.
Таким образом, сознание есть свойство субъекта наделять существованием себя и окружающий мир.
Я, в своё время, поспешил с прочтением этого романа, потом уже обнаружил, что он — заключительная часть трилогии. Это к тому, что, может, имеет смысл начать чтение с первой книги.
Есть куча мыслей и по поводу статьи, и про комментарии, и про книгу, но сидеть, формулировать, структурировать, а потом ещё выдавать совсем уж лень, да и некогда.
Мне кажется мы постоянно пытаемся переоценить себя и свой интеллект. Откуда вам знать, что ваши когнитивные, психологические и прочие искажения не сопоставимы с искажениями у LLM? Мы же сами постоянно нуждаемся во внешних границах, чтобы другие люди оценивали нас и говорили "Ты чо вообще дурак?".
Языковые модели никогда не достигнут сверхразума просто потому, что они никогда не роняли тяжелую кружку с кофе себе на ногу
Прикрутите к серверам OpenAI шокер за каждый баг в коде и сразу получите настоящее сознание
Что мешает выпустить "клаудомобиль" и пусть колесит "оцифровывая" окружающий мир. Или запустить манипулятор в лабораторию и пусть фармит опыт?
Почему AGI должен быть такой как в людей?
Не знаю что у людей за проблема с краснотой красного, и у всех похоже повальная амнезия об устройстве трансформера.
По сути все сейчас спорят: можно ли ребенка маугли обучить квантовой теории поля. Очевидно - нельзя. Его токенизатор заполнили токенами волки в лесу. Ну нет у волков в лесу сложных понятийных токенов.
А что, у современной LLM в токенизаторе есть токен красноты красного?
Объясняю для танкистов красноту красного: субъект имеет датчики (например зрительные, обонятельные, слуховые...). Т.е. весь спектр восприятий доступных субъекту, "в младенчестве" дробится на эти самые токены. Но, в отличии от предобученного токенизатора у LLM, человек способен разделять сигналы (и их комбинации) на отдельные токены (т.е. красное + тепло + не сносит ветром + чистое озеро + солнце сверху = токен "зашибись как красиво" ).
Кратко, получили примерную схему: множество мелких нейронок на вход получают сигналы от доступных сенсоров. Какие то из этих сигналов верещат при определенных уловиях = выделям под это уникальный токен. (аналогия - если мы для визуальной нейронки подготовили датасет из кошечек и собачек, хорошо обучили ее, и радуемся что данная нейросеть хорошо справляется с кошечкам и собачками, но показав на вход такой нейросети красное яблоко получаем результат: токен_собака = 0.02111, токен_кошка = 0.0225 и нейросеть выдает нам неуверенно - вижу кошку, мы смеемся и говорим - нейросеть никогда не станет умной, вместо того чтобы добавить, например ей токен красных яблок, или изначально не вручную разделять датасет на подкатегории, а по типу Dynamic Vocabulary)
Т.е. современный токенизатор + трансформер <> биологическая нейронка, потому что: токенизатор не умеет добавлять новые токены, а трансформер каждый раз придется переобучать при добавлении токенов. У человека это разделение похоже происходит ночью, именно по этому людям не снятся логичные сны (нам снятся эмоции, чтобы зафиксировать как эмоциональный отдел реагирует на происходящие события, а логическое обоснование - это не для режима сна, главное научить уворачиваться от быстро приближающегося предмета, подвязав все происходящие к токену "тревога_страх"). По этой причине - эмоции могут управлять поведением человека, а человек управлять своими эмоциями - почти не может (называется эффект Лизы Новак))
Если совсем схематично: мелкие нейросети собирают инфу от сенсоров. Отправляют в большую нейросеть. Большая нейросеть находит закономерности, объединяя поступающие сигналы в определенный токен (или дробя в последствии данный токен на подкатегории). При этом идет постоянный режим обучения, закрепления, с перераспределением весов. А конкретная реализация - что, как и почему - было бы желание сесть и подумать и много видеопамяти...
мы увидели, что LLM – не думает так, как человек. Модель не может отделять ключевое от второстепенного, держать мысль по ходу разговора, она галлюцинирует, придумывает факты как раз потому, что у нее нет реального опыта, контекста в котором происходит общение.
А по моему, очень даже по человечески. Многие люди отделяют ключевое от второстепенного не правильно не так как я. Придумываю факты, страдают ложными воспоминаниями и рассуждают неадекватно в вопросах, которых не разбираются. В отличии от ллм, человеки еще и в нос могут дать на фразу "Ой ты не прав".
Я это все к тому, что утверждение что люди думают иначе требует некоторого доказательства.
Границы моего языка — это границы моего мира, или почему AGI недостижим с помощью LLM