Comments 81
Язык, по моему мнению, это не необходимость для мышления. Это его следствие. Способ архивации и передачи информации.
Вы достаточно вольно интерпретировали Витгенштейна, он бы с вами не согласился, ну да ладно. Так вот о вашей цитате. Язык это не следствие мышление, а его инфраструктура. Управление инвариантами невозможно без их именования. Рассматривая пример с ЛЛМ, она не производит именование, она предсказывает токен, на основании статистических закономерностей, выявленных в момент обучения, который человек читает как "кошка". Внутри ллм нет языка, нет именования инвариантов. Так что то, что вы воспринимаете как язык ллм , это не язык, а грубо проценты высокой вероятности, выраженные в токенах.
Над ЛЛМ ещё трудиться и трудиться....
то что Рассел рассматривал как главный тезис tractatus (из его работы 1922 года)
Ну да, можно сказать и так, правда это банально, у ллм есть только синтаксис.
А что касается возможности только показать, то это уже другой вопрос о наблюдателе.
не язык, а грубо проценты высокой вероятности, выраженные в токенах.
ИМХО ничто не мешает матрице процентов вероятности быть языком самой по себе.
Инфраструктура обычно появляется под потребность (например, у первобытного человека это была потребность в операциях с его наблюдениями, для того чтобы строить причинно-следственные связи). По поводу именования и ЛЛМ, я с вами согласен. Но сразу возникает очень много вопросов о том, как тогда эти процессы происходят у человека... Спасибо за побуждающий к мысли комментарий!
Язык в виде только текстовой информации не имеет ничего общего с мышлением или познанием мира.
А вот вопрос на засыпку, если я угадываю концовки всех шуток коллеги в курилке исключительно по теории вероятности, значит ли это, что у меня нет мышления, и я просто кожаная LLM?)
Язык, по моему мнению, это не необходимость для мышления. Это его следствие. Способ архивации и передачи информации. Сам по себе, как инструмент, он недостаточен ни для мышления, ни для описания и исследования жизни (чем, по сути, и занимается философия)
Дадим ответить Qwen 3.5:
«Любой алгоритмический язык, обладающий достаточной мощностью для реализации базовых логических операций и рекурсии (или эквивалентных им механизмов управления циклом), является вычислительно полным (Тьюринг-полным); это означает, что он способен вычислить любую функцию, которая в принципе может быть вычислена любой другой алгоритмической системой, при условии наличия неограниченных ресурсов памяти и времени».
-- https://ru.wikipedia.org/wiki/Полнота_по_Тьюрингу
Алгоритмические языки - подмножества естественных. Мозг человека - машина , работу которой которую можно просимулировать, так или иначе. Так что AGI - достижим. И как только она будет сформулирована на каком либо языке, можно будет переформулировать эту симуляцию будет на любом языке и на любом механизме включая LLM
Алгоритмические языки - подмножества естественных.
Вообще-то нет.
И как только она будет сформулирована на каком либо языке, можно будет переформулировать эту симуляцию будет на любом языке и на любом механизме включая LLM
Про вычислительную сложность никогда не слышали? Некоторая задача может быть решаема в теории, но на практике может потребовать времени больше, чем время жизни вселенной.
А я и не утверждаю что компьютер может решить любую задачу, я утверждаю что он можнет решить любую задачу , которую может решить человек и немного плюс.
А по поводу языка вообще неважно, достаточно полноты по Тьюрингу
Это заявление на нобелевскую премию. Потому что другой нобелевский лауреат (Пенроуз) считает ровно противоположное, о чем написал большую книгу. Ну и конечно, вишенка на торте - "немного плюс". Т.е. человек еще по-вашему и не дотягивает до машины тьюринга.
Нет , конечно мозг не дотягивает до машины Тьюринга . У нее лента (память) бесконечная, а у человека вполне себе конечная. Еще аргументы?
-"Потому что другой нобелевский лауреат (Пенроуз)"
Можно конкретно цитату опровергающую хоть одно мое утверждение?
Потому что другой нобелевский лауреат (Пенроуз)
https://ru.wikipedia.org/wiki/Квантовое_сознание
- Ага а еще у человека внутри божественная душа
Дадим ответить Qwen 3.5.
А сами вы ответить не можете? Уже разучились?
Статья очень хорошая. Генератор текстов -- это не разум. Более того, мышление возникло намного раньше языков, которые возникли позже, чтобы реализовать потенциал мышления.
Философам надо оправдывать свою зарплату https://ru.wikipedia.org/wiki/Гипотеза_лингвистической_относительности
Подлинное мышление невозможно без опыта, поэтому да, текущая архитектура может быть очень крутой, но не то, что мы хотим.
В теории с появлением персональных LLM, которые будут бок о бок с владельцем. Возможно рассчитывать на опыт.
Т.е. не будет "реши задачу", а когда будет "не прерывная задача" служить хозяину. И обогащаться опытом.
Про ответственность и факапы, вы понимаете это к хозяину.
Задача прикрутить к AI кажется более простой по сравнению с LLM как таковой. И что тогда, LLM+experience=AGI?
Прикрутить опыт
Не только опыт. У LLM не хватает "уровней смысла". Именно поэтому работают над многомодальными моделями, моделями мира и т.п. Потому-что только словами смысл не измеряется. У него всегда есть контекст на других уровнях, эмоциональный, осязательный и прочее. Выразить этот экспириенс словами очень сложно. Это не родная модальность. Имитрировать в определенной степени можно. Почитайте любые стихи, чуете что хотел передать автор? не всегда, каждый обычно воспримет чуть-чуть по-совему. А как вот это передать - "весенний утренний холодный дождь"? Написать можно, но для кого-то это будет воспоминание полное позитивных переживаний, а для кого-то наоборот. А чисто опыт (я понимаю вы имеете в виду обучение в реальном времени), это не такая уж большая проблема подкрутить, да современные модели так и обучаются, не совсем в реальном времени, но близко к этому..
Оба автора (оригинала и интерпретации) всерьез утверждают, что существуют знания, не выраженные в словах, и что экспериментатор обязан иметь руки, как музыкант - слух.
Это конечно no comment, но лишний раз показывает, какая ЦА первая утрачивает гордое имя царя природы.
ПС
И неявно утверждается, что ИИ неспособен создавать новые слова и понятия.
Это конечно no comment
Нет, это как раз нужно прокомментировать. Нагель "Каково быть летучей мышью" - программная статья про принципиально не выразимые и не передаваемый в рамках текущей парадигмы знания.
По определению, знания - это общественно полезный опыт. Указанное - чувственные переживания индивидуума, которые знаниями в данном случае не являются.
Очевидно, что невыразимое и непередаваемое не может принимать участие в современном научно-технологическом процессе.
ПС
Также и языки в целом: одни - крайне унифицированные и с редуцированным эмоциональным корпусом, другие - крайне традиционалистские, с двумя алфавитами в одной строке и огромной поэтической традицией. В результате: на первых - вся наука, на вторых - три человека понимают красоту во всех оттенках и нюансах одной фразы (другую фразу понимают другие три человека).
люди для которых не существуют "знания, не выраженные в словах" вызывают у меня подозрения - а не философские зомби ли они?
Речь не о знаниях как таковых, а мышлении и том, что мы под ним понимаем. Я пытаюсь донести мысль, что AGI как "тип ИИ, обладающий когнитивными способностями человека", недостижим средствами LLM, так как язык это недостаточное основание для появления мышления
Вы уходите в бессмысленные частности. При чем тут способности именно человека в совокупности как биологической формы жизни? Зачем они железяке и обществу? Они отчуждаемы? А если нет, в чем их польза? Если нет пользы, на чем вы настаиваете?
При чем тут появление мышления? От того, что вы посчитаете когнитивные способности железа недостойными гордого названия "мышление", что-то изменится? Люди перестанут терять работу? Я перестану быть 5х эффективнее? Что меняется от названия? За что вы топите?
Я пытаюсь донести мысль, что AGI как "тип ИИ, обладающий когнитивными способностями человека", недостижим средствами LLM, так как язык это недостаточное основание для появления мышления
Где мысль? Ноль аргументации. Вы просто отрицаете. Отрицание - гнев- торг - по списку. Стадии принятия неизбежного. Что об этом говорит ваше недостижимое мышление?
Язык, по моему мнению, это не необходимость для мышления. Это его следствие. Способ архивации и передачи информации. Сам по себе, как инструмент, он недостаточен ни для мышления, ни для описания и исследования жизни (чем, по сути, и занимается философия).
Язык для мышления первичен. Какие у вас есть категории и понятия (выраженные в словах), так вы и можете размышлять. Если у вас нет в языке слов "я", "человек", "все", "смертен", то вы даже простой вывод "я смертен" не сможете сделать.
Учителю приходится показывать пальцем не предметы и говорить "чашка" ровно потому, что у него нет в голове слова "чашка". После того, как у маленького человека появится в голове слово "чашка", далее никакие пальцеуказания не нужны. Спрашивается, зачем LLM нужно показывать пальцем, если у него уже есть в голове все нужные слова?
вы утверждаете, что ребёнок сначала должен заиметь в лексиконе слово "боль", чтобы осознавать её и больше не повторять те действия, которые ему эту боль причинили? ну то есть вывод, аналогичный мысли "мне больно", он сделать не сможет?
Хороший вопрос, пока ллм не начнет оперировать тем что у человека глубже уровня языка, некое базовое сознание, сможет ли она заменить человека? Словно Биос у компа, нужен ли он для достижения целей agi или у него только базовая функция обеспечения ввода вывода и ей можно пренебречь
Дайте пожалуйста цифры экономического, демографического, культурного или любого другого вклада невыраженных словами знаний.
ребёнок сначала должен заиметь в лексиконе слово "боль", чтобы осознавать её и больше не повторять не действия, которые ему эту боль причинили?
Давайте конкретизируем: говорим про ребенка курицы, который осознает, анализирует, делает выводы и корректирует поведение = практикует мышление?
Давайте конкретизируем: говорим про ребенка курицы
очевидно, речь про человеческого ребёнка, потому что никакой другой никакого слова в лексиконе заиметь не может.
в целом топик про AGI у LLM, поэтому странный вопрос. но если на ваш взгляд это ближе к уровню интеллекта ребёнка курицы - я с радостью поддержу эту мысль)
Вы как раз и показываете, что приведенный вами мыслительный процесс лексикона не требует:
ребёнок, чтобы осознавать боль и больше не повторять те действия, которые ему эту боль причинили; ну то есть вывод, аналогичный мысли "мне больно", он сделать сможет
И лишь хочу уточнить, что это свойственно любому ребенку, не только ребенку человека. Причем, нечеловеческие дети в этом преуспели намного лучше человеческих: они от рождения намного более самостоятельные, они понимают куда идти надо и куда не надо, что есть надо и что не надо, и т.д. Следуя вашей логике, у нечеловеческих детей мышление развито значительно лучше, чем у человеческих: они уверенно делают выводы и корректируют поведение, обладая крайне ограниченным лексиконом.
"Мне больно" - это не вывод.
Вывод может быть таким: Посылки: "я ударил другого" - "ему больно" - "он разозлился" - "он ударил меня" - "мне больно". Вывод (без рассуждений, конечно): "если я ударю мальчика - мне будет больно" ребенок, если у него нет слов в голове, он сделать не сможет. Даже после того, как у него появится понятийный аппарат (реализованный в виде слов), он еще не может провести этот вывод, за него это делает мама.
И кстати, не надо толкать, что собаку типа можно научить не кусать хозяина, хотя у нее нет слов и понятийного аппарата. Собаке не "объясняют". Собаку дрессируют битьем, отрицательными и положительными подкреплениями, вырабатывая у нее условные рефлексы.
Кстати (без нацизма!), и различным представителям хомо сапиенса, у которых нет соответствующего понятийного аппарата (который тащемта, в детстве закладывается родителями), невозможно объяснить недопустимость определенного поведения, когда они попадают в другое общество. Тут только через выработку условных рефлексов можно добиться соответствующего поведения.
Возвращаясь к ребенку. Когда ребенок ударяется об угол пальцем ноги и чувствует боль. Или падая с дивана головой. Никакого вывода он не делает. Тут вырабатывается условный рефлекс. Пинать ногой по ножке дивана не надо. Врезаться головой в препятствия при беге не надо. Слова при этом не нужны, естественно.
Все правильно.
Вывод может быть таким: Посылки: "я ударил другого" - "ему больно" - "он разозлился" - "он ударил меня" - "мне больно".
А еще вывод может быть таким: сунул руку в огонь - больно. Для такого вывода не нужен язык, и мама тоже не нужна. К такому выводу приходят даже животные (причем, обычно с первого раза).
Когда ребенок ударяется об угол пальцем ноги и чувствует боль. Или падая с дивана головой. Никакого вывода он не делает. Тут вырабатывается условный рефлекс. Пинать ногой по ножке дивана не надо. Врезаться головой в препятствия при беге не надо.
Это вообще не условный рефлекс. Это именно вывод, знание. Рефлекс это бессознательная реакция организма на внешний раздражитель.
В случае если у него нет для этого "символа", он не может использовать его в других конструкциях. Это просто рефлексы. К ощущению уровни понимания прикрутить невозможно. Да, на уровене нервных сигналов там есть "больно", "горячо" и "голодно". Но как не имея языка производить с этим какие-то осмысленные операции. Про детей-Маугли слышали? Поинтересуйтесь. После определенного возраста его вообще ничему нельзя научить, хотя мозги у него, в принципе, те-же самые что и у вас. У него отсутсвует язык "как инструмент".
Вовсе нет, к примеру есть образное мышление (когда вы плавно переходите из бодрствования в сон, его можно заметить)
До того как появился закон всемирного тяготения (язык для описания гравитации), люди вполне себе справлялись с предсказанием того, как эта гравитация работает. Если мы рассматриваем мышление не только как инструмент для логических операций, а еще ставим перед ним задачу предсказания и построения причинно-следственных связей (это было критически важно для выживания и эволюции), то язык перестает быть необходимостью для мышления.
(язык для описания гравитации)
Слово "стол" вполне описывает закон всемирного тяготения. Поставь, упал, взлет, утоп и т.д. - это все он же, во всех полезных в жизни нюансах. Можно сказать, что Анна Каренина - роман о всемирном тяготении.
До закона открытия закона всемирного тяготения существовали слова "предмет", "отпущенный", "земля", "падает". Вот фраза "Отпущенный предмет падает на землю" на языке тумбука: "Chinthu icho chafumiskika chikuwa pasi".
Занимательный факт. В языке индейцев, живущих у Амазонки, в языке существует несколько десятков (до ста) названий рыб. У алеутов десятки названий для снега и льда. Как думаете, почему? Да потому что это требовалось для выживания. Именно для выживания язык (точнее, понятийный аппарат) становится критическим фактором. Конкретно вы, попав в джунгли или в прошлое к дикарям, не выживете, потому что у вас нет соответствующего понятийного аппарата (и соответственно, слов) и вы просто не сможете, как говорится, "посоображать".
В языке индейцев, живущих у Амазонки, в языке существует несколько десятков (до ста) названий рыб.
Ну то есть, примерно как и в любом другом языке.
У алеутов десятки названий для снега и льда.
Перестаньте уже тиражировать этот миф.
Я предлагаю вам еще раз прочитать эту статью, полностью. В этой статье не только не говорится, что это миф, но тащемта, только подтверждаются мои слова.
Исследование, посвящённое саамским языкам Норвегии, Швеции и Финляндии, содержит заключение о том, что в них имеется около 180 слов, относящихся к снегу и льду, а также до тысячи слов для обозначения оленей[8]. Другое исследование, посвящённое конноспортивной лексике в киргизском языке, выявило более десяти определений для наименования возрастных групп лошадей[9].
Вы читали методом "черикипинг"? Во-первых, в самом начале прямо написано:
Тем не менее, в эскимосско-алеутских языках для обозначения твёрдого состояния воды (снега и льда) используется примерно 7 существительных и образованных от них корней;
Во-вторых, зачем вы друг стали говоритьо саамских языках, хотя изначально говорили об алеутских? Это же только подтверждает то, что вы просто транслируете миф и не разбираетесь в его сути. Алеутский, саамский, всё одно, да? Ну и тащемта "относящихся к снегу и льду" не означает "названия снега и льда".
В этой статье не только не говорится, что это миф, но тащемта, только подтверждаются мои слова.
Точно? А здесь что написано:
Затем вышло полемическое, наполненное юмором эссе Джеффри Пуллема[англ.], позже оказавшее большое влияние на исследования «снежного» вопроса. Оно повторяло критику Мартин, а сам миф назван там «великим эскимосским словарным обманом» (англ. Great Eskimo Vocabulary Hoax). Пуллем утверждал, что сходство количества корней слов, означающих снег, в эскимосских и английском доказывает отсутствие различий в объёме лексики со значением снега.
Однако из этого не следует, что в языках других культур, где люди видят снег или траву так же часто, но используют другую лексику, имеется меньше слов для описания снега или травы, если те же понятия можно передать словосочетаниями вместо добавления морфем. Иначе говоря, носители английского языка, живущие на Аляске, смогут идентифицировать и назвать не меньше видов снега, чем аборигены.
Ну и факт, что количество "слов для снега в эскимосском языке" растет не по дням, а по часам, конечно же, не является свидетельством того, что ученый изнасиловал журналиста
Роджер Браун[англ.] в работе «Слова и вещи» (англ. Words and things) и Кэрол Истмен (англ. Carol Eastman) в работе «Аспекты языка и культуры» (англ. Aspects of Language and Culture), завысили количество слов: к 1978 году количество «слов для снега» достигло 50, а 9 февраля 1984 года неподписанная передовица в The New York Times говорила о сотне[12].
Виды снега (состояние и консистенция):
Aputiit — снежные заструги (гребни, вырезанные ветром).
Pukak — рыхлый снег внизу, похожий на соль.
Pukaksaq — старый рыхлый снег, пригодный для строительства иглу (если его утрамбовать).
Maujaq — снег настолько глубокий и мягкий, что вязнешь.
Massak — топкий, мокрый снег, по которому трудно идти (каша).
Autilautaq — мокрый снег, который можно скатать в шар.
Katiksunniq — плотный снег, по которому хорошо идти.
Pukirtaq — снег, который проваливается под ногами с хрустом.
Aniu — снег, смешанный с землей (грязный снег весной).
Процессы и явления:
Qanniq — сам процесс снегопада.
Qannialuk — сильный снегопад, пурга.
Qanniapik — легкий снегопад, снежинки в воздухе.
Natiruvaaq — первый снег (еще не укрывший землю полностью).
Pitsiutaq — метель, поземка (низовой ветер со снегом).
Pigsiq — сильная метель, буран (когда ничего не видно).
Виды льда:
Siku — лед вообще.
Sikuliaq — молодой, тонкий лед (первый лед на воде).
Sikuaq — тонкий лед, только что покрывший воду.
Qinuq — лед, который намерзает слоями (наслоенный лед).
Tugaq — ледяной торос, нагромождение льда.
Ivuniq — ледяной холм, торос (большое скопление обломков льда).
Puktaaq — льдина, дрейфующая в воде.
Puttak — полынья, открытая вода во льду (продушина).
Qaannuq — лед, который только начинает ломаться.
Kaimukvee — лед, вздыбленный течением.
Agnak — глыба пресного льда (например, отколовшаяся от ледника).
Nilak — пресная вода, намерзшая на морском льду (сверху), пригодная для питья.
До того как появился закон всемирного тяготения (язык для описания гравитации), люди вполне себе справлялись с предсказанием того, как эта гравитация работает.
Речь не о специализированном языке для некой задачи, а о языке в принципе. Чтобы человек получил возможность мыслить, ему нужен любой язык, на котором можно сформулировать эти мысли.
p.s. Позже человек может расширить этот язык, добавляя в него новые термины.
Как тогда люди придумали первые слова, если у них не было мышления? И зачем они по-вашему их придумали? Наверно чтобы что-то обозначать? Значит это что-то они выделяли без языка?
Так они для этого и придумали, что нужно было "что-то со всем эти делать". Иначе могли просто убить, если ты не объяснишь твоему товарищу, что на поселение "набигают" враги, их много, и лучше быстрее драпать. Понимаете, обычных знаков типа "ыыыы" и "ууууу" стало просто недостаточно. Кто смог собирать чуть более сложные формы типа "уууу-ааа-ыыы" и закреплял за ними определенную, понимаемую другими смысловую нагрузку, тот выжил. Остальные, тупые, сдохли.
Т.е. очевидно что мышление разделяется на уровни. Даже вороны и осьминоги, как поговаривают некоторые не совсем даже британские ученые, вполне могут совоеобразно но мыслить. Но без использования таких костылей как язык вы не сможете оперировать категориями и производить над ними абстрактные операции, потому-что как на основе просто чувств понять уравнение окружности? А никак. Пока у вас нет понятия "окружность", "радиус", "длина", "число пи", "операция умножения" - никак. Это невозможно вывести интуитивно не используя данные смысловые элементы, иначе вы будете искать что? Зачем вам длина окружности если вас мало волнует что у нее есть какой-то там радиус?
Но самое главное, вы не сможете передавать свой опыт внутри племени или через поколения. Каждое будет стартовать с нуля. Отменяем школы, запрещаем книги, пусть постигают мир только силой своего естественного ума, типа. Кому эти интегралы нужны! Заживем (на самом деле, как вы понимаете - нет)!
Фактически человек современный, как и то что мы сейчас подразумеваем под мышлением - это продукт и элемент культуры. Если взять группу людей, лишить их возможности общаться (устно, знаками или письменно), через поколение мы получим довольно смышленных, но животных, так как лишим их культуры. Ради интереса можно поехать в какое-нибудь отсталое племя и попробовать там порассуждать на любую тему, требующую сложных понятий. Ну например, о физике. И что он там поймет? Вы ему расскзазываете как E=mc2 а он пальцем у виска крутит, потому-что для него это филькина грамота, и никаких этих ваших квантов энергии он в глаза никогда не видел, а чтобы вы могли нормально ему объяснить, то вы должны каждый термин разжевать другими терминами, те термины объяснить другими терминами и так до тех пор, пока он не будет понимать смысл каждого слова. Парадокс, но человек первые лет 20 жизни в основном этому и учится, а до этого он как-то не очень....
Ну и приходим к тому что чем больше в вашем языке понятий, тем больши количеством способов вы их можете комбинировать, чтобы выражать другие понятия. Особенно это у юристов хорошо видно, или врачей, там каждая загогулинка если ее можно будет как угодно понимать может привести к нехорошему.
Как тогда люди придумали первые слова, если у них не было мышления?
Существует теория, что первые "слова" описывали ситуацию. Например, "приближается леопард" (надо залезть на верхние ветви), "в небе летает орёл" (надо спуститься на нижние ветви) и так далее. Затем появились слова для большего количества ситуаций. Например, слово "др" означало "человек делает отверстие в шкуре с помощью шила". Некоторые учёные даже пытались составить словарь таких изначальных слов. Затем додумались (возникла потребность?) различать действие, субъект и объект. По упомянутой выше теории для их обозначения использовали пары слов. Например, "др" плюс одно слово - это дырка, "др" плюс другое слово - шило, ... и так далее. Примерно с этого момента можно считать, что появился язык, а не отдельные слова/крики, как у примитивных животных.
Значит это что-то они выделяли без языка?
Собаки выделяют отдельные команды, хотя языка команд нет. Нет - означает, что из команд ("сидеть", "фас", ...) не составишь предложение.
Существует теория, что первые "слова" описывали ситуацию.
Ну так по вашей логике они не могли их использовать, потому что не было мышления. Я об этом говорю. Описание ситуации это и есть "сформулировать мысли".
Собаки выделяют отдельные команды
Из этого можно предположить, что у них есть базовое мышление. Такое же, как у первобытных людей, которое позволило им создать первые слова.
означает, что из команд не составишь предложение
Так нам и не надо. Мы говорим про мышление и его признаки. То, что без составления предложений его нет, это ваше предположение, которое надо доказать.
не было мышления
Не было мышления в современном понимании.
То, что без составления предложений его нет, это ваше предположение, которое надо доказать.
Для этого нужно договориться о терминах. Что такое мышление? Эвглена зелёная (одноклеточное) плывёт/поворачивает в сторону света. Видимо, она тоже "понимает ситуацию" - свет в той стороне.
Такое же, как у первобытных людей, которое позволило им создать первые слова.
Отдельные "слова" - это ещё не речь. Чтобы их создать, не нужно обладать интеллектом. Если под "базовым мышлением" Вы подразумеваете "бьют - беги" и т.п., то для такого "мышления" речь не нужна.
Язык для мышления первичен.
На каком языке думают глухонемые от рождения?
А если дальше пойти, то можно утверждать что англичане думают совсем другое, не то что думают русские, потому-что у них для этого другие слова. Но мы же понимаем что слово - это просто символ, который можно передать и с которым можно производить определенные действия в сознании или памяти.
Но символ не обязательно эквивалентен слову написанному на бумаге. Это может быть пиктограмма, портрет любимой бабушки, шрам от ожога.
Но. Когда мы начинаем со всем этим производить операции чуть сложнее чем "дать, взять, стукнуть, бежать", то нам нужно, просто обязательно, чтобы каждый символ имел строго закрепленный за ним смысл. А как этот смысл закрепить, если нет языка? Лишите глухонемого возможности читать и писать и гарантирую - высшей математики ему не освоить, потому-что как ему сообщить что такое интеграл? Или другое понятие, которое нельзя потрогать или увидеть глазами? Или логическая операция "исключающее ИЛИ"? А никак. Да, он будет работать с теми понятиями которые ему доступны для наблюдения, но не сможет производить с ними абстрактные действия которые можно выразить через другие абстрактные действия.
Как вам ситуация когда вы под интегралом понимаете одно, а я другое? И о чем мы с вами будем беседовать? Да, я могу быть глухонемой, но если меня научили таким понятиям как "площадь", "сумма" и так далее, то я как-то сумею понять, при определенном усердии. Но если нет? Как вы мне сможете пояснить суть? Вы придумаете для меня язык, понятный мне и вам. Все. Это уже язык, даже если это не слова произнесенные вслух
Я бы разделил мышление на предметное. Вот как с теми чашками и тарелками. Оно скорее всего не требует языка - есть предметы и их взаимосвязи в физическом мире. Их можно увидеть и внутренне атрибутировать. При этом система атрибутов у каждого индивидуума может отличаться. И язык возник как способ унификации системы атрибутов для лучшего взаимодействия внутри группы и передаче опыта. А вот наличие языка позволило выйти за границы предметного мышления.
Если предполагается что AGI это будет человеческое мышление засунутое в комп то LLM скорее всего не приведет. Просто потому что способ мышления во многом зависит от его физического тела и опыты. но какая-то другая система мышления вполне может появиться. Просто она базируется не на опыте физического мира, а на опыте информационного. И мне кажется основные проблемы тут две:
Опыт информационного мира не применим к физическому миру. Нужна очень точная модель мира, а если она есть то AGI уже не нужен :)
Отсутствие системы мотивации. Что-то мне подсказывает что захардкодить это будет не просто..,
LLM учились подражать человеку. Стоит ли удивляться, что психология / философия (и прочее) тоже помогают понять LLM?
P.S. а AGI на текущем этапе недостижим по гораздо более прозаической причине - нет обучающих материалов. Чтобы обучить сверхразум нужны тексты от сверхразума в очень больших количествах. А мы пока и сами не знаем, что такое AGI.
Позволю себе порекомендовать к прочтению «Время кобольда» Павла Иевлева. Написано очень недурно, затрагивает и проблемы сознания, и проблемы мышления. Довольно спорна и не без изъянов, но, прям, заставляет подумать. Там есть интересная мысль про ИИ: не буду спойлерить,
Вот, лишь, цитаты из начала книги:
Коллапс волновой функции (редукция фон Неймана), т.е. выбор объектом действительного состояния из диапазона возможностей происходит вследствие выбора совершаемого субъектом, а не объектом наблюдения.
Любое взаимодействие любых субъектов, обладающих сознанием, является взаимодействием наблюдателя с самим с собой.
Существует лишь то, что обладает сознанием, либо то, что воспринимается сознанием наблюдателя.
Таким образом, сознание есть свойство субъекта наделять существованием себя и окружающий мир.
Я, в своё время, поспешил с прочтением этого романа, потом уже обнаружил, что он — заключительная часть трилогии. Это к тому, что, может, имеет смысл начать чтение с первой книги.
Есть куча мыслей и по поводу статьи, и про комментарии, и про книгу, но сидеть, формулировать, структурировать, а потом ещё выдавать совсем уж лень, да и некогда.
Мне кажется мы постоянно пытаемся переоценить себя и свой интеллект. Откуда вам знать, что ваши когнитивные, психологические и прочие искажения не сопоставимы с искажениями у LLM? Мы же сами постоянно нуждаемся во внешних границах, чтобы другие люди оценивали нас и говорили "Ты чо вообще дурак?".
Языковые модели никогда не достигнут сверхразума просто потому, что они никогда не роняли тяжелую кружку с кофе себе на ногу
Прикрутите к серверам OpenAI шокер за каждый баг в коде и сразу получите настоящее сознание
Да не в этом дело. Чисто гипотетически разумный пришелец с планеты Икс тоже не ронял себе кружек на ноги, потому-что и ног у него никаких нет. Но по причине отсутсвия ног и кружек говорить что индивидуум лишен интеллекта? А как быть со слепыми, со слепоглухонемыми? Смотрел док. фильм про системе обучения слепоглухонемых. Очень переворачивает многое в голове. Определенным образом обученные они вполне здравые люди. Да, там другой немного уровень восприятия, но они вполне способны оперировать в разговоре категориями которые для их сенсорики не существуют. Но вполне здраво ими пользуются, размышляют на тему. Это с вашей позиции как объясняется?
Что мешает выпустить "клаудомобиль" и пусть колесит "оцифровывая" окружающий мир. Или запустить манипулятор в лабораторию и пусть фармит опыт?
Почему AGI должен быть такой как в людей?
Границы моего языка — это границы моего мира, или почему AGI недостижим с помощью LLM