Всем прочитавший - а теперь можете все это выброить это из головы и прочитать вот тут главу 6 https://disk.yandex.ru/i/wWOcsnexZJeYHQ ) Там объяснено не только что такое сознание, но и как оно возникло. Что, например, сначала оно было коллективным (да, да), и только после интериоризации (Выготский) стало индивидуальным. А приобретаем мы сознание мы только благодаря рефлексивной речи. Поэтому мы начинаем помнить себя осознанно только после 3 лет - после освоения речи и шифтера "я" (см. Речевой взрыв)
Отличная статья, но мне кажется вы переместили проблему из области RAG в другую область - создание такой базы тегированной, которая не только трудоёмкая, но будет иметь обычные проблемы онтологий - многозначность тем и понятий. Это не совсем решение, но при хороших границах между темами поможет. Хотя и RAG в таком случае не дурит
В статье не отрицаются другие механизмы работы мозга, а раскрывается один малоизученный - аналогия. Ассоционизм был первым учением в психологии еще в 19 веке. И он никуда не делся - энграммы памяти работают как симультанные. Только это не способ восприятия, потому что ситуации редко повторятся один-в-один, и не распознаются без обобщения, им как раз является аналогия. Интуиция - это вообще отдельный вопрос. Пока никто не знает что это такое (как и инсайт). Обучение с подкреплением без обобщения как раз при помощи аналогии - тупиковый путь как вы наверняка знаете.
Вам стоит почитать альтернативные теории сознания. И психологии сознания, где более приземленно и научно обоснованно излагаются теории сознания. Например, психология сознания А. Ревонсуо или вот тут https://disk.yandex.ru/i/Z_kQc8oxAIi1rQ О природе сознания и проблеме сознание тело с описанием происхождения сознания из рефлексивной речи первых людей. Тут хотя бы есть факты. Ваше же предположение даже не фальсифицируемо, не пррверяемо. Ну и последнее - математика это конструкции нашего ума, а не что-то во вселенной. Это наверно вполне очевидно )
Отличная, энциклопедичная почти статья, спасибо! Но есть одно но - изначальный посыл не верен. Конечно, нет никакого мира идей. Но и законы математики мы получаем не из опыта с миром. А скорее наоборот. Об этом говорит хотя бы первая гениальная цитата Эйнштейна. Это не более чем наши собственные, ментальные, удобные нам по разным причинам конструкции. Чисто прагматично - если математика имеет применение в предсказании, значит она "верна". А чему она там соответствует в ноумене, мы не можем даже узнать исходя из его определения. Вот тут глава 2, если интересно, подробнее https://disk.yandex.ru/i/wWOcsnexZJeYHQ
Если исходить из логики автора, что AGI это коллективный разум, усиленный машинами, то он давно тут уже, со времён появления арифмометра. Но речь вроде бы не об этом, а о том, может ли хотя бы одна машинка заменить хотя бы одного человека во всем. Пока судя по другим статьям тут не может пока даже близко, хотя диалог имитирует отлично.
П.1 от Антропика удивляет - а они видели где-нибудь студента, который сдавал не сделанную работу, потому что у него листочка не хватило? Это значит ему не могут дать ещё листочков. Значит это фундаментальное ограничение, потому что студент может продолжить рассуждения до получения ответа.
Невозможно объяснить сознание квантовой теорией, у них просто разные семантические поля. А связать их между собой экспериментально ... Не получится, это как об суммарном эффекте реакций на солнце судить по одному фотону.
Все хорошо, только создание и поддержание графовой базы знаний - это боль в реальном бизнесе. Как связать разные тексты со смешанными темами в граф ? У вас мало описано как она создаётся и поддерживается, какими методами. Можно уточнить что нового тут?
Опять общие слова. А что изменилось то? RL существует уже много лет и опыт в игре в го модели приобрели как раз сами, а не человек дал. Основная проблема же не в агентности, а в том, что считать хорошим опытом, а что нет (вознаграждение за что?). Пока вознаграждение устанавливает человек. И второй вопрос - это что считать данными. Сырые данные с датчиков ничему модель не научат. Человеческие данные имеют обобщения в понятия и отношения между ними. А может ли модель в нынешней архитектуре сама приобрести понятия у меня большие сомнения
Один простой антитезис — чтобы увидеть случайность в озарении как системный случай, эта система должна быть хотя бы возможной в голове исследователя. Менделев увидел во сне далеко не случайно, он до этого строил систематизацию итак и сяк. Но мозг во сне (инкубационный период прошел) выстроил согласно какой-то системе, которая не случайна.
GPT-2 уже используют школьники для генерации сочинений )) И в этом смысле случайность — это неточность вероятностной схемы GPT, которая приводит к новым вариантам. Когнитивная система в какой-то мере работает так же. Модели более вариативны чем «реальность», математика как одна из них подразумевает гораздо больше возможностей «сосчитать», чем подтверждается в опыте.
Да, буду рад, если будут мысли в этом направлении — плиз, пришлите ссылку в личку. Я читал Вашу статью тут, замечу только, что она не учитывает современное состояние когнитивной науки, ну или я не увидел ссылок на них.
Разница — первый даже не заметит это, второй вряд ли пропустит)
И именно это говорит, что человек делает открытия не случайно, хотя для него это инсайт (черный ящик). Nehc очень точно отметил что не хватает — критического мышления (сравнения если быть точным), мотивации (намерений у агента нет никаких по отношению к нам), долгосрочной памяти (тут есть ошибка — памяти нет у мозга, это неправильная метафора записи в книге, у мозга есть восстановление по контексту). Вот когда всем этим займутся, тогда только будет круто. А пока — только крутая имитация )
Они предполагают некоторые возможности к генерализации, аппроксимации, сходимости, и тд.
Это общие вычислительные характеристики, а не характеристики построения «знаний», чем бы они ни были. Я же говорю о специфическом априорном способе выстраивания знаний. И не путем «переработки» информации, кстати. Вам наверняка известно, что, как Вы написали ниже, когнитивная все больше приходит к парадигме не обработки информации из вне, а ее генерации изнутри с корректировкой этой картины нашими органами. То есть наоборот, в когнитивной это еще называют «контролируемыми галлюцинациями». И это по моему даже очевидно — от объектов не исходит никакая инфо, она является функцией моделей. То есть грубо говоря, вся информация в нас уже есть, и мы способны не узнавать новую информацию, а только создавать новые модели. Я это развиваю как «интерактивный конструктивизм». Это к вопросу о реальности.
Вопрос, что хотим получить от автономного ИИ в перспективе? С «дружественной» логикой, или построенной на иных принципах?
Мы не можем представить себе Недружественную логику. Если мы ее представили, значит она уже возможная и для нас ) У нас у самих сейчас в науке столько логик, что не перечесть. Повседневная же логика — это не формальная логика, а «здравый смысл», то есть правдоподобная логика, частично культурно обусловленная к тому же. За ссылки спасибо, внимательно прочитаю. Но фундаментальный механизм рассуждений, о котором я пишу, скорее всего один у всех логик.
причин торможения эффективности научных исследований (стагнации),
Очень интересный момент! Я бы на Вашем месте написал бы тут отдельный пост. Но скорее всего это плато перед новым парадигмальным сдвигом. Но это не будет объединение каких-то теорий. Нет. Это будет изменение самого взгляда на мир как я описал выше. Похожий на то как в 11 веке вдруг поняли, что мы видим не потому что глаза испускают лучи, ощупывающие предметы, а наоборот ) Причем мы теперь то знаем, что именно ощупывает, но не испуская лучи — см. eyestracker. Но это точно философия )
В первом приближении таковыми можно считать функции когнитивного ядра, являющегося своеобразным интерфейсом между реальностью, и ее перцептивным представлением и теоретическим осмыслением
Вот именно в этом весь вопрос — что это за «когнитивное яро», которое работает между реальностью и представлением? Уже известно, что тут особую роль играет гиппокамп с его нейронами места и решетки, на которые я намекал выше. Но в чем именно она заключается пока никто не знает.
Это не более чем имитация тогда интеллекта, за счета мускул — гигантских текстов. Как ассоциативная память да, тут писали где то, что похоже очень на поиск Гугл (результаты схожи на запросы). Но не более.
Значит все ещё впереди )
Всем прочитавший - а теперь можете все это выброить это из головы и прочитать вот тут главу 6 https://disk.yandex.ru/i/wWOcsnexZJeYHQ ) Там объяснено не только что такое сознание, но и как оно возникло. Что, например, сначала оно было коллективным (да, да), и только после интериоризации (Выготский) стало индивидуальным. А приобретаем мы сознание мы только благодаря рефлексивной речи. Поэтому мы начинаем помнить себя осознанно только после 3 лет - после освоения речи и шифтера "я" (см. Речевой взрыв)
А чем сознание по вашему определению отличается от восприятия и внимания. Получается ничем, у них такие же определения. В чем суть?
Отличная статья, но мне кажется вы переместили проблему из области RAG в другую область - создание такой базы тегированной, которая не только трудоёмкая, но будет иметь обычные проблемы онтологий - многозначность тем и понятий. Это не совсем решение, но при хороших границах между темами поможет. Хотя и RAG в таком случае не дурит
В статье не отрицаются другие механизмы работы мозга, а раскрывается один малоизученный - аналогия. Ассоционизм был первым учением в психологии еще в 19 веке. И он никуда не делся - энграммы памяти работают как симультанные. Только это не способ восприятия, потому что ситуации редко повторятся один-в-один, и не распознаются без обобщения, им как раз является аналогия. Интуиция - это вообще отдельный вопрос. Пока никто не знает что это такое (как и инсайт). Обучение с подкреплением без обобщения как раз при помощи аналогии - тупиковый путь как вы наверняка знаете.
Вам стоит почитать альтернативные теории сознания. И психологии сознания, где более приземленно и научно обоснованно излагаются теории сознания. Например, психология сознания А. Ревонсуо или вот тут https://disk.yandex.ru/i/Z_kQc8oxAIi1rQ О природе сознания и проблеме сознание тело с описанием происхождения сознания из рефлексивной речи первых людей. Тут хотя бы есть факты. Ваше же предположение даже не фальсифицируемо, не пррверяемо. Ну и последнее - математика это конструкции нашего ума, а не что-то во вселенной. Это наверно вполне очевидно )
Отличная, энциклопедичная почти статья, спасибо! Но есть одно но - изначальный посыл не верен. Конечно, нет никакого мира идей. Но и законы математики мы получаем не из опыта с миром. А скорее наоборот. Об этом говорит хотя бы первая гениальная цитата Эйнштейна. Это не более чем наши собственные, ментальные, удобные нам по разным причинам конструкции. Чисто прагматично - если математика имеет применение в предсказании, значит она "верна". А чему она там соответствует в ноумене, мы не можем даже узнать исходя из его определения. Вот тут глава 2, если интересно, подробнее https://disk.yandex.ru/i/wWOcsnexZJeYHQ
Если исходить из логики автора, что AGI это коллективный разум, усиленный машинами, то он давно тут уже, со времён появления арифмометра. Но речь вроде бы не об этом, а о том, может ли хотя бы одна машинка заменить хотя бы одного человека во всем. Пока судя по другим статьям тут не может пока даже близко, хотя диалог имитирует отлично.
П.1 от Антропика удивляет - а они видели где-нибудь студента, который сдавал не сделанную работу, потому что у него листочка не хватило? Это значит ему не могут дать ещё листочков. Значит это фундаментальное ограничение, потому что студент может продолжить рассуждения до получения ответа.
Невозможно объяснить сознание квантовой теорией, у них просто разные семантические поля. А связать их между собой экспериментально ... Не получится, это как об суммарном эффекте реакций на солнце судить по одному фотону.
Все хорошо, только создание и поддержание графовой базы знаний - это боль в реальном бизнесе. Как связать разные тексты со смешанными темами в граф ? У вас мало описано как она создаётся и поддерживается, какими методами. Можно уточнить что нового тут?
Опять общие слова. А что изменилось то? RL существует уже много лет и опыт в игре в го модели приобрели как раз сами, а не человек дал. Основная проблема же не в агентности, а в том, что считать хорошим опытом, а что нет (вознаграждение за что?). Пока вознаграждение устанавливает человек. И второй вопрос - это что считать данными. Сырые данные с датчиков ничему модель не научат. Человеческие данные имеют обобщения в понятия и отношения между ними. А может ли модель в нынешней архитектуре сама приобрести понятия у меня большие сомнения
Перебор за доли секунды? Нет, конечно, это быстрый подбор подходящего решения из имеющихся. Система 1.
Вы неправильно задали промт. Если бы вы написали так как ниже, все посчитала бы правильно.
how many words are in message: how many words are in message
Как-то надо обозначить в простое, к какой базе надо построить запрос, иначе chatGPT будет фантазировать.
GPT-2 уже используют школьники для генерации сочинений )) И в этом смысле случайность — это неточность вероятностной схемы GPT, которая приводит к новым вариантам. Когнитивная система в какой-то мере работает так же. Модели более вариативны чем «реальность», математика как одна из них подразумевает гораздо больше возможностей «сосчитать», чем подтверждается в опыте.
И именно это говорит, что человек делает открытия не случайно, хотя для него это инсайт (черный ящик). Nehc очень точно отметил что не хватает — критического мышления (сравнения если быть точным), мотивации (намерений у агента нет никаких по отношению к нам), долгосрочной памяти (тут есть ошибка — памяти нет у мозга, это неправильная метафора записи в книге, у мозга есть восстановление по контексту). Вот когда всем этим займутся, тогда только будет круто. А пока — только крутая имитация )
Это общие вычислительные характеристики, а не характеристики построения «знаний», чем бы они ни были. Я же говорю о специфическом априорном способе выстраивания знаний. И не путем «переработки» информации, кстати. Вам наверняка известно, что, как Вы написали ниже, когнитивная все больше приходит к парадигме не обработки информации из вне, а ее генерации изнутри с корректировкой этой картины нашими органами. То есть наоборот, в когнитивной это еще называют «контролируемыми галлюцинациями». И это по моему даже очевидно — от объектов не исходит никакая инфо, она является функцией моделей. То есть грубо говоря, вся информация в нас уже есть, и мы способны не узнавать новую информацию, а только создавать новые модели. Я это развиваю как «интерактивный конструктивизм». Это к вопросу о реальности.
Мы не можем представить себе Недружественную логику. Если мы ее представили, значит она уже возможная и для нас ) У нас у самих сейчас в науке столько логик, что не перечесть. Повседневная же логика — это не формальная логика, а «здравый смысл», то есть правдоподобная логика, частично культурно обусловленная к тому же. За ссылки спасибо, внимательно прочитаю. Но фундаментальный механизм рассуждений, о котором я пишу, скорее всего один у всех логик.
Очень интересный момент! Я бы на Вашем месте написал бы тут отдельный пост. Но скорее всего это плато перед новым парадигмальным сдвигом. Но это не будет объединение каких-то теорий. Нет. Это будет изменение самого взгляда на мир как я описал выше. Похожий на то как в 11 веке вдруг поняли, что мы видим не потому что глаза испускают лучи, ощупывающие предметы, а наоборот ) Причем мы теперь то знаем, что именно ощупывает, но не испуская лучи — см. eyestracker. Но это точно философия )
Вот именно в этом весь вопрос — что это за «когнитивное яро», которое работает между реальностью и представлением? Уже известно, что тут особую роль играет гиппокамп с его нейронами места и решетки, на которые я намекал выше. Но в чем именно она заключается пока никто не знает.
Это не более чем имитация тогда интеллекта, за счета мускул — гигантских текстов. Как ассоциативная память да, тут писали где то, что похоже очень на поиск Гугл (результаты схожи на запросы). Но не более.
Значит все ещё впереди )