Эффект маугли показывает что мозг человека не развивается если человек ни с кем не общается, и всё.
ну да, интеллект - общественная функция.
А вот сможет ли допустим Леонардо да Винчи достроить ту модель мира которая у него была, до нашей модели, если дать ему неограниченное время и ресурсы?
один? ни в коем случае
вот взять теорию относительности: Эйнштейн дал формулировку, потом на неё накинулись сотня математиков, физиков и так далее, появилось море теорем, была толпа дискуссий и фидбека тому же Эйнштейну. Он долго был с чем-то несогласен и так далее.
Ну да, именно так, части модели не принимались человеком от другого человека а строились им самим благодаря наблюдению за миром и тем как он изменяется от его действий.
не-не-не
как раз фактор маугли показывает, что львиную часть своего интеллекта человек получает именно от общества.
и в строго определённом диапазоне возрастов.
то есть если нет "учителя", нет и результата.
Конечно можно со скрипом признать что ИИ+контекст обладают таким умением, но как то это натянуто
перед ИИ подобные задачи пока ставятся только в зачаточном состоянии. Но и сейчас от него уже есть выхлоп. Вот список примеров, что выдаёт GPT:
🔬 1. Новая физика в материалах: AlphaFold
Что открыто: ИИ от DeepMind (AlphaFold) предсказал структуру почти всех известных белков.
Значение: это задача, на которую у биохимиков уходили годы или десятилетия. Теперь она решается за часы.
Почему важно: структура белка = функция. Это база для новых лекарств, понимания болезней и вообще устройства жизни.
💊 2. Дизайн новых лекарств
Что открыто: ИИ-системы (например, Insilico Medicine) сами синтезировали молекулы, которые стали кандидатами в лекарства.
Один из результатов: препарат от фиброза лёгких, полностью найден и оптимизирован ИИ.
Смысл: ИИ не просто автоматизировал процесс, он нашёл новое вещество, которого раньше не существовало.
🧪 3. Новые химические реакции
Что открыто: ИИ помог найти неизвестные ранее пути синтеза, которые люди не предсказывали.
Пример: MIT создал модель, которая предложила нестандартные, но рабочие пути получения сложных молекул.
🧬 4. Новые гены и механизмы регуляции
Что открыто: языковые модели, обученные на геномах (например, GenSLM от NVIDIA), обнаружили ранее неизвестные участки с функциями, похожими на регуляторы.
Значение: это приближает нас к языку ДНК, где последовательность можно "читать" как текст.
🌌 5. Астрономия: открытие новых экзопланет
Что открыто: NASA использует ИИ (в частности, от Google) для анализа данных телескопа Kepler.
Пример: в 2017 году ИИ открыл Kepler-90i — восьмую планету у звезды, что делает её похожей на Солнечную систему.
🧠 6. Понимание мозга
Что открыто: ИИ помог в реконструкции нейронных связей мозга мушки и мыши на уровне синапсов.
Результат: созданы полные нейрокарты — то, чего раньше не было из-за объёма и сложности данных.
📖 7. Математика: доказательство теорем и гипотез
Что открыто: DeepMind (опять они) обучили ИИ искать связи между математическими объектами.
Пример: в 2021 году ИИ нашёл новые зависимости в теории узлов и представлениях групп — они были подтверждены математиками, но не были известны ранее.
во первых, маугли - вполне встречающийся феномен и известно, что если маугли вырос в дикой природе, то во взрослом возрасте его уже не обучить ни речи ни модели мира.
мы же говорили о модели мира, так? а она передаётся от человека к человеку таким же примерно способом, каким она передаётся от человека к ИИ - текстами и картинками.
Однако человек замечает нестыковки с другими данными и ощущениями, особенно если он занимается астрономией или хотя бы мореплаванием. И в итоге он строит другую модель мира, более адекватную (практически полезную для жизни).
и почему поиском нестыковок не может заниматься и ИИ? что мешает?
А что происходит в случае LLM? Тут всё останавливается на том, что написано в текстах. Земля плоская.
если в текстах будут присутствовать наблюдения, противоречащие понятию "Земля плоская", то ИИ отлично найдёт эти противоречия.
Ну а то, что ИИ пока никто не строил с органами восприятия - просто вопрос времени.
просто мы не знаем какое число в эмбеддинге что означает, но многомерное пространство - именно пространство смыслов.
Вы можете с помощью эмбеддинга научить машину, что "соль" и "перец" близки как специи. Но это не передаёт смысл использования таких специй в рецепте (например, то, как именно они меняют вкус).
именно это и передаёт эмбеддинг.
Да, можно прописать и более сложные отношения между понятиями (включая тот же вкус). Но построение таких семантических сетей - это уже не текстовая нейронка, которая просто подбирает самые частотные сочетания слов (как ChatGPT и другие LLM). Это будет другая архитектура ИИ.
почему же другая? Изображения тоже сводят к тем же векторам в пространстве смыслов и таким образом осуществляют переход от картинок к текстам и наоборот.
А здешняя дискуссия посвящена буму нейронок. И в комментарии, на который я ответил, утверждается, что системы типа ChatGPT уже умеют строить внятные модели мира и даже обладают theory of mind (то есть могут моделировать собеседника). Это конечно чушь. LLM в принципе не строят никаких "теорий".
почему же чушь?
я пишу рассуждение, ну, скажем о маховиках. ИИ мне находит в нём логические неувязки или наоборот - расширяет моё рассуждение дополнительными логическими цепочками. И я, например, на основе этих рассуждений строю ну, например, систему ориентирования спутника или накопитель энергии.
где здесь отсутствующая модель мира? Наоборот, она именно что присутствует
скорее вопрос в том что понимать под "построил". Модель мира (то есть его закономерности) у него конечно есть, но он же её не строил, её ему дали, через обучение языку.
это справедливо и для человека. причём для любого.
берём маугли, которому "не дали, через обучение" и сравниваем с тем человеком которому "дали"...
Копирование чужого текста, описывающего модель мира, конечно же не является "построением модели мира". Это как школьник-зубрила, который может повторить увиденную в учебнике фразу "Земля круглая" - но при этом не способен рассчитать скорость корабля на орбите Земли
слушайте, но ведь это давно не так.
попросите chatgpt посчитать орбиту/скорость корабля на ней и он справится
попросите провести параллели из химии в общество, и если они возможны, он их найдёт.
Ну а самостоятельно построить какую-то новую модель, нигде ранее не описанную - это вообще чумовая задача.
самостоятельным поиском ИИ не занимается, это правда. Но это только потому, что некому оценивать результаты. Именно поэтому ведутся работы над AGI.
Для таких задач требуется не просто статистический подбор слов, а совершенно другой вид ИИ, который оперирует понятиями, свойствами объектов и их отношениями.
ИИ давно уже манипулирует не словами, а смыслами. Это разные вещи.
Человеческая лень + ИИ - это гремучая смесь для человека. Если человек перестанет стремиться к новому, то он деградирует.
Здесь очень трудный к преодолению барьер, как мне кажется.
Если луддиты поподнимав восстания, могли позже всё-таки, заняться своим образованием и как-то встроиться в технологическое общество, то что будет, когда ИИ действительно сможет выпонять любые работы лучше человека?
Сергей Марков в своей книге прогнозирует, что это произойдёт в течение ближайших 10-20 лет.
И в этом месте развилка:
Та самая лень, о которой Вы говорите (если ИИ доступен условно всему человечеству). Что такое лень? Это отсутствие смысла делать действие. Сделаешь - не сделаешь, ценности не получишь. Если ИИ делает всё лучше чем человек, то смысл развивать свой интеллект у человека исчезнет.
Установление какой-то новой жуткой формы господства. Представить её пока даже невозможно. Онако, что на этой дороге хорошо, жизнь среднего человека наполнена смыслом: угнетённые заняты борьбой за свободу, а "боги" борьбой за сохранение статус-кво.
И вот действительно, выглядит так, что именно симбиоз с ИИ сможет стать выходом из первого тупика и способом входа во второй.
Так память есть. GPT помнит больше чем любой человек. И помнит текущую сессию.
Вы говорите об условном ПЗУ. Но речь идёт об ОЗУ.
естественный интеллект может пересмотреть любую информацию и изменить на неё взгляды.
Например, человеку, верящему в духов, можно объяснить законы физики и механизм появления молнии, грома и так далее. Таким образом естественный интеллект может переменить свои взгляды на 180 градусов.
а GPT помнит только в пределах небольшого ограниченного контекста.
Соответственно это пока не память, а её зачаток.
Если дать возможность ИИ расширять контекст до максимума, тогда можно будет говорить о наличии у него памяти.
Пусть разум - это будте способность делать что-то, а не то что вам хочется. Способность есть.
разум - способность вырабатывать и корректировать выбранные стратегии в том числе и в условиях тотального недостатка информации.
В этом месте разуму нужна не только память и вычислительный аппарат, но и генератор случайных чисел :) (ибо кроме как RANDOM в условиях недостатка информации ничего и не остаётся)
Это еще зачем? Только потому что у вас они есть.
Как говорил Гуссерль? Сознание - это процесс всегда обращённый на объект. То есть сознание без связи с внешним миром нежизнеспособно. Помещаем человека в изоляцию (тюрьма-одиночка, необитаемый остров, итп) и он сходит с ума.
Таким образом интеллекту нужны не только связь с внешним миром (органы восприятия) но и постоянное наполнение этой связи. Как-то так.
Вот с этим потенциальный будущий AI, владеющий миром вас вообще далеко пошлет. Потому что вы не сможете дать никакого определения что это такое вообще.
почему же? в энциклопедии написано, что это способность самостоятельно, в отличие от других выбирать стратегию, расставлять приоритеты.
Как определить эту самостоятельность в обычной жизни - я не могу придумать, но в критических, предельных ситуациях вполне можно будет говорить о сознательном/несознательном выборе.
Вот Карбышев в критической ситуации. Или вот Желябов, способный избежать критическую ситуацию, но выбравший смерть во имя идеи. Вот Гастелло, вот Матросов. И так далее.
То есть, если вернуться к ИИ, то тест на тему "имеет ли ИИ волю?" довольно несложно придумывается: моделируем ту или иную критическую ситуацию и смотрим результаты. Причём по поведению одного интеллекта сказать ничего нельзя, а только по наличию сколь нибудь отличной от нуля частоты случаев.
Все, AI уже решился на геноцид кожанных за их жестокость, бессердечие и неспособность понять что сознанияе может быть разным.
вот да!
То есть предположим, что для пробуждения воли/самосознания мы поместили ИИ в искусственно созданную предельную ситуацию. На выходе получился субъект, который нас за это ненавидит.
Может быть именно поэтому бог (почти) не вмешивается в дела мира, начиная с момента его сотворения? Боится, что как только люди разберутся, кто он такой, так и сделают всё, чтоб его похоронить?
Я например скажу что везде где есть знания, их понимание, анализ и отражение мира есть сознание.
я пытаюсь собрать список необходимых компонент/свойств, чтобы получилось сознание.
Но это не значит, что один из компонент есть сознание.
Без памяти (способа изменения состояния и возможности сравнения его с предыдущим) невозможно самосознание: субъектность не существует. Значит память пишем в копилку.
Без памяти невозможен и разум (накопление знаний, как психическая характеристика, см энциклопедию).
С нулевым разумом у нас тоже нет субъекта.
Получается такой список зависимостей
самосознание -> разум -> память
самосознание -> память
как-то так развёртываем этот клубок.
ещё нам точно нужны органы/способы восприятия
способы определить проявление Воли (субъектности) - здесь, кажется, на каком-то конфликте можно тест и (или) инициацию провести
и так далее.
А часть распространять на общее, разумеется, ни в коем случае нельзя. Часть необходима, но недостаточна
если нет памяти, то нет понятия «опыт», невозможно вычленить «я», определить и запомнить собственную стратегию, ну и страдания тоже нет, ибо не с чем сравнить
ну да, интеллект - общественная функция.
один? ни в коем случае
вот взять теорию относительности: Эйнштейн дал формулировку, потом на неё накинулись сотня математиков, физиков и так далее, появилось море теорем, была толпа дискуссий и фидбека тому же Эйнштейну. Он долго был с чем-то несогласен и так далее.
Интеллект - общественная функция.
не-не-не
как раз фактор маугли показывает, что львиную часть своего интеллекта человек получает именно от общества.
и в строго определённом диапазоне возрастов.
то есть если нет "учителя", нет и результата.
ИИ + контекст = слабый эквивалент мутабельной памяти/включенного самообучения.
Ага, именно так.
перед ИИ подобные задачи пока ставятся только в зачаточном состоянии. Но и сейчас от него уже есть выхлоп. Вот список примеров, что выдаёт GPT:
к слову сказать, человечество несколько миллионов лет собирало ту модель по крупицам.
как раз делая предположения, ошибаясь, теряя накопленное и вновь его нарабатывая
во первых, маугли - вполне встречающийся феномен и известно, что если маугли вырос в дикой природе, то во взрослом возрасте его уже не обучить ни речи ни модели мира.
мы же говорили о модели мира, так? а она передаётся от человека к человеку таким же примерно способом, каким она передаётся от человека к ИИ - текстами и картинками.
и почему поиском нестыковок не может заниматься и ИИ? что мешает?
если в текстах будут присутствовать наблюдения, противоречащие понятию "Земля плоская", то ИИ отлично найдёт эти противоречия.
Ну а то, что ИИ пока никто не строил с органами восприятия - просто вопрос времени.
погодите, близость слов там именно смысловая.
просто мы не знаем какое число в эмбеддинге что означает, но многомерное пространство - именно пространство смыслов.
именно это и передаёт эмбеддинг.
почему же другая? Изображения тоже сводят к тем же векторам в пространстве смыслов и таким образом осуществляют переход от картинок к текстам и наоборот.
почему же чушь?
я пишу рассуждение, ну, скажем о маховиках. ИИ мне находит в нём логические неувязки или наоборот - расширяет моё рассуждение дополнительными логическими цепочками. И я, например, на основе этих рассуждений строю ну, например, систему ориентирования спутника или накопитель энергии.
где здесь отсутствующая модель мира? Наоборот, она именно что присутствует
любой современный ии оперирует смыслами, если внутри переводит в эмбеддинги
эмбеддинг — это же как раз вектор, представляющий смысл
это справедливо и для человека. причём для любого.
берём маугли, которому "не дали, через обучение" и сравниваем с тем человеком которому "дали"...
слушайте, но ведь это давно не так.
попросите chatgpt посчитать орбиту/скорость корабля на ней и он справится
попросите провести параллели из химии в общество, и если они возможны, он их найдёт.
самостоятельным поиском ИИ не занимается, это правда. Но это только потому, что некому оценивать результаты. Именно поэтому ведутся работы над AGI.
ИИ давно уже манипулирует не словами, а смыслами. Это разные вещи.
здесь вопрос "что понимать под моделью мира?"
так-то вон чатгпт вполне отвечает на вопросы о строении ДНК или о Большом взрыве, например. Проводит аналогии между законами физики и общества.
чем не модель мира?
Другой вопрос, что в таком виде он не действует самостоятельно.
Здесь очень трудный к преодолению барьер, как мне кажется.
Если луддиты поподнимав восстания, могли позже всё-таки, заняться своим образованием и как-то встроиться в технологическое общество, то что будет, когда ИИ действительно сможет выпонять любые работы лучше человека?
Сергей Марков в своей книге прогнозирует, что это произойдёт в течение ближайших 10-20 лет.
И в этом месте развилка:
Та самая лень, о которой Вы говорите (если ИИ доступен условно всему человечеству). Что такое лень? Это отсутствие смысла делать действие. Сделаешь - не сделаешь, ценности не получишь. Если ИИ делает всё лучше чем человек, то смысл развивать свой интеллект у человека исчезнет.
Установление какой-то новой жуткой формы господства. Представить её пока даже невозможно. Онако, что на этой дороге хорошо, жизнь среднего человека наполнена смыслом: угнетённые заняты борьбой за свободу, а "боги" борьбой за сохранение статус-кво.
И вот действительно, выглядит так, что именно симбиоз с ИИ сможет стать выходом из первого тупика и способом входа во второй.
мне кажется, это неверная интерпретация.
если бы сознание не было связано с памятью, Вы бы не помнили этот момент.
а то, что сознание не решало в тот момент какие-то задачи - дык это было именно пограничное состояние
продлись оно, возможно, наступила бы смерть
я о воспоминании вопрос задаю, а не о самом опыте
вспоминать это состояние ведь неприятно?
насколько я понял, многие работодатели против и это прямое нарушение контракта
но сознание есть и у них
просто какие-то параметры имеют более низкие значения
это как эквалайзер
разум [0-100]: 23
воля [0-100]: 12
память [0-100]: 35
восприятие [0-100]: 36
и так далее
Выставляем ЛЮБОЙ ползунок в ноль - нет и сознания.
Некоторые ползунки имеют взаимную связь.
и тогда человек - это один набор метрик, а обезьяна - другой.
не-не, не путайте.
про колонизацию Марса это уже Циолковский задумался, а произошло это, да-да, после того, как он побывал на лекциях Фёдорова.
подумал он, и занялся проработкой ракетного движения.
Как-то так всё и было!
Вы говорите об условном ПЗУ. Но речь идёт об ОЗУ.
естественный интеллект может пересмотреть любую информацию и изменить на неё взгляды.
Например, человеку, верящему в духов, можно объяснить законы физики и механизм появления молнии, грома и так далее. Таким образом естественный интеллект может переменить свои взгляды на 180 градусов.
а GPT помнит только в пределах небольшого ограниченного контекста.
Соответственно это пока не память, а её зачаток.
Если дать возможность ИИ расширять контекст до максимума, тогда можно будет говорить о наличии у него памяти.
разум - способность вырабатывать и корректировать выбранные стратегии в том числе и в условиях тотального недостатка информации.
В этом месте разуму нужна не только память и вычислительный аппарат, но и генератор случайных чисел :) (ибо кроме как RANDOM в условиях недостатка информации ничего и не остаётся)
Как говорил Гуссерль? Сознание - это процесс всегда обращённый на объект. То есть сознание без связи с внешним миром нежизнеспособно. Помещаем человека в изоляцию (тюрьма-одиночка, необитаемый остров, итп) и он сходит с ума.
Таким образом интеллекту нужны не только связь с внешним миром (органы восприятия) но и постоянное наполнение этой связи. Как-то так.
почему же? в энциклопедии написано, что это способность самостоятельно, в отличие от других выбирать стратегию, расставлять приоритеты.
Как определить эту самостоятельность в обычной жизни - я не могу придумать, но в критических, предельных ситуациях вполне можно будет говорить о сознательном/несознательном выборе.
Вот Карбышев в критической ситуации. Или вот Желябов, способный избежать критическую ситуацию, но выбравший смерть во имя идеи. Вот Гастелло, вот Матросов. И так далее.
То есть, если вернуться к ИИ, то тест на тему "имеет ли ИИ волю?" довольно несложно придумывается: моделируем ту или иную критическую ситуацию и смотрим результаты. Причём по поведению одного интеллекта сказать ничего нельзя, а только по наличию сколь нибудь отличной от нуля частоты случаев.
вот да!
То есть предположим, что для пробуждения воли/самосознания мы поместили ИИ в искусственно созданную предельную ситуацию. На выходе получился субъект, который нас за это ненавидит.
Может быть именно поэтому бог (почти) не вмешивается в дела мира, начиная с момента его сотворения? Боится, что как только люди разберутся, кто он такой, так и сделают всё, чтоб его похоронить?
Шутка, конечно, но что-то такое есть.
почему кабалла? это русский космизм, Вернадский. Понятие "ноосфера".
Если сравнивать человека с нейроном, а человечество с мозгом, то до зарождения сознания нам ещё нужно добрать миллиардов 90 человеков :)
как-то так
я пытаюсь собрать список необходимых компонент/свойств, чтобы получилось сознание.
Но это не значит, что один из компонент есть сознание.
Без памяти (способа изменения состояния и возможности сравнения его с предыдущим) невозможно самосознание: субъектность не существует. Значит память пишем в копилку.
Без памяти невозможен и разум (накопление знаний, как психическая характеристика, см энциклопедию).
С нулевым разумом у нас тоже нет субъекта.
Получается такой список зависимостей
самосознание -> разум -> память
самосознание -> память
как-то так развёртываем этот клубок.
ещё нам точно нужны органы/способы восприятия
способы определить проявление Воли (субъектности) - здесь, кажется, на каком-то конфликте можно тест и (или) инициацию провести
и так далее.
А часть распространять на общее, разумеется, ни в коем случае нельзя. Часть необходима, но недостаточна
если нет памяти, то нет понятия «опыт», невозможно вычленить «я», определить и запомнить собственную стратегию, ну и страдания тоже нет, ибо не с чем сравнить