Обновить
56
Linux Over@linux-over

Разработчик баз данных

0,5
Рейтинг
70
Подписчики
Отправить сообщение

Ещё раз, откуда следует что это обязательный шаг?

примеры маугли это подтверждают

сход с ума при попадании в одиночное заключение (в том числе необитаемый остров) это подтверждают

С чего вы вообще взяли что человеку обязательно получать модель мира из общества?

не обязательно, но если он её не получает из общества, то он отстаёт от современного человека на миллионы лет

интегрировать выводы в самих себя они могут?

в пределах контекста - да.

только костыли в виде контекста тут работают

контекст - это аналог мутабельности.

ещё раз: введя полную мутабельность придётся отыскать вариант получения интеллекта, который не будет разрушаться этой самой мутабельностью.

если посмотреть на человека, то в детстве его память максимально мутабельна (и человек легко изучает такие сложные вещи, как новые языки и так далее), а во взрослом возрасте способность к обучению частично замораживается. Почему так? Очевидно потому, что если обучабельность сохранять, то даже накопленные положительные знания/опыт будут утрачиваться: ребёнок помимо того, что быстро всё учит, быстро же всё и забывает.

то есть построить самообучающуюся модель можно, но нужно вот эти все константы подобрать.

думаю, дорога к этому будет следующая. Сперва ИИ научат обучать обычных человеческих детей. Сейчас есть уровень условно соответствующий "ИИ проводит урок", а когда-то это доразвивается (чисто экстенсивное развитие), что "ИИ проводит курс", затем "ИИ обучает целому комплексу предметов", затем "ИИ берёт на себя полностью образование каждого человека".

И вот в этом месте появится возможность экспериментировать с самообучающимися ИИ. как-то так

И? У вас логика следущая: "Для построения человеком модели мира, необходимо X, следовательно человек получает модель мира из X". Согласитесь, это бредовая логика.

нет "следовательно" - Вы додумываете. Это не следствие.

Все три пункта независимы (не являются следствием соседних):

  1. для построения человеком модели мира необходимо общество

  2. человек получает модель мира из общества

  3. человек так же может делать вклад в эту самую модель

если убрать общество, то человек сойдёт с ума и ни о какой модели мира речи уже не будет.

на некоторое время общество может быть заменено на интеллектуальные продукты, произведённые обществом.

Ну вот, я ж так и говорю, общество нужно не потому что оно должно передать некую модель мира которую человек никак не может получить сам, а по совсем другим причинам.

попав в одиночное заключение (в том числе необитаемый остров) человек сходит с ума.

Почему? Потому что система "самообучения" (которая пока не включена на постоянку у ИИ) работает постоянно. При отсутствии валидных обратных связей неронные веса пересчитываются так, что работа нейросетей становится невалидной.

Ну так вот именно, технологические ограничения совсем другие чем у ИИ.

мотивация - следствие воли (субъектности). Сильный ИИ определяют как "ИИ с самосознанием". Конечно, слабый ИИ отличается от сильного ИИ: слабый (инструментальный) уже построен, а сильный пока нет.

Уберите те ограничения что вы перечислили и человек

перестанет быть человеком и станет chatgpt.

центральное ограничение растёт из субъектности. И необходимость общества растёт из него же.

субъект имеет желания, волю, сам себе расставляет приоритеты, а потому не является универсальным: у этого предрасположенность к музыке, а у того к математике

С существующими ИИ не так, даже при отсутствии вышеуказаных ограничений они не могут САМИ выводить физические законы из наблюдений и интегрировать выводы в самих себя

у них отсутствует субъектность, но выводить физические законы из наблюдений могут.

https://habr.com/ru/articles/890674/

Ровно об этом и речь, что текущие технологии имплементируют только небольшой слой функциональности мозга человека.

многим открытиям в области ИИ менее десяти лет.

Да, так же как и без еды, сна, и ещё кучи других вещей.

мы об интеллекте говорим. Маугли - люди, которые решили вопросы с питанием.

Да, человек получает знания от других людей, но может и сам их получить, в отличие от текущих технологий ИИ.

вот доля соотношения знаний которые он может получить сам и знаний, что получает от общества сильно близка к нулю.

Да, но не в силу того что его мозг в принципе, технологически, не может получить сам все эти знания.

он может технологически, но не может организационно. его нужно мотивировать, требуется педагогические усилия общества и т п

Чего это вдруг то, что мешает? Если человек может создать новый небольшой кусок модели мира, то что ему помешает создать кусок побольше?

  1. ограниченность длительности жизни

  2. проблемы с мотивацией

  3. мутабельность памяти (свойство "забывания")

Ну да, люди используют их, вкладывают эти модели в ии, а не само ИИ в себя.

в пределах контекста ИИ в себя отлично вкладывает.

вот даю ему уравнение - решает с ошибкой, поправляю, затем даю второе - решает уже без ошибки (но если дать новый контекст, будет решать с ошибкой)

так что самообучение уже моделировать умеют, вопрос в том, что длительное пока нет

но с длительным обучением и у человека проблема: мотивация мешает

Что "вон же пример с Маугли"?

примеры маугли показывают, что человек без общества не может ни-че-го. Если сегодня отключить интернет, человечество будет отброшено на сотни лет назад. А если отключить лет через пятьдесят - то на тысячи.

А если знает, то как оно узнало, если единственный способ как вы говорите это получить эту модель от общества?

я несколько раз выше повторил, что человек получает знания от других людей, но и может работать над их (знаний) развитием.

не понимаю, почему Вы игнорируете этот момент.

нельзя противопоставлять одно другому

В смысле? Это две разных позиции.

нет, одно дополняет другое.

львиную долю своих знаний средний человек получает от общества. некоторую долю развивает сам. у немногих учёных соотношение долей иное чем у среднего человека, но и что с того?

В одной всё логично, один человек сам построил один кусок модели, другой сам построил другой кусок модели, после чего они все обьединили. В другой позиции человек сам вообще не может никакого нового куска модели построить, сидит ждёт пока другой человек ему всё "передаст".

ещё раз: пример маугли показывает, что человек без общества не может построить модель равноценную общественной. человек без общества имеет уровень животного, отстаёт на миллионы лет развития.

Ну я бы сказал что это не то что "не включают" а "непонятно как сделать".

как сделать, как раз, понятно. Проблема в том, что в таком случае ИИ начинает обладать теми же недостатками, что и человек: вместо директивных заданий требуется создавать условия, вместо прямого обучения требуется заниматься педагогикой итп (я об этом даже статью писал - ссылку выше приводил)

и получается, что слабый (или инструментальный) интеллект обладает "всезнанием" и универсальностью, а сильный (субъектный, самосознающий) этих свойств лишается именно из-за субъектности и мутабельной памти.

Я говорил только о том что ИИ не сам построил свою модель и не умеет ее дорабатывать самостоятельно.

это справедливо и в переложении к среднему человеку, и даже к учёному.

Но насколько это нам нужно от ИИ это конечно вопрос сложный, может это нам и нафиг не надо.

с точки зрения познания структуры сознания, субъектности, воли, это, безусловно, надо

Нет там примеров, ИИ не применяет эти достроенные модели в своей дальнейшей работе, в отличие от человека

что значит не применяет? результаты труда ИИ точно так же используют в обучении ИИ и людей. Об открытых ИИ планетах теперь знает любой ИИ.

что такое построить с нуля?

без общества. вон пример же с "маугли".

Это эволюция а не какой то "человек" дала людям определенную базовую модель

нет у человека "базовой модели", смотри снова на "маугли" (ссылка на энциклопедию выше).

Так модель мира это что то, что строится сообща, где каждый вкладывает свой кусочек, или "модель мира передаётся от человека к человеку"

я не понимаю по какой причине Вы противопоставляете.

здесь вместо "или" нужно писать "и", потому что речь об одной и той же модели.

Вы уж определитесь какую точку зрения отстаиваете.

нет противопоставления. Это тавтология.

Ну блин, в том что эта не та модель которая находится ВНУТРИ самого ИИ, та модель меняется только человеком но не самим ИИ.

я не понимаю мысль, которую Вы пытаетесь донести. Да у ИИ пока не включают самообучение на большой размер контекста. Да ИИ пока обучают условно-вручную.

Однако это не говорит о том, что ИИ работает вне модели мира:

  • логические связи он выявляет

  • открытия делает

  • экстраполяции выполняет

чего Вам не хватает? субъектности? самообучения? будет когда-нибудь и то и частично уже есть другое.

Вы хотите сказать что вы не имели ввиду "модель мира передаётся от человека к человеку и никак иначе"?

именно это я и хочу сказать. модель мира передаётся от человека к человеку при помощи текстов, образов, картинок.

и конечно человек (как и ИИ) может эту модель достраивать (несколько примеров достраивания при помощи ИИ - выше).

Я не понимаю в чём спор.

И так понятно что человек может получить модель мира от другого человека, но может и сам ее построить

построить с нуля не может, только достроить. модель мира - общественная функция, равно как и разум вообще.

этим он отличается от существующих ИИ которые модель мира получают только от человека и не в силах построить ее самостоятельно

выше пример работ, выполненных ИИ: новые вещества, астрономические открытия и так далее. В чём отличие от человека? В том, что пока мало? Ну дык пока имеем начало пути

с вашим заявлением что модель мира "передаётся от человека к человеку таким же примерно способом, каким она передаётся от человека к ИИ - текстами и картинками".

а что здесь не так? Вы в школе учились? Учебники с картинками же видели? И чем информацию в Вас вкладывали учителя? Словами и рисунками на доске.

Конечно, у человека есть органы восприятия, а у ИИ они пока радикально ущербные ("загрузить картинку" - не то же самое, что зрение). Но основные способы обучения как были так и есть: картинки и текст.

Какого такого источника знаний и способа валидации знаний?

общества

Мир и возможность с ним экспериментировать это и есть источник знаний, эксперимент это и есть валидация знаний.

нужно ещё важнейшее слагаемое - воля к этим действиям, а это слагаемое так же формируется обществом.

А то что другие люди нужны для поддержания психики человека, так это само собой

если Вы с этим согласны, то непонятно о чём мы спорим :)

без общества человек неизбежно сходит с ума и теряет адекватность. Тут уже не до построения моделей.

сейчас в пределах контекста уже может. просто если делать контекст огромным, то возникают две проблемы

  • вычислительные ресурсы растут с ростом контекста

  • "правильные" знания могут замещаться "неправильными", что ведёт к снижению полезности

Думаю, у вас нет детей.

трое (27, 24, 16)

Иначе бы вы знали, что модель мира не «передается текстами и картинками».

я экспериментирую с обучением живых людей и знаю (экспериментально выяснил), что это обучение возможно автоматизировать. Например тупая-медитативная работа с anki карточками позволяет изучить (именно получить понимание, а не тупое зазубривание) раздел в научной дисциплине за минуты-часы. Такие вещи, как правила дорожного движения изучаются с их помощью всего за 3 часа так, что человек не просто правильно отвечает на 800 имеющихся вопросов, но и сохраняет эти знания многие годы (опять же результат моего экспериментирования).

могу рассказать больше, если интересно. Планирую про это очередной (таких много, но в основном упор на языки) бизнес запустить (но я не [только] языками собираюсь заниматься).

И кстати, я думаю, что детей типа Маугли вы тоже не встречали.

многие вещи человек не встречал, но может изучить.

вот здесь, например, описано довольно хорошо

Эффект мауг­ли

Те, кто жил в обществе животных первые 3,5—6 лет жизни, не могут освоить человеческий язык[2], ходить прямо, осмысленно общаться с другими людьми, несмотря даже на годы, проведённые в последующем в обществе людей, где они получали достаточно заботы. Это показывает, насколько важными для развития ребёнка являются первые годы его жизни. При от­сут­ствии вос­пи­та­ния и об­ра­зо­ва­ния в ран­нем дет­стве, ни­ка­кие по­сле­ду­ю­щие уси­лия не дают результата.

речь о построении модели мира, догадываться что вы имеете ввиду под интелектом неинтересно

дык модель строится интеллектом.

Достаточно развитый мозг способен строить модель самостоятельно

у кроманьонцев мозг такой же как у современного человека, но общество строило ту модель мира, что имеется десятки тысяч лет

Что помешает?

отсутствие мотивации, источника знаний, способа валидации знаний итп

Да при чём тут "выхлоп", вопрос в том может ли она вот это вот всё что вы перечислили САМА интегрировать с себя

не вижу причин, почему не сможет. Другой вопрос, что как только мы включим такой системе самообучение, то с субъектностью у неё проявятся не только достоинства человеческого мышления, но и его недостатки. И в этом месте ИИ утратит всезнание и станет обычным э... интеллектом.

Эффект маугли показывает что мозг человека не развивается если человек ни с кем не общается, и всё.

ну да, интеллект - общественная функция.

А вот сможет ли допустим Леонардо да Винчи достроить ту модель мира которая у него была, до нашей модели, если дать ему неограниченное время и ресурсы?

один? ни в коем случае

вот взять теорию относительности: Эйнштейн дал формулировку, потом на неё накинулись сотня математиков, физиков и так далее, появилось море теорем, была толпа дискуссий и фидбека тому же Эйнштейну. Он долго был с чем-то несогласен и так далее.

Интеллект - общественная функция.

Ну да, именно так, части модели не принимались человеком от другого человека а строились им самим благодаря наблюдению за миром и тем как он изменяется от его действий.

не-не-не

как раз фактор маугли показывает, что львиную часть своего интеллекта человек получает именно от общества.

и в строго определённом диапазоне возрастов.

то есть если нет "учителя", нет и результата.

Конечно можно со скрипом признать что ИИ+контекст обладают таким умением, но как то это натянуто

ИИ + контекст = слабый эквивалент мутабельной памяти/включенного самообучения.

Ага, именно так.

перед ИИ подобные задачи пока ставятся только в зачаточном состоянии. Но и сейчас от него уже есть выхлоп. Вот список примеров, что выдаёт GPT:

🔬 1. Новая физика в материалах: AlphaFold

  • Что открыто: ИИ от DeepMind (AlphaFold) предсказал структуру почти всех известных белков.

  • Значение: это задача, на которую у биохимиков уходили годы или десятилетия. Теперь она решается за часы.

  • Почему важно: структура белка = функция. Это база для новых лекарств, понимания болезней и вообще устройства жизни.

💊 2. Дизайн новых лекарств

  • Что открыто: ИИ-системы (например, Insilico Medicine) сами синтезировали молекулы, которые стали кандидатами в лекарства.

  • Один из результатов: препарат от фиброза лёгких, полностью найден и оптимизирован ИИ.

  • Смысл: ИИ не просто автоматизировал процесс, он нашёл новое вещество, которого раньше не существовало.

🧪 3. Новые химические реакции

  • Что открыто: ИИ помог найти неизвестные ранее пути синтеза, которые люди не предсказывали.

  • Пример: MIT создал модель, которая предложила нестандартные, но рабочие пути получения сложных молекул.

🧬 4. Новые гены и механизмы регуляции

  • Что открыто: языковые модели, обученные на геномах (например, GenSLM от NVIDIA), обнаружили ранее неизвестные участки с функциями, похожими на регуляторы.

  • Значение: это приближает нас к языку ДНК, где последовательность можно "читать" как текст.

🌌 5. Астрономия: открытие новых экзопланет

  • Что открыто: NASA использует ИИ (в частности, от Google) для анализа данных телескопа Kepler.

  • Пример: в 2017 году ИИ открыл Kepler-90i — восьмую планету у звезды, что делает её похожей на Солнечную систему.

🧠 6. Понимание мозга

  • Что открыто: ИИ помог в реконструкции нейронных связей мозга мушки и мыши на уровне синапсов.

  • Результат: созданы полные нейрокарты — то, чего раньше не было из-за объёма и сложности данных.

📖 7. Математика: доказательство теорем и гипотез

  • Что открыто: DeepMind (опять они) обучили ИИ искать связи между математическими объектами.

  • Пример: в 2021 году ИИ нашёл новые зависимости в теории узлов и представлениях групп — они были подтверждены математиками, но не были известны ранее.

к слову сказать, человечество несколько миллионов лет собирало ту модель по крупицам.

как раз делая предположения, ошибаясь, теряя накопленное и вновь его нарабатывая

во первых, маугли - вполне встречающийся феномен и известно, что если маугли вырос в дикой природе, то во взрослом возрасте его уже не обучить ни речи ни модели мира.

мы же говорили о модели мира, так? а она передаётся от человека к человеку таким же примерно способом, каким она передаётся от человека к ИИ - текстами и картинками.

Однако человек замечает нестыковки с другими данными и ощущениями, особенно если он занимается астрономией или хотя бы мореплаванием. И в итоге он строит другую модель мира, более адекватную (практически полезную для жизни).

и почему поиском нестыковок не может заниматься и ИИ? что мешает?

А что происходит в случае LLM? Тут всё останавливается на том, что написано в текстах. Земля плоская.

если в текстах будут присутствовать наблюдения, противоречащие понятию "Земля плоская", то ИИ отлично найдёт эти противоречия.

Ну а то, что ИИ пока никто не строил с органами восприятия - просто вопрос времени.

погодите, близость слов там именно смысловая.

просто мы не знаем какое число в эмбеддинге что означает, но многомерное пространство - именно пространство смыслов.

Вы можете с помощью эмбеддинга научить машину, что "соль" и "перец" близки как специи. Но это не передаёт смысл использования таких специй в рецепте (например, то, как именно они меняют вкус).

именно это и передаёт эмбеддинг.

Да, можно прописать и более сложные отношения между понятиями (включая тот же вкус). Но построение таких семантических сетей - это уже не текстовая нейронка, которая просто подбирает самые частотные сочетания слов (как ChatGPT и другие LLM). Это будет другая архитектура ИИ.

почему же другая? Изображения тоже сводят к тем же векторам в пространстве смыслов и таким образом осуществляют переход от картинок к текстам и наоборот.

А здешняя дискуссия посвящена буму нейронок. И в комментарии, на который я ответил, утверждается, что системы типа ChatGPT уже умеют строить внятные модели мира и даже обладают theory of mind (то есть могут моделировать собеседника). Это конечно чушь. LLM в принципе не строят никаких "теорий".

почему же чушь?

я пишу рассуждение, ну, скажем о маховиках. ИИ мне находит в нём логические неувязки или наоборот - расширяет моё рассуждение дополнительными логическими цепочками. И я, например, на основе этих рассуждений строю ну, например, систему ориентирования спутника или накопитель энергии.

где здесь отсутствующая модель мира? Наоборот, она именно что присутствует

любой современный ии оперирует смыслами, если внутри переводит в эмбеддинги

эмбеддинг — это же как раз вектор, представляющий смысл

скорее вопрос в том что понимать под "построил". Модель мира (то есть его закономерности) у него конечно есть, но он же её не строил, её ему дали, через обучение языку.

это справедливо и для человека. причём для любого.

берём маугли, которому "не дали, через обучение" и сравниваем с тем человеком которому "дали"...

Информация

В рейтинге
2 468-й
Откуда
Москва, Москва и Московская обл., Россия
Зарегистрирован
Активность

Специализация

Фулстек разработчик, Разработчик баз данных
Ведущий
От 1 000 000 ₽
SQL
PostgreSQL
Linux
ООП
Nginx
Golang
Kubernetes
Высоконагруженные системы
Tarantool
Lua