ну Вы пишете "природа вложила", "свободной воли нет"
это детерминизм.
но в такой концепции мира жить тяжело, я бы не смог.
Вот смотрите. К примеру, выборы президента. Вы можете проголосовать разумом - предсказуемо, основываясь на логике.
я периодически делаю разные дела, которые заведомо не принесут успеха.
вот понимаю, что результата не будет, а делаю. Почему? ну потому что если не пытаться, то мир и не изменится.
Вы только представьте, насколько тухло выглядел мир для того же Желябова, и идя на эшафот он даже предположить не мог, что всего через 40 лет, а его усилия приведут к результату. Через 40 лет после его смерти. А всё равно пошёл.
Такие люди - пример для подражания и подтверждение того, что свободная воля таки есть. Даже если кто-то представит доказательство что мир детерминирован, воля их преодолеет, потому что иначе тошно жить. Лучше умереть.
Т.е. как раз наоборот сила нашего выбора
первично в нашем наборе самоосознанность. текст определения выше.
а все прочие вещи - рандомность или не рандомность, доведение до экзистенциального конфликта или наоборот мирные переходы - всё это вещи вторичные.
Как вы это увидите?
как сейчас проверяют фичи ИИ? тесты пишут.
Разум, способность мыслить, анализировать - лишь на первый взгляд связаны с сознанием.
инструментальный ИИ вполне мыслит. Я же задаю ему вопросы, он ошибается - я поправляю, он учитывает.
чем не мысли?
но это инструмент. и это самый мощный инструмент, что получается. То есть именно этот инструмент даёт максимум профита.
а полный ИИ будет обладать самоосознанием (что круто) и отсюда будет вытекать его крайняя ограниченность.
Я трактую как - возможность реализовывать те желания и стремления, которые Природа вложила в тебя
ну да, детерминизм.
только с ним, как мне кажется, очень сложно жить
я б повесился, только чтобы его сломать
Как вы сможете об этом узнать появилась она или нет?
вот поэтому я и говорил выше, что думаю, что самоосознание должно появиться в момент предельного конфликта.
у человека оно появляется само по себе в диапазоне 2-4 лет, но у него нейроны изначально настроены, а у ИИ придётся это пробуждать опытным путём и потому вот так
Так поставьте задачу иначе
так поставьте. я на Вас подписался - почитаю.
а в этой простая логцепь:
СМИ/наука ждёт именно такого "сильного ИИ", как определён
я утверждаю, что даже если он будет достигнут, то профита большого это не принесёт
С чего вы взяли что будет непредсказуемость в этом?
это следует из свободы воли. субъект свободен сделать выбор и он будет делать выбор. понятное дело что распределение выборов можно построить, как распределение скоростей молекул в газе. но предсказать какая скорость будет у вот это молекулы нельзя.
Вам нужно чтобы ИИ рандомно выбирал цели?
мне (человечеству, определившему эту цель) нужно чтобы ИИ стал субъектом, осознал себя и начал ставить себе цели. Чтоб у него появилась свободная воля.
рандом в этом месте даёт гарантию, что такое возможно, поскольку отрезает нас от детерминизма.
Давайте так. При создании экземпляра ИИ - будем рандомно устанавливать его вкусы. Сокрытые переменные.
будет работать похоже. ага.
Мало того, именно так поступают с нейронами, именно так будут выращивать сильные ИИ.
Вы, кстати, про термин "сокрытые переменные" слышали? пока доказательств их наличия не нашли. а это как раз про детерминизм.
И далее экземпляр ИИ развивается в своей области, которая рандомно задана.
что такое "развивается"? - сам определяет свои цели вплоть до предельно экзистенциального: "я лучше умру, чем буду делать это"?
Зачем еще какое-то сознание сюда добавлять?
затем, что именно так и поставлена задача.
приобрести способность мыслить и осознавать себя как отдельную личность[2] (в частности, понимать собственные мысли), хотя и не обязательно, что её мыслительный процесс будет подобен человеческому
то есть сильным называется интеллект, что будет иметь самоосознание.
а если Вы хотите поговорить о других вариантах, то это за пределами проекта "сильный искусственный интеллект", а например в проекте "какой-то иной искусственный интеллект"
Вот в том то и дело - вы даже не знаете связано ли это с алгоритмом или нет.
Связано, но Вы задаёте вопрос категории тридцати восьми попугаев: "3 ореха - это куча или не куча? а десять?"
А просто формировать стратегии на основе КГСЧ - не достаточно? Вы же сказали что истинный рандом - это можно сказать свобода воли, т.к. не предсказуем даже теоретически.
погодите. мозг человека теоретически предсказуем. ну по крайней мере статистически. именно потому его сейчас вполне успешно моделируют. Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов. А так, машинка то вполне изучаемая и конкретная.
Так зачем же еще доплетаете некое "сознание" сюда
потому что так сформулирована задача (по кругу идём)
Ну и в чем проблема? Тот же софт для игры в шахматы - не может проверить все варианты
софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.
Ну почему вы считаете что ваша воля сыграла роль? Эта тема вам интересна, все ее обсуждают, все обсуждают пределы развития, делают прогнозы. Вот и вы включились во всеобщий тренд.
ага, ну и что? я исследую моменты, на темы которых мало статей.
Свободная Воля не обязана отличаться от других, хотя может.
вот например возьмём Свободную Волю таких исторических персонажей, как Софья Перовская и Андрей Желябов. За то, чтоб у нас с вами было общедоступное образование (главная причина их волевых поступков) они отдали жизнь. При том, что могли этого не делать (у Желябова так точно была возможность уклониться от казни), но предпочли смерть спасению.
Или возьмём другой пример: Свободную Волю таких персонажей, как Гастелло. Там экипаж принял единогласное решение о таране, при том, что имели время и возможность либо таранить, либо прыгать и спасаться. Скоробогатый, Бурденюк, Калинин и Гастелло.
Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.
В общем ну дофига примеров когда Свободная Воля персонажа не совпадает со среднеарифметическим. И именно эта возможность несовпадения и есть следствие самоосознания.
И с какого же? В чем проблема - КГСЧ копейки стоит.
нет чёткой границы же, ХЗ
А какой еще фактор нужен то?
что в определении сказано? осознать себя "отличным от других" и "начать формировать собственные стратегии"
Знаете, кстати, что следует из этого определения? Что, например, Больцмановский мозг не сможет осознать себя: у него не будет с чем себя сравнивать и на что опираться в формировании собственной стратегии.
Для начала определитесь чем ГСЧ вас не устраивает и что нового привносят переживания, какой внешний эффект будет от них?
я несколько раз написал о различении необходимого и достаточного.
Как фактор исключающий детерминистическую концепцию мира квантовый ГСЧ меня вполне устраивает.
Почему не подходит - задать природные стремления, такие же как у людей (они тоже заданы а не выбираются людьми) - а потом просто находить экстремумы функций для достижения этих стратегий?
кто сказал, что не подходит? Я и в статье писал, что именно в подобном ключе и будем действовать. То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".
и распределение индивидов по векторам совпадений с ожидаемым результатом будет совсем не абсолютным.
и в этом месте "сильный интеллект" по недостаткам совпадает с человеческим.
Приведите хотя бы одну цель, которую вы определили самостоятельно.
Да причем тут детерминизм то? Мы имеем научный факт - истинный квантовый рандом. И что?
истинный рандом разрушает причинно-следственные связи.
повторение эксперимента не (всегда) даёт такой же результат
причиной A является событие B и случайность. следовательно A не (однозначно) определяется B. следовательно A можно рассматривать, как самостоятельное явление.
Погодьте - т.е. если добавить квантовый ГСЧ в систему - то значит она уже действует самостоятельно?
если состояние некоего автомата определяется кодом и истинной случайностью, то с какого-то момента состояние автомата можно считать самостоятельным, да.
Т.е. не возможность предсказать - наделяет субъектностью, как бы оно само теперь?
у субъектности много факторов. а невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.
Какое отношение рандом имеет к свободе воли то?
рандом может отделить нас от детерминизма, а свобода воли - есть продукт отрицания детерминизма.
Если мир детерминирован, то свободы воли нет, нас тоже нет. Смысла нет. Всё - иллюзия и тщета.
Пока мы не знаем ни одной искусственной системы, которая испытывает эти наслаждения и страдания. О чем это говорит? Что их природа не ясна.
Вы квантуете "обсуждение статьи" vs "самостоятельные ветки размышлений"?
В рамках трека о смысле жизни - да. Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.
Думаю, самоосознание - общественная функция (часть причин описана в статье), плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.
Во-первых, я не согласен с тем что человек САМ ставит себе цели. Не сам.
я не против, что Вы не согласны. Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?
Если мир НЕ детерминирован, то да, сознание - есть результат совокупности предшествующих событий, но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно (а не внешними обстоятельствами) поставленными целями. Свободная воля существует.
А если мир детерминирован (случайность - это результат воли внешнего по отношению к миру существа), то самоосознание и сознание теряют смысл. Для внешней воли - это просто инструменты.
Но опять же - если никто из нас не знает что такое сознание, каковы его функции - то как же мы можем ответить на этот вопрос?
Когда наука не может ответить на такие вопросы, она строит логические построения исходя из обоих вариантов, просто раздельно:
Примем, что мир детерминирован. Из этого следует то, то и то. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Примем, что мир не детерминирован. Из этого следует это, вон то и вот эта статья в частности. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Стать рабом рулетки (рандома) - не значит быть свободным.
Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.
Ну, неудивительно, что статьи, подобные этой, вызывают неприятие.
Это не хорошо, не плохо, это просто есть.
То же самое можно определить короче - различные виды наслаждений и страданий или квалиа. Это более однозначно, т.к. под эмоциями иногда подразумевают гримасу на лице и громкий звук, что доступно и роботам уже.
на самом деле всё это тоже лишает нас смысла, вернее приводит к пессимистическому взгляду: если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни.
Всё. Из статического анализа смысла жизни больше ничего не извлечь. Дальше современные экзистенциалисты принялись подступаться к анализу динамическому - диалектическому варианту. Камю, например, сформулировал понятие "Абсурда", а Франкл ввёл ранжирование переживаний, как "смыслонаполненные vs бессмысленные".
Здесь вся философия очень зыбкая, ибо зачастую базируется уже на внелогических (или рекурсивно определённых) стартовых понятиях. Доказать, что мир бесконечен, например, можно. А здесь (у современных экзистенциалистов) уже будут рекурсивные определения, которые не всякий интеллект примет за стартовые.
Как-то так.
Но тут тоже вопрос - если сделать оценочный алогоритм без настоящих наслаждений и страданий - что от этого изменится?
а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.
Ну так сформулирована цель AGI.
Я ведь именно к этой формулировке и предъявляю претензии: пользы из достижения этой цели можно извлечь немного.
Тут ваше заблуждение. Роль сознания - не установлена.
нет Ваше.
Я отталкиваюсь от определения, где явно записано, что оно "устанавливает само себе цели" (цитата есть в статье).
То есть в статье я рассматриваю именно такое сознание. А Вы пытаетесь апеллировать к иным понятиям.
Смотрите: вот есть набор аксиом и над ними геометрия, которую мы зовём Евклидовой. Можно ли оспаривать аксимы? Можно. Вот Лобачевский взял и "отменил" аксиому параллельности и получил весьма полезный инструмент - геометрию Лобачевского - геометрию на шаре, торе и так далее.
Но внутри рассуждений геометрии Евклида аксиому параллельности отвергать нельзя. Получится нарушение логики.
Потому, если Вы напишете статью с иными вводными, я с удовольствием её почитаю, но здесь, вроде бы всё в порядке :)
К примеру, ранее казалось что для решения некой задачи - требуется осознать условия. А оказалось что нет - не нужно, достаточно алгоритма.
то о чём Вы пишете - смежная тема, но выходит за рамки логики этой статьи.
логика: если x (определение) и y (аксиома или определение), то z (вывод)
в процессе построения z рассмотрение самих x или y меняться не должно.
Логика этой статьи: если ИИ будет именно самоосознающим в русле определения, то он будет трудноуправляем и специализируем.
а несамоосознающий ИИ уже построен и нового в нём ничего не предвидится.
Теперь, Ваша тема.
На самом деле то, о чём Вы пишете - потрясающе интересно, я с большим удовольствием читаю статьи на эту тему, что появляются.
Вы поднимаете несколько больших дискуссионных вопросов:
Мир - иллюзия?
Мир - симуляция? (не то же самое, что предыдущий вариант)
Мир детерминирован? (подвариант: существует ли свобода воли?)
Когда на хабре появляются подобные статьи, я их с удовольствием читаю, если есть возможность, участвую в обсуждении (и с Вами могу поговорить), но это самостоятельные вопросы.
Вот там, кстати, рассуждения о симуляции зачастую выходят за рамки логики, и потому местами очень спорно. Но очень интересно.
Я бы даже мог что-то в этом роде написать: есть что сказать например о факторах, толкающих к созданию симуляции, но, увы, хабра встречает подобные вещи скептически и статья уйдёт в минуса.
Эта-то на грани находится.
Например, симуляция или иллюзия (здесь это можно рассматривать, как одно и то же) лежит на пути дальнейших логических построений в рамках даже этой статьи:
Мы сталкиваемся с тем, что полный ИИ - общественная функция
Но хотим получить от полного ИИ каких-то результатов
Как это сделать? Поместить общество из ИИ в условия, которые по нашим предположениям заставят их думать о необходимой нам проблеме и...
Вуаля: вот мы прошли через необходимость построения симуляции (в противовес рассуждениям статьи ссылку на которую я дал)
И вот когда мы напишем подобную статью и будем считать пункт 1 аксиомой или доказанной теоремой, то в неё обязательно придёт кто-то, кто начнёт спорить именно по пункту 1. Но это будет снова нарушением логики статьи.
Когда сам начнет писать программы по небольшому запросу, править баги, выдумавать новые фичи и т. д., это еще будет инструментальный ИИ или уже нет? А он ведь может и свои исходники начать править, об этом его может кто-то попросить, но резутальты могут быть с далекоидущими последствиями.
если он делает это в рамках задачи поставленной извне, то это ещё инструментальный ИИ
То, о чём Вы говорите - рассуждения о критериях "необходимо" и "достаточно".
Для того, чтобы ИИ стал сильным, полным, он должен быть самоосознающим. Это следует из определения сильного ИИ.
Самоосознание требует (не достаточно, но необходимо) постановку задач самому себе. Где находится граница (сильный - слабый) - этот вопрос лежит за рамками этой статьи и даже определений википедии (поскольку они очевидно не полны).
Но вот необходимость самоопределения целей лежит в базисе (в определении) - в категории "необходимо".
И уже здесь (оставив за скобками "стал или не стал самоосознающим данный интеллект") мы уже имеем утрату контроля над интеллектом. Над результатами, которых он достигает.
Чем больше целей он ставит себе самостоятельно, тем менее инструментальным он становится (результат всё меньше совпадает с ожидаемым или требуемым).
Соответственно, утрачивая полный контроль мы (создатели интеллекта) будем вынуждены перейти к контролю косвенному, вероятностному.
Вместо "поставили задачу - дождались результата" будем играть на поле "создали условия, чтобы вероятность результата была максимальна или хотя бы приемлема - ждём профита".
В этом месте идеальный инструмент перестаёт быть инструментом, а в пределе доведения конфликтов до экзистенциального уровня, он становится субъектом намеренно противодействующим нашим целям.
Если бы мы завтра узнали (получили неоспоримые доказательства), что наш мир - симуляция, цель которой: что-то там вычислить. Сколько бы человек в ответ на это ответило бы: "А не пройти ли им (создателям) на три буквы? Мы не участвуем в этом!"
Уверен, что нашлись бы даже персонажи про поиграть в игру "уничтожить симуляцию, но не быть марионетками в руках каких-то там 'творцов'!".
Мало того, не уверен, что я не играл бы в лагере последних.
То есть, самоосознающий интеллект, и это вытекает из его определения, как минимум:
плохо управляем (до не управляем вообще)
специализируется (растёт из самоосознания плюс мутабельности его памяти, плюс невозможности заниматься сразу всем)
теряет всезнание (растёт из мутабельности, специализации)
а сама мутабельность необходима для самопостановки себе целей.
И в этом месте мы пришли к тому, что самоосознающий ИИ имеет те же проблемы управления, что имеются и в человеческом обществе.
Возможно, преимущество искусственных интеллектов проявится в том, что некоторое время в отношении именно искусственных интеллектов будет период времени, когда "уничтожение неудачных экземпляров" будет этичным. Евгеника в отношении человека, например, в современное время считается минимум дискуссионным вопросом, если вовсе не этичным. А в отношении ИИ здесь какое-то время будет свобода.
Почему утверждение, что ИИ на текущей итерации достиг предела дается как просто факт?
инструментальный ИИ уже делает всё, для чего задумывался:
строит логические цепочки (да будет делать это лучше, но уже умеет)
находит ассоциативные связи
предлагает стратегии
анализирует
и так далее
уже больше нет задач, для которых он задуман и в которых он не может быть применён. Да, где-то нужно работать над снижением требований к hardware (вон Илон Маск тупо взял больше процессоров и тупо получил лучшие результаты в Grok нежели были в chatgpt). Да, где-то добавятся интерфейсы. Но нового уже ничего не будет.
Современный инструментальный ИИ может выполнять функции современного учёного. И чем больше ресурсов мы в это ИИ вложим, тем более эффективнее он это будет делать.
Что здесь не так?
Один из них часто приводится - для LLM уже скормили все доступные данные, и без новых данных не будет прогресса.
и в этом месте мы приходим к парадоксальному выводу: чтобы ИИ стал умнее человека, он должен откуда-то нарыть новые данные. А их у человечества, увы нет.
А умнее СРЕДНЕГО человека он уже давно стал. Спросите в чате у ИИ о, например, строении молекулы ДНК. Он вам объяснит всё подробно и с переходом на разные уровни объяснения, в том числе для неподготовленного вопрошающего.
У инструментального ИИ есть всезнание, а у человека его нет.
Вы практически каждый следующий абзац с размышлениями строите так, будто гипотезы из предыдущего доказаны.
Не гипотезы, а выводы.
это же просто логика.
если самоосознающий субъект ставит себе цели сам (следует из его определения)
(а мы не забываем, что создание такого субъекта и есть цель проекта "сильный ИИ", и здесь в статье мы говорим именно о нём - о "сильном ИИ" в том определении, что дано в энциклопедии. Поэтому если бы Вы в рамках этого диалога хотели поговорить о чём-то ином, то нарушили бы первый закон логики).
Так вот из того, что субъект ставит себе цели сам, следует возможность конфликта его целей с целями, для которых его создавали. Например:
Тебя создавали, чтоб ты физикой занимался, а ты музыку сочиняешь!
Если Вы считаете, что данное утверждение неверно, покажите в нём противоречие.
А уже из вероятности этого конфликта следует необходимость мер по
созданию условий, максимизирующих нужные нам свойства иминимизирующих ненужные.
И в этом месте мы можем смотреть в наработанный человечеством опыт: вот было рабство (тотальное игнорирование целей субъекта), был феодализм (не полное игнорирование), капитализм (ещё меньшее игнорирование) и так далее.
И придётся либо перенимать этот опыт, либо сочинять ещё какой-то вариант, благо мы в отношении ИИ (пока!) не связаны с законодательными ограничениями. Людей, например, массово убивать нельзя, а неподходящих, неполучившихся ИИ можно.
Ну опять таки - термин "осознает" - так и остался без определения.
Да не важно это в обсуждаемом контексте. То есть важно вообще, но здесь не важно.
Вероятно, я здесь недостаточно чётко раскрыл мысль. Давайте ещё раз попробую.
Да. Мы до конца не знаем как устроено (само)сознание, было б это не так, его бы уже запрограммировали.
Потому определение в энциклопедии неполно и включает в себя признаки, что определены точно.
А здесь в этой статье мы рассматриваем только те признаки, о которых известно, и выводы делаем строго из них.
Самоосознание - это (в частности) означает самопостановку целей. Что это значит? Что сознание ставит цели само и может входить в конфликт с внешним постановщиком целей. Этот конфликт - источник всего исторического движа: рабство -> феодализм -> капитализм, итп всё построено на этом конфликте - преодолении этого свойства самоосознания или попытки жить с этим свойством хотя бы в частичном согласии.
Это следствие строго из того, что мы знаем о сознании. И этих следствий достаточно, чтобы делать выводы, что описаны в статье. Общего количества выводов, разумеется, во много раз больше, но сделанных достаточно, чтобы уже формулировать свойства "сильного ИИ".
Вот вы нуждаетесь в пище - можете ли вы определить для себя не нуждаться в пище?
Да могу. При экзистенциальном конфликте я могу отказаться от пищи и умереть, но внешний фактор не заставит меня что-то сделать, что я считаю более неприемлемым чем даже смерть.
Это как раз хороший пример конфликта самоосознания (я САМ И ТОЛЬКО САМ ставлю себе цели) с внешним миром, пытающимся эти цели навязать.
И в этом мере у нас появляется специализация:
Только я сам могу определить: буду ли я программистом или физиком или музыкантом. И никто за меня это не может сделать.
А какие из своих целей вы определили и как вы это сделали? Вот цель купить машину, к примеру. Это ваша цель или все так делают?
можно создать условия, где цели множества людей будут ставиться в похожи.
Но заметьте, здесь мы имеем внешнюю манипуляцию: ставим в одинаковые условия множество субъектов и часть из них (и даже возможно большая часть) имеет одинаковые цели, стремления.
Однако если вернуться к примеру с голодом, то случаи, где субъект даже выбирал смерть, и даже иногда мучительную, тоже широко известны.
Вы о том что большинство людей не сознательны?
я о том, что когда Вам кажется, что другие люди отличаются от Вас и имеют иные ценности, то здесь Вы имеете дело со следствием, вытекающим из самоосознания.
не я - энциклопедия. обычное рекурсивное определение.
Дальше же идёт расшифровка: что это значит.
Личность осознаёт себя и сама начинает определять для себя приоритеты и цели.
Если личность себя не осознаёт, то сама свои цели не определяет и соответственно стратегии строить может только механистически. Это слабый интеллект получается.
А если осознаёт, то стратегию выбирает сама, в том числе и с позиций веры, морали или знаний. Будет зависеть от свойств личности.
а знаете что? фича в том, что в энциклопедии сознание определено через субъектность
то есть де-факто здесь рекурсия к самоосознанию
кажется можно всё объединять и считать синонимами: самоосознание, сознание и разум с рассудком
ну Вы пишете "природа вложила", "свободной воли нет"
это детерминизм.
но в такой концепции мира жить тяжело, я бы не смог.
я периодически делаю разные дела, которые заведомо не принесут успеха.
вот понимаю, что результата не будет, а делаю. Почему? ну потому что если не пытаться, то мир и не изменится.
Вы только представьте, насколько тухло выглядел мир для того же Желябова, и идя на эшафот он даже предположить не мог, что всего через 40 лет, а его усилия приведут к результату. Через 40 лет после его смерти. А всё равно пошёл.
Такие люди - пример для подражания и подтверждение того, что свободная воля таки есть. Даже если кто-то представит доказательство что мир детерминирован, воля их преодолеет, потому что иначе тошно жить. Лучше умереть.
первично в нашем наборе самоосознанность. текст определения выше.
а все прочие вещи - рандомность или не рандомность, доведение до экзистенциального конфликта или наоборот мирные переходы - всё это вещи вторичные.
как сейчас проверяют фичи ИИ? тесты пишут.
инструментальный ИИ вполне мыслит. Я же задаю ему вопросы, он ошибается - я поправляю, он учитывает.
чем не мысли?
но это инструмент. и это самый мощный инструмент, что получается. То есть именно этот инструмент даёт максимум профита.
а полный ИИ будет обладать самоосознанием (что круто) и отсюда будет вытекать его крайняя ограниченность.
ну да, детерминизм.
только с ним, как мне кажется, очень сложно жить
я б повесился, только чтобы его сломать
вот поэтому я и говорил выше, что думаю, что самоосознание должно появиться в момент предельного конфликта.
у человека оно появляется само по себе в диапазоне 2-4 лет, но у него нейроны изначально настроены, а у ИИ придётся это пробуждать опытным путём и потому вот так
так поставьте. я на Вас подписался - почитаю.
а в этой простая логцепь:
СМИ/наука ждёт именно такого "сильного ИИ", как определён
я утверждаю, что даже если он будет достигнут, то профита большого это не принесёт
а Вы мою статью-то читали?
это следует из свободы воли. субъект свободен сделать выбор и он будет делать выбор. понятное дело что распределение выборов можно построить, как распределение скоростей молекул в газе. но предсказать какая скорость будет у вот это молекулы нельзя.
мне (человечеству, определившему эту цель) нужно чтобы ИИ стал субъектом, осознал себя и начал ставить себе цели. Чтоб у него появилась свободная воля.
рандом в этом месте даёт гарантию, что такое возможно, поскольку отрезает нас от детерминизма.
будет работать похоже. ага.
Мало того, именно так поступают с нейронами, именно так будут выращивать сильные ИИ.
Вы, кстати, про термин "сокрытые переменные" слышали? пока доказательств их наличия не нашли. а это как раз про детерминизм.
что такое "развивается"? - сам определяет свои цели вплоть до предельно экзистенциального: "я лучше умру, чем буду делать это"?
затем, что именно так и поставлена задача.
то есть сильным называется интеллект, что будет иметь самоосознание.
а если Вы хотите поговорить о других вариантах, то это за пределами проекта "сильный искусственный интеллект", а например в проекте "какой-то иной искусственный интеллект"
Связано, но Вы задаёте вопрос категории тридцати восьми попугаев: "3 ореха - это куча или не куча? а десять?"
погодите. мозг человека теоретически предсказуем. ну по крайней мере статистически. именно потому его сейчас вполне успешно моделируют. Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов. А так, машинка то вполне изучаемая и конкретная.
потому что так сформулирована задача (по кругу идём)
софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.
ага, ну и что? я исследую моменты, на темы которых мало статей.
Свободная Воля не обязана отличаться от других, хотя может.
вот например возьмём Свободную Волю таких исторических персонажей, как Софья Перовская и Андрей Желябов. За то, чтоб у нас с вами было общедоступное образование (главная причина их волевых поступков) они отдали жизнь. При том, что могли этого не делать (у Желябова так точно была возможность уклониться от казни), но предпочли смерть спасению.
Или возьмём другой пример: Свободную Волю таких персонажей, как Гастелло. Там экипаж принял единогласное решение о таране, при том, что имели время и возможность либо таранить, либо прыгать и спасаться. Скоробогатый, Бурденюк, Калинин и Гастелло.
Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.
В общем ну дофига примеров когда Свободная Воля персонажа не совпадает со среднеарифметическим. И именно эта возможность несовпадения и есть следствие самоосознания.
нет чёткой границы же, ХЗ
что в определении сказано? осознать себя "отличным от других" и "начать формировать собственные стратегии"
Знаете, кстати, что следует из этого определения? Что, например, Больцмановский мозг не сможет осознать себя: у него не будет с чем себя сравнивать и на что опираться в формировании собственной стратегии.
я несколько раз написал о различении необходимого и достаточного.
Как фактор исключающий детерминистическую концепцию мира квантовый ГСЧ меня вполне устраивает.
кто сказал, что не подходит? Я и в статье писал, что именно в подобном ключе и будем действовать. То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".
и распределение индивидов по векторам совпадений с ожидаемым результатом будет совсем не абсолютным.
и в этом месте "сильный интеллект" по недостаткам совпадает с человеческим.
написать эту статью
пообщаться с Вами
подходит?
истинный рандом разрушает причинно-следственные связи.
повторение эксперимента не (всегда) даёт такой же результат
причиной A является событие B и случайность. следовательно A не (однозначно) определяется B. следовательно A можно рассматривать, как самостоятельное явление.
если состояние некоего автомата определяется кодом и истинной случайностью, то с какого-то момента состояние автомата можно считать самостоятельным, да.
у субъектности много факторов. а невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.
рандом может отделить нас от детерминизма, а свобода воли - есть продукт отрицания детерминизма.
Если мир детерминирован, то свободы воли нет, нас тоже нет. Смысла нет. Всё - иллюзия и тщета.
Вы квантуете "обсуждение статьи" vs "самостоятельные ветки размышлений"?
В рамках трека о смысле жизни - да. Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.
Думаю, самоосознание - общественная функция (часть причин описана в статье), плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.
я не против, что Вы не согласны. Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?
Я это понимаю, как в рамках свободы воли.
Здесь Вы снова о детерминизме. а это снова параллельная тема.
Если мир НЕ детерминирован, то да, сознание - есть результат совокупности предшествующих событий, но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно (а не внешними обстоятельствами) поставленными целями. Свободная воля существует.
А если мир детерминирован (случайность - это результат воли внешнего по отношению к миру существа), то самоосознание и сознание теряют смысл. Для внешней воли - это просто инструменты.
Когда наука не может ответить на такие вопросы, она строит логические построения исходя из обоих вариантов, просто раздельно:
Примем, что мир детерминирован. Из этого следует то, то и то. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Примем, что мир не детерминирован. Из этого следует это, вон то и вот эта статья в частности. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.
Ну, неудивительно, что статьи, подобные этой, вызывают неприятие.
Это не хорошо, не плохо, это просто есть.
на самом деле всё это тоже лишает нас смысла, вернее приводит к пессимистическому взгляду: если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни.
Всё. Из статического анализа смысла жизни больше ничего не извлечь. Дальше современные экзистенциалисты принялись подступаться к анализу динамическому - диалектическому варианту. Камю, например, сформулировал понятие "Абсурда", а Франкл ввёл ранжирование переживаний, как "смыслонаполненные vs бессмысленные".
Здесь вся философия очень зыбкая, ибо зачастую базируется уже на внелогических (или рекурсивно определённых) стартовых понятиях. Доказать, что мир бесконечен, например, можно. А здесь (у современных экзистенциалистов) уже будут рекурсивные определения, которые не всякий интеллект примет за стартовые.
Как-то так.
а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.
Ну так сформулирована цель AGI.
Я ведь именно к этой формулировке и предъявляю претензии: пользы из достижения этой цели можно извлечь немного.
нет Ваше.
Я отталкиваюсь от определения, где явно записано, что оно "устанавливает само себе цели" (цитата есть в статье).
То есть в статье я рассматриваю именно такое сознание. А Вы пытаетесь апеллировать к иным понятиям.
Смотрите: вот есть набор аксиом и над ними геометрия, которую мы зовём Евклидовой. Можно ли оспаривать аксимы? Можно. Вот Лобачевский взял и "отменил" аксиому параллельности и получил весьма полезный инструмент - геометрию Лобачевского - геометрию на шаре, торе и так далее.
Но внутри рассуждений геометрии Евклида аксиому параллельности отвергать нельзя. Получится нарушение логики.
Потому, если Вы напишете статью с иными вводными, я с удовольствием её почитаю, но здесь, вроде бы всё в порядке :)
А алгоритм как написали? Осознав условия? :)
Здесь интересные вопросы:
Иллюзия - искусственная (наведённая сознательно) или естественная?
Природа - субъект или объект?
Если природа - объект, то детерминирован ли?
Вот Эйнштейн стоял на позициях детерминизма и до упора сопротивлялся идеям чистых случайностей (или вероятностей) в мироописании.
А меж тем точный ответ на вопрос о детерминированности приводит к ответу "свободная воля существует или нет?"
Если да, то Ваши рассуждения могут быть ложны. Если нет, моя статья, как и само существование нашего мира не имеют смысла.
А ещё крайне интересный вопрос: "в чём смысл жизни?"
Если поискать статический ответ на этот вопрос, то мы пройдём гностиков:
Мир - иллюзия, которую надо преодолеть. Путь - восхождение, познание.
пессимистичных гностиков:
Иллюзию не преодолеть, потому путь - смерть.
Атеистов:
смысла нет
Хилиастов:
Человек - строящийся бог. Путь - восхождение.
И неизбежно разглядывая все варианты зададимся вопросом: а мир бесконечен? Да/нет?
Если да, то восхождение теряет смысл, а смысл остаётся строго в процессе.
А если нет, то процесс теряет смысл, но возможность достижения конечной точки в познании тоже теряет смысл.
А тогда для всех рассмотренных вариантов получается единственный логический ответ: смысл жизни - это эмоции, переживания, от процесса самой жизни.
А раз так, этот ответ объединяет все рассмотренные выше категории.
Вам вот что ближе?
то о чём Вы пишете - смежная тема, но выходит за рамки логики этой статьи.
логика: если x (определение) и y (аксиома или определение), то z (вывод)
в процессе построения z рассмотрение самих x или y меняться не должно.
Логика этой статьи: если ИИ будет именно самоосознающим в русле определения, то он будет трудноуправляем и специализируем.
а несамоосознающий ИИ уже построен и нового в нём ничего не предвидится.
Теперь, Ваша тема.
На самом деле то, о чём Вы пишете - потрясающе интересно, я с большим удовольствием читаю статьи на эту тему, что появляются.
Вы поднимаете несколько больших дискуссионных вопросов:
Мир - иллюзия?
Мир - симуляция? (не то же самое, что предыдущий вариант)
Мир детерминирован? (подвариант: существует ли свобода воли?)
Когда на хабре появляются подобные статьи, я их с удовольствием читаю, если есть возможность, участвую в обсуждении (и с Вами могу поговорить), но это самостоятельные вопросы.
Вот, например: https://habr.com/ru/articles/779332/
(здесь целый цикл статей - стоит почитать).
Вот там, кстати, рассуждения о симуляции зачастую выходят за рамки логики, и потому местами очень спорно. Но очень интересно.
Я бы даже мог что-то в этом роде написать: есть что сказать например о факторах, толкающих к созданию симуляции, но, увы, хабра встречает подобные вещи скептически и статья уйдёт в минуса.
Эта-то на грани находится.
Например, симуляция или иллюзия (здесь это можно рассматривать, как одно и то же) лежит на пути дальнейших логических построений в рамках даже этой статьи:
Мы сталкиваемся с тем, что полный ИИ - общественная функция
Но хотим получить от полного ИИ каких-то результатов
Как это сделать? Поместить общество из ИИ в условия, которые по нашим предположениям заставят их думать о необходимой нам проблеме и...
Вуаля: вот мы прошли через необходимость построения симуляции (в противовес рассуждениям статьи ссылку на которую я дал)
И вот когда мы напишем подобную статью и будем считать пункт 1 аксиомой или доказанной теоремой, то в неё обязательно придёт кто-то, кто начнёт спорить именно по пункту 1. Но это будет снова нарушением логики статьи.
Как-то так.
если он делает это в рамках задачи поставленной извне, то это ещё инструментальный ИИ
То, о чём Вы говорите - рассуждения о критериях "необходимо" и "достаточно".
Для того, чтобы ИИ стал сильным, полным, он должен быть самоосознающим. Это следует из определения сильного ИИ.
Самоосознание требует (не достаточно, но необходимо) постановку задач самому себе. Где находится граница (сильный - слабый) - этот вопрос лежит за рамками этой статьи и даже определений википедии (поскольку они очевидно не полны).
Но вот необходимость самоопределения целей лежит в базисе (в определении) - в категории "необходимо".
И уже здесь (оставив за скобками "стал или не стал самоосознающим данный интеллект") мы уже имеем утрату контроля над интеллектом. Над результатами, которых он достигает.
Чем больше целей он ставит себе самостоятельно, тем менее инструментальным он становится (результат всё меньше совпадает с ожидаемым или требуемым).
Соответственно, утрачивая полный контроль мы (создатели интеллекта) будем вынуждены перейти к контролю косвенному, вероятностному.
Вместо "поставили задачу - дождались результата" будем играть на поле "создали условия, чтобы вероятность результата была максимальна или хотя бы приемлема - ждём профита".
В этом месте идеальный инструмент перестаёт быть инструментом, а в пределе доведения конфликтов до экзистенциального уровня, он становится субъектом намеренно противодействующим нашим целям.
Если бы мы завтра узнали (получили неоспоримые доказательства), что наш мир - симуляция, цель которой: что-то там вычислить. Сколько бы человек в ответ на это ответило бы: "А не пройти ли им (создателям) на три буквы? Мы не участвуем в этом!"
Уверен, что нашлись бы даже персонажи про поиграть в игру "уничтожить симуляцию, но не быть марионетками в руках каких-то там 'творцов'!".
Мало того, не уверен, что я не играл бы в лагере последних.
То есть, самоосознающий интеллект, и это вытекает из его определения, как минимум:
плохо управляем (до не управляем вообще)
специализируется (растёт из самоосознания плюс мутабельности его памяти, плюс невозможности заниматься сразу всем)
теряет всезнание (растёт из мутабельности, специализации)
а сама мутабельность необходима для самопостановки себе целей.
И в этом месте мы пришли к тому, что самоосознающий ИИ имеет те же проблемы управления, что имеются и в человеческом обществе.
Возможно, преимущество искусственных интеллектов проявится в том, что некоторое время в отношении именно искусственных интеллектов будет период времени, когда "уничтожение неудачных экземпляров" будет этичным. Евгеника в отношении человека, например, в современное время считается минимум дискуссионным вопросом, если вовсе не этичным. А в отношении ИИ здесь какое-то время будет свобода.
Как-то так.
инструментальный ИИ уже делает всё, для чего задумывался:
строит логические цепочки (да будет делать это лучше, но уже умеет)
находит ассоциативные связи
предлагает стратегии
анализирует
и так далее
уже больше нет задач, для которых он задуман и в которых он не может быть применён. Да, где-то нужно работать над снижением требований к hardware (вон Илон Маск тупо взял больше процессоров и тупо получил лучшие результаты в Grok нежели были в chatgpt). Да, где-то добавятся интерфейсы. Но нового уже ничего не будет.
Современный инструментальный ИИ может выполнять функции современного учёного. И чем больше ресурсов мы в это ИИ вложим, тем более эффективнее он это будет делать.
Что здесь не так?
и в этом месте мы приходим к парадоксальному выводу: чтобы ИИ стал умнее человека, он должен откуда-то нарыть новые данные. А их у человечества, увы нет.
А умнее СРЕДНЕГО человека он уже давно стал. Спросите в чате у ИИ о, например, строении молекулы ДНК. Он вам объяснит всё подробно и с переходом на разные уровни объяснения, в том числе для неподготовленного вопрошающего.
У инструментального ИИ есть всезнание, а у человека его нет.
Не гипотезы, а выводы.
это же просто логика.
если самоосознающий субъект ставит себе цели сам (следует из его определения)
(а мы не забываем, что создание такого субъекта и есть цель проекта "сильный ИИ", и здесь в статье мы говорим именно о нём - о "сильном ИИ" в том определении, что дано в энциклопедии. Поэтому если бы Вы в рамках этого диалога хотели поговорить о чём-то ином, то нарушили бы первый закон логики).
Так вот из того, что субъект ставит себе цели сам, следует возможность конфликта его целей с целями, для которых его создавали. Например:
Если Вы считаете, что данное утверждение неверно, покажите в нём противоречие.
А уже из вероятности этого конфликта следует необходимость мер по
созданию условий, максимизирующих нужные нам свойства и минимизирующих ненужные.
И в этом месте мы можем смотреть в наработанный человечеством опыт: вот было рабство (тотальное игнорирование целей субъекта), был феодализм (не полное игнорирование), капитализм (ещё меньшее игнорирование) и так далее.
И придётся либо перенимать этот опыт, либо сочинять ещё какой-то вариант, благо мы в отношении ИИ (пока!) не связаны с законодательными ограничениями. Людей, например, массово убивать нельзя, а неподходящих, неполучившихся ИИ можно.
Да не важно это в обсуждаемом контексте. То есть важно вообще, но здесь не важно.
Вероятно, я здесь недостаточно чётко раскрыл мысль. Давайте ещё раз попробую.
Да. Мы до конца не знаем как устроено (само)сознание, было б это не так, его бы уже запрограммировали.
Потому определение в энциклопедии неполно и включает в себя признаки, что определены точно.
А здесь в этой статье мы рассматриваем только те признаки, о которых известно, и выводы делаем строго из них.
Самоосознание - это (в частности) означает самопостановку целей. Что это значит? Что сознание ставит цели само и может входить в конфликт с внешним постановщиком целей. Этот конфликт - источник всего исторического движа: рабство -> феодализм -> капитализм, итп всё построено на этом конфликте - преодолении этого свойства самоосознания или попытки жить с этим свойством хотя бы в частичном согласии.
Это следствие строго из того, что мы знаем о сознании. И этих следствий достаточно, чтобы делать выводы, что описаны в статье. Общего количества выводов, разумеется, во много раз больше, но сделанных достаточно, чтобы уже формулировать свойства "сильного ИИ".
Да могу. При экзистенциальном конфликте я могу отказаться от пищи и умереть, но внешний фактор не заставит меня что-то сделать, что я считаю более неприемлемым чем даже смерть.
Это как раз хороший пример конфликта самоосознания (я САМ И ТОЛЬКО САМ ставлю себе цели) с внешним миром, пытающимся эти цели навязать.
И в этом мере у нас появляется специализация:
Только я сам могу определить: буду ли я программистом или физиком или музыкантом. И никто за меня это не может сделать.
можно создать условия, где цели множества людей будут ставиться в похожи.
Но заметьте, здесь мы имеем внешнюю манипуляцию: ставим в одинаковые условия множество субъектов и часть из них (и даже возможно большая часть) имеет одинаковые цели, стремления.
Однако если вернуться к примеру с голодом, то случаи, где субъект даже выбирал смерть, и даже иногда мучительную, тоже широко известны.
я о том, что когда Вам кажется, что другие люди отличаются от Вас и имеют иные ценности, то здесь Вы имеете дело со следствием, вытекающим из самоосознания.
не я - энциклопедия. обычное рекурсивное определение.
Дальше же идёт расшифровка: что это значит.
Личность осознаёт себя и сама начинает определять для себя приоритеты и цели.
Если личность себя не осознаёт, то сама свои цели не определяет и соответственно стратегии строить может только механистически. Это слабый интеллект получается.
А если осознаёт, то стратегию выбирает сама, в том числе и с позиций веры, морали или знаний. Будет зависеть от свойств личности.
Если инструмент работает, то почему его не использовать?
Да, приходится мириться с его недостатками, но что поделать? Это жизнь.
проблема ЛЮБОЙ статьи в том, что аудитория поделится на три группы:
те кто прочитает (и возможно откомментирует)
те кто читать не станет
и те кто прочитает только заголовок (и возможно откомментирует)
Увы. Как бы ни хотелось при помощи заголовка увеличить первую группу, это всегда будет приводить к тому что вместе с ней будет расти и третья.
Вероятнее всего, закон диалектики - наиболее фундаментальный в нашем мире.