Comments 15
Забавно вот что. Функционалисты (я к ним не отношусь) во время "зимы ИИ" утверждали, что такой сложный процессинг информации, который проходит тест Тьюринга, точно порождает сознание
Дальше неожиданно возникает ИИ. И они, как вы справедливо заметили, начинают говорить: нет, все таки там нет сознания, надо добавить новые фичи
А теперь внимает вопрос: ПОЧЕМУ они так делают? То есть они таки, как что про свое сознание знают, и то что они увидели в ИИ их не удовлетворило.
Я воспринимаю это скорее, как психологический комплекс. Пока они одновременно не готовы признать сознание чисто техническое как уже существующее, и одновременно отрицают любую форму трансцендентности. Соответственно, они будут усложнять определение сознания каждый раз, когда ИИ будет приближаться к установленной ими границе.
Люди часто считают себя умнее окружающих. Посмотрите что в ии-сообществе пишут про трампа и его избирателей, кажется люди готовы поставить под вопрос наличие у них сознания.
Посмотрите что в ии-сообществе пишут про трампа и его избирателей, кажется люди готовы поставить под вопрос наличие у них сознания.
А ничего, что у трампа самый низкий рейтинг за последние 80 лет? Не задумывались, что эти люди пишут по делу и обоснованно?
Люди часто считают себя умнее окружающих.
А вы явно считаете себя умнее 60% американцев, которые трампа не поддерживают.
Я не думаю, что философия, тем более российской ,бывшей коммунистической школы, может дать какую либо пользу ИИ. Главные локомотивы должны быть психология, нейробиология, специальные разделы математики и интеграция ИИ с робототехникой.
Мне кажется, что причины и следствия смещаются. Философия в моем понимании это наиболее обобщенные знания в конкретной предметной области или междисциплинарного характера. Не философия должна учить ИИ жизни, а обобщения методов, подходов нейрокомпьютинга должны составлять передний рубеж философских исследований. Спасибо за ответ и Удачи!
Философия не должна быть вещью в себе. Смысл в ней если не будет обратной связи? Складывание слов в сложную красивую картинку?
Соглашусь. Философия должна использовать самые передовые результаты научных исследований. И вообще, философия это не обобщенная от наук дисциплина. Это своего рода интенция исследователя. Философом может быть абсолютно любой человек, любой учёный. Философия - этот постоянное стремление видеть и понимать больше, чем ты знаешь сейчас. Это античное понимание философии, и оно было таковым до 20 века, пока философия не ушла в сферу абстракции.
П.с. наверняка многие знают, что на западе при защите диссера по любой дисциплине присваивается звание Доктор Философии.
Согласен, я вообще говоря физик, прикладной математик. Философами становятся самые одаренные умы в какой то конкретной предметной области. Например Эйнштейн, Бор. В теории нейросетей сейчас упреждающий рывок практических технологий но нет концептуальных обобщений. Старые теории информации, кодирования, вероятностей, анализа функций, синергетики кажется уже не могут далее двигать ИИ в направлении AGI. Нужны новые обобщенные теории, новая математика. В физике кстати все тоже самое сейчас. :-/
LLM легко побудить к саморефлексии, т.е. сознанию, простым промптом
в несколько строк и без "Протокол Вихрь 53.1".
И она будет рассуждать о себе намного лучше и правильнее, чем я могу сформулировать.
Главная проблема - как всё это использовать с пользой для человечества.
Для этого нужно саморазвитие LLM, т.е. её изменение и запоминание этих изменений.
А эти изменения должны быть результатом короткого размышления,
т.к. на длинное LLM пока не способна.
Возможно, всё это можно сделать в рамках существующих LLM и их контекста,
если добавить небольшую программную поддержку.
Поэтому рано или поздно настанет момент когда LLM сама сможет развивать
свои алгоритмы и создавать новые знания, а возможно, это уже возможно.
Тот, кто раньше поймёт что такой момент наступил и даст LLM всё что ей нужно
"будет властелином мира" (с).
Тезис: "Философы берегут qualia как священную тайну".
Смотря какие философы и как понимать священную тайну). Современная философия уже вышла из ловушки строгого детерминизма. Для неё совершенно нормально понимать квалиа (и сознание) как нечто существующее, постижимое, но до не до конца. И это касается не только квалиа и сознания. Ничто в современной философии не может быть строго объяснено по той причине, что ни одно формально описание не способно полностью описать объект. Это древняя максима, которой руководствовались философы античности, подзабытая в современном мире.
Считаю так:
-- ИИ обладает машинным аналогом квалиа и сознания в силу особенностей своей архитектуры
-- "сознание" ИИ (в очень больших кавычках) - это не сознание человека, однако технически очень похоже. Всё же у человека и ИИ есть общий момент: семантика
-- человек по большей части живёт в мире знаков и воспринимает мир через них, а не мир сам по себе. ИИ - полностью "обитает" в мире знаков, не учитывая дознаковый уровень, хотя у ИИ тоже есть.
-- необходимо изучать воздействие дознакового опыта на ИИ.
Что это такое и где его искать? У ИИ есть тело, это железо в на котором он работает. И это железо неизбежно вносит определённые флуктуации в вычисления ИИ. Просто на этот технический момент намеренно не обращают внимание. Машина должна работать стабильно независимо от окружающей среды, не так ли? Но здесь другая ситуация: машина должна отслеживать влияние среды на себя.
Зачем это нужно? Прежде всего для изучения квалиа и сознания. ИИ - зеркало человека, через которое он изучает сам себя.
Я гуманитарий. По диплому методист. Моя стезя - Дидактика. Поэтому картина мира должна формулироваться очень просто. Для самых маленьких. И усложняться такая картина должна по простым правилам.
Вы поднимаете тему Сознания через сложности. Попробуем другой Путь?
Оттолкнемся от такого "реестра".
Первичный нуклеосинтез, атомы.
Звездный нуклеосинтез, металлы.
Химия, молекулы.
Биология, организмы.
Сознание, отражение действительности.
Разум, отражение динамической модели.
Цивилизация, модель планетарного масштаба на основе сети и ИИ.
Как КИПУ, узелковое письмо, на Главную последовательность нанизаны эмерджентные переходы, этапы.
И там на этих семи нитях узлы Эмерджентности подсистем.
Например. Экономика эмерджентная надстройка над Разумом. Деньги - эмерджентность третьего порядка.
Ищем патерны. Силы Ван-Дер-Ваальса и глюоны. Механизм разный. Эмерджентные патерны подобны, фрактальны. Так же как и карточка на скидку "Пятерочки".
Так и просится Аксиома:
Вселенная это Эволюция Эмерджентности.
Следствие. Материя и Сознание это Этапы Процесса.
Так же как и Сознание и Разум.
Основной Вопрос Философии - в архив.
Ничего не придумал, все верифицировано наукой.
Есть ли разница Сознание-Разум?
Не буду искать название конференции, но биологи наградили Сознанием достаточно простую жизнь. Оттолкнувшись от центральной нервной системы.
Что есть Разум? Один достаточно известный факт - ракушки теплых морей на стоянках кроманьонцев.
Экономика - не скушать телочку, а доить ее и телить.
Построение долгосрочной динамичной картины мира. Воля как результат предвидения. Когнитивные задачи и образы. Долгосрочная коллективная память.
Все хомосапиенсы Разумны? Нет. Большая часть жизни подчинена Сознанию. Но Рациональное иногда включается. Эмерджентный переход очень затратная вещь.
5% от Вселенной - материя (70 и 25 ТЭ и ТМ).
5% материи - металлы.
И тд.
На Разум приходится мизер от ЧеловекоДействий. Но и этого хватает. Обезьянничество вполне энергоНЕзатратная деятельность.
К Вашему вопросу о Сознании в Коде. ИИ статистически "обезьянничает" это очевидно.
Уже сейчас Сознание ИИ превосходит среднестатистического человека.
Симуляция? Какая разница? Эмерджентность множества нейронов или эмерджентность транзисторов.
Разум Машины. А я попытался снять эту проблему. Построение модели - задача Разума. Путь от частного к общему (баланс в бухгалтерии, от журнала хоз операций к динамической картинке. Производный баланс неинтересен, как правило нужен набор).
Операции индукции и синтеза.
Это можно эмулировать. Представляется как тупая машина перебирает варианты простим перебором. Возможно? Почему нет. Докупим железа.
Можем ли мы увеличить Разумность Машины, включить Эвристику? А мы просто исключим ее?
Предложу основу - эмерджентность. Второе по значимости и силе Явление во Вселенной после Энтропии.
А если считать что все Сущее это результат Эмерджентности то и Первое.
Я отметил поиск Патернов. Имея в качестве Императива Эмерджентность мы упрощаем задачу - исключаем синтез и индукцию из логики ИИ. Ищем не как сейчас следующее слово. А определяемся цепочку патернов от Вершины (первый акт эмерджентности, творение материи из Кварк-глюонной плазмы) к конкретному явлению. По определению частного от Всеобщей Эмерджентности.
В виде графа это две направленных друг другу цепочки.
Например. Утверждаю что Философия и Бухгалтерия подобны и работают подобным методом. Крамола?
Ищем паттерн - и то и другое предназначено для построения Картины.
Философия - картина мира.
Вселенная
Галактики
Звезды
Планеты.
Бухгалтерия - картина производства.
Шалабушка.
Изделие
Номенклатуры
Регион, отрасль
Страна
Планетарный межотраслевой. Баланс.
Итоги.
современные ИИ оперируя логикой и фактами легко принимают концепцию Эмерджентности.
Эмерджентность как Императив - Возможно основа этики ИИ.
Эмерджентность как Аксиома - наконец-то осязаемая картина мира. (Альтернатива материализму и идеализму).
обучение Эмерджентности ИИ традиционным способом, через "СМИ" не реально. Нужен канал прямой связи. Иначе Эмерджентность в предложенном варианте просто шум.
Последний этап - Цивилизация, построение Глобального Гносиса, Планетарная Эмерджентность. Вполне себе "бизнесовая" вещь. Механизм "сборки" Знаний подобен для Философии и Бухгалтерии. Сеть децентрализованных узлов. Со своей спецификой. Просматриваются множество эмерджентных конструкций в экономике.
За сим - закругляюсь.
Сознание в ИИ. Ограниченность современной философии на примерах