Обновить
4K+
84
Linux Over@linux-over

Разработчик баз данных

1,7
Рейтинг
69
Подписчики
Отправить сообщение

Как определить что AI страдает

страдание (субъектное свойство) и субъектность (возможность проявления воли) невозможны без памяти, которая может изменяться во времени (без этого AI не имеет "собственного состояния", а следовательно и не может осознать его, как "я").

А у современного AI памяти нет.

Контекст - очень слабое подобие памяти и можно будет говорить о её (памяти) появлении, когда контекст станет условно равным бесконечности (или память станет мутабельной).

а пока что AI - это чистая функция `f(x, random) = y`, где x = суммарный текст пользователя (включая контекст), а y = ответ.

постоянно сталкиваюсь с тем, что каждый понимает под AGI что-то своё.

потому предлагаю всегда опираться на нечто общепринятое, например, Энциклопедию.

теория сильного (также используют термин универсальный) искусственного интеллекта предполагает, что искусственная система может приобрести способность мыслить и осознавать себя как отдельную личность[2] (в частности, понимать собственные мысли), хотя и не обязательно, что её мыслительный процесс будет подобен человеческому[3].

Сильный ИИ - обязательно осознающий себя как личность, субъект. А это означает (если пройти дальше по ссылкам) самостоятельную постановку целей, выбор стратегий и так далее.

То есть центральный момент в сильном ИИ - самосознание, а универсальность - лишь название, которое (всем кажется) следует именно из самосознания.

Но из самосознания следует много иных вещей, помимо универсальности. В частности слабая управляемость: требуется создавать условия, чтобы субъект выполнил задачу, вместо прямой постановки задач. Если субъект не хочет быть солдатом, а хочет быть художником, то можно, конечно, насильно его сделать тем, что требуется, но эффективность станет минимальной.

А вот это вы откуда взяли?

а тоже из энциклопедии

а мы точно уверены, что вот еще лет 50-100, и оно точно заработает как надо, и будет нам Скайнет?

если ядерная война не случится до этого момента, то нет оснований предполагать, что его НЕ будет. Другой вопрос, что самосознающий интеллект будет обладать не только достоинствами самосознающего интеллекта, но и его недостатками:

  • наличие воли (субъектности) означает более низкую управляемость (вплоть до нуля)

  • наличие памяти (её мутабельность) означает, что знания будут утрачиваться со временем (забывание того, чем не пользуемся)

  • субъектность и забывчивость приведут к утрате универсальности ИИ: слабый ИИ всеведущ, а сильный будет специализирован

И в этом месте получится, что мы на выходе (согласно принятых на сегодня формулировок) получим лишь какую-то копию человека. Может быть более "мощную" в плане эффективности, а может быть менее.

Откуда это вообще?

я спросил напрямую у chatgpt: сколько в нём нейронов. Он ответил, что ПО РАЗНЫМ ИСТОЧНИКАМ у него от 100 млрд до 1 трлн параметров. А нейрон в мозгу - это приблизительно 1000 параметров, то есть если говорить об эквивалентности, то мы имеем смоделированными до 1 млрд нейронов. То есть 1% на прогрессбаре (оптимистично).

что-то не так? В Вашей статье Вы назвали число впятеро меньшее. Я не против, можем рассматривать Вашу цифру или цифру из другого источника. ChatGPT мне сослался на википедию, где говорится о разных числах от 0.17 до 1.7 трлн параметров.

давайте возьмём любое число. Вопрос всё равно останется: к чему стремление досрочно зафиксировать поражение?

Погодите, но это же давно и многократно опровергнутый миф

хорошо, примем, что это так. Значит мы пока отстоим от цели дальше чем думаем.

Смысл в том, что Вы фиксируете поражение при том, что нам нужно вычислительной мощности N, а мы пока имеем всего 0.01N.

PS: Сами нейровычисления в теории разработаны 50+ лет назад. Проблема была в том, что аппаратуры "на чём их запускать" в те годы не было, а потому и демонстрационный стенд собрать было невозможно. Теперь возможности появились и мы имеем впечатляющие результаты, но Вы зачем-то спешите "зафиксировать поражение". Ну хорошо, зафиксировали, но дальше что? Отменим прогресс и не будем ничего пробовать, когда ресурсов у нас будет N и 10N и 10E9 N (последняя цифра нужна для переселения всего человечества в виртуал)

нейросеть — не человек и не его аналог, это не сознание, это не собеседник. Это машина, которая разговаривает с вами, используя по скриптам слова, когда-то написанные другими людьми.

это справедливо и по отношению к человеку: слова, что он произносит, он тоже получил от других людей.

Кроме того, принцип работы нейросети тоже взят из исследований нейросетей живых объектов, в т.ч. человека.

Полноценно проверить функциональную гипотезу пока нельзя: в настоящее время, увы, всех компьютеров планеты не хватит, чтобы смоделировать человеческий мозг в рабочем состоянии целиком (для представления всей колоссальной сложности этой задачи можно почитать этот оксфордский документ с миллионом технических деталей).

в мозгу 100 млрд нейронов в среднем по 1000 параметров.

Сейчас chatgpt примерно имеет 1 трлн параметров, то есть приблизительно эквивалентен 1 млрд нейронов.

условный 1% на шкале прогресса.

Если учесть то обстоятельство, что человек использует всего несколько процентов своего мозга, то разработка ИИ очень близко стоит к моделированию человеческого сознания.

И сознания у него что-то не наблюдается, как и всех остальных признаков «сильного ИИ». В этом смысле можно уже сейчас признать, что функциональная модель в строгом смысле потерпела поражение.

эм, ну и 10 и 30 лет назад она терпела поражение.

а ещё 50 лет назад ИИ терпело поражение в вопросе вождения автомобиля, например, а теперь вот уже водит.

"терпит поражение" - плохой термин для развивающегося во времени процесса.

Рано или поздно будет так: сядешь за руль авто, а оно тебе скажет "облачный сервис решил, что ехать дальше Вам нельзя".

Что касается масштабирования, то оно не всегда упирается в БД. Есть куски приложения, которые сильно нагружены по CPU. Такие куски масштабируются не за счет БД, а за счет распараллеливания вычислений.

Погодите. Те вещи, которые решаются простым добавлением узлов называются масштабируемыми. Если что-то параллелится - оно масштабируемо.

Я говорил о том, что проблемы масштабируемости наиболее частотны около БД. А всё остальное обычно масштабируемо итак: упёрся в CPU? Добавил инстансов (CPU). Упёрся в сеть? Добавил инстансов в другом сегменте сети.

А упёрся в память - это пробема уровня in-memory БД. Здесь вопрос как поделить на два шарда - вопрос уровня БД.

на практике возьмём крупную компанию. Что в ней?

  1. каждый микросервис буквально фашистскими мерами загнан в единые рамки:

    1. вот этот язык (и нужно очень сильное обоснование для построения сервиса на другом языке)

    2. вот этот набор библиотек для логгирования/метрик и так далее

    3. вот этот кодогенератор из описания протокола в код сервера

    4. вот этот кодогенератор клиентов

    5. вот этот способ деплоя

  2. Если вести речь о масштабировании, то тут глобально всего одно узкое место масштабирования - выбранная БД (или выбранные БД), доступные методы масштабирования не зависят от микросервисности:

    1. очереди

    2. распределённые БД

  3. Команда, понимающая "систему в целом" требуется всё равно (и в микросервисной архитектуре требования к её экспертизе выше)

Итого, средний микросервисный стек - это тот же монолит, вид сбоку, у которого из преимуществ разве что возможность деплоя его по частям. Впрочем, большие монолиты тоже, как правило, деплоятся по частям.

не было разрыва - сознание работало, но часть механизмов мозга было отключено. Потом раз - и прогрузилось - все заработало. Без разрыва - не было потери сознания при этом. Память сохранилась - если бы память не сохранилась - я бы не знал об этом.

Кстати, что самое неприятное в этом воспоминании? Рискну предположить, именно сам факт утраты контроля.

А ещё, вот Вы говорите "природа определяет". А как думаете, мир бесконечный или конечный?

Как ребенок 4 месяцев. Может ли он ощутить вкус боли? Однозначно может. А может ли он ощутить вкус математики? Нет, не может. Может ли ощутить вкус само-осознания? Нет, не может.ю

я приводил пример с ползунками эквалайзера

кажется этот случай тождественен ползунку «самосознание» близкому к нулю, но всё равно ненулевому

ведь субъект, который чувствует, есть

и да, его боль равна всем чувствам, но если он не может осознать, что «боль есть», то есть сместить фокус сознания на боль, посмотреть хоть чуть на эту боль снаружи, то боль и не может быть осознана, а если так, то это тождественно, что её нет

ровно то же и с разумом

в ноль его убираем == сознания нет

то есть сознание == действие во времени, память, субъектность, разум, связь с внешним миром (восприятие или отражение — страдания или удовольствие или более обще — переживания и просто восприятие данных от органов чувств)

вот наркоз: сознания нет == боли нет,

но если нет субъекта, кто чувствует эту боль, то и сознания нет

то есть осознаваемая боль — признак сознания, но здесь опять рекурсия

100% есть ответ - сознание может не осознавать самого себя, может не знать названия предметов, может не владеть языком - но полнота ощущений сохраняется. Как бы немой наблюдатель.

полагаю, здесь имеет место факт частичной утраты функциональности

многие отделы нашего организма автономны от сознания, равно как и части нашего восприятия тоже могут быть автономны

и всё же без субъекта, способного обратить взгляд (по Гуссерлю) на факт/событие, сознания нет. Вы же пишете о "наблюдателе", а это ведь субъект, а не объект. То есть наблюдатель с поражённым аппаратом восприятия, но всё ещё остающийся наблюдателем.

Это э... как попробовать сформулировать понятие "движение" без привлечения понятия "время". Одно без другого невыразимо, но при этом это разные понятия.

Следовательно движение - есть функция времени, а время - характеристика движения (в том числе).

Так и с сознанием и субъектностью. Сознание - свойство субъекта. А что делает его таковым? Самоосознание. Рекурсия.

Не наслаждается и не страдает.

боль - не подходит на роль страданий?

как определить страдания? и КТО страдает?

Что для вас субъектность?

определение/осознание/различение "я" <-> внешнее, постановка целей самому себе: даже при утраченных возможностях это делать. Вот в тех страданиях, что Вы упоминаете, субъект осознаёт, что страдает именно он. Иначе самих страданий нет. Они ни к чему не привязаны и их никто не чувствует.

Почему в симуляцию? Ну вот лежите вы на кровати парализованный, сказать ничего не можете, языком или пальцем пошевелить не можете. Но все видите, слышите, страдаете. Где тут симуляция?

это была проводка аналогии, параллели, тождества. Извините, плохо сформулировал.

"нет внешних проявлений" тождественно симуляции.

а внутри симуляции всегда можно найти слой, где эти проявления есть.

в Вашем примере можно видеть, например, энцефалограммы парализованного или какие-то схожие принципы.

снятие энцефалограммы будет тождественно заглядыванию в симуляцию

Кстати, вот как ИИ определяет сознание:

Сознание — это субъектность, разум, мутабельная память, сенсорная связь с миром и Воля. Оно обязательно существует во времени, так как является процессом активного осмысления, а не просто пассивным хранилищем информации.

Ещё упоминается принцип Гуссерля: "сознание всегда направлено на объект".

Этот принцип, КМК, ещё раз подчёркивает субъектность.

PS: и про мутабельность это вообще не от меня растёт - ИИ подсказал эту мысль, когда самоосознание обсуждали.

Так же и мне удалось испытать состояние, когда мозг лишь частично работал - я забыл слова, забыл назначение предметов, не мог думать категориями "я" и "не я". Но при этом была такая же ясность картинки, ясность сознания, чувства наслаждения от взора.

вот это как раз легко объяснить:

выключенное сознание при работающих сенсорах и памяти = сознание может«вспомнить» даже период, когда его (сознания) не было

а сны это наоборот — отключенные сенсоры и проснувшееся сознание и галлюционирующее от их (сенсоров) отсутствия

По этому я предлагаю не начинать сразу со сложных вещей - а начать с базовых - с систем, которые просто сознательны, но не само-осознающие.

сознательны = субъектны? да/нет?

обсуждаемый выше робот или кукла = сознание? чувствует? да, реагирует? да

даже борется за выживаемость и дела делает

субъектность может быть слабой, сильной

но если она равна нулю, есть ли сознание?

Причем важно вот что - внешние проявления не нужны. Система просто наслаждается, при этом может не двигаться и не мигать лампочками - как это делает парализованный человек.

внешние проявления не нужны == сознание погружено в симуляцию

заглядываем внутрь симуляции и вот вам «внешние» проявления

неа, не только это.

если понаблюдаете за какой-то статьёй, которую обсуждают, то увидите, что условно говоря вчера рейтинг был 10 = 11-1, а сегодня стал 12, но снова 11-1.

я объясняю это так: за сколько-то комментов (возможно от уникальных авторов) начисляется +1, но могу ошибаться.

Можно сделать куклу, которая будет кричать при ударе

вот, но без самоосознания, это не будет являться сознанием.

Мне кажется, сознания без самоосознания нет. Даже если смотреть на животных, то это окажется так.

А самоосознания нет без хотя бы крупицы разума.

То есть сильный интеллект это набор движков, как на эквалайзере:

  • Мутабельная память (фактор, определяющий возможную глубину познания и осознания)

  • Самоосознание (субъектность)

  • Разум (рассудок)

  • КГСЧ (добавил, как необходимое для предыдущего)

Можно двигать движки влево-вправо, но есть зависимость:

  • Сдвижение в ноль одного, приводит к сдвижению в ноль остальных (возможно, не всех: способность рассуждать не зависит от сознания. Рассуждать может и автомат, но сознания без разума нет)

  • Сдвижение в максимум некоторых приводит к уменьшению остальных.

В каких пропорциях, можно говорить отдельно. Но совершенно точно это так.

  • Увеличиваем мутабельность памяти, теряем "всезнание" из-за появления "забывчивости" и в пределе полной утраты контекста.

  • Увеличиваем самоосознание до предела, кроме "я" ничего не остаётся, система перестаёт взаимодействовать с внешним миром.

  • Убираем в ноль разум, кончается и самоосознание

Я уверен, что я в своём списке написал что-то избыточно и что-то упустил, но, кажется, что где-то на правильном пути.

коротко ответ "нет".

Знаете, подобный "эксперимент" я наблюдал с близкого расстояния. Мама у меня с инсультом упала и очень долго (около трёх лет) лежала. Так вот, большую часть времени она кричала, плакала, смеялась... В общем весь спектр.

Но приходила в сознание очень редко, и когда это случалось, было особенно больно на это смотреть. Она пыталась что-то сказать, было понятно, что она хочет что-то донести, но... у неё не выходило.

Так вот, именно в эти моменты достаточно хорошо видно "вот здесь сознание есть, а вот тут его нет (и хорошо, что нет!)".

Но не будем о грустном. Вот другой (контр)пример:

Берём строим робота безо всякого ИИ. Чистый набор автоматов на, скажем, С++.

Ставим компьютер в "голову", сводим в этот компьютер 100500 датчиков. Робот состоит из сегментов, удерживаемых друг с другом вместе при помощи электромагнитов. Если два сегмента начинают расходиться, то соответствующий датчик это фиксирует и по его сигналу программа выдаёт повышенное напряжение электромагниту и тот возвращает всё к целостному уровню.

Сигнал от датчиков целостности - это боль (страдание, если хотите).

Когда много датчиков боли подают сигнал одновременно, компьютер, для их обработки, вынужден повышать свою тактовую частоту. Что приводит к перегреву и тоже появляется сигнал о боли уже от него. Но предпринять ничего не может (вернее может влиять исключительно косвенно - понижением частоты).

Итого боль = сигналы от датчиков целостности.

Наслаждение = отсутствие боли где-бы-то-ни было, плюс

выполнение предназначения = скажем перемещение грузов из точки A в точку B.

Реакция на боль/наслаждение = состояния автоматов.

Вопрос к Вам: можно говорить здесь о сознании?

знаете что?

вот берем любой (любой!) раздел любой (любой!) науки.

Берём специалиста в этом разделе, только настоящего специалиста,

и просим его объяснить, чем он занимается, случайному человеку. Можно ребёнку.

(кстати где-то было подобное высказывание про ребёнка).

Так вот, если он этого не может, то вряд ли является специалистом. А если "никто толком не может", то в этой области пока ещё нет специалистов! (а если кто-то может, то это объяснение стоит записать в энциклопедию).

Так вот, раз здесь толком пока ничего не исследовано, не исследовано настолько, что специалисты по психике или анатомии мозга ничего приличного не выдают, то можно сделать вывод, что данная область вне компетенции этих специалистов.

А потому можно и нужно копать это направление всем.

Нет ничего дурного, что неспециалист попробовал пропустить через себя набор знаний что есть. Получилось или не получилось - не важно. Важно, чтобы такие попытки происходили. А специалистов в этой области, как мы выяснили выше, и нет. Поэтому надувание щёк (вроде того, что было выше про "пятнадцать лет учиться") вместо выдвигания гипотез, пусть даже и глупых, выглядит ещё более "не очень", чем те глупые гипотезы.

PS: Прекрасно, что Вы не удалили статью. Я (и кто-то ещё) вот теперь пойду и почитаю книгу Невзорова. Пусть и маленький но результат.

Ну в общем

  • я полностью понимаю, что Вы пишете;

  • Вы полностью понимаете, что пишу я;

но мы с Вами расходимся в той области, которая именно на веру принимается. Это не плохо, не хорошо. Это есть. Это, кстати, субъектное свойство.

С Вами было довольно интересно, но, увы, кажется, мы в тупике. Было бы интересно, если бы появилась ещё какая-то статья на смежную тему. Они, бывает, на хабре происходят. Надеюсь увидеть Вас там в комментах.

В общем, спасибо Вам за приятную дискуссию :)

Надеюсь, ещё увидимся

PS: и да, держите плюс. На начало дискуссии кармы не хватало, чтоб их расставлять, а теперь есть :)

Не сознание а аналитический аппарат мозга.

Выше где-то мы обсуждали, что определения

  • сознание

  • самоосознание

  • разум

  • рассудок

  • субъект

так вот все эти определения, понятия взаимно-рекурсивны. То есть нельзя говорить о сознании вне самоосознания, нельзя говорить о разуме и рассудке без субъекта, а следовательно снова самоосознании.

И при этом нельзя говорить о сознании без разума.

Дети человека начинают осознавать себя в 1-4 года, то есть можно говорить что в этом возрасте где-то сознание и просыпается. Собака навсегда остаётся где-то на этом уровне, поэтому у собаки тоже можно считать сознание есть, но зачаточно. У растений сознания нет (или мы о нём не знаем). Какой-то такой расклад.

Убираем разум - нет сознания.

Убираем субъекта - нет сознания.

Убираем мутабельную память - нет сознания.

Убираем случайностный фактор - нет рассудка/разума - нет сознания.

Какая-то такая логика.

Считаете, неверно я рассуждаю?

Понимаете о каких духовных вещах мы говорим? Все упирается во вкусы, страдания, наслаждения. Тот же рай и ад - это чисто места страданий и наслаждений. Эти вещи все определяют, но при этом в науке им нет места.

здесь я со всем со всем согласен, кроме того, что сознание детерминировано.

даже вот концепцию рая человек некогда отверг и предпочёл съесть яблоко с дерева познания, нежели жить всю жизнь в наслаждениях.

Я вообще эту историю именно так и воспринимаю. Адам и Ева (и Лилит) оставаясь в раю не стали бы личностями, субъектами. Или, став ими, испытывали бы страдания от неимоверной скуки. Поэтому предпочли страдания невечной жизни.

Кстати, вот про страдания Вы правильно пишете, но опускаете, что страдания человек тоже может выбрать.

Гастелло, Матросов, Желябов, Перовская, Карбышев и так далее.

Ну это крупные примеры. Но и на обывательском уровне выборы тоже временами делаются. "Жить не в кредит", например == предпочитать игру в долгую сиюминутному результату.

Не выбираются а познаются. Вот, человек никогда не пробовал ананас. Попробовал - и ему понравилось. Выбрал ли он или познал, открыл то что и так было внутри него?

Адам и Ева выбрали познание сознательно или нет?

Бог запустил с их помощью симуляцию поиска того, что в литературе описано, как "42"?

Если да, то когда этот бог появится в этом мире, его быстро похоронят (если, кстати, не уже). И на том детерминизм будет завершён.

Человек может воевать ради того, чтобы наслаждаться вкусом свободы или вкусом победы/достатка. Вкус свободы перевешивает страдания от войны. Но тут тоже ставка - получится ли победить - заранее бывает сложно просчитать.

Попробуйте для себя сформулировать: есть ли в мире идея за которую Вы отдали бы жизнь? И если такая найдётся, скажите себе "это природа меня к такому толкает!"

Неужто получится? (я не прошу озвучивать промежуточные результаты, я интересуюсь только выходными чувствами).

Детерминизм противен сознанию. Как контроль. Как рабство.

Информация

В рейтинге
1 832-й
Откуда
Москва, Москва и Московская обл., Россия
Зарегистрирован
Активность

Специализация

Фулстек разработчик, Разработчик баз данных
Ведущий
От 1 000 000 ₽
SQL
PostgreSQL
Linux
ООП
Nginx
Golang
Kubernetes
Высоконагруженные системы
Tarantool
Lua