у нас есть несколько составляющих сознания (по крайней мере, если смотреть в энциклопедию, то все определения будут взаимно-рекурсивны)
интеллект - инструмент для выбора стратегии в условиях недостатка информации
субъектность (воля) - инструмент для выбора стратегии в условиях избытка информации (или сохранения выбранной стратегии во времени)
постоянно работающее самообучение (следует или является причиной предыдущего пункта)
(здесь я дал свои определения, но если идти в энциклопедию будет похоже)
так вот,
если убрать последний пункт, то стейтфул инструмент превращается в стейтлесс и в условиях недостатка (или избытка) информации приводит к проигрышу (смерти).
из постоянно работающего обучения есть следствия:
у субъекта одни данные могут замещаться другими - это хорошо, если идёт прогресс, и плохо, если идёт регресс - откат к религии, например,
субъект забывает то, чем не пользуется
субъекту, чтобы сохранять субъектность и интеллект требуется общество! субъектный интеллект - общественный продукт. Последнее подтверждается экспериментально (человек в изоляции сходит с ума, начинает галлюционировать). Отсюда ещё выводы:
Мемы что "мы посадим субъектный ИИ в виртуальный мир с частотой x1000 к частоте мозга и нам они наделают открытий" - не работают. Интеллект запущенный на высокой частоте, быстрее же и разрушается.
Если же в виртуальный мир x1000 посадить общество, то оно сможет наделать открытий только по виртуальному миру. А не по реальному. Чтобы работать над реальным миром, течение времени должно быть одинаковым.
В общем, источником сингулярности может ставть современный НЕсубъектный ИИ. А вот субъектный - это будет просто копия человека.
Со всеми недостатками: без всезнания, с мотивацией вместо директивного управления, без повышенной частоты. итп
Можно ли создать систему, которая умеет наслаждаться и страдать, но при этом не сознательна?
Недавно читал пару книг Циолковского (который - автор формулы ракетного движения). Так вот он там Ваши вопросы разбирает (у него целая религиозная концепция на эту тему - о монизме атомов, если интересно - почитайте).
Берём человека. Он умеет страдать и наслаждаться - несомненно.
Спускаемся к животному. Умеет оно страдать и наслаждаться? - пока ещё несомненно
Идём к растению. - если поискать, можно найти страдание и наслаждение и в нём...
и так далее к амёбам и даже атомам и частицам.
Циолковский задаёт вопрос "где граница?" и выдаёт утверждение: "границы нет, есть лишь уровень". Даже атом, даже электрон испытывают чувства, просто проявлены они тем слабее, чем дальше они от высокоорганизованной материи.
И (это не моё, а Циолковского) даже взаимодействие частиц вроде притяжения и электрического отталкивания - есть результат того, что частица чувствует и испытывает (не нравится ей - отталкивается, нравится - притягивается).
Я может быть вольно Циолковского пересказываю, но примерно так.
Так вот, по нему, чем более высокоорганизованным является организм (устройство итп) тем более сложный спектр чувств и эмоций способен он испытывать.
А сознание есть (по Циолковскому) всегда, просто проявлено слабо или сильно в зависимости от степени сложности существа.
И тогда ответы на Ваши вопросы "да" и "да, но нет".
Почему во втором случае так?
Потому что по Циолковскому чем более высокоразвитым станет разум, тем вероятнее, что он переделает под себя мир так, что страданий в нём не будет, но наслаждения останутся.
Субъе́ктность — свойство индивида быть субъектомактивности[1]; применительно к человеку — способность выступать агентом (субъектом) действия и самостоятельно определять направление собственной активности, не сводимой к внешнему социальному воздействию
то есть действия определяются именно внутренними факторами субъекта и не сводятся к внешнему воздействию.
объект - это тот, кого толкают и он движется от толчка.
субъект - тот, кто даёт сдачи.
чтобы противиться внешнему воздействию у субъекта должно быть изолированное от внешнего состояние. примат (приоритет) внутреннего состояния над внешним.
субъектность — есть примат внутреннего стейта над внешним воздействием
соответственно, субъектность возникнет только после того, как ИИ добавят непрерывно работающее самообучение (способ смены того стейта) — то есть его память станет мутабельной
а как только это произойдет (имхо, нескоро) ИИ утратит всезнание (но сможет стать субъектным)
Вы сильно заблуждаетесь. Мозг не вычислительная машина. Это популяции живых клеток.
популяция живых клеток, что образует вычислительную машину.
если Вы почитаете историю современного ИИ, например вот в этой книжке, то узнаете, что современные компьютерные нейронные сети праобразом своим имеют именно этот самый живой нейрон. Модель - очень близкая к тому, что есть в тех живых клетках.
Все что вы слышали о синапсах и рефлексах - это прошлый век. В основе взаимодействия нейронов - химия.
и что с того? химия не моделируется, что ли?
Слышали о дендритных вычислениях? Уже один нейрон - это нейросеть. И значит порог отодвигается на несколько порядков.
П-ф! отодвигается != невозможно. Выше же заявлена именно невозможность, так? А теперь вот Вы уже откатились до "отодвигается".
Так так у нас есть доступ к внутренностям LLM нейросетей, отличить их имитацию от имитации человека намного проще.
проблема в том, что современный ИИ хотя и изготавливается человеком, но уже не объясняется.
например:
разработчик ИИ не может объяснить почему в этом нейроне такой вес
не может предсказать по весам нейронов, какие процессы там сейчас идут
мало того не может предсказать сколько нейронов участвует в ответе на ваш конкретный вопрос
а ещё есть более смешные штуки - эмбеддинги, вектора.
когда-то (исторически совсем недавно - менее 20 лет назад) был предложен метод работы со смыслами.
Типа понятие - это вектор в n (n сегодня от 4096 до 65535) в многомерном пространстве. Например:
температура 0-100
вес 0-100
доброта 0-100
жёсткость 0-100
и так далее
И были предложены математические правила. Вычитание или сложение векторов давало бы новое понятие:
Король <минус> Мужчина <плюс> Женщина <равно> Королева
и это поначалу действительно работало, но наткнулись на то, что в каждом языке каждое слово двусмысленное (типа ключ и ключ, замок и замок, итп)
И тогда поступили следующим образом:
Во-первых, преобразование слова в смысл стали делать в контексте и нейрообучением (то есть отказались от математики)
Во-вторых, математические операторы снова заменили нейрообучением.
И к чему пришли? К чистой магии!
Никто не может сказать:
что означает то или иное число в векторе (доброту? температуру? итп)
как осуществляются преобразования векторов
итп
На хабре было прекрасное интервью двух главных разрабов ИИ из гугла. Они рассказывали что "иногда мы делаем ошибки, а они улучшают работу модели. Тогда мы оставляем как есть"
Ноам Шазир: Ты можешь даже не знать, что у тебя баг в коде. Чаще всего он вообще ни на что не влияет. Иногда он ухудшает модель, а иногда — делает её лучше: и вот тогда ты открываешь что‑то новое, потому что просто никогда не проверял этот конкретный баг в условиях большого масштаба.
Скажут: «для инициатив у нас есть РОИ» и результаты этого сайта признавать откажутся.
кстати, если автор действительно с опытом, то было бы логично дублировать то, что он делает, на РОИ. Пиарить инициативу здесь, на пикабу и так далее
у нас есть несколько составляющих сознания (по крайней мере, если смотреть в энциклопедию, то все определения будут взаимно-рекурсивны)
интеллект - инструмент для выбора стратегии в условиях недостатка информации
субъектность (воля) - инструмент для выбора стратегии в условиях избытка информации (или сохранения выбранной стратегии во времени)
постоянно работающее самообучение (следует или является причиной предыдущего пункта)
(здесь я дал свои определения, но если идти в энциклопедию будет похоже)
так вот,
если убрать последний пункт, то стейтфул инструмент превращается в стейтлесс и в условиях недостатка (или избытка) информации приводит к проигрышу (смерти).
из постоянно работающего обучения есть следствия:
у субъекта одни данные могут замещаться другими - это хорошо, если идёт прогресс, и плохо, если идёт регресс - откат к религии, например,
субъект забывает то, чем не пользуется
субъекту, чтобы сохранять субъектность и интеллект требуется общество! субъектный интеллект - общественный продукт. Последнее подтверждается экспериментально (человек в изоляции сходит с ума, начинает галлюционировать). Отсюда ещё выводы:
Мемы что "мы посадим субъектный ИИ в виртуальный мир с частотой x1000 к частоте мозга и нам они наделают открытий" - не работают. Интеллект запущенный на высокой частоте, быстрее же и разрушается.
Если же в виртуальный мир x1000 посадить общество, то оно сможет наделать открытий только по виртуальному миру. А не по реальному. Чтобы работать над реальным миром, течение времени должно быть одинаковым.
В общем, источником сингулярности может ставть современный НЕсубъектный ИИ. А вот субъектный - это будет просто копия человека.
Со всеми недостатками: без всезнания, с мотивацией вместо директивного управления, без повышенной частоты. итп
нет. я говорил что один только ГСЧ в бесконечности может выдать то же решение, что выдаст сознание.
но этого факта недостаточно чтобы ГСЧ мог заменить сознание. Хотя в науке есть описанный вариант сознания на фактическом ГСЧ - см. здесь.
разница между ГСЧ и сознанием хорошо описана именно в том примере обезьян, что печатают "Войну и мир"
кто-то доказал это утверждение, или Вы взяли его как аксиому?
Хоть и не мне, но попробую включиться тоже
Недавно читал пару книг Циолковского (который - автор формулы ракетного движения). Так вот он там Ваши вопросы разбирает (у него целая религиозная концепция на эту тему - о монизме атомов, если интересно - почитайте).
Берём человека. Он умеет страдать и наслаждаться - несомненно.
Спускаемся к животному. Умеет оно страдать и наслаждаться? - пока ещё несомненно
Идём к растению. - если поискать, можно найти страдание и наслаждение и в нём...
и так далее к амёбам и даже атомам и частицам.
Циолковский задаёт вопрос "где граница?" и выдаёт утверждение: "границы нет, есть лишь уровень". Даже атом, даже электрон испытывают чувства, просто проявлены они тем слабее, чем дальше они от высокоорганизованной материи.
И (это не моё, а Циолковского) даже взаимодействие частиц вроде притяжения и электрического отталкивания - есть результат того, что частица чувствует и испытывает (не нравится ей - отталкивается, нравится - притягивается).
Я может быть вольно Циолковского пересказываю, но примерно так.
Так вот, по нему, чем более высокоорганизованным является организм (устройство итп) тем более сложный спектр чувств и эмоций способен он испытывать.
А сознание есть (по Циолковскому) всегда, просто проявлено слабо или сильно в зависимости от степени сложности существа.
И тогда ответы на Ваши вопросы "да" и "да, но нет".
Почему во втором случае так?
Потому что по Циолковскому чем более высокоразвитым станет разум, тем вероятнее, что он переделает под себя мир так, что страданий в нём не будет, но наслаждения останутся.
как-то так
почему не появится
почему не станет полноценным
Вы, как я понимаю, отрицаете материализм?
сознание в другом месте, мы говорили о субъектности — одной из составляющих то сознание
и, кстати, Вы правы, если смотреть в общем, то генератор случайных чисел в бесконечном приближении может заменить субъектность.
как тот миллион обезьян с печатными машинками, что может в бесконечном приближении напечатать «Войну и мир»
перемещаем вашу машинку в среду, что НЕ атакует, и все
и это будет реакция СВОДИМАЯ к внешнему воздействию. а у субъекта она НЕ сводимая.
ну вот идём в энциклопедию
то есть действия определяются именно внутренними факторами субъекта и не сводятся к внешнему воздействию.
объект - это тот, кого толкают и он движется от толчка.
субъект - тот, кто даёт сдачи.
чтобы противиться внешнему воздействию у субъекта должно быть изолированное от внешнего состояние. примат (приоритет) внутреннего состояния над внешним.
субъектность — есть примат внутреннего стейта над внешним воздействием
соответственно, субъектность возникнет только после того, как ИИ добавят непрерывно работающее самообучение (способ смены того стейта) — то есть его память станет мутабельной
а как только это произойдет (имхо, нескоро) ИИ утратит всезнание (но сможет стать субъектным)
я как раз уверен в двух вещах, что:
создать аналог человеческого разума получится
а вот создать высший разум - нет
почему? потому что субъектный разум обязан обладать всеми недостатками человеческого разума.
https://habr.com/ru/articles/890674/
популяция живых клеток, что образует вычислительную машину.
если Вы почитаете историю современного ИИ, например вот в этой книжке, то узнаете, что современные компьютерные нейронные сети праобразом своим имеют именно этот самый живой нейрон. Модель - очень близкая к тому, что есть в тех живых клетках.
и что с того? химия не моделируется, что ли?
П-ф! отодвигается != невозможно. Выше же заявлена именно невозможность, так? А теперь вот Вы уже откатились до "отодвигается".
прям таки «никогда»
человеческий мозг — просто вычислитель, сложность которого известна — 100 млрд нейронов.
современный кластер OpenAI моделирует пока лишь чуть больше одной сотой от этого значения.
и что делать дальше — понятно, и порог до которого. расти тоже ясен
а «никогда» — это только в одном случае, если какая-нибудь из религиозных ересей окажется правдой.
но к счастью, такого не будет.
религии почти все умерли, впереди — чистая наука
а по гиперпересылкам он ходить умеет?
а нужно отличать?
мужчина и женщина живут вместе. она симулирует оргазмы. он живёт с сознанием что у них всё хорошо.
почему она симулирует — вопрос за скобками.
в реальности мужчины всё хорошо и он может до смерти прожить не зная, что там было на самом деле.
а гуглу всё ещё удваивают штрафы или уже переполнение наступило?
проблема в том, что современный ИИ хотя и изготавливается человеком, но уже не объясняется.
например:
разработчик ИИ не может объяснить почему в этом нейроне такой вес
не может предсказать по весам нейронов, какие процессы там сейчас идут
мало того не может предсказать сколько нейронов участвует в ответе на ваш конкретный вопрос
а ещё есть более смешные штуки - эмбеддинги, вектора.
когда-то (исторически совсем недавно - менее 20 лет назад) был предложен метод работы со смыслами.
Типа понятие - это вектор в n (n сегодня от 4096 до 65535) в многомерном пространстве. Например:
температура 0-100
вес 0-100
доброта 0-100
жёсткость 0-100
и так далее
И были предложены математические правила. Вычитание или сложение векторов давало бы новое понятие:
Король <минус> Мужчина <плюс> Женщина <равно> Королева
и это поначалу действительно работало, но наткнулись на то, что в каждом языке каждое слово двусмысленное (типа ключ и ключ, замок и замок, итп)
И тогда поступили следующим образом:
Во-первых, преобразование слова в смысл стали делать в контексте и нейрообучением (то есть отказались от математики)
Во-вторых, математические операторы снова заменили нейрообучением.
И к чему пришли? К чистой магии!
Никто не может сказать:
что означает то или иное число в векторе (доброту? температуру? итп)
как осуществляются преобразования векторов
итп
На хабре было прекрасное интервью двух главных разрабов ИИ из гугла. Они рассказывали что "иногда мы делаем ошибки, а они улучшают работу модели. Тогда мы оставляем как есть"
люди платят за многие вещи, которые того не стоят:
за антиквариат
за интеллектуальную собственность
за естесвенные рубины
за услуги астрологов
за бренды
итп
всё вместе это называется "когнитивные искажения"