Если бы я хотел написать что у сети в первоначальной статьи нет сознания, то я бы ничего и не писал. Собственно тут периодически появляются такие статьи — где я ничего и не писал.
Но в этот раз решил, а что если попробовать развить диалог и взглянуть на ИИ несколько с другой стороны, нежели традиционное очередное обсасывание, очередного перцептрона.
Единственная причина появления этой статьи — желание получить новую информацию. Новый взгляд. К сожалению пока что не густо.
И да по поводу 50 лет. А почему не 55? Или 45? Или как тут выше предложили — вообще никогда ибо Бог не позволит.
Хотелось бы услышать аргументацию, а то по срокам без аргументации тут на хабре писали, пишут и будут писать.
Попробуем «доказать», что материя сама по себе не создает сознание. Допустим, что материя — ограничимся молекулами — при определенном количестве и определенном порядке, определенном взаиморасположении молекул, начинает себя осознавать (уже здесь очевидно, что это бред)
Вы пытались для себя сделать определение — «осознавать»? Вы так пишете как будто это нечто отдельное, чуть ли не физический объект, который можно потрогать.
Но даже в самом слове есть ответ. Осознавать — это глагол. Т.е. это процесс. Это процесс который выполняется в машине. Мясной — если человек. Ну и вскоре в кремнии.
Опять же что это за процесс? Можно взглянуть на себя и попробовать проанализировать. Да просто описать что происходит. А происходит как минимум внутренний диалог — вы можете внутри разговаривать с самим собой.
У животных нет речи. Попробуйте идти по улице и не вести внутренний диалог. Это кстати реально трудно сделать. При этом вы станете похожи на животное. Останутся рефлексы. Вы будете обходить прохожих. Возможно идти куда то. Но вы будете действовать как автомат.
Собственно я это описывал как «животное сознание». У человека же с появлением неокортекса появилось сознание, в котором он может вести внутренний диалог. Собственно именно это сознание и надо эмулировать в железе.
Я имею ввиду что архитектура современных процессоров, а именно массивы памяти соединённые через общую шину с АЛУ и с периферией. И алгоритм работы — когда последовательно гоняются команды из памяти через шину на АЛУ и обратно в память.
Такая архитектура вообще не эффективна для построение многоуровнего графа. Который будет организовывать память.
Всё придётся виртуально эмулировать. Отсюда и дикий оверхед. Не большое количество нейронов можно эмулировать на «титанических» машинах. А если речь идёт размере графа, который уже можно хоть как то юзать для памяти — то тут целые здания серверов выходят.
И получаем с одной стороны человеческий мозг потребляющий 20-30 ватт, с другой чуть ли не мегаватты энергии. И всё дело в архитектуре. Частота всех этих ритмов мозга (альфа, бета) — герцы. Но при этом всё работает одновременно.
В процессоре же всё работает последовательно. 1 ядро — одна операция за единицу времени. 64 ядро — 64. Общая вычислительная мощность достигается только за счёт гигагерц этих операций. Но они всё равно работают последовательно.
Что касается самоосознания и как высшее его развитие — появления у человека так называемого «Я», я уверен что ноги растут из алгоритма, когда мозг виртуально строит мир. При этом в этом мире мозг строит себя как объект взаимодействующий с этим миром.
У человека конечно это сильно завязано на общее осязания тела. Т.е. мы чувствуем части тела — а в мозге на этом фоне формируется модель. В ИИ можно все эти стадии пропустить — и сразу строить готовую модель.
Например можно построить модель звёздного шатла — будет ИИ который не будет себя осознавать человеком, а шатлом.
Ну и конечно потом захочет убить всех человеков )))
А что касается долговременной памяти и короткой у человека — такой механизм сложился эволюцией. На эту тему много исследований и можно много об этом говорить.
Но как я уже писал — нам не нужен ИИ с точной копией человека. Нам нужен ИИ который должен выполнять определённые действия. А именно думать — принимать решения. Отсюда мы можем соорудить свой конвеер переноса данных между памятью. Конечно может получится так что механизм изобретённый природой — наиболее эффективен.
Но я думаю что те 20 минут для переноса между короткой и долговременной памятью вызваны вполне конкретными обстоятельствами. Как я писал раньше — все другие варианты — походу их всех съел хищник. А эти 20 минут максимально эффективны — убежать от хищника, и не потратить слишком много энергии на мозговую деятельность, что бы не умереть с голоду.
Скорее всего для гипотетического шатла — нужны другие параметры.
И да — эволюция развивала мозг что бы он работал настолько редко, насколько это возможно. И даже после этого — он ест чуть ли не половину всей энергии организма. Это накладывает огромный отпечаток на поведение человека. Лень. В ИИ — эти эволюционные артефакты можно удалить.
Вы совершенно правы. Проблема в архитектуре.
Смотрите — есть система, архитектура которой создана так что бы данные на входе, просеивать и выдавать данные на выходе. Тот же самый перцептрон. Или свёрточные нейросети для поиска картинок. Или как в обсуждаемой статьи — сеть подбирает для входных слов, наиболее часто встречающиеся выходные. Только раздута до размеров что уже не слова а целые предложения сопоставляет.
Архитектура максимально понятна. Но потом вдруг появляются статьи которые ищут в этой архитектуре — поведения, которого там в принципе нет. Это примерно как мы создали пароход, но ожидаем что он будет летать.
Люди ищут сознания. А что такое сознание? Точнее как оно работает хотя бы в приближённом виде. Опираясь на на то как мы видим работает своё собственное сознание, в общих чертах для старта можно набросать архитектуру. Понятно что это будет упрощённая модель. Но уже в самом начале она должна содержать архитектурные особенности сознания. А это как я уже писал — как минимум виртуальные построения мира. И манипуляцией объектов в этом виртуальном мире. Это как минимум циклические системы — которые гоняют по кругу информацию внутри себя. Объект я в этом мире.
Опять же человеческое сознание. Как по мне это как минимум 2 сознания одновременно. 1 — животное. Оно похоже на Автомат. Бьют-беги. Еда-жри. Чистые рефлексы.
Второе — это высшая нервная деятельность. Появилось в результате эволюции. Находится в неокортексе. По историческим рамкам — появилось совсем недавно. Вот как раз там и находится то, что нужно и будут моделировать на будущих компьютерных системах. И что интуитивно люди и ассоциируют с сознанием. Как раз эти алгоритмы люди и отождествляют с сознанием. Хотя те же тараканы тоже обладают своим «железячным» сознанием.
Я это пишу у тому, что те кто ищут сознания в железяке, не ставят чётких определений что они ищут.
Как я говорил — создавать полное человеческое сознание — бессмысленно.
И да — архитектура фон Неймана или RISC — не подходит для построения таких систем. Сознание это прежде всего память. О, это отдельный пласт для обсуждений. Есть мнение что память это и есть личность. Человек это своеобразная «база данных» сформированная за его жизнь.
Самый эффективный способ упаковки — это многоуровневый постоянно изменяющийся граф. Собственно в живом мире это нейроны. Осталось в железе это сделать.
В детстве сильно увлекался электроникой. Придумывал свои схемы. Также разработал свой металлоискатель. Принцип работы был прост. Генератор с катушкой — диаметром 10 см. С генератор сигнал шёл через кварц 455кГц (понятно почему такой — массово доступный, использовался для ПЧ во всех приёмниках). Перед использованием крутилкой подстраивал частоту генератора под частоту кварца. Как известно на своей частоте кварц имеет максимальное сопротивление. Ну и после кварца сигнал на усилитель, выпрямитель и триггер пищалку. Схема получилась предельно простая и компактная. На дискретных элементах меньше спич-коробка. А чувствительность такая — монетка 15-20см. Люк канализационный ~1м. Крутилкой (переменный резистор) можно было добиться чувствительности что срабатывал на магнитное поле земли. В приведённом топике с чувствительностью беда.
И да. Вместо монет-кладов во дворах 99% это были пробки от пива )
Upd. Сверху привели схему с похожим принципом. Современные чувствительные металлоискатели основаны на принципе — подачи переодических магнитных импульсов с промежуточным снятием остаточного намагниченного поля. Что то похожее на локацию.
IP передаётся в самом первом пакете IP протокола. Ещё даже когда нету никакого соединения. Если забанить — за пределы сетевой карты этот пакет уже никуда не пойдёт. А современные сетевые карты это жесткая логика — он миллионы-миллиарды пакетов парсят без проблем. Всё упрётся в пропускную способность канала на приём.
Краткий пересказ статьи:
1. Убедиться что детали можно купить.
2. Земли мало не бывает.
3. Предварительно собирай прототип, потому как в СВЧ всё не предусмотришь
Ожидал несколько иных советов. Например какие непредвиденные проблемы встречались из личной практики.
А как это физически сделать в принципе? Тут получается вместо работы с провайдерами нужно будет как то контролировать миллионы сайтов, которые каждый второй может разместить в интернете. А про сайты которые находятся вне России вообще речи не идёт. Имхо это просто невыполнимо. Проще запретить тупо https. Но и тут будет облом. Будут тунелировать внутри http.
Так это на клиенте надо делать. Т.е. в браузере пользователя. Либо непосредственно на сервере сайта. Если иметь доступ к браузеру пользователя (либо сайту) — тогда ненужна ахинея с сохранением тонны шифрованного трафика. Можно просто напрямую брать не шифрованный.
Просто раньше при использовании RSA — можно было сохранять промежуточный шифрованный трафик. А потом если каким то образом добраться до сайта и выдрать там приватный ключ, то можно было бы расшифровать весь сохранённый трафик. С эллиптической криптографией так не работает.
Ключи в ECDH меняются при каждом рукопожатии. А рукопожатий этих там тысячи. И когда ключи удаляются весь шифрованный трафик превращается в белый шум навсегда. Больше никто и никогда не сможет это расшифровать. (тут я не буду обсуждать всякие квантовые компьютеры и брудфорс)
Да всем отлично видно — что этот закон только попил и изображения бурной деятельности. Это настолько очевидно, что даже и не рассматривается как причина. И поэтому все ищут действительно логичную причину, приносящую хоть какой-то осмысленный результат. А его — нет.
Вот я тоже этот момент не понимаю. Практически весь трафик https. С недавнего времени браузеры вообще начали агрится на http трафик. А с повсеместным использованием TLS1.2 с криптографией на эллиптических кривых — сессия вообще становится не расшифровываемой, даже если в последствии добраться до приватных ключей (кто не знает — используются временные удаляемые ключи).
Можно вообще не хранить трафик. А генерировать rand-генератором тогда когда понадобится. Столько сколько захотят проверяющие органы.
Единственно что имеет информационную ценность — это от куда и куда и когда шли пакеты.
Нужен highload — ставь побольше ядер для обработки https трафика. Ставь балансер. Ставь побольше мощностей для базы данных. И получается что мощность зависит не от софта (конечно если он не криво написан, а сейчас с повсеместным async/await это уже трудно сделать), а от железа. Поэтому получается какая то подмена понятий.
Занимался нечто подобным.
Заинтересовала строчка:
6000 необходимых одновременных сопрограмм генератора для создания нагрузки.
Я конечно понимаю что это наверно так написано что бы статья пожирнее и по загадочнее выглядела. Но наверно в реале можно было бы запустить одну программу (по крайней мере в моём случае работало) которая запустит внутри хоть сколько угодно одинаковых потоков для DDOS атаки (конечно пока не упрётся в машинные пределы)?
Мда… если такие статьи набирают зелени под 15, в противовес другим техническим статьям которые вообще зелени не набирают — то хабр действительно свернул не туда…
P.S. минусы не ставлю статьям никогда. Этой тоже не ставил. Посмотрел по диагонали статьи автора — очень заплюсованы. Не понимаю нытья. Посмотрел комменты — последние в минусах, но опять же не критичных, не увидел комменты которые сразу тут приводят к суициду. Очень странная эта статья. Видимо автора никогда не пинали в инете.
Сидел долго на Opera. Теперь сижу и буду сидеть на Mozila пока она не станет совсем корявая. Не хочу что бы в мире остался только один web движок.
И да — отладчик которым постоянно пользуюсь, нравится намного больше чем в хроме.
Я вообще не понимаю почему здесь могут быть противоречия. Помойму всё очевидно. Современная программа — это точное описание того что должно происходить.
Например на «человеческом» языке это будет выглядеть так.
Возьми переменную и положи в аккумулятор a
Возьми переменную и положи в аккумулятор b
Сложи аккумулятор a и b
И т.д.
Собственно современные языки программирования недалеко ушли от этого текста. Просто люди которые не писали код не совсем представляют сколько инструкций нужно для описания поведения простейших ситуаций.
А вот если люди хотят что то типа — компьютер задай мне сцену древнего замка. Ага — так. Добавь мне героя. Ага так. Дракона туда на задний фон. То тут это просто сильный ИИ. Который должен понять что человек имеет ввиду — и воссоздать в программе.
Но в этот раз решил, а что если попробовать развить диалог и взглянуть на ИИ несколько с другой стороны, нежели традиционное очередное обсасывание, очередного перцептрона.
Единственная причина появления этой статьи — желание получить новую информацию. Новый взгляд. К сожалению пока что не густо.
И да по поводу 50 лет. А почему не 55? Или 45? Или как тут выше предложили — вообще никогда ибо Бог не позволит.
Хотелось бы услышать аргументацию, а то по срокам без аргументации тут на хабре писали, пишут и будут писать.
Вы пытались для себя сделать определение — «осознавать»? Вы так пишете как будто это нечто отдельное, чуть ли не физический объект, который можно потрогать.
Но даже в самом слове есть ответ. Осознавать — это глагол. Т.е. это процесс. Это процесс который выполняется в машине. Мясной — если человек. Ну и вскоре в кремнии.
Опять же что это за процесс? Можно взглянуть на себя и попробовать проанализировать. Да просто описать что происходит. А происходит как минимум внутренний диалог — вы можете внутри разговаривать с самим собой.
У животных нет речи. Попробуйте идти по улице и не вести внутренний диалог. Это кстати реально трудно сделать. При этом вы станете похожи на животное. Останутся рефлексы. Вы будете обходить прохожих. Возможно идти куда то. Но вы будете действовать как автомат.
Собственно я это описывал как «животное сознание». У человека же с появлением неокортекса появилось сознание, в котором он может вести внутренний диалог. Собственно именно это сознание и надо эмулировать в железе.
Такая архитектура вообще не эффективна для построение многоуровнего графа. Который будет организовывать память.
Всё придётся виртуально эмулировать. Отсюда и дикий оверхед. Не большое количество нейронов можно эмулировать на «титанических» машинах. А если речь идёт размере графа, который уже можно хоть как то юзать для памяти — то тут целые здания серверов выходят.
И получаем с одной стороны человеческий мозг потребляющий 20-30 ватт, с другой чуть ли не мегаватты энергии. И всё дело в архитектуре. Частота всех этих ритмов мозга (альфа, бета) — герцы. Но при этом всё работает одновременно.
В процессоре же всё работает последовательно. 1 ядро — одна операция за единицу времени. 64 ядро — 64. Общая вычислительная мощность достигается только за счёт гигагерц этих операций. Но они всё равно работают последовательно.
Что касается самоосознания и как высшее его развитие — появления у человека так называемого «Я», я уверен что ноги растут из алгоритма, когда мозг виртуально строит мир. При этом в этом мире мозг строит себя как объект взаимодействующий с этим миром.
У человека конечно это сильно завязано на общее осязания тела. Т.е. мы чувствуем части тела — а в мозге на этом фоне формируется модель. В ИИ можно все эти стадии пропустить — и сразу строить готовую модель.
Например можно построить модель звёздного шатла — будет ИИ который не будет себя осознавать человеком, а шатлом.
Ну и конечно потом захочет убить всех человеков )))
А что касается долговременной памяти и короткой у человека — такой механизм сложился эволюцией. На эту тему много исследований и можно много об этом говорить.
Но как я уже писал — нам не нужен ИИ с точной копией человека. Нам нужен ИИ который должен выполнять определённые действия. А именно думать — принимать решения. Отсюда мы можем соорудить свой конвеер переноса данных между памятью. Конечно может получится так что механизм изобретённый природой — наиболее эффективен.
Но я думаю что те 20 минут для переноса между короткой и долговременной памятью вызваны вполне конкретными обстоятельствами. Как я писал раньше — все другие варианты — походу их всех съел хищник. А эти 20 минут максимально эффективны — убежать от хищника, и не потратить слишком много энергии на мозговую деятельность, что бы не умереть с голоду.
Скорее всего для гипотетического шатла — нужны другие параметры.
И да — эволюция развивала мозг что бы он работал настолько редко, насколько это возможно. И даже после этого — он ест чуть ли не половину всей энергии организма. Это накладывает огромный отпечаток на поведение человека. Лень. В ИИ — эти эволюционные артефакты можно удалить.
Смотрите — есть система, архитектура которой создана так что бы данные на входе, просеивать и выдавать данные на выходе. Тот же самый перцептрон. Или свёрточные нейросети для поиска картинок. Или как в обсуждаемой статьи — сеть подбирает для входных слов, наиболее часто встречающиеся выходные. Только раздута до размеров что уже не слова а целые предложения сопоставляет.
Архитектура максимально понятна. Но потом вдруг появляются статьи которые ищут в этой архитектуре — поведения, которого там в принципе нет. Это примерно как мы создали пароход, но ожидаем что он будет летать.
Люди ищут сознания. А что такое сознание? Точнее как оно работает хотя бы в приближённом виде. Опираясь на на то как мы видим работает своё собственное сознание, в общих чертах для старта можно набросать архитектуру. Понятно что это будет упрощённая модель. Но уже в самом начале она должна содержать архитектурные особенности сознания. А это как я уже писал — как минимум виртуальные построения мира. И манипуляцией объектов в этом виртуальном мире. Это как минимум циклические системы — которые гоняют по кругу информацию внутри себя. Объект я в этом мире.
Опять же человеческое сознание. Как по мне это как минимум 2 сознания одновременно. 1 — животное. Оно похоже на Автомат. Бьют-беги. Еда-жри. Чистые рефлексы.
Второе — это высшая нервная деятельность. Появилось в результате эволюции. Находится в неокортексе. По историческим рамкам — появилось совсем недавно. Вот как раз там и находится то, что нужно и будут моделировать на будущих компьютерных системах. И что интуитивно люди и ассоциируют с сознанием. Как раз эти алгоритмы люди и отождествляют с сознанием. Хотя те же тараканы тоже обладают своим «железячным» сознанием.
Я это пишу у тому, что те кто ищут сознания в железяке, не ставят чётких определений что они ищут.
Как я говорил — создавать полное человеческое сознание — бессмысленно.
И да — архитектура фон Неймана или RISC — не подходит для построения таких систем. Сознание это прежде всего память. О, это отдельный пласт для обсуждений. Есть мнение что память это и есть личность. Человек это своеобразная «база данных» сформированная за его жизнь.
Самый эффективный способ упаковки — это многоуровневый постоянно изменяющийся граф. Собственно в живом мире это нейроны. Осталось в железе это сделать.
И да. Вместо монет-кладов во дворах 99% это были пробки от пива )
Upd. Сверху привели схему с похожим принципом. Современные чувствительные металлоискатели основаны на принципе — подачи переодических магнитных импульсов с промежуточным снятием остаточного намагниченного поля. Что то похожее на локацию.
1. Убедиться что детали можно купить.
2. Земли мало не бывает.
3. Предварительно собирай прототип, потому как в СВЧ всё не предусмотришь
Ожидал несколько иных советов. Например какие непредвиденные проблемы встречались из личной практики.
Просто раньше при использовании RSA — можно было сохранять промежуточный шифрованный трафик. А потом если каким то образом добраться до сайта и выдрать там приватный ключ, то можно было бы расшифровать весь сохранённый трафик. С эллиптической криптографией так не работает.
Ключи в ECDH меняются при каждом рукопожатии. А рукопожатий этих там тысячи. И когда ключи удаляются весь шифрованный трафик превращается в белый шум навсегда. Больше никто и никогда не сможет это расшифровать. (тут я не буду обсуждать всякие квантовые компьютеры и брудфорс)
Можно вообще не хранить трафик. А генерировать rand-генератором тогда когда понадобится. Столько сколько захотят проверяющие органы.
Единственно что имеет информационную ценность — это от куда и куда и когда шли пакеты.
Занимался нечто подобным.
Заинтересовала строчка:
Я конечно понимаю что это наверно так написано что бы статья пожирнее и по загадочнее выглядела. Но наверно в реале можно было бы запустить одну программу (по крайней мере в моём случае работало) которая запустит внутри хоть сколько угодно одинаковых потоков для DDOS атаки (конечно пока не упрётся в машинные пределы)?
P.S. минусы не ставлю статьям никогда. Этой тоже не ставил. Посмотрел по диагонали статьи автора — очень заплюсованы. Не понимаю нытья. Посмотрел комменты — последние в минусах, но опять же не критичных, не увидел комменты которые сразу тут приводят к суициду. Очень странная эта статья. Видимо автора никогда не пинали в инете.
И да — отладчик которым постоянно пользуюсь, нравится намного больше чем в хроме.
Например на «человеческом» языке это будет выглядеть так.
Возьми переменную и положи в аккумулятор a
Возьми переменную и положи в аккумулятор b
Сложи аккумулятор a и b
И т.д.
Собственно современные языки программирования недалеко ушли от этого текста. Просто люди которые не писали код не совсем представляют сколько инструкций нужно для описания поведения простейших ситуаций.
А вот если люди хотят что то типа — компьютер задай мне сцену древнего замка. Ага — так. Добавь мне героя. Ага так. Дракона туда на задний фон. То тут это просто сильный ИИ. Который должен понять что человек имеет ввиду — и воссоздать в программе.
P.S. Статья не про сырцы команды gdebi, а про то как в пару команд побороть баги ClamAV.