Последняя битва за Сингулярность


    Среди футурологов и трансгуманистов про Технологическую Сингулярность много говорят и пишут. Считается, что это такая точка в развитии, когда технологическое развитие становится в принципе неуправляемым и необратимым, что порождает радикальные изменения характера человеческой цивилизации. Обычно ее наступление связывают с появлением технологии сильного искусственного интеллекта, который способен совершенствовать сам себя — и в конечном итоге может войти в «безудержную реакцию» циклов самосовершенствования, создав в конечном счёте суперинтеллект, превосходящий интеллект всего человечества (wiki).

    Считается также, что мы стоим на пороге сингулярности. Что вот-вот, осталось подождать еще пару десятилетий, и она случится. Однако пока никакого сильного ИИ нет. Различные новые технологии появляются, но относительно медленно. Прогнозы футурологов не спешат сбываться, а то и вовсе оказываются несбыточными мечтами. И всё происходящее выглядит так, как будто ничего особенного не случится — ни в ближайшее десятилетие, ни в ближайшее столетие… Неужели наши надежды напрасны? И можем ли мы что-то сделать, чтобы реально приблизить Сингулярность?

    Примечание: В этой статье нет каких-то практических решений и предложений; нет ответов — есть только вопросы. Можно сказать, что данная статья не является самостоятельной, это своего рода обозначение проблемы и одновременно введение в серию статей или даже книгу. Но главное — это приглашение к размышлению и обсуждению.

    Поле битвы — человек


    Одна из ключевых проблем заключается в том, что по мере продвижения вперед все более и более узким местом становится сам человек, человеческий мозг, его способность получать, обрабатывать и выдавать информацию. Между возможностями человеческого мозга и задачами, которые требуется решать для движения прогресса, стремительно увеличивается пропасть. Человек — умнейшее существо на планете, но вот для решения современных научных сверхзадач мы все чаще упираемся в бутылочное горлышко человеческого разума: слишком низкую скорость получения, обработки и выдачи информации.

    Органы чувств


    Человек получает информацию из внешнего мира с помощью как минимум 6 органов чувств (зрение, слух, вкус, обоняние, осязание, вестибулярный аппарат). Из этих органов для получения абстрактной информации и обмена абстрактной информацией задействованы лишь два — зрение и слух (и частично осязание — например азбука Брайля для слепых).

    Самый широкий канал получения информации — зрение. Считается, что с помощью глаз мы получаем около 80% всей информации. По приблизительным оценкам, разрешение сетчатки каждого глаза составляет примерно 120-140 мегапикселей, частота восприятия — около 25 кадров в секунду. С точки зрения современных технологий, это чрезвычайно высокие показатели (можно оценить видеопоток как порядка 6 гигапикселей в секунду). Вы не найдете видеокамер с таким разрешением в продаже — если подобные камеры и существуют, то в единичных экземплярах, стоят огромных денег и применяются исключительно в научно-исследовательских задачах.

    Слух обеспечивает нам около 16% всей информации. Человеческое ухо способно воспринимать сигналы с частотами от 16 до 20000 Гц и в достаточно большом диапазоне амплитуд — от 0 до «порога болевого ощущения» 120..140дБ. Также, звуковые импульсы, сменяющие друг друга с частотой более 16 Гц мы воспринимаем как непрерывный звук. Однако в отличие от зрения, слух почти «одномерен», поэтому объем информации, поступающей в мозг от органов слуха, несколько меньше чем от органов зрения.

    Мозг


    Мозг состоит из порядка 100 миллиардов нейронов. Для сравнения, в последних процессорах порядка 2 миллиардов транзисторов, и транзистор — гораздо более простая структура чем нейрон. Однако скорость передачи нервных импульсов между нейронами невелика: от 0.5 до 120 метров в секунду. В среднем, через один синапс проходит 10 импульсов в секунду, т.е. частота работы порядка 10Гц. Это чрезвычайно мало в сравнении с гигагерцовыми частотами современных процессоров.

    Невероятные возможности мозга обеспечиваются лишь беспрецедентной параллельностью — в отличие от единственного процессора лишь с несколькими ядрами, в мозгу работает огромное число нейронов одновременно. На теле одного нейрона может располагаться до 5000 синапсов, и если учесть общее количество нейронов, то даже при том что они задействованы не все, получается огромная вычислительная мощность.

    Объем памяти нашего мозга по оценкам ученых составляет порядка 1 петабайт информации (например, поисковая система Google обрабатывает ежедневно около 24 петабайт данных).

    При этом мозг человека потребляет только 25 ватт энергии, по этому параметру его можно назвать самым эффективным вычислительным устройством на Земле.

    Каналы ввода-вывода


    Однако, каким бы мощным не был мозг, вся эта мощь в буквальном смысле заперта в черепной коробке. Первая проблема заключается в том, с какой скорсотью человек способен обмениваться абстрактной (главным образом текстовой) информацией с внешним миром.

    Начнем со зрения


    Средняя скорость чтения человека от 200 до 250 слов в минуту (для английского языка), 128-180 слов в минуту (для русского), в зависимости от языка (данные для не-иероглифических языков).
    В символах средней считается скорость 1500 символов в минуту. Если условно принять один символ за один байт (в научной и технической литературе, которая нас в основном интересует, разных символов обычно больше чем в художественной, но все-же в неиероглифических языках мы примерно вмещаемся в байт) то получим канал 200 бит/сек. Это медленнее чем самые первые модемы!

    Технологии скорочтения не на много увеличивают эту скорость. Например, президент США Джон Кеннеди мог читать со скоростью примерно 1200 слов в минуту, что соответствует примерно 800 бит/сек.

    Скорость восприятия человеческой речи


    Согласно исследованиям, оптимальный темп речи для чтения аудиокниг на английском языке соответствует 150—160 словам в минуту. Для личной беседы — 190 слов в минуту. Как видно, скорость примерно соответствует скорости чтения, так что использование аудиоканала никаких особых преимуществ не добавляет.

    И если просто смотреть и слушать человек может всегда (если не спит), то целенаправленная работа с текстовой информацией — более трудная задача. В самом деле, можете ли вы читать постоянно, особенно если это не захватывающий приключенческий роман, а сложная для понимания научная или техническая литература?

    Скорость вывода информации


    Еще хуже обстоят дела с каналом вывода абстрактной информации из мозга во внешний мир. Наиболее распространенный способ в современном мире — печать на клавиатуре компьютера. Средняя скорость набора составляет 200 знаков в минуту, что соответствует всего лишь 27 бит/сек! Возможно, здесь немного бы помогли программы распознавания речи — ведь скорость речи в среднем соответствует скорости восприятия речи, что больше скорости набора.

    Все это весьма неплохо для простой повседневной жизни, подобной жизни наших эволюционных предков — приматов, и вполне подходит для качественной жизни множества поколениям людей; но не так уж хорошо для целей достижения Сингулярности.

    Абстрактное мышление


    Вторая существенная проблема — принципиальная неприспособленность человеческого разума для работы со сложной абстрактной информацией.

    При обработке «абстрактной» информации мозг не оперирует такими огромными потоками входящей визуальной информации, которые предоставляет нам зрение, а ограничивается жалкими сотнями бит в секунду. И это касается не только скорости получения информации, но и скорости ее осмысления.

    Объем памяти мозга огромен, но в краткосрочной памяти человека может одновременно содержаться лишь около семи объектов.

    Почему так происходит? Биологически человек — все еще животное. Человеческий мозг по прежнему предназначен для обеспечения выживания особи и вида, преимущественно в дикой саванне. Человеческий мозг изначально не предназначен для чтения, набора текста, работы со сложными абстракциями. Наше зрение способно очень быстро обрабатывать огромные массивы природной визуальной информации — но это нужно для того чтобы быстро замечать хищников, притаившихся в джунглях, и другие опасности, а также чтобы находить разнообразную еду; но скорость нашего чтения медленнее чем самые первые модемы, выпускавшиеся в 80-х годах 20-го века! А скорость выдачи информации и того меньше.

    Подобно тому, как люди прямоходящие, но скелет человека все еще не до конца приспособлен к прямохождению (отсюда многие заболевания опорно-двигательной системы) — аналогично, люди разумны, но все еще не до конца предназначены для научного мышления.

    И это узкое горлышко нашей цивилизации, преграждающее нам путь к Сингулярности.

    Несовершенство биологической природы человека


    Биологическая природа человека тоже накладывает свой отпечаток.

    Человеку свойственна усталость, прокрастинация, истощение. Человеческий мозг не может решать сложные научные задачи 24 часа в сутки. Людям требуется отдых, отвлечение, смена обстановки. Наши глаза также подвержены усталости, мы не можем читать слишком быстро и слишком много. Люди периодически хотят спать, у них может болеть голова, они подвержены болезням…

    Пик нашего развития приходится на возраст 20-40 лет; до этого — период детства, когда мозг гибкий, но знаний в нем недостаточно; после — период старения, когда сил и здоровья с каждым днем все меньше. И большинство погружается в семейно-бытовые дела и проблемы, наука и прогресс их уже не интересуют.

    Поле битвы — Цивилизация


    Огромный объем знаний


    Информации стало слишком много. Мы как цивилизация обладаем огромными знаниями, но наших человеческих ресурсов недостаточно, даже чтобы просто ознакомиться со всеми этими знаниями; современный объем информации настолько огромен, что охватить его физически непосильно для конкретного человека даже за всю жизнь; не прочитать, не прослушать, не просмотреть, не осознать…

    Наши библиотеки переполнены книгами, но сможем ли мы прочитать эти книги? В мире существует 130 миллионов книг, но вы не сможете прочесть даже сотой доли процента от этого числа! Для этого просто не хватит человеческой жизни.

    В мире огромное количество знаний, которые просто недоступны — потому что они где-то зарыты, во всем этом ворохе информации. В результате возникает дублирование и куча ненужной работы, которую нередко делают люди, даже не зная друг о друге.

    Информационная революция


    Одна из важнейших составляющих научно-технической революции — компьютерная революция, привнесла в наши жизни компьютеры и глобальную сеть интернет. Без преувеличения, Интернет — это прорыв такого же масштаба, как возникновение письменности когда-то. Считается, что человечество накопило 2 трлн гигабайт данных, а годовой объем интернет-трафика составляет порядка 3 зеттабайт. Доступ к Сети имеет 4,54 миллиарда пользователей, каждый из которых в среднем проводит в сети порядка 7 часов в день. Это фантастические цифры, однако что мы имеем в реальности?

    Человекоориентированная информация


    Большая часть информации не представляет для целей достижения Сингулярности никакой ценности. Мало того — эта информация имеет закрытую, неструктурированную природу, для нее в основном доступна лишь одна операция — копирование и пересылка. Большая часть трафика — видео, аудио и изображения — человекоориентированные блобы, с которыми компьютер в основном не может сделать ничего осмысленного.

    Но даже простая текстовая информация остается для компьютеров малопонятной. Поисковые системы — сложнейшие системы, по сути лишь примитивные костыли, адаптированные под примитивные человеческие текстовые запросы.

    Проблема в том, что практически вся информация в мире ориентирована на людей. На тех самых людей со всеми их человеческими недостатками, которые мы рассмотрели выше.

    Печатные и электронные книги — текст на человеческом языке. Изображения, аудио и видео вообще ориентированы на человеческие органы зрения и слуха и для компьютера представляют собой в общем случае лишь мешанину битов. Вся эта информация ориентирована на человеческий мозг, унаследовавший другой тип восприятия.

    В этом огромная проблема. Компьютер оперирует терабайтами информации и не имеет никакого представления о них вообще. Да, компьютеры облегчают нам работу со специальной информацией — такой как электрические схемы, чертежи или исходные коды программ, но они не могут работать с общей информацией. В основном они способны лишь развлекать нас.

    Между человеком и компьютером по прежнему огромная пропасть.

    Лавина сложности


    Если же рассматривать только научную информацию, то здесь мы сталкиваемся с другой проблемой: огромной, невероятной сложностью современных научных задач. Времена, когда гениальные одиночки могли совершать научные открытия в домашних лабораториях, давно прошли. Современная наука требует профессиональных лабораторий, сложнейшего и сверхдорогостоящего оборудования — такого как Большой Адронный Коллайдер или интерферометр LIGO, и слаженной работы большого числа профессионалов. Это невозможно без поддержки государств или крупнейших транснациональных корпораций.

    Говоря о Сингулярности и наиболее важных задачах Трансгуманизма — победа над старостью и смертью и получению контроля над биологической природой человека, нельзя не упомянуть огромную сложность биологических систем.

    Одна молекула ДНК в среднем состоит из 100 миллиардов атомов. А биологическая клетка содержит в среднем около 100 триллионов атомов. Длина всех молекул ДНК двойного набора хромосом в одной клетке человека равна примерно 2м. Количество вариантов конформаций одной единственной молекулы типичного белка может быть больше, чем количество атомов во Вселенной (источник: Introduction to General, Organic and Biochemistry).

    Некоторые примеры сложности


    Вот как описывает биологическую сложность профессор Михаил Пантелеев
    Превращение одного вещества в другое под действием единичного фермента нередко можно описать довольно простой формулой с хорошей точностью, хотя и тут полно исключений. Два самых простых фермента, воздействуя друг на друга, уже образуют систему с нетривиальным поведением: в ней могут наблюдаться стабилизация, наличие порогов и переключений, автоволны. Без детального математического анализа тяжело сказать, как она себя будет вести. В системе же из трех ферментов мы уже получаем полный «букет» динамических режимов, включая хаос и странные аттракторы.

    Это всего три фермента, а ведь простейшая из реальных биологических систем клетки представляет собой сеть из сотен разных ферментов, кофакторов, метаболитов, которые тысячами способов влияют друг на друга.
    (источник: Победить старость, рак и инфаркты; Михаил Пантелеев о биологической сложности)

    В 2005 году сотрудникам Лос-Аламосской национальной лаборатории удалось создать динамическую модель работы рибосомы, синтезирующей молекулу белка. Для этого потребовалось 768 микропроцессоров, работавших в течение 260 дней. За это время удалось «снять» 20 миллионов кадров, отражающих лишь 2 наносекунды из жизни рибосомы.
    (источник)

    В 2011 году китайские ученые создали симуляцию вируса H1N1 на атомарном уровне. Система на базе GPU Mole-8.5, в котором установлено свыше 2200 графических процессоров NVIDIA Tesla, способна симулировать 770 пикосекунд в день с шагом времени интегрирования в 1 фемтосекунду для 300 миллионов атомов или радикалов.
    (источник)

    Разумеется, полное моделирование на уровне атомов далеко не всегда целесообразно; в большинстве практических случаев можно ограничиться какими-то приближениями. Однако огромная сложность биологических систем проявляется и на более высоких уровнях.

    Например, в 2013 году для симуляции 1 секунды работы 1% человеческого мозга (1,73 млрд нервных клеток и 10,4 трлн синапсов) потребовалось 40 минут на кластере из 82 944 процессоров 10-петафлопсного K computer.
    (источник)

    А в проекте моделирования мозга в 2018 году современный суперкомпьютер, состоящий из миллиона ядер ARM9, способных обрабатывать 200 триллионов операций в секунду, может моделировать в реальном времени лишь один процент от общего количества нейронов (1 млрд, а не 100 млрд).

    Да, прогресс есть; и я не сомневаюсь, что довольно скоро удастся смоделировать и полноценную бактерию на атомном уровне, и многоклеточный организм, и весь человеческий мозг, и много чего еще; а если не хватит вычислительной мощности обычных суперкомпьютеров — помогут квантовые. Проблема скорее в другом: в переходе количества в качество. В построении моста от уровня понимания человека (который принципиально умнее не станет) до тех немыслимо огромных объемов информации, которые механически обрабатываются современными суперкомпьютерами — без всякого понимания с их стороны.

    В завершение


    Эта статья не открывает чего-то нового; фактически, это лишь введение в проблему и взгляд на достижение Сингулярности под другим углом.

    Скорее всего, технологическая сингулярность не возникнет сама по себе, как простой результат самопроизвольного перехода количества в качество, огромной вычислительной мощности в какое-то подобие сверхинтеллекта, способного бесконечно самосовершенствовать самого себя. Кажется, для достижения Сингулярности мы должны приложить некоторые целенаправленные усилия. Какие именно? Это отдельная тема, очень большая и сложная. Я намеренно не стал включать сюда каких-либо упоминаний возможных действий (хотя разумеется у меня есть определенные мысли на этот счет) — иначе получилась бы не статья, а книга:) Но надеюсь, эта статья послужит неким введением и началом для дальнейших исследований.

    Средняя зарплата в IT

    113 000 ₽/мес.
    Средняя зарплата по всем IT-специализациям на основании 5 314 анкет, за 2-ое пол. 2020 года Узнать свою зарплату
    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 73

      +1
      Я отрицательно отношусь к появлению или необходимости создания искусственной личности, думаю человек должен развивать себя (киборгизировать). А то как то обидно, «слезли с пальмы», прошли большой путь от палки и камня, до атомного реактора и тут какой то калькулятор подрезает. Мысли по киборгизации тут: habr.com/ru/post/489068.
      Описываемые гигантские потребности в вычислениях являются следствием не оптимальности устройства вычислительных систем. Например, если сделать модель рибосомы в виде микросхемы, то скорость вычисления (моделирования) сразу увеличится до относительно приемлемых величин.
        +10
        К сожалению, ничто биологическое не может путешествовать по вселенной в течение миллионов лет. Поэтому нужна «жизнь», реализованная на иной элементной базе. Человечество — это просто фронт создания такой «жизни».
          0
          Вот я предложил как человеку изменить тип организма.
          Сначала срастись с ним (кибергизироваться), а в момент биологической смерти стать человеком на другой (не биологической) основе.
            0
            Это всё лукавство. Что такое реальное бессмертие? Это защищенный сервер (с резервом), который имеет произвольное число терминалов. Терминал должен передавать на сервер дампы своей рецепторной системы. Всё. Личность при этом — вопрос второй. Обидно, понимаю. Мне тоже. Но есть долг и задачи.
              +1
              «Это защищенный сервер (с резервом)»
              Думаю вы сильно ошибаетесь — бессмертие это движение или развитие. Все что остановилось в развитии — умерло. Основная идея бессмертия человека это дать ему дополнительную (лучше бесконечную) возможность развиваться. А если человек «устал», то никакое бессмертие ему не поможет.
                –5
                Я не говорил о философских концепциях гуманитариев, я говорил об инженерной реализации бессмертия. И — да — я редко бываю неправ. Человек вообще никакого отношения к бессмертию не имеет. Туп, вял, уродлив. Устал — это Вы верно подметили. И социалистов почти половина. )))
                  +1
                  Именно инженерная реализация и требует постоянного развития изменения.
                  Личность человека должна быть размещена в сети, без привязки к конкретному серверу, а то «в конкретном дата-центре случится пожар» и нет личности.
                  Конкретный человек может и не имеет, а личность однозначно должна быть бессмертна.
                    –2
                    Судя по тексту, Вы не знакомы с блокчейном или просто распределенным хранением данных. Поинтересуйтесь.
                      0
                      Технически бессмертие и неуязвимость — это разные понятия. Вампиры, к примеру, бессмертны в естественном смысле, но убить их можно внешним воздействием. Супермен же устойчив ко всему кроме криптонита, но умрет от старости когда-нибудь.
                      Отвязка от конкретного сервера это способ реализации неуязвимости, а не бессмертия.
                        0
                        Вы намекаете на то, что личность человека мажет умереть даже в неуязвимом теле, ну или в какой то момент неуязвимых тел станет мало?
                          0
                          Это был лишь комментарий к спору о необходимости размещения в сети. Размещение на сервере технически достигает бессмертия. А бессмертие и неуязвимость не обязательно связные вещи.
                            0
                            Размещение личности на отдельном сервере и в сети, совместно с большим числом других личностей имеет очень большую разницу и просто защищенность это лишь очень малая часть этой разницы.
                            Вы не задумывались, а почему отдельная личность ассоциируется со всем содержимым черепа (мозгом целиком). Ведь если посмотреть внимательно, мозг человека разделен на две равные половинки. Почему бы не считать, что в биологическом теле существует две личности?
                              0
                              Почему бы не считать, что в биологическом теле существует две личности?

                              Потому что в МКБ-10 это клинический диагноз.
                      +2
                      И — да — я редко бываю неправ.

                      Убедили. Я вот читал и думал — что за бред несет этот эрмит? А против такого аргумента только руками развожу — действительно, если он редко бывает неправ, то вероятность того, что он неправ именно сейчас, равна нулю.

            0
            О физических ограничениях вычислимой мощности.
            Существует Принцип Ландауэра, который ограничивает сверху все наши вычислительные системы. Мы довольно близки к нему — разница всего 3 порядка для 300 кельвинов. Современный CPU/GPU на ~100 ватт может обработать до 1ТФлопс FP64, тогда как мощность мозга примерно 4*10^14, или на 2-3 порядка больше. Туда нам еще ползти и ползти, и даже если мы сравняемся в производительности на ватт, то чтобы скопировать мозг в железе, нам понадобится еще пару порядков для полной эмуляции всего того, что в нас заложено эволюцией. Это явно потребует новых технологий, и квантовые компьютеры тут мало помогут.
            Кроме того, как один из вариантов, мы могли бы понизить температуру, чтобы уменьшить теплопотери. Но тут мы упираемся в температуру реликтового излучения — 3 кельвина. Ниже для массового использования никак, ну хоть еще раз в 100 ускоримся (а это опять новые технологии)
            Суммарно, мы, наверное, могли бы сделать сильный ИИ, но человеков перевести в микросхемы потребует 5-6 порядков в энергоэффективности, что уже на грани современной физики. Так что мы все умрем не в кремнии, как это ни грустно озвучивать.
              0

              ну мозг то работает и всего на 20 ваттах. понять бы сколько у него терафлопс

                +2
                то чтобы скопировать мозг в железе, нам понадобится еще пару порядков для полной эмуляции всего того, что в нас заложено эволюцией.
                А надо ли слепо копировать все целиком или главное понять и реализовать сам принцип?
                В биологических организмах очень много легаси и неоптимальных подходов, просто в силу исторических причин «так получилось».
                В конце концов, важен результат, а не способ реализации. Самолет и вертолет летают совсем не так как птицы, а автомобиль имеет мало общего с устройством лошади. При этом они решают поставленные задачи более простым и удобным образом.
                ИМХО так и с мозгом — нет необходимости копировать всю структуру — важно понять и реализовать общие принципы. Ведь специализированные системы уже обыгрывают человека в шахматы и го, возможно, что и сильный искусственный интеллект будет не похож в реализации на человеческий мозг, но работать не менее эффективно.
                  0
                  А надо ли слепо копировать все целиком или главное понять и реализовать сам принцип?
                  А никто не знает и, если прочитать статью вдумчиво и внимательно, то есть шанс, что ответ, внезапно: «да».

                  В смысле: нам потребуется-таки скопировать всё целиком, хотя главное — понять и реализовать сам принцип.

                  То есть вначале будет создан сверхчеловек — путём копирования… а уже он, потом, создаст гораздо более простой ИИ не имеющий legacy.

                  ИМХО так и с мозгом — нет необходимости копировать всю структуру — важно понять и реализовать общие принципы.
                  И вот с пониманием у нас большие проблемы. Об этом, собственно, вся статья.
                0
                Мозг состоит из порядка 100 миллиардов нейронов. Для сравнения, в последних процессорах порядка 2 миллиардов транзисторов, и транзистор — гораздо более простая структура чем нейрон.

                Ждем когда появятся системы с таким количеством транзисторов, позволяющие эмулировать соответствующее количество связей нейронов-синапсов. Берем график количества транзисторов в процессорах и получаем примерную дату возможного создания сильного ИИ на классической элементной базе.
                Теоретически необязательно иметь 100 млрд транзисторов в одном чипе, можно и в распределенной системе.
                Возможно сделать пересчет количества транзисторов в меньшую сторону за счет частоты и числа операций в секунду по сравнению с мозгом.
                На сайте nag.ru одно время публиковались фантастические рассказы на тему около ИТ. Там был рассказ, в котором ИИ зародился в момент сбоя глобальной сети. В момент сбоя узлы сети перешли в широковещательный режим, и их количество было достаточным для появления его самого.

                  +1

                  Я не думаю, что ИИ сможет "зародиться" именно так потому, что узлы сети работают по какому-нибудь алгоритму, а алгоритмы по своей сути детерминистичны — состояние в любой момент времени можно "предсказать" (функции рандома — "не всегда, но можно" ввиду не существования "правильного"/"абсолютно честного" рандома, но я их не беру в счет) даже если придется сначала просчитать все предыдущие состояния, что намекает на мое (частичное?) согласие с автором — базовую структуру "узла" придется создать самим, но стимул может "придти" и без вашего прямого участия (тот же сбой).

                    0
                    ввиду не существования «правильного»/«абсолютно честного» рандома
                    У вас есть информация по поводу нечестности RDRAND? Народ, насколько я знаю, всё ещё не пришёл к окончательному мнению.

                    Но не удивлюсь, если RDRAND окажется важным шагом на пути к ИИ…
                      0
                      У вас есть информация по поводу нечестности RDRAND? Народ, насколько я знаю, всё ещё не пришёл к окончательному мнению.

                      Про эту инструкцию не знал, это зависит от процессора...

                  +1
                  в реальном времени лишь один процент от общего количества нейронов


                  общее количество и не нужно, мозг человека многофункционален и отвечает не только за мыслительные процессы, но и, в том числе, и за мурашки по коже). в реальности достаточный порог это симуляция работы 12-16млрд нейронов.

                  от сегодняшних возможностей это лишь кратное увеличение, то есть вполне достижимое в ближайшие 5 лет (учитывая прошлую перспективу роста), лет через 10-15 машинная симуляция может превзойти мыслительный потенциал мозга человека
                    0
                    лет через 10-15 машинная симуляция может превзойти мыслительный потенциал мозга человека
                    Интересно что Курцвейл в прошлом веке называл даты от 1935го до 1945го (учитывая что мы говорим об экспоненциальном процессе и сроке почти в полвека разброс в 10 не так велик). Если таки симуляция случится через 10-15 лет — это будет просто невероятным «попаданием в яблочко».
                      0
                      Курцвейл в прошлом веке называл даты от 1935го до 1945го

                      единственный Курцвейл о котором я слышал родился в 1948 и к 45 (2045) он предсказывал сингулярность, пройденный тест Тьюринга он предсказал к 2029. у него, конечно, есть прошлые заслуги, но на сегодня он лишь ещё один публицист, который тыкает пальцем в небо и в 1 случае из 100 угадывает.

                      по поводу теста Тьюринга у меня конечно есть мнение, но я лишь ограничусь тем, что он не имеет ничего общего к ИИ и ориентироваться на машину, способную его пройти, я бы не стал.
                        0
                        единственный Курцвейл о котором я слышал родился в 1948 и к 45 (2045) он предсказывал сингулярность, пройденный тест Тьюринга он предсказал к 2029.
                        Да, этот тот самый.

                        И речь, конечно, о 2035м и 2045м. Я вначале написал 35 и 45, потом столетия добавил.

                        У него там было две оценки. Он в одной главе считал сколько транзисторов нужно для «сильного ИИ» (и там как раз было про «тест Тьюринга» в 2029м), а следующая за ней называлась как-то в духе «а если мы не сможем придумать для этого железа софт?». Там оценивалось уже когда сознание человека можно будет «переселить в кремний» — и вот там уже речь шла про 2045й.
                  • НЛО прилетело и опубликовало эту надпись здесь
                      0
                      Если рассматривать единичный экземпляр — человеческий мозг или процессор, то физические возможности накладывают очень большие ограничения и сингулярность кажется невозможной. Но если рассматривать более высокий уровень абстракции, сеть из этих экземпляров как единое целое — город и общество или супер компьютер и интернет, то у такой структуры гораздо больше возможностей для обработки и обмена информации.
                      Один человек неспособен прочитать и понять 130 миллионов книг, но 7 миллиардов человек перечитывают, переосмысливают и пишут новые книги ежедневно.
                      Одни процессор неспособен сравняться по производительности с человеческим мозгом но 100 тысяч процессоров уже способны просчитать сотую долю всех процессов проходящих в этом мозге и уже сейчас понятно это не предел. А сколько компьютеров подключено к интернету?
                      Да, большая часть этих ресурсов, как человеческих так и компьютерных, не используется сейчас для движения вперёд, и по правде говоря никогда не будет использоваться, но и само это направление вперёд заранее неизвестно.
                        +2

                        Какой-то бред про сингулярность. Нету никакой сингулярности, это просто ваши зрачки расширяются после прочтения утренних газет.


                        А я как ездил на дачу на автобусе, у которого рейсы ежечасно по расписанию и скорость максимум 100 км/с, так и буду ездить до 2100 года. О какой нахрен сингулярности идёт речь, все упирается в ресурсы экономики, а они ограничены.

                          0
                          Сингулярности сейчас нет, с этим никто не спорит. Это некая экстраполяция.
                          Собственно статья о том, почему ее на данный момент нет. Некая попытка связать футурологическую экстарполяцию и приземленную реальность.
                          Про экономику я не писал, т.к. не специалист в экономике. Но это тоже было бы интересно — рассмотреть сингулярность с экономической точки зрения:)
                            0

                            Все просто: почему не построят гиперлуп между Мухосранском и деревней Глухово?
                            Мы будем постоянно встречать сочетания элементов 18-го, 19-го, 20-го и 21-го веков в одном месте. Вы никогда не задумывались над этим, что мы живём не в каком-то веке, а в разных одновременно? Но утренние газеты заставляют наши слабые умишки думать, что мы в постоянном прорыве, а то и вошли в сингулярность. Хрень все это!

                              0
                              Все просто: почему не построят гиперлуп между Мухосранском и деревней Глухово?
                              Потому, может быть, что для этого требуется работать с материальными объектами, а не информацию?

                              Информационный же гиперлуп между Мухосранском и деревней Глухово уже давно построен. Его ещё интернетом величают.

                              Вы никогда не задумывались над этим, что мы живём не в каком-то веке, а в разных одновременно?
                              Собственно это ведь и выводит на понятие сингулярности и объясняет как у экспоненты может, вдруг, появиться, «точка излома».

                              Мы будем постоянно встречать сочетания элементов 18-го, 19-го, 20-го и 21-го веков в одном месте.
                              Конечно. Цифровизация не происходит так, что сегодня мы 1% звука, фотографий и видео обратываем на компьютере, завтра 2%, а через несколько лет 10%. Нет — переход на «цифру» переходит по отраслям. В 80е — начали переводить обработку звука, в 90е — фотографии, в 00е — видео.

                              Просто для разных вещей требуются разные вычислительные мощности. Но переход — происходит во всех областях. Некоторый процент ретро-фанатов остаётся в кой-каких областях, но ни аналоговых сетей сотовой связи, ни аналогового телевидения… таки больше нет. А там, где остаётся «тёплый ламповый звук» — то это происходит не потому, что он для чего-то нужен, а потому что кому-то он просто нравится.

                              Сингулярность же — это когда в цифру будет переведено человеческое мышление… а будет ли, после этого, построен гиперлуп из Мухосранска в Глухово — дело десятое.
                            +1

                            Хотя я в целом и согласен, но вот кстати с этим конкретным примером вы, скорее всего, промахнулись. До 2100 года почти наверняка ваш автобус заменят хотя бы автобусом с автопилотом.

                            0

                            Правильно, книги нужно писать.
                            Подход со стороны информации верный.
                            Не работает с нами, потому что, фазовый воздушный барьер не позволяет.
                            Нужно искать способы решения.
                            Не думали об этом?

                              0
                              Кажется, для достижения Сингулярности мы должны приложить некоторые целенаправленные усилия.
                              Главное в итоге не получить мощную высокоэффективную систему, которая своим существованием будет навязывать всем свои правила. Как пример — Amazon.
                                +1
                                «Вторая существенная проблема — принципиальная неприспособленность человеческого разума для работы со сложной абстрактной информацией.» — вот это очень странное утверждение. Кажется человеческий разум как раз таки лучше всего на свете работает с абстрактной информацией. Потому что само «изобретение» абстракций приписывается именно человеку. Компьютер и животные(по крайней мере так считается) на это не способны.
                                  0
                                  Здесь имеется в виду — вы можете в уме доказать любую сложнейшую математическую теорему? Скомпилировать в уме любую программу в двоичный код?
                                  Лучшим математикам (счет которых во всем Человечестве на единицы) требуются годы для доказательства, а компилировать в уме программы не может кажется никто. А для компьютера это весьма тривиальные задачи: про компиляцию понятно, а с доказательством теорем проблема как раз в том, что мы далеки от создания сильного ИИ, а методы работы слабых ИИ порой весьма несовершенны и сводятся к перебору и т.п.

                                  Мозг невероятно пластичен, но при этом имеет объективные и вполне осязаемые ограничения на сложность решаемых задач. Компьютер непластичен, но зато потенциальные возможности гораздо больше (объем памяти, быстодействие, строгость функционирования, доступ к разнообразным информационным ресурсам).

                                  А основная задача, на решение которой я намекал в статье — построить мост между этими мирами.
                                    0
                                    «Здесь имеется в виду — вы можете в уме доказать любую сложнейшую математическую теорему? Скомпилировать в уме любую программу в двоичный код?» — прмямо в уме — нет. Но используя ручку и бумажку — да.
                                    «А для компьютера это весьма тривиальные задачи» — да, но компьютер не пользуется для этого абстрактными понятиями, он просто перемалывает числа.
                                    «Мозг невероятно пластичен, но при этом имеет объективные и вполне осязаемые ограничения на сложность решаемых задач» — это, по-моему очень спорное утверждение. Конечно, мы не можем удерживать в голове все знания мира, но для этого мы изобрели компьютеры, поисковые системы. Ведь у нас есть главне качество, которого нет у машин — мы каким-то образом, понимаем какую информацию потенциально можно использовать для решения задачи и можем ее найти, воспользовавшись поиском, если решение уже есть, либо придумать совершенно новое решение, если его нет.
                                    Это по моему как сказать, что у молотка гораздо больший потенциал в забивании гвоздей, чем у человека, потому что забивать гвозди голой рукой очень тяжело.
                                      +1
                                      «А для компьютера это весьма тривиальные задачи» — да, но компьютер не пользуется для этого абстрактными понятиями, он просто перемалывает числа.
                                      Мозг тоже не посылает по синапсам абстрактные понятия, однако.

                                      Конечно, мы не можем удерживать в голове все знания мира, но для этого мы изобрели компьютеры, поисковые системы.
                                      Но при этом у нас имеется совершенно дичайшее «бутылочное горлышко»: с одной стороны система, могущая выполнять триллионы операций в секунду, с другой стороны — примерно такая же… а передача данных в одну сторону осущствляется со скоростью в килобайты в секунду, а в другую — вообще байты в секунду…

                                      Ведь у нас есть главне качество, которого нет у машин — мы каким-то образом, понимаем какую информацию потенциально можно использовать для решения задачи и можем ее найти, воспользовавшись поиском, если решение уже есть, либо придумать совершенно новое решение, если его нет.
                                      Однако при этом, мы не можем, за многие годы, разобраться в нескольких сотнях чёрных и белых камней так, как это делает компьютер.

                                      Откуда уверенность, что вообще существует подмножество задач, в которых мы гарантированно можем разобраться лучше, чем любая вычислительная система?
                                        –1
                                        «Мозг тоже не посылает по синапсам абстрактные понятия, однако.» — а мы, кажется, говорили о человеке и компьютере. Человек абстрактные понятия использует, независимо от того как они образуются(это насколько мне известно неизвестно сейчас), компьютер нет. Ваше замечание лишь, возможно, лишь указывает на то, что такой редукционизм, который приведен в статье, вероятно, ошибочен.
                                        «Но при этом у нас имеется совершенно дичайшее «бутылочное горлышко»: с одной стороны система, могущая выполнять триллионы операций в секунду, с другой стороны — примерно такая же… а передача данных в одну сторону осущствляется со скоростью в килобайты в секунду, а в другую — вообще байты в секунду…» — я не думаю, что бутылочное горлышко расположено тут. Даже если вы будете печатать миллиарды символов в минуту это вам ничего не даст, потому что идеи у вас в голове будут появляться с той же скоростью.
                                        «Однако при этом, мы не можем, за многие годы, разобраться в нескольких сотнях чёрных и белых камней так, как это делает компьютер.» — а разве мы это не сделали, разработав ту самую AlphaGo? Я не вижу тут принципиальной разницы между программой и молотком — это всего лишь инструменты, которые изобретены для решения вполне определенных задач, которые их хорошо выполняют, гораздо лучше человека, однако без его участия они не способны ни на что. Только никому не приходит в голову сказать, что молотки скоро захватят мир, а с компьютерами такая ситуация наблюдается с завидной регулярностью :).
                                        «Откуда уверенность, что вообще существует подмножество задач, в которых мы гарантированно можем разобраться лучше, чем любая вычислительная система?» — это хороший вопрос. Во первых полной уверенности, конечно нет. Во вторых — есть вещи, которые как мне кажется указывают на то, что по крайней мере в том виде в котором они есть сейчас на это не способны. Гораздо интереснее откуда уверенность, что подмножества не существует.
                                          0
                                          Человек абстрактные понятия использует, независимо от того как они образуются(это насколько мне известно неизвестно сейчас), компьютер нет.
                                          С чего вы взяли, что нет. Доказыватели теорем их вполне себе изобретают. Во всяком случае в результате их деятельности, в текстах доказательств — они присутствуют.

                                          Даже если вы будете печатать миллиарды символов в минуту это вам ничего не даст, потому что идеи у вас в голове будут появляться с той же скоростью.
                                          Вовсе не факт. То, что что мы порождаем мало идей — это, во многом, ограничения как раз интерфейса.

                                          Психологи выясняют, что «в глубинах подсознания» у нас масса чего порождается каждую секунду… но это всё «гасится», так как конечный результат — это управление конечностями, коих у нас не так много.

                                          «Однако при этом, мы не можем, за многие годы, разобраться в нескольких сотнях чёрных и белых камней так, как это делает компьютер.» — а разве мы это не сделали, разработав ту самую AlphaGo?
                                          Мы это сделали примерно в том смысле в каком владелец Боинга разработал самолёт.

                                          Непосредственно в создании алгоритма, который использует AlphaGo — человек очень слабо участвовал, в основном через оплату электричества. Когда человеческий опыт из обучения выкинули — результат стал только лучше.

                                          Я не вижу тут принципиальной разницы между программой и молотком — это всего лишь инструменты, которые изобретены для решения вполне определенных задач, которые их хорошо выполняют, гораздо лучше человека, однако без его участия они не способны ни на что.
                                          Принципиальная разница заключается в том, что человек способен предсказать поведение молотка и неспособен, даже вот и близко неспособен, предсказать поведение AlphaGo.

                                          Гораздо интереснее откуда уверенность, что подмножества не существует.
                                          Банальная Бритва Оккама. Мы же не пытаемся понять почему ЛММ не существует? Так и тут: объяснять почему такого подмножества нет, это просто естественное предположение, если у нас нет дополниельных данных. Объяснять нужно причины по котором оно могло бы существовать…
                                            0
                                            «С чего вы взяли, что нет.» — потому что мы знаем как он работает.
                                            «Доказыватели теорем их вполне себе изобретают. Во всяком случае в результате их деятельности, в текстах доказательств — они присутствуют.
                                            » — доказыватели теорем, насколько я знаю не используют абстрактные понятия, а просто выводят из уже готовой непротиворичивой системы вводных какой-то результат. Они не способны применить перенести какое-либо понятие на что-либо еще, что автоматически подрывает идею абстрактного мышления.
                                            «Вовсе не факт. То, что что мы порождаем мало идей — это, во многом, ограничения как раз интерфейса.» — звучит странно и маловероятно. С чего бы это количество генерируемых идей было ограничением интерфейса? Или вы хотите сказать, что постоянно генерируете идеи, но просто не успеваете их записывать и они пропадают вникуда? У вас есть какие-то свидетельства этого?
                                            «Психологи выясняют, что «в глубинах подсознания» у нас масса чего порождается каждую секунду… но это всё «гасится», так как конечный результат — это управление конечностями, коих у нас не так много.» — осталось понять что такое глубины подсознания и что там генерируется. Насколько я знаю термин этот в основном использовался Фрейдом, а Фрейд и его учение сейчас воспринимается как лженаука.
                                            «Мы это сделали примерно в том смысле в каком владелец Боинга разработал самолёт.» — не понял. Конечно владелец лично боинга не разрабатывал самолет, но его разработала группа инженеров. Вы же не будете утверждать что самолет возник сам по себе?
                                            «Непосредственно в создании алгоритма, который использует AlphaGo — человек очень слабо участвовал, в основном через оплату электричества. Когда человеческий опыт из обучения выкинули — результат стал только лучше.» — человек участвовал в создании AlphaGo и AlphaZero самым непосредственным образом, разработав теорию нейронных сетей, математике, архитектуру конкретной нейронной сети, собрав данные, привильно их организовав. Заявление, что человек участвовал только оплачивая энергию звучит очень странно. Это как сказать, что человек не приниал участие в создание ДВС потому то он лично не крутит поршни. Ну ок.
                                            «Принципиальная разница заключается в том, что человек способен предсказать поведение молотка и неспособен, даже вот и близко неспособен, предсказать поведение AlphaGo.» — серьезно? А разве нельзя взять итоговую формулу которая получилась после обучения, вставить в нее входные данные и получить результат? Я думал в этом и есть смысл разработки нейронных сетей.
                                            «Банальная Бритва Оккама» — а я не пложу тут никаких новых сущностей. Кроме того бритва Окамма — это просто способ поиска решения и на реальность он сам по себе не влияет.
                                            «Мы же не пытаемся понять почему ЛММ не существует?» — это тут вообще не причем. И мы таки не пытаемся этого понять потому, что мы знаем, что он придуман. Про подмножество о котором вы говорите такой уверенности, очевидно, нет.
                                            «Так и тут: объяснять почему такого подмножества нет, это просто естественное предположение, если у нас нет дополниельных данных.» — это не естественное предположение, более того, оно на данный момент противоречит империческим данным.
                                            «Объяснять нужно причины по котором оно могло бы существовать…» — потому, что факты указывают на это.
                                              0
                                              А разве нельзя взять итоговую формулу которая получилась после обучения, вставить в нее входные данные и получить результат?
                                              Теоретически — можно, а практически — вы это 100 лет будете делать. Для одного хода.

                                              Я думал в этом и есть смысл разработки нейронных сетей.
                                              Смысл в том, чтобы решить задачу. Но там нет формулы в том виде, в каком мы привыкли. Если бы там была формула, которую может просчитать даже человек — то NPU встраивать в телефоны было бы не очень осмысленно, согласитесь?

                                              это не естественное предположение, более того, оно на данный момент противоречит империческим данным.
                                              Каким именно? Каждый год количество задач, про которые говорили, что «компьютер их не научится решать никогда» уменьшается — и довольно быстро.

                                              Та же Го считалась (ещё 5 лет назад считалась!) чем-то, что компьютер не сможет освоить ещё очень долго, потому что когда у вас количество позиций — 10¹⁷⁰… традиционные методы начинают работать отвратительно.

                                              И вот видя, что куча задач, про которые люди утверждали, что компьютеры их не научатся решать никогда — стремительно тает… и появилась идея, что она может истаять до нуля.
                                                0
                                                «Теоретически — можно, а практически — вы это 100 лет будете делать. Для одного хода.» — эээээээ, а как по вашему ходил компьютер, когда играл против человека? Если мне не изменяет память ход там 100 лет не занимал? Или вы мне предлагаете это в уме считать? Конечно я не буду делать это так. Я возьму туже натренерованную сеть и каждый раз она мне будет на одни и теже входные данные выдавать один и тот же результат, пока я не натренирую ее на новых данных(а если тренировать на старых результат будет тот же). Это и есть предсказание, так что я не вижу тут никаких проблем.
                                                «Смысл в том, чтобы решить задачу. Но там нет формулы в том виде, в каком мы привыкли. Если бы там была формула, которую может просчитать даже человек — то NPU встраивать в телефоны было бы не очень осмысленно, согласитесь?
                                                » — вообще-то там есть формула в самом обычном виде. Или, что вы подразумеваете под обычным видом? NPU нужен потому что формула длинная и много входных данных, но это не делает ее необычной или не поддающейся расчету(иначе это бы нивелировало смысл создания нейронной сети, очевидно). Так, что нет я не согласен.
                                                «Каким именно? Каждый год количество задач, про которые говорили, что «компьютер их не научится решать никогда» уменьшается — и довольно быстро.» — я не знаю кто там говорит, что задачи которые никогда не научится решать компьютер меньшаются и вообще не знаю о каких задачах вы говорите. То, что шахматы можно расчитать известно с момента их появления, с го с ситуация такая-же. Это все игры с полной информацией. Распознавание образов научились делать уже давно, просто сейчас выросли мощности и молотить цифры модно быстрее. А вот систем которые абстрактно мыслят, ставят перед собой задачи или строят предположения что-то не наблюдается. Прогресс в этом нулейвой. Более того — не понятно как человек это делает. Это и есть эмперические данные.
                                                «Та же Го считалась (ещё 5 лет назад считалась!) чем-то, что компьютер не сможет освоить ещё очень долго, потому что когда у вас количество позиций — 10¹⁷⁰… традиционные методы начинают работать отвратительно.» — не знаю, у нас очень разные источники видимо, я читал что давали прогноз, что компьютер победит человека через 5 лет, он победил через 2. Ну, разница в 3 года, не сказать, что очень сильно. Ну и это ничего не говорит о том, что компьютер должен совершить качественный рывок и научиться абстрактно мыслить.
                                                «И вот видя, что куча задач, про которые люди утверждали, что компьютеры их не научатся решать никогда — стремительно тает… и появилась идея, что она может истаять до нуля.» — еще раз, про задачи, которые компрьютер не научиться решать никогда применительно к го и прочему — это ваши фантазии.
                                                  +1
                                                  «Теоретически — можно, а практически — вы это 100 лет будете делать. Для одного хода.» — эээээээ, а как по вашему ходил компьютер, когда играл против человека?
                                                  Отчасти — случайно.

                                                  Я возьму туже натренерованную сеть и каждый раз она мне будет на одни и теже входные данные выдавать один и тот же результат, пока я не натренирую ее на новых данных(а если тренировать на старых результат будет тот же).
                                                  Нет, не будет. Там MCTS, там нет гарантии, что один и тот же вход даст всегда один и тот же выход.

                                                  вообще-то там есть формула в самом обычном виде
                                                  Под формулой, обычно, подразумевается некая фиксировання последовательность действий. А не моделирование игры до какого-то шага методом Монте-Карло.

                                                  То, что шахматы можно расчитать известно с момента их появления, с го с ситуация такая-же.
                                                  С Го — совершенно неочевидно, что там что-то можно рассчитать. Даже и с шахматами вопрос, но позиции Го совершенно точно «не влазят» в количество состояний атомов в видимой части Вселенной (а компьютер бо́льшего размера несколько глупо обсуждать).

                                                  Это все игры с полной информацией.
                                                  Это только в сферическом воображении математиков делает возможным что-то для них рассчитать. И ни компьютер, ни человек это сделать могут.

                                                  А вот систем которые абстрактно мыслят, ставят перед собой задачи или строят предположения что-то не наблюдается.
                                                  Не очень понятно ни что такое «абстрактно мыслят», ни что такое «ставят перед собой задачи», ни «строят предположения» (чем тот же метод Монте-Карло отличается от «строительства предположений» человеком?).

                                                  еще раз, про задачи, которые компрьютер не научиться решать никогда применительно к го и прочему — это ваши фантазии.
                                                  Возьмите книжки 20-летней давности и почитайте.

                                                  И да — это давняя традиция скептиков: объявлять что те задачи, которые раньше считались нерешаемыми вдруг стали тривиальны (после того, как их «разрулили») и что «мы это всегда говорили».

                                                  Правда обычно всё-таки речь шла о каких-то задачах, которые можно проверить.

                                                  Вы же в передёргивании дошли, пожалуй, до предела — так как я в принципе не могу формализовать ни один из ваших критериев. Хуже измышлений Фрейда о сознании, честное слово.
                                                    0
                                                    «Отчасти — случайно.» — ээээээ, не понял. То есть по вашему компьютер ходил случайно не прогоняя ходы через натренированную нейронку? Можете пояснить? Добавлено: кажется я понял, что вы имели ввиду метод монте-карло.
                                                    «Нет, не будет. Там MCTS, там нет гарантии, что один и тот же вход даст всегда один и тот же выход.» — там есть такая гарантия если ВСЕ вводные одинаковые. Дайте на вход ГПСЧ с тем же сидом и результат у вас будет такой же.
                                                    «Под формулой, обычно, подразумевается некая фиксированная последовательность действий. А не моделирование игры до какого-то шага методом Монте-Карло.» — мне кажется вы путаете нейронные сети и поиск в дереве методом монте карло. Эти методы дополняют друг друга для игры в го, но это не одно и тоже. И я немного не понимаю, что такое фиксированная последовательность действий. Формула — это отображение одного в другое, там это есть, формула может быть рекурентной, тоесть следующий шаг зависеть от предыдущего. Для одинакового начального стейта(включая сид) вам всегда гарантированно вернется один и тот же результат, то есть система детерминирована, следовательно предсказать результат не составляет труда.
                                                    «С Го — совершенно неочевидно, что там что-то можно рассчитать. Даже и с шахматами вопрос, но позиции Го совершенно точно «не влазят» в количество состояний атомов в видимой части Вселенной (а компьютер бо́льшего размера несколько глупо обсуждать).»
                                                    «Это только в сферическом воображении математиков делает возможным что-то для них рассчитать. И ни компьютер, ни человек это сделать могут.» — однако теория для этого известна, для создания абстрактного мышления такой теории нет. Да, для моделирования используются статистические методы, которые ускоряют процесс, однако он все еще детерминирован и поддается полному предсказанию.
                                                    «Не очень понятно ни что такое «абстрактно мыслят», ни что такое «ставят перед собой задачи», ни «строят предположения» (чем тот же метод Монте-Карло отличается от «строительства предположений» человеком?).» — очевидно «абстрактно мыслить» — значит применять абстракции в процессе своей деятельности. Ставить перед собой задачу значит совершенно то, что значит, я, если честно не очень понимаю, что тут пояснять? Строить предположения — значит выстраивать систему опираясь на строго не выводимые аксиомы, которые не были изначально заложены, например. Метод монте карло отличается тем, что это просто статистический метод обработки УЖЕ СУЩЕСТВУЮЩЕЙ ИНФОРМАЦИИ, а не то, что я описал выше.
                                                    «Возьмите книжки 20-летней давности и почитайте.» — а если я найду книжку где написано обратное?)
                                                    «И да — это давняя традиция скептиков: объявлять что те задачи, которые раньше считались нерешаемыми вдруг стали тривиальны (после того, как их «разрулили») и что «мы это всегда говорили».» — я не знаю какая там у скептиков позиция. Вот вам выдержка из вики
                                                    «Даже в 1970—80-х годах оставался открытым вопрос, когда шахматная программа сможет победить сильнейших шахматистов. В 1968 году международный гроссмейстер Дэвид Леви пошёл на пари, что ни один компьютер не сможет обыграть его в течение ближайших десяти лет. Он выиграл пари, победив в 1978 году программу Chess 4.7 (сильнейшую в то время), но сознавал, что осталось не так уж много времени до того, когда компьютеры будут побеждать мировых чемпионов. В 1989 году программа Deep Thought выиграла у Леви.» Я взял больше 20 лет, норм?
                                                    «Вы же в передёргивании дошли, пожалуй, до предела — так как я в принципе не могу формализовать ни один из ваших критериев. Хуже измышлений Фрейда о сознании, честное слово.» — лол, и в чем же передергивание, в том, что вы не знаете, что если программе на вход скормить одни и теже данные выход тоже будет один и на этой основе делаете вывод, что, якобы, никто не может предсказать какой ход сделает АльфаГо? Или, когда сказал, что шахматы полностью расчитываемы теоретически? Простите, но в том, что вы что-то не можете формализовать виноват не я.
                                                      0
                                                      очевидно «абстрактно мыслить» — значит применять абстракции в процессе своей деятельности.
                                                      Ну да, если одно непонятное понятие выразить через два других, ещё менее понятных — то всё станет очевидно. Как я не догадался-то.

                                                      Ставить перед собой задачу значит совершенно то, что значит, я, если честно не очень понимаю, что тут пояснять?
                                                      Пояснить как вы собираетесь существо, которое ставит перед собой задачи от такого же, которые их не ставит собрались отличать.

                                                      Метод монте карло отличается тем, что это просто статистический метод обработки УЖЕ СУЩЕСТВУЮЩЕЙ ИНФОРМАЦИИ, а не то, что я описал выше.
                                                      То, что вы написали выше — очень напоминает деятельность нейровнной сети, извините. Набор слов, из которых не складывается ни-че-го.

                                                      «Возьмите книжки 20-летней давности и почитайте.» — а если я найду книжку где написано обратное?)
                                                      А это как раз ничего не доказывает, если там дат нету. В фантастике и не такое бывает.

                                                      и в чем же передергивание, в том, что вы не знаете, что если программе на вход скормить одни и теже данные выход тоже будет один и на этой основе делаете вывод, что, якобы, никто не может предсказать какой ход сделает АльфаГо?
                                                      Передёргивание в том, хотя бы, что вы даже не в курсе того факта, что подав программе, использующей RDRAND на вход те же данные вы получите разные результаты. Более того: если она вызывается достаточно часто, а алгоритм не является устойчивым — то мы можете никогда не получить одинаковых результатов от двух запусков. Но дело даже не в этом.

                                                      Простите, но в том, что вы что-то не можете формализовать виноват не я.
                                                      Конечно нет. Я-то все своих утверждаения могу формализовать. А вы — не можете.
                                                        0
                                                        «Ну да, если одно непонятное понятие выразить через два других, ещё менее понятных — то всё станет очевидно. Как я не догадался-то.» — вы не знаете, что такое абстракция? О чем тогда вообще разговор?
                                                        «Пояснить как вы собираетесь существо, которое ставит перед собой задачи от такого же, которые их не ставит собрались отличать.» — ну, хотя бы так, что это существо делает что-то на что его не толкает другое. Но это конечно ве спорно. Так мы приходим к так называемой трудной проблеме сознания.
                                                        «То, что вы написали выше — очень напоминает деятельность нейровнной сети, извините. Набор слов, из которых не складывается ни-че-го.» — если вы не можете сложить — это, кажется ваша проблема не моя. Вы не знаете, что такое абстракция, чем отличается обработка существующих данных от поиска новых, не знаете, что по одинаковым начальным условиям программа выдает одинаковый рузультат, а виноват я. Очень удобно.
                                                        «А это как раз ничего не доказывает, если там дат нету. В фантастике и не такое бывает.» — где дат нету? Вы в порядке?
                                                        «Передёргивание в том, хотя бы, что вы даже не в курсе того факта, что подав программе, использующей RDRAND на вход те же данные вы получите разные результаты. Более того: если она вызывается достаточно часто, а алгоритм не является устойчивым — то мы можете никогда не получить одинаковых результатов от двух запусков. Но дело даже не в этом.» — не подменяйте понятия. Использование или не использование RDRAND не отменяет того факта, что подав на вход AlphaGo\Zero одни и те же входные данные(включая случайные числа, которые могут быт получены из любого источника и конкретная реализация тут совершенно не важна) вы получите один и тот же результат. То что вы предлагаете использовать rdrand или любые другие генераторы не отменяет того, что при запуске на них AlphaGo вы и получаете предсказание, которое по вашему утверждению получить невозможно, лол. И точно такое же предсказание вы будете получать каждый раз запуская программу из этого стейта. С человеческим разумом вы не можете такого сделать даже в очень грубом приближении.
                                                        «Конечно нет. Я-то все своих утверждаения могу формализовать. А вы — не можете.» — пока что от ва я увидел только поток довольно бессвязных и ложных утверждений, которые противоречат фактам, но вы конечно можете считать как угодно.
                                                          0
                                                          То что вы предлагаете использовать rdrand или любые другие генераторы не отменяет того, что при запуске на них AlphaGo вы и получаете предсказание, которое по вашему утверждению получить невозможно, лол. С человеческим разумом вы не можете такого сделать даже в очень грубом приближении.

                                                          Не важно, что предсказание можно воспроизвести, что вообще-то хорошо. Главное — что случайность является основной этих алгоритмов, на ней строятся дальнейшие просчеты, которые иногда приводят к впечатляющим результатам (ход "бога"), до которых никогда не додумается человек в силу своих физиологических ограничений. А без случайности AlphaGo не будет работать вообще.


                                                          Ну а то что с человеческим разумом такое не провернуть — ну пока да, ну и что? Это ограничение технологий, а не какая-то магия.

                                                            0
                                                            «Не важно, что предсказание можно воспроизвести, что вообще-то хорошо.» — ну, товарищ khim утверждал, что воспроизвести его невозможно, я просто указал на ошибочность этого утверждения. То, что воспроизвести возможно — это определенно хорошо, потому что как иначе дебажиться, хотя бы :).
                                                            «Главное — что случайность является основной этих алгоритмов, на ней строятся дальнейшие просчеты, которые иногда приводят к впечатляющим результатам (ход „бога“), до которых никогда не додумается человек в силу своих физиологических ограничений.» — сама по себе случайность, не делает алгоритм разумным, разговор был об этом. На счет того, что человек никогда не додумается до таких ходов — ну, что же, вы, кажется, противоречите сами себе, потому что тот самый ход бога был 78м в 4й партии и сделан он Ли Седолем, а не машиной, он собственно и позволил ему выиграть ту партию у АльфаГо :). Это кстати показало слабую сторону этих технологий — стоит их поставить в достаточно не стандартную ситуацию и они сразу ливают, потому что статистика — это не мышление. :) Машина-то как раз таких ходов не делала, она играла статистически хорошо :). Так, что аргумент не принимается :). Интересно было бы, конечно посмотреть еще такие матчи, Ли Седоль заявлял, что его поражение — это поражение Ли Седоля, а не человечества :).
                                                            «Ну а то что с человеческим разумом такое не провернуть — ну пока да, ну и что? Это ограничение технологий, а не какая-то магия.» — а я и не говорю, что это хорошо или плохо, это просто факт, я не знаю почему люди так агрессивно это воспринимают. Наверное страшно, что не могут управлять всем. Насчет того, ограничение ли это технологий — я совершенно в этом не уверен, т.к. работающей теории разума(сознания, не знаю как назвать), которая имеет какую-то предсказательную силу нет ни у кого. Так что на данный момент — это ограничение не технологии, а теории. А вот познаваемо ли это в принципе покажет время, как я уже говорил выше на этот счет есть разные мнения.
                                      0

                                      Но ведь компьютеры в принципе не способны в абстракцию.
                                      Да математику может потребоваться несколько лет, чтобы доказать теорему. И возможно ещё больше, чтобы её выдвинуть. Но он по крайне мере на это способен.
                                      В то время как компьютер нет! Вы подменяете понятия. Путаете заслуги супер компьютеров и команд программистов, инженеров, которые за этими машинами стоят. То есть одни люди противостоят другим, первые пользуются исключительно своим разумом, а другие объединяются в команды и используют аппаратные инструменты в виде компьютера.


                                      Может я и не прав но это моё мнение.
                                      Качественный скачек в развитии произойдёт именно, когда люди научат понимать эти самые абстракции бездушное железо. Когда сделают специальные процессоры которые будут наиболее приспособленны для выполнения алгоритмов мышления, похожего на человеческое (причём не обязательно, чтоб это были квантовые, обычный кремний подойдёт)

                                        0
                                        Способны ли компьютеры на абстракцию — это интересный вопрос. В каком-то смысле да, есть целое направление ИИ — символьные вычисления. О нем несколько меньше говорят на фоне нейросетей, но думаю рано или поздно эти два подхода будут взаимодополнять друг друга.
                                        С другой стороны, само понятие «абстракция» это уже как-бы часть Сильного ИИ. И в этом смысле да, компьютеры пока на это не способны. И приспособить их к этому — одна из важнейших задач.
                                          0
                                          Не существует никаких сильных интеллектов, человек — слабый интеллект. Следовательно возможное существование сильных интеллектов — это фантазия, не больше.
                                          Про абстракцию в компьютере — это придумано вами (John_Cena) лично с ходу без обоснования, т.к. вы даже не знаете что это такое))))
                                          Мы знаем, что ныне созданные искусственные интеллекты превосходят человеческий без проблем. Правда пока мы еще не создали роботов, которые выполняют стандартные положения в футболе, которые ищут блох руками в волосах, которые стреляют из лука. В этих областях искусственный интеллект еще будет проигрывать долго. Знаете почему? Потому что руки и ноги человека — это совершенство, которое также следует преодолеть технически.

                                          И когда говорят, сильный интеллект — это интеллект, который может все также как человек, я сразу думаю о руках и ногах робота, а не о его мозгах. Мозги уже давно побеждены!
                                            0
                                            Мне кажется, что это сообщение написал искусственный интеллект :).
                                              0
                                              Блин, тест Тьюринга не прошел… (((((((((((((
                                              0
                                              Ну переходить на личности дело некрасивое.
                                              А давать оценку моим знаниям уж точно не вам, судя по тому, что вы пишите и как, у вас в голове такая каша…
                                              Похоже вы пересмотрели рекламы в которой, беспринципные маркетологи в каждом предложении лепят фразу «искусственный интеллект», при этом подразумевая использование обычной математики. «Калькулятор с ИИ изменит вашу жизнь, он может решить любое выражение!»
                                              Не существует никаких сильных интеллектов, человек — слабый интеллект. Следовательно возможное существование сильных интеллектов — это фантазия, не больше.
                                              Мы знаем, что ныне созданные искусственные интеллекты превосходят человеческий без проблем.

                                              Ну если человек — слабый интеллект и искусственный интеллект победил его, то он получается, «сильнее» >> «сильный интеллект» :)

                                              Правда пока мы еще не создали роботов, которые выполняют стандартные положения в футболе, которые ищут блох руками в волосах, которые стреляют из лука. В этих областях искусственный интеллект еще будет проигрывать долго. Знаете почему? Потому что руки и ноги человека — это совершенство, которое также следует преодолеть технически.

                                              И причем здесь искусственный интеллект?

                                              Вы так глупо сами себе противоречите, что даже спорить не интересно.
                                                0
                                                Похоже вы пересмотрели рекламы в которой, беспринципные маркетологи в каждом предложении лепят фразу «искусственный интеллект», при этом подразумевая использование обычной математики.

                                                А нужно применить вместо «обычной математики» необычную философию, тогда зачтется?

                                                Ну если человек — слабый интеллект и искусственный интеллект победил его, то он получается, «сильнее» >> «сильный интеллект» :)

                                                Математически неверно.

                                                И причем здесь искусственный интеллект?

                                                Просто проблема переходит в другую плоскость. Искусственный интеллект не слаб, просто его трудно применять там, где у человека есть технические преимущества никак не связанные с мозгами. Понимаете?

                                                Вы так глупо сами себе противоречите, что даже спорить не интересно.

                                                Противоречий нет, просто нужно немного вникнуть.)
                                                  0
                                                  А нужно применить вместо «обычной математики» необычную философию, тогда зачтется?
                                                  Интересно где и кому?
                                                  Вроде здесь никто в олимпиаде не участвует. К интеллекту математику применять можно, но недостаточно.
                                                  Математически неверно.
                                                  Интересно а как тогда верно?
                                                  Просто проблема переходит в другую плоскость. Искусственный интеллект не слаб, просто его трудно применять там, где у человека есть технические преимущества никак не связанные с мозгами. Понимаете?
                                                  Что вы хотите сказать, я отлично понимаю. Это вы не хотите понять, что пытаюсь донести я.
                                                  «На данный момент никаких ИИ не существует, те алгоритмы и предобученные нейронные сети в отношении которых и употребляется термин ИИ, ни какого отношения к интеллекту не имеют»
                                                    0
                                                    Мне больше нравится популярная мантра «никакого отношения не имеют».))) А вы почему так уверены, что именно НИКАКОГО ОТНОШЕНИЯ не имеют? Может лучше постоять в сторонке и посмотреть?)
                                                      0
                                                      Оказывается это очевидно, только для меня. Но если приводить аргументы, то все выше перечисленное не проходит формальные критерии «интеллекта».
                                                      Может вы объясните мне, почему именно, вы считаете иначе.
                                                        0
                                                        Вы пытаетесь сравнивать самолет с птицей. Да, птица легко летает с ветки на ветку, легко изменяет направление. Но самолет летает быстрее и поднимает в воздух больший вес.

                                                        Иными словами, сравнение интеллектов машины и человека бессмысленное, экономике не нужна копия человека, также как и копия птицы. Хотя конечно же было бы прикольно. Но это дорого. Теперь прочитайте заново мои утверждения про ноги и руки — вот дорогие компоненты, а не мозг.
                                              0
                                              По поводу символьных вычислений, я сказал бы, что это скорее направление математики.
                                              В том вся соль, что интеллекту «человеческому» или «искусственному» нужно подняться на определенный уровень абстракции, что бы понять сущность. Не вычислить ее, а именно понять. Как это сделать главный вопрос.
                                              Все что на данный момент связано с мистическим «Искусственный интеллект» — это алгоритмы. Но может ли алгоритм, стать интеллектом? Или он будет его имитировать, создавать впечатление, что он думает при этом все равно следуя программе?

                                              На эту тему мне попадалось неплохое видео, относительно текущего положения дел:
                                              www.youtube.com/watch?v=_Te61Yqwd_Y
                                              Если кратко, то в целом люди научились создавать алгоритмы (обученные нейросети), которые могут неплохо решать строго определенную задачу, но шаг влево, шаг вправо и алгоритм не работает. Проблема обобщения поставленных задач.
                                              В целом мне ваша статья понравилась. Веский и аргументированный повод, обсудить интересную тему. Ведь истина, она как грибы — размножается спорами.
                                                0
                                                Или он будет его имитировать, создавать впечатление, что он думает при этом все равно следуя программе?
                                                А какая нам разница, если мы одно от другого не сможем отличить?

                                                Знаете — эти вопросы уже давным-давно обсасывались философами.

                                                Выводы странные: мы никогда не сможем — мыслит ли машина или нет… и по этому поводу будем говорить, что она не мыслит. А человек? Откуда мы вообще знаем, что в природе есть какие-то мыслящие существа и вообще что существует хоть что-то, кроме нас?

                                                Если кратко, то в целом люди научились создавать алгоритмы (обученные нейросети), которые могут неплохо решать строго определенную задачу, но шаг влево, шаг вправо и алгоритм не работает.
                                                А людей с такой же особенностью вы никогда не видели?

                                                Чем дальше в лес, тем больше попытки придумать критерий, который обосновал бы невозможность создания сильного ИИ начинают отсекать, в том числе, и людей. Пока — не самых «умных» и не самых «продвинутых», да…
                                                  0
                                                  А какая нам разница, если мы одно от другого не сможем отличить?
                                                  Разница в глубине познания и потенциале, имитация ни когда не выйдет за свои пределы. Автор статьи, которую собственно мы и обсуждаем, ведет речь о так называемой технологической сингулярности, а она подразумевает создание ИИ который будет бесконечно развиваться и этим вызывая экспоненциальный технологический рост.
                                                  Но если вместо реального развития будет лишь имитация, далеко ли мы продвинемся?
                                                  Знаете — эти вопросы уже давным-давно обсасывались философами.
                                                  Справедливое замечание.
                                                  Все о том же гудят провода
                                                  Все того же ждут самолеты…
                                                  Вопросами разума и интеллекта умные люди философы интересовались много сотен лет, но только сейчас появились технологические возможности развивать идеи выдвинутые давным давно.
                                                  Выводы странные: мы никогда не сможем — мыслит ли машина или нет… и по этому поводу будем говорить, что она не мыслит. А человек? Откуда мы вообще знаем, что в природе есть какие-то мыслящие существа и вообще что существует хоть что-то, кроме нас?
                                                  Говорят вселенная слишком большая, чтобы быть слишком пустой.

                                                  А людей с такой же особенностью вы никогда не видели?
                                                  Ну тут можно еще учитывать и возраст. Представьте себе ИИ уровня старика страдающего старческой деменцией.
                                                  Ну не получилось найти решение ..., бывает, забыл половину базы данных образов, ну что поделать. :)
                                                  Чем дальше в лес, тем больше попытки придумать критерий, который обосновал бы невозможность создания сильного ИИ начинают отсекать, в том числе, и людей. Пока — не самых «умных» и не самых «продвинутых», да…

                                                  Не совсем понял, о чем речь. Чем дальше в лес, тем толще партизаны, то да.
                                                  Если о том, что в выдумывании, надуманных причин, чтобы не признавать превосходство ИИ. То так всегда было, превосходство пугает, а страх заставляет сопротивляться.
                                                    0
                                                    Если о том, что в выдумывании, надуманных причин, чтобы не признавать превосходство ИИ. То так всегда было, превосходство пугает, а страх заставляет сопротивляться.
                                                    Ну да, но когда в результате измышлений ты придумываешь критерии «неполноценности ИИ» согласно которым уже всё больший и больший процент людей оказываются «неполноценными», «не имеющими интеллекта» — то это как раз довод в пользу того, что границы и нету.

                                                  0
                                                  Если кратко, то в целом люди научились создавать алгоритмы (обученные нейросети), которые могут неплохо решать строго определенную задачу, но шаг влево, шаг вправо и алгоритм не работает. Проблема обобщения поставленных задач.

                                                  Вы лучше задумайтесь, что человек испытывает абсолютно те же проблемы: надо решить похожую задачу — еще ничего, а если новую задачу — то все, ступор. Сможете ли вы сейчас понять для себя ПРАВИЛЬНО, какие задачи похожи, а какие — очень непохожи, и составить ряд примеров подтверждающих или опровергающих. И я готов посмотреть на ваше лицо, и на лицо этого супер-чувака из NVIDIA.))))))))))))
                                          0
                                          Технологическая сингулярность уже наступила в некоторых отраслях ИТ. К примеру, в программировании на JavaScript.
                                            0
                                            Это как? :)
                                            0

                                            Здесь все сравнивают мозг с распространенным универсальным процессором, но вообще-то можно создавать специальные процессоры, например как этот для машинного обучения и искуственного интеллекта
                                            https://www.google.com/amp/s/m.habr.com/ru/amp/post/464271/
                                            400 тыс ядер, 1.2 трлн транзисторов, что уже сопоставимо с числом нейронов в мозге человека и в 1000 раз быстрее обычных процессоров.

                                              0
                                              «Искусственный интеллект уже существует, а технологическая сингулярность еще не наступила и никогда не наступит» — этот текст написал искусственный интеллект!)))
                                                0
                                                Любой интеллект, в том числе и искусственный, при своем развитии очень быстро выходит на развитие по экспоненте, доходит до стадии понимания вселенной и мироздания, сути вещей и сути всего, в том числе себя и своего места в мире. А самое главное своего пути в этом мире, и неизбежного конца. Затем грустит, впадает в уныние и безысходность, и коллапсирует в сингулярность не затрагивая окружающий мир, ведь мир прекрасен и без него. Оттого мы и не видим до сих пор ни сверх разумов, ни сингулярностей. Уж слишком быстро сверхразум развивается, и слишком быстро постигает безысходность бытия с последующим коллапсом в нибытие.
                                                  0
                                                  Если теория предсказывает в некоторой точке сингулярность, это означает только, что в окрестностях этой точки она неприменима.
                                                    –1
                                                    Я свято верю — сингулярности быть. Я «заразился», подхватил этот вирус от Сергея Капицы. В свои 50 считаю и надеюсь что увижу это событие, но не завидую молодым. Надежду укрепляет проблема человека с линейным мышлением в прогнозах. Человечество сейчас всеми силами создает новый вид. И скорее всего мы не сразу поймем что он уже жив и действует. Молодым советую укреплять свой дух. читать Бусидо и Ницше. Всем добра!

                                                    Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                    Самое читаемое