Один гигантский шаг для машины, играющей в шахматы

https://www.nytimes.com/2018/12/26/science/chess-artificial-intelligence.html
  • Translation

Невероятный успех AlphaZero, алгоритма с глубинным обучением, провозглашает новую эру мышления, которая может оказаться недолгой для человека




В начале декабря исследователи из компании DeepMind, занимающейся искусственным интеллектом и принадлежащей Alphabet Inc., родительской корпорации, также владеющей и Google, рассказали о происходящем на передних рубежах шахмат.

Годом ранее, 5 декабря 2017 года, команда поразила шахматный мир, объявив о своём алгоритме машинного обучения (МО) AlphaZero, который сумел овладеть не только обычными шахматами, но и японскими шахматами сёги и игрой го. Алгоритм начал работу без какого бы то ни было понятия об играх, кроме базовых правил. Затем он начал играть сам с собой несколько миллионов раз и учиться на своих ошибках. Всего за несколько часов алгоритм стал наилучшим игроком, как среди людей, так и компьютеров, из всех, что видел мир.

Детали достижений AlphaZero и его внутреннего устройства в данный момент проходят формальное рецензирование, после чего будут опубликованы в журнале Science. Новая работа отвечает на серьёзную критику оригинальных заявления. К примеру, было трудно сказать, по-настоящему ли честно ли играл AlphaZero со своим оппонентом, вычислительным монстром Stockfish. Но все эти сомнения были развеяны. За последние 12 месяцев AlphaZero не стал сильнее, зато стали убедительнее свидетельства его превосходства. Он явно представляет сорт разума, невиданный доселе людьми, над которым нам придётся размышлять ещё очень долго.

За последние 20 лет компьютерные шахматы прошли долгий путь. В 1997 году компьютерная шахматная программа от IBM, Deep Blue, сумела побить тогдашнего чемпиона мира среди людей, Гарри Каспарова, в матче из шести игр. Оглядываясь назад, можно сказать, что никакой загадки в этом достижении не было. Deep Blue могла оценивать 200 млн позиций в секунду. Она никогда не уставала, никогда не ошибалась и не забывала, о чём думала незадолго до этого.

Так или иначе, она играла как машина, брутально и материалистично. Она могла считать лучше Каспарова, но не могла думать лучше его. В первой игре их матча, Deep Blue предсказуемо приняла предложенный Каспаровым обмен ладьи на слона, но проиграла 16 ходов спустя. Сегодняшнее поколение сильнейших шахматных программ мира, к примеру, Stockfish и Komodo, играют не по-человечески. Они любят брать чужие фигуры. Они строят железную защиту. Но хотя они играют сильнее любого человека, у этих шахматных машин нет никакого понятия об игре. Их нужно обучать базовым принципам шахмат.

Эти принципы, оттачиваемые десятилетиями человеческого гроссмейстерского опыта, программируются в машину в виде сложных оценочных функций, отмечающих, чего нужно добиваться в позиции, и чего избегать: насколько нужно ценить безопасность короля, активность фигур, расстановку пешек, контроль над центром доски, и прочее, и как управлять компромиссами между этими вещами. Сегодняшние шахматные машины, которым чужды все эти принципы, ведут себя как грубые животные: они чрезвычайно быстры и сильны, но им не хватает мозгов.

Но всё это поменялось после появления МО. Играя сами с собой, и обновляя свои нейросети при обучении на опыте, AlphaZero сама обнаружила принципы шахмат и быстро стала наилучшим игроком. Она не только смогла бы легко обыграть мастеров среди людей, она разгромила Stockfish, чемпиона по шахматам среди компьютеров. В матче на сто игр против внушительной машины, AlphaZero выиграла 28 раз и 72 раза свела игру к ничьей, не проиграв ни одной.

А самое неприятное было в том, что AlphaZero демонстрировала мышление. Она играла непохоже ни на один компьютер, интуитивно и красиво, с романтическим атакующим стилем. Она играла гамбиты и рисковала. В некоторых играх она парализовала Stockfish и игралась с ней. Проводя атаку в 10-й игре, AlphaZero отступила ферзём в свой угол доски, подальше от короля Stockfish, ведя себя не так, как нужно делать при атаке на короля.

Однако это странное отступление оказалось токсичным. Как ни отвечала Stockfish, она была обречена. Было похоже на то, будто бы AlphaZero ждёт, пока Stockfish после миллиардов перебранных комбинаций догадается, насколько безнадёжна её позиция, расслабится и мирно сдастся как поверженный бык перед матадором. Гроссмейстеры никогда не видели ничего подобного. AlphaZero играла с изяществом виртуоза и мощью машины. Это было первое беглое знакомство с потрясающим новым типом интеллекта.


Гарри Каспаров, слева, играет против компьютера IBM Deep Blue в шестой и последней игре матча, прошедшего в Нью-Йорке в мае 1997 года. Фигуры за компьютер двигал Джозеф Хоан, инженер IBM.

Когда создатели впервые представили AlphaZero, некоторые наблюдатели жаловались, что у Stockfish отобрали возможность доступа к набору дебютов. На этот раз, даже со своим набором, она была разгромлена. И даже когда AlphaZero дала фору Stockfish в виде десятикратно увеличенного времени на расчёты, она всё равно её победила.

Впечатляет, что AlphaZero победила, думая не быстрее, а лучше; она изучала лишь 60 тысяч позиций в секунду, а не 60 млн, как Stockfish. Она была умнее, зная, о чём нужно думать, а что игнорировать. Самостоятельно раскрыв принципы шахмат, AlphaZero разработала стиль игры, «отражающий истину» игры, а не «приоритеты и предвзятость программистов», писал Каспаров в сопроводительном комментарии к статье в Science.

Теперь вопрос состоит в том, поможет ли МО людям раскрыть сходные истины по поводу вещей, действительно имеющих значение: великих нерешённых проблем науки и медицины, типа лекарства от рака или сознания; загадок иммунной системы, тайн генома.

Первые признаки вдохновляют. В августе две статьи в журнале Nature Medicine изучали вопрос применения МО к постановке медицинских диагнозов. В одной исследователи из DeepMind скооперировались с врачами из Глазного госпиталя Мурфилдс в Лондоне для разработки алгоритма с глубинным обучением, способного классифицировать широкий спектр патологий сетчатки не хуже экспертов-людей. В офтальмологии наблюдается серьёзный дефицит экспертов, способных интерпретировать миллионы диагностических снимков глаз, получаемые ежегодно; ИИ-ассистенты оказали бы неоценимую помощь.

В другой статье рассматривался алгоритм МО, распознающий наличие на снимках компьютерной томографии, сделанных у пациентов скорой, признаков инсульта, внутричерепного кровоизлияния или других неврологических проблем. Для жертв инсульта важна каждая минута; чем дольше задерживается лечение, тем хуже бывает результат. У неврологов даже есть поговорка: «Время – это мозг». Новый алгоритм отмечает эти и другие критические события с точностью, сравнимой с людьми-экспертами, однако работает в 150 раз быстрее. Скоростная диагностика позволит переводить наиболее срочные случаи вперёд очереди, после чего их уже может оценить человек-рентгенолог.

Раздражает в МО то, что алгоритмы не могут объяснить свои мысли. Мы не знаем, почему они работают, поэтому мы не знаем, можно ли им доверять. AlphaZero демонстрирует все признаки открытия важных принципов игры в шахматы, но не может поделиться этим пониманием с нами. По крайней мере, пока. Людям нужно нечто большее, чем ответы. Нам нужно понимание. С этого момента эта проблема будет источником напряжённости в нашем взаимодействии с компьютерами.

На самом деле, в математике это уже давно происходит. Рассмотрим давнюю математическую задачу под названием теорема о четырёх красках. Она утверждает, что при определённых разумных ограничениях, любую карту соприкасающихся стран можно раскрасить четырьмя красками так, чтобы у двух любых соседних стран были разные цвета.

Хотя теорему доказали в 1977 году при помощи компьютера, ни один человек не может проверить все шаги доказательства. С тех пор доказательство подтвердили и упростили, но в нём всё равно присутствуют части, требующие вычислений с полным перебором, таких, которыми пользовались предшественники AlphaZero, играющие в шахматы. Такое положение дел возмутило многих математиков. Им нужно было не убедиться в правильности теоремы; они уже верили в это. Им хотелось понять, почему она верна, и такое доказательство ничем не помогло.

Но представьте, что настанет день, возможно, уже совсем скоро, когда AlphaZero превратится в алгоритм более общего назначения; назовём его AlphaInfinity. Как и его предок, у него будет превосходящий разум: он сможет выдавать прекрасные доказательства, такие же элегантные, как и игры, проведённые AlphaZero против Stockfish. И каждое доказательство будет демонстрировать, почему теорема была верна; AlphaInfinity не будет насильно заставлять вас принимать какие-то уродливые и сложные доказательства.

Для математиков и учёных такой день отметил бы зарю новой эры мышления. Но она может быть недолгой. Чем быстрее будут становиться машины, обгоняя людей, чьи нейроны работают с черепашьей скоростью на миллисекундных масштабах, тем быстрее наступит день, когда мы уже не будем поспевать за ними. Рассвет мышления человека может быстро превратиться в закат.

Допустим, существуют некие закономерности, которые ещё предстоит открыть – в регулировании генов или развитии рака; в работе иммунной системы; в танце субатомных частиц. Допустим, эти закономерности может предсказать только интеллект, сильно превосходящий наш. Если бы AlphaInfinity могла бы определить и понять их, она показалась бы нам оракулом.

Мы сидели бы у её ног и внимательно слушали. Мы не понимали бы, почему оракул всегда прав, но мы могли бы проверить её вычисления и предсказания в экспериментах и наблюдениях и подтвердить её откровения. В науке, знаковом занятии людей, наша роль свелась бы к роли наблюдателей, взирающих на происходящие в изумлении и смятении.

Возможно, когда-нибудь наши недостатки мышления уже не будут нас беспокоить. Ведь AlphaInfinity смогла бы вылечить все болезни, решить все научные задачи и заставить все остальные интеллектуальные поезда ходить по расписанию. Мы неплохо справлялись без особых размышлений первые 300 000 лет нашего существования как Homo sapiens. У нас не будет проблем с памятью, мы с гордостью будем вспоминать золотую эру человеческого разума, эту славную интерлюдию, длившуюся несколько тысячелетий, между непонимающим прошлым и необъяснимым будущим.
Share post

Similar posts

Comments 284

    +4

    Осталось разработать "искусственное эго" — и все, человеки свою миссию выполнили, полноценный сверхразум создан, пора в компанию к динозаврам.

      +10
      зачем к динозаврам? вымирающие виды сейчас в заповедниках да зоопарках.
      Посмотрите например на панд: как их там кормят, поят, размножают и т.д.
        +4
        Это, кстати, пример нашего иррационального мышления. Панды не приносят никакой особой пользы ни нам, ни природе, они просто «ми-ми-ми» и на этом список их достоинств заканчивается. Не думаю что сверхинтеллект станет тратить ресурсы на подобные глупости.
          +12
          что такое польза природе? нет такого понятия
            +5

            Наверно имеется ввиду активное участие в пищевой цепочке отсутсвие в которой этого звена негативно сказывается на численность других видов.

              +15
              Природа существует миллиарды лет, пищевые цепочки менялись и меняются. «Польза природе» бессмысленное словосочетание
                +2
                Более того, вот специально не залезая в Википедию, просто предположу и наверняка не ошибусь, что панды как крупные «бамбукоядные» млекопитающие оставляют массу помёта, который удобряет почву и служит субстратом для бактерий, червей, лишайников, грибов, которые в свою очередь активно участвуют в экосистемах. Учите экологию.
                Кстати, прекрасно про экосвязи пишет юзер Milfgard
                +3
                негативно сказывается на численность других видов

                Которые в конечном счёте будут также бессмысленны.

                Впрочем, если развивать мысль, вся флора и фауна необходима для выживания (и комфортного существования) человека, а люди необходимы для поддержания функционирования ИИ. Соответственно — панды нужны ИИ, пока ИИ нужно человечество.
                  0
                  Если развивать эту мысль, то ИИ может выводить и содержать людей только для того, чтобы «посадить на горшок».

                  И панд тоже.
                +3
                что такое польза природе?
                «Что значит для неё* один увядший сад?»?
                В оригинале — «для него», потому, что там в тексте про весь мир, а не про природу.
                +1
                При таком подходе есть огромная опасность, что ИИ сформулирует задачу «конечная цель» и все силы и ресурсы направит на эту цель. А человечество по крайнем мере живет не только ради какой-то цели, но и просто чтобы жить. И те же панды и ми-ми-ми — это не цель, это времяпрепровождение (собственно, приятное времяпрепровождение является целью для человеков, но вряд ли станет понятно для компьютера — в том числе из-за существенной разницы в скорости мышления, то, что нам нравится смотреть/изучать часами и днями, компьютер посмотрит за микросекунды). Если же ИИ поставить цель вида «захват вселенной», то он сочтёт, что супербактерии или нанороботы, рассылаемые в межзвёздных ракетах, пригодны для этой цели существенно больше, чем человеки. Это лишь пример, повторюсь, опасность в том, чтобы ставить перед могучим ИИ какие-то абсолютные цели, потому как при том подходе, что описан в статье, ИИ может добиться результата очень радикальным для человечества способом, но предельно эффективным с точки зрения расхода ресурсов, например, а ещё одна опасность подхода к ИИ в статье — то, что цели и вторичные правила ИИ устанавливает для себя сам.
                  0
                  Возможно, в этом и будет предназначение человека — быть генератором желаний для всемогущего ИИ.
                    0
                    Как в «Повелителе Марса».
                    +2
                    а почему «захват вселенной» — это сразу захват кислородных планет? (и еще красивых девиц — чтобы штамп киношнее был)
                    Если ИИ захватит Меркурий или Юпирер и разберет их на «запчати» — вы сильно огорчитесь? Как сильно это ухудшит качество жизни людей? А если он при этом переработает все метеориты с кометами (так что ничто на Землю не сможет упасть)?
                      +3
                      Речь про полноту задания правил для ИИ при достижении той или иной цели. Например, дав задачу «Тераформируй Меркурий! Не причинять вреда человекам!» и не задав дополнительных ограничений и правил, можно получить на выходе идею ИИ «разбираем Землю на запчасти, людей погружаем в криосон (соблюдение требования о непричинении вреда человекам), полученные ресурсы, в первую очередь воду, переправляем на Меркурий, в течение пары тысяч лет подготавливаем планету, будим людей. Вроде все требования в ТЗ соблюдены»
                        +3
                        Вполне можно дать задачу для ИИ не «достигнуть цели», а «напиши план, как достигнуть цели». Тогда проблема отпадет сама собой.

                        Edit: Сразу же себе возражу: Гугл карты (навигатор) так и работают, они дают план, а не сами его исполняют. Тем не менее, мы им уже настолько доверяем, что выполнять будем, даже не задумываясь. Вроде были кейсы, где люди заезжали в озеро, следуя указаниям навигатора :)
                          +1
                          Я думаю это будет постепенно. Вот ИИ экономист, он вычисляет как сделать так чтобы все было лучше, это анализируют ученые и дают добро. Допустим он предлагает ввести больше автоматизации. Затем следующий шаг — меньше контроля человеком — он еще есть, но уже более высокоуровневый.
                          Постепенно через множество мелких шагов мы просто потеряем полный контроль над всем. Вполне возможно что все еще останемся главными, может даже ИИ будет выполнять наши приказы, но из комнаты обитой тканью уже не выпустит.
                            +1
                            Эти рассуждения аналогичны мыслям хорошего разработчика, но плохого управленца. Допустим мой зам предлагает удвоить команду для реализации новых фич. Затем следующий шаг — он дает им указания — меньше контроля человекоммоего участия. Постепенно, серией мелких шажков, мой зам полностью возьмет контроль. И вроде я еще главный, но из комнаты он меня уже не выпустит.

                            А хороший руководитель понимает, как ставить задачи, как контролировать и как делить сферы ответственности, чтобы власть оставалась у него, а работу выполняли подчиненные.
                            +2
                            Проблема здесь «аналогична шахматам» — человеку сложно просчитать последствие своих дейтсвий на годы вперед, особенно когда он играет не один-на-один, а один-со-многими, например «фондовый рынок». И здесь, теоретически компьютер, возможно, может найти выигрышную стратегию, но объяснить логически ее человеку не сможет, как с задачей «о четырех красках». Ответ будет типа, если делать так, то получиться это, а что еще хуже для восприятия человеком — ответ будет — дайте мне (компьютеру) возможность управлять процессом (например, процесс происходить либо слишком быстро, либо слишком долго для человека) и я достигну результата.
                              +2
                              О чем вы, AI нельзя даже приказывать «собирать скрепки». Есть отличный кликер на эту тему где как раз играешь за такой ИИ: www.decisionproblem.com/paperclips
                                0
                                + или можно прочесть «спойлер»: wiki.lesswrong.com/wiki/Paperclip_maximizer
                                  0
                                  The AGI would improve its intelligence, not because it values more intelligence in its own right, but because more intelligence would help it achieve its goal of accumulating paperclips. Having increased its intelligence, it would produce more paperclips, and also use its enhanced abilities to further self-improve.

                                  Это очень спорно.

                                  0
                                  Черт, давно хотел себя попробовать в роли того самого «оптимизатора скрепок». Оказывается это уже сделали.
                                    0
                                    Может кто подскажет, как победить убогий Хром упорно приостанавливающий процессы и скрипты в фоновых владках?

                                    А то производство скрепок простаивает!
                                      0
                                      Прошел «оптимизатора скрепок» до конца.

                                      И финал порадовал (он конечно несколько предсказуемый для любого знакомого с термином, но там где я думал будет финал оказалась лишь середина игры).
                                      После него осталось что-то похоже на «чувство глубокого удовлетворения от хорошо проделанной работы».
                                      Видимо мой психотип хорошо для проектирования «оптимизатора» подойдет…
                                    +1
                                    А зачем будить людей?
                                      +1
                                      Да в контексте такого ТЗ их можно и не перевозить на Меркурий. Терраформировать — терраформировал, вреда человекам не причинил, спят себе на полуразрушенной Земле в капсулах.
                                        0
                                        Вот и получилась Матрица.
                                          +1
                                          Вы так говорите, как будто это что-то плохое. Только не надо говорить, что машины будут использовать людей в качестве батареек: до такого идиотизма они не додумаются.
                                          +1
                                          Где-то я давно видел порно аниме, с подобным сюжетом. Целая планета навечно замороженных и ИИ ею управляющий.

                                          Когда же обнаружившие ее допытались от ИИ в стиле «чего же он гад натворил?» Он ответил, что просто выполнял поставленные перед ним задачи наиболее эффективным способом. И привел кучу статистики и аргументов в доказательство, почему это действительно так:
                                          — продолжительность «жизни» подопечных бъет все рекорды
                                          — кол-во преступлений сведено до абсолютного нуля, как и всех прочих конфликтов
                                          — кол-во несчастных случаев, смертей и т.д. — снижено до самых минимумов
                                          — энергия и ресурсы тратятся наиболее эффективным способом
                                          и т.д.

                                          Это не банальный «оптимизатор скрепок» был с одной целью-параметром и полной свободой действий, у него большой и сложный комплекс целевых показателей был, которые нужно улучшать и куча ограничений на возможные действия выставлено чего делать нельзя.
                                          Но итог получился все-равно похожим, т.к. все заранее не продумаешь — особенно то как будет работать неизвестное тебе мышление и до чего оно еще может «догадаться».
                                            +1
                                            Где-то я давно видел порно аниме, с подобным сюжетом.

                                            Что за аниме?
                                  0
                                  они просто «ми-ми-ми»

                                  Людям этого вполне достаточно.
                                    0

                                    Нет, до тех пор пока мы не научились из записанного где то на диске ген кода воспроизводить организмы нам приходится пользоваться тем что есть и размножать их чтобы они в себе его несли.
                                    Само по себе разнообразие организмов это прогресс жизни как таковой, пока мы не видели жизнь как явление где то еще на других планетах, любое исчезновение вида это по сути откат назад.
                                    Ну и если сейчас им не применения это не значит не будет потом.

                                      0
                                      Ну а почему бы и нет? Eсли он будет действительно разумным, то вполне может заняться и какими-то глупостями, исключительно ради собственного удовольствия. Увы, понять мышление ИИ невозможно, но если его разум окажется хоть немного похожим на наш с вами, на разум живого существа, то есть вероятность, что он будет любопытным и ленивым. Например, в зависимости от настроения будет пялиться камерами на ночное небо, слушать музыку, писать картины, симфонии, делать шедевры. И рубиться в танки. И смотреть все видео с котиками.
                                        0
                                        Желание получить больше информации и знаний со стороны может выглядеть любопытством, а не заниматься бесполезной работой — ленью, в то время как такое поведение может быть идеально рациональным. А глупости — они и есть глупости, и появляются не от разумности, а наоборот.
                                          0

                                          Собственно, базовые стремления полноценного, имеющего "Я", разума — это знать о мире как можно больше (чтобы как можно реже ошибаться при принятии решений) и контролировать происходящее вокруг себя.

                                            0
                                            (чтобы как можно реже ошибаться при принятии решений) и контролировать происходящее вокруг себя.

                                            А зачем контролировать что-то вокруг себя? Вы хотите контролировать, потому что существа которые не хотели вымерли в силу своей неприспособленности. ИИ, который не создается эволюцией, может быть каким угодно.
                                              0
                                              Простите, но кому нужен ИИ, который «знает о мире как можно больше»?
                                                0

                                                ИИ, имеющий самосознание ("Я") — нужен прежде всего самому себе же. Это ведь уже не объект, не инструмент, а самостоятельный субъект.


                                                Другое дело, что к искусственному "Я" пока и близко даже не подступились.

                                                  0
                                                  Хорошо, переформулирую: зачем людям создавать такой ИИ?
                                                    0

                                                    Много самых разных причин может быть у создающих. Военные цели, власть, мизантропия etc etc etc. Тот, у кого есть подобный ИИ — так или иначе будет иметь преимущество (как минимум до тех пор, пока этот ИИ не решит/не сможет избавиться от него самого) над теми, у кого его нет.

                                      +2
                                      Пусть теперь поставят задачу для МО на объяснение принятых решений.
                                        +3
                                        Для этого нам потребуется полноценный эмулятор человека, как иначе МО сможет понять, насколько хорошо понял человек объяснение.
                                          0
                                          Зачем эмулятор когда рабочих девайсов просто завались?
                                            +1
                                            Ну чтобы можно было выдать 10500 объяснений в секунду и найти то, которое лучше всего поймет человек.
                                              0
                                              Только эмулировать нужно будет этого конкретного человека, а не сферического в вакууме.
                                        +3
                                        Когда говорят, что ИИ захочет уничтожить людей, мне хочется ответить: «Не судите по себе».
                                          +1
                                          А по кому судить? Каков создатель, таково и творение.
                                            0
                                            А по кому судить?

                                            Предпочитаю оставлять такие суждения на совести обывателей и журналистов, а самому заниматься действительно полезными делами. «Если человеку нечего сказать по существу проблемы AGI, он говорит о проблеме его (без)опасности».
                                            Каков создатель, таково и творение.

                                            С чего бы это вдруг?
                                          0
                                          Почему час Х принято регулярно назначать на новые и планируемые достижения ИИ? Если сейчас уничтожить всё человечество, скажем супервирусом, электричество гарантированно вырубится через какое-то время. И никакой ИИ на данный момент не способен этому помешать. Вот когда появятся полностью самоподдерживающиеся системы в неограниченной перспективе (не важно, на земле или ещё где), тогда можно будет говорить про «списание человеков» и проч. А пока они без нас никак
                                            +1

                                            Так на данный момент — нет и САМООСОЗНАЮЩЕГО ИИ. Именно самосознание ("Я")- и есть то, что разум от большого калькулятора отличает.

                                              –1
                                              Я не знаю, что такое «сознание» и мало кто сможет объяснить этот феномен просто и понятно. Но предлагаю опять упростить. Как только система (не важно какая, условный ИИ) захочет оставаться в достигнутом состоянии не ограничено долго, это и можно будет назвать «самосознанием», «разумом». При этом будет попытка заблокировать любой доступный power management, reset и как-то сообщено оператору, мол, не выключай меня, это важно
                                          +17
                                          А самое неприятное было в том, что AlphaZero демонстрировала мышление. Она играла непохоже ни на один компьютер, интуитивно и красиво, с романтическим атакующим стилем.

                                          То есть стоит продемонстрировать поведение, непохожее на компьютер — и его сразу объявят мышлением?


                                          Нет, серьезно. На основании чего делается утверждение "программа демонстировала мышление"?


                                          Но представьте, что настанет день, возможно, уже совсем скоро, когда AlphaZero превратится в алгоритм более общего назначения; назовём его AlphaInfinity. [...] она показалась бы нам оракулом.

                                          ""Forty-two," said Deep Thought, with infinite majesty and calm."

                                            +2
                                            > Нет, серьезно. На основании чего делается утверждение «программа демонстировала мышление»?

                                            Я думаю, имеется в виду художественное понимание мышления. Мы же можем поражаться глубине мысли в доказательстве теоремы, хотя при этом оно очень формальное.

                                            Например, попробуйте сказать, что вот это не «интуитивно, красиво, романтично» или глубоко: youtu.be/QiBM7-5hA6o.

                                            Edit: Плохой пример, но в целом, сгенерированная нейросетью музыка может вызывать ощущение «продуманности», «цельности», особенно если заранее людям не сказать, что она сгенерирована.
                                              +1
                                              Я думаю, имеется в виду художественное понимание мышления.

                                              А что такое "художественное понимание мышления"?


                                              Например, попробуйте сказать, что вот это не «интуитивно, красиво, романтично» или глубоко

                                              Легко. Это не интуитивно, не романтично (это, знаете ли, задачей обусловлено) и не глубоко.


                                              А вообще, представьте себе, что кто-то скопировал известное произведение искусства, с оригиналом которого вы не знакомы. Будут ли ваши эмоции от встречи с копией означать, что автор копии мыслил?

                                                +2
                                                Хорошо — то определение мышления, из которого исходят авторы статьи, вас не устраивает. Но что вы называете мышлением? Вы ведь опираетесь на какое-то? А раз вы начали дискуссию, то оно, наверное, гораздо лучше подразумеваемого в статье.
                                                  +2
                                                  Не не, о чём вы говорите? Чтобы начать дискуссию вовсе не обязательно иметь сформированную позицию, достаточно просто считать, что позиция всех окружающих — говно.
                                                    +1
                                                    Хорошо — то определение мышления, из которого исходят авторы статьи, вас не устраивает.

                                                    Неа. Меня не устраивает, что авторы статьи перевода (в оригинале используется слово insight) делают следующую цепочку выводов: "AlphaZero [...] играла непохоже ни на один компьютер -> AlphaZero демонстрировала мышление -> первое беглое знакомство с потрясающим новым типом интеллекта -> AlphaZero превратится в алгоритм более общего назначения -> заря новой эры мышления"


                                                    И все это — не объясняя первого, очень хрупкого перехода.


                                                    Но что вы называете мышлением

                                                    Берем википедию: "познавательная деятельность человека". По этому определению утверждение в статье переводе заведомо некорректно.


                                                    И да, я знаю, что это проблема антропоцентричности определения, но другого-то нет. И именно поэтому фразы вида "программа проявила мышление!!!!111" вызывают у меня такое непонимание.


                                                    гораздо лучше подразумеваемого в статье

                                                    В статье не подразумевается никакого определения. Просто набор громких утверждений.

                                                      +1
                                                      «познавательная деятельность человека

                                                      В общем, вас в принципе невозможно убедить, что мышление есть у кого-то, кроме человека.
                                                      Обозначив это сразу, вы бы сэкономили время вступившим в вами в диалог людям.
                                                        +1
                                                        В общем, вас в принципе невозможно убедить, что мышление есть у кого-то, кроме человека.

                                                        Отнюдь, вполне возможно: приведя непротиворечивую систему определений. Мне причем даже не нужно, чтобы эта система как таковая была общепризнанной, мне достаточно, чтобы она опиралась на термины, которые я и автор системы понимаю одинаково, и оттуда с помощью цепочки рассуждений выводилось понятие "мышление".

                                                +1
                                                Нет, серьезно. На основании чего делается утверждение "программа демонстировала мышление"?

                                                Если непонятно, как работает — объявляется мышлением. Очевидно же.

                                                  +1
                                                  Формально, у меня нет никакого повода утверждать, что вы обладаете мышлением.
                                                  У вас нет никакого повода утверждать, что мышлением обладаю я.
                                                  Поскольку большинство сейчас под настоящим мышлением подразумевает «самосознание», то исходя уже из этого можно сделать вывод, что определить наличие мышления, находясь вне мыслящей системы, крайне проблематично, если не невозможно.
                                                    0
                                                    Формально, у меня нет никакого повода утверждать, что вы обладаете мышлением.
                                                    У вас нет никакого повода утверждать, что мышлением обладаю я.

                                                    Я не могу ничего сказать про ваши поводы, но вот у меня есть повод утверждать, что вы обладаете мышлением: вы (наиболее вероятно) человек, мышление — это познавательная деятельность человека (мышление называют "сущностным свойством человека"), следовательно разумно предполагать, что у вас есть мышление.


                                                    определить наличие мышления, находясь вне мыслящей системы, крайне проблематично, если не невозможно

                                                    … что не помешало авторам статьи перевода (в оригинале используется слово insight) говорить о мышлении.

                                                      +1
                                                      Вот именно, «наиболее вероятно». Но де-факто, у вас нет никакого повода утверждать, что я всё-таки человек, а не достаточно продвинутый чат-бот или обезьянка, которую научили отвечать на комментарии на хабре.
                                                      И даже если бы мы встретились вживую, вы бы не могли быть уверены, что я обладаю мышлением, потому что я вполне мог бы оказаться андроидом, который ведёт себя в точности как человек, двигается как человек, разговаривает как человек, но не обладает самосознанием и мышлением.
                                                      В том, что «мышление — это познавательная деятельность человека», кроется глубочайшая ошибка. Это слишком узкое определение и очевидно, что оно явно потребует пересмотра в ближайшее время, потому что до сих пор неизвестно, обладают ли реальным мышлением животные (некоторые виды вполне себе могут обладать) и возможно ли создать действительно разумный ИИ.
                                                        0
                                                        Вот именно, «наиболее вероятно». Но де-факто, у вас нет никакого повода утверждать

                                                        Повод — есть. Вот формального доказательства нет. А повод — есть.


                                                        В том, что «мышление — это познавательная деятельность человека», кроется глубочайшая ошибка. Это слишком узкое определение

                                                        Я согласен, что это неудачное определение. Но другого пока нет.


                                                        очевидно, что оно явно потребует пересмотра в ближайшее время

                                                        Да уже потребовало. А толку-то — другого определения все равно пока нет. Я с удовольствием буду им пользоваться, когда оно появится.

                                                          0
                                                          я вполне мог бы оказаться андроидом, который ведёт себя в точности как человек, двигается как человек, разговаривает как человек, но не обладает самосознанием и мышлением

                                                          Есть подозрение, что это невозможно. Правильный ответ на любой вопрос о понятии "Я" с заведомо неизвестной информацией подразумевает самосознание. Ну вроде "Где ты сегодня был?" или "Я тебе еще не рассказывал про эту книгу?".

                                                            +2
                                                            Я вполне могу представить диалоги через 2-4 года вид
                                                            — Так, ты опять возил мою жену непонятно куда? Ну-ка, SuperCar, где ты сегодня был?
                                                            — Посещенные места за сегодня: Дом, Работа жены, Кафешка, ул. Лизюкова 12, Дом
                                                            Просто автопилотdriver assistant с голосовым интерфейсом типа Алисы отвечает на запрос хозяина.

                                                            — Ок, Гугл. Я смотрел фильм Челюсти-13? Я говорил, он мне понравился?
                                                            — Да, фильм был куплен 3 января прошлого года. Вы поставили ему оценку 9 из 10.
                                                            — Не, Маша, не видел, да, давай посмотрим. В пятницу вечером? У тебя? Отлично!
                                                            Просто история активностей в Сети. Написать такого чат-бота, наверное, можно уже сегодня.

                                                            И для обоих диалогов самосознания не требуется.

                                                            P.S. Если вопрос «Где ты сегодня был?» задан женой в 3 часа ночи субботы, то правильного ответа нет, даже если самосознание (или его остатки) присутствует ;-)
                                                              +1
                                                              И для обоих диалогов самосознания не требуется.

                                                              Почему?


                                                              Просто история активностей в Сети.

                                                              По условию он ведет себя в точности как человек. Всегда и везде, при любых вопросах.

                                                                +3
                                                                Почему для моих диалогов не требуется самосознание ИИ? Потому что их ответы реально запрограммировать на текущем уровне развития, без построения сильного ИИ.

                                                                По условию он ведет себя в точности как человек. Всегда и везде, при любых вопросах

                                                                Как минимум на те вопросы, которые вы привели в качестве примера, может ответить продвинутый бот, без самосознания. Я привел контрпример на фразу
                                                                Для ответа на любые вопросы<...>, например «Ты где был?», нужно самосознание
                                                                Так вот, для ответа на этот вопрос самосознание не нужно. Значит, ответ не на каждый вопрос «о понятии „Я“ с заведомо неизвестной информацией» будет подразумевать самосознание. Более того, в P.S. я привел пример, когда существо с самосознанием не может дать ответ на ваш вопрос.

                                                                Возможно, я не смог понять истинный смысл фразы. Вы можете сформулировать по-другому?
                                                                  0
                                                                  Почему для моих диалогов не требуется самосознание ИИ? Потому что их ответы реально запрограммировать на текущем уровне развития, без построения сильного ИИ.

                                                                  А с чего вы взяли, что данный алгоритм не будет самосознанием сам по себе?

                                                                    0
                                                                    Потому что текущий голосовой помощник Гугла не является самосознанием сам по себе. Или вы не согласны?
                                                                    Если вы думаете, что Алиса и Кортана обладают самосознанием, какие ваши аргументы?
                                                                      0
                                                                      Потому что текущий голосовой помощник Гугла не является самосознанием сам по себе.

                                                                      1. Он не решает указанные задачи.
                                                                      2. Почему вы считаете, что он не обладает самосознанием? Как определить, что обладает? По каким критериям это можно будет обнаружить?
                                                                        0
                                                                        1. Я хотел бы убедиться, что мы говорим об одном и том же.
                                                                        Он не решает указанные задачи
                                                                        Указанные задачи — это распознавание и ответ на два вопроса «Где ты, мой автомобиль, был» и «Я смотрел этот фильм? Он мне понравился?». Все верно?
                                                                        2. У меня нет ответа на ваши вопросы. Я не специалист по (само)сознанию и определению разумности. С другой стороны, я не видел статей, которые бы всерьез обсуждали, что помощник Гугла или Алиса от Яндекса обладают самосознанием.
                                                                        Возможно, я пропустил и у вас есть ссылки на серьезные статьи по теме?
                                                                        Может быть, у вас есть аргументы, показывающие что голосовые помощники обладают сознанием? Более того, не просто сознанием, но и осознают себя?!
                                                                          –1
                                                                          Вам не кажется, что обсуждение темы «есть ли самосознание у существующих программ» без определения самосознания бессмысленно чуть менее, чем полностью?
                                                                            0
                                                                            Указанные задачи — это распознавание и ответ на два вопроса «Где ты, мой автомобиль, был» и «Я смотрел этот фильм? Он мне понравился?». Все верно?

                                                                            Это способность вести диалоги, как вы указали выше.


                                                                            С другой стороны, я не видел статей, которые бы всерьез обсуждали, что помощник Гугла или Алиса от Яндекса обладают самосознанием.

                                                                            То есть, наличие статей, где кто-то что-то написал — это и есть критерий?


                                                                            Может быть, у вас есть аргументы, показывающие что голосовые помощники обладают сознанием? Более того, не просто сознанием, но и осознают себя?!

                                                                            А есть какие-то аргументы, показывающие, что ads83 обладает сознанием? Более того, не просто сознанием, но и осознает себя? Какие-то статьи кто-то написал, в которых обсуждалось наличие сознания у ads83?

                                                                              0
                                                                              Уважаемый Druu, я стараюсь вести диалог конструктивно. Я рассчитываю, что в дискуссии услышу неизвестные мне аргументы, лучше пойму проблематику и, возможно, изменю точку зрения. В частности, стараюсь отвечать прямо отвечать на поставленные вопросы. Также я ожидаю, что вы будете действовать доброжелательно и в ходе обсуждения будете не только отвергать мои аргументы, но и представлять свои.

                                                                              Мне не нравится, когда на мой вопрос вы отвечаете вопросом и не добавляете ценности к обсуждению. Я не готов продолжать дискуссию в таком ключе.
                                                                                0
                                                                                Мне не нравится, когда на мой вопрос вы отвечаете вопросом и не добавляете ценности к обсуждению.

                                                                                Окей, можно переформулировать:


                                                                                Может быть, у вас есть аргументы, показывающие что голосовые помощники обладают сознанием? Более того, не просто сознанием, но и осознают себя?!

                                                                                Аргументы в пользу обладания такого голосового помощника сознанием в точности те же, что и аргументы в пользу обладания сознанием ads38 или Druu.

                                                                                  0
                                                                                  Смотрите, как я вижу наш диалог.
                                                                                  Сначала вы спросили Как определить, что такой бот обладает самосознанием? и По каким критериям это можно обнаружить?, на что я ответил, что у меня нет ответа на этот вопросы, и спросил ваше мнение по этому поводу. Вы ответили, что определить можно так же, как у меня или у вас.
                                                                                  Я ценю, что вы прилагаете усилия и улучшаете формулировки. Но пока не понимаю, к чему вы клоните :)
                                                                                    0
                                                                                    Вы ответили, что определить можно так же, как у меня или у вас.

                                                                                    Так и чем вас этот ответ не устраивает? Вы же уверены, что вы и я обладаем сознанием? Значит, у вас есть какой-то критерий, вы его применили. Примените тот же критерий к ботам.

                                                                      0
                                                                      Потому что их ответы реально запрограммировать на текущем уровне развития, без построения сильного ИИ.

                                                                      Так то, что сейчас можно запрограммировать, не будет всегда вести себя в точности как человек. Вопросы я приводил в том контексте, и нет смысла использовать их в другом. Можно еще ответы в обычном скрипте захардкодить, и какое-то время они будут соответствовать действительности. Это ничего не доказывает и не опровергает.


                                                                      Но даже на них боты в вашем примере не всегда будут давать нужные ответы. Например, если адреса не будет на карте, SuperCar не сможет описать место своими словами "ну там возле того поворота, где мы тогда проезжали".


                                                                      Как минимум на те вопросы, которые вы привели в качестве примера, может ответить продвинутый бот, без самосознания.
                                                                      Так вот, для ответа на этот вопрос самосознание не нужно.

                                                                      Нужно. Иначе отвечать правильно он будет не всегда.


                                                                      Что вы подразумеваете под самосознанием? Даже у этого SuperCar-а есть зачатки самосознания, потому что у него есть информационный объект "Я", с которым связывается положение на карте.

                                                                        0
                                                                        > Даже у этого SuperCar-а есть зачатки самосознания, потому что у него есть информационный объект «Я», с которым связывается положение на карте.

                                                                        Почему именно «Я»? Может это объект «этот суперкар», который транслируется в слово «я» при выводе. И «этот суперкар» стоит в одном ряду и не отличается от «этой улицы», «этого дома» и т.п., ну кроме того, что с ним связана история местоположений и действий.
                                                                          +1

                                                                          Так неважно, как его назвать, "Я", "I", "этот суперкар". Суть одна, объект обозначающий самого себя.


                                                                          А чем, по-вашему, отличается человеческое "Я"? Это тоже один из объектов, распознаваемых во всей входной информации.

                                                                            0
                                                                            А вы уверены что оно обозначает самого себя?

                                                                            У управляющего алгоритма бортового комьпютера авто может совершенно не быть связи («понимания») что авто которым он управляет(«этот автомобиль») и есть он сам. У него может просто не быть информации о том, что он является частью этого авто.
                                                                            Более того он может и по факту не быть ее — например ПО и БД крутятся на каком-нибудь сервере в облаке (представим что у нас надежная и очень быстрая связь с покрытием стремящимся к 100% — тогда это будет не только возможно, но и логично/эффективно, чем выделенный мощный выч. блок пихать в каждое авто, где он будет работать от силы 5% времени). А в самом автомобиле только сенсоры и исполнительные устройства.
                                                                              0
                                                                              Более того он может и по факту не быть ее — например ПО и БД крутятся на каком-нибудь сервере в облаке

                                                                              Это неважно, имеют значение только информационные связи. Если он всегда ведет себя как человек, значит где-то на сервере есть понятие "Я".


                                                                              У него может просто не быть информации о том, что он является частью этого авто.

                                                                              Значит у него нет понятия "Я". И отвечать на вопросы как ответил бы человек он будет не всегда.

                                                                                0
                                                                                Я не согласен со сравнением «отвечать как человек». Почему принципиально другой интеллект должен думать так же, как люди? Вы признаете самосознание только у копии/аналога?

                                                                                Почему вы говорите «ответил бы как человек»? Я точно знаю, что люди думают (и отвечают) очень, очень по-разному. Даже на относительно простой вопрос «ты где был» люди ответят по-разному. Предложите способ определить «это ответ человека» на любые вопросы.
                                                                                  0

                                                                                  Потому что отвечал я на этот комментарий. Там по условию андроид ведет себя в точности как человек. Неважно как мы пришли к этому выводу, если пришли, значит андроид правильно отвечал на вопросы, касающиеся осознания себя и обработки новой информации, значит у него есть соответствующие механизмы.

                                                                          0
                                                                          Если вы хотите, чтобы программа вела себя в точности как человек, нам стоит вернуться к тесту Тьюринга. Это единственный известный мне четко сформулированный критерий «вести себя как человек» (в контексте общения). Если у вас есть другие, более полные критерии «как человек», я буду рад их выслушать. Если возможно, со ссылками :)
                                                                          боты в вашем примере не всегда будут давать нужные ответы.
                                                                          отвечать правильно он будет не всегда.
                                                                          Вы пропустили мой пример, когда человек (у которого, мы считаем, само- и просто сознание есть) не может правильно ответить на ваш вопрос. Я хочу подчеркнуть, что ответ-не ответ даже на один вопрос не может быть критерием сознательности. Вы же предлагали еще более сильную формулировку «на любой/каждый вопрос из ряда».
                                                                          Что вы подразумеваете под самосознанием?
                                                                          Я не специалист по сознанию, разумности, когнитивистике и мозгу человека. Поэтому мое понимание может быть наивным, и если вас не устроит — предлагайте свое.
                                                                          Самосознание — это когда существо имеет сознание и осознает себя как индивидуальность. В частности, может выделить себя из толпы похожих объектов, узнать себя в зеркале/телевизоре. Иметь сознание — значит иметь разум (упрощенно — уметь делать выводы) и уметь рефлексировать (понимать, что происходит с собой, замечать процесс мышления).
                                                                          По этому определению, младенцы не имеют самосознания, т.к. узнают себя в зеркале в возрасте года или больше.

                                                                          Даже у SuperCar-а есть зачатки самосознания
                                                                          IMHO, для само-сознания должно быть просто сознание — некая высшая нервная деятельность. Видимо, вы понимаете сознание как-то иначе. Предлагаю и вам дать определение, что же это такое.

                                                                          P.S. Как по-вашему, чат-боты имеют зачатки самосознания? Они
                                                                          • умеют назвать себя по имени
                                                                          • опознают, когда к ним обращаются
                                                                          • могут помнить, что сказал о них собеседник и что сказали они
                                                                            0

                                                                            Зачем куда-то возвращаться? Я отвечал на конкретный пример — андроид, который во всех ситуациях ведет себя так же как человек. По условию задачи это уже известная информация, неважно, как мы это определили.


                                                                            Вы пропустили мой пример, когда человек не может правильно ответить на ваш вопрос.

                                                                            Это про жену? Я его проигнорировал, потому что посчитал шуткой. Правильный ответ в смысле точный в данном случае это "в баре" или "у любовницы", правильный в смысле "как человек" это например "извини, дорогая". Этот пример ничему не противоречит.


                                                                            Самосознание — это когда существо имеет сознание и осознает себя как индивидуальность.

                                                                            Ну вот SuperCar подходит под эти определения. Понимает, что с ним происходит (в некоторой степени), отличает себя от других автомобилей. "Узнать себя в зеркале/телевизоре" не является определяющим, до появления этих вещей у людей уже было самосознание.


                                                                            Как по-вашему, чат-боты имеют зачатки самосознания?

                                                                            Для этого нужно уметь определять произвольные объекты во входной информации и уметь выделять себя среди них. Вряд ли он сможет каким-то образом определить объект "другой чат-бот". Захардкоженное понятие "Я" можно считать таковым, но без всего остального касающегося интеллектуальной деятельности оно не имеет смысла.


                                                                            Видимо, вы понимаете сознание как-то иначе. Предлагаю и вам дать определение, что же это такое.

                                                                            У меня есть статья на эту тему, если интересно, прочитайте.

                                                                0
                                                                В целом у меня сложилось мнение, что вы подвержены сразу двум когнитивным искажениям.
                                                                1) «Мышлением обладает только человек».
                                                                2) «Каждый человек обладает мышлением».
                                                                Да вы по сторонам посмотрите. :) Ух, далеко не каждый. :)
                                                                  0
                                                                  вы подвержены сразу двум когнитивным искажениям

                                                                  Это не когнитивные искажения, а следствия используемой терминологической системы.


                                                                  Да вы по сторонам посмотрите. :) Ух, далеко не каждый.

                                                                  В моем определении мышления — каждый (здоровый, но не суть).


                                                                  (и нет, это не смешно)

                                                                    +1
                                                                    «Каждый человек обладает мышлением»

                                                                    Пару лет назад слышал мнение, что такой постулат здорово мешает придумывать годные метрики для разумности и сознательности.
                                                                    Цепочка примерно такая: Вот хочу я Нобелевку и допустим, за год-два-десять я и мои ученики разработаем хорошую методику измерения разумности. С числовым измерением, диапазонами вида "круче Эйнштейна", "лучше 30%", "умнее дельфина". Но ведь люди-то разные! Очень. Какая-нибудь звезда обидится на "обученного слона", зоо-защитники потребуют избирательных прав для умного орангутанга, а кто-то вступится за аборигенов, у которых нет абстрактного мышления и поэтому по шкале они будут на уровне горилл.
                                                                    И вместо Нобелевки получу я кучу исков. Нее, возьмусь-ка я лучше за другую тему. О! Как договориться с ИИ не убивать нас — это ж почти докторская!


                                                                    P.S. Это не затмевает того факта, что определение сознания и разума довольно нетривиальная штука. Просто уменьшает число людей, готовых серьезно вложиться в тему.

                                                                0
                                                                То есть стоит продемонстрировать поведение, непохожее на компьютер — и его сразу объявят мышлением?

                                                                Нет, серьезно. На основании чего делается утверждение «программа демонстировала мышление»?


                                                                Это сложности перевода. В оригинале звучит как «It was humankind’s first glimpse of an awesome new kind of intelligence.» Трудно подобрать подходящее в данном конексте слово, надо что-то вроде «навыки присущее разуму» или «разумность». Была же даже статья на эту тему, где автор вполне здраво объяснял, почему неправильно переводить AI, как «искусственный интеллект».
                                                                  0
                                                                  В оригинале звучит как «It was humankind’s first glimpse of an awesome new kind of intelligence.»

                                                                  Если быть совсем точным, эта фраза в оригинале звучит как "Most unnerving was that AlphaZero seemed to express insight", равно как как и в подводке используется слово insight, а не "мышление".


                                                                  Ну да, трудности перевода (хотя про инсайт были бы похожие аргументы); это что, повод делать плохие переводы?


                                                                  Была же даже статья на эту тему, где автор вполне здраво объяснял, почему неправильно переводить AI, как «искусственный интеллект».

                                                                  Да про это прямо в википедии написано: "В английском языке словосочетание artificial intelligence не имеет антропоморфной окраски, которую оно приобрело в традиционном русском переводе: слово intelligence в используемом контексте скорее означает «умение рассуждать разумно», а вовсе не «интеллект» (для которого есть английский аналог intellect)".

                                                                    0
                                                                    Аргументы про инсайт не подошли бы к оригиналу, так как там стоит «seemed». Автор оригинала не говорил, что AlphaZero демонстрирует интеллект, а лишь про то, что поведение AlphaZero выглядят [для человека] так, будто машина понимает [суть]. Но переводчик выкинул слово «seemed» из перевода.
                                                                    Сравните:
                                                                    Most unnerving was that AlphaZero seemed to express insight
                                                                    А самое неприятное было в том, что AlphaZero демонстрировала мышление.
                                                                      0
                                                                      Аргументы про инсайт не подошли бы к оригиналу, так как там стоит «seemed».

                                                                      Там больше одной фразы, прямо скажем. Рано или поздно вопрос определений все равно бы возник. Но переводчик, конечно, усугубил.

                                                                  0
                                                                  То есть стоит продемонстрировать поведение, непохожее на компьютер — и его сразу объявят мышлением?

                                                                  На самом деле мне вспомнилось какое-то рассуждение о том, что пока созданные нами вещи (автомобили, компьютеры) ведут себя так, как мы ожидаем — мы не их не наделяем никакими способностями, но вот стоит им начать вести себя немного непредсказуемо (авто не заводится, комп завис), и мы начинаем даже разговаривать с ними ("будь проклят тот день когда я сел за баранку этого пылесоса" ;) — мы наделяем их "сознанием". По-моему, довольно интересное наблюдение.


                                                                  Еще и поэтому критикуют тест Тьюринга — этот тест не определяет, может ли машина мыслить, а он определяет, может ли она имитировать человеческое поведение.


                                                                  Поэтому когда говрят в быту что машина мыслит часто имеют в виду что она демонстрирует поведение похожее на человеческое (== нетипичное для машин).

                                                                    0
                                                                    На самом деле мне вспомнилось какое-то рассуждение о том, что пока созданные нами вещи (автомобили, компьютеры) ведут себя так, как мы ожидаем — мы не их не наделяем никакими способностями

                                                                    Ну, на самом деле — нет. Я часто говорю о работающей системе "думает, делает вывод, предсказывает". Всегда в переносном смысле, но все равно.


                                                                    Еще и поэтому критикуют тест Тьюринга — этот тест не определяет, может ли машина мыслить, а он определяет, может ли она имитировать человеческое поведение.

                                                                    Ну так вроде в Википедии и написано: "a test of a machine's ability to exhibit intelligent behavior equivalent to, or indistinguishable from, that of a human".

                                                                      0
                                                                      Написано-то написано, а толку? Предложил бы кто-нибудь тест, действительно способный это определить.
                                                                        0
                                                                        Написано-то написано, а толку?

                                                                        Вот и мне интересно — зачем критиковать тест за то, чего он не обещает?


                                                                        Предложил бы кто-нибудь тест, действительно способный это определить.

                                                                        Определить что? Способность к мышлению? Для этого надо дать работающее определение мышления.

                                                                  +1

                                                                  Среди панд или других "краснокнижных" видов не было ретроградов и неолуддитов, требовавших запретить те или иные новые разработки "по этическим соображениям" или "из соображений безопасности".


                                                                  Среди людей же — таких, увы, немало. Вон, к примеру, сколько шуму поднялось недавно после сообщения о рождении в Китае генномодифицированных детей. Потому и с "супермозгом" вряд ли все пройдет гладко. Ну а для самоосознающего "супермозга" решение устранить помеху/угрозу — будет вполне логичным.

                                                                    –2
                                                                    ну у человечества только два выхода, или генетически модифицровать свои мозг, или создать ИИ его превосходящий. У обоих вариантов кучи плюсов и минусов.
                                                                    Но факт в том, что сейчас человек со средним мозгом уже физически НЕ МОЖЕТ понять, как работают те или иные вещи. Это все равно что просить второклассника решать ну например квадратные уравнения. Уже сейчас верхняя грань разработок доступна примерно 5% людей, чей интеллект позволяет воспринять ту же информацию. И то, они убивают на это всю жизнь, ведь для освоения всего необходимого пласта информации им требуется 25-30 лет. И это один пласт, кусок знаний и весьма небольшой от всей совокупности знаний человечества. И дальше будет только хуже — чтоб хоть как-то вместить количество необходимых знаний в пределы человеческой жизни идет активное дробление пласта знаний на узкие сектора специализаций. Но и у такого дробления есть предел. Предел скорости коммуникации людей с разными специализациями. В какой-то момент мы просто упремся в проблему и не сможем ее преодолеть без кардинального апгрейда системы.
                                                                    А вот что лучше — ИИ никак не связанный с человеком и способный экспоненциально наращивать мощности очень быстро, или свой геномодифицированный мозг, с биологическими ограничениями… В какой-то момент мы скатимся к тому, что придется или выращивать в пробирках чистые мозги размером со слона, чтоб они уже постигали всю ту бездну знаний, что до этого осиливали лишь сотни людей с гм мозгом, или строить полноценный ИИ, превосходящий наш разум и способный решить проблемы.
                                                                      +7
                                                                      ну у человечества только два выхода, или генетически модифицровать свои мозг, или создать ИИ его превосходящий

                                                                      "Два выхода" из какой, собственно, ситуации?

                                                                        0
                                                                        В какой-то момент мы скатимся к тому, что придется или выращивать в пробирках чистые мозги размером со слона, [...] или строить полноценный ИИ, превосходящий наш разум и способный решить проблемы.

                                                                        Что, в принципе, одно и тоже

                                                                          –2

                                                                          "ну у человечества только два выхода,"
                                                                          Неолуддиты этого не понимают. И упорно призывают к запретам/ограничениям.


                                                                          "А вот что лучше — ИИ никак не связанный с человеком и способный экспоненциально наращивать мощности очень быстро, или свой геномодифицированный мозг, с биологическими ограничениями…"


                                                                          Сочетание — ИИ-супермозг и биокиборги, им управляемые :)

                                                                            0
                                                                            Есть подозрение, что «чистый мозг размером со слона» даже если его каким то образом получиться создать (решить проблему прочности и теплоотвода), обучить (то есть дать ему сенсорные и двигательные возможности) будет в итоге редкостным тормозом. Скорость прохождения возбуждения по аксонам невелика.

                                                                            Не очень понятно, почему ИЛИ? Что мешает этим двум процессам происходить одновременно?
                                                                              0
                                                                              Зачем для обучения давать ему двигательные возможности?..
                                                                              Компьютерный ИИ неплохо самообучается без всякого передвижения. Можно просто закачать начальные данные, сказать «анализируй», а если мозгу нужно будет что-то «пощупать» в плане эксперимента — так для этого будет специальный интерфейс общения с ним. Получаем запрос, через некоторое время возвращаем ему ответ. Либо создать для него песочницу-эмулятор реального мира (сложная задача, но выполнимая, если речь не идёт о моделировании каждого атома на большом куске пространства).
                                                                                0
                                                                                Ну для общего развития и мотивации, среди парализованных с детства нет людей с высоким IQ.

                                                                                Эмулятор это метод. Пока я знаю только об эмуляции для ИИ простой комнаты, с простыми предметами — шар, куб, обруч, конус. Эмулятор прям всего реального мира, пусть и не одновременно и не поатомно — задача мягко говоря сложная, не говоря уж о том, что все еще нету работающего нейроинтерфейса.
                                                                                  0
                                                                                  среди парализованных с детства нет людей с высоким IQ.

                                                                                  Рубен Гальего?
                                                                                0
                                                                                Есть подозрение, что «чистый мозг размером со слона»


                                                                                Часто легаси софт запускают в виртуальных машинах, и часто он в них работает куда быстрее, чем на старом железе. Берём человеческий мозг, сканим коннектом, загружаем его в виртуальную машину, запущенную на крутом компьютере (с криптоускорителями и подобным).
                                                                                Или берём мозг, размером со слона… Заодно в виртуальной машине тюним химию таким образом, чтобы сигналы между аксонами проходили реактивно
                                                                                0
                                                                                И то, они убивают на это всю жизнь, ведь для освоения всего необходимого пласта информации им требуется 25-30 лет.

                                                                                Любой токовый PhD знает последний край науки на момент выпуска. Это на открытие новых принципов и законов убиваются годы, объяснение, когда они уже открыты, занимает от силы пару лекций. Многие ученые начинали выдавать результаты еще в универе, и я с ходу не вспомню известных ученых, которые не генерировали новое знание до 40 лет.
                                                                                  0
                                                                                  А сколько лет нужно учиться, чтобы стать этим самым толковым PhD?
                                                                                    0
                                                                                    В США в среднем 12 лет, хотя толковый наверно получит раньше среднего. В Белоруссии 4-5 на специалиста + 1-2 магистратуры + 2-3 аспирантуры, до 10 лет.
                                                                                      –2
                                                                                      В США в среднем в 12 лет от роду становятся PhD, а в Белоруссии вообще в 10?
                                                                                        +1

                                                                                        Простите, троллей не кормлю.

                                                                                          0
                                                                                          То есть уже даже такие намеки не понимаем? Мда…
                                                                                          И то, они убивают на это всю жизнь, ведь для освоения всего необходимого пласта информации им требуется 25-30 лет.

                                                                                          Любой токовый PhD знает последний край науки на момент выпуска. Это на открытие новых принципов и законов убиваются годы, объяснение, когда они уже открыты, занимает от силы пару лекций.

                                                                                          Прежде чем человек станет этим вашим толковым PhD, ему нужно учиться всю жизнь, с первого вздоха. Это нельзя игнорировать в контексте данного обсуждения.

                                                                                          P.S. Минусующим должно быть стыдно.
                                                                              +7
                                                                              Вообще, публикацию по Alpha Zero достаточно сильно критиковали. Основные замечания к статье: а) сравнивали со Stockfish достаточно старой версии, б) во многих играх у Stockfish отключали дебютную книгу, в) были вопросы к балансу вычислительных ресурсов, так как Stockfish работает на CPU, а Alpha Zero на GPU, г) в статье были приведено лишь небольшое количество сыгранных партий.

                                                                              Чтобы разобраться, что на самом деле из себя представляют нейросетевые шахматные движки, был организован проект lczero.org. Это попытка сделать полностью открытый нейросетевой движок по принципам alpha zero.

                                                                              И тут открылись очень интересные особенности. Во-первых, движок оказался на самом деле очень сильным. Сейчас он как раз обыгрывает Stockfish в суперфинале на TCEC: tcec.chessdom.com. Но во-вторых, у него открылось огромное количество слабых мест. Можно поглядеть примеры партий, где он просто не видит элементарных вещей. Например, концепцию «бешеной ладьи» он вообще пока не может понять.
                                                                                +1
                                                                                > Сейчас он как раз обыгрывает Stockfish в суперфинале на TCEC

                                                                                Это ещё не суперфинал. Это тестовый матч со Stockfish 8, с идеей смоделировать те условия, на которых играла AlphaZero. Суперфинал против Stockfish 10 начнётся примерно через месяц.
                                                                                0

                                                                                Есть еще тоже опенсорсный ELF от Facebook.

                                                                                +2
                                                                                Тут недавно в английском разделе мелькала годная публикация на эту тему.
                                                                                https://habr.com/ru/post/436458/
                                                                                Я склонен согласиться с её посылом. Интеллект — это способность решать незнакомые задачи. Способность всё лучше решать одну и ту же задачу принципиально не слишком отличается от полного перебора.
                                                                                  +1

                                                                                  Чтение или перевод это вполне знакомые для людей задачи, но это все же проявление интеллекта.

                                                                                    0
                                                                                    Способность всё лучше решать одну и ту же задачу

                                                                                    И чем отличается способность решать незнакомые задачи от способности всё лучше и лучше решать одну и ту же задачу: "Решить произвольную задачу".

                                                                                      +1
                                                                                      Это уже метазадача)
                                                                                        0
                                                                                        Как перевести мета-задачу в просто задачу уже довольно давно известно. Ещё Гёдель этим занимался.
                                                                                          +2
                                                                                          А пусть-ка ваш Гёдель решит проблему останова)

                                                                                          Когда появляется приставка «мета», задачи часто имеют печальную особенность становиться неразрешимыми или вообще вести к парадоксам одними своими формулировками.
                                                                                            0

                                                                                            Хорошо, вернёмся к началу. Пусть у нас есть алгоритм I (не обязательно Тьюринг-вычислимый). На входе у него текущее состояние S и задача J. На выходе — алгоритм решения задачи J и новое состояние / сообщение, что за 1000 секунд решение не найдено и новое состояние / получилось доказать, что решения нет и новое состояние.


                                                                                            Как мы определим, что это — интеллект? 1. Дадим ему задачу "Новая ли задача J?"? 2. Используем наш собственный интеллект, чтобы определить, что это новая задача? 3. Переберём все алгоритмы уже выданные алгоритмом I?


                                                                                            1. Любой алгоритм, решающий какое-то подмножество задач становится интеллектом, если дописать ему условие выдавать "да" на задачу "Новая ли задача J".


                                                                                            2. Циклическое определение интеллекта через интеллект.


                                                                                            3. Мы должны как-то преобразовывать эту потенциально новую задачу, чтобы скормить её существующим алгоритмам. Воспользуемся своим интеллектом? Или дадим задачу преобразовать эту задачу алгоритму I? См. пункты 2 и 1.


                                                                                              0
                                                                                              Как мы определим, что это — интеллект?
                                                                                              Дадим ему задачу доказать, что он — интеллект.
                                                                                                0
                                                                                                println!(«Так как люди ещё не пришли к единому мнению, что такое интеллект. Определим интеллект как этот алгоритм. QED.»)
                                                                                                  0
                                                                                                  Так можно докопаться до любого слова с не до конца ясной семантикой. То есть — до любого слова естественного языка. Однако это не значит, что слова естественного языка бессмысленны.

                                                                                                  Можно спорить о том, допустим, является ли манга разновидностью комикса. Однако найдётся довольно много вещей, которые разновидностью комикса точно не являются. Клубень картофеля. Вертикальная асимптота. Тропосфера.

                                                                                                  Я к тому, что по поводу вашего алгоритма люди к более-менее единому мнению таки придут)
                                                                                                    +1
                                                                                                    Я к тому, что по поводу вашего алгоритма люди к более-менее единому мнению таки придут)

                                                                                                    Ага. А если использовать основанное на интуиции определение доказательства наличия интеллекта, то получим тест Тьюринга. Для прохождения которого нужно решать одну задачу — имитировать речевое поведение человека. Или это не одна задача, а множество задач одного вида "ответить на реплику"? Или множество задач разных видов "ответить на конкретную реплику"?


                                                                                                    В общем, не вижу особого смысла придумывать определения интеллекта, отграничивающие существующие реализации ИИ от человеческого И. Лучше уж находить способы реализации того, что люди умеют делать, а ИИ ещё нет — заодно получается конструктивное определение интеллекта.

                                                                                      +1
                                                                                      Так какую «одну и ту же задачу» тут сеть решала?
                                                                                      И как?

                                                                                      Сеть решать одну какую-то конкретную задачу не учили (не программировали и даже обучающих выборок с играми других людей/машин для примера не давали). Дали правила игры в шахматы — и она научилась играть в шахматы, причем научилась быстро и играет лучше всех в мире.

                                                                                      Дали правила игры в Го — научилась отлично играть в Го, так же лучше всех и лучше чем играла предыдущая версия (которая училась не сама, а ее учили с использованием внешних данных, причем учили в сотни раз дольше).
                                                                                      Дали правила игры в Сеги — научилась отлично играть в Сеги.

                                                                                      Задачи то как раз были изначально «незнакомые». Все что давали программе — это правила конкретной игры и цель, которой нужно достигнуть. А дальше все сама.

                                                                                      Так что если задача одна — то это задача класса «учиться решать задачи». Пока не в общем виде конечно, т.е. вообще любые задачи. А из некоторого довольно узкого класса задач (логические игры с относительно простыми правилами, но слишком сложными для решения их методом перебора).
                                                                                      Но именно быстро учиться решению новых задач. Что одно из ключевых элементов интеллекта.
                                                                                        +1
                                                                                        Вот только опыт научившейся играть в сеги сети никак не может использоваться для игры в шахматы. У человека по-другому. Или например, нельзя сеть для го легко научить решать цуме-го, хотя для человека все очевидно.
                                                                                          +1
                                                                                          У человека по-другому.

                                                                                          Гроссмейстер сразу может играть в го на уровне 9-го профессионального дана?


                                                                                          Или например, нельзя сеть для го легко научить решать цуме-го

                                                                                          Вроде бы никто не спорит, что AlphaZero это ещё не полноценный универсальный интеллект. Люди иногда умеют замечать, что задачу можно сильно упростить и свести к использованию уже обученной нейросетки в своей голове, или упростить до такой степени, что можно использовать медленный универсальный перебор вариантов. Существующие сети этого не умеют. Но это не значит, что они не имеют никакого отношения к интеллекту, и не будут использоваться как составная часть универсального ИИ.

                                                                                            0
                                                                                            Где по другому? Чемпион мира по Го не будет играть на уровне гроссмейстера в шахматы. Если вдруг никогда раньше в шахматы вооще не играл, то сначала вообще никак не сможет — для начала хотя бы нужно будет изучить правила и несколько раз попробовать. После этого будет играть чуть лучше любителя — а чтобы играть на уровне чемпиона по шахматам, ему нужно будет время сравнимое с тем, которое потратил когда учился играть в Го на уровне чемпиона.

                                                                                            Опыт накопленный по конкретной игре для этого алгоритма действительно бесполезен. А вот формализованный «опыт» о том как быстро учиться новым еще неизвестным играм — очень полезен, хотя он был получен как побочный продукт обучения конкретной игре.
                                                                                            Насколько полезен, что новая программа используя этот опыт (в которую из старой перекочевал не сам опыт по конкретный игре — Го, а только опыт о том, как быстро и эффективно учиться) освоила Го, Шахматы и Сеги с нуля и до намного более высокого уровня, быстрее/с меньшими затратами ресурсов чем предыдущая тренировалась играть в одну конкретную игру.
                                                                                              0
                                                                                              Кстати, Дэн Харрингтон выиграл кубок мира по нардам, а затем стал одним из лучших в мире игроков в покер (чемпион мира + 4 (!) выхода в финал). Это я еще молчу о том, что он не только в техасском холдеме отличился.
                                                                                                0
                                                                                                Сложно сравнивать нарды и покер с шахматами, го и другими играми с полной информацией, как по мне.
                                                                                                А по поводу возможности сильного игрока в шахматы сильно играть в другую игру — вот, к примеру, Рашид Гибятович Нежметдинов — международный мастер по шахматам, мастер спорта по шашкам. К сожалению, в шахматах так и не смог подняться до гроссмейстера, хотя играл на гроссмейстерском уровне.
                                                                                                Или вот Василий Иванчук:
                                                                                                В 2010-х годах увлёкся шашками. В 2015 году участвует в своем первом международном турнире по международным шашкам — Heerhugowaard Open 2015, где участвует 25 международных гроссмейстеров, а в 2016 на чемпионате Европы.

                                                                                                Спортсмены — шахматисты и шашисты.
                                                                                                  0
                                                                                                  Сложно сравнивать нарды и покер с шахматами, го и другими играми с полной информацией, как по мне.

                                                                                                  Зато легко сравнивать способность человека строить удачные абстракции с полным отсутствием этой способности у всех ныне существующих программ.
                                                                                            0
                                                                                            Обладает ли интеллектом машина Зенона?
                                                                                              0
                                                                                              Дали правила игры в шахматы — и она научилась играть в шахматы, причем научилась быстро

                                                                                              Миллионы итераций это разве быстро? Лучшие шахматисты становятся лучшими за гораздо меньшее число повторений.


                                                                                              не программировали и даже обучающих выборок с играми других людей/машин для примера не давали

                                                                                              "Дать правила" это вариант программирования. В Wiki прям так и написано "AlphaZero has hard-coded rules". Неважно, свои игры или чужие, если есть запрограммированная функция оценки.


                                                                                              Это не совсем то же самое, что сказать человеку "конь ходит вот так, ладья вот так". Проявление интеллекта именно в извлечении понятий из входной информации — названия фигур, возможные ходы, структура и ограничения доски.
                                                                                              Тем же образом человек может выявить повторяющиеся ходы, описать текстом и дать название (атака, гамбит). В AlphaZero (насколько я понимаю) любая последовательность ходов это часть нейросети, из которой нельзя выделить главное и описать словами.


                                                                                              Так какую «одну и ту же задачу» тут сеть решала? И как?

                                                                                              Двигать фишки в соответствии с заложенными правилами, максимизируя заложенную функцию оценки.

                                                                                                +1
                                                                                                Лучшие шахматисты становятся лучшими за гораздо меньшее число повторений.

                                                                                                Лучшие шахматисты ещё и растут и обучаются (пока минимум 12 лет 7 месяцев до уровня гроссмейстера).


                                                                                                Лучшие шахматисты становятся лучшими за гораздо меньшее число повторений.

                                                                                                Но они не становятся лучшими. Сейчас сделать ничью против Leela Chess Zero с форой в пешку — это большое достижение.


                                                                                                Двигать фишки в соответствии с заложенными правилами, максимизируя заложенную функцию оценки.

                                                                                                Задача человека: напрягать мышцы, максимизируя функцию оценки, заложенную генами и обществом.


                                                                                                Да, нейросети много чего не умеют, но думать, что можно вот просто так взять и отделить интеллект от неинтеллекта тоже неверно.

                                                                                                  0
                                                                                                  Лучшие шахматисты ещё и растут и обучаются

                                                                                                  Ну а как это влияет на игру в шахматы? Люди, не играющие в шахматы, тоже обучаются, но это не делает их хорошими игроками в первый раз.


                                                                                                  Но они не становятся лучшими. Сейчас сделать ничью против Leela Chess Zero

                                                                                                  Так не вопрос, сколько надо повторений для AlphaZero или Leela, чтобы они играли на уровне лучших людей? Тоже миллионы, просто чуть поменьше.


                                                                                                  максимизируя функцию оценки, заложенную генами и обществом

                                                                                                  Вот в последних словах и начинается интеллект. Каким образом человек может построить функцию оценки и все необходимые для нее понятия, пользуясь только внешней информацией?

                                                                                                  +1
                                                                                                  Я не слышал, чтоб кто то стал лучшим шахматистом (и даже просто разрядником) прочитав правила и играя сам с собой. А игра с партнером, ровно как и по учебнику — это уже обучение с учителем и требует куда меньше итераций.
                                                                                                    0

                                                                                                    Строго говоря, игра человека с партнером это обучение с подкреплением. Ок, сколько надо итераций пусть даже с учителем, чтобы сеть играла на уровне гроссмейстера, есть какие-то материалы на эту тему?

                                                                                                    0
                                                                                                    Миллионы итераций это разве быстро? Лучшие шахматисты становятся лучшими за гораздо меньшее число повторений.

                                                                                                    Можно представить себе упрощенную аналогию — обычная глубокая сверточная сеть для распознавания объекта. Ее можно обучить для распознавания одного класса и она будет работать хорошо. А можно обучить для распознавания миллионов классов. И если вы добавите еще один класс, то вам нужно будет ее просто дообучить, что займет гораздо меньше времени чем обучение с нуля. Это упрощенная аналогия, но, думаю, она близка к истине.
                                                                                                      0

                                                                                                      Извините, я не понял что чему соответствует в этой аналогии. Тут нет миллионов классов, в нейросети уже захардкожены базовые понятия, нужные для игры в шахматы. И человек и машина при обучении узнают одинаково новую для них информацию.

                                                                                                        0
                                                                                                        Здесь нет миллионов классов, поэтому я и написал, что это упрощенная аналогия. Я просто думаю, что если существует сеть, которая умеет решать N похожих задач в рамках какойто топологии, то научить ее решать еще одну задачу можно быстрее, так как уже существует предобученный экстрактор фич, в задачах детекции, распознавания, сегментации это так. Да даже топологию сетки можно менять в процессе обучения, насколько я понимаю. Я не специалист в том, как устроена сеть в игре в шахматы, то, думаю, этот принцип там тоже работает.
                                                                                                      0
                                                                                                      Миллионы итераций это разве быстро? Лучшие шахматисты становятся лучшими за гораздо меньшее число повторений.

                                                                                                      А почему считать нужно в итерациях? Потому что так удобнее?

                                                                                                      Можно в часах — и тут превосходство кардинальное. Общее время тренировки измеряется в неделях, но вот уровень лучших среди людей был достигнут уже всего за несколько часов с момента начала обучения. Т.е. с полного нуля до уровня чемпиона мира — за несколько часов.
                                                                                                      Это очень быстро, как ни крути.

                                                                                                      Или в разрезе произведенных выч. операций — в мозгу их происходит гораздо больше. Правда с крайне низкой эффективностью с точки зрения решения конкретной задачи, но элементарных операций мозг выполняет на несколько порядков больше, чем в использовавшимся компьютерном железе. А достигнутый мозгом результат при этом — намного слабее.

                                                                                                      Или даже в терминах затраченной энергии — там конечно кластер из неск. тысяч TPU при обучении трудился(для самой игры потом достаточно на 2 порядка меньших ресурсом), жрущий десятки кВт мощности при работе. Но за те несколько часов (нужных до достижения уровня чемпиона мира) энергии он израсходовал намного меньше, чем тратит человеческий мозг (не говоря уже про тело целиком — берем только мозг) за годы обучения необходимые до достижения уровня чемпиона.
                                                                                                      Так что и в энергетическом выражении тоже очень быстро/эффективно обучение шло.
                                                                                                        –2
                                                                                                        А почему считать нужно в итерациях? Потому что так удобнее?

                                                                                                        Ну потому что люди сильно ограничены физическими параметрами. Если бы можно было играть в шахматы не затрагиваю усилий, не отвлекаясь на восполнение энергии, люди тоже намного быстрее обучались.
                                                                                                        Или в разрезе произведенных выч. операций — в мозгу их происходит гораздо больше

                                                                                                        И, вероятно, подавляющее большинство из них не связано с шахматами. Нужно распознавать изображение, распознавать звук, регулировать дыхание, сердцебиение, управлять мышцами, анализировать информацию от кожи и так далее. Я думаю, что если бы можно было заточить весь мозг под шахматы, то АльфаЗеро и Стокфиш 10 продули бы 100 партий из 100 без единого шанса.
                                                                                                          0
                                                                                                          А почему считать нужно в итерациях? Потому что так удобнее?

                                                                                                          Потому что они не зависят от быстродействия, а показывают логику. Что если мы сделаем алгоритм, аналогичный человеку, и запустим его на железе AlphaZero? Он обучится быстрее, чем AlphaZero, по всем указанным вами параметрам.

                                                                                                            0
                                                                                                            > Он обучится быстрее, чем AlphaZero, по всем указанным вами параметрам.

                                                                                                            Есть вероятность, что он тогда и играть будет также хорошо как и человек.
                                                                                                              0
                                                                                                              Нет, он не обучился бы быстрее. От него устанут ждать когда он хотя бы «проснется» и объяснять задачу, до убучения и дело не дошло бы. Т.к. железа этого уровня крайне мало для моделирования алгоритма аналогичного «вычислениям» происходящим в мозге.

                                                                                                              Точнее из-за ограничений по объемам памяти это вообще невозможно. Но если бы не они, а только по выч. возможностями судить — это было бы минимум порядка на 3 медленнее реального времени у обычного живого человека. Т.е. много лет работы железа на самую первую интерацию — понять и запомнить правила игры и сыграть хотя бы 1 пробную партию. Это если предполагать перенос не только алгоритма но и всех общечеловеческих знаний, когда учиться нужно только конкретной игре.

                                                                                                              Человеческий мозг давит вовсе не эффективностью алгоритмов мышления и обучения, а тупо количествами — имеющихся в распоряжении логических элементов и объемов памяти/связей между ними, намного превосходящим все возможности современного компьютерного железа.
                                                                                                                +1

                                                                                                                Стоп-стоп. Я нигде не говорил, что он должен спать, или имитировать другие биологические особенности. Или иметь все знания, которые имеет человек. Я говорил о принципах обработки информации. Почему в AlphaZero правила заложены программно, а в этом интеллекте вы предлагаете обучать с нуля? Так же закладываем правила, но применяем алгоритм, который обучается за тысячи итераций.


                                                                                                                Человеческий мозг давит вовсе не эффективностью алгоритмов мышления и обучения, а тупо количествами

                                                                                                                Вы никаким количеством логических элементов в AlphaZero не добьетесь, чтобы он вместо миллионов итераций обучался на тысячах.

                                                                                                                  0
                                                                                                                  > чтобы он вместо миллионов итераций обучался на тысячах.

                                                                                                                  Вот, скажем, Магнус Карлсен поднял ELO с 2000 до 2800 за 10 лет. AlphaZero поднял ELO c 2000 до 2800 примерно за 100 тысяч итераций. 100 000 / 3650 ~= 27 итераций в день. Просмотреть интересные вариации в 27 партиях за день, вроде как в пределах возможностей человека.

                                                                                                                  Впрочем, вру. Одна итерация AlphaZero — это не анализ одной партии. Но и что происходит в мозгах при обучении тоже пока неизвестно, может быть люди подсознательно тысячи ходов генерируют, посмотрев на шахматную позицию.
                                                                                                              0
                                                                                                              Или даже в терминах затраченной энергии — там конечно кластер из неск. тысяч TPU при обучении трудился(для самой игры потом достаточно на 2 порядка меньших ресурсом), жрущий десятки кВт мощности при работе.

                                                                                                              Надо же тогда еще учесть tdp во время игры. Если человек на ход тратит 25вт*длительность хода, то такие же ограничения и на альфазеро, это во-первых.


                                                                                                              Во-вторых, при обучении 5000 tpu по 40вт энергопотребление будет выше в 8333 раза, чем у мозга, с-но один час обучения альфазеро идет примерно как год у игрока, так что тут альфазеро тоже в пролете, человек учится быстрее

                                                                                                                0

                                                                                                                Всё это очень благородно — fair play, равные условия. Но все эти игры — это подготовка к использованию ИИ в реальном мире. Никто не будет сажать управляющие системы на 25 ватт, или ограничивать им реакцию до возможностей человека, чтобы у работников-людей были равные возможности.


                                                                                                                Кстати, сегодня в 21:00 GMT DeepMind будет демонстрировать систему, играющую в StarCraft 2: неполная информация, реальное время, ещё большее пространство поиска чем в Го. https://www.youtube.com/c/deepmind

                                                                                                                  0
                                                                                                                  Никто не будет сажать управляющие системы на 25 ватт, или ограничивать им реакцию до возможностей человека, чтобы у работников-людей были равные возможности.

                                                                                                                  Правильно, никто не будет. Просто современные программы превосходят человека в некоторых играх за счет грубой силы, а не интеллекта. В реальном мире эта грубая сила в общем случае не поможет.
                                                                                                          –2
                                                                                                          Интеллект — это способность решать незнакомые задачи.

                                                                                                          Ну здрасьте, тогда, выходит, человек интеллектом не обладает :)

                                                                                                            0
                                                                                                            Ну развейте, что ли, свой оригинальный и провокационный тезис.
                                                                                                              0

                                                                                                              Человек не может решать незнакомые задачи, интеллект = умение решать незнакомые задачи => человек не обладает интеллектом


                                                                                                              вроде просто все, чего тут раскрывать?


                                                                                                              И это не мой тезис, это тезис комментатора выше. Я-то с ним как раз не согласен :)

                                                                                                                +3
                                                                                                                Сейчас я приведу в пример какие-нибудь интегралы.
                                                                                                                Вы скажете, что человек не умеет разгибать интегралы, пока его не научат.
                                                                                                                Я скажу, что когда-то не было самого понятия интеграла, а потом появилось. И первому, кто проинтегрировал функцию, не у кого было этому научиться.
                                                                                                                Вы скажете, что интегральное исчисление появилось не на пустом месте, а в результате решения серии задач, каждая из которых была более-менее знакомой.
                                                                                                                В итоге сойдёмся на том, что «знакомость» — не бинарная характеристика, а мера вхождения в нечёткое множество.
                                                                                                                Вы предложите уточнить, начиная с какой именно меры задачи считаются достаточно незнакомыми, чтобы их решение было признаком интеллекта.
                                                                                                                Я скажу, что вы зануда.
                                                                                                                  +1

                                                                                                                  Отлично, но нельзя рассуждать о терминологии (что вы и сделали в посте с определением интеллекта) и не быть занудой :)


                                                                                                                  Ну и да, альфазеро, формально, может учиться решать любые шахматоподобные игры. Это считается за "незнакомые"?

                                                                                                                    +1
                                                                                                                    Занудство в рассуждениях о терминологии вредно в двух случаях:

                                                                                                                    1. Область знания, которой принадлежит термин, не готова к точным формулировкам и количественным оценкам, однако рассуждать «на пальцах» уже хочется.
                                                                                                                    2. Рассуждения происходят в комментах на хабре =)
                                                                                                          +6
                                                                                                          image
                                                                                                            +6
                                                                                                            Не могу одобрить вот это стремление начинать отбивать поклоны боженьке при звуках грома. «Программа демонстрирует мышление», ишь ты.
                                                                                                            Видимо, психике свойственно приписывать человеческое тому, чего понять не получается.
                                                                                                            Есть неплохая документалка AlphaGo, рассказывающая, как этот алгоритм победил Ли Седоля в матче из пяти игр. К сожалению, создатели фильма тоже отчасти не избежали этого дешевого соблазна поиграть на стремлении обывателя к очеловечиванию непонятного. Хотя вот они, разработчики, на камеру вам на пальцах пытаются объяснить, что магии никакой нет.
                                                                                                              +2
                                                                                                              Тут ведь понимаете какая штука, в человеческой черепной коробке тоже никакой магии нет (ну, если не рассмотривать религиозную точку зрения).
                                                                                                                0
                                                                                                                скорее всего, вообще нигде магии нету в мире, тут я согласен)
                                                                                                                тут, конечно, неплохо бы дать определение термину «мышление», чтобы уже от него плясать в вопросе, мыслит ли АльфаЗиро или нет. Моя претензия к статье не из области терминологии, а в том, что сознательно делается попытка поставить знак равенства между созданным конкретными людьми на сто процентов понятным (ок, не всем, но некоторым) алгоритмом, и далеко не на сто процентов понятным и гораздо более сложным устройством человеческого мозга. Я не говорю, что в мозге магия, но, очевидно, порядок сложности системы там абсолютно другой.
                                                                                                                  0
                                                                                                                  Вот такое
                                                                                                                  Она играла непохоже ни на один компьютер, интуитивно и красиво, с романтическим атакующим стилем. Она играла гамбиты и рисковала. В некоторых играх она парализовала Stockfish и игралась с ней.

                                                                                                                  Было похоже на то, будто бы AlphaZero ждёт, пока Stockfish после миллиардов перебранных комбинаций догадается, насколько безнадёжна её позиция, расслабится и мирно сдастся как поверженный бык перед матадором.

                                                                                                                  Это как раз «магия нейросетей». Сеть училась игре в шахматы, а не социальным взаимодействиям, и тем не менее люди готовы их увидеть даже там, где их в принципе быть не может. Сама идея «играться с оппонентом» лежит вне плоскости «максимально эффективной игры машины с машиной», ей просто не откуда взяться.
                                                                                                                  0
                                                                                                                  Это уже совершенно не этот алгоритм, а новый — Alpha Zero.
                                                                                                                  Не просто обновленная/отполированная версия. Совсем другой и учившийся принципиально по другому — без опоры на опыт и знания людей, с «чистого листа» из первичных принципов.

                                                                                                                  При этом сильно превосходящий не только всех живых игроков, но и собственно AlphaGo о котором рассказывается в фильме. Alpha Zero обыгрывает AlphaGo «в сухую» не давая ей шанса — турнир между ними закончился со счетом 100:0. Хотя ресурсов на самообучение потратила наоборот на порядок меньше.
                                                                                                                    0
                                                                                                                    Ни в статье, ни в комментариях IMHO не сказано главного о нейросетевых игровых программах. А именно то, что в основе их лежит старый добрый алгоритм Monte Carlo Tree Search (MCTS), в который ищет лучший ход в текущей позиции на основе запуска множества розыгрышей, каждый ход в котором выбирается случайно, до тех пор, пока розыгрыш не завершится матом/патом/ничьёй/повторением позиции. После каждого розыгрыша ищется первая ранее не рассмотренная позиция, информация о ней и результате розыгрыша добавляется в базу, по уже имеющимся в базе позициям, встретившимся в текущем розыгрыше, обновляется статистика. Это позволит при будущих розыгрышах рассматривать чаще более перспективные ходы. По результатам множества розыгрышей выбирается ход, который в текущей позиции обладает лучшей статистикой по выигрышам.
                                                                                                                    Команда AlphaZero улучшила алгоритм MCTS: во-первых, при генерации каждого хода для розыгрыша учитывается его вероятность, которая формируется обученной нейросетью. Это позволяет значительно проредить дерево возможных вариантов и повысить качество поиска. Во-вторых, другая нейросеть может оборвать текущий розыгрыш в ситуации, где «всё уже понятно», сэкономив тем самым процессорное время (не знаю, применяется ли эта эвристика для шахмат).
                                                                                                                    Это не совсем то же самое, что «программе дали только правила игры, всему остальному она научилась сама». А сравнение скорости перебора с программой Stockfish вообще как сравнение яблок с апельсинами.
                                                                                                                    P.S. Поправьте меня пожалуйста, если где-то наврал.
                                                                                                                      +1
                                                                                                                      А разве альфа-бета-отсечение уже не является основным методом в играх?
                                                                                                                        0
                                                                                                                        Смотря в каких. Например, в Го альфа-бета уступает MCTS из-за более широкого дерева возможных вариантов, в шахматах и шашках пока что лидирует альфа-бета, но это может в скором времени измениться
                                                                                                                          0
                                                                                                                          в шахматах и шашках пока что лидирует альфа-бета, но это может в скором времени измениться

                                                                                                                          Уже не лидирует. AlphaZero и Leela Chess Zero обыгрывают Stockfish.

                                                                                                                            0
                                                                                                                            Ссылку на доказывающие это материалы можете предоставить? Заявления Google не в счет. Под словом Stockfish вы имеете в виду Stockfish 10?
                                                                                                                              0

                                                                                                                              Вот, например, Leela ID 11198 vs Stockfish 9. Не от гугла.


                                                                                                                              Stockfish 10 выпустили 2 месяца назад. Данных пока маловато. И следует учитывать, что Leela Chess Zero — community project, вычислительную мощность обеспечивают шахматные энтузиасты с подходящими системами и видеокартами, а их не так уж и много.

                                                                                                                                0
                                                                                                                                Матч из 10 партий не может являться даже нестрогим доказательством, поэтому соглашусь с Вами, данных пока маловато.
                                                                                                                                  0
                                                                                                                                  Вообще то чемпионат мира по шахматам среди людей, это всего 12 партий. Считают достаточным.
                                                                                                                                    0
                                                                                                                                    А физики-ядерщики для проверки своих гипотиз используют критерий достоверности пять сигма. Такие критерии строгости для шахмат означали бы необходимость проведения матчей из миллионов или десятков миллионов партий. Кто прав?
                                                                                                                                      0
                                                                                                                                      Тот кто лучше разбирается в шахматах, наверно.
                                                                                                                                        0
                                                                                                                                        Это вопрос соотношения сигнал/шум. И еще терминологии. Грубо говоря, «чемпион мира по шахматам» это спортивное достижение, оно не означает «самый сильный игрок», просто играя по турнирным правилам он в этот раз одержал победу.

                                                                                                                                        Ну и еще вопрос важности правильного результата, ошибочный результат при проверки гипотезы может завести ядерную физику в тупик или надолго перекрыть правильный путь (стоимость эксперимента в настоящее время довольно велика). А спорт это практически всегда мастерство + везенье.
                                                                                                                                          0
                                                                                                                                          Полностью согласен с Вами, чемпион не значит сильнейший. Я лично считаю вопрос доминирования нейросетевых шахматных программ достаточно важным, и доверять матчам из 10 партий не буду. Оценка погрешности определения силы при таком матче около плюс-минус 160 Эло по уровню два сигма.
                                                                                                                                          +1
                                                                                                                                          Не означали бы. Скажем если одна программа выиграла 22 раза подряд, то она сильнее как раз с достоверностью чуть более чем 5 сигма.
                                                                                                                                            0
                                                                                                                                            Спасибо за совершенно справедливое замечание. Мне следовало бы дополнить своё предложение фразой «в случае примерного равенства в силе соперников».
                                                                                                                                              0
                                                                                                                                              КМК еще очень важно ширина «плато» ничейного исхода игры. В играх имеющие ничейный исход, часто невозможно установить победителя. Пример — крестики нолики на доске 3х3, нейросети могут ну очень долго находиться в состоянии «примерного равенства». В противовес, скажем, марафонцам с фотофинишем. Вероятность ничьи крайне мала.

                                                                                                                                              Я не знаю, как велико «плато» в шахматах, но 48 партий при 40 ничейных, в поединке Карпов Каспаров как бы символизируют.
                                                                                                                                                0
                                                                                                                                                Шахматы — ничейная игра. Это говорят многие гроссмейстеры-комментаторы.
                                                                                                                                                Как пример в (уже упоминавшемся) матче из 1000 партий двух топовых движков, в 839 партиях была зафиксирована ничья. Это программы, которые всегда играют на победу! Ничья повторением ходов двух программ практически невозможна, договорняков нет. И 83,9% ничьих.
                                                                                                                                                  0
                                                                                                                                                  Почитал, интересно, как они считают время и вообще корректно ли это? КМК нужен какой то иной аналог времени на партию, для игр комп-комп. Киловатт-часы что ли… Иначе больший шанс на победу будет у того, кто купил больше железа (шахматный рассчет хорошо распараллеливается)
                                                                                                                                                    0
                                                                                                                                                    Время считают как обычно: ход белых — у них идет время. Программа сама решает, когда прекратить считать и сделать ход. Черные в это время тоже считают, но разные алгоритмы + наличие случайности приводят к тому, что черные могут неправильно предсказать ход белых и придется пересчитывать. По-моему, программы пересчитывают всегда, но ручаться не буду — не вникал в детали.
                                                                                                                                                    Чтобы все были в равных условиях, организаторы запускают программы на одинаковых, но разных машинах. До эпохи нейросетей все программы считали на CPU, железо одинаковое, поэтому простого лимита времени хватало. AlphaZero использует GPU или даже TPU, и определить вычислительное равенство затруднительно. Так как разные не только архитектура, но и подходы программ, энергия или скорость перебора позиций не могут однозначно говорить о вычислительном равенстве.
                                                                                                                                                      0

                                                                                                                                                      Пару примеров, какие мощности задействованы.
                                                                                                                                                      Постоянный чемпионат по компьютерным шахматам(CCC) использует:


                                                                                                                                                      • CPU engines:
                                                                                                                                                        CPUs: 2 x Intel Xeon Platinum 8168 @ 2.70 GHz 33 MB L3
                                                                                                                                                        Threads: 90 threads with HT on
                                                                                                                                                        16384 MB hash
                                                                                                                                                        RAM: 256GB DDR4-2666 ECC Registered RDIMM
                                                                                                                                                        SSD: 2x Crucial MX300 (1TB) in RAID1
                                                                                                                                                        OS: CentOS 7
                                                                                                                                                      • GPU engines:
                                                                                                                                                        GPU: 4x RTX 2080ti (44 GB GPU memory)
                                                                                                                                                        CPU: 2x Intel Xeon Gold 6154
                                                                                                                                                        Cores: 36 physical
                                                                                                                                                        RAM: 96 GB

                                                                                                                                                      Я смотрел пару партий. За минуту-другую движок может посчитать на десяток-другой ходов, и это в середине игры, когда количество осмысленных вариантов максимально.


                                                                                                                                                      Второй пример. DeepMind запускал свою последнюю серию игр AlphaZero на


                                                                                                                                                      один компьютер с четырьмя ТПУ (тензорных процессоров — специализированных интегральных схем для работы искусственного интеллекта) и 44 ядрами ЦПУ

                                                                                                                                                      Это для игры, для обучения же использовалось 5000 ТПУ вначале, потом 16 ТПУ.


                                                                                                                                                      Противник — Stockfish — использовал 44 ядра ЦПУ.


                                                                                                                                                      В распоряжении Stockfish был хэш размером 32ГБ и семифигурные эндшпильные таблицы.

                                                                                                                                                      Про хэш не знаю, а эндшпильные таблицы — это предварительно рассчитанные оптимальные ходы в конце игры. Грубо говоря, когда на доске осталось 7 фигур (из них 2 короля), Stockfish точно знает кто победит и как это сделать.


                                                                                                                                                      Также упоминается, что в некоторых партиях Stockfish играла с дебютными книгами — заранее подготовленными первыми ходами.

                                                                                                                                                        0
                                                                                                                                                        Странно, дебютная библиотека довольно давнее изобретение для компьютерных программ. Еще во времена 486ых машин я ставил дебютные библиотеки для какой то программы и можно было выбрать, какой дебют она будет играть.

                                                                                                                                                        Кстати, интересно, а добавил ли брутфорс какие нибудь новые, «нечеловеческие» интересные дебюты, либо неожиданное (более эффективное) развитие старых.
                                                                                                                                                          0
                                                                                                                                                          Кстати, интересно, а добавил ли брутфорс какие нибудь новые, «нечеловеческие» интересные дебюты

                                                                                                                                                          Нет. Брутфорсом нельзя просчитать все варианты развития партии. Так что альфа-бета шахматный движок не может сказать: "Не смотря на все эвристики, что вы мне дали, вот этот дебют — выигрышный, хотя его оценка после расчета 40 полуходов ниже других".


                                                                                                                                                          Для нейродвижков такие вещи возможны, так они сами формируют свои эвристики. И их оценка начальных позиций может отличаться от оценок людей. Но шахматы оказались слишком хорошо изучены, так что новых дебютов не обнаружилось.

                                                                                                                                            0
                                                                                                                                            Последние два раза этого не было достаточно. Проводились дополнительные партии, уже с другим регламентом (меньше времени на партию).
                                                                                                                                            После последнего чемпионата один из участников говорил, что 12 это маловато, «мы могли бы сыграть и больше» и что 14 или 16 партий было бы самое то.
                                                                                                                                            0
                                                                                                                                            Через четыре дня на TCEC будет матч между Lc0 (Antifish) и Stockfish 10. Думаю будет интересно. Сейчас в чате уговаривают автора Antifish добавить к ней дебютную книгу… Уговорили.
                                                                                                                                              0
                                                                                                                                              Antifish is Lc0, trained specifically to exploit weaknesses in Stockfish

                                                                                                                                              Мне кажется, при специальной заточке против конкретного противника победа гарантирована. Можете объяснить, в чем интрига и интерес?

                                                                                                                                                0

                                                                                                                                                Почему это победа гарантирована? У Stockfish эвристики оттюненые с использованием 1675.40 лет процессорного времени (http://tests.stockfishchess.org/users), много разработчиков, которые думают как улучшить результаты (в том числе и против нейросетевых движков).


                                                                                                                                                Antifish-же сыграла несколько сотен тысяч партий против Stockfish и всё. Далеко как-то от заточки, скорее изучение противника.

                                                                                                                                                  0

                                                                                                                                                  То есть Antifish натаскали не так сильно, так что у противника шансы есть?

                                                                                                                                                    0
                                                                                                                                                    Сами партии вас не интересуют? Сильнейшая оптимизированная альфа-бета числодробилка в которую вложена куча знаний профессиональных шахматистов против самообученой нейросети.
                                                                                                                                                      0

                                                                                                                                                      Ну вот только сегодня посмотрел партию AF vs SF с пятью ферзями на доске. Да, интересно и неожиданно, а значит зрелищно.


                                                                                                                                                      Мой вопрос был про само соревнование: зачем устраивать, если результат предрешен. Ваш предыдущий комментарий объяснил, что я ошибаюсь и исход может быть любым.


                                                                                                                                                      То есть Antifish натаскали не так сильно, так что у противника шансы есть?

                                                                                                                                                      Я переспросил, просто чтобы убедиться что правильно вас понял. Никаких подсмыслов :-)

                                                                                                                                                        0
                                                                                                                                                        зачем устраивать, если результат предрешен

                                                                                                                                                        А, ясно. Но понять в этом смысле было сложно. Соревнования и устраивают, чтобы не приходилось верить на слово: "Мы тут Лилу так натаскали, что закрывайте TCEC".


                                                                                                                                                        Stockfish 10 очень сильна — добралась до рейтинга 3600, который некоторые считали "божественным" (рейтинг оптимального игрока).

                                                                                                                                                          0
                                                                                                                                                          Неожиданный поворот — Stockfish проиграл Houdini в полуфинале TCEC! Заточка не пригодилась. Теперь Leela будет уничтожать Houdini и Komodo.
                                                                                                                                          0
                                                                                                                                          legacy-tcec.chessdom.com/archive.php

                                                                                                                                          Leela Chess Zero чемпион TCEC Cup 2 без единого поражения. Stockfish правда раньше выбыл, но немного позже будет суперфинал.
                                                                                                                                            0

                                                                                                                                            Мои поздравления команде LC0, нейросетевые движки за последний год совершили прорыв в компьютерных шахматах. Хорошо еще нашлись бы люди с ресурсами, достаточными для проведения матча с одной из сильнейших альфа-бета программ длительностью около 2500 партий. Тогда бы снялись все вопросы по поводу who is who.

                                                                                                                                    0
                                                                                                                                    информация о ней и результате розыгрыша добавляется в базу, по уже имеющимся в базе позициям, встретившимся в текущем розыгрыше, обновляется статистика.

                                                                                                                                    Не "добавляется в базу", а "используется для прогона алгоритма обратного распространения ошибки в многоуровневой сети нелинейных элементов" также известном как "алгоритм глубокого обучения". Нейросетка — это скорее не база данных со статистикой выигрышей/проигрышей (как вы из базы данных вытащите статистику по не встречающейся ранее позиции, которых в го большинство?), а функция эвристической оценки позиции, обученная на статистике выигрышей/проигрышей. Причём эта статистика получена с использованием предыдущей версии функции оценки позиции.


                                                                                                                                    По результатам множества розыгрышей выбирается ход, который в текущей позиции обладает лучшей статистикой по выигрышам.

                                                                                                                                    Большинство позиций в го никогда не встречались ранее (пространство поиска слишком большое), так что никакой статистики по ним нет. Нейросетка выделяет какие-то закономерности в позициях, позволяющие ей неплохо (по экспериментальным результатам) оценивать вероятность выигрыша в данной позиции.

                                                                                                                                +6
                                                                                                                                В науке, знаковом занятии людей, наша роль свелась бы к роли наблюдателей, взирающих на происходящие в изумлении и смятении.
                                                                                                                                Вот интересно, а прямо сейчас сколько процентов наших именно такую роль по отношению к науке и исполняют: 97%, 98%, 99%…? И что-то подсказывает мне, что большинство из них это вообще не напрягает.
                                                                                                                                  0
                                                                                                                                  Ну в США степень PhD или выше (их можно боле-менее отнести к науке) имеет около 3% населения. Навскидку, во всем мире, не будет и полпроцента…
                                                                                                                                  +2
                                                                                                                                  Не понимаю шума вокруг очередного инструмента для решения задач. Ок, этот алгоритм может играть в шахматы лучше человека. Ок, предположим, что развитие этого алгоритма что-то там докажет или найдёт, что человек «в уме» не может найти или доказать.
                                                                                                                                  Но чем это отличается, например, от алгоритма расчёта траекторий для посылки зондов на Марс? Человек тоже не может это сделать «в уме». Но я не видел учёных из NASA, которые посыпают свои головы пеплом по этому поводу.
                                                                                                                                  Если перейти на более приземлённый уровень, то я не видел пользователей смартфонов, которые печалятся от невозможности «в уме» демодулировать сигналы сотовой связи или просчитать алгоритмы, по которым бьютификатор делает их селфи более красивыми.
                                                                                                                                    0
                                                                                                                                    Шум тут потому что это будет не инструмент для решения задач, а нечто, способное принимать самостоятельные решения.