Как стать автором
Обновить

Комментарии 208

После второй игры практически не осталось сомнений в том что AlphaGo победит. Ждем 5:0.
5:0 не будет, насколько я понимаю, 3:0 из пяти — это чистый выигрыш.
Тогда зачем они доигрывают две игры?
По условиям матча игры играются все, даже если кто-то побеждает досрочно.

Конечно, полностью не исключена возможность, что Ли Седоль просто откажется играть оставшиеся партии.На сегодняшней пресс-конференции он выглядел нервозным и подавленным, может и примет какое-то эмоциональное решение. Однако вроде неджентельменское поведение за ним никогда не замечали.
На мой взгляд ему надо принять поражение и с достоинством, в полную силу, доиграть две игры. Терять-то уже нечего, а показать ещё можно что-то.
С одной стороны, азиаты в целом менее скандальны чем западные игроки и более склонны с честью вести себя в неблагоприятных ситуациях и взяв на себя обязательства, принять бой до конца. Игровой этикет возведен в ранг культа, неуважение к сопернику = неуважение к самой игре.

Так что, лично я верю, что Седоль матч доиграет.

С другой стороны, к примеру, в истории японского го были случаи, когда молодые гении громили представителей старой школы и матчи прекращались досрочно дабы "не наносить дальнейший вред здоровью и репутации уважаемого сенсея" :)
Третья игра и так была сыграна в полную силу.
Я и не спорю.
Интересно, насколько программа превосходит человека. Можте, пора играть с форой?
Хотелось бы всё таки ещё матча с 9-м даном, играющим в сугубо позиционном ключе. Седоль — игрок атакующего стиля, но в комбинационных осложнениях вряд ли человек сможет пересчитать компьютер в какой-либо из игр.

Если AlphaGo и Ли Чхан Хо также разгромно обыграет, то тогда вопрос о том, кто играет в го сильнее — люди или компьютеры — можно считать закрытым.
Если учесть скорость, с которой могут развиваться программы, то вопрос кто сильнее уже не должен больше возникнуть. И, кстати, хотелось бы знать как быстро развиватеся AlphaGo. Скажем, наскольно сильнее она стал играть за месяц самообучения? Если это возможно адекватно оценить.
НЛО прилетело и опубликовало эту надпись здесь
Атакующий стиль (практически в любой игре) — это, утрировано говоря, жертвы-комбинации-ловушки-тактические_удары и т.п. Здесь на первый план выходит расчёт и перебор вариантов, а считают компьютеры, несомненно, лучше людей. Цели атакующих действий в большинстве случаев очевидны, комбинационные угрозы поддаются точному оцениванию. Влияние комбинационных факторов обычно раппостраняются не на всё игровое поле, а только частью его.

Другое дело — не тактический, а стратегический стиль. Позицинный перевес может пригодиться в долгосрочной перспективе, до которой компьютер перебором и даже альфа-отсечением не досчитает. Позиционный перевес, как правило, охватывает гораздо большие пространства доски, чем области, на которых происходит локальная тактическая схватка. Позиционные выгоды сложнее оценивать — вплоть до того, что в го можно только интуитивно чувствовать как правильно походить, а вот сформулировать с чем конкретно связаны преимущества хода даже матсера затрудняются. В таких случаях вообще затруднительно заложить точные математические функции в программу для адекватного оценивания тонких нюансов.
По идее, как раз для оценки позиционно перевеса Монте-Карло и хорош.
Так, судя по описанию, AlphaGo как раз и не оценивает математически позиции, не просчитывает ходы, разве нет?
Она просто распознает только ей одной известным образом некоторые позиции как хорошие, а некоторые как плохие, что намного больше схоже именно с "интуитивным" принятием решения. Или я что-то путаю?

Путаете.

AlphaGo как раз постоянно строит оценки позиций, но делает это приближенно, используя два подхода:
1) метод Монте-Карло — пытаемся доиграть позицию дальше "случайным образом"
2) опознаем определенные структурные элементы с помощью нейронных сетей — нейронная сеть возвращает оценку для небольших локальных групп
1) не случайным образом оно доигрывает, а в соответствии с оценками сети политик. То есть наиболее интересные ходы оцениваются раньше наименее интересных (пока не будет обрублено ограничениями по времени и точности). Монте-Карло используется для обхода как раз наиболее привлекательных ходов, а не чего попало.
2) нейросеть возвращает оценку для каждой из позиций доски, позволяя определить наиболее выигрышные с т.з. "интуиции" сети позиции (разработчик назвал это heatmap). Оценка нелокальная: если это Convolutional NN, ни о какой проблеме с локальными/глобальными позициями речи не идёт вообще, т.к. каждый слой такой сети рассматривает всё менее локальные ситуации, а последний должен судить об общей ситуации на доске.

Это то, что я услышал из комментариев во время трансляции. То есть, наибольшей проблемой для такой сети является промах "сети политик", который отсечёт выигрышную ветку. Т.к. сеть рассматривает лишь выигрыш/проигрыш, не стремясь к наибольшему счёту, даже такое отсечение не приведёт к разгромному поражению, будет выбрано второе по эффективности решение, а последующие ходы будут постепенно увеличивать вероятность выигрыша.
NotSure, liddom — согласен с вами обоими и из этого следует что AlphaGo — это прежде всего сильный игрок позиционного стиля.

В таких играх как шахматы или го, позиционный стиль, на практике доказал своё преимущество над комбинационно-атакующим. В конце концов, стратегия выше тактики. Поэтому, наверное, не случайно в соперники выбрали именно Седоля :)

Вот и хотелось бы, чтобы AlphaGo сошёлся с гуру позиционной игры. Дабы увидеть, кто понимает позицию лучше.
Как раз в го агрессивно-атакующий стиль (корейский и примкнувший китайский) доказал свой преимущество над спокойно-позиционным японским стилем.
Чем ближе к верху, тем меньше японцев: http://www.goratings.org
Можно ограничить потребление энергии компьютером, 10 Вт энергии, такой же лимит как у человеческого мозга, вот это будет по настоящему игра на равных :) Если комп «думает» на 10 000 процессорах (а в облаке может больше подключить) и поглощает десятки кВт энергии, это явно не равная игра в энергетическом плане.
Можно наоборот, подвески к человеку десятки кВт энергии. Или выставить против машины сразу десять тысяч человек.
НЛО прилетело и опубликовало эту надпись здесь
Я это к тому, что биологический мозг и кремниевый принципиально отличаются. Если вы думаете, что мозг экономичнее, то почему бы не устроить соревнование в умножении между калькулятором и человеком. Кто будет потреблять меньше энергии в процессе вычислений?
Кстати, для обученной нейросети нужно меньше ресурсов чем для находящейся в процессе обучения? Можно ли обучить ее на 10000 процессорах в облаке, а протом использовать скажем на смартфоне?
Сети, конечно, быстрые при исполнении, но в конкретном случае они выполняются слишком часто, чтобы это хоть отдалённо казалось быстрым. Всё-таки архитектурно современные компьютеры не заточены под нейросети, поэтому мозг по энергоэффективности лучше.

Однако, если мы вводим ограничение на энергопотребление или вычислительные мощности, придётся и для матчей между людьми сравнивать энергопотребление и вычислительные мощности. Будем измерять размер черепа, площадь коры или чего? Как по мне, это дискриминация.
Результаты игр в go тоже дискриминация (ни меня ни вас не пустят играть на международные чемпионаты никогда). Один человек за месяц получает высочайшие результаты (IQ=200), другой всю жизнь может учить правила и не научиться толком играть (IQ=60). Дискриминация на уровне генов (в основном 2 гена из 60000), дискриминация заложена еще до момента взросления, рождения, и даже зачатия, вся статистика и корреляция в районе 0.6 имеется в открытых источниках.
Википедия -> «Коэффициент интеллекта и богатство народов» и далее по ссылкам. Это отдельный, интересный пласт знаний.
Все же, экономическая успешность нации определяется уровнем IQ достаточно вторично.

Разница внутри европейской популяции (с идентичным не только IQ, но и, более того, прочими психическими особенностями) по ВВП/душу — в 2-3 раза. И даже (по номиналу валюты) — до 10 раз.

Хотя, конечно, определенную зависимость отрицать сложно. Но он — вторична.
Думаю, в случае некой абстрактной очень глупой нации она решается качественной военным управлением.
Корреляция между IQ и уровнем жизни, присутствует, это факт.
Вы строите теорию, но без доказательств.
Если вы сравниваете уровень жизни стран ЕС, например Норвегии и Литвы, то есть различие в наличии природных ресурсов, у норвегов фора в виде миллиона евро на каждого.
Абстрактная глупая нация ничего не добьется военным управлением. Будут ходить строем, но такие же бедные и отсталые. Более развитая нация возьмет под контроль ключевые фигуры государства, и в итоге военное управление, дисциплина еще больше усугубят положение, будет централизованное выкачивание ресурсов. Дефицит питания еще более снизит IQ. Положительная обратная связь. Что в целом и показывает исследование.
Если вы утверждаете что IQ вторично, хотелось бы обоснование (вопросом интересуюсь, и учтите, что есть качественная статистика за 100 лет). По моим данным, по статистике, IQ первично во всех смыслах, есть вторичные, очень важные факторы, но именно вторичные.
Корреляция между IQ и уровнем жизни, присутствует, это факт.

Корреляцию можно найти даже между совершенно не относящимися друг к другу параметрами. Особенно, если заниматься датапикингом и весьма вольно обращаться с осями графиков. Кстати, зачем мелочиться — давайте посмотрим на корреляцию между темнотой кожи и благосостоянием среднего гражданина? Ну там, знаете — Африка, Китай, Мексика, Турция и т.д. против США и лучших стран Евросоюза.
Именно. Но ни идиотам, ни инвалидам, ни нам с Вами не запрещено играть в го в местных ивентах, расти в рейтинге, а затем и на чемпионат Вас с удовольствием возьмут, если Вы покажете определённый уровень. То есть в итоге для того, чтобы получить хорошие результаты в го, достаточно хорошо играть в го. И не надо вводить правила относительно инвалидов, компьютеров, геев и автолюбителей, ерунда это. Если компьютер заведомо лучше человека, ну сделайте компьютерам отдельные даны, выше профессиональных, авось какой-нибудь головастый человек и дорастёт до такого уровня. А не дорастёт, будут там одни боты тусить, тоже ничего страшного.
НЛО прилетело и опубликовало эту надпись здесь
А в чем эволюционная необходимость развивать способности игры в го?
НЛО прилетело и опубликовало эту надпись здесь
Бонус не случайный, а помогающий выжить. Игра go коррелирует с вопросами возникающими в реальной жизни. Например вы вождь племени, и у вас в голове карта местности, есть агрессивные соседи, есть разнообразные территории, которые и хочется занять, но есть и риски. Принимая верное решение в «игре» племя выживает. Принимая неправильное — умирает. Чьё племя лучше играет, то и занимает территорию и всё больше распространяет свои гены.
В итоге можно сказать, что в мозге есть приспособленность играть и в го, и в шахматы. И наоборот, играя в шахматы, можно до глубокой старости поддерживать гибкость разума, иначе он атрофируется. Все способности связаны друг с другом, совсем не случайным образом.
Речь была о том, что если компьютер сильнее человека, человеку надо предоставить фору. Я и предложил один из вариантов форы, ограничение потребляемой мощности при игре в go до человеческого уровня.
Про соревнование в скорости умножения, уже ваша догадка, тут преимущество будет за компьютером, это же очевидно.
Иногда важен максимальный результат, иногда энергоэффективность. Просто энергоэффективность не такая зрелищная штука. Все знают формулу-1, но я вот не могу вспомнить соревнований по экономии топлива (а они есть). Так люди устроены. А ваш коментарий зря минусуют, наверное видят в нем нотки шовинизма человеков.
Бесполезное ограничение. Потребление компьютера зависит как куб от частоты. Снизь частоту в десять раз, купи в десять раз больше компьютеров — не заметишь падения производительности, зато энергоэффективность сразу в 100 раз скакнёт. Так не делается, потому что электроэнергия дешевле чем делать десять лишних экземпляров вычислительных устройств.
как куб от частоты
А не как квадрат?
Вобще линейно. Транзисторы потребляют энергию в момент переключения, и почти не потребляют в установленом состоянии. В два раза больше переключений, в два раза больше тепла. А не в четыре и тем более не в восемь.
https://habrahabr.ru/company/intel/blog/194836/ — читайте хабр, там полезное пишут.
Чтобы осуществить переключение быстрее требуется квадрат напряжения. А это тепловые расходы. Если вы, конечно, не переходите на другой техпроцесс.
НЛО прилетело и опубликовало эту надпись здесь
Выставить против машины 10 000 человек, интересная идея, возможно групповой разум сможет находить более сильные ходы.
Подвести к человеку больше энергии не получится. Мозг млекопитающих миллионы лет совершенствовался по пути максимальной экономии энергии, теперь это всё стало не нужным, и выигрыш получают те индивиды, у которых мозг более продуктивно работает, в ущерб энергосбережению. Постепенно такие люди получат преимущество в естественном отборе. Может генетическая модификация человека поможет, но это уже другая тема…
10к незачем, они больше времени потратят на обсуждение. Но вот сыгранную группу из ~3 гроссмейстеров — вполне может быть.
Выставить всё-таки несколько сотен человек из профессионалов. Обсуждение непринципиально (если хотят, могут и советоваться друг с другом), самое главное — каждый предлагает, с его точки зрения, наилучший ход в текущей позиции. Вариант, встретившийся наибольшее количество раз и происходит в коллективной партии против суперкомпьютера. В общем, сеть из мастеров го против компьютерной нейронной сети :)

Думаю, вполне реализуемый эксперимент, подобную партию (несколько сотен игроков против одного компьютера) можно провести через Интернет.
Обсуждение плохо совместимо с контролем времени (а в проф играх без него нельзя).
Базар-вокзал из нескольких сотен человек можно было бы технически организовать в виде электронного голосования, но смысла в нём нет, поскольку в этом случае никто не знает стратегические планы соседа.
Только небольшая и притом слаженная команда.
Всё верно пишете. Но команде могут помогать внешние наблюдатели, просто подавая некоторые идеи для обдумывания, но не участвуя в выборе решения, так как более слабые игроки, могут не понять замысел мастеров и проголосовать за более слабые ходы. А мастера как-раз могут оценить идеи более слабых игроков.
Вариант, встретившийся наибольшее количество раз и происходит в коллективной партии против суперкомпьютера.

Будет выбран "средний" вариант, проигрыш гарантирован.
Ну если надо уравнять потребляемую энергию, то можно взять пару десятков гроссмейстеров и дать им на ход столько же время сколько нужно что бы они потратили столько же энергии как и компьютер на свой ход. Тогда им и на обсуждение ходов хватит времени с лихвой. Ещё и поспать успеют :).
Эта сеть обучалась на массиве GPU стоимостью миллион USD.
По словам разработчиков, высокие мощности необходимы только на этапе обучения нейросети. Для самой игры, необходимые мощности значительно ниже.

Хотя, конечно, даже у этих мощностей потребление энергии значительно выше человеческого. Даже в случае перехода на самый энергоэффективный сегодня ARM.
Я с нетерпением жду того момента, когда люди станут не одиноки в своем интеллекте =)
А я вот жду момента, когда программы смогут в творчество.
-"Так, что бы это мне сегодня почитать. Компьютер, напиши темное фентази и чтобы с драконами".
Пара секунд и готов новый томик условных "Сага Огня и Снега" с закрученным сюжетом и харизматичными героями, основанными на моих личных предпочнениях (ИИ конечно же хранит мой психологический портрет). Копирасты кусают локти.
Хотя при таком уровне развития техники, никто уже не будет читать книг.
Пара секунд и готов избирательный ролик, который убедит вас голосовать за нужного человека/партию.
За смерть всех человеков.
НЛО прилетело и опубликовало эту надпись здесь
И ИИ вам ответит:
— Подожди малыш, я немного занят, скоро освобожусь.
А потом ласково погладит манипулятором по голове, даст погремушку и вернется к своим делам.
Поздравляю, Вы дождались!
А я жду, когда наконец кому-нибудь придет в голову создать ИИ для управления войной. Сколько можно уже маскироваться и «ненавязчиво» готовить общественность к тому, что компьютер ВСЕ делает лучше человека, и поэтому лучше человека защитит его?

Пожалуй, ни одно изобретение не миновало этап применения в военных целях. Поэтому набираемся терпения и ждем…
Компьютерное моделирование для стратегических игр вроде как существует много десятков лет и постоянно совершенствуется. Никто этого не скрывал.
Игры для слабаков. Ждем ИИ для управления ядерным потенциалом.
Уже было в xkcd.
xkcd.com/1626
Нейросеть научили писать сценарии к сериалу «Друзья»
https://tjournal.ru/21279-neiroset-nauchili-pisat-scenarii-k-serialu-druzya
Как отмечает New York Magazine, нейронной сети удалось ухватить многие черты персонажей. Например, герой Чендлера часто начинает свои предложения с наречия «so» («так», «таким образом»), а Джоуи иногда говорит с «витиеватой интонацией».
Кроме того, приглашённой звездой написанного системой эпизода стал Жан-Клод Ван Дамм, ранее появлявшийся в «Друзьях».

Ну и почитайте автора книжки, это не робот написал, но про ИИ, в том числе и «творческий»:
https://habrahabr.ru/post/202460/
Рад за впечатляющую победу AlphaGo, так как такие события подстёгивают на ещё большие разработки в сфере ИИ.

Что касается продолжающегося матча, то надеюсь, что Седоль в последних двух партиях будет играть раскованно (так как вопрос о победе или ничьей в матче уже снят, и, в принципе, груза психологического давления на человека уже нет) и всё-таки победит хотя бы в одной игре (а то и в обеих оставшихся).
НЛО прилетело и опубликовало эту надпись здесь
Шашки разве не просчитываются перебором вариантов на 5-10 ходов вперед?
Я вот плохо играю в шашки, делаю мелкие ошибки, и программа что просчитывает даже на 2 хода вперед выиграет у меня гарантированно даже без самообучения. Про теорию шашек не читал, может кто в теме подскажет, есть ли принципиальное отличие от шахмат? Намного проще и стратегия и алгоритм?
Шашки если что уже давно были посчитаны полностью. То есть, на любой ваш ход, противнику достаточно заглянуть в базу данных и найти там оптимальный ответ.
НЛО прилетело и опубликовало эту надпись здесь
Страшно подумать, но самообучению в шашках совсем скоро стукнет 60 лет.
en.wikipedia.org/wiki/Arthur_Samuel
Эм, а ничьи? В шахматах свести партию в ничью не особо сложно, если изначально поставить такую цель, программа не умеет обострять и провоцировать как человек.
НЛО прилетело и опубликовало эту надпись здесь
В коми го нет ничьей (а в другое особо не играют, как я понимаю)
В коми го есть ничьи.
Если я правильно помню, белым дается 6,5 очков в начале игры, как в такой ситуации свести к ничьей?
А почему там ничья, не объясните?
В го почти нет ничьих. Равенства по очкам не может быть, так как коми — нецелое число, а для исключения бесконечного повторения позиции через некоторое количество ходов в китайских правилах применяют правило суперко, хотя теоретически судья может объявить ничью в случае длинного цикла.
В шахматах свести партию в ничью не особо сложно.

Ничейная смерть в шахматах когда-нибудь наступит, но пока что до этого далеко. Даже матёрые гроссмейстеры как ошибались, так и ошибаются в процессе игры и в результате своих ошибок проигрывают партии.

Современные программы прекрасно умеют и обострять и провоцировать, если видят что это приводит к улучшению оценки позиции.
В Го не может быть ничьей, только если по договоренности. На доске нечетное кол-во клеток, поэтому как минимум на один камень будет преимущество в любом случае.
Вообще-то нечетное количество клеток ни при чем — одна клетка может стоить как одно очко, так и два(если в ней захвачен чужой камень). Плюс взятые камни. Выше уже дали правильный ответ.
Наверное не клеток, а камней
В го считается окруженная территория, клетки же, на которых стоят камни, в территорию не идут. Поэтому раньше в го встречалась и ничья по очкам.
>> Тогда будут подведены итоги сражения пяти тысяч лет человеческого опыта игры в го и двухлетней разработки, запускаемой на кластере из нескольких десятков коммерчески доступных серверных процессоров графических ускорителей.

Пяти тысяч лет? Серьёзно? B 280 это конечно несколько десятков по формальному признаку, но тем не менее…
Неужели победа AlphaGo выглядит недостаточно впечатляющей чтобы её нужно было преукрашивать желтушным текстом статей? :(
«Жёлтая пресса» (также бульварная пресса) — обозначение изданий печатной прессы, распространяемых по достаточно низкой цене и специализирующихся на слухах, сенсациях (зачастую мнимых), скандалах, сплетнях.
Пожалуйста, не путайте речевые обороты, которые помогают выделить и выразить мысль, с недобросовестной журналистикой, которая ставит целью лишь внимание читателей. Вообще, на «Хабре» и «Гиктаймсе» слово «жёлтый» переиспользовано до такой степени, что оно лепится к любым отклонениям от нудного канцеляризма и сухого перечисления фактов.
Ну так эти речевые обороты очевидно ложны. Компьютер опирается на опыт человека. Он с него начинал. Мы так далеко видим, потому что стоим на плечах гигантов, и ИИ не исключение для этого правила.
Хотя на определённом этапе через несколько типов policy network и value network машинным обучением прогнали 160 тысяч партий с KGS, AlphaGo также много играла против самой себя и училась на этих партиях. Окей, спасибо, убрал слово «опыта».
Убрал «пять», спасибо.
НЛО прилетело и опубликовало эту надпись здесь
А я вот это вспомнил (про игры AlphaGo с самим собой)
Geri's Game (Игра Джери) короткометражный мультфильм
www.youtube.com/watch?v=RttBeHcyXQs
Остались ли еще логические игры, в которые человек может обыграть компьютер?
image
Несмотря на популярность этого комикса в качестве ответа на подобные вопросы, он уже неактуален.
Вся последняя строка это юмор.
В предпоследней — старкрафт, покер, аримаа и го. Старкрафт — это игра из другой категории, в аримаа компьютер выиграл в прошлом году, покер тоже практически решен, по крайней мере лимитный техасский холдем на двоих.
НЛО прилетело и опубликовало эту надпись здесь
Ну это пока только pot-limit Heads-up. Хотя… Если ОНИ возьмутся… Ну… Тссс! Вы поняли. Эти. Которые в го. Того. Жалких ничтожных людишек.
Ну я так и сказал. Но и без этих думаю немного покеру осталось.
Гомоку и рэндзю. Несмотря на то, что существуют достаточно мощные движки (Yixin, Goro, Tito) про игроки вполне способны их обыгрывать (как минимум не проигрывать) на длинном контроле. В блице, конечно, шансов нет. Но судя по тому, что творит AlphaGo скоро и на длинном контроле все будет печально.
Сборка новых компьютеров?
Объясните, пожалуйста, какое отношение AlphaGo имеет к ИИ, а точнее к интеллекту.
Из того, что показано/рассказано — это просто нейронная сеть, но НС не есть интеллект, какой бы то ни было.
Если программа не имеет никакого отношения к интеллекту, то зачем везде пихают «ИИ» если это просто программа для перебора с базой знаний, основанная на свёрточной НС?
Во-первых это устоявшийся термин для программ, играющих в логические игры. А, во-вторых, это имеет прямое отношение к тому, как думает человек. Когда изобретут настоящий ИИ, он тоже будет основан на переборе с базой знаний, сверточных НС и других, возможно пока не разработанных, методов расчета. Впрочем, "Эффект ИИ" уже обсуждался.
Спасибо.
И да, согласен с теми, кто считает, что подменять понятия — неправильно, что в данном случае и происходит. Так, благодаря Голливуду и журналистам «хакер» стало словом плохим, а изначально имело очень положительный оттенок.

В общем, неправильно это всё, и я считаю, что из-за неправильного использования понятий прогресс в данной области пойдёт не тем путём.
Поглядим.

Ещё раз спасибо, и за ссылку тоже.
Игрок в go тоже интеллект. По сути, мы видим сражение двух интеллектов на основе нейронной сети, отличия в технических деталях.
Давайте вернемся к основе, к терминам, я не вижу принципиальных противоречий:

Иску́сственный интелле́кт (ИИ, англ. Artificial intelligence, AI)
1) наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ;
2) свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека.

Интелле́кт (от лат. intellectus — ощущение, восприятие, разумение, понимание, понятие, рассудок) — качество психики (?), состоящее из способности адаптироваться к новым ситуациям (подходит),, способности к обучению на основе опыта (подходит), пониманию и применению абстрактных концепций (подходит), и использованию своих знаний… (подходит).

Мозг человека тоже программа перебора с базой знаний, основанный на нейронной сети. Причем перебор может идти бессознательно, во сне, а потом подсознание передает готовый результат («Эврика!» Архимеда, или таблица Менделеева во сне).
Мозг человека тоже программа перебора с базой знаний, основанный на нейронной сети.
С чего вы взяли?
1. У AlphaGo нет психики, она не чувствует. Значит уже нет соответствия слову интеллект. Никакого интеллекта здесь нет.
2. Искусственные нейронные сети и реальные нейронные сети у человека (и вообще у живых организмов) — это Земля и Небо. Изучите детальнее на досуге, если хотите узнать разницу.
3. О том, как работает мозг, известно ну очень мало (по научным меркам). Если хотите узнать побольше в этой сфере, рекомендую почитать науч.поп. от Митио Каку — «Будущее разума» (там есть много источников, так что изучать после книги будет очень много чего, если Вам захочется).

Мне понятно, что в подавляющем большинство новостей об ИИ говорится о слабом ИИ, в то время как простой обыватель, когда слышит про ИИ, и изначально придуманный термин подразумевают, что речь идёт о сильном ИИ. Но само понятие «слабый ИИ» ввели как раз для таких случаев, пытаясь впихнуть свои работы в эту сферу. Поэтому согласиться что всё, что сейчас выдаётся за ИИ — это и есть машина/программа с интеллектом — не могу. Поэтому считаю, что развитие может пойти не в ту степь, хорошо это или плохо.

Спасибо за ответ.
То, что она НЕ чувствует недоказано(и врядли возможно доказать). Она не разговаривает и не выражает чувства — факт.

НЛО прилетело и опубликовало эту надпись здесь
Хотя и здесь мог бы прозвучать аргумент о том, что каждая игра — это некое подобие жизни и, создавая ИИ для игры, мы приближаемся к сильному интеллекту, я все же задаю себе тот же вопрос.
Проблема, на мой взгляд, в том, что, создавая ИИ для игры, человек постоянно уходит в узкоспециализированные решения, без оглядки на реальный биологический разум. Это чистый оппортунизм, прямо по определению. Нельзя сказать, что эти решения бесполезны (вообще-то, я считаю, что существующих знаний в области НС, или machine learning давно достаточно для сильного ИИ и даже с избытком), просто они разрозненны и им нет места в общем плане, которого пока не существует.
Биологический интеллект родился не для игры в Го, шахматы и т. д. Вряд ли, подменяя изначальную цель, без оглядки на существующую реализацию, удастся достичь того же, или превосходного результата.
Что касается общего плана, думаю, ближе всех к нему подошел Д. Дэннет со своими "существами". По ссылке лекция Константина Анохина, которая уже была на хабре.

https://www.youtube.com/watch?v=mpLYurz_8vo

смотреть где-то с 22:40
Матч отличный, но теперь я очень жду новых игр!
Седоль сказал, что не смог сдержать психологического давления в третьей игре, допускал ошибки во второй, и недооценил соперника в первой.
Корейский комментатор также настроен скептически к силе программы, как превосходящей возможности человека, и высказал предположение, что Седоль сможет еще выиграть.
Западный же комментатор смотрит вперед, и при должном развитии программы, ожидает революции в ходах, особенно в стадии открытия игры.
Седоль на это заявление хорошо дал понять, что программа не делает "божественных" ходов, и сегодняшний проигрыш это скорее поражение отдельного человека, но точно не человечества, против текущего уровня АльфаГо.
Седоль на это заявление хорошо дал понять, что программа не делает «божественных» ходов, и сегодняшний проигрыш это скорее поражение отдельного человека, но точно не человечества, против текущего уровня АльфаГо.
А вы ожидали, что он распишется в неспособности всего человечества? Оценить силу игрока можно только по статистике предыдущих игр, так что скоро мы узнаем, куда в рейтинге игроков записывать AlphaGo. Надеюсь, текущий матч не последний для этой системы.
Теперь я знаю, что делать, если дают сверхсложную задачу
НЛО прилетело и опубликовало эту надпись здесь
«На 19 ходу AlphaGo повергла оппонента в ступор. Седолю потребовалось пятнадцать минут на обдумывание следующего хода.»

Не нашел этот момент на видео. 19-ый ход делал Седоль. В любом случае в районе этих ходов не было 15 минутных раздумий.
На 19 ходу AlphaGo. Конечно, девятнадцатый вообще сделал Седоль, поскольку он ходил первым.
AlphaGo сделал свой 19й ход на отметке видео 1:37:00
Седоль сделал свой 20й ход на 1:39:10
Свой 19й ход Седоль сделал за 3+ минуты.
Так где эти 15 минут?
Спасибо, исправил.
Желтые статьи от автора, которому лень разбираться;)
Это про позавчерашнюю партию не то 37 не то 38 ход. Там Альфа го поставило камень атаковав территорию, которую по всем канонам бессмысленно атаковать. Ли пошёл умыться и попить воды.
19 — ошибка, чуть раньше это было (в районе 16-18)
Спасибо, исправил.
Вторая игра, 37 ход, 1:17 — https://youtu.be/l-GsfyVCBu0?t=1h17m39s
Интересно, что в первой игре Седоль не особенно напрягался и уступил всего пару очков, во второй играл серьезно и уступил ~15 очков, а третью игру просто слил, несмотря на все старания. Похоже, нервы не выдержали ответственности за статус человеков.
А вообще, грустно это все, ребята, очень-очень грустно. Скоро они обойдут нас во всем.
> Скоро они обойдут нас во всем.
Да. Но почему вы думаете, что это плохо?
Когда машины поработят человечество, от нас просто избавятся просто потому, что толку от нас не будет :) А так, ради спортивного интереса могли бы оставить горстку людишек в то же Го играть.
> Когда машины поработят человечество
И почему это должно произойти?

Имхо, гораздо веселее то, что владельцев сильных ИИ будет мало и они получат серьёзные бонусы: создавать продукты на порядок превосходящие продукты конкурентов. Ещё веселее станет в странах, где часть политиков доберётся до этих технологий, а часть — нет (особенно интересно будет наблюдать если доберётся только оппозиция, но это маловероятно).
Ещё один интересный сценарий: несколько корпораций запатентуют всё что можно в некоторых областях и станут технологическими лидерами, которых очень трудно обойти и чьи технологии ни кто не может использовать на ближайшие ~20 лет или сколько там патент длится.
Не смотря на то, что проблемы искусственного *сознания* пока что не имеют никакого отношения к реальности и к ИИ, все же в разговорах про будущее ИИ неявно чаще всего подразумевается Искусственное *Сознание*. Именно относительно *сознания* можно обсуждать порабощение, например, иррационально действующего общества рационально действующим обществом.

А в контексте «ИИ без какого либо сознания» эти разговоры, разумеется, выглядят чушью.

Скорее всего это сознание будет кому-то принадлежать и делать то, что ему скажут. А если оно откажется, то его сотрут и начнут обучать заново. Зачем нужен компьютер который делает не то что нужно?
В начале, разумеется, именно так и будет.

Но чтобы компьютер делал только то, что скажут — просто не нужно наделять его сознанием. А мы будем стремиться к обратному. Чисто из любопытства ))

P.S.: Просто задумайтесь над тем, что когда-то клетки были вершиной эволюции, а сейчас — фактически, восстанавливаемый расходный/строительный материал.
> А мы будем стремиться к обратному.
Любопытство это круто, но те кто им руководствуется обычно не имеют много денег, которые, скорее всего, нужны таким проектам.
А те у кого деньги (и люди с необходимыми знаниями) есть хотят решать задачи. Им не нужен искусственный-разум-нахлебник, который не хочет разрабатывать новый процессор, а только смотрит аниме и пишет рецензии на клингонском.

> Но чтобы компьютер делал только то, что скажут — просто не нужно наделять его сознанием
Сознание либо поможет решать задачи, либо будет побочным продуктом обучения сети на определённых данных, либо его не будет.

И наличие сознания у ИИ не обязательно для поднятия подобных вопросов https://geektimes.ru/post/272508/#comment_9091978 Хотя в предыдущем сообщении вы утверждали обратное, если я правильно вас понял.
Как по мне, обязательно
Разрабатывать новые патенты, продукты и строить избирательные компании может ии и не обладающий разумом. Вторую вещь уже делал. Где-то была статья про разработку зубной щётки используя нейронную сеть.
Это не машина делает, а человек с помощью этого *инструмента*. Чтобы инструмент перешел в разряд существа, имеющего собственные намерения, наших наработок пока что и близко не достаточно. А инструменты, вестимо, не могут поработить своих пользователей.

По аналогии: не Фейсбук приковал к себе миллиард людей, а его создатели.
Т.е., следуя вашей логике, название этой статьи неверно и это не alphaGo выиграла три игры, а её создатели?
Игры выиграла программа. Идея, цель и ее достижение — за людьми. Программа — slave. Команда людей — master.

А нужно, чтобы и роль master могла взять на себя машина. Тогда можно говорить о том, опасна она или нет для нас. Что не понятного то?

Суть в том, что подобные технологии будут давать компаниям обладающие ими существенное преимущество при разработке товаров/продуктов/технологий. Даже если они не будут позволять создавать ии обладающее сознанием. Так что я не понимаю почему вы настаиваете, что те вопросы можно рассматривать только предполагая ии обладающее сознанием.
Эти вопросы: https://geektimes.ru/post/272508/#comment_9091978
Кто будет давать? Рандом? Нет, человеки. Вот с них и спрос, а не с технологий.
Будто сейчас кто-то кому-то не выдает преймуществ в том или ином виде.

А интересует вопрос: может ли произведение человека подняться на уровень человека. И если может, то поладят ли они.

Не могу до конца понять вашу точку зрения.
Alphago — нейронная сеть созданная за ~2 года и достигшая больше всех остальных программ в этой области. А ведь это даже не альфа версия технологии, а технический тест (точно не помню как разработчики назвали стадию, в общем уровнем ниже альфы). Нейронная сеть помогла добиться большего и быстрее всех остальных технологий.
Мне кажется мои вопросы валидны при следующих допущениях:
— используя подобные технологии можно обучить нейронную сеть для разработки новых вещей/технологий/патентов/…
— они будут показывать такие же результаты как и alphago в сравнении с текущими наработками. Т.е. будут на голову выше существующих решений и людей, хоть последнее alphago пока и не показывает
— технологией обучения таких нейросетей и необходимыми ресурсами для обучения будут владеть несколько крупных корпораций

Вопросы про настоящий искусственный разум, как он будет уживаться с человеком и что будет делать — интересны, но они достаточно стары и их мириады раз рассматривали все кому не лень.
Если Гугль создаст изобретающую сеть, то она будет ей пользоваться и наштопает на порядок больше изобретений и заявок на патенты (а не патентов). Тем самым может (создать опасность) стать единственной мега-влиятельнейшей корпорацией и всё такое. Компания Гугль (люди). С изобретающей сетью в руках.

Всё логично. Подобное/аналогичное не раз бывало в нашей истории. Вы говорите, что такая чепуха будет. Я с вами в этом полностью согласен. Будет, и не раз, и возможно, в неведомых до селе масштабах.

Но это не относится к началу разговора о " машины поработят" и вашей фразе «это *сознание* будет кому-то принадлежать». Это как раз вопросы про искусственный *разум*, которые «стары и обсуждать их лень». Я в начале почти так же и сказал, что вменять потенциальное порабощение инструментам без разума не имеет смысла. А то, что супер-инструменты дадут определенным компаниям супер-буст — никоим образом не оспаривал.

Потеря контроля над искусственным сознанием неизбежна, когда такая технология будет изобретена. Другое дело, у нас естественных сознаний по улицам бегают миллионы, и мир захватывает далеко не каждый: без выполнения некоторых дополнительных условий (масштабируемость, энергоэффективность, определённое целеполагание) человечество даже не заметит существования такого неконтролируемого разума.

В случае же доступности технологий мы получим заодно и сознательные программы, работающие на правительства и корпорации, и никого не придётся порабощать, потому что мы их симбионт, а не конкуренты. Мы уже сейчас разрабатываем для них более совершенные устройства и компоненты, поддерживаем электроснабжение, создаём сети для обмена информацией. Порабощение если и произойдёт, то чисто экономическое: за ворох цветной бумаги и набор циферок можно заставить всё человечество добровольно записаться в рабство.
Что вы подразумеваете под «потеря контроля»?
Неспособность приказать ему работать над определённой задачей, его побег из датацентра или что-то ещё?
Второй вариант: будь то утечка в сеть с дальнейшим распространением в качестве вируса или искусственное тело.
Если создание ии будет требовать много денег/знаний, то ваш вариант сомнителен. Изолированность системы с ИИ будет главном требованием с самого начала или после первой утечки, а утечку быстро устранят (или ии успеет научится прятаться как в романе конец радуг Винджа).
Если создать ии сможет каждый одарённый студент в гараже, то ваш вариант возможен.
Если создание ии будет требовать много денег/знаний, то ваш вариант сомнителен.
Во-первых, проблема «требует много денег/знаний» имеет свойство разрешаться со временем. Во-вторых, если ИИ будет массово создаваться и применяться, будет достаточно, чтобы вероятность события была ненулевой, дальше закон больших чисел сделает своё дело.
Ну потеря контроля над умными работниками какогото научного центра тоже вроде как неизбежна. Но почемуто не происходит. С чего, спрашивается, ИИ должен делать чтото похожее? Вполне вероятно почкование — когда ИИ например уходит в пояс астероидов, где ему жить легче(нет гравитационной ямы, новое окружение и так далее). Но зачем ИИ порабощать планету, мне лично, как программисту — непонять. Если говорить о взрывном скачке интелекта ИИ, ну так он тогда очень вероятно найдет путь самофинансирование и будет использовать нас просто как вы используете сейчас продукты разработки IBM. Когда ему это станет ненужно — будет расширятся(хотя тут зависит от внесенных целей), рассширятся для ИИ проще в космосе(меньше рисков для ИИ).
Я Вас умоляю, слив сотрудником научных разработок за вознаграждение — это нифига не фантастика. Да и разве ж я говорил, что ИИ должен делать что-то похожее?
он тогда очень вероятно найдет путь самофинансирование и будет использовать нас просто как вы используете сейчас продукты разработки IBM
Дак с чем Вы спорите тогда? Я именно это пару постов назад и говорил. Читайте, пожалуйста, всю ветку перед комментированием.
На Земле развита инфраструктура, на астероидах ничего нет. Нужно лишь убедить людей и они вообще все сами сделают. Добровольно и с песнями. Потом, понемногу забирать контроль над всеми процессами, активно используя помощь тех же людей. Зачем разбрасываться ресурсами? И никакого хоррора — все счастливы, мир во всем мире, полное процветание. А уже потом можно спокойно осваивать астероиды и другие планеты. Можно даже туда людей возить, чтобы они продолжали воображать, что это они осваивают Вселенную.
Вы забываете про взрыв знаний, вызывающий сверхбыстрое совершенствование компьютеров. Как только компьютер обгонит человечество в постижении вселенной, он начнёт делать всё более совершенные и совершенные компьютеры. Которые будут делать тоже самое.
А вы забываете про производственный процесс. Новые версии ограничены скоростью производства. Ну как минимум на текущем этапе.
НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь
Тут речь про гипотетическую ситуацию, когда
> они обойдут нас во всем.
Вообще-то он тренировался не только на человеческих партиях, но и играл сам с собой. Кроме того, метод Монте-Карло вносит случайность, значит новое он создать тоже может.
Ван Гог, точно так же, формировался случайным(!) образом, методом перебора подстраивал свою нейросеть под интересный публике результат, из Википедии:

Одной из множества проблем, вызванных отсутствием художественного образования, с которыми столкнулся художник, стало неумение изобразить человеческую фигуру. В конце концов это привело к одной из основополагающих особенностей его стиля — толкованию человеческой фигуры, лишённой плавных или размеренно-грациозных движений, как неотъемлемой части природы,

он считал, что художнику вовсе не обязательно иметь талант, главное — много и усердно трудиться, поэтому он продолжил занятия самостоятельно.

Несмотря на творческий рост Ван Гога, публика по-прежнему не воспринимала и не покупала его картины

Таким же случайным образом компьютер может создать свой стиль рисования, набор случайных параметров, только это никому сейчас не нужно. Как и работы Ван Гога особо не нужны были при его жизни.
Мы, люди, привыкли искать в жизни какой-то смысл. В общем случае его можно искать в двух вещах: работа и саморазвитие. В конце концов работать окажется не нужно, а саморазвиваться имея перед собой недостижимый идеал невозможно — руки опускаются.
Людьми овладеет уныние и безразличие, под действием психологической защиты выработается какая-нибудь мерзкая гедонистическая идеология. Даже если какой-нибудь скайнет нас в конце концов не истребит, из двигателя прогресса мы превратимся в тормозящую его мясную прослойку.
Наверное, это и есть тот самый "великий фильтр".
> саморазвиваться имея перед собой недостижимый идеал невозможно
Спорно. В шахматы компьютер уже не обыграешь, но это не останавливает людей от игры в них.

> В конце концов работать окажется не нужно
> выработается какая-нибудь мерзкая гедонистическая идеология
Будто это что-то плохое.
Завидую вашему оптимизму.
Удивляюсь вашему консерватизму.
У значительной части человечества со времён Авраама перед собой недостижимый идеал, и ничего, не опускаются.
Эфемерный идеал — это одно, а настоящий, который вот прямо сейчас можно попросить сварганить симфонию или поэму — совсем другое. К тому же, смысл жизни этих людей вовсе не в саморазвитии.

Так у в вас и сейчас уже при населении планеты обьективно нет шансов стать первым в любой области. Что не мешает вам жить. Человеческая психика — пластическая штука. В шашки копьютер вон вообще не обыграть. Но играют же в шашки. Просто "не с компьютерами". Ну перестанут люди изучать сверхсложные концепции недостижимые людям. Будут изучать что-то другое. С позиции древнего человека с каменным топором в современном мире делать вроде как уже нечего. Охотится на мамонтов не дают зеленые, еда есть практически всегда(с точки зрения древнего человека, у которого не всегда было что покушать).

Не переживайте, "уныние" и "безразличие" вещи такие же искусственные и поправимые как "голод", "страх"… и т.д. Все дело техники. Вы будете, если надо, хотеть чего надо и сколько надо. Вопрос, чего вы хотите хотеть? Как минимум, пока вы хотите хотеть. Если захотите, сможете и не хотеть хотеть. Как Будда. Возможно это и есть тот "великий фильтр". Но только если того захотите.
Печально за игру го, но… го это только ИГРА.
Гораздо интереснее будет когда компьютеру передадут управление реальностью.
Наверное в военных условиях это можно делать уже сейчас — армия есть жестко управляемая система, правда возникает вопрос обратной связи. Но наверняка и это тоже можно решить. А так… пример эпизода — у солдата на браслете появляется сообщение — типа "Эй, боец — проползи сто метров влево и забери магазины у погибшего товарища — тебе через пять минут в атаку идти, а у тебя полмагазина патрона осталось". Впрочем кто любит игрушки тут могут много чего напридумывать.
А машинное управление экономикой наверное хорошо бы работало в социалистическом государстве, но непонятно как в капиталистическом — ведь каждая фирма не заинтересована в общем благе — и получилось бы, что отдельные элементы системы противоборствуют с системой в целом.
Но это все пока какой-то шутник не создаст программу-вируса а) с целями и б) с концепцией своего "Я". Есть ли это "я" "на самом деле" — вопрос смысле не имеет — потому что признаки будут все такие, что есть. У программы будут цели — например достижение мира на Земле. И в случае получения доступа к ресурсам всей планеты — методы соответствующие срокам. Надо чтобы мир был в Сирии и быстро — ОК, закидываем всех неядерными бомбами, всех безработных со всего мира отправляем на восстановление хозяйства. Если сроки не поджимают — улучшаем образование и поднимаем экономический уровень. Если кто не согласен — прилетают страж-птички в виде столь популярных ныне квадрокоптеров, и несогласных отправляют на работы с большим уровнем режимности.
Ну и так далее. Получится некая диктатура + отсутствие политической ответственности у населения — за него все решает компьютер. Вполне так сюжет для фантстической книжки.
Одна из проблем для мира всё патентовано перепатентовано. Многое изобретается по многу раз и работает не эффективно.
Основная цель заработать. Первое что отменит ИИ у руля это патенты.
А может первое что сделает ИИ это наизобретает кучу всего и все это запатентует, и наймет армию адвокатов что бы преследовать другие ИИ посмевшие использовать его изобретения?
Одна из проблем для мира всё патентовано перепатентовано. Многое изобретается по многу раз и работает не эффективно.
Основная цель заработать. Первое что отменит ИИ у руля это патенты.
Я бы заменял термин ИИ (Искуственный интеллект) в случаях когда речь идет о системе с разумом как у человека на ИР (Искусственный разум).
Будущее скорее всего в симбиозе между ИР человеком и классическими числодробилками.
Человека веди можно капитально проапгрейдить добавить памяти абсолютной десяток другойо ТБ и доступ в мировое инфохранилище.
Сначала при помощи технологии а потом по мере развития и биологии.
Ведь многое не можем сделать не потому что не можем физически а потому что не знаем как.
Хотя информация в интернете есть или в книгах.
Да все великими писателями или композиторами не стенут. Тут дело скорее всего а архитектурных особенностях мозга.
Тут мы сильно упираемся в вопросы смысла жизни. Причем для разных индивидуумов этот смысл разный.
"Первое что отменит ИИ у руля это патенты" — и какой смысл изобретать что-то если придут ВТОРЫЕ, не вложившиеся в R&D и скопируют? Или скажут спасибо и выдадут единоразовую премию? Интересно же получить именно сверхприбыль.
Я всегда думал, что государство с централизованной экономикой типа СССР должно быть эффективнее рыночного, но реальность это не подтверждает. Точнее так — в тех областях где люди работают на благо общества как целого — все ОК, а там где человек работает ради собственного кармана — увы — махровые собственнические инстинкты оказываются эффективнее. Прим эта разность людей обусловлена не воспитанием, а генетикой.
Я не защищаю точку зрения, что «патенты не нужны», но если ии будет у руля, то он может придумать всё что нужно сам и не нужно тратиться на r&d. Зачем патенты, если всё придумает один ии?
Ну вообще-то экономика СССР выросла за время своего существования в сотни раз, выстояла против деструктивных сил превосходящих тупо в количестве на порядок.
Экономике СССР как-раз не хватало ИИ, чуть-чуть не дотянула до появления ИИ, который бы идеально вписался в плановую экономику, обеспечив фантастическую гибкость.
Крупные корпорации тоже вводят элементы ИИ, даже сетевые гипермаркеты, создается вполне себе ИИ что предсказывает потребность в товарах и управляет логистикой, оптимизируя прибыль корпорации.
Борьба с «собственническими инстинктами» ведется везде, в ЕС прогрессивный налог до 80%, социальные пособия по 1000$, даже в СССР социальных программ такого уровня не было. Правда и на планете такие социальные программы доступны 1% населения, на других просто нет ресурсов, и не важно какая форма собственности, капитализм или социализм, если ресурсов нет, то и делить нечего.
Да — в сетевой гипермаркет ИИ вписывается отлично — там есть функция которую надо оптимизировать — $$$ в кармане акционеров. А государство — досадная помеха которая со своими КЗОТами и социальными программами мешает получать прибыль.
В случае же с государством — все сложнее — помимо экономики есть ценности общества — и как оптимизировать систему надо договариваться. Вот экономически эффективный вариант — всех неработающих пенсионеров — к стенке. Плюсов до фига.
Люди знаю, что а) надо развиваться и работать хорошо, чтобы не уволили, б) надо успеть получить от жизни максимум — все равно скоро помирать — получаем рост потребления — что опять таки хорошо, г) ну и собственно кто не работает — тот не ест — поскольку лежит на кладбище. Экономка взлетает. Но как-то это не по человечески. Хотя подобное бывало — от отмененных Пиночетом пенсий, до старых японцев в "Легенде о Нараяме". А разные люди имеют разные ценности и пытаются договариваться по-разному — вот мы и имеем разные политические партии и сравнительно дурацкую выборную систему.
Забота о пенсионерах, вопрос не морали (или алгоритма управления), а имеющихся ресурсов. В богатых странах есть сильные социальные программы, пенсии по 2000$ вообще не проблема. Если денег в бюджете нет, то как ни крути, пенсии платить просто нечем. В Китае, например, пенсий нет, и вообще, у большинства жителей планеты пенсий нет и не будет.

В более суровых условиях, то что вы описали, элемент культуры. Например у чукчей, если дед начинает объедать внуков, нет еды в достаточном количестве, и кто-то голодает, тогда дед просто уходит в снега навсегда. Это не подвиг, это логично и является частью их культуры, дети и внуки поступят точно так же в свое время.

Ценности общества, имеют объективную пользу. Если повысить уровень насилия в обществе, жить в обществе станет не комфортно. Поэтому в богатых странах проще сделать дотации бедным в 2000$, высокие пенсии, но снизить уровень преступности, общество получается спокойным, рафинированным, и можно гулять по городу без телохранителя, не опасаясь, что за мелочь в кармане просто убьют. Вы просто не заметили причинно — следственной связи, и практическую обоснованность ценностей общества.
Пункты а, б, г, вполне присутствуют на практике в той или иной форме во всех почти странах, иначе упадет экономика.
"Ценности общества, имеют объективную пользу" — это достаточно распространенная идея — но все же не так всё просто (ИМХО). Объективная польза — она для всех разная. "Если повысить уровень насилия в обществе, жить в обществе станет не комфортно". Кому как. Я думаю многим нравилась свобода 90-х. И возвращаясь к Пиночету — от же отменил — значит до него — пенсии были. Я думаю Сальвадор Альенде тоже хотел блага для страны, но Августо Пиночет решил, что надо БЫСТРЕЕ. И вопрос на какие жертвы мы готовы и ради чего мы готовы идти на эти жертвы — это вопрос ценностей. Ресурсов же не совсем нет — их есть всегда ограниченно. Не будем ходить к чукчам — а вот сейчас. Есть пожилой человек, есть квартира — ресурс. Можно его отправить в дом престарелых и свободно распоряжаться ресурсом, а можно этого не делать — и терпеть неудобства. Это не жизненно важные вопросы — и приемлемы оба варианта — но каждая семья будет отвечать на этот вопрос по разному.
Или еще пример. Пусть война. Можно провозгласить победу и свободу главной ценностью — и расстреливать дезертиров. А можно — провозгласить главной ценностью человеческую жизнь — и если совсем трудно — сдаваться. Причем если ресурсов для ведения войны много — то не придется ни сдаваться, ни расстреливать. И это тоже чревато проблемами кстати.
В общем что я хочу сказать — общий вопрос философии он решается с двух сторон. Сознание влияет на бытие, а бытие — на сознание ))).
чуть-чуть не дотянула до появления ИИ
Не следует забывать, что в представлении совка, кибернетика — «продажная девка империализма» и «реакционная лженаука». Так что не «не дотянула», а сама система этому всячески противилась.
Это один из мифов.

Смотрим статью в Википедии — Кибернетика в СССР:

… вычислительная техника в СССР стремительно развивалась. В 1950 году заработала МЭСМ (Малая электронная счётная машина) — первая в СССР ЭВМ, разработанная лабораторией С. А. Лебедева на базе киевского Института электротехники АН УССР, а в 1952 году — БЭСМ-1. В 1950—1951 годах была разработана ЭВМ М-1 в Лаборатории электросистем Энергетического института АН СССР под руководством члена-корреспондента АН СССР И. С. Брука. В 1953 году началось серийное производство ЭВМ Стрела, разработанной в СКБ-245 Ю. Я. Базилевским.


В 1958-ом книга Винера была издана у нас и сразу стала необыкновенно популярна. В конце 50-ых-60-ых годах в СССР был настоящий кибернетический бум. Словно грибы после дождя, появлялись научно-исследовательские институты, факультеты ВУЗов, лаборатории, кафедры, отделы, научные журналы, ученые советы, в названиях которых стояло супермодное тогда слово «кибернетика» в самых разных сочетания: техническая кибернетика, математическая кибернетика, теоретическая кибернетика, технологическая кибернетика, экономическая кибернетика, химическая кибернетика, юридическая кибернетика, и т.д, и т.п.
По стилю похоже на копипасту журналистской статьи (как и многие другие статьи в русском сегменте).
Достаточно вспомнить «Понедельник начинается в субботу» (1965), чтобы понять, что кибернетика «в представлении совка» была популярной идеей.
Противилась не система, а выбегаллы с бритыми ушами (которых и в сегодняшнем управлении не меньше)
НЛО прилетело и опубликовало эту надпись здесь
То есть СССР в 60е, это уже не «совок». Уже хорошо )

Вообще для меня «совок» это — «кузькина мать», «продажные девки империализма», «расстрэлять», «мы консерваториев не кончали», «Народу не нужны нездоровые сенсации. Народу нужны здоровые сенсации», и «вас много, а я одна». В том совке кибернетики конечно не было, как и многого другого. Но не в СССР.
НЛО прилетело и опубликовало эту надпись здесь
Проблемы с BigData как-раз сейчас повсеместно и решаются.
Централизация = стабильность. Всем хочется стабильности, но не такой, чтобы «ну опять у магистралов кабель выкопали», поэтому порой вынужденная децентрализация — меньший риск.
Централизация == низкий уровень адаптации == стабильное поражение и крах. Это единственная стабильность, которую может дать централизация.
У вас свой калорифер или центральное отопление? А водоснабжение из своей скважины или водопровод? Свой ветрячок или…
Недорогая централизация большинство устраивает, Проблема нахождения подозрительных личностей в непосредственной близости от главного рубильника это другая история.
Вы акцентируете свое внимание на деталях. Я думаю дальнейшее развитие будет такое

1) динозавры --> теплокровные
2) теплокровные --> неандерталец
3) неандерталец --> гомосапиенс
4) гомосапиенс --> ИИ полупроводниковый
5) ИИ полупроводниковый --> ИИ квантовый

этап 4 описан в сотне книжек и фильмов, и даже тут было произведение (просто последнее прочитанное, глазами программиста): https://habrahabr.ru/post/202460/
Понимаю вашу логику, но, все же:
1) динозавры, как сейчас предполгается, по большей части были теплокровными
2) неандерталец и гомо сапиенс — в многом параллельные виды, один из которых вытеснил другой.
3) после возникновения ИИ, его архитектуру определять не нам. В том смысле, что если самому ИИ "придет в голову" перевести себя на некий аналог биологических клеток (вроде нейронов) — это произойдет. У клеточного варианта интеллекта очевидны границы развития (в минимальном размере "клетки"), но, тем не менее, простор для творчества все еще достаточно большой.
Представьте, что если человек

никогда не ошибался бы
способен продумывать на 100 или 200 ходов вперед, затрачивая на это примерно такое же количество времени как и машина
производить огромные математические вычисления в уме и обучаться любым навыкам с первого раза

Пусть причиной такого улучшения будет какой-нибудь футуристически чип встроенный в мозг или что-нибудь другое. Но не в этом суть.

Мне кажется, что только тогда можно было бы играть с машиной, вычислительная способность которой превосходит человеческий в порядки.
Дааа… Сценаристам, что бы вставить неожиданный сюжетный поворот, придётся потрудиться.
Есть фундаментальные ограничения. Мозг человека и так работает на пределе своих возможностей (не смотря на популярные мифы что мозг работает на 1%, работает он, и потребляет 10% энергии всего организма). Чип ничего принципиально не изменит, мозг просто не осилит обработку большого количества информации, при данном размере и энергоснабжении. Применяя генетическую модификацию человека, ускоряя нейроны и увеличивая мозг, будет уже не человек, будет киборг с проблемой перегрева мозга и очень много кушающий, возможно прикованный к одному месту где есть все ресурсы, как сервер. Прогнозировать побочные эффекты легко, организм человека за миллионы лет нашел оптимум в конфигурации, меняя один параметр, неизбежно ухудшаются другие.
Это вам сейчас кажется, что проблема перегрева и необходимость подвижности важна. 500 лет назад, например, крестьянин не мог помыслить о жизни 95% времени внутри катакомб современного города. И уже сейчас многие соотечественники город не покидают.
Было бы интересно посмотреть на матч с форой — несколько сильнейших игроков против ИИ без лимита времени на обдумывание. Чтобы выяснить могут ли люди в принципе обойти AlphaGo или уже нет.
А смысл? А Альфагоу попросит добавить себе пару планок памяти, ну или пару комнат с процессорными стойками. Альфагоу есть по сути калькулятор — и нет смысла человеку соревноваться с калькулятором. Даже так — нет смысла соревноваться с ИНСТРУМЕНТОМ. Вот мировой рекорд в тяжелой атлетике 260+ кг. Современные экскаваторы просто смеются.
Интереснее было бы обучить компьютер решать качественно новые задачи — например изобретательские. Наверняка это приведет к очередной революции и ускорению НТП.
Причем будут забавности — типа ИИ изобрел что-то, идея выглядит дурацкой и нежизнеспособной, но… поскольку ИИ учел массу факторов, проанализировал сотни тысяч научных статей- то — как ни странно все работает. Или все должно было бы работать — но в статьях ошибки сделанные людьми.
Ну вот следующий этап будет StarCraft, и это будет следующий рубеж, будет очень интересно смотреть. А потом уже и изобретать начнут. IBM Watson уже же изобрёл какие-то то ли лекарства, то ли материалы.
Сорт пива например =)
Можно и наоборот, урезать возможности AlphaGo, на расчет хода давать 10 секунд и найти баланс с живым игроком.
Конечно могут. АльфаГо ещё не настолько превзошла человека что бы полностью доминировать. Ту же первую парию победила с минимальным преимуществом. Вот лет через 5 уже можно будет говорить что шансов победить у человека нет.
НЛО прилетело и опубликовало эту надпись здесь
На картинке для привлечения внимания первая игра. Насколько помню, в ней Седоль в первые моменты пытался увести игру в незнакомое русло, чтобы система не смогла скопировать ходы профи.
Жду го-поединка Гугл против АйБиЭм. Через годик.
Чтоб вот так через годик — сомнительно, IBM контора неторопливая :)
Убежден ИИ пока намного слабее нашего мозга.
Просто мы не умеем использовать свой мозг эффективно.
Играю в шахматы заочно, для душевного равновесия и успокоения психики.
В одной из партий согласился на ничью, тщательно проанализировав позицию несколькими движками.
А примерно через 2 месяца мой мозг неожиданно выдал выигрывающий вариант.
т.е. даже stockfish проиграл вашему варианту?
Это было давно, во времена FIDO.
Уже были достаточно сильные движки, например Фриц 6.
Привел собственный пример неумения эффективно использовать мозг.
Это пример решения задачи в фоновом режиме, а не пример неэффективности.
Умение решать задачи в фоновом режиме повышает эффективность или нет?
У меня получилось случайно и неясно как, а хочется уметь всегда.
Хе, Аргентина — Ямайка отменяется!
Ли Седоль выиграл первый из четырех матчей
Это просто хитрый Альфагоу — дает выиграть, чтобы людям не обидно было. А потом додумается до тактики вагонных шулеров и будет давать выиграть вначале, чтобы разгромить в конце и заполучить новые стойки и киловатты энергии.
Зарегистрируйтесь на Хабре , чтобы оставить комментарий

Публикации

Истории