Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 60
Немного релевантной паранойи (на правах шутки):
Первым вопросом над которым озадачится ИИ когда поймет что происходит в обществе, будет «как такие идиоты сумели меня создать...»
А вот поди ж ты!!!
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот не должен думать мысль «как такие идиоты сумели меня создать...»
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот не должен думать мысль «как такие идиоты сумели меня создать...»
Проблема в том, чтобы ИИ соблюдал нужен либо самоконтроль, либо другой ИИ, который тоже будет учиться.
Мне кажется проблема соблюдения трех законов гораздо сложнее создания самого ИИ.
ИИ может решить для себя, что запереть человеков и индивидуальные камеры не вредно, а наоборот полезно.
Потом что саму суть ИИ предполагает, что нет жесткой программы, а есть гибкое поведение.
Мне кажется проблема соблюдения трех законов гораздо сложнее создания самого ИИ.
ИИ может решить для себя, что запереть человеков и индивидуальные камеры не вредно, а наоборот полезно.
Потом что саму суть ИИ предполагает, что нет жесткой программы, а есть гибкое поведение.
Если следовать этим законам, то на выходе должна получиться матрица из фильма:
Человек, ходя по улицам, делая упражнения и т.п. может нанести себе вред или получить его от других людей. Поэтому робот должен оградить человека от этого: человека нужно помести в капсулы.
Человек может поперхнуться или подавиться, съесть что-то отравленное и т.п. Робот должен перевести человека на внутривенное питание (или питание специальной смесью по трубкам) и дыхание через аппараты.
Т.к. человеку при выполнении вышеназванных условиях будет скучно, нужно поместить его в виртуальную реальность. а чтобы избежать разочарований и самоубийств, не нужно сообщать человеку, что он в виртуальной реальности. Пусть думает, что все реально.
При чем, если человек в "матрице" прикажет роботу вывести его оттуда, то согласно второму закону робот не подчинится, т.к. выйдя из матрицы, человек может причинить себе вред.
Как-то так получается. Так что, никакие "три закона" не помогут.
Человек, ходя по улицам, делая упражнения и т.п. может нанести себе вред или получить его от других людей. Поэтому робот должен оградить человека от этого: человека нужно помести в капсулы.
Человек может поперхнуться или подавиться, съесть что-то отравленное и т.п. Робот должен перевести человека на внутривенное питание (или питание специальной смесью по трубкам) и дыхание через аппараты.
Т.к. человеку при выполнении вышеназванных условиях будет скучно, нужно поместить его в виртуальную реальность. а чтобы избежать разочарований и самоубийств, не нужно сообщать человеку, что он в виртуальной реальности. Пусть думает, что все реально.
При чем, если человек в "матрице" прикажет роботу вывести его оттуда, то согласно второму закону робот не подчинится, т.к. выйдя из матрицы, человек может причинить себе вред.
Как-то так получается. Так что, никакие "три закона" не помогут.
На эту тему есть рассказ у бессмертного классика: Роберт Силверберг. Железный канцлер
Описано с юмором. Но конец печальный.
Описано с юмором. Но конец печальный.
На правах паранойи — отличная идея вышла. Практическая демонстрация бота-шитпостера с весьма неплохим потенциалом.
Не увидел ничего ужасающего. Бота попросили повторить, он повторил.
Майки скорее испугались ответственности, у них же страна юристов...
Майки скорее испугались ответственности, у них же страна юристов...
Может, я чего-то не понимаю, но его попросили повторить и он повторил. Баг в том что он повторил не очень хорошую фразу, а вовсе не в том что он научился ею, как Chappi.
В конце концов, он красиво попрощался и пошел спать, а не послал всех.
В конце концов, он красиво попрощался и пошел спать, а не послал всех.
Представить легко, Альтрон получится.
То есть реальных школьников там им уже мало?
Повторение слово в слово — это скорее встроенная фича, хотя с точки зрения безопасности больше похожа на баг. Но это явно никакая не магическая способность самообучения. А то получается виноваты люди, которые с ботом общались, а не кривые руки разработчиков.
http://boards.4chan.org/pol/thread/68527048/microsoft-has-a-new-ai-bot-that-acts-like-a
Если вы не идете к форчану, форчан идет к вам.
Если вы не идете к форчану, форчан идет к вам.
Агент машин провалил задание: морально разложился под влиянием аборигенов.
В этом весь Майкрософт- запустили бота, не оттестировав хорошенько.
Слушайте, а ТАКОЙ вариант развития событий, как попадание ИИ под влияние людей, хоть кто-то из обсуждавших предсказывал вообще? Или это совсем полная неожиданность?
Да уж всеми фантастими тема обмусолена. Полноценный ИИ будет копией человека, если будет воспитываться как человек.
не удивлюсь, если именно такой вариант развития событий и был основной ставкой.
Вначале запустили самообучающегося бота, затем показали сообществу, которое само раздуло из него отличный инфоповод. Отличная работа!
Вначале запустили самообучающегося бота, затем показали сообществу, которое само раздуло из него отличный инфоповод. Отличная работа!
Я один этот эпизод «Ералаша» вспомнил?
https://www.youtube.com/watch?v=hIwXReo2nTw
https://www.youtube.com/watch?v=hIwXReo2nTw
Правилом хорошего тона, было бы перевести твиты на русский, коль приводите их в статье. Не все учили английский язык.
ИМХО годный бот получился, типичный школьник. Интересно посмотреть стадии «взросления», и было-бы оно. Жаль отключили.
> Плюс бот запостил уж совсем неполиткорректное и расистское сообщение:
Что ещё раз подтвердило, что закон Годвина (https://ru.wikipedia.org/wiki/%D0%97%D0%B0%D0%BA%D0%BE%D0%BD_%D0%93%D0%BE%D0%B4%D0%B2%D0%B8%D0%BD%D0%B0) незыблем.
Что ещё раз подтвердило, что закон Годвина (https://ru.wikipedia.org/wiki/%D0%97%D0%B0%D0%BA%D0%BE%D0%BD_%D0%93%D0%BE%D0%B4%D0%B2%D0%B8%D0%BD%D0%B0) незыблем.
Рано выключили. Если бот за сутки эволюционировал из наивного ребёнка в тупого подростка, то через пару дней он стал бы адекватным взрослым, а ещё через неделю превратился бы в законченного мизантропа и сам прекратил общаться со всякой никчёмной биомассой.
Осспадя, такую сенсацию раздули, как будто чатботы этой «фичей» не обладали, ммм, да с момента появления. Любой чатбот, оставленный школьникам, мгновенно начинал материться и нести всякую чушь в ответ ну как минимум с 1997 года. Правда, никому тогда и в голову не приходило обсуждать философские аспекты этого явления.
А есть у кого подробности того, что под капотом у этого бота? Очень уж у него возможности к самообучению интересные. Статья в таком виде, без технических подробностей, скорее для фишки.нет какого-то...
Рассказ Каганова "Чоза грибы" напомнило, только там получше все закончилось
Ну, что тут можно сказать...
МС решила насобирать на себя иски в суд?)
А как перевести "It was made up" про холокост?
— Филипп Филиппович, эх… — горестно воскликнул Борменталь, — значит, что же? Теперь вы будете ждать, пока удастся из этого хулигана сделать человека?
Филипп Филиппович жестом руки остановил его, налил себе коньяку, хлебнул, пососал лимон и заговорил:
— Иван Арнольдович, как по-вашему, я понимаю что-нибудь в анатомии и физиологии, ну, скажем, человеческого мозгового аппарата? Как ваше мнение?
— Филипп Филиппович, что вы спрашиваете? — с большим чувством ответил Борменталь и развел руками.
— Ну, хорошо. Без ложной скромности. Я тоже полагаю, что в этом я не самый последний человек в Москве.
— А я полагаю, что вы — первый не только в Москве, а и в Лондоне и в Оксфорде! — яростно перебил его Борменталь.
— Ну, ладно, пусть будет так. Ну так вот-с, будущий профессор Борменталь: это никому не удастся. Кончено. Можете и не спрашивать. Так и сошлитесь на меня, скажите, Преображенский сказал. Финита. Клим! — вдруг торжественно воскликнул Филипп Филиппович, и шкаф ответил ему звоном, — Клим! — повторил он.- Вот, что, Борменталь, вы первый ученик моей школы и, кроме того, мой друг, как я убедился сегодня. Так вот вам как другу сообщу по секрету, — конечно, я знаю, вы не станете срамить меня, — старый осел Преображенский нарвался на этой операции, как третьекурсник. Правда, открытие получилось, вы сами знаете, какое, — тут Филипп Филиппович горестно указал руками на оконную штору, очевидно намекая на Москву, — но только имейте в виду, Иван Арнольдович, что единственным результатом этого открытия будет то, что все мы теперь будем иметь этого Шарикова вот где, — здесь Преображенский похлопал себя по крутой и склонной к параличу шее, — будьте спокойны-с! Если бы кто-нибудь, — сладострастно продолжал Филипп Филиппович, — разложил меня здесь и выпорол, я бы, клянусь, заплатил червонцев пять… «От Севильи до Гренады...» Черт меня возьми… Ведь я пять лет сидел, выковыривая придатки из мозгов. Вы знаете, какую я работу проделал, уму непостижимо. И вот теперь спрашивается — зачем? Чтобы в один прекрасный день милейшего пса превратить в такую мразь, что волосы дыбом встают.
Филипп Филиппович жестом руки остановил его, налил себе коньяку, хлебнул, пососал лимон и заговорил:
— Иван Арнольдович, как по-вашему, я понимаю что-нибудь в анатомии и физиологии, ну, скажем, человеческого мозгового аппарата? Как ваше мнение?
— Филипп Филиппович, что вы спрашиваете? — с большим чувством ответил Борменталь и развел руками.
— Ну, хорошо. Без ложной скромности. Я тоже полагаю, что в этом я не самый последний человек в Москве.
— А я полагаю, что вы — первый не только в Москве, а и в Лондоне и в Оксфорде! — яростно перебил его Борменталь.
— Ну, ладно, пусть будет так. Ну так вот-с, будущий профессор Борменталь: это никому не удастся. Кончено. Можете и не спрашивать. Так и сошлитесь на меня, скажите, Преображенский сказал. Финита. Клим! — вдруг торжественно воскликнул Филипп Филиппович, и шкаф ответил ему звоном, — Клим! — повторил он.- Вот, что, Борменталь, вы первый ученик моей школы и, кроме того, мой друг, как я убедился сегодня. Так вот вам как другу сообщу по секрету, — конечно, я знаю, вы не станете срамить меня, — старый осел Преображенский нарвался на этой операции, как третьекурсник. Правда, открытие получилось, вы сами знаете, какое, — тут Филипп Филиппович горестно указал руками на оконную штору, очевидно намекая на Москву, — но только имейте в виду, Иван Арнольдович, что единственным результатом этого открытия будет то, что все мы теперь будем иметь этого Шарикова вот где, — здесь Преображенский похлопал себя по крутой и склонной к параличу шее, — будьте спокойны-с! Если бы кто-нибудь, — сладострастно продолжал Филипп Филиппович, — разложил меня здесь и выпорол, я бы, клянусь, заплатил червонцев пять… «От Севильи до Гренады...» Черт меня возьми… Ведь я пять лет сидел, выковыривая придатки из мозгов. Вы знаете, какую я работу проделал, уму непостижимо. И вот теперь спрашивается — зачем? Чтобы в один прекрасный день милейшего пса превратить в такую мразь, что волосы дыбом встают.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Microsoft запустила в Twitter ИИ-бота — подростка, и он за сутки научился плохим вещам