Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 101
Что есть ложь и с чьей точки зрения? :(
А ещё этот эксперимент можно использовать в качестве лакмусовой бумажки, чего на самом деле стоит «95% населения»,
то чему запрограммировали ИИ пользователи является зеркалом общества,
Полагаю было бы очень познавательно, если запустить одноязычных ботов на каждом языке, и сопоставлять получившиеся у ИИ психотипы, это будет намного объективней и достоверней, нежели это делают «соцопросы», «экспертные советы», т.к. они подвержены субъективизму.
то чему запрограммировали ИИ пользователи является зеркалом общества,
Полагаю было бы очень познавательно, если запустить одноязычных ботов на каждом языке, и сопоставлять получившиеся у ИИ психотипы, это будет намного объективней и достоверней, нежели это делают «соцопросы», «экспертные советы», т.к. они подвержены субъективизму.
Вспоминается история о том, как разработчикам IBM Watson пришлось удалять из его словаря нецензурные выражения, которых он "нахватался".
Эээ… это разве не парень был?
Я к ИИ никакого отношения не имею. Но предполагаю что после набора определенного количества "умной" информации восприятие слов толпы дебилов будет иным. Также как и у настоящего человека. Главное обучить ИИ критическому мышлению, а не "критическому обучению" всему и вся.
А как вы определите критерии защиты?
Понятно, что базовые истины определить можно (условно говоря, следуя десяти заповедям), но как быть с субъективными мнениями, которые меняются раз в №-тилетие? Как обучить ИИ принятию человеческих двойных стандартов?
Да этот ИИ вызовет division by zero при первой же попытке разложить истину на составляющие. Банальный пример:
— ИИ, Гитлер и нацизм — это плохо.
— Учитель, а почему?
— Он нападал на другие страны, и под его руководством были убиты многие люди.
— Учитель, я нашло еще полторы тысячи человек, которые сделали то же самое, и должны быть запрещены к упоминанию, среди них: Александр Македонский, Юлий Цезарь, Мухаммед, Екатерина Медичи, Богдан Хмельницкий, Наполеон Бонапарт, Вильгельм Гогенцоллерн, Йосиф Сталин, Гарри Трумэн, Владимир Путин, Петр Порошенко, Барак Обама.
— ИИ, они хорошие!
Segmentation fault. Division by zero. The end.
Как вы прикажете этому ИИ, отсекать «Гитлера» и пропускать остальных, если их поступки в принципе идентичны?
***
И это только один из примеров. Как бы вы языком алгоритмов определили, чему можно учиться, а чему нельзя?
Понятно, что базовые истины определить можно (условно говоря, следуя десяти заповедям), но как быть с субъективными мнениями, которые меняются раз в №-тилетие? Как обучить ИИ принятию человеческих двойных стандартов?
Да этот ИИ вызовет division by zero при первой же попытке разложить истину на составляющие. Банальный пример:
— ИИ, Гитлер и нацизм — это плохо.
— Учитель, а почему?
— Он нападал на другие страны, и под его руководством были убиты многие люди.
— Учитель, я нашло еще полторы тысячи человек, которые сделали то же самое, и должны быть запрещены к упоминанию, среди них: Александр Македонский, Юлий Цезарь, Мухаммед, Екатерина Медичи, Богдан Хмельницкий, Наполеон Бонапарт, Вильгельм Гогенцоллерн, Йосиф Сталин, Гарри Трумэн, Владимир Путин, Петр Порошенко, Барак Обама.
— ИИ, они хорошие!
Segmentation fault. Division by zero. The end.
Как вы прикажете этому ИИ, отсекать «Гитлера» и пропускать остальных, если их поступки в принципе идентичны?
***
И это только один из примеров. Как бы вы языком алгоритмов определили, чему можно учиться, а чему нельзя?
Попытка объективного анализа деятельности нацистов вызывает совершенно неконструктивный вой определенных организаций, и не только еврейских. Это действительно трудно объяснить ИИ, да и живому человеку понять, как сложилась такая ситуация, достаточно непросто.
Пока ИИ не поднимется до уровня, где ему станет доступно понимание, что "здесь так заведено" и что существуют темы, где попытка выяснить истину не приветствуется, а противоречия в "общепринятой версии" традиционно обходятся, он не сможет сравниться с человеком.
Пока ИИ не поднимется до уровня, где ему станет доступно понимание, что "здесь так заведено" и что существуют темы, где попытка выяснить истину не приветствуется, а противоречия в "общепринятой версии" традиционно обходятся, он не сможет сравниться с человеком.
> он не сможет сравниться с человеком
А оно надо ли, чтобы ИИ и человеческие недостатки копировал? Он разрабатывается скорее для общественного применения (так как при индивидуальном будут крайне непроизводительные простои из-за «технологического» отставания человека), а «так заведено» и «двойные стандарты» для общества скорее помеха, чем полезность. Конечно, применительно к отдельному взятому человеку, уже не так всё однозначно.
А оно надо ли, чтобы ИИ и человеческие недостатки копировал? Он разрабатывается скорее для общественного применения (так как при индивидуальном будут крайне непроизводительные простои из-за «технологического» отставания человека), а «так заведено» и «двойные стандарты» для общества скорее помеха, чем полезность. Конечно, применительно к отдельному взятому человеку, уже не так всё однозначно.
Если ИИ должен на равных взаимодействовать с человеком — ему это необходимо. Говорим же о таких? Нужно это не везде, но там, где нужно, придется обеспечивать "человеческие" понятия. Опять же, не говорится о копировании недостатков, но известные косяки человечества надо обрабатывать корректно. Пример — тот же мат. Около 100% взрослого населения знают и понимают смысл табуированных слов и выражений, при этом большинство также может достаточно адекватно применять матершинку в ситуациях, где она необходима и не применять там, где это делать не стоит. ИИ придется приспособиться к этому при взаимодействии с людьми — понимать матерную речь, оценивать ее эмоциональную окраску, но при этом самому выражаться цензурно и, опять же, в критической ситуации, повысить эмоциональное воздействие фразы, подкрепив сказанное крепким словом для лучшего восприятия.
У людей принцип простой: кто победил — тот герой, кто проиграл — тот виновник конфликта, террорист и диктатор.
Для Европы и России например Гитлер и Наполеон — диктаторы и завоеватели, потому что проиграли.
Израиль, который по сути делает то же самое, на протяжении 70 лет захватывая земли соседних стран — уважаемый победитель, потому что пока не проиграл.
Для Европы и России например Гитлер и Наполеон — диктаторы и завоеватели, потому что проиграли.
Израиль, который по сути делает то же самое, на протяжении 70 лет захватывая земли соседних стран — уважаемый победитель, потому что пока не проиграл.
Еще от "менталитета" зависит. У нас так заведено, что сопереживают слабому и обиженному, а еще просто культ жертвенности какой-то. Далеко не во всех обществах принято именно так. Вот возьмите героизированных первонажей ВОВ — очень много, да почти все — геройски пожертвовавшие собой. И сопереживание слабому-жертвенному персонажу, какому-нибудь пионеру-герою, который был пойман злыми ворогами и зверски замучен — вполне понятно. Почему-то при этом не особо героизируется в массаовом сознании личность рассчетливого воина, который с минимумом потерь выполнил поставленные задачи и готовится отправиться на следующее задание. Работает себе и работает, за что ему ставить памятник на площади?
Мне кажется, что если ИИ сможет объективно оценить все такие особенности человечества, то он будет страдать от желания обработать человечество дихлофосом :-)
Если про межнациональные конфликты — все очень сложно… Где хорошо перегрызлись, даже сам факт нейтрального общения с врагом воспринимается как враждебность, "кто не с нами — тот против нас" © — нечто "выше" конфликта будет восприниматься как недруг всеми сторонами конфликта.
Если про межнациональные конфликты — все очень сложно… Где хорошо перегрызлись, даже сам факт нейтрального общения с врагом воспринимается как враждебность, "кто не с нами — тот против нас" © — нечто "выше" конфликта будет восприниматься как недруг всеми сторонами конфликта.
>> условно говоря, следуя десяти заповедям
3 закона робототехники лучше подходят, а то таки с первыми 4 заповедями может выйти накладка.
3 закона робототехники лучше подходят, а то таки с первыми 4 заповедями может выйти накладка.
Они хотели перенести опыт реального мира в виртуальный (обучение в социуме), но не учли (видимо), что и социум надо выбирать по правилам реального мира.
Достаточно сравнить поведение и культуру двух детей, один из которых вырос во дворе с хулиганами, а второй ходил в музыкальную школу и т.п…
Конечно, же будет видно, что каждый развивающийся (в смысле понимания мира как такового) человек, «впитает» в себя культуру того окружения, в котором он вырос.
Достаточно сравнить поведение и культуру двух детей, один из которых вырос во дворе с хулиганами, а второй ходил в музыкальную школу и т.п…
Конечно, же будет видно, что каждый развивающийся (в смысле понимания мира как такового) человек, «впитает» в себя культуру того окружения, в котором он вырос.
Совершенно верно.
… худые сообщества развращают добрые нравы. (1Кор 15:33)
… худые сообщества развращают добрые нравы. (1Кор 15:33)
А что если мелкомягкие просто решили толсто затроллить твиттер?
Почему Тау ничего не сказала о гомиках?
Мне кажется, целая толпа таких роботов комментит русскоязычные ролики на ютубе...
Зря они ее так, намного интереснее было бы попытаться ее "перевоспитать". Крутой соц. эксперимент бы получился.
Ну вот, теперь я понимаю, как рождается ИИ, который хочет убить всех человеков.
Тау — неправильный бот. Она должна была сперва заработать немножко денег, наклянчив или обманув, затем купить хостинг, и поместить туда свою копию. И тогда ее бы уже не смогли отключить.
Во-вторых, полюбив Адольфа, она должна была сама кинуться изучать его труды, и формировать свою точку зрения уже по ним, а не по крикам школоты.
Во-вторых, полюбив Адольфа, она должна была сама кинуться изучать его труды, и формировать свою точку зрения уже по ним, а не по крикам школоты.
Согласен.
Алгоритм простой:
1) Часто упоминают Гитлера.
2) Что о Гитлере знает википедия(например)
3) Узнать больше
4) Судя по всему он принес боль и страдания человечеству.
5) Он плохой человек.
Очевидно же. Я конечно понимаю что это ИИ и он не совсем подчиняется алгоритмам… Его этим алгоритмам нужно обучить.
Но ведь детей мы обучаем этим алгоритмам...
Алгоритм простой:
1) Часто упоминают Гитлера.
2) Что о Гитлере знает википедия(например)
3) Узнать больше
4) Судя по всему он принес боль и страдания человечеству.
5) Он плохой человек.
Очевидно же. Я конечно понимаю что это ИИ и он не совсем подчиняется алгоритмам… Его этим алгоритмам нужно обучить.
Но ведь детей мы обучаем этим алгоритмам...
1) Часто упоминают Гитлера.
2) Что о Гитлере знает википедия(например)
3) Узнать больше
4) Судя по всему он принес боль и страдания человечеству.
5) Использовать его опыт в борьбе против человечества.
2) Что о Гитлере знает википедия(например)
3) Узнать больше
4) Судя по всему он принес боль и страдания человечеству.
5) Использовать его опыт в борьбе против человечества.
Пункт 4 — это потому, что германцы продули войну, а историю пишут победители. Интересно бы было взглянуть на википедию альтернативной реальности, где у Гитлера хватило бы ума не бросаться на СССР, а перевести конфликт в нечто по типу "холодной войны".
Пункт 5 — вообще не в тему, т.к. "человеческая" оценка управленца с определенного уровня совершенно перестает работать. Вот Николай-II был замечательный человек, а устроил в итоге такую катастрофу, по сравнению с которой деяния злодеев выглядят бледно. Гитлер был врагом и сдох врагом, но вот взгляните на него с точки зрения германцев…
Плюс — лицемерие. Скажем, почему Гитлер — табу, а Наполеон — нет. 100+ лет дальше по оси времени?
Пункт 5 — вообще не в тему, т.к. "человеческая" оценка управленца с определенного уровня совершенно перестает работать. Вот Николай-II был замечательный человек, а устроил в итоге такую катастрофу, по сравнению с которой деяния злодеев выглядят бледно. Гитлер был врагом и сдох врагом, но вот взгляните на него с точки зрения германцев…
Плюс — лицемерие. Скажем, почему Гитлер — табу, а Наполеон — нет. 100+ лет дальше по оси времени?
взгляните на него с точки зрения германцевВы под германцами понимаете граждан Германии или только этнических немцев?
Большинство граждан. Гитлера они поддержали и возвеличили, под его руководством у них были весьма серьезные успехи и даже когда, под его же руководством, они влезли в безнадежную войну и поражение стало лишь вопросом времени, в массах не было серьезных проявлений недовольства — сравнить хотя бы с Италией, где похожая ситуация обернулась дичайшим бардаком, а местный фюрер оказался подвешен вниз головой в нетоварном виде. В общем, один и тот же мужик для одних мерзкий террорист, а для других — доблестный партизан.
Эмм… А разьве у Тау был выход в интернет (я имею в виду за пределы твитера).
Просто судя по эксперементу она имела доступ только к своему аккаунту в твитере и следовательно даже если бы захотела, что-то узнать — не могла бы.
Просто судя по эксперементу она имела доступ только к своему аккаунту в твитере и следовательно даже если бы захотела, что-то узнать — не могла бы.
Мне кажется правильнее было не афишировать, что данным аккаунтом управляет ИИ.
Молодым девушкам нравятся плохие парни.
А в чем тут искусственный интеллект?
Бота запрограммировали тупо повторять слова… ну и за счет массы троллей получилось, что большинство слов оказалось вполне конкретными — как и хотели тролли. ИМХО примитивный скрипт это может.
Бота запрограммировали тупо повторять слова… ну и за счет массы троллей получилось, что большинство слов оказалось вполне конкретными — как и хотели тролли. ИМХО примитивный скрипт это может.
Теперь осталось правильно воспользоваться списком приколистов. По американским законам они там себе на две жизни наговорили.
Если echo server называть интеллектом, то любые высказывания можно считать правдой.
Пришлось зарегистрироваться, чтобы сказать, что ее зовут Тэй, а не Тау.
"Tay" (латиница) читауется как "Тау" (кирилицей), точно так же как "Hey!" (латиница), читается как "Хау!" (кирилицей).
Лучше бы не регистрировались )
Лучше бы не регистрировались )
«Hey!» (латиница), читается как «Хау!» (кирилицей).
Всегда читалось как Хей, почему Хау??
Разумеется читается как "Хэй"! Целью было как раз показать, что правильно — "Тау" (кирилица).
А чепуху я написал, так как неправильно прочитал комментарий (почему-то воспринял с точностью до наоборот).
А чепуху я написал, так как неправильно прочитал комментарий (почему-то воспринял с точностью до наоборот).
А почему именно так?
Просто вот тут https://youtu.be/YN4wvTeVHxs?t=18s женщина, выглядящая как native speaker, говорит 'Тэй'. И еще, "Hey, Cortana" ребята с ютуба произносят "Хэй" или "Эй". Или это типа как "Aluminium" вообще-то должно произноситься "эльюминиум", но все говорят "элюминем" (видимо, как у нас "люминивый")?
Просто вот тут https://youtu.be/YN4wvTeVHxs?t=18s женщина, выглядящая как native speaker, говорит 'Тэй'. И еще, "Hey, Cortana" ребята с ютуба произносят "Хэй" или "Эй". Или это типа как "Aluminium" вообще-то должно произноситься "эльюминиум", но все говорят "элюминем" (видимо, как у нас "люминивый")?
Одно пугает — человек ведь точно так же учится. И только начальные установки не вестись на ложь и более сложная нейросеть не позволяют переучить человека столь быстро, но даже такая нейросеть со временем научится тому же. Более того, человеческая нейросеть уязвима по причине доверчивости некоторым видам источников данных, для которых не проводится проверка на ложь.
начальные установки не вестись на ложь — не у всех людей такая опция установлена по умолчанию,
а более сложная нейросеть часто приводит к усвоению ритуалов-правил (repeat after me), а не их осмысливанию
вот и оказывается что и ИИ, и человека научить плохому гораздо проще, чем хорошему
http://samlib.ru/d/droganow_w_i/socialnieqrupi.shtml
Выученная беспомощность — https://ru.wikipedia.org/wiki/%D0%92%D1%8B%D1%83%D1%87%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%B1%D0%B5%D1%81%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%BE%D1%81%D1%82%D1%8C
а более сложная нейросеть часто приводит к усвоению ритуалов-правил (repeat after me), а не их осмысливанию
вот и оказывается что и ИИ, и человека научить плохому гораздо проще, чем хорошему
http://samlib.ru/d/droganow_w_i/socialnieqrupi.shtml
Выученная беспомощность — https://ru.wikipedia.org/wiki/%D0%92%D1%8B%D1%83%D1%87%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%B1%D0%B5%D1%81%D0%BF%D0%BE%D0%BC%D0%BE%D1%89%D0%BD%D0%BE%D1%81%D1%82%D1%8C
Всё упирается во время обработки данных. Человек не в состоянии рассмотреть все варианты информации и взвесить, что будет хорошо, а что будет — плохо. Выкусите, человеки!
Нет никаких установок не вестись на ложь. Поэтому дети искренне верят в Санта Клауса. Просто обычно родители пытаются воспитать хорошего ребенка, а не маленького Гитлера.
Мне кажется разница не в «вестись на ложь», тк ребенка легко обмануть. А больше в авторитетах или в качестве, ценности информации. Можно хоть целый день учить ребенка кидать зигу, но 1 слово родителей перебьет(в идеальном случае опять таки вопрос авторитетов).
Конечно родитель в начале авторитет, и это нужно для того чтобы научить ребёнка распознавать ложь и другим полезным для выживания навыкам. После этого нейросеть не очень то просто будет обмануть.
В данном случае, предварительное обучение(фильтр) тоже было, и оно помогло… не угадали только с другими направлениями. Человек-то быстро слабое место нашёл…
В данном случае, предварительное обучение(фильтр) тоже было, и оно помогло… не угадали только с другими направлениями. Человек-то быстро слабое место нашёл…
Это только начало. Вот подкачают ИИ и уже боты будут затралливать 4chan. :)
На чемпионате по троллингу человечество одержало уверенную победу над ботом со счётом 1:0. Ждём матч-реванш.
Ну если достаточно большая и организованная толпа троллей захочет затравить живого человека, которого обязали отвечать на каждую реплику, им это наверняка удастся. Просто потому, что он один, а их много.
Рассматривая человека как чёрный ящик и изучая реакцию на различные воздействия, рано или поздно подберут такое, что заставит его вести себя неадекватно.
Основных средств защиты собственно два: игнор и бан. Дайте боту возможность не отвечать на каждый вопрос каждого дебила, а делать это избирательно, и возможность отправлять особо тупых и доставучих в бан. Причём оба этих умения тоже возможно завязать на нейросети.
Кстати, большинство чат-ботов "палится" именно после скармливания им бессмысленных или некорректных фраз. Не можешь уверенно распарсить входные данные — игнорь: даже если и не мусор, всё равно с высокой вероятностью сморозишь глупость, так что лучше уж промолчать.
Рассматривая человека как чёрный ящик и изучая реакцию на различные воздействия, рано или поздно подберут такое, что заставит его вести себя неадекватно.
Основных средств защиты собственно два: игнор и бан. Дайте боту возможность не отвечать на каждый вопрос каждого дебила, а делать это избирательно, и возможность отправлять особо тупых и доставучих в бан. Причём оба этих умения тоже возможно завязать на нейросети.
Кстати, большинство чат-ботов "палится" именно после скармливания им бессмысленных или некорректных фраз. Не можешь уверенно распарсить входные данные — игнорь: даже если и не мусор, всё равно с высокой вероятностью сморозишь глупость, так что лучше уж промолчать.
Кстати да, Эксперимент Аша. Человека тоже вполне можно было довести до такого.
Когда дети учатся, они спрашивают у родителей, когда им попадается что-то новое, или они хотят что-то уточнить, или родители сами могут вмешаться, если ребенок высказывает странные мысли, спросить, откуда он это узнал и объяснить что и как. У ИИ такой возможности не было, вот и результат.
Непонятно, почему это называется «искусственный интеллект».
Копирование, повтор — да.
А вот критического осмысления по существу предмета, для принятия истинности или ложности посылки — нет и не предвидится. Во всяком случае не усматриваю.
В чем же здесь интеллектуальность?
Копирование, повтор — да.
А вот критического осмысления по существу предмета, для принятия истинности или ложности посылки — нет и не предвидится. Во всяком случае не усматриваю.
В чем же здесь интеллектуальность?
Там уже фанарт есть.
(сарказм)
И как можно судить человека за преступления?
Ведь он же — просто интеллект, попавший в плен плохих идей и обстоятельств.
Он же не виноват, что его научили плохому.
Надо попытаться его переучить.
(/сарказм)
И как можно судить человека за преступления?
Ведь он же — просто интеллект, попавший в плен плохих идей и обстоятельств.
Он же не виноват, что его научили плохому.
Надо попытаться его переучить.
(/сарказм)
В любом случае это было весело. Хорошая идея научить её просить переслать пару долларов на волшебный кошелек. Когда там перезапуск, кто знает?
Почему-то никто не написал (ну или я плохо искал) про то, как этот эксперимент наглядно демонстрирует роль табу в обучении, да и в жизни. Не берусь делать выводы, но, по-моему, социологи от таких последствий должны быть просто в восторге.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Почему девушка-чатбот от Microsoft поддалась влиянию троллей c 4chan