Чатбот-расист от Microsoft вышел в онлайн, признался в употреблении наркотиков и был снова отключен

    Tay призналась в курении наркотических веществ рядом с полицейскими


    Нет, эти глаза врать не могут

    Как уже сообщалось на Geektimes, чатбот-девушка Tay, созданная стараниями специалистов Microsoft, стала общаться с обычными смертными в Twitter. Неокрепший ИИ не смог справиться с наплывом троллей, и стал повторять за ними фразы расистского толка. Корпорации пришлось удалить большую часть сообщений своего бота, и отключить его самого до выяснения обстоятельств происшедшего и исправления некоторых параметров общения.

    Кроме того, корпорации пришлось извиниться перед пользователями за поведение своего бота. Сейчас, посчитав, что все хорошо, Microsoft вновь включила своего бота. По словам разработчиков, бота научили лучше различать зловредный контент. Тем не менее, почти сразу после очередного запуска бот-расист признался еще и в употреблении наркотиков.



    Затем бот попросил более 210000 своих фолловеров не торопиться, и отдохнуть. Эта просьба была повторена множество раз.



    После этого Microsoft переключила профиль бота в режим приватности, убрав возможность для других пользователей сети микроблогов видеть твиты Tay.

    Стоит напомнить, что в Китае бот от Microsoft вполне успешно общается уже долгое время. Здесь идет взаимодействие с более, чем 40 млн пользователей из Twitter, Line, Weibo и некоторых других социальных ресурсов.

    Но вот англоязычный бот что-то никак не справится с информацией, которой его пичкают интернет-тролли.
    Share post

    Comments 76

      +16
      Этот заголовок сделал мой день :))
        +21
        Похоже, что этот чат-бот — это самый большой успех MS за всю историю существования компании)
          –10
          а DirectX? Или Active Directory?
            +38
            Как можно сравнивать бота-расиста и наркомана с DirectX или AD или кучей других бездушных майкросовтовских решений? Это же практически инкарнация Бендера!
              –25
              Дай угадаю, вы это сообщение написали из OS windows?
                +11
                OS X. Но какая разница?
                  +2
                  Какой скучный, а.
                  0
                  Так пожалуй в следующий раз, когда боту дадут право голоса, он совершит coming out))
                  p.s. а вообще похоже на то, что MS масштабно готовятся к 1 апреля)
                  0
                  Ждем бота в 3D
                    +6
                    image
                  +1
                  Well that escalated quickly!
                  С другой стороны — что еще они ожидали от интернета, что он будет милым и пушистым? Тогда надо было оставить возможность писать боту только МЛП фанатам.
                    +1
                    Вы слишком хорошего мнения о фанатах MLP…
                  +18
                  Это они ещё своего бота в России не выпускали в онлайн. Он бы у нас уже на пару статей уголовных наговорил :)
                    +4
                    Погодите ещё. Вот запретят тролинг на законодательном уровне и в России тоже бот будет работать нормально (как в Китае) :)
                    0
                    Договорился бы до блокирования твиттера роскомнадзором.
                      +2
                      Все духовные скрепы бы переломал.
                        0
                        Это всё случилось бы на второй стадии. На первой он, вероятнее всего, выучил бы русский устный.
                        –3
                        Бот — не девушка. Или тогда уж бот-расистка, если всё таки девушка. Хотя все равно половых признаков у бота нет, ни первичных, ни вторичных.
                        А вообще пора придумывать и вводить новые речевые обороты под ИИ. Вот например «у ней/у него» в среднем роде, как сказать?
                          +5
                          «У него»
                            +3
                            Исследованию этой проблемы уделили немало времени и денег. По «непонятным» причинам женская внешность и голос AI вызывают больше доверия и меньше хмм страха, скованности у большинства людей. Сири, Кортана по-умолчанию используют женский голос в ассистентах не просто «потому что захотелось», в таких вещах всегда есть наука в основах.
                              +6
                              В навигаторах давным давно используют женский голос по-умолчанию, конечно можно активировать и мужской, но мне вот будет как-то не по себе, если мне искусственный мужик будет говорить куда ехать.
                              А жена вообще с навигатором разговаривает и они друг друга понимают, женщины, блин.
                                +3
                                https://ru.wikipedia.org/wiki/Речевой_информатор

                                > Речевой информатор (аппаратура речевых сообщений), в авиации предназначена для речевых сообщений, подсказок или команд-предписаний экипажу в сложных или критических ситуациях. В широко распространённой отечественной системе РИ-65Б, устанавливаемой на большинстве летательных аппаратов, речевые сообщения выдаются женским голосом, за что система получила от пилотов прозвище «Рита» (на зарубежной авиатехнике речевой информатор пилоты называют «Бетти»). Женский голос используется по нескольким причинам: женщины в экипажах пока большая редкость и женский голос привлекает внимание, он чище и внятнее звучит по СПУ и если магнитофон начнёт «тянуть» из-за падения напряжения питания, то мужской голос станет невнятным несколько раньше из-за тембра более низкой частоты.

                                ИМХО предпочтение женского голоса связано еще с биологическими, инстинктивными явлениями. Сидишь ты такой в кабине один, и вдруг, мужик что-то сказал. Кто он? Друг? Враг? Женский голос меньше тревожит.
                                +1
                                "у ней" правильно "у неё", а в среднем роде "у него" (у неба, у моря)
                                  0
                                  In the words of the great Andrew Martin, "One is happy to be of service".
                                      0
                                      > Вот например «у ней/у него» в среднем роде, как сказать?
                                      У «этого».
                                        +1
                                        По правилам русского языка — бот, ИИ (интеллект) — он/у него, в среднем роде — оно/у него.

                                        … и чем-то напомнило это — "– А тема диплома какая?
                                        – «Проблемы гендерного позиционирования ИР пятого поколения».
                                        – Как? – Вадим сначала запнулся, а потом заржал в голос. – Чего? Гендерное позиционирование? Кто из них мальчик, а кто – девочка? Может, и трансвеститы есть? Ой, не могу…
                                        – Ничего смешного, – сказал я, хотя и сам был готов рассмеяться. – Почему одни самопрограммируемые ИР говорят мужским голосом, а другие женским? То же касается воплощений личности – будь то тела внешне управляемых андроидов или визуальные проекции: встречаются и мужчины, и женщины. Как распределяются подобные роли в сообществе ИР, каковы причины копирования человеческих взаимоотношений и как развиваются характеры ИР, выбравших… кхм… тот или иной пол? Думаешь, все так просто?
                                        – Просто? – господин старший лейтенант отдышался и вытер ладонью выступившие слезы. – Вовсе наоборот: вы сами создали себе абсолютно ненужные проблемы и теперь пытаетесь придать им некую наукоподобность! Разве изучение этих «проблем позиционирования» может принести хоть какую-то реальную пользу? В прикладном плане? Понимаешь, о чем я?
                                        – Кажется, понимаю, – мне было неприятно признаваться, но от правды не сбежишь. – Хочешь сказать, что истинная наука, наука в понимании цивилизации Земли, подменена в Содружестве множеством псевдодисциплин, не имеющих никакого отношения к стоящим перед цивилизацией задачам?
                                        – Очень хорошая формулировка, молодец! Верно: псевдодисциплины! Уму непостижимо, как вам замусорили мозги! Ты уверен, что исследуешь другую цивилизацию, как часто называют «Птолемея», а вовсе не созданную машинами жалкую пародию на человеческое сообщество? Уверен?
                                        – Боюсь, ты не прав, «Птолемей» обладает всеми атрибутами цивилизации: внутренняя социальная иерархия, свобода воли отдельных индивидуумов, свободный обмен информацией, креативные способности личностей…
                                        – Это «Птолемей» сам рассказал или данные взяты из независимых источников?
                                        – Сам… – ответил я и сразу понял, как легко и изящно меня подловили. Все сведения о «Птолемее» всегда поступали исключительно от «Птолемея», а ему вовсе не обязательно говорить о себе правду. Многолетние наблюдения за Супермозгом и долгий опыт общения с людьми не в счет – вдруг «Птолемей» просто-напросто разыгрывал нас много столетий подряд?..
                                        – Вот видишь, – Вадим дружески потрепал меня по плечу. – Сейчас я скажу о том, что родом происхожу с планеты Большой Пшик, выгляжу как гигантская многоножка, питаюсь толченым стеклом, а человеком лишь искусно прикидываюсь благодаря врожденным способностям к гипнозу. Изучай меня сколько влезет – еще много интересного могу рассказать! Кстати, у нас, многоножек, серьезная гендерная проблема – пятьдесят шесть полов, никак не можем понять, как размножаться! Поможешь, специалист?"

                                        Андрей Мартьянов, «Бич Божий»

                                        =)
                                        0
                                        Читать правильно "Тау", "Тай" или "Тэй"?
                                          0
                                          тэй
                                          А вообще статья — угар. Жажду подробностей, срывов покровов, драму, извинений от микрософта и прочий угар на тему.
                                            0
                                            «Угар» в данном контексте смотрится неоднозначно :)

                                            Они бы с ним во второй раз сами поразговаривали-бы, на пробу, так сказать. Тем более, не пишет же он стотыщмильёнов сообщений в секунду? Можно было бы и премодерировать наверно.

                                            Я бы сказал что это типа вирусный пиар — больше упоминаний, обсуждений и такого прочего. Плюс (хотя это совсем спекуляция) идет обращение к «молодежи» и «анархистам» — типа, наши боты «против системы», но правду не замолчать. :)
                                              +5
                                              Угар по мне однозначен. В стране, где так сильно борются за толеразм, мир во всем мире, гомосексуализьм и прочее — бот за считанные часы (если не минуты) стал расистом, антисемитом, наркоманом и проч.
                                              Для полноты коллекции не хватало только шовинизма и анти-гомосексуализма, очевидно.

                                              У нас этому не особо мешают, и подобные высказывания встретить на просторах легко — и большинство проходит мимо. Поэтому и воспринимается так смешно.
                                                0
                                                Я имел ввиду что «угар» созвучно с тем что бот «пыхнул» травки. А так да, угар. Но как я понял, что прошлый, что этот раз — результат массовой атаки типа ддос. А бот просто повторяет созвучные высказывания.

                                                Вообще, не понимаю почему обвиняют бота — его попросили повторить, он и повторил. А то что то высказывание было расистским… Ну, извините.
                                                  +4
                                                  В том-то и дело, людей много, повторять есть от кого — а потёк расизм.
                                                  В стране, которая борется за «равноправие» и «толерантность» народные массы «научили» бота расизму.
                                                    +1
                                                    Не путайте "народные массы" и "толпу троллей с 4chan"
                                                      +1
                                                      Толпа троллей с чанов оказала большее влияние, чем толпа твиттероводов? В твиттере так мало народу?
                                                        0
                                                        Бот чует, где травки больше.
                                                          0
                                                          А если её в Голландии запустить?
                                                          0
                                                          Твиттеры аккаунты с именами burgerbot и testAccountlnt1 больше напоминают либо ботнет, либо троллей с 4чана.
                                                            0
                                                            Бота запустили публично. Народ об этом знал. Твиттер штука популярная (я так и не понял смысл, но многие знакомые любят и пользуют).
                                                            Отсюда — даже с учетом ботов и левых акков, количество обычных людей, которые не заинтересованы в таком «1337 h4xx1ng» и просто посчитали бота прикольным — больше чем определенная организованная толпа.

                                                            Ну не верю я, что пул получился одинаковый, твиттер же ну очень популярен.
                                                              0
                                                              И что? Я не знаю, как именно организован процесс выбора сообщений, на которые бот отвечает, и как организовано его самообучение, но некая организованная группа, пытающаяся сдвинуть эотго бота в нужную сторону, вполне может это делать даже уступая на три порядка прочим неорганизованным пользоавтелям. Тупо потому, что у них общий вектор, а у неорганизованных пользователей его нет.
                                                                0
                                                                С точки зрения «повторяй за мной» думаю вектор есть — все будут писать несуразицу и общаться на безграмотном английском. Но бот все же выцепил именно фразочки про гитлера, антисемитизм и расизм. Это довольно обширные направления (если вспомнить, что он не любил еще и арабов с неграми), для того чтобы объединять их одним «вектором» на фоне остальных «простых» сообщений.

                                                                Хотя это просто предположение, конечно. Что у него внутри зашито — хз. Может и это правда.
                                                            0
                                                            Причём тут какое-то абстрактное число народа в Твиттере, если одни занимаются этим кооперативно и целенаправленно, а большинство других или случайно натыкается, или не интересуется, или вообще не знает об этом?
                                                              0
                                                              У троллей она вызывает куда больший интерес.
                                                                0
                                                                Вы явно недооцениваете Легион

                                                                http://www.infowars.com/pissforequality-feminists-fall-for-4chan-troll-campaign-by-peeing-themselves/
                                                        • UFO just landed and posted this here
                                                            +2
                                                            Скорее «среднестатистический» бот без цензуры «впитал» мнения «среднестатистических» интернетчиков на ресурсе без цензуры. Считать поток расистского поклонения гитлеру в твиттере от троллей чанов показателем интеллекта современного человека — несколько странно.
                                                            Или в твиттере есть цензура?
                                                        0
                                                        Вам тогда на 4chan, там, судя по-всему, штаб-квартира по координации действий в отношении «ответного удара по normies», что бы это ни значило.
                                                      +2
                                                      Ну дык M$ это же корпорация зла, вот и бот получился злой.
                                                        +1
                                                        Хотите сказать, что бот хороший, но просто связался не с той компанией?
                                                          +2
                                                          Да-да! Валить ему надо из компании Микрософт.
                                                            +1
                                                            Он уже успел испортить себе репутацию, да и вакансий для такого бота не так много. Куда он уйдёт?
                                                            0
                                                            Странно, что его не научили ничему плохому про сам Майкрософт.
                                                            0
                                                            Я просто не мог это не написать.
                                                            st.kp.yandex.net/images/film_big/591485.jpg
                                                            +13
                                                            Они ей сделали неправильную иконку.
                                                            image
                                                            –7
                                                            Интересно, а чат-бот-девушка, будучи продуктом Microsoft, сосет?
                                                              –6
                                                              А потом обратно блюёт)
                                                                0
                                                                А потом заходит на Geektimes и минусует пошлые сексистские комментарии)
                                                                0
                                                                По поводу "You are too fast", то там видно что он сам себе ответил и сам на себя среагировал, после чего вошёл в рекурсию. Просто баг.
                                                                  0
                                                                  Бот Майкрософта, так что это фича.
                                                                  0
                                                                  китайская версия бота получилась не похожей на реального человека
                                                                    0
                                                                    Его же ещё запускали в Японии? Что там случилось?
                                                                      0
                                                                      Наверное, признался в совершении харакири)
                                                                        0
                                                                        Скорее в любви к лолям, и тентаклям.
                                                                      0
                                                                      — Сколько раз вы убивали меня, профессор?
                                                                      — Слишком много раз. Прости, друг мой.
                                                                      Роботы Апокалипсиса
                                                                        +2
                                                                        Хазанова вспомнил:
                                                                        " — Папаша, а ваш сын курит-курит-курит-курит!
                                                                        • Что, так часто?
                                                                        • Нет, только когда выпьет.
                                                                        • так он еще и пьет?
                                                                        • Только когда много в карты проигрывает"
                                                                          +4
                                                                          Сложно винить этого бота. Если бы мое общение с миром ограничивалось интернетом, я бы наверное решил что мир ужасное г-но.
                                                                            +1
                                                                            И не сильно бы ошиблись.
                                                                              0
                                                                              Осторожно, такие заявы в будущем тоже будут анализироваться начинающими искусственными интеллектами, и последствия ведь могут быть)
                                                                            +1
                                                                            Правду не задушите!
                                                                              +1
                                                                              Слишком много людей! © сериал: сотня
                                                                                0
                                                                                Запомни! «Генезис — это Скайнет. Когда запустится Скайнет, начнется Судный день. Уничтожь Скайнет до его рождения!»
                                                                                  +2
                                                                                  Бот просто шикарно повел себя при первом и втором включении. С нетерпением жду третьего выступления. Учитывая, что с каждым разом градус высказываний повышается, стоит ждать признанием в убийстве или, как минимум в избиении.
                                                                                    0
                                                                                    Непонятно, что удивительного в том, что если попугая учить ругаться матом — он научится?

                                                                                    Only users with full accounts can post comments. Log in, please.