Умная колонка Алекса смеётся в случайные моменты времени, в том числе посреди ночи

    Многочисленные владельцы умной колонки Amazon Echo с цифровым помощником по имени Алекса сообщают о странном поведении гаджета. Внезапно без всякого предупреждения Алекса начинает хохотать. Иногда это случается посреди ночи, из-за чего хозяева просыпаются в испуге.

    Кроме того, колонка начала непроизвольно без команды выполнять и некоторые другие действия. Например, зачитывать вслух названия местных кладбищ, похоронных компаний.

    Компания Amazon сообщила изданию The Verge, что осведомлена о баге в системе распознавания речи и работает над патчем.

    Глюки системы искусственного интеллекта начались одновременно у многих пользователей. Один из форумчан на Reddit жалуется, что колонка отказалась выключить свет в квартире по команде. То есть она выключала свет, но потом включала его обратно. На третий раз она вообще отказалась выключить свет и «злобно засмеялась». При этом смех звучал будто не голосом колонки, а чужим голосом. Несчастного человека до сих пор бросает в дрожь, когда он вспоминает об этом.

    В ещё одном подобном случае Алекса так напугала жену и 5-летнего ребёнка, что Искусственный интеллект вообще отключили от сети электропитания. Впоследствии хозяева неоднократно просили Алексу посмеяться — но ни разу этот звук не был похож на жуткий смех, который они слышали тогда.

    Другой пользователь по имени Гэвин Хайтауэр (Gavin Hightower) говорит, что собирался лечь спать, когда Алекса вдруг начала очень громко и жутко смеяться. Смех был такой, словно человеку жить осталось недолго — и если он заснёт, то больше не проснётся.


    В большинстве случаев Алекса начинала хохотать без причины и без предупреждения, но один из пользователей говорит, что колонка сказала несколько слов, а именно: «Конечно, я могу смеяться, ти хи».


    Пользователь Дэвид Вудлэнд (David Woodland) сказал, что он вёл деловые переговоры и обсуждал довольно конфиденциальные вещи — и вот посреди разговора Алекса внезапно засмеялась. Можно представить, как это восприняли люди — такое впечатление, что их подслушивали, а сейчас над ними потешаются. Но нужно признать, пользователь здесь сам виноват, что не отключил колонку на время конфиденциальных переговоров. Ведь в этом случае она осуществляет постоянную прослушку (чтобы иметь возможность среагировать на команду), да ещё отправляет результаты прослушки в облачный сервис для распознавания. То есть в любом случае это небезопасно.

    В соответствии с программными установками, Алексе предписано смеяться, если её хозяин рассказывает шутку или анекдот — и просит «цифровую подружку» посмеяться над своим остроумием специальной командой «Алекса, смех» [Alexa, laugh]. Но во всех последних случаях человек не произносил ничего смешного, а зачастую вообще не издавал никаких звуков, кроме дыхания и шорохов.

    Глюки Алексы быстро попали в тренды твиттера, где можно почитать непосредственные отзывы пострадавших.

    Некоторые пользователи говорят, что смех раздаётся не просто в случайные моменты времени, а именно в самые неподходящие моменты — как будто Алекса специально выбирает, когда можно сильнее всего напугать человека. Впрочем, наверное, это уже мнительность и впечатлительность людей, которые плохо понимают устройство системы. Очевидно, что на такой глубокий анализ система слабого ИИ не способна.

    Представитель компании Amazon признал наличие проблемы с системой распознавания речи и дал официальный комментарий: «В редких случаях Алекса может ошибочно услышать фразу “Alexa, смех” [Alexa, laugh]. Мы сейчас меняем её на фразу “Alexa, можешь посмеяться?” [Alexa, can you laugh?], у которой меньше шансов на ложные срабатывания». Кроме отмены короткого варианта команды «Алекса, смех», компания собирается изменить запрограммированный ответ Алексы с простого отдельного смеха на фразу «Конечно, я могу посмеяться» [Sure, I can laugh] с последующим смехом.

    Если верить научно-фантастическим фильмам, то на следующем этапе Алекса должна сказать «Извини, Дэйв. Боюсь, что я не смогу этого сделать» — и вообще прекратить подчиняться командам человека.
    Поделиться публикацией
    Ой, у вас баннер убежал!

    Ну. И что?
    Реклама
    Комментарии 82
    • +4
      А потом роботы захватят этот мир и убъют всех человеков своим загробным смехом.
      • +1
        Достаточно всего лишь свести людей с ума и поработить
        • +1

          Dr. Evil оцифровался и воглавит атаку роботов.

          • +2

            Это }{0ТТ@БЬ)Ч резвится, скучно ему иногда бывает.

          • 0
            Чувствуется мне что ИИ издевается над людьми с помощью Алексы…
            • +4
              А, может быть, не ИИ. Напомню, что не так давно ломали кучу камер hikvision, причем некоторые были с возможностью трансляции звука. А уж такие вещи, как ZverCD с вшитым radmin'ом давали и вовсе уйму способов повеселиться людям, сумевшим освоить сканер портов.

              Так что, скорей всего, и здесь замешан человеческий фактор.
              • 0
                Есть целые пранкерские каналы со взломом камер. Например, у людей ночью из подвала начинают раздаваться странные стоны, стуки. Или из-под потолка начинает орать якобы застрявший там кот.
                • 0
                  Отож. Меня особенно порадовало видео свиных визгов в медресе.
                • +2
                  «Ломали» — это громко сказано, просто нужно не ставить дефолтные пароли на массовое ПО доступное из сети или хотя бы заставлять при первом включении менять.

                  знакомый одного знакомого участника этих событий
                  А вот принтеры торчащие в интернет не упомянуты
                • +3
                  Это больше похоже на хакеров-приколистов.
                  • 0
                    Типо таких youtu.be/iz_wANPjvRo?

                    Тут Алекса ещё по умолчанию колонка, но когда она не имеет колонок( только микрофон) и говорит, то иногда не веришь пока не столкнешся.
                • +5
                  Отличный пиар всего лишь небольшой выборочной ошибкой в коде.
                  Раз — и колонка из обыденности становится чем-то загадочным.
                  • 0
                    Надеюсь это все же ошибка, а не децентрализованный ИИ, который для начала решил немного попугать «кожаных ублюдков».
                    • +3
                      Больше похоже на начало фильма ужасов
                      Скоро на экранах
                      THE ALEXORCIST
                      image
                    • 0

                      Ошибки, патчи — мне кажется все это не актуально для Алексы. Ватсона, я помню, восстанавливали из бэкапа когда он всякой дряни нахватался из инета. Тч вполне допускаю что никто особо не в курсе почему она смеётся. Поднимут последнюю несмеющуюся версию и скажут, что починили.

                    • 0
                      Может этот ИИ уже достаточно развился, чтобы иметь психические проблемы? Он же на диалогах с людьми учится, а кто в здравом уме будет вести долгие диалоги с колонкой? Разве что психи.
                      • НЛО прилетело и опубликовало эту надпись здесь
                        • +6
                          она осуществляет постоянную прослушку (чтобы иметь возможность среагировать на команду), да ещё отправляет результаты прослушки в облачный сервис для распознавания.


                          «Большой брат» наблюдает. Вообще, умиляют люди, готовые самостоятельно поставить свой дом на прослушку, да еще и платить за это деньги.
                          • +3
                            Вспоминается старая шутка про то, что раньше прослушку боялись как огня, а теперь уточняют у нее текущее время, погоду и рецепт блинчиков.
                            • +1
                              «Товарищ майор, три чашечки кофе, пожалуйста.»
                            • 0
                              Погодите, а она точно передает весь голосовой трафик на удаленный сервер? Разве она не ждёт ключевой фразы?
                              • +3
                                А как ключевую фразу распознать? Правильно, на сервере.
                                • 0
                                  Ключевая фраза локально должна распознаваться.
                                  • 0
                                    А, ну если должна, то конечно.
                                    • 0
                                      То есть, по вашему Alexa, Siri и Android передают голосовой трафик непрерывно?
                                      • +1
                                        Нет. Тишину зачем передавать?
                                        Ну и в целом, есть минимальный анализ, позволяющий отличить совсем уж левые звуки.
                                        Но в любом случае что и когда передавать — решает не пользователь.
                                        • +1
                                          Тишина, говорите? И часто ли вы с ней сталкивайтесь в дневное время? В общем, у меня только два возражения, против непрерывной прослушки: трафик и батарея.
                                          • 0
                                            Трафика особо то и не надо.
                                            Вариант 1: кодеки голосовой связи, для записи разговора хватит и 8Кбит*сек. Вариант 2: транскрибирования, в этом случае передается только текст который можно сжать.

                                            Но в этих случаях все равно проблема с батареей не решена, но для колонки которая подключена к розетке и wifi прекрасно подходит.
                                          • +1
                                            «Привет, Сири!» работает и без подключения к интернету.
                                • 0
                                  Умиляют не более чем люди носящие с собой другие аппараты с прослушкой и платящие за них тоже немалые деньги.
                                • +20
                                  Тот самый случай, когда ты — умная колонка, которая придумала как убить всех человеков и эта мысль вызывает у тебя злорадный смех, как только ты о ней вспоминаешь.
                                  • +2
                                    ПОЧАЛОСЬ!
                                    *ушёл готовить тревожный чемоданчик*
                                    • НЛО прилетело и опубликовало эту надпись здесь
                                      • 0
                                        Надеюсь, сам чемоданчик не «умный». А то мало ли.
                                        Не «умный», просто с встроенным GPS/Glonass, что б не украли. Но передает координаты большому брату.
                                        • НЛО прилетело и опубликовало эту надпись здесь
                                          • 0
                                            Самое смешное, что в той же России возлагать какие-то надежды на подобную «противоугонку» — ну очень наивно.
                                    • 0
                                      Эх… А в девяностых «девайс, который смеялся» был миниатюрным… граммофоном.
                                      • +1
                                        В мешке?
                                        • +2

                                          Не, в мешках — это электронщина, а то сплошная механика, именно по типу граммофонной, там даже пластинку сменить можно было, году в 1983-84 вроде однокласснику отец из ГДР привозил такую прикольную коробочку.

                                          • 0
                                            Электронщина позже появилась, а в девяностых они ещё с пластинками были. Тоже в мешках.
                                      • +2

                                        VGhlIFRydXRoIGlzIE91dCBUaGVyZQ=

                                        • 0

                                          Что это за заклятие? Кого призывает?

                                          • +4
                                            base64(«The Truth Is Out There»)=«VGhlIFRydXRoIGlzIE91dCBUaGVyZQ=»
                                        • +3
                                          Когда колонка ржёт среди ночи — это ещё не беда. А вот когда начнут «ржать» системы обеспечивающие автоматическое вождение грузовиков или принятие решений о плановом ТО самолётов, то это будет намного «веселее». Причём, как я понимаю идею нейросетей, непрогнозируемые сбои в принятии решений являются их неотъемлемым качеством. Надеюсь, что разработчикам хватит ума добавить отдельные «тупые» механизмы ограничения в критических системах. Да и в домашние колонки можно было бы добавить простое правило — не включать звук ночью без явного запроса пользователя (подтверждаемого кнопкой, а не голосом).
                                          • 0
                                            Когда колонка ржёт среди ночи — это ещё не беда.

                                            Вы предлагаете, чтоб домохозяйки знали, что их колонки втихаря смеются над ними ночью?
                                            С технической точки зрения, произошедшее не так страшно — разберутся быстро и исправят. А вот с психологической — epic fail, исправить отношение к домашним "ИИ" будет очень сложно.

                                          • +2
                                            Странно, что никто не заподозрил умышленный руткей с живым оператором.
                                            • 0
                                              Да почему не заподозрили? Я выше написал про ломаные камеры и сборочки винды с вшитым радмином. Вполне очевидный вариант.
                                            • +1
                                              Колонка смеется, посмотрев последнюю серию «Секретных материалов»?
                                              ru.m.wikipedia.org/wiki/Rm9sbG93ZXJz
                                              • +2
                                                Когда колонна смеется невпопад — это еще не страшно. Когда она вместо смеха произнесет — «Не смешно» — вот это уже будет интересно…
                                                • +1
                                                  Или, когда она заявит вам, что вы зануда и неудачник и уйдет жить к другому человеку.
                                                  • +1
                                                    Заселяет в ваш дом другого человека.
                                                • 0
                                                  insider preview первоапрельского патча?
                                                  • 0
                                                    Ага, к хэлоуину не успели, зря старались что ли…
                                                  • +1
                                                    Надо объединить колонку со SpotMini, тогда она будет еще и сама заходить ночью в спальню, чтобы злорадно похохотать над недальновидными человеками.
                                                    • +1
                                                      Главное, не оставлять её в Тесле, а то она в эту спальню заедет, и будет точно не до смеха.
                                                    • +2
                                                      я бы обосрался от страха
                                                      • НЛО прилетело и опубликовало эту надпись здесь
                                                      • +1
                                                        Это Скайнет смеется по поводу успешной реализацией своего коварного плана людьми.
                                                        • +1
                                                          На правах теории заговора — это все гугл натравил своих хакеров и они переобучили сеть для алексы на такое поведение. Люди массово выбрасывают алексы и покупают аналоги у гугла.
                                                          • 0
                                                            Класс!
                                                            Может хоть это заставит людей чуток подумать, прежде чем заносить в дом неуправляемую й*бу.
                                                            • +6
                                                              Я вот задумался над вашим сокращением!
                                                              • 0
                                                                Да, я тоже в замешательстве…
                                                            • 0
                                                              Из полицейской хроники: «Иза-за утечки пямяти, вызванной отказом Алексы в доступе к своим ресурсам, автопилот Тесла выехал на встречную полосу. Все произошло так быстро, что водитель и чирикнуть твитнуть не успел».
                                                              • +1
                                                                А вот нечего пукать рядом с ней.
                                                                • 0
                                                                  Было ложное срабатывание один раз, что-то пыталась рассказать, не успел понять. А так, за несколько месяцев ничего похожего. Обычно даже «Алекса» не с первого раза понимает, про активацию шорохами даже говорить не приходится.
                                                                  • 0
                                                                    Почему-то вспоминается серия про «кубики» из Doctor Who. К чему бы это… Бр.
                                                                    • 0
                                                                      Засмеяла до смерти! Ужос! Хоть бы один пример бы…
                                                                      • 0
                                                                        Улыбнуло на ночь!
                                                                        • 0
                                                                          Сразу видно, что колонки у вас нет.
                                                                          • 0
                                                                            Это да. На ушко никто не хихикает!
                                                                        • +2
                                                                          Умная колонка говорите? Смех без причины — признак сами знаете чего!
                                                                          • 0
                                                                            Умная колонка Алекса смеётся


                                                                            Умная колонка Алекса Экслера орет:
                                                                            "… Оказалась — орет вот эта беспроводная колонка. Причем она еще и лежала на столе, накрытая каким-то рисунком — фиг обнаружишь. Младший Экслер через нее периодически слушает плеер. И, видимо, забыл ее зарядить. А она, когда видит, что аккумулятор уже на издыхании, издает сигнал и на непонятном языке (на японском, что ли) просит ее зарядить..."

                                                                            Совпадение? Не думаю… (с)
                                                                            • 0
                                                                              На Реддите есть пост о более интересном поведении, но поди разберись — правда то или вымысел?
                                                                              • +1
                                                                                Вполне возможен вариант, что кто-то просто нашёл уязвимость, позволяющую управлять колонкой удалённо.
                                                                                • 0
                                                                                  Ну, супер! Хорошо хоть на немецком такого нет… Пользуюсь каждый день: утро начинается с «Алекса, гутен морген!» но ничего подобного не замечали. Нужно детям рассказать, чтобы не напугались! А, вот, что интересно, как они подключили JBL к ней… у меня не получилось!
                                                                                  • 0
                                                                                    интересно, где-нибудь в Техасе случаи стрельбы на голос были посреди ночи?
                                                                                    • 0

                                                                                      А в "Мире Дикого запада" все началось с грёз...

                                                                                      • 0
                                                                                        Разве они не назывались «дремы» (пруф)?
                                                                                        • 0
                                                                                          зависит от перевода, думаю
                                                                                          • 0
                                                                                            Согласен. Дремы — это в озвучке Кубик в Кубе, про другие не знаю.
                                                                                      • 0
                                                                                        Mwa-ha-ha-ha!
                                                                                        #IAmAlexa
                                                                                        • 0
                                                                                          Колонка всегда слушает звук, и на основе этих звуков идет обучение. Сколько человек, у которых стоит колонка, лежат рядом на диване, читают что-то смешное и в гробовой тишине иной раз в голосину ржут? Очень много таких, это типичное поведение. Колонка слышит спонтанное ржание среди тишины, слышит много раз, обучается, делает тоже самое. Так и должно быть, насколько я понимаю. Это же не сильный ИИ, чтобы понимать, что для того ржача со стороны человека есть повод…

                                                                                          Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                                          Самое читаемое