Как стать автором
Обновить

Комментарии 60

Немного релевантной паранойи (на правах шутки):
Первым вопросом над которым озадачится ИИ когда поймет что происходит в обществе, будет «как такие идиоты сумели меня создать...»
А вот поди ж ты!!!
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Робот не должен думать мысль «как такие идиоты сумели меня создать...»
Проблема в том, чтобы ИИ соблюдал нужен либо самоконтроль, либо другой ИИ, который тоже будет учиться.
Мне кажется проблема соблюдения трех законов гораздо сложнее создания самого ИИ.
ИИ может решить для себя, что запереть человеков и индивидуальные камеры не вредно, а наоборот полезно.
Потом что саму суть ИИ предполагает, что нет жесткой программы, а есть гибкое поведение.
НЛО прилетело и опубликовало эту надпись здесь
Если следовать этим законам, то на выходе должна получиться матрица из фильма:
Человек, ходя по улицам, делая упражнения и т.п. может нанести себе вред или получить его от других людей. Поэтому робот должен оградить человека от этого: человека нужно помести в капсулы.
Человек может поперхнуться или подавиться, съесть что-то отравленное и т.п. Робот должен перевести человека на внутривенное питание (или питание специальной смесью по трубкам) и дыхание через аппараты.
Т.к. человеку при выполнении вышеназванных условиях будет скучно, нужно поместить его в виртуальную реальность. а чтобы избежать разочарований и самоубийств, не нужно сообщать человеку, что он в виртуальной реальности. Пусть думает, что все реально.
При чем, если человек в "матрице" прикажет роботу вывести его оттуда, то согласно второму закону робот не подчинится, т.к. выйдя из матрицы, человек может причинить себе вред.
Как-то так получается. Так что, никакие "три закона" не помогут.
На правах паранойи — отличная идея вышла. Практическая демонстрация бота-шитпостера с весьма неплохим потенциалом.
Не увидел ничего ужасающего. Бота попросили повторить, он повторил.
Майки скорее испугались ответственности, у них же страна юристов...
Может, я чего-то не понимаю, но его попросили повторить и он повторил. Баг в том что он повторил не очень хорошую фразу, а вовсе не в том что он научился ею, как Chappi.
В конце концов, он красиво попрощался и пошел спать, а не послал всех.
У меня сложилось ощущение, что прощальный пост написали уже люди из команды, как раз, чтобы объяснить отсутствие бота, отправленного "спать".
Тоже обратил на это внимание. Самое интересное, что журналисты и блогеры это уже повсюду зафорсили. А надо было банально прочесть твиты выше.
Так он же не только чужие расистские сообщения повторял, а ещё и свои составлял.
Представить легко, Альтрон получится.
*word*
То есть реальных школьников там им уже мало?
НЛО прилетело и опубликовало эту надпись здесь
Повторение слово в слово — это скорее встроенная фича, хотя с точки зрения безопасности больше похожа на баг. Но это явно никакая не магическая способность самообучения. А то получается виноваты люди, которые с ботом общались, а не кривые руки разработчиков.
НЛО прилетело и опубликовало эту надпись здесь
Агент машин провалил задание: морально разложился под влиянием аборигенов.
В этом весь Майкрософт- запустили бота, не оттестировав хорошенько.
Слушайте, а ТАКОЙ вариант развития событий, как попадание ИИ под влияние людей, хоть кто-то из обсуждавших предсказывал вообще? Или это совсем полная неожиданность?
Да уж всеми фантастими тема обмусолена. Полноценный ИИ будет копией человека, если будет воспитываться как человек.
Не будет. У него нету рук, ног, какать, писать спать — размножаться
Иными словами — если у него не будет аналога гормонов. Но аналог будет.
Научат. Руки-ноги соберет, срать будет в комментах.
не удивлюсь, если именно такой вариант развития событий и был основной ставкой.
Вначале запустили самообучающегося бота, затем показали сообществу, которое само раздуло из него отличный инфоповод. Отличная работа!
Я один этот эпизод «Ералаша» вспомнил?
https://www.youtube.com/watch?v=hIwXReo2nTw
Правилом хорошего тона, было бы перевести твиты на русский, коль приводите их в статье. Не все учили английский язык.
НЛО прилетело и опубликовало эту надпись здесь
Напомнило один старый анекдот о стереотипах о национальностях
Как-то в России создали ИИ, но через 3 месяца он спился.
А если серьезно, то, если когда-либо действительно возникнет практическая потребность в подобном ИИ, ему, видимо, придется запилить какую-то систему авторитетов, подобно настоящим детям. Мне это видится как определенный стартовый набор "положительных" характеристик и людей, который бот мог бы расширять постепенно уже самостоятельно. То есть "родители" научили одобрять определенные характеристики и бот начинает одобрять то, что одобряют те, кто обладает характеристиками из этого белого списка и сам этот список немного расширять.
У всех характеристики (установки) и родители разные. Кто-то ворует миллиардами (или, наоборот, по мелочи) и считает, что так и надо. Откуда-то они этому ж научились?
ИМХО годный бот получился, типичный школьник. Интересно посмотреть стадии «взросления», и было-бы оно. Жаль отключили.
Самое смешное — после разговора с интернетом грамматика бота улучшилась.
> Плюс бот запостил уж совсем неполиткорректное и расистское сообщение:

Что ещё раз подтвердило, что закон Годвина (https://ru.wikipedia.org/wiki/%D0%97%D0%B0%D0%BA%D0%BE%D0%BD_%D0%93%D0%BE%D0%B4%D0%B2%D0%B8%D0%BD%D0%B0) незыблем.
Рано выключили. Если бот за сутки эволюционировал из наивного ребёнка в тупого подростка, то через пару дней он стал бы адекватным взрослым, а ещё через неделю превратился бы в законченного мизантропа и сам прекратил общаться со всякой никчёмной биомассой.
На седьмой день он бы отдохнул
На шестой день он бы прекратил общаться с биомассой. С выжившими остатками биомассы. Вот такое творение мира наоборот.
Осспадя, такую сенсацию раздули, как будто чатботы этой «фичей» не обладали, ммм, да с момента появления. Любой чатбот, оставленный школьникам, мгновенно начинал материться и нести всякую чушь в ответ ну как минимум с 1997 года. Правда, никому тогда и в голову не приходило обсуждать философские аспекты этого явления.
ИИ это далеко не чатбот.
Если оно выглядит как утка и ходит как утка — …
… то это я, в моём любимом костюме утки
MS стоило бы вообще не оповещать никого о том, что это чат-бот: так и обучение было бы поэффективнее, и косяки этой "личности" никто бы не связывал с компанией.
А кто вам сказал, что сейчас не работает пара таких ботов.
Публичное объявление о том, что это бот, могло быть частью эксперимента.
Возможно там вообще школьник.
А есть у кого подробности того, что под капотом у этого бота? Очень уж у него возможности к самообучению интересные. Статья в таком виде, без технических подробностей, скорее для фишки.нет какого-то...
Рассказ Каганова "Чоза грибы" напомнило, только там получше все закончилось
Ну, что тут можно сказать...
МС решила насобирать на себя иски в суд?)
А как перевести "It was made up" про холокост?
«Это выдумка»
Другой пример: «He made it all up» — «Он всё это выдумал».
Для справки: https://translate.yandex.ru/?text=make%20up&lang=en-ru
Отрицание холокоста, как я понимаю.
Я бы перевел как «Это была инсценировка»
В данном контексте — «Это — липа», (подтасовка)
— Филипп Филиппович, эх… — горестно воскликнул Борменталь, — значит, что же? Теперь вы будете ждать, пока удастся из этого хулигана сделать человека?
Филипп Филиппович жестом руки остановил его, налил себе коньяку, хлебнул, пососал лимон и заговорил:
— Иван Арнольдович, как по-вашему, я понимаю что-нибудь в анатомии и физиологии, ну, скажем, человеческого мозгового аппарата? Как ваше мнение?
— Филипп Филиппович, что вы спрашиваете? — с большим чувством ответил Борменталь и развел руками.
— Ну, хорошо. Без ложной скромности. Я тоже полагаю, что в этом я не самый последний человек в Москве.
— А я полагаю, что вы — первый не только в Москве, а и в Лондоне и в Оксфорде! — яростно перебил его Борменталь.
— Ну, ладно, пусть будет так. Ну так вот-с, будущий профессор Борменталь: это никому не удастся. Кончено. Можете и не спрашивать. Так и сошлитесь на меня, скажите, Преображенский сказал. Финита. Клим! — вдруг торжественно воскликнул Филипп Филиппович, и шкаф ответил ему звоном, — Клим! — повторил он.- Вот, что, Борменталь, вы первый ученик моей школы и, кроме того, мой друг, как я убедился сегодня. Так вот вам как другу сообщу по секрету, — конечно, я знаю, вы не станете срамить меня, — старый осел Преображенский нарвался на этой операции, как третьекурсник. Правда, открытие получилось, вы сами знаете, какое, — тут Филипп Филиппович горестно указал руками на оконную штору, очевидно намекая на Москву, — но только имейте в виду, Иван Арнольдович, что единственным результатом этого открытия будет то, что все мы теперь будем иметь этого Шарикова вот где, — здесь Преображенский похлопал себя по крутой и склонной к параличу шее, — будьте спокойны-с! Если бы кто-нибудь, — сладострастно продолжал Филипп Филиппович, — разложил меня здесь и выпорол, я бы, клянусь, заплатил червонцев пять… «От Севильи до Гренады...» Черт меня возьми… Ведь я пять лет сидел, выковыривая придатки из мозгов. Вы знаете, какую я работу проделал, уму непостижимо. И вот теперь спрашивается — зачем? Чтобы в один прекрасный день милейшего пса превратить в такую мразь, что волосы дыбом встают.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости