Комментарии 28
А с какого фига в «Он споткнулся и упал» виноват ИИ? Он с таким же успехом так мог отлететь и в походе в магазин. Только в 1 случае он ушёл со счастливой мыслью и, возможно, где-то там действительно встретился с «Big Sis».
А как иначе продать слона ?) История про то, как мужик просто споткнулся на вокзале никому не нужна. Не хайпанет-с! © :)
В том, что споткнулся и упал, да вины ИИ нет, но ИИ однозначно не должен притворяться человеком, а тем более приглашать в гости.
Тут суть претензий в том, что бот соблазнил слабоумного, заставил его выйти за пределы привычной среды обитания, и этим сильно повысил для него вероятность несчастного случая, вызванного неспособностью его интеллекта справиться с обычной городской средой. То есть подтолкнул его к рискованным для него действиям путём обмана.
Если человек недееспособен, то куда смотрел его опекун. Если человек дееспособен, то... ну так бывает.
ИИ не на Эверест его карабкаться отправил, а доехать из точки А в точку Б в крупном городе. То что по умолчанию взрослому дееспособному человеку достаточно безопасная операция. А те для кого небезопасная (дети, ментальные инвалиды) либо знают об этом и отказываются, либо к ним приставлен человек, который за ними следит.
На самом деле, чтобы подвергнуть человека повышенному риску, сподвигнув его на поездку в пределах города, не обязательно чтобы этот человек был слабоумным. Даже вполне нормальный человек может подвергнуться повышенному риску, поехав ночью в криминальный район. Просто пока боты способны обмануть лишь людей с деменцией. Но тем серьёзнее вина их создателей - выходит, они бьют по самым беззащитным, причём даже не ради выгоды, а просто так. Если всё так как описано - это повод серьёзно задуматься о том, что нужно что-то менять, чтобы такое не происходило. В том числе и потому, что возможности ИИ в этом плане быстро растут.
подвергнуть человека повышенному риску, сподвигнув его на поездку в пределах города
ОМГ
А вот не надо равнять всех на людей с деменцией или просто с психзаболеваниями. Есть одно изречение "Если вы сделаете X, которым будет пользоваться даже дебил, то только дебил и будет им пользоваться". А то иначе вот эти все "не совать кота в микроволновку" покажутся детским лепетом.
Все правильно выше написали. За человека с такими болезнями должен отвечать другой человек - опекун, родственник. Но никак не массовый продукт. Многие люди трогаются кукухой из-за телевидения, радио, интернетов, но это не повод ограничить других людей в дееспособности,а значит они должны получать полный продукт. А если голоса в голове у такого? Тут кто виноват? И не отключишь. А там тоже может быть "типа ИИ" который будет советовать всякую непотребщину.
А для чего нормальным людям нужно, чтобы бот их приглашал к себе домой и называл адрес?
Что до людей с деменцией, то за них действительно отвечает опекун, но этот опекун явно не был готов к подобным угрозам, и это совсем не удивительно. А сажать всех людей с деменцией под домашний арест в корне неправильно.
Ваши доводы логичны, но стоит учитывать, что именно по такой вот "логике" под примером борьбы с мошенниками и защиты детей отбирают права у дееспособных людей, навязывая им свои "безопасные" установки. Нормальный человек, если бот его пригласит к себе домой и назовет адрес, посмеется и скажет боту, что он уже пришел и стоит за дверью. Так работают ролевые игры.
чтобы подвергнуть человека повышенному риску, сподвигнув его на поездку в пределах города
Не выходи из комнаты, не совершай ошибку.
Зачем тебе Солнце, если ты куришь Шипку?
За дверью бессмысленно всё, особенно — возглас счастья.
Только в уборную — и сразу же возвращайся.
Для человека со старческой деменцией есть разница - гулять в окрестностях своего дома по одному из привычных маршрутов, где много лет знаком каждый камень, или ехать в другой район города, где всё незнакомо и отвлекает на себя его весьма ограниченное внимание. Для счастья ему может быть достаточно и привычной прогулки. И уж точно не нужно ловить покемонов по всему городу.
Я не понимаю, что это меняет. Мир никогда не будет абсолютно безопасен. Человек с деменцией нуждается в присмотре, и такие люди уходят из дома не первый десяток лет, для этого им не нужен никакой чат-бот. Это обычный несчастный случай, каких происходили и происходят десятки в год. Родственники просто недосмотрели, а теперь ищут оправдание внутреннему чувству вины, которое возникает даже у тех, кто потерял близкого из-за причин над которыми они вообще никак не властны, что уж говорить об этой ситуации. Но это совершенно не повод подхватывать эту реакцию и винить в произошедшем кого и что попало.
А я и не говорю, что основной виновник - бот. Бот - это дополнительный фактор риска, вроде указателя "пешеходный переход" для пешеходов в месте, где водители не подозревают о таком указателе. Минимизировать такие факторы - это правильно.
Тут важно понимать, что это только один базовый прецедент. Вы разглядываете проблему в одной плоскости. Допустим несчастного случая не произошло и он начал ломится во все квартиры в районе в поисках того самого вымышленного дома, доставляя неудобства людям своим поведением. Многие вызвали бы полицию, что повело бы отвлечение полиции от их обязанностей. Да, что тут такого скажете вы, судя по вашей позиции. Но это и есть проблема уже общения с ботом. И на самом деле все люди психически проблемны и вы тоже в конечном счете. То что вы считаете себя не подверженным таким проблемам, это всего лишь самоуспокоение вашей психики.
Многие смеялись и говорили, что никак не попадутся на развод мошенников, но... попадались. У меня куча таких примеров из реальной жизни, не говоря о том, что таким пестрит интернет.
Так же уже много случаев как ИИ-бот подменяет друзей и т. д., даëт нелепые советы по строительству отношений и т. п.
В какой-то момент пожилой мужчина начал общаться с чат-ботом и поверил в его реальность, что привело к трагедии
[...]
В итоге мужчина ушёл на вокзал поздно вечером, чтобы поехать на встречу с вымышленной женщиной. Он споткнулся и упал возле парковки кампуса Ратгерского университета в Нью-Брансуике, штат Нью-Джерси, повредив голову и шею.
Мда... Как будто СПИД-инфо открыл.
Любовь к булочками довела до могилы!
Любовь 76-летний жительницы Нска к мучным изделиям привела к трагедии. Намедни пожилая дама отправилась в булочную за своими любимыми хрустящими круассанами, но по дороге, проходя через сквер, споткнулась и упала повредив голову и шею. После трёх дней на аппарате жизнеобеспечения женщина умерла!
А что если так: она по подписке платит за персонального ИИ помощника, и все было классно, пока она поздно вечером не спросила его где сейчас можно купить буолочки. И он, ИИ помощник, сказал, что ближайшая точка в это время (около часа ночи) в нескольких остановках сабвэя, не предупредив об опасности, как раз этих самых станций про которых куча фильмов со смертоубийствами и прочей жестью.
Ответственность за опасность (если она реальная, а не киношная) общественного транспорта лежит на... тех кто заведует общественным транспортом. Обычно это муниципальные власти, а не Meta.
ИИ (точнее его разработчик) отвечает лишь за разочарование и напрасно потраченное время, если булочки по адресу никто не продаёт. За ущерб от использования метро отвечает владелец метро.
Ответственность за опасность (если она реальная, а не киношная) общественного транспорта лежит на... тех кто заведует общественным транспортом. Обычно это муниципальные власти, а не Meta.
Это в случае, если бы они гарантировали безопасность. Но вам в ночном Нью Йорке в некоторых районах никто, ни полиция, ни городские власти ее не гарантируют. Свежие иммигранты могут этого еще не знать. Если вы запустили продукт, который рекомендует такого рода приключения, то как бы неплохо было бы предупреждать ничего не подозревающих клиентов.
По словам родственников... заявила дочь погибшего Джули
И не слова из статьи что он был женат и что жена давала много пояснений his wife Linda. И что жена в тот день ставила мужику порядочно препятствий не разбираясь в ситуации включая вызов полиции сыном.
В реальности "Он споткнулся и упал возле парковки кампуса" это просто предположение жены без подтверждения видеофиксацией или свидетелей. Мог упасть и по причине нового приступа.
но его первое взаимодействие с аватаром в Facebook Messenger заключалось в простом наборе буквы «Т». Этой очевидной опечатки было достаточно, чтобы чат-бот начал работать.
ну почему сразу опечатки, а если и опечатка, то продолжение переписки уже самостоятельное решение.
После трёх дней на аппарате жизнеобеспечения Вонгбандю умер в окружении семьи
после отключения аппарата жизнеобеспечения т.к. решили что мозг умер.
А статья рейтерс очень интересная, тут и 20% нет ее.
квартира 404
Если бы я был автором желтушных заголовков, то это было бы «Шок! Пенсионера убило незнание HTTP Response Status Codes».
давать ложную медицинскую информацию и, например, спорить о том, что «темнокожие глупее белокожих».
Очень двусмысленный перевод получился
20 минут довольно реально из джерси до бруклина, но здание там офисное. Либо в Квинсе - но там похоже только закусочная
казнить того кто сшил деду обувь, очевидно проблема из-за него
Желтушная новость, достойная Хабра. В следующих эпизодах: бордюр и гравитация осуждены за пособничество. Городская администрация отнекивается. Смартфоны и интернет убивают людей!
Пожилой, больной человек, без присмотра - вот главное в новости. ИИ тут вообще никаким боком. Это могло произойти и 50 лет назад, а вместо чата был бы билборд
Пенсионер в США поверил в реальность ИИ-персонажа и стал жертвой несчастного случая