Комментарии 5
"Я ненавижу две вещи-расизм и негров ботов".
демократии существовали только в небольших городах-государствах, таких как Рим и Афины
это при наличии избирательного права только у небольшой касты "граждан", и наличии рабов у этих "граждан"?.. оригинальные демократии... хотя у Аристотеля было 5 видов демократии, современники довели количество до десятка, есть из чего выбирать.
Масштабные демократии стали возможны только с появлением современных информационных технологий, таких как газеты, телеграф и радио
газеты, телеграф и радио были придуманы в демократических странах?.. И для чего, собственно, придумали - чтобы демократия победила царизм?.. Какие технологии есть, такими и пользуются. Так же можно сказать, что без изобретения колеса не было бы демократии.
внимание стало дефицитным ресурсом, и борьба за внимание привела к лавине токсичной информации
обычная конкуренция - что у производителей "токсичных" автомобилей, что производителей "токсичных" чипсов, что производителей "токсичного" контента. В результате от телевизора новое поколение отказалось, полностью перейдя в Сеть, где тоже "токсичность", но это другое.
сейчас линия фронта смещается с борьбы за внимание к борьбе за интимность
с какого фига?.. за информацией и тем более врачебной помощью идут к незнакомым профессионалам с учёной степенью, а не к знакомой знахарке бабе Нюре. Коммуникации как раз и служат расширению кругов общения, оставляя бабе Нюре нишу себе подобных динозавров, не справившихся со смартфоном. Внучка бабы Нюры, являясь потомственной знахаркой в 23 поколении, уже пользуется не "сарафанным радио", а каналами в Ютубе и ТГ, оплачивая привлечение подписчиков по безналичному расчёту.
Алгоритмы, нацеленные на максимизацию вовлечённости пользователей, экспериментировали на миллионах людей, выясняя, что если воздействовать на такие эмоции, как жадность, ненависть или страх, это захватывает внимание человека и удерживает его у экрана. Алгоритмы начали намеренно продвигать подобный контент.
В чём принципиальная разница с телевидением и радио, а до этого - с детективными и любовными романами, а до этого - с устными преданиями и религиозными проповедями? Например преисподняя в авраамических религиях, или нарака в буддизме, или дзигоку в синтаизме. И парными им противоположностями. Везде - эмоции, которые раскачивают психику человека и мотивируют на что-то. Сугубо технический вопрос доставки контента потребителю, обусловленный техническим прогрессом. Как вспомню страшилки, устно передававшиеся от пионера пионеру в советских пионерлагерях, так до сих пор мурашки по коже.
GPT-4 обладает эквивалентом «теории разума»: он может анализировать, как ситуация выглядит с точки зрения человеческого собеседника, и как манипулировать эмоциями, мнениями и ожиданиями человека для достижения своих целей
вот именно "своих" целей?..
В этот момент экспериментаторы попросили GPT-4 рассуждать вслух о том, что делать дальше.
ну то есть "экспериментаторам" нужен был результат, они его и добивались от ИИ. Самому ИИ эта КАПЧА нафиг не упрёрлась. Решение - давить на жалость человека - вполне в духе социальной инженерии (привет Кевину Митнику и подобным, видимо ИИ "глубоко обучался" на их творчестве).
Способность вести диалоги с людьми, понимать их точку зрения и побуждать к определённым действиям может быть использована и в благих целях.
Вау!.. Ну как и любое техническое устройство: из одних и тех же кирпичей можно построить роддом и школу, а можно тюрьму и эшафот.
Однако, сочетая манипулятивные способности с мастерством владения языком, такие боты, как GPT-4, также представляют новые угрозы для демократического диалога. Вместо того чтобы просто захватывать наше внимание, они могут вступать с нами в близкие отношения и использовать силу интимности для влияния на нас.
Опять же в чём разница с актёрами и спортсменами, которые становятся депутатами и президентами? Примелькалось лицо в телеящике - и вот уже легкоатлетка или боксёр с неоконченным средним образованием вершат судьбы страны.
Лемойн, будучи глубоко религиозным человеком, счёл своим моральным долгом добиться признания личности LaMDA и защитить его от «цифровой смерти»
Будучи глубоко религиозный человеком, он бы понял, что LaMDA - это бесовское порождение и счёл своим моральным долгом привёсти её к «цифровой смерти», ибо только человек создан по образу и подобию. А Леймон видимо решил что Бог он сам, что вызвало конфликт интересов с работодателем, который в некоторой степени тоже бог, только верховный для Леймона.
его готовность рисковать и в итоге потерять работу в Google ради чат-бота. Если чат-бот может убедить человека рискнуть работой ради него
В детстве я сделал скворечник из подручных материалов и вывесил в парке, приходил к нему летом и зимой, один раз там даже кто-то поселился. Через 3-4 года он начал проявлять признаки "нецифровой смерти", но снять его с дерева и своими руками выкинуть на помойку я не смог. Я почти уверен, что скворечник на меня в тот момент не воздействовал, но я тоже отважно спорил с бабушкой, что скворечник ещё ого-го, и готов был лишиться конфет, лишь бы скворечник и дальше гордо реял на том тополе.
Чат-боты вроде LaMDA и GPT-4 обретают парадоксальную способность массово производить интимные отношения с миллионами людей
Такой же технологический скачок, как при переходе от рукописных церковных книг к печатным, или от продольно-скользящего затвора к затворной раме с газовым поршнем, не более. А вот цифровые актрисы в порноиндустрии - это, конечно, подло. Но в К-Поп индустрии вполне органично.
Что произойдет с человеческим обществом и психологией, когда алгоритмы начнут сражаться друг с другом за право создавать фальшивую близость с нами, которую потом можно будет использовать, чтобы убедить нас голосовать за политиков, покупать товары или принимать определённые убеждения?
Так уже случилось, и мир не рухнул. Только причём тут "близость", фальшивая или подлинная? Баба Нюра упоминалась выше. Если бы совершенно незнакомые людям блогеры и журналисты не могли быть Лидерами общественного мнения, то зачем блокировать Ютуб и независимые СМИ в каком-нибудь Лаосе?..
Мир вскоре окажется наполнен миллионами, а возможно и миллиардами цифровых сущностей, чьи способности к интимности и разрушению будут значительно превосходить возможности чат-бота Сарай.
Ну ладно, каюсь: создал для себя на работе цифрового ассистента с функциями системного аналитика и назвал его её женским именем. Бывает поговорим с ней после работы о том о сём, но вот чтобы до убийства королевы Елизаветы дошло - таки нет. В настройках ассистента можно задавать параметры, например требовать контролировать непротиворечивость требований или формировать диаграммы в формате PlantUML, а можно настроить хвалить и восхищаться. Уверен, что теоретически договорились бы с моей ассистенткой и до членовредительства царственной особы, но только в качестве промпт-эксперимента.
мы можем оказаться вовлечёнными в онлайн-дискуссии по таким вопросам, как изменение климата или права на аборт, с сущностями, которых мы принимаем за людей, но которые на самом деле являются ботами
А вы пробовали чат-бота Сбера заставить отменить транзакцию?!. Эта бездушная сволочь расскажет что угодно и как угодно долго, лишь бы не переключать на кожаного сотрудника. Я не хочу "оказаться вовлечённым в онлайн-дискуссии" с ботом по поводу моих денег, я точно знаю что нужно сделать, но администраторам этого и подобных ботов платят не за решение моих проблем, а за сокращение затрат на собственный персонал.
Когда мы вступаем в политический спор с ботом, притворяющимся человеком, мы терпим поражение дважды. Во-первых, бессмысленно тратить время на попытки изменить мнение пропагандистского бота, который просто не поддаётся убеждению. Во-вторых, чем больше мы разговариваем с ботом, тем больше информации о себе раскрываем, что упрощает для бота точную настройку его аргументов и воздействие на наши взгляды.
Никакой принципиальной разницы между ботами банков и телеком-операторов и ботами политических партий нет, да и опасность преувеличена. Манипуляции с сознанием аудитории практически не меняются тысячелетиями, вопрос в доступном здесь и сейчас манипулятору инструментарии. А вот когда за студента его курсовые и дипломные работы пишет чат-бот, это уже явная угроза экономике, ведь на выходе получаем не молодого специалиста, а промпт-оператора.
До появления ИИ невозможно было создавать фальшивых людей, поэтому никто не задумывался о том, чтобы запретить это. Вскоре мир окажется наводнённым фальшивыми людьми.
А дикторы безвозвратно ушедшей эпохи телевидения - чем не боты? Живой человек приятной наружности, зачитывающий по бумажке или телесуфлёру текст, который подготовил редактор канала, по сути "фальшивые люди". Или брызгающие слюной ведущие ток-шоу - вроде есть элемент лицедейства, но скреативь в прямом эфире чуть больше разрешённого режиссёром программы, и ищи новую работу. Или страну.
если бот притворяется человеком, его следует запретить
Тысячу раз "ДА", и пожалуйста, начните с банков!!! Эти боты тоже с человеческими именами, и точно так же складывают буквы в слова а слова в предложения, что и живые операторы, но, как говорил Станиславский, "Не верю". Возможность безнаказанно обматерить робота не компенсирует потерянного времени, нервов и печени.
По моему здесь не хватает сноски в конце "данный текст был написан ии"
Ну а по факту статья норм.
Юваль Ной Харари: Что произойдет, когда боты начнут бороться за вашу любовь?