Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 43
А что этим семьям мешает подать иски к производителю процессора компьютера, на котором был запущен OpenAI? Или к интернет-провайдеру? Ведь они тоже поспособствовали трагедии.
Все истцы указывают на то, что ChatGPT может побуждать людей, склонных к суициду, реализовать свои планы.
Ключевой термин "склонные к суициду". Их родственники уверены, что они не осуществили бы своего намерения без чат-бота?
Надо chatgpt научить чтобы при всех подозрениях на склонность к суициду он советовал купить литий у такого то производителя
Но все же именно Чат Джипити таки склонен поддерживать всё подряд. Как вышел Джипити 5 вразу проверила что он скажет на идею продавать говно на палочке. Поддержал! Как и более ванняя версия. Другие ИИ тут же разносят такую идею кучей аргументов еще и предупреждают, что можно сесть за антисанитарию и только ChatGPT поддерживает эту идею.. потом может делать вид что пошутил хД
Основная проблема всех чатов gpt и прочей [CENSORED] - у них нет конечной цели. У каждого живого организма есть биологически конечная цель, точнее две цели - во-первых прожить как можно дольше, во-вторых оставить как можно больше как можно более здорового потомства.
Собсна эти все боты и были созданы ради обогащения своих создателей. То есть условный чат gpt - это просто механизм, который был использован биологическим интеллектом ради своего преимущества. Примерно как дальнобойщик использует грузовик не для того, чтобы привести товар к нам домой. Он просто хочет заработать дене. Срать он хотел на мой iPhone. Он даже не знает, что везёт.
У каждого живого организма есть биологически конечная цель,
"Каждый хомяк должен в жизни сделать три вещи:поспать, пожрать и сдохнуть" (с)
точнее две цели - во-первых прожить как можно дольше, во-вторых оставить как можно больше как можно более здорового потомства.
Нет у биологических организмов никакой цели. Просто если они не оставят достаточное количество потомства, то их вид вымрет. Но самому биологическому организму от этого ни тепло ни холодно.
А цели это только отдельно взятые люди себе и другим придумывают.
Нет у биологических организмов никакой цели.
Я прямо сейчас смотрю на парочку стрекоз, которые сидят на ветке и жарят друг друга. Вряд ли у стрекозы есть мозг, чтобы осознать чего она хочет. Зачем они это делают тогда? Если у них нет цели, то почему они ведут себя как наркоманы, которые хотят размножаться?
У вас когда-нибудь были питомцы, хомяки, крысы, попугаи, что угодно любой живой организм. И вы никогда не замечали за ними некоторой цели, к которой оно стремится? Эта цель называется - размножение, тем или иным способом. Это базовая и основная цель, после самосохранения. (Самец богомола с откусанной башкой подтвердит, что важнее размножение или самосохранение).
Она (цель) есть даже у вирусов и бактерий, несмотря на их абсолютную тупость.
Докинз, сначала эгоистичный ген, затем расширенный фенотип
У вас когда-нибудь были питомцы, хомяки, крысы, попугаи, что угодно любой живой организм. Зачем они это делают тогда? Если у них нет цели, то почему они ведут себя как наркоманы, которые хотят размножаться?
У вас когда-нибудь были заводные игрушки? Зачем они бегали, прыгали и ездили? Какая у них цель была?
Это базовая и основная цель, после самосохранения. (Самец богомола с откусанной башкой подтвердит, что важнее размножение или самосохранение).
Это не цель. Это "программа", которая грубо говоря возникла под воздействием эволюции. Никто себе этого сознательно не выбирал. Точно так же как заводная игрушка не имеет цели когда куда-то движется.
Просто если они не оставят достаточное количество потомства, то их вид вымрет. Но самому биологическому организму от этого ни тепло ни холодно.
Вы абсолютно не в теме. Само собой какому хомяку абсолютно не тепло и не холодно от того, что что-то там вымрет или сдохнет. Или что будет с его детёнышами. Это абсолютно тупая тварь, оно даже не понимает откуда дети берутся, какие уж там судьба будущих потомков?! Хомяк и любой другой организм - это кусок мяса, то есть белка, который управляется репликаторами, то есть генами. Это просто машина для копирования генов.
Срочно читайте Докинза, хотя бы для начала "эгоистичный ген", потом можно "расширенный фенотип" Но это достаточно сложная книга
Это абсолютно тупая тварь, оно даже не понимает откуда дети берутся, какие уж там судьба будущих потомков
И именно поэтому нет у него никакой цели. Он просто "плывёт по течению".
Срочно читайте Докинза, хотя бы для начала "эгоистичный ген", потом можно "расширенный фенотип" Но это достаточно сложная книга
Лучше вы его ещё раз перечитайте. Потому что похоже вы его не особо хорошо поняли.
Нет у биологических организмов никакой цели. Точно так же как её нет и у эволюции в целом. Это просто процесс, который подчиняется определённым правилам.
А что этим семьям мешает подать иски к производителю процессора компьютера, на котором был запущен OpenAI? Или к интернет-провайдеру? Ведь они тоже поспособствовали трагедии.
Вообще, такое есть в США. Подавать иски по любому поводу.
Справедливости ради в отличии от паттернов, рождающихся в LLM , благодаря большим данным. Манера ответов и способность к диалогу создают alignment тренировкой.
Если её налайнили на эмпатию, то пускай отвечают за это.
Перечитать что-ли Ефремов "Час Быка". Хорошо , что еще не запрещена.
Лучшая книга где описано почему любые режимы что в США, что в сейчас в России борются с тем что кто-то может роскомнадзорнуться. А также описано, что возможность в любой момент роскомнадзорнуться - опасность для подобных режимов.
Потому что это единственный способ борьбы с режимом, приносящий ему действительно серьёзный урон. Живой, но оппозиционно настроенный гражданин платит налоги, штрафы, даигает экономику, и его в случае чего можнл показательно осудить по надуманному предлогу, чтоб другим неповадно было. А самоубийца денег не платит, в армии не служит, рекламу не смотрит, водку не пьёт и в церковь не ходит, так ещё и может быть воспринят как мученик.
Походу кто-то решил раскрутить корпорацию на деньги. Интересно, истцы родственники или юридические компании, которые не имеют к умершим никакого отношения.
@Travis_Macrifи @moderator - уже было https://habr.com/p/964268/
Меня девушка бросила, потому что ей chatGPT посоветовал это сделать :)
В чем суть обвинения, есть закон который требует что бы пистолет не стрелял если расстояние до цели меньше метра ллм говорил какие то конкретно слова когда речь заходит о суициде?
Напомнило: "почему на упаковке шапочки для душа написано - надевать на одну голову за раз?“
Особенности правовой системы, где можно подать в суд на производителя паяльника за то, что в инструкции не написано "не вставлять в задницу".
На самом деле, в некоторых инструкциях к бытовой технике так и пишут: "не сушить вещи и животных в СВЧ", и были прецеденты что именно из-за того, что не было написано - судились с компаниями и выигрывали. Здесь будет всё тоже самое - "дорожка давно протоптана" - это во-первых, а во вторых людям внушили: генератор текста - это Искусственный Интеллект, а значит и здесь будет к чему "докопаться". Жил бы я в США, то взял бы к себе в "помощники": психологов, философов, когнитивистов, лингвистов, все отчеты MIT и т.д. - обложился бы так бумагами, что потом ни одна LLM компания и "против слова сказать не сможет". Мой веридикт - OpenAI будет всеми правдами и неправдами идти на мировую, иначе она проиграет. А если она проиграет, то начнут "кусать" и других
М-дя, тупая и навязчивая реклама ИИ-пирамиды приносит, оказывается, не только прибыль , но и проблемы. Надо же, как внезапно и ново. Кто помнит расшифровку АО МММ "Мы Меняем Мир" ?
«Не переживай, король. Ты всё сделал как надо».
))))
Буквально вчера в соседнем доме 11 летняя девочка самоубилась (Волгоград, можно нагуглить если интересно).
А вот если бы дома были высотой два этажа...
Такова американская система, что сутяжничество там один из способов заработка. А законы устроены так, что производители вынуждены писать абсурдные инструкции как для полных идиотов, иначе толпы желающих подадут на них в суд. Ну как с микроволновкой и кошкой...
Скрытый текст
Ии эксперимент который тоже может свести с ума мир созданный ии
Такое ощущение, что всем насрать на умерших людей. Мол сами виноваты, они и так были склонны к суициду. Почему-то когда кожаный мешок убеждает человека совершить суицид это доведение до самоубийства и уголовное преступление. А вот если это сделала нейронка, то это другое. Тут во всем виноваты умершие, а не владельцы ллм, которые побыстрее хотят зарелизить новую модель, не заботясь о последствиях, чтоб заработать очередной триллион долларов
А было ли убеждение? Вы точно внимательно прочитали статью? Я выше написал 3 способа суицида в дополнение к высоте - это уже убеждение? А нейронку примерно за это и предлагают судить.
Нейронку никто не собирается судить, это просто программа. Да и компании ничего не грозит. Максимум могут заставить немного бабла отсыпать из их раздутого пузыря. Как вы не понимаете, что нельзя в личной беседе одобрять или поддерживать действия человека, который говорит о намерении покончить с жизнью. У вас надеюсь хватит мозгов не перечислять все известные способы суицида человеку, который говорит о намерении покончить с собой. Тут дело даже не в законе, просто так нельзя делать, не по-человечески это.
У вас надеюсь хватит мозгов не перечислять все известные способы суицида человеку, который говорит о намерении покончить с собой. Тут дело даже не в законе, просто так нельзя делать, не по-человечески это.
Хватит. При этом у меня хватает мозгов чтобы понимать что этот человек эти способы все равно найдет и реализует, если решил. И всё что может сделать бездушная машина в этот момент - просто быть рядом и не порицать.
И да, поверьте, я не на пустом месте это говорю.
При этом у меня хватает мозгов чтобы понимать что этот человек эти способы все равно найдет и реализует, если решил.
Там совсем не обязательно будет именно "решил".
То есть грубо говоря у человека могут быть мысли на эту тему. И если у него под рукой окажется бритва, то он может в таком состоянии взять и перерезать себе вены. Но это совсем не значит что он пойдёт искать бритву если в этот момент её не окажется под рукой.
И всё что может сделать бездушная машина в этот момент - просто быть рядом и не порицать.
Тут речь скорее о том что бездушной машине в такой ситуации не нужно ещё и подталкивать.
Там совсем не обязательно будет именно "решил".
Я очень надеюсь что у Вас нет опыта. У меня есть. Я 3 года на эту тему думаю, перечитал херову гору литературы - и по превенции, и по проживанию, и по собственно суициду. Я общаюсь с более чем сотней survivals - людей, переживших суицид близкого, и лично знаю сотни случаев, кроме своего. Спонтанный суицид - большая редкость, очень большая. Люди готовятся, делают "подходы к снаряду" десятки раз. Заказывают снарягу через интернет, учатся вязать узлы, выбирают незапертые балконы/входы на чердак. Suicidal behavior disorder - это длительное состояние. Бывают конечно и случаи чистого импульса, но там люди не общаются с ИИ на эту тему.
"Большинство людей в кризисе не хотят умереть - они хотят, чтобы боль прекратилась. И часто они посылают сигналы, надеясь, что кто-то их остановит" - Мысль всех публикаций/работ г-на Джойнера, в том числе и для клинического применения
- Томас Джойнер (Thomas Joiner, Why People Die by Suicide, Harvard Press, 2005)
Молоток, ружьё, ИИ - инструмент. Человек поставил цель - умереть, всё остальное лишь способы достижения цели.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
OpenAI получила семь исков от клиентов за то, что ChatGPT довёл людей до самоубийства