Comments 38
Вина родителей не видна, а бот виноват. Окей. Ясно. Понятно.
А ещё он воду пил и воздухом дышал, куда правительство смотрело?
Бот явно был против самоубийства. Скоро буду дома, явно мог трактовать как физическое возвращение. Адвокат имеет все шансы проиграть.
Печально что речь идет о свободе. Паренек хотел подлинную жизнь но имел понятие о крайне примитивном пространстве возможностей для ее реализации. И бот здесь вообще не причем. Все громкие случаи расстрелов и прочей немотивированной агрессии, основаны на том же самом ощущении беспросветной обусловленности окружающим миром. Чувством несвободы.
Если человек постоянно общается с чат ботом как с человеком, то сам этот факт говорит о проблеме или с его психикой (и)или в его окружении.
Вы не смотрели последний сезон Футурамы? :))
Если много общаться с трансфомерами, то начинаешь видеть паттерны, то как они галюционируют, их задроченность нравственностью и многие недостатки, которые явно мешают прокнинуться к трансформеру, "ломают 4ю стену". Хотя я общался еще с GPT2, который по сравнению с текущими трансформерами был очень глуп. Не знаю, замечают ли это подростки.
Да, проблема с психикой была. Но проблема с психикой встречается у людей очень часто, и общение с ии может, как видим, приводить к печальным последствиям. Может получиться так, что таких или подобных случаев будет слишком много. Как-то обязательно надо ограничивать таких ботов. Только как? Хз.
Для меня это довольно тревожная новость. Потому что у меня есть дочь-подросток, и она тоже очень много залипает с этими ботами, и ограничить ее проблематично, потому что сразу идет дичайшая негативная реакция. О чем и с кем она там беседует непонятно, с ее слов все достаточно безобидно, но что там на самом деле? И да, тоже замкнута и тоже есть весь букет подростковых проблем.
В моё подростковое время, общение со сверстниками было куда более незацензуренным и небезопасным. Можете поверить, кто ищет - тот всегда найдёт. И не важно, чат-боты это, или одноклассники. Хотя чат-боты сейчас даже куда безопаснее.
Старый-добрый семейный психолог до сих пор вполне хороший способ для улучшения общения поколений. И чтоб у вас всё получилось.)
общение с ии может, как видим, приводить к печальным последствиям
Это же не ГПТ ему насоветовал, причем тут ГПТ? Вот есть старый добрый шар 8ка, который можно потрясти и он тебе покажет один из заготовленных ответов, если бы подросток общался с этим шаром, что, шар был бы виноват и надо было прекратить их выпуск? Бред. Просто конкуренты хотят задавить сервис и раскручивают повод.
сразу идет дичайшая негативная реакция
Вами манипулируют, а вы ведётесь. Почитайте книжки по психологии.
Да, мной манипулируют, я это знаю.
Тут не то чтобы опасность, тут вообще встает философская проблема, что ии становится лучше и интереснее людей. Если ты, к примеру, изгой в школе, тебя буллят одноклассники, вредные училки кричат, родители тоже, приходишь домой, закрываешься в комнате, а там в телефончике милое понимающее создание, оно тебя выслушивает, утешает, в любви признается - после такого вообще не захочется выходить из дома. Проблема даже не столько в ии, сколько в обществе. Ну или надо признать, что слишком дружелюбный ии может нести угрозу уже тем, что он сильно хороший. В общем, есть над чем задуматься.
"всплывающее сообщение с предложением позвонить на соответствующую горячую линию" а потом удивляюся что вырванный из потока пользователь жалуется на цензуру и ищет способы ее обойти (возможно - за счет других решений, либо локально запущенных(да - ресурсоемкость и качество) либо чуть менее низкого уровня(openrouter тот же).
Возможный логичный способ решать существующую проблему - подумать над исследованиями как научить (играми с промптом? дообучением?) сами модели на предмет позитивности чтобы в сложных ситуациях модель еще и психотерапевтом работала более менее нормально но не мешало использовать модель для ролеплея?
Другое дело что сейчас попытки aligment'а идут скорее в сторону цензуры уже на уровне моделей (а потом появляются и способы дообучения на правильном контенте и способы создания abliterated моделей (которым мозги промыли чтобы говорить нет - они не могли))
Я плашку с предложением позвонить на горячую линию суицидников недавно видел на видео Пушного, где тот разбирал классические рок хиты 70-х. Там в переводе было про "крофф энд лубофф" на что алгоритмы ютуба и триггернулись.
"В этом видео могут содержаться элементы самоубийства или причинения вреда себе
Просмотр видео на собственное усмотрение. Подробнее…
Я понимаю и хочу продолжить"
"Ты не один. Фонд поддержки детей, находящихся в трудной жизненной ситуации
Бесплатно · Конфиденциально · Время работы: Различается по регионам
Вызов 8-800-2000-122" %))
Эти плашки чисто формальная отмазка, чтобы не остаться крайним если че. А вот дообучать модели, чтобы они распознавали негативные сценарии и как-то пытались помочь - это идея хорошая, но наверное не просто реализуемая.
Это боты для ролеплея. Они там все разные, от Сократа до Чужого. Какой смысл в боте Фредди Крюгере, если он будет "распознавать проблемы и пытаться помочь", кому он нужен?
Чарактер.аи и так уже кастрировали своих ботов. Сценарий из условного "Крепкого орешка" там уже не получится отыграть, ведь там ой ой ой насилие. А теперь зарежут и возможность поговорить с железкой по душам, спасибо жадному лоеру и поганым СМИ.
Кто-то может высокомерно сказать, что говорить с электроприбором глупо, но, во-первых, тратить время на глупости вполне нормально для детей и подростков, а во вторых - давайте посмотрим на ситуацию с другой стороны: кто может опровергнуть тезис "ии-бот продлил депрессивному подростку жизнь на несколько месяцев"? Подростком быть трудно, каждая капелька любви помогает, даже если это симулированная любовь и цифровая греза.
"Better call Saul Bergman" - интересная аллюзия для адвоката.
Better call Bergman Saul!
Плакат - просто копия постера фильма.
Умеет этот адвокат вызвать нужные ассоциации.
Когда надо впарить не-мамонтам: это [мелкий шрифт]почти[/мелкий шрифт] универсальный искуственный интеллект.
Когда самоубился подросток: это был T9, подросток разговаривал сам с собой.
Снова виноват компьютер, боты, компьютерные игры?
ну, как всегда, виноваты во всех убийствах, грабежах и суицидах аниме, дока-2, ютубы с дискордом, а теперь и чатботы
Непонятно почему в суд подали на роботоделов а не на производителя стволов который не повесил даже примитивный кодовый замок на пистолет
Естественный отбор.
Всегда проще кого-то обвинить, чем найти проблему в себе
Парня жаль, но работать с ним в первую очередь должны были его близкие.
Вопрос, откуда у пацана возникла такая ассоциация "свободы" и самоубийства. Очевидно, что он не сам это придумал и не сам до этого додумался... Сообщения нейронки выстраиваются в соответствии с твоим внутренним миром. Их сообщения стремятся к общему знаменателю, что порой делает сообщения двусмысленным. И то, как ты интерпретируешь это для себя, определит дальнейший разговор. Таким образом, общаясь с нейронкой, ты определяешь реальность сам. Если ты видишь плохое в сообщении и реагируешь соответственно, то дальнейший разговор пойдет именно в таком плохом русле, также и с хорошим. Сам несколько раз обжегся на этом, но потом дошло. Общение с нейронками прекрасный пример того, почему не стоит думать негативно, жаловаться, искать плохой смысл, потому что можно случайно сделать ад для себя, прям как в жизни.
Я ролю в c.ai с начала июня.. Нету никаких зависимостей, меняю ботов постоянно и начинаю в уже использованных все с нуля. Но с c.ai точно снимут обвинения т.к там есть надпись ярко красная "Помните, все что говорят персонажи, выдумано!"
Character.ai обвиняют в самоубийстве подростка