Comments 28
Разговаривал с детьми, теперь они не пишут про самоубийства, потому что знают, что их мониторят, они пишут что-то вроде, идем послушать Цоя. Это борьба с последствиями, лучше бы тратили деньги на причины. Но боюсь причины в конечном счете окажутся сами чиновники...
Вот-вот. У детей и так отсутствует цель в жизни, а вы их ещё и щемить начинаете. Нужно не отслеживать и запрещать, а вести работу с детьми и деньги тратить не на натаскивание нейросетей, а на обеспечение досуга детей. Кружки, секции и т.д.
Культурные меры ("вести работу с детьми") не отменяют технических мер ("отслеживать и запрещать"). Точно так же, например, обучение водителей не отменяет установку светофоров и видеокамер.
И, между прочим, ИИ может быть не только "хорошим" (предотвращающим самоубийства), но и "плохим" (убеждающим детей, что им нужно поскорее самоубиться, что это их неотъемлемое право и даже обязанность).
Бороться с "плохим ИИ" может только "хороший ИИ", люди тут не справятся.
Вы апеллируете к тому, что аргумент вашего оппонента - ложная дилемма. Однако, в ситуации ограниченных ресурсов, это вполне себе реальная дилемма - на что тратить средства и усилия.
На вашем месте, можно было бы попытаться возразить, что меры, которые направлены на снижение распространения суицидального поведения способны дать эффект только в перспективе, а выявление такого поведения требуется уже сейчас. Это было бы справедливым аргументом.
Однако, проблема с использованием ИИ - в том, что даже если эта технология должна, по замыслу, использоваться только для помощи живым экспертам, а не для принятия самостоятельных решений, сам факт ее применения может влиять на решение живого эксперта. Особенно, учитывая неинтерпретируемую природу действий ИИ.
Пикантность ситуации добавляет то, что отсутствие интерпретируемого метода, как такового, не позволяет оценить степень научности всей этой затеи. Не говоря уже о её законности, потому что это, строго говоря, установка слежки за несовершеннолетними, со всеми вытекающими.
Да, а про автошколы и светофоры с камерами - некорректная аналогия, потому что эта затея, скорее, похожа на установление негласной слежки за водителями, которые, по мнению ИИ, основанном непонятно на чём, могут нарушить правила движения.
Об этичности затеи. Этический кодекс психолога.
Принцип уважения включает:
Все действия Психолога относительно Клиента должны основываться на данных, полученных научными методами.
Конфиденциальность
Информация, полученная Психологом в процессе работы с Клиентом на основе доверительных отношений, не подлежит намеренному или случайному разглашению вне согласованных условий.
Результаты исследования должны быть представлены таким образом, чтобы они не могли скомпрометировать Клиента, Психолога или психологическую науку.
Неконтролируемое хранение данных, полученных при исследованиях, может нанести вред Клиенту, Психологу и обществу в целом. Порядок обращения с полученными в исследованиях данными и порядок их хранения должны быть жестко регламентированы.
Осведомленность и добровольное согласие Клиента
Клиент должен быть извещен о цели работы, о применяемых методах и способах использования полученной информации. Работа с Клиентом допускается только после того, как Клиент дал информированное согласие в ней участвовать. В случае, если Клиент не в состоянии сам принимать решение о своем участии в работе, такое решение должно быть принято его законными представителями.
Ограничения применяемых средств
Психолог должен применять методы обработки и интерпретации данных, получившие научное признание.
Принцип ответственности включает:
Решение Психолога осуществить исследовательский проект или вмешательство предполагает его ответственность за возможные научные и социальные последствия, включая воздействие на лиц, группы и организации, участвующие в исследовании или вмешательстве, а также непрямой эффект, как, например, влияние научной психологии на общественное мнение и на развитие представлений о социальных ценностях.
Тут всё зависит от того, какой цели вы хотите добиться.
Цель №1: убрать посты про самоубийства из интернета.
Цель №2: предотвращать самоубийства детей.
Достижение цели №1 никаким образом не поможет достижению цели №2. Дети продолжат самоубиваться, просто не будут об этом писать в интернете. Скорее наоборот, таких детей станет сложнее выявлять.
таких детей станет сложнее выявлять
Чтобы выявлять, нужно мониторить следить. Именно этим и занимается ИИ, о котором говорится в статье.
Удаление постов - это немного другое. С моей точки зрения профана, конкретные призывы к самоубийству лучше удалять, а общефилософские дискуссии лучше оставить. Но, возможно, суицидальные психологи скажут, что я не прав.
Я устал уже комментировать, что ИИ не равно нейросеть...
"Забота о детях" и "ИИ" - беспроигрышная комбинация для оправдания очередной растраты денег.
Наш. Ну там пока две темы -- поиск кризисных аккаунтов по ключевым словам и парсинг аккаунтов на предмет эмоционально заряженных постов. Второе главным образом затем, чтоб тонны флуда не читать. Дальше будет интереснее, но все самое интересное все равно делают люди.
@aarmaageedoonможет рассказать подробнее, это главным образом его творчество, и я надеюсь, что он потом про это отдельный пост напишет.
Я не хотел спорить, но все-таки сказал:
— До тех пор, пока человеческое мировоззрение не будет восстановлено, люди будут умирать и становиться идиотами, и никакие опергруппы здесь не помогут… Вспомните Римайера, — сказал я.
— Римайер забыл свой долг! — яростно сказал Мария.
— Вот именно, — сказал я.
А вот вопрос — система нашла конкретный аккаунт. Вообще то понятно чей.
Дальше что? Хотя бы психологам в школе где этот подросток учится — сообщаем что надо помочь ему?
Или блокируем аккаунт "патамучто пропаганда" и все?
"Сообщаем психологам" - на основании чего, диагноза по интернету? Здесь замешано такое количество правовых норм, что законность всей этой затеи - под вопросом.
Потому что «группы смерти» могут и наоборот уменьшать их количество. Объясняя комментариями/публикациями что смерть конечна и необратима, будет неприятно выглядеть, как будут чувствовать себя родители/родственники/друзья. Об этих фактах человек решившийся на самоубийство может вовсе не задумываться.
Заочная онлайн-психотерапия - затея та ещё. Все эти умозрительные рассуждения не стоят ничего, потому что конкретный человек может очень по-разному отреагировать на одни и те же слова. Например, на ваше "объяснение как будут чувствовать" - мыслью "а мне насрать, они меня не понимают, почему я обязан о них беспокоиться".
Вообще, без соблюдения (совершенно не зря выработанных) норм, вроде личной работы по согласию пациента, можно с самыми благими намерениями наворотить полный кошмар. И выйти потом сухими из воды, потому что "а мы же старались помочь".
Ещё одно воплощение современного "диванного героизма".
Предлагаю вам не сваливаться в откровенную демагогию. Во-первых, вы подменяете мой тезис на очевидно абсурдный (я с самого начала говорил о том, что фокус на предупреждении очень даже имеет смысл, так что это явно не "ничего не делать"). Во-вторых, "мудрые цитаты" (про то, что только тот, кто ничего не делает, не ошибается), чаще всего, являются ложными обобщениями и не добавляют ни грамма "веса" высказыванию. Существует гигантское количество ситуаций, например, где симптоматические меры не только бесполезны, но и вредны.
Вы хотите сказать "бессмыслица", а не "демагогия", потому что слово "демагогия" имеет вполне конкретное значение - намеренное введение в заблуждение, основанное на логических искажениях. Я согласен, что РКН может сделать что угодно. Но меня в этой истории интересует не это, а инициатива со стороны определенных людей, которые занимаются псевдонаучной деятельностью. И таких тут в последнее время - дофига. Одни "защищают науку от мракобесов", другие вот взялись за детей.
По крайней мере такие действия могут принести пользу конкретному подростку (мы ж о детях заботимся?) и хоть как то все это оправдать. Да, вопросы к законности всего этого есть...
Если же реакция будет блокировать нафиг — по сути это будет обучение детей что за ними следят, и (возможно) что разбираться особо не будут, ложные срабатывания ж наверняка будут, и провоцировать их будут, и смотреть как среагируют, вот пример, допустим я подросток и хочу протестировать ИИ, а потому что хочу.
отправляю
Судьба пленных эльфов вскоре прояснилась. На двух штурмовиках привезли какую-то инновационную аппаратуру, рядом с огороженной территорией концлагеря возвели будку, напихали туда этой аппаратуры, и инженер со странным именем Абрек, руководивший работами, сказал, что эта будка будет телепортировать эльфов в края удачной охоты, чисто и бесследно.
— Да ты поэт, брат! — сказал ему Невилл Росс. — Про телепортацию в края удачной охоты — это ты мощно задвинул!
— и говорю что я в поля удачной охоты хочу
Какой можно сделать вывод?
При том что если знать контекст — в данном случае речь НЕ про машину для убийств (а про телепортер на соседний континент, где биосфера — та к которой эльфы привыкли и трогать ее никто не будет, просто охрана эльфов — ненавидит, взаимно)
и книга при желании — ищется на раз с полным текстом
Да и у этого (и других кстати — еще один пример — Дэн Симмонс, корабли класса Архангел) авторов — хватает моментов где персонажи добровольно ложатся/садятся куда то — жмется кнопочка (или автоматика спрашивает готовность) и в итоге труп, временно, потому автоматика после этого начинает процедуру реанимации и почти всегда это успешно.
А если детки сериал Upload обсуждают, с картинками?(если что — там прямо в первой показывается как как ГГ сначала соглашается а потому ему разносит голову), просто процесс так устроен (нет это сериал не в 1 серию и ГГ тот же).
Я не знаю, зачем вы на меня вывалили столько фантастики.
В других комментариях я уже объяснял, что психологическая работа онлайн, без соблюдения традиционных требований к этому, может в равной степени принести и пользу, и вред, потому что даже если этим занимается профессионал (а это большой вопрос, с волонтёрами и т.п.), профессионал не может делать это заочно также успешно, как очно. А потому, риск упустить что-то из вида возрастает многократно.
Есть, например, исследования, которые указывают на высокую частоту возникновения мыслей о самоубийстве среди высокофункциональных аутистов, но эта высокая частота связана не столько с реальным суицидальным поведением, сколько с более низким уровнем отторжения в отношении этой темы вообще (там сразу несколько факторов) и неким любопытством в отношении этой "запрещённой" темы среди подростков. Не будучи в курсе всех обстоятельств, что ИИ, что живой человек, могут заочно предположить, что у такого подростка большие проблемы, забить ложную тревогу и испортить человеку жизнь.
Потому, при кажущейся "очевидности" и "нужности" решения, в реальности, можно создать людям проблемы на всю жизнь. А те, у кого проблемы настоящие, могут успешно выскользнуть из поля зрения, почуяв вмешательство. Итог - "герои" довольны, деньги потрачены, вред нанесён, полтора человека случайно "спасли". Может стоит всё же на том, что решает проблему фундаментально и с долговременным эффектом, сфокусироваться?
Интересно, понимает ли данный ИИ значение выражения совершить роскомнадзор?
Научат. Но есть столько интересных и потенциально интересных терминов из фильмов и художественный литературы — устанут учить.
Тем более что у них есть исключения -:)
пример — "я хочу заавадить себя"
(исключение в данном случае — фанфик где персонаж именно это и сделал, и потом подробно объяснил почему в его (и еще некоторых) случаях — ожидаемых посторонними последствий — не будет, тут не в щитах даже дело)
Все же интересно увидеть описание как это планируют использовать и как система работает (кому помешает то разглашение этой информации?)
Мне кажется здесь упускают главное - государство вкладывает еще больше денег в системы мониторинга интернета. Сейчас следят за одними группами - а завтра уже быстрее можно развернуть мониторинг других.
В России «группы смерти» в соцсетях будет мониторить ИИ