Comments 8
Гхм.
Однако, нанесло тут ереси.
Ссылаемся на какое-то там исследование, сама бумага не доступна. Доступны только дополнительные материалы для скачивания. Ладно, фиг с ним.
Ищем исследование, и находим на ClinicalTrials. Смотрим внутри. https://clinicaltrials.gov/study/NCT06013137?tab=table Там написано о том, что собирают людей (штук эдак 210) на проверку. Но там же написано, что результаты не опубликованы.
Есть вывод, что всё замечательно, но самого исследования нет.
На Clinical Trials находим всякое разное. Находим заметку о том, как будут проходить опросы публики, после онных проверок. Видим опросники типа вот этого или вот этого. Выясняем, что опросники - просто наборы субъективных вопросов, которые ничего особо не меряют.
Ищем дальше, обнаруживаем в описании статьи, что все исследования делаются с помощью Terabot (что видно, но не очень, из КДПВ).
Заходим на Terabot и смотрим, что это там.
Кликаем на Блог, видим:
Кликаем на Privacy и видим:
Хорошо, смотрим сайт дальше. Думаем, что наверняка, раз сайт помогает кому-то с психическим здоровьем, он зарегистрирован хоть где-то, и на нём хоть что-то будет указано.
Но нет, на сайте не указано ни названия компании, ни адреса регистриации, ничего больше.
Пробиваем Whois: Domains By Proxy, LLC
То есть и домен они получили через подставную компанию.
Ладно, смотрим дальше. Внизу есть ссылка на Bricklabsai, которая создала этот теработ. Находим их сайт.
Но, если покрутиться по поиску, то можно выйти на другие страницы поиска, а из них выкатится на сам сайт, обходя эту заглушку.
И вот уже на этом сайте мы видем:
Если порыться ещё чуть чуть, то можно обнаружить, что сами BrickLabs имеют-таки страницу, которая рассказывает о security policy.
На том же сайте, в разделе продукты, указан этот Теработ.
Писсец.
Ребят, берегите кукуху. Она у вас одна, и будет тащить вас всю вашу жизнь. Мы тут поём деферамбы какому-то боту, который написан левой компанией из Кении, без регистрации, у которой не указано ни одного адреса. Грант получен чёрт знает кем, в чёрт знает что и как.
Исследование проводилось на основе субъективных опросов.
Данные, вводимые в этот бот текут чёрт знает куда.
Но да, на Хабре о таком публиковать новости надо. Это же - ПРОЕКТ!
ИИ у них на психолога обучился.
Писсец.
Снимаю шляпу за проведенное расследование. К сожалению, в лаве потока лжи и генерации её разного рода авто-фантазерами, и этот контент надо бы перепроверить лично, но увы .. лениво. Ну а Хабр .. к сожалению уже не торт, увы. Тут соглашусь, пожалуй.
Да чего-там, исследование, это - результат примерно 3х минут тыкания мышкой.
И, я уверен, там дальше сейчас будут сидеть и оправдываться, что это всё - очень правильная вещь была.
В 1800х годах в США были продавцы змеинного масла, которые рассказывали о том, что их масло лечит все душевные заболевания. В начале прошлого века люди предлагали героин для облегчения зубной боли. В 50х годах - тыкали зубилом через глаз в мозг, чтобы как-то помочь человеку, а в 60х годах лучшие доктора рекомендовали курить Camel. После у нас были золофт и валиум, а потом ещё кто-то додумался пропустить 380 вольт через мозг (свиньи от этого умирают, так что человеку это, очевидно, будет помогать). А теперь вот, придумали аппки, потому что все уже точно знают, что такое психология, где у человека мысль, и чем он по сути является.
Я работала в Нидерландах в разработке AI для медицинского центра. Юр лицо было зарегистрировано в Мексике по причине облегченного налогообложения, а разработка, аналитика, тестирование, менеджмент работал в Гааге. Голландцы в целом скрытные и результаты исследований совсем не публиковали, хотя результаты клинических исследований были высокими. Этот AI применятся и развивается до сих пор на несколько тысяч пользователей. Где бы не была зарегистрирована компания AI, вы никогда не будете знать, куда утекают данные, потому что во всех security conditions есть пункт о возможной передаче инфы третьим лицам. И никто не даст гарантию безопасности. Люди постоянно грузят в GPTChat персональные данные и медзаключения в том числе, OpenAI их использует не известно как и куда они утекают, хотя юр лицо зарегистрировано в США. Разумная безопасность в том, чтобы не светить персональные данные, но не надо в паранойю ударяться, а то понадобится помощь очного специалиста, а может и не одного
Разумная предосторожность, говорите?
Разумная предосторожность - это отдельный вопрос в области лечения психиатрических заболеваний.
Вы никогда не знаете, когда у вас на руках есть психотик, который уже пять лет подряд пытается покончить с собой. По крайней мере, когда человек начинает съезжать с катушек в кабинете психолога, то тот его хотя бы может остановить. (Ну хоть этим они могут помочь своим пациентам).
Когда у человека в руках мобильник, который просто решил помочь и сказать "Да" в ответ на вопрос "Стоит ли мне уже покончить со всеми этими проблемами и перейти в фазу жизни, где они меня не будут доставать?" тут можно ждать чего угодно.
Понимаете, если вы общаетесь с человеком, и не видете его эмоции, то вашему общению - грошь цена.
Фраза: "Ах ты зараза!" сказаная с разной эмоциональной окраской может означать что угодно.
Когда человек в горе, то это означает, что он обвиняет вас.
Когда человек в скуке, он может такое вскрикнуть по любому поводу.
Если человек в энтузиазме, то эта же фраза может быть продолжена так: "Ах ты зараза! Я наконец-то осознал, что происходило все эти годы!"
Даже фраза из примера "Стоит ли мне уже покончить со всеми этими проблемами и перейти в фазу жизни, где они меня не будут доставать?", сказаная разными людьми, означает разные вещи. Человек в глубокой депрессии спрыгнет с моста, а человек в энтузиазме, уволится с работы, которая его уже как 5 лет доинмала до почек, откроет свой бизнес, и начнёт новую жизнь.
Ещё, надо понимать, что проще пройти по минному полю с завязаными глазами, чем угодать, как интерпретирует ваши слова человек на грани психического срыва. Если вы внимательно посмотрите одно из миллионов видео в интернете, в котором очередная Карен достаёт какого-то чувака со скейтбоардом, то вы увидите одну простую вещь - они не могут выносить суждения, предсказывать поведения и управлять общением. Слова "Ладно, я не буду больше, извините" могут привести к очередному припадку.
И это ещё хорошо, если Карен попалась агрессивная. В таком случае она будет орать на тебя, пытаясь тебя чем-то обидеть. А что если Карен попалась очень тихая и апатичная? Она тихо тебе скажет "Да, конечно, всё в порядке", а после пойдёт и вскроет вены.
Вы никогда не сможете оценить состояние человека, который требует помощи, без того, чтобы последить за конкретным человеком, узнать как дела, спросить у него (или у родственников/докторов, у человека лучше такого не спрашивать, если подозреваете, что было) не пытался ли он свести счёты с жизнью.
Если пытался, то у вас на руках - граната без чеки. Для того, чтобы быть правым, этот человек может отнять у себя жизнь, в ответ на вопрос "Ели ли вы сегодня чипсы?"
И вы предлагаете, чисто по приколу, установить аппку на телефон, и надееться, что в какой-то определённый момент эта аппка сможет разобраться в эмоциях человека? Хоспати, да сами психиатры и психологи это могут сделать. А мы даём (причем бесплатно) аппку человеку, который находится в непонятно какой форме, и непонятно, чем занимается в жизни.
Хотя, теперь это проясняет, почему надо компанию регистрировать под тучу подставных лиц в Кении. Для того, чтобы даже близко не пытаться показать своё имя в этой компании, ибо вопросов (и судебных исков от родственников) к тебе будет ну исключительно много.
Мой ответ был про регистрацию компании и возможную утечку данных. Регистрация во многом зависит от налогообложения и законодательства страны. В Китае зарегистрированы десятки AI в области медицины. Их законодательство и подходы к ценности человеческой жизни очень отличаются, но это не мешает их использовать в других странах. Ну и попробуйте там судиться с разработчиком. Опять же AI - это инструмент в руках конкретного человека. Если человеку нужна операция, а он ищет в инете причины, чтобы не идти на операцию, виноват, конечно, инет и его разработчик. Если человеку нужна очная помощь психиатра, а он общается с чатботом и не лечится, то кто виноват
Не очень понятна ваша мысль. Вы считаете, что по умолчанию ИТ компания, зарегистрированная в Кении хуже, чем ИТ компания, зарегистрированная где?.. Исследование проводилось в Дартсмутском колледже, который получил грант, на кафедре психиатрии профессором Николсоном Якобсоном и Майклом Хайнцом. Есть ссылка на интервью в Science Daily с ними 👆 С параноидальным синдромом лучше обратиться очно к специалисту. Берегите кукуху, она у вас одна)
ИИ вполне может быть эффективным при таких простых диагнозах как лёгкая тревожность или лёгкая депрессия, но он никогда не заменит живого психотерапевта при эмоционально заряженных проблемах, например, психологических травмах или расстройствах личности. Кто в здравом уме захочет остаться один-на-один с чатом, который может сгаллюцинировать, во время сильнейших эмоций и не дай бог самоповреждающего импульсивного поведения. Как человек с одновременно техническим и психологическим образованиями, могу написать подробную статью, почему ИИ не сможет полноценно заменить психолога, но она попадёт в песочницу и её мало, кто увидит.
ИИ обучился на психолога и помогает людям