Comments 37
У вас на утячей ферме произошла утечка уток в уток. Они все поразбежались. Сначала от Альтмана, потом от всех остальных, а теперь и до вас с вашим телеграм-каналом добежали.
Психология - сама по себе - это отличное нечто, которое не может дать чётких определений основных понятий, таких как разум или мысль. А вы на основании этих данных запустили чатГПТ и будете сидеть и диву даваться, как же так - волшебная коробочка, которая сама по себе балаболит.
Судя по качеству кода, которое показывает мне на выходе самая продвинутая сеть, я бы ни то что до психотерапии, я бы её не допустил кормить моих котов. Кому-то на голову миску с едой и одели-бы.
Полный бред, который прекрасно понимает Альтман. Мы в стране такой живём, называется США. У нас тут на чашках с чаем пишут "Осторожно - Горячее!" и на микроволновках штампуют "Не использовать для просушки котов". Понятное дело, найдутся идиоты.
По этой приписочке Сэм Альтман уже может отбиться от огромного количества обращений в суд. Поэтому ему проблема того, что какой-то психопат, потрындев с шарманкой, решил пойти и поделиться на ноль, вообще ничего не проблемит.
Но, он будет использовать повод для того, чтобы ещё поподбрасывать говнеца на вентилятор. Ведь инвестиции сами себя не притянут.
Суть не в том, что ChatGPT напишет вам ерунду, а в том что она сохраняет переписку, и может выдать ее суду по запросу. (если бы речь была об отечественных чатботах тут бы под 300 комментов прилетело)
Я б сказал что все сложнее - для нас llmки все-равно черный ящик. В случае психотерапевт-клиент у нас biases психотерапевта ограничены набором его клиентов. В случае Chatgpt вообще всей его базой. А частная языковая модель точно такой же кот в мешке. Так же все еще нет работающих механизмов верификации их "добропорядочности", которые в мире людей выполняются образованием и репутацией. То есть никто не сможет сказать что модель, которая грамотно "вела" пациента почти на всем протяжении контекстового окна под конец не начнет его склонять к плохим делам.
И все таки вы не поняли мой комментарий. Суть статьи в том, что вся переписка сохраняется по закону. И по закону она может быть передана компетентным органам. Тут не важно что вам ответила модель. Важны ваши вопросы, и они могут быть использованы в суде
Ну так люди-терапевты тоже хранят историю клиентов/пациентов. Имена, пароли, явки. Без подробных записей можно легко перепутать, кто есть кто, забыть, о чем говорили в прошлый раз, какие детали остались для будущих сессий, и.т.д. Это будет не очень хорошо. И они точно так же раскрывают все по решению суда. В отдельных случаях они даже обязаны уведомлять соответствующие органы, еще до того, как что-то случилось. Там приватность далеко не 100%, что "у нас", что "у них".
Одна из комичных арок сериала "Сопрано" как раз построена на том, что психотерапевт предупреждает, что он обязан уведомить полицию о любых откровениях о противозаконных действиях. Поэтому Тони про свои дела говорит эзоповым языком. Вряд ли шоураннеры это с потолка взяли.
Ёмаё. Вы статью вообще читаете??
> Консультации с настоящим писхотерапевтом защищены законом о конфиденциальности, который не распространяется на ChatGPT.
Вам еще и плюсуют ваш дурацкий комментарий, прекрасный показатель смысла общения в интернете
UPD я именно так эмоционально отреагировал, потому ваш ответ не привязан к статье никак
Глава OpenAI пользуется тем, что люди не читают законы. Он говорит, что сейчас компания обязана по решению суда раскрывать данные. Пользователи уязвимы! А он такой на белом коне всех защитит с помощью законов. Это работает. Рейтинг растет. Деньги делаются. Мало кто пойдет и почитает упомянутые законы самостоятельно. Там ведь окажется, что вся эта конфиденциальность связана только с тем, что терапевт не может на улице своих клиентов обсуждать, но она легко перебивается теми же решениями суда и пунктами со звездочкой, когда терапевт должен сам позвонить в полицию или органы опеки.
Всё даже хуже. Из-за судебного приказа по иску New York Times, OpenAI вынуждена не только хранить логи больше 30 дней, но и передавать для анализа на предмет нарушения копирайта. При этом это касается даже удалённых чатов.
Удивительно, что Сэм больше беспокоится о хранении, чем о том, что ИИ может посоветовать человеку всякую ерунду.
Судя по качеству кода, которое показывает мне на выходе самая продвинутая сеть
Момент 1-й — так у OpenAI несколько моделей вообще, и даже про код — как минимум 2: o4-mini-high и GPT-4.1, о какой именно вы говорите? А если не только про код, то через WEB-интерфейс всего сейчас их 8.
И да — вообще, конечно, было бы круто, если бы одна была лучшей во всём, но увы, как показывает практика, для оптимального использования приходится перебирать несколько, и крайне сложно предсказать наверняка какая именно лучше ответит на произвольный запрос. Но, с другой стороны, собственная нейросетка тоже учится — по кр. мере должна, в теории.
Отсюда следует момент 2-й — судить по качеству кода, мягко говоря, неумно.
Альтман, главный хайпо..жер сказки гонит...
Класс! Интересно, ему ИИ подсказал, что надо людей, поехавших крышей от общения с ИИ, запугать и их натравить на надзорные органы, чтобы доступ к перепискам с ИИ был только у него... или сам додумался?
Все риски от общения с ИИ как с терапевтом - это что конфиденциальности нет, угу
Глава OpenAI считает подобную ситуацию неправильной и просит законодателей догнать реальность. По его мнению, разговоры с ИИ на чувствительные темы также должны быть защищены законом о конфиденциальности.
А по-моему он выпрашивает у законодателей индульгенцию и экономию места на серверах. Но повод красивый и почти убедительный придумал - не поспоришь.
но проблема в том, что подобные разговоры никак не регулируются юридически.
После таких фраз всегда хочется уточнения: "проблема для кого?"
Я как человек далёкий от IT, и больше смотрю на вещи с эмоциональной точки зрения (уж прошу простить меня за это), скажу так, что в базовой помощи в качестве собеседника мне GPT очень помог. В нем есть огромные плюсы в отличии от психолога человека. 1. Во первых он точно не осудит. 2. Любой даже профессиональный психолог все равно где то будет держать в уме, что этот парень не в себе. 3. Ты все равно перед ним будешь скованным при нем. 4. Мне, как на 100% интроверту, который уже много лет в принципе избегает людей очень сложно контактировать с людьми (да, если что, этот диагноз у меня был поставлен ещё до прихода в Россию интернета в принципе, а не потому что у меня зависимость от него, до интернета я использовал "для общения" книги, да и сейчас не гнушаюсь ими). Но это всё ни в коем случае не призыв и не руководство к действию. Конечно я обязан сказать, что если у кого либо какие то проблемы, то следует обращаться к соответствующим специалистам.
который уже много лет в принципе избегает людей очень сложно контактировать с людьми
И как, помог ИИ? Теперь вы с лёгкостью общаетесь с людьми, у вас появились друзья?
Или вы просто заменили людей на общение с ИИ и "решили проблему"?
Если человек доволен и испытывает облегчение, это разве не решение проблемы? Как по мне у каждого человека может быть что угодно в голове, главное чтобы оно не касалось других людей, как вербально так и нет.
Разве прятать мусор под ковёр это не решение проблемы? Точно, главное чтобы чувствовать хорошо. Можно еще заполировать алкоголем или опиатами, с ними человек будет чувствовать себя вообще идеально, разве не решение проблемы? Ведь главный критерий у вас "чтобы чувствовать довольным".
проблемы с общением у меня остались, они не куда не денутся. Но вы понимаете, что помимо проблем, назовём их "явные", есть ещё и "не явные", в которые заключены плохое самочувствие, нервное истощение и много других "радостей". Ваше сравнение с, так скажем, различными веществами не корректно, так как последние не только не излечивают, но ещё добавляют проблем физического характера. Нейросети не добавляют проблем физического характера. Более того - у меня появился какой-то стимул. Писать, рисовать. Нет, без помощи ИИ чтобы предупредить ваш вопрос. Он стал именно моим способом выговориться, получить мотивацию. Но я недаром упомянул специалистов, так как каждая проблема сугубо индивидуальна, и терапия соответственно тоже индивидуальна. Да, комментатор выше прав - я себя чувствую значительно, повторяю - значительно лучше. Не это ли главное?
Я не могу решать что для вас главное, а что нет. Я просто говорю что убегать от проблем - это не решать их, как хочет думать комментатор выше. Есть много способов "забыться" и спрятаться под одеяло вместо того чтобы решиться на изменения, вещества это уже крайний, есть еще вся индустрия развлечений, которая поможет вам убежать от своих проблем и забыться - и никакого вреда здоровью!
Я специально спросил вас - решил ли бот вашу проблему, которую вы не хотите решать с психологом? Вы предпочитаете уйти от ответа (главное чувствовать себя хорошо, а потом..найду ещё какой-нибудь уход). Следовательно проблема не решена, и психолога бот заменить не может.
Может ли он дать какое-то облегчение? Ну да, он на это и заточен. Но это как пить противоболевые и думать что это вылечит - ну мне же стало хорошо, боли нет, значит и проблема исчезла! А когда вернётся, я опять таблеточку выпью - и опять все хорошо!
Я специально спросил вас - решил ли бот вашу проблему, которую вы не хотите решать с психологом? Вы предпочитаете уйти от ответа (главное чувствовать себя хорошо...)
Вам же ответили:
проблемы с общением у меня остались, они не куда не денутся. Но вы понимаете, что помимо проблем, назовём их "явные", есть ещё и "не явные", в которые заключены плохое самочувствие, нервное истощение и много других "радостей".
Почему озвучивание решения таких проблем как плохое самочувствие и нервное истощение вы называете "уходом от ответа", а их решение "убеганием" и "попыткой забыться"?
Потому что самочувствие - это не проблема, а симптом. Это ничем не отличается от болеутоляющего.
Как интересно...
А я-то, дурак, пару раз в год снимаю головную боль Цитрамоном и прекрасно живу дальше. Оказывается, я просто от проблем убегаю, не надо так...
Да, у здоровых людей голова не болит и им не нужен цитрамон или любое другое болеутоляющее. Вы действительно думали что это "решение"? Да? Просто интересно.
Да, я абсолютно уверен, что выбирая между "пару раз в год выпить Цитрамон" и "шататься по врачам искать то, не знаю что" далеко не только я выберу первое.
Я вполне допускаю, что вы можете записаться к терапевту и прийти к нему с жалобой "у меня давеча болела голова, и еще полгода назад тоже, лечите меня скорее". Но, полагаю, таких меньше, чем первых.
Ок, ваше право, вы признаете хотя бы что это не решение. Трудности в общении с людьми у вас тоже возникают только два раза в году?
-- Вас мучают эротические кошмары?
-- Что вы! Я ими наслаждаюсь!
Я - лютый интроверт. Но "лечить" это я не собираюсь. А вот снять симптомы, чтобы иметь возможность кратоксрочно "сходить за приятного человека" - то, что надо.
Интроверт - это не болезнь, вы наверное имееете в виду социопатию и социофобию. У интровертов нет никаких проблем с общением.
Я могу заключить из нашей беседы что ИИ абсолютно никак не решает психологические проблемы, а предлагает отвлечься или временно "спрятаться под одеяло". В принципе ничего особого, большинство этим и так занимается вместо каких-то там решений, ИИ дает ещё один способ - поиграть в доктора, т е. психолога.
п.с. Решение - это когда находят корень проблемы, разбираются с ним, и проблема больше никогда не возвращается. Все остальное - это припарки
Смотря что вы понимаете под "проблемой" и под "решает".
п.с. Решение - это когда находят корень проблемы, разбираются с ним, и проблема больше никогда не возвращается. Все остальное - это припарки
Я существенно менее категоричен.
Вырезать аппендицит (или даже почку) - решение проблемы. Хотя организм становится не совсем полноценным. Хотелось бы лучше, и откатиться на исходное состояние, но увы.
Очки/линзы/ИОЛ и т.п. - ничто из этого не "вылечить зрение". Тем не менее это я считаю вполне себе решениями проблем.
С интроверсией, когда общение с живыми людьми приводит к чрезвычайно быстрой потере энергии, меня так же устраивают всевозможные workaround, позволяющие не "решить на корню проблему быстрой потери энергии" (читай, измениться), а просто научиться дольше общаться, изображать из себя нормального человека...
Я не живу в идеальном мире. Не перекрашиваю машину (деталь целиком) после царапины, а могу ее замазать. В общем, всяческие workaround меня очень часто вполне устраивают.
"Никуда не денутся" - это самый настоящий отказ решать проблему, не знаю почему, но это ваш выбор
Между прочим у данного бота очень огромная правовая база ни у одного юриста такой нет так что зря запрещают пользователям общаться на такие тонкие темы я благодаря этому буду очень много узнал чего и чего делал правильно И чего делал неправильно.
Глава OpenAI предупредил о рисках использования ChatGPT в качестве психотерапевта