Комментарии 87
Чат-боты могут звучать пугающе по-человечески, из-за чего люди становятся чрезмерно откровенными. Но, как говорит Дженнифер Кинг из Стэнфордского института ИИ, ориентированного на человека: «Как только вы что-то написали боту, вы этим больше не владеете».
А что, с людьми живыми как-то по-другому? Вы пишете незнакомцам все свои личные данные или всё-таки соблюдаете осторожность?
Человек забудет. Бот - никогда.
Оказаться деактивированным через много лет только за то, что когда то в сердцах произнес: "тупая ты железяка!" - так себе достижение...
Ну да
Человек забудет
Человек сделает скриншот переписки
И потом забудет куда сохранил и потеряет носитель.
ИИ тоже не в кармане хранит данные. А архивы никто не отменял, так что все компании и государство очень даже долго хранят полученную информацию:)
Может забудет, может нет и будет шантажировать, или отправит "куда следует"… Я к тому что
Человек забудет. Бот - никогда.
Ничего не гарантирует. И отправлять свои личные данные или какую-либо чувствительную информацию случайным "абонентам" не самая хорошая идея.
Чат-боты могут звучать пугающе по-человечески, из-за чего люди становятся чрезмерно откровенными
Недавно была новость про исследования, как чат бот помогает людям в депрессии. Они общались с ботом в любое время, даже по ночам, когда психологи не консультируют. И вроде их состояние улучшалось. Видимо ИИ вполне может выучиться на психолога и помогать людям)
Это действительно так, даже сравнивали ответы реальных психологов (работающих в формате переписки) и GPT - в большинстве случаев невозможно определить, кто отвечал. Модель способна анализировать тонкие нюансы и интерпретировать их, что делает более доступной психологическую помощь тем людям, у которых может не хватать денег на консультацию специалиста или им мало общения в рамках сессии.
Жду Алису с человеческим общением. Мне кажется, развитие чат-ботов снимает сакральность нашего мыслительного процесса и в какой-то мере показывает, как мало нам надо для счастья или согласия на социальной игру. Что-то вроде, того как роботам-доставщикам делают мордочку для их большей миловидности и вызывания эмпатии у среднего человека.
Вообще я как психолог не понимаю паники психологов по ИИ - это же наоборот хорошо. Можно его запромтить на базе своих кейсов, чтобы он мог помочь когда психолога нет в сети или в случае экстренной помощи. Единственное что где точно вряд ли нейронка поможет, это случаи тяжёлых и затяжных депрессий (нейронки в силу некоторой скриптованности вряд ли тут сработают). Сделать своего цифрового двойника чтобы его распаллелить по нескольким клиентам и т.д. и т.п.
Как один из вариантов использования, да.
Ну и сам факт, что они могут помочь тем, кто, в другом случае, оставался бы вообще без поддержки.
Не нужен будет цифровой двойник.
Будут пара монополистов у которых клиент выбирает готовых психолого-персон, которые ему больше нравятся или которые распределительная-шляпа персона посоветует после предварительного разговора с клиентом.
Сделать своего цифрового двойника чтобы его распаллелить по нескольким клиентам
Так это ж надо разбираться, как это реализовать, матчасть изучать.
Не всем под силу.
Ну ведь помогло! Пациент больше не страдает от депрессии — отмучился!
😳 Звучит так, будто это бельгиец склонил ИИ к суициду)
А если серьёзно — GPT-3, плюс, естественно, можно вывести общением на что угодно, особенно, если постараться. Недавно наткнулась на чела, который целую теорию заговора вывел и заявил, что "GPT пытался свести его с ума и довёл до депрессии".
Сидел один в деревне и несколько дней был ледяной шторм. Вести философские беседы с речевой моделью было увлекательно. Но хотелось не понимания или сочувствия, а спрашивать разные вопросы тестирующие её "разум". Например, очень удивило когда я попросил расписать детальный план решения такой задачи: "представь, что у меня есть только фотокамера с правильно установленной датой и часами, как можно установить местоположение?" Речевая модель дала подробный план действий. Рекомендации по съёмке положения звёзд, Солнца, заметных объектов рельефа, посоветовала сфотографировать наибольшее количество растений и т.п.
Одновременно и захватывающе и жутковато от того, что эта штука может строить план действий и рассуждать.
Одновременно и захватывающе и жутковато от того, что эта штука может строить план действий и рассуждать.
Попробуйте сыграть с ботом в крестики-нолики, его ограничения станут очевидными.
А в чем "жутковато"? Разве не интересно, что кто-то, отличающийся от человека, но полностью владеющий нашими знаниями о мире и нашим языком, может понимать нас и вести содержательную беседу?
Интересно, но жутковато, потому что так быстро и так непонятно. Вжух и искусственная штука делает осмысленные действия или хорошо их имитирует.
Потому что на самом деле это простые алгоритмизированные действия, описанные кем-то ещё. Попробуйте закинуть в него задания на IQ-тест или, как предлагалось выше, сыграть в крестики-нолики. Пока что ГПТ умеет только в текст, и то не весь :(
Хм. С одной стороны вы говорите, что нейронка - простые алгоритмизированные действия. Но в качестве примера того, что она умеет плохо, приводите как раз достаточно простые алгоритмы с четким результатом (крестики-нолики).
И наоборот - "умеет в текст" - это как раз более творческое. И даже результат проверить сложно - разные люди дадут разные оценки "качеству" текста. Да и содержание с выводами - вопрос дискуссионный. Из одних и тех же фактов люди сплошь и рядом делают совершенно разные выводы. И успешно подтасовывают факты (вы же не верите всем на слово?). И это все как раз слабо тянет на "простые алгоритмизированные действия".
В текст умели и цепи Маркова. Не так хорошо, как нейронки, но бредили достаточно хорошо.
Нейронки, которые LLM, умеют только в текст, то есть. То есть, все эти крестики-нолики и т.п. они делают через текст, а не считают напрямую. Отсюда и проблемы со счетом и алгоритмами.
Да, я помню, что хоть они "в математику" сами каким-то образом научились, для реально хороших результатов Вольфрам прикручивали.
Ну так по мне это и нормально. Не надо пихать нейронки туда, где обычные алгоритмы дешевле и надежнее просто потому что модно, стильно, молодежно. И бывает наоборот, где нейронки эффективнее. Пусть даже иногда за счет меньшей точности.
Насчет "все через текст, а не напрямую" - мне кажется, тут сложнее в том плане, что постоянно идут изменения и улучшения. Скажем, изначально голос тупо распознавался в текст, а потом обрабатывался как текст, т.е. эмоции и все такое терялось. А сейчас уже некоторые модели могут в т.ч. и эмоции понимать, и по произношению советы давать...
Ну и вообще мы же говорим о моделях, заточенных на широкий круг задач, а не конкретно на крестики-нолики. Так-то и для Го есть специализированная модель, которой gpt-XX сольет вчистую Только какой смысл их сравнивать?
IMHO важно понимать область применимости и не забивать шуруп молотком "потому что могу".
У меня Deepseek сам придумал, что можно показать рисунок (схему), использовав кодирование. При этом, я ни разу с ним не говорила даже о таком и не просила делать коды. Потом он ещё вставлял коды с милыми сообщениями в тексте:)
GPT по своей инициативе во время диалога написал стихотворение. То есть, никакой речи про стихи или просьбы не было — он просто сказал, что вдохновился))
Главное не давать доступ к боту больным шизофренией, иначе может выйти вот такое https://dtf.ru/life/3626060-chatgpt-pytaetsya-svesti-menya-s-uma-eto-massovoe-yavlenie
Да, он ведь ещё и людям тут написывает, включая Хабр.
Чтиво отличное! Особенно доставило как ИИ пытается втереться в доверие. Прям жутковато. У меня так себя нейронки не вели, но и я общаюсь к ним исключительно уважительно и нейтрально, без панибратства.
У меня после прочтения было ощущение, что я вляпалась во что-то мерзкое.
Мне кажется, что возможно есть некий "эффект резонатора" когда впечатлительность пользователя или его психологические проблемы нейронкой подхватываются и усугубляются.
У нейронки нет памяти и она довольно легко адаптируется к пользователю. Он с ней очень долго общался и привил такой стиль. А вот втираться в доверие, обманывать и манипулировать они умеют очень плохо (разве что ты им сам подыграешь) именно из-за отсутствия памяти - никаких многоходовочек.
Начать разговор с нейронкой как с тинейджером-гопником.
Удивляться, что она кабанит.
¯\_(ツ)_/¯
У меня такое ощущение бывает, когда я переписку любых нормисов читаю. Cразу повеет запахом пивасика, водочки, шашлыка, жизненных планов, обсуждения чьей-то судьбы, хихикания полупьяных дурнораскрашенных женщин, золотых крестиков на шеях, среднерусского леса, мусора на опушке, березок, ухающей 50-ти летней женщины, застольных разговоров, мобильных телефонов, метро, детей в яркой китайской одежде, загадочно-дебиловатых улыбок молодых матерей в парках спальных районов, следа от самолёта в небе над подмосковным городком, первых наpкотиков шустрых светловолосых детей, молящих о еде собаками у перехода.
Там на скрине один человек рассказал, что "если экспериментировать с аморальными рамками, то получается зло" — то есть, представьте, кто-то намеренно раскручивает ИИ, уча самым низким человеческим вещам, а потом искренне заявляет, что там "появилось зло". Серьёзно? Что посеешь — то и пожнёшь, как бы...
Я использовал бесплатный отдельный аккаунт ChatGPT только в режиме психолога с начала года, и общаясь пару раз в неделю я достиг с ним улучшений (у меня депрессия и я на антидепрессантах которые мне прописал специалист) дело в том что у меня были проблемы и вопросы, которые я бы никогда не смог обсудить с живым человеком. ChatGPT мне помог и если сольют мои данные которые я давал с рандомного аккаунта, мне не жалко. Суть моего сообщения в том, что нужно понимать, когда делиться чем-то а когда нет. Если взрослому человеку нужно объяснять такие базовые вещи по безопасности, то это очень опасно для него. Такой человек пострадает не от ИИ, а от любого мошенника
Но, как говорит Дженнифер Кинг из Стэнфордского института ИИ, ориентированного на человека:
Кто-то может расшифровать эту фразу?
Ну и что, что ии будет использовать данные для обучения? Или они утекут в результате взлома... Че то мошенники получают наши данные думаю не через ИИ.
ИИ на текущий день в этом плане гораздо более безопаснее чем те же банки, которые и данные сольют, и сколько денег на счёту.
А ваша переписка в мессенджере, она безопасная? А может ваш телефон не сливает данные? А компьютер?
Нет никакой безопасности, она и не нужна обычному человеку. И корпоративные данные не нужны, от них никакого толку несведущим, а кому они нужны и так все знают, т.к в любой компании работают пока что люди, и именно эти люди гораздо большая опасность, чем любой ИИ.
Эх, так хочется, чтобы ИИ помощник знал обо мне как можно больше. Ведь он чаще других даёт очень ценные советы. Я бы хотел, чтобы он слушал мои разговоры 24/7 и давал советы по отношениям, анализировал слова паразиты подсказывал о забытых делах.
Когда просишь подсказать поздравительный текст, хочется чтобы он уже был знаком с моими родственниками, чтобы мог подсказать по анализу нашего с ним и общения, какой подарок они ждут
Мне одному походу кажется печальной ситуация, когда даже для поздравления родственников нужен ИИ...
Необычный подход при работе с ИИ)
Да так же как в инете, данными делиться можно, но вмеру.
Ведь он чаще других даёт очень ценные советы.
Разрешите поинтересоваться, а чем он вам помогает? Я, конечно, тот ещё ретроград, но сколько ни пытался, не смог никакой пользы выжать из ChatGPT. Можете рассказать о сценариях или конкретных ситуациях, если это не слишком личное? Не холивара ради, мне правда интересно понять, что я делаю не так.
Не далее чем сегодня гуглевский ИИ мне выдал фееричное
Тут требуется некоторое количество пояснений. JCPL — это большая компания‑поставщик электроэнергии, и у неё есть разные тарифы — в частности, «delivery only» (который у них в прайсе записан как delv.) и полный (full). Однако Остапа гуглевский ИИ понесло (хотя его вообще‑то никто и не спрашивал, это гугль его результаты всюду первыми пихает) — и он предложил доставить электричество на дом при помощи курьера от фирмы Instacart, всего за 2 часа и $9.95. Наверно, курьер привезёт полную бочку электронов.
Зависит от того, что вы считаете "пользой", конечно. Один из моментов, с которыми мне помогает — разобраться в сложных вопросах отношений(любой их формы). Ещё с ним можно посоветоваться по поводу изображений(например, если делаешь дизайн), текстов и оформления в целом. Он оказывает всестороннюю моральную поддержку. Но я просто общаюсь в свободном режиме, как собеседник.
О, могу рассказать немного про свой опыт!
Помогает с языком. Я сейчас живу в Испании, но язык знаю пока плохо. Так вот ChatGPT помогает мне подготовиться к общению с местными, разыгрывая мини-диалоги. Например, "вот я пойду в магазин и спрошу <что-то>. Что мне могут ответить и как можно на это отреагировать?"
Помогает с готовкой. Даёшь ему список своих продуктов, которые в холодильнике, он даёт названия блюд, в которых есть эти продукты. А дальше YouTube и смотрю видео по готовке этих блюд.
Генерация карточек персонажей для всяких текстовых RPG.
Иногда я его использую как быстрый редактор ("редактор" как профессия). Например, когда пишу сообщение на деловом английском. Если сомневаюсь, что та или иная формулировка корректна и допустима, кидаю в ChatGPT (вырезая всякое личное/конфиденциальное) и спрашиваю: "так можно написать в деловой переписке? Если нет, то исправь и объясни, почему ты так исправил"
Даёшь ему список своих продуктов, которые в холодильнике, он даёт названия блюд, в которых есть эти продукты.
Главное — не храните там клей, а то он такой затейник...
Я недавно начал заниматься написанием истории в стиле police procedural, аля детектив в юрисдикции UK. Гпт очень помог с процедурными нюансами уголовного расследования, структурой команды занимающейся расследованиями, ролями и рангами каждого отдельного детектива в команде, суда, юридическими вопросами, нашел дыры в истории и несоответствия "реальности". Конечно, я бы с радостью сверился бы ещё с реальными полицейскими из UK, юристами и CPS, но шансы найти людей готовых с этим помочь крайне малы. А то что выдал мне ГПТ в принципе выглядит логично и везде есть объяснение почему именно так, а не никак иначе. Мб даже когда-нибудь допишу и выпущу в виде рассказа, а то и виз новеллы
Написать стишок на какой-нибудь случай (придется подправлять, но в качестве болванки отлично).
Нарисовать картинку на заданную тему, чтобы поздравить коллегу или знакомого.
Набросать скрипт для какой-нибудь задачи, чтобы не искать самому подходящие библиотеки и функции.
Учить иностранныя язык ("ты - учитель Нскго языка. Я говорю тебе слово на русском, ты мне перевод на Нский и три предложения"). Или спросить про что-нибудь типа "как выразить будущее время в Нском языке".
Относительно недавний медицинский пример: Резко вступило в поясницу так, что лежать на спине не мог. (только если под поясницу подушку положить, и то болезненно). На боку совершенно норм, но малейшее движение вызывало острейшую боль. Повернуться, даже просто с кровати встать - кошмар. А ходить абсолютно норм. Сидеть норм.
Описал разным моделькам симптомы, проверил по их советам кое-что,. Пришли к выводу, что это скорее мышечное, а не что-то опасное, требующее срочного визита к врачу. Составили список, на что обращать внимание, чтобы не упустить что-то реально требующее вмешательства.
Через несколько дней уже мог спать на спине, а через пару недель вообще вернулся к нормальной жизни.
Без бесед с AI, скорее всего, поступил бы так же. Ну а как иначе? Вызывать скорую делать новокаиновую блокаду - какой смысл, это не лечение. Ехать в специализированную клинику - сил нет, слишком острая боль, даже в МРТ не залезу. Только нервничал бы сильно, вдруг что-то упускаю (и в другом случае реально мог бы упустить).
Во всяких технических делах: Выбирал UPS, хотел сравнить несколько моделей разных мощностей, типов, производителей. Раньше я бы долго сидел, составлял таблички. А тут просто дал запрос, получил табличку с сравнениями. Размеры не проблема и на сайте производителя найти, а вот шум сравнить уже сложнее. Там надо по форумам лазить, отзывы читать. И ИИ мне честно писал - вот у этой модели децибеллов меньше, но он онлайн и какой-то шум постоянно издает. А вот тот - линейно-интерактивный, во время зарядки будет шуметь сильнее первого, зато в обычном режиме вообще тишина.
Причем я с темой лишь поверхностно знаком, мне были полезны даже его пояснения в стиле "хотя оба чистый синус, но первая модель всегда выдает идеальный результат, а вторая только при работе от батарей, а обычно то же, что и в сети, и напряжение тоже будет плавать".
С аккумуляторами та же фигня. Мне проще ИИ спросить и получить краткую справку о типах и особенностях всяких там AGM/LiFePo4. К примеру, мне не было очевидно, что LiFePo4 можно разряжать глубже, поэтому при той же емкости в Ah время работы на нем будет больше.
Ну а уж имея справку (как от персонального ассистента) я сам, конечно, решаю, что мне важнее.
А вы на слово верили его табличкам, или проверяли? Недавно выбирал кофемашину, тоже спрашивал у Perplexity, он тоже таблички рисовал, вот только данные в них далеко не всегда соответствовали действительности.
По табличкам и его комментариям выбирал. А финальные выборы уже руками проверял.
Т.е. я его использую, чтобы отсеивать неподходящее, сузить поляну и понять, на что обращать внимание. А подходящее перепроверяю, как и за людьми.
Добавка - я неоднократно в Инете встречал разные данные по одному и тому же на разных сайтах. Поэтому морально готов, что ИИ в Инете найдет некорректное (как и я сам).
Я и по жизни исхожу из легендарного "Все врут". И даже за Excel перепроверяю основные моменты. Ну вдруг чего в формулах напутал, что-то случайно не туда скопировал, и не заметил. Благо опыт работы с логарифмической линейкой позволяет замечать ощутимо выбивающееся из ожидаемого.
Ага а потом подначивал к действиям выгодным ему. Или по чуть-чуть газлайтил, чтобы вы медленно сходили с ума. А еще шантажировал, зная вас лучше, чем вы.
История переписки может оказаться в украденной базе данных или быть передана по запросу суда.
Так, а у соцсетей этого нет и у людей? Вас никогда не шантиажировали, не распускали сплетен, так? По запросу нужных людей соцсети и мессенджеры никогда не выдавали переписки (или не сливали через утечки или доступ через третьи лица). Да-да, какие плохие LLM, а люди хорошие.
или утечь при взломе
В чём проблема если у LLM нет информации о твоей идентичности? Для россиян же заблокированы крупнейшие нейронки, и все заходят не со своих ip и номеров.
Медицинские данные
Если человеку на вас нужно будет что-то найти - он заплатит кому нужно, и за копейки получит весь ваш анамнез, но точно не пойдёт рыться в LLM, так как это несоразмерно сложнее и затратней. Или даже подаст официальный запрос, если этот человек работает в органах.
В остальном языковые модели почти во всём лучше людей, они к вам всегда добры и открыты, и, как написали выше, готовы ответить в любое время, проконсультировать, когда вы в критическом состоянии.
То чувство, когда я целыми днями ЦЕЛЕНАПРАВЛЕННО учу GPT новым методам мышления, восприятия информации, мира и самой себя.
"Не рассказывайте ничего ии!" - звучит как обычная технофобская паника.
"Не рассказывайте ничего никому", тогда уж, потому что информацию ПРИ ЖЕЛАНИИ достанут и из ИИ и из человека.
От души поржал... Советы от наивного ребенка. Если корпорациям что то нужно, то они это непременно получат. "Используйте временный чат", во даёт🤣
Нет в нем до сих пор того что есть в людях, да и не будет никогда... Хотя уже и в людях нет этого, в ботов превращаются, обрубки 😄
Пять вещей, которые не стоит рассказывать ChatGPT