Криптоинвестор лишился около $2,1 млн, перейдя по фишинговой ссылке из ответа ChatGPT

[diderevyagin]

а теперь представьте ситуацию что сам агент будет распоряжаться деньгами и принимать решения о их трате ...

[TsarS]

Ну может агент сам поймёт ошибку и сам потом тоже создаст фишинговую ссылку и разошлет всем.

[PatakinVVV]

Мы к этому идем, но первыми пострадают именно те, кто забудет настроить лимиты на транзакции

[diderevyagin]

именно так ! агенты должны жить в sandbox и их действия должны иметь жесткие лимиты

[moooV]

А не использовал ли он чг из россии через прокси-перекупов? Если да, то там что угодно могут по пути подменить.

[dmitrye1]

https не подменят

[moooV]

Так, как я понимаю, перекупы именно делают полный mitm и дают свой эндпоинт - они же оформляют на себя подписки (на дропов причем), а тебе просто ключик от своего сервиса дают, не от опенаи. Заодно запросы логируют для перепродажи. Опенаи же в россии не работает, и, вроде как, по паспорту банит.

Сам я через них не работал - в россии давно не живу. Но так сделать было бы единственно логично, скорее всего так именно и сделано.

[dmitrye1]

HTTPS проверяет подлинность сервера с помощью TLS-сертификата. Если злоумышленник пытается перехватить соединение и подставить свой сервер, его сертификат не пройдёт проверку, и соединение будет отклонено.

Иными словами: без компрометации доверия (сертификатов, устройства или TLS) незаметный MITM не работает.
Ответ OpenAI.
Господи, как удобно объяснять.

[Ogra]

Попробуйте все-таки читать, что вам пишет собеседник. А если не можете, попросите чатгпт вам объяснить, что ли. Речь идет не об MITM в нормальном HTTPS сценарии.

[0x22]

Россия с заглавной буквы пишется.

там что угодно могут по пути подменить

Прям что угодно, с чего такие мысли?

в россии давно не живу

А, понятно.

[Efrem3112]

Интерфейс чата на скрине из поста - не официальный ChatGPT. Если это какой-то сторонний сервис для чата, то такая подстава запросто может быть.

[Lord_of_Rings]

не официальный ChatGPT

Почему же? Я не заметил отличий

[Efrem3112]

Когда я пользовался ChatGPT последний раз, у меня не было отдельного блока Источники внизу ответа. И не было отдельной ссылки/стрелки рядом с гиперссылкой. Но это давно было, поправьте, если ошибаюсь.

Интересно, если это реальный ChatGPT от OpenAI, это не может быть платной рекламной вставкой?

[Lord_of_Rings]

Я сейчас на вскидку не скажу точно, но где-то у них это есть. Возможно в десктопном приложении. А реклама у них отдельным блоком с пометкой. В самих ответах рекламы нет.

[Aldrog]

При использовании плагина Web search он так ответы форматирует.

[PatakinVVV]

Даже если это обертка через API, саму ссылку сгенерировала именно модель, а не интерфейс

[Efrem3112]

А это уже от обёртки зависит. Там можно и в промт, перед отправкой вклиниться (модерация/фильтрация), и в ответ, перед выходом его пользователю.

[PatakinVVV]

Прокси обычно просто пересылают трафик, им нет смысла палиться на фишинге, когда можно логировать все подряд

[mSnus]

Мне так Клод на голубом глазу пытался установить Composer в свежую систему с совершенно левого URL (и это было закопано в многострочный bash скрипт). На вопрос "а это что за фигня?" засуетился, выдал эту строку ещё раз, совсем засмущался и отправил меня на getcomposer самого ставить по инструкции.

Я так подозреваю, что ребята из Антропик прозевали data poisoning, и Клодушка мог(ла) много кому троянов поставить..

[Format-X22]

Потихонечку заканчиватеся то не продолжительное время когда опасностью было то что агентский ИИ выполнит дроп базы, и начинается время когда агентский ИИ может тебе бекдор, троян или даже майнер поставить, потому что в интернете везде об этом распростанено.

[XelaVopelk]

...Alex подключил свой кошелек и подтвердил согласие на «неограниченный доступ» (unlimited approve)...

Прекрасное.
PS А на хабре критикуют чуваков, которые в прод льют то что нагенерено LLM без ревью "кожаным мешком".

[MesoPrism]

Как-то вот пытаюсь, а не получается пожалеть человека, который по линку от ллмки подрубил кошель с 2 миллионами долларов крипты хз куда.

[Barnaby]

Полагая, что нашел нужное место для обмена, Alex подключил свой кошелек и подтвердил согласие на «неограниченный доступ» (unlimited approve).

Разве его не нужно специально включать? У меня всегда запрашивает подтверждение транзакций, а такого запроса я никогда в жизни не видел.

[amatoravg]

Да, интересно было бы еще узнать, что за кошелёк у чела был? Чтобы себе такой не дай бог не поставить...

[Barnaby]

Хотя, у меня в trustwallet стоит ввод пина на каждую транзакцию. Мб если его отключить тогда при подключении кошелька будет как у автора, проверять я это конечно не буду.

[0xInnominatus]

Metamask не требует отдельный ввод пина или пароля на каждую транзакцию. Скорее всего он был.

[StjarnornasFred]

Одному (боту) думать надо, что говоришь. Другому (человеку) думать надо, что делаешь. Оба хороши.

Интересно, как будут ловить мошенников? Едва ли столь крупные кражи могут остаться безнаказанными.

[Lord_of_Rings]

как будут ловить мошенников

В этой системе это сделать очень трудно. Поэтому, к сожалению, наверняка никак, учитывая, что пользователь по всей видимости российский

[0xInnominatus]

Интересно, как будут ловить мошенников? Едва ли столь крупные кражи могут остаться безнаказанными.

Никак, большая часть такого рода атак организуется хакерами из Северной Кореи и оттуда экстрадиции нет.

[elixirkmc]

Как обычно заголовок-страшилка “перешел по ссылке и …”, по факту перешел по ссылке - подключил -подтвердил и тд.

[PatakinVVV]

Интересно откуда в обучающей выборке гпт вообще взялась эта ссылка, раз ее потом не смогли воспроизвести

[lotse8]

Странное какое-то отношение у людей к чатам ИИ. Они также ищут ссылки как и Google и за содержание не отвечают. Удивительно мне другое, как человек, заимевший около $2,1 млн и судя по сумме вроде бы не глупый, смог так глупо потерять все по непроверенной ссылке.