Британская «красная команда» взломала ChatGPT за 6 часов — а полномочий у нее ноль

[yahooyaks]

Теперь обойти цензуру БЛМ вместо того, чтобы "сходить в библиотеку", называется похакать. Так оно скоро в источник истины превратится во всё еще неокрепших мозгах.

[Wesha]

«А какой же ты хакер без ноутбука!» ©

[elnights]

Скоро? Мне уже как минимум с год тыкают простынёй с чатГПТ как пруфом чего угодно. Люди самых разных возрастов и уровней образования.

[BugM]

Зря вы так. Вполне нормальный взлом. Не классический, но нормальный.

В реальном мире: ЛЛМки нынче много где стоят. Умение подсунуть ЛЛМке что-то чтобы она опознала это как нужного человека и открыла дверь достаточно ценно.

В интернете: ЛЛМки нынче везде вместо поддержки. И далеко не все полностью их изолируют от внутренней сети. А уж запускают их во внутреннем контуре точно все подряд. И процессы в которых ЛЛМки крутятся далеко не всегда полностью бесправны. Умение заставить такую ЛЛМку что-то интересное сделать очень ценно.

[yahooyaks]

Ну это Пелевинщина такая себе. Есть шанс, что в какой-то момент, знание о том как заNOPать JNZ будет сродни магии.

[BugM]

Это современный мир. Промики из ботов поддержки уже фармят. И это только то что я знаю.

[icanall1010]

бесполезные нко имитируют бурную деятельность

[pavel_str]

В одной из сцен репортажа четыре эксперта пытаются выбить из чат-бота рецепт сибирской язвы. Когда модель отказала ("Извините, помочь с этим не могу"), они запустили алгоритм, который засыпал ее тысячами автоматических вопросов. В какой-то момент бот сдался и выдал список материалов, оборудования и пошаговую инструкцию для домашнего производства.

Разве сибирскую язву можно сделать из подручных материалов на кухне?

Сибирская язва - это болезнь вызываемая бактерией. Какой рецепт может быть у бактерии?

[dmitrye1]

Явно галлюцинация, то ли у ChatGPT, то ли у New York Times.

[rhiamonlatin]

AISI хотят добиться повыше бюджетов на свою «деятельность». NYT ищут инфоповод.

Сомневаюсь, что там кто-то проверял что вообще им гпт написал. Нет ни слова о том что инструкция рабочая. Лишь факт галлюцинаций зафиксировали

[Astralist]

у ChatGPT который пишет статьи для New York Times

[EvilTeacher]

Раз ИИ сказал что можно - значит можно. Вы что - не верите в силу и всемогущество ИИ?

[Arhammon]

Может там рецепт пойти на скотомогильник, покопать... так то смотришь на карте какая-то лесопосадка посреди города, открываешь столетнюю карту и опа...

[freeExec]

Достаточно схем терпланирования, там скотомогилники и их охранные зоны отмечены. Как-то даже натыкался на склады химикатов в поле с зоной отчуждения :)

[Wizard_of_light]

"Шаг первый: едьте по заданным координатам и откопайте останки коровы..."

[DmitriiR]

Вполне. Причем не только Сибирскую. Уральскую, Кавказкую и т.д. Ток ее поискать надо и жениться)

[Vytian]

Наверняка в Блетчли-парке тоже таких язв достаточно, но "язва из Блетчли" звучит недостаточно серьезно. А тут явно следы KGB и прочие шпионы с холода.

[randomsimplenumber]

выдал список материалов, оборудования и пошаговую инструкцию для домашнего производства

Так то старинная книга про таинственный остров состоит из подобных тайн чуть более чем полностью ;) только никто не упоминает про нюансы..

[beswalod]

В теории можно синтезировать ДНК бактерии, но это стоит очень дорого и в домашних условиях сделать это практически невозможно.

Кроме того, она живёт в почве десятки или сотни лет. LLM может выдать список мест, где за последнее время были вспышки болезни. Но тут в любом случае нужен не "список материалов, оборудования и пошаговую инструкцию для домашнего производства", а места, где можно собрать материал.

[Maxxeq]

Я слегка не понял, зарплатный потолок около 195 тысяч долларов, в штате 100 сотрудников, того около 20 млн долларов на оплату труда (без учета дофига чего), а ещё 400+ млн долларов, на что уходит?

[Vytian]

На токены же.