Исследователи Европола считают, что злоумышленники могут использовать возможности ChatGPT для мошенничества, организации кибератак и распространения запрещённого контента. Вместе с этим специалисты опасаются, что в даркнете могут появиться языковые модели без фильтров и ограничений.
В ведомстве заявили, что ChatGPT может помогать преступникам изучать новые схемы мошенничества. К примеру, если злоумышленник ничего не знает про конкретную криминальную сферу, то языковая модель может ускорить процесс изучения. Исследователи признали, что вся эта информация есть в Интернете, но ChatGPT значительно ускоряет поиск.
Также в Европоле считают, что способность ChatGPT генерировать вредоносный код помогает преступникам с низкими техническими навыками организовывать кибератаки. При этом более продвинутые злоумышленники могут автоматизировать киберпреступления с помощью возможностей языковой модели.
Популяризация языковых моделей крупными компаниями, по мнению исследователей, может упростить процесс создания фейковой информации и дипфейков, которые можно использовать для дезинформации, мошенничества и вымогательства. Также эксперты считают, что тайные версии языковых моделей, обученные на вредоносных данных и без фильтров, могут публиковаться в даркнете.
