Исследователи считают, что GPT-2 может успешно генерировать текст, призывающий к нарушению этических норм

[eimrine]

Запретить и не пущать!

[namikiri]

Это другое, вы не понимаете.

[S-e-n]

ИИ может стать силой добра, если ему удастся убедить людей действовать более этично. Однако наши результаты показывают, что советы ИИ не повышают честность.

Конечно, люди ведь поступают неэтично лишь только потому, что им недостаточно говорят поступать этично.

[amarao]

Если людям давать читать фигню, они могут начать делать фигню.… Как интересно!

[vassabi]

мне кажется, что этот текст сгенерирован GPT-2.
По крайней мере он вызывает такое сильное желание к «нарушению этических норм» (например — ругаться матом), что других вариантов мало…

[namikiri]

Когда мне говорят об ИИ как о чём-то волшебном и магическом, я вспоминаю слова своего преподавателя в институте — «нейросеть это очень большая система уравнений». Это математика, большая такая математическая формула. И всё. Что вы ей подадите на вход, то она и выдаст в соответствии со своими «правилами».

[Wizard_of_light]

Ну, как бы ещё эксперимент Милгрема показал, что люди в основном слушаются рекомендаций (и тем сильнее, чем более строгим голосом им рекомендуют). Написать рекомендации на бумажке — мысль свежая, но причём тут именно GPT-2?