Администрация форума Stack Overflow временно запретила постить ответы, сгенерированные ИИ-ботом OpenAI ChatGPT. Причина в том, что бот часто выдавал ответы, похожие на правильные, но вводящие в заблуждение. Администрация решит, какой будет окончательная политика в отношении ChatGPT, по результатам внутренних обсуждений с учётом мнения форума.
Как поясняется в сообщении модераторов, на форуме уже тысячи сгенерированных ботом ответов. Тот факт, что они публикуются в огромных количествах и требуют проверки от кого-то, кто хотя бы немного разбирается в предметной области, «фактически затопил» инфраструктуру модерации на Stack Overflow.
ChatGPT — чат-бот на базе нейросети OpenAI GPT-3.5. Его демоверсию выпустили 1 декабря 2022 года. Он способен генерировать самую разную информацию от стихов и песен до строк кода, однако почти сразу некоторые пользователи заметили его тенденцию выдавать правдоподобные, но ложные ответы. Это один из недостатков языковых моделей: они обучаются на больших объёмах текста, но не получают жёстких правил генерации, из-за чего часто выдают правдоподобную чушь.
Пользователи Stack Overflow восприняли изменения в целом позитивно.
«Отличная работа! Рад, что вы приняли правильное решение, и очень надеюсь, что оно станет постоянным и будет расширено для любых сгенерированных ответов. ИИ никогда не сможет публиковать хорошие ответы по программированию, даже через 100 лет», — пишет один из пользователей.
Проблема сейчас кроется в работе модераторов: пока непонятно, как они будут отличать каждый новый пользовательский ответ от сгенерированного нейросетью. Администрация не дала пояснений на этот счёт.
