Комментарии 12
Проблема даже не в кривых детекторах ИИ или иного (вроде тестов на наркотики и т.д.), это симптом, а не причина. Проблема в том, что люди которые эти «детекторы» применяют наделены всеми полномочиями и никакой ответственностью, что нонсенс для адекватных органичных отношений в жизни и обществе. Стоило бы пару десятков людей и организация поставить на серьёзные деньги, или даже уголовные сроки, за их ничем необоснованные и незапруфанные обвинения других в использовании Х по результатам использования всяких детекторов и тестов, то очень быстр бы отбило бы желание ничего не делать и прогонять чужие результаты через безответственную хуяк-хуяк-автоматику.
Совершенно с вами согласен! Именно отсутствие ответственности порождает такие перекосы.
Отсутствие ответственности - это тоже симптом.
Причина заключается в том, что в современном обществе мерой успеха любой деятельности является рост дохода, которую эта деятельность приносит. А добиться этого можно ровно двумя способами. Либо продавать больше результатов этой деятельности, что ограничено конечным размером рынка. Либо снижать себестоимость, пусть даже в ущерб качеству, что ограничено моральными принципами и, немного, действующим законодательством.
А вот моральные принципы то как раз и не ограничены в своём падении, позволяя уменьшать себестоимость без оглядки на качество результата. Вроде "ну да, какая-то там отдельно взятая аутистка пострадала, но зато мы добились снижения себестоимости проверок на Х процентов при сохранении 0.99* (* подсчитано нашими непредвзятыми специалистами) достоверности результатов". И в большинстве случаев первая часть фразы и вовсе не интересна верхнеэтажному руководству.
Что касается ограничений со стороны законодательства, то для решения этой небольшой проблемы юридический отдел есть. В крайнем случае особо упёртым можно заплатить немного денег, по решению верховного суда через 10 лет тяжб.
Ну да, планета засирается, самолёты иногда неожиданно падают, отдельные люди ноют в СМИ о поломанной судьбе или просто кончают жизнь самоубийством из-за, например, ложных обвинений в краже почтовых денег. Но зато в целом какой прогресс! /s
Так что весь этот ИИ - это просто инструмент в достижении новых сияющих вершин того, что нынче считается успешным успехом. Чтобы что-то изменить, нужно изменить всеобщее представление о том, что является этим успехом. Осталось только придумать, как именно. Я имею в виду, кроме ядерной войны или прилёта Жнецов.
Я пробовал писать статьи с помощью ИИ. Максимум на что способна нейросеть - помочь с формулированием идеи текста, причем в большей степени это касается технических или околотехнических статей. Художественная литература у ИИ не получается пока что - слова есть, а "души" нет, не цепляет.
А вот то, что преподаватели полагаются на ИИ в оценках студентов, это конкретно пугает. Выходит, что преподаватель сам не читает эссэ, а потоком отсеивает тех, кому ИИ огульно поставил ноль.
А вот воду в коммерческие предложения ИИ льёт хорошо, проверено.
А с другой стороны он хорошо эту воду из КП отжимает, оставляя суть.
В итоге с одной стороны в отделе продаж уменьшается нагрузка по поточной генерации бреда, а с другой стороны в отделе закупок уменьшается нагрузка по поточному распознаванию бреда.
С прочим корпоративным булл-шитом тоже:
любые списки превращаются в обоснованные большим количеством слов документы;
любой большой документ, аналогично, превращается в компактный список без потери смысла (было бы что терять, впрочем).
А с другой стороны, студенты за 2 минуты генерируют текст, и не пытаясь даже иногда его прочитать отправляют преподавателям на проверку, вынуждая их тратить кучу времени на чтение бреда, и попыток обосновать оценку бреда.
Когда до преподавателей наконец-то дойдет, что математически невозможно создать бесконечное количество уникальных и хороших текстов на заданную тему? После некоторого количества они будут либо похожие, либо плохие, либо далеко от темы. Чем больше текстов пишут студенты, тем больше их попадает в программы антиплагиата, тем меньше шансов у следующих студентов написать текст, который не похож ни на один из них.
До кого-то дошло, до кого-то нет.
Лично мне приносили на защиту мои же лабораторные работы (мной же и выложенные в свое время) практически 1 в 1 , очевидно, что сложно сделать сильно уникальный отчёт. И нередко вполне успешно защищали его.
Так что Для разрешения вопроса с "списал работу" давно применяется защита этой работы, где компетентному преподавателю не составит труда разобраться освоен ли материал или нет.
Сложность, вероятно, возникает в областях, где текст -- это и есть самоцель (журналистика, например). Но тут, пожалуй, не детектирование вообще может быть критерием, ибо журналиста который пишет как ИИ вряд-ли можно называть высококлассным
Олмстед поступила на онлайн-курсы педагогики в Центральном методистском университете.
В начале осеннего семестра Олмстед отправила письменное домашнее задание по курсу, один из трёх конспектов по прочитанному, которые нужно было писать каждую неделю.
Тут не говорится про защиту, надо было только написать. Если нужно защищать, непонятно зачем вообще сдавать работу письменно, и тем более проверять на уникальность и ИИ, можно защитить просто с черновика.
Детекторы ИИ ошибаются, и это сильно бьёт по студентам