Комментарии 9
Мир уже много тысяч лет построен на обмене слов на деньги, потому что до недавнего времени за словами какая-никакая но работа стояла. Похоже, на наших глазах код матрицы сломан.
Ну, имхо, ситуация меняется.
Более значимую роль начнут играть:
1. Личное доверие - что вы знаете, что конкретный человек таки ПРОДЕЛАЛ работу, а не просто написал текстик.
2. Рабочие системы - то, что работает, ценности несёт больше, чем текст, который чем дальше, тем легче фальсифицировать.
На самом деле всё равно всегда легче устранять ошибки на этапе проектирования (читай: слов и предложений), чем на этапе реализации, но для этого придется серьезно пересмотреть работу со словом. Может, даже мы дойдем до общественного осуждения пиздежа слов, не подтвержденных деятельностью.
В пользовательском соглашении OpenAI (разработчики ChatGPT) есть требование: при использовании контента должно быть ясно, что он сгенерирован ИИ:
You may not [...] represent that output from the Services was human-generated when it is not
Соответственно, недобросовестное использование ChatGPT нарушает пользовательское соглашение и может приводить к юридической ответственности перед OpenAI.
Ясно, что реальные последствия нарушения пользовательского соглашения - вилами по воде. Однако в любом случае:
Видимо, на разработчиках лежит социальная ответственность за тем, чтобы отслеживать и карать тех, кто недобросовестно использует ИИ
Если разработчики не будут нести это бремя, то его довольно предсказуемо возьмут на себя государства.
Видимо, на разработчиках лежит социальная ответственность за тем, чтобы отслеживать и карать тех, кто недобросовестно использует ИИ
скажите - вы серьезно ???
Hidden text
"разработчики" - вы так пишете, как будто это какая-то уникальная технология, и авторы могут запретить кому-то модифицировать байты весов сети.
тут еще хуже- разработчики это что вообще за категория лиц? так можно сказать, что и каменщик должен нести социальную ответственность за конструкцию моста? разработчики- это наемный персонал. его ответственность- выполнять трудовые обязанности в рамках трудового договора с работодателем. ни принимать решения о способах использования результатов своего труда, ни тем более карать недобросовестных пользователей его труда разработчик не может.
Если разработчики не будут нести это бремя, то его довольно предсказуемо возьмут на себя государства.
ну, государственная бюрократия с удовольствием берется за что угодно, что может порегулировать - их воля, они бы регулировали какой ноздрей кто как дышит - левой или правой и как часто, и многое другое "бремя заботы о населении" /sarcasm.
Но это же не значит, что нужно все подряд регулировать, а что наоборот - надо давать людям пространство для самоорганизации и саморегулирования
С одной стороны, механизм науки и не такое перемалывал — она, в конце-концов, совершенно нормальные теории, построенные и до определённой степени проверенные умными людьми, отправляла в утиль (см. теплород или эфир). С другой стороны, это всё, конечно её сильно притормозит.
И, конечно, проблема тут не в chatGPT, а в максиме «главное — прибыль».
Вообще, не понимаю проблемы. ЧатЖиПиТи пишет тезисы. ну так тезисы- это краткий художественный рассказ о том, какую мы проделали выдающуюся работу. Нейронка написала правдоподбные тезисы? Нейронка написала рассказ по заданной теме, новость? Ииии? Рецензенты не заметили подставы? То же самое, что кинорежиссер снял фильм, похожий на правду- актеры так хорошо передают эмоции, декорации прямо узнаваемые, а кинокритики восприняли фильм хорошо. Можно было бы подумать, что тут есть проблема фальсификации научных данных, но тоже не так- эта проблема была есть и будет и без нейронок- и в физике она есть, и в биологии, и в гуманитарных науках, и хуже того- даже в медицине есть проблема фальсификации научных данных и нерепрезентативности результатов. на хабре недавно были дебаты по поводу некорректности научных работ по амилоидным бляшкам и Альцгеймеру, лет десять назад в Японии закрыли лабораторию по изучения рака (рака! целая лаборатория, больше сотни публикаций в рецензируемых медицинских журналах первого квартиля, спалились на том, что в конец потеряли берега и тиснули собственные цифры по чужой теме, а аспирантка с конкурирующего предприятия в рамках рутинного мониторинга публикаций по теме цифирьки увидела и они сильно не сошлись с ее собственными, она и хату подожгла). Разрабы должны смотреть, чтоб их сеть не использовали для написания научных статей? В общем, похоже на разгон хайпа на пустом месте.
Тезисы, написанные ChatGPT, обманывают ученых