Comments 28
А лучше просто создать отдельную версию сайта, куда только чатгпт пишет.
А зачем? Точно так же можно создать отдельную википедию, которую никто не рецензирует
Для чистоты эксперимента, чтобы можно было сравнить.
И ещё для полного счастья запретить чатгпт читать саму википедию. Пусть сам авторитетные источники выискивает.
Википедия - это не сайт, а сообщество рецензентов, если хотите... Его нельзя просто взять и запустить снова в виде копии.
Ну технически-то ничего сложного нет — взял с живой вики только названия статей да озадачил бота с нуля написать их содержимое.
Да еще до OpenAI была такая активность в википедии. Почитайте статьи для языка Cebuano. Если используешь wikidata и SPARQL запросы к ней, то сразу нужно отбрасывать результаты для этого языка из выдачи. Там столько фантазий и никто особо не рецензирует это. Я сталкивался с тем что про Мальдивы очень много статей про острова на этом языке вообще не соответствуют реальности!
Отдельные статьи и части статей — это не интересно. Люди тоже чепуху временами пишут — вон, была недавно история с китаянкой, которая кучу выдуманных статей про Россию написала, да ещё 10 лет этим занималась.
Гораздо интереснее было бы видеть полностью созданную ИИ копию вики. И чтобы страницы там открывались рядом с нормальными, человеками написанными.
Как иллюстрацию того, как выглядит продукт жизнедеятельности ИИ для обычных людей, а не для специалистов.
На счёт же обработки этого продукта человеком — я обычно его сравниваю с редактированием результатов работы OCR. Очень часто бывает проще выкинуть эти результаты и самому набрать, а не ошибки править.
PS. Так, попросил бота написать мне что-то про Москву:
Москва раскинулась на берегах Днепра, который течет здесь с юга на север, и сливается с Днепром, который мы сегодня называем Обью.
Смоленск стоит на вечной мерзлоте
в 789 году было основано первое славянское княжество на смоленской земле — Смоленск.
крупный город Любеч — нынешний Киев
современная Украина ни в коем случае не является частью киевской Руси, а Киев даже не являлся ее столицей. А, значит, с гуннами связывать происхождение Смолярского княжества на Смоленской земле бессмысленно
И попал в энциклонги
Как идея, просто помечать статью, что она написана ИИ.
Нам нужен слепок интернета на момент запуска ChatGPT.
Скорее на момент запуска корчевателя.
Через некоторое время: Новая версия ИИ обученная на лучших материалах предыдущей версии ИИ...
Но ведь с человеческой цивилизацией подобное сработало! :)
Человеческий И обладает, помимо нейросетки, еще и глазами, ушами, руками, ногами и т.д. И при каждой итерации "обучение" - "генерация" добавляет в эту кашку новую информацию об окружающем мире, результатах экспериментов, географических открытиях, снимках звездного неба, психологии...
А ИИ пока что, как калейдоскоп - бесконечным количеством способов переставляет то, что в него попало при обучении. Новой информации не создается.
Да и с некоторыми версиями ИИ, типа семейства Alpha (сначала игра в ГО, потом Старкрафт, потом фолдинг белка и другие) уже тоже срабатывало. Сначала учились на лучших из примеров созданных людьми и достигли на этом неплохих успехов в соответствующих областях, но настоящих высот достигли только когда бросили это дело и начали учиться у самих себя — пытаясь превзойти свои предыдущие версии, а не равняясь на людей.
Что-то я никаких разрывов, связанных с ИИ, в Википедии не наблюдаю - не было ни-е-ди-но-го разрыва. Так, обычная нормальная дискуссия, даже довольно мирная :)
включать в текст ошибочную информацию и даже ссылаться на несуществующие источники и научные работы. Это часто приводит к тому, что тексты кажутся точными, но при ближайшем рассмотрении оказываются полностью сфабрикованными.
ИИ начал строить Матрицу?
«Достоверность контента зависит только от количества людей, которые проверили его с помощью надёжных методов цитирования» — сказала Брукман.
К сожалению, это рецензирование никак не работает. Если бы кто-то однажды захотел на самом деле заняться достоверностью, то он, для начала, тщательно описал бы все имеющиеся представления. Чтобы оценивать достоверность, нужно хорошо разобраться в оцениваемом, а уже для этого нужно это самое оцениваемое описать в виде множества энциклопедических статей. Для начала, достоверность устанавливается самим фактом наличия статьи о данном предмете в энциклопедии. Нет значимости? Нет подтверждающих авторитетных источников? Вот уже и нет статьи. Нет статьи, нет и предмета для разговора. Какая, уж, тут достоверность? Достоверность ещё выявляется в связности изложения и общей меж статейной связности. Отсутствуют .
Маргинальные исследования — яркий пример проблем с достоверностью. Причём, даже если в Википедии статья (о некотором маргинальном исследовании) присутствует, то какова её достоверность? Можно было бы провести небольшой анализ, например, статьи про Новую Хронологию, чтобы понять, каковы в действительности проблемы с достоверностью...
Конечно, Википедия могла бы стать местом для оценки достоверности накапливаемых представлений, но это будет означать отказ от многих принципов функционирования. В каком-то смысле, сообщество само отказалось от оценки достоверности, подменив этот вопрос значимостью и авторитетностью. В то время как настоящая оценка достоверности начинается с проверки самих авторитетов и постановки фундаментальных вопросов в каждой предметной области.
Тут ещё такой вопрос, что википедия не только для учёных создана, точнее даже наоборот. Учёные чуть ли не единственная страта, которым нечего делать в вики в качестве читателей (в своей области знаний).
Та же "Новая хронология" считается бредятиной среди историков, но более чем достойна статьи в вики как социокультурный феномен. Так же как и статьи про плоскую Землю, фильтры Петрика и прочую дичь. Вики это зеркало общества, так что нечего на неё пенять и цензурировать.
Я упомянул Новую хронологию (НХ) именно как маргинальную область исследований, которая, в силу именно своей маргинальности (или, скажем по-русски, пограничности или, что же там таить, запредельности), наглядно выказывает многие узловые проблемы. (Так получилось, что я однажды имел неосторожность познакомиться с НХ, и, с тех пор, возникло устойчивое недоверие именно и прежде всего к общепринятой научной точки зрения. К сожалению, стиль и способ опровержения НХ со стороны научного сообщества совершенно не укрепил во мне доверие именно к научной позицию, скорее наоборот, и, даже, развился полнейший скепсис по отношению к познанию как таковому. Но это всё — дело прошлого. Сейчас я от этого очень далёк. Просто когда немного знаком с первоисточниками, то их изложение в той же Википедии вызывает лично у меня некоторое недоумение. Но мне не знакомы и первоисточники и с научной токи зрения. Так что этой темы я просто никак не касаюсь.)
Так получается, что маргинальные вещи обретают такой же маргинальный интерес и вот в таком кривом зеркале оказываются освещены в Википедии.
Учёные чуть ли не единственная страта, которым нечего делать в вики в качестве читателей (в своей области знаний).
Википедия никогда не предназначалась для чтения учёными, хотя она и могла бы быть организована на высоком научном уровне. И, уж, хотя бы могла бы быть для учёных комфортной средой для работы над самой энциклопедией.
А сегодня можно усмотреть совершенно другую проблему, а именно ту, что с приходом генеративного ИИ, этот самый ИИ сам сможет выполнять роль энциклопедии, и значимость Википедии упадёт до исчезающе малых значений.
С приходом генеративного ИИ, этот самый ИИ сам сможет выполнять роль энциклопедии, и значимость Википедии упадёт до исчезающе малых значений.
Вот как раз наоборот. Выхлоп генеративных ИИ это либо копипаста, либо тяжелые галлюцинации (официальный термин). Он с лёгкостью придумывает любую бредятину и, если попросить, вместе с такими же придуманными, но выглядящими нормально ссылками на выдуманные источники.
Именно вики с её аккуратной работой со ссылками, запретом на орисы и ручной модерацией может стать единственным противовесом миру кремниевых фантазий.
Не работает. Не знаю, как там в англоязычной Википедии. Наверное, там больше полноты и порядка. Но в русскоязычном разделе царит запустение.
Особенно больно смотреть на то, с чем когда-то в университете знакомился. Вот, зачем, делаются такие статьи, как эта https://ru.wikipedia.org/wiki/Компактное_пространство? Не статья, а сборник утверждений. А где разъяснения? Где, собственно, текст? Энциклопедическая статья должна быть хорошо аннотированным списком литературы. В данном случае, по проблеме компактности.
Искусственный интеллект разрывает Википедию на части