Вот в этом и заключается основная претензия к Википедии. Ее оккупировали люди, которым не нужна радикальная объективность и которые не являются экспертами ни в одном вопросе, но у которых талант играть в бюрократию и сильная склонность бюрократическими методами затыкать рот своим оппонентам.
Может быть прокомментируете хотя бы один? Метод принципиально новый и радикально объективный. Поэтому хотелось бы услышать сущностные суждения. Особенно от тех, кто считает себя экспертом по данному вопросу.
Разработан принципиально новый метод объективного консенсуса на основе непротиворечивости как меры оценки достоверности, который сейчас запускается как децентрализованный проект https://habr.com/ru/articles/874440
Нет ни одного способа лучшей массовой оценки "правдивости" источников, чем формальная оценка их авторитетности.
Есть. Мы как раз, вот, разработали принципиально новый метод объективного консенсуса на основе непротиворечивости как меры оценки достоверности и запускаем его как децентрализованный проект https://habr.com/ru/articles/874440 Буду рад, если найдутся желающие присоединиться к нашей работе. Нам очень нужна помощь и поддержка.
Между прочим, это огромное преимущество, поскольку составляет саму суть основы научного метода — научный метод задает вопросы, выдвигает гипотезы и публикует факты, подтверждающие одни гипотезы и опровергающие другие, чтобы любые критики и оппоненты могли их проверить и привести свои аргументы.
И ключевое свойство научного метода — воспроизводимость результатов.
Честные ученые в результате обсуждения одинаковых умозаключений независимо приходят к одинаковым выводам, поскольку научные законы всегда, везде и для всех одинаковы. Конечно же, это относится только к честным ученым, однако существуют мошенники и просто необразованные люди, но для мошенников, неучей, ботов и троллей взаимная согласованность результатов связана с фундаментальной проблемой координации, которая в теории игр сводится к принципиально неразрешимой дилемме заключенных, в то время как ученые объединены в глобальное интернациональное научное сообщество с единой системой всеобщего образования.
Все это позволяет создать алгоритм, который видит эти закономерности в глобальном гиперграфе знаний и повышает рейтинг систематически непротиворечивым фактам, понижает доверие к нестабильным изменчивым источникам, у которых «семь пятниц на неделе», а цепочки утверждений, которые основаны на противоречивых аргументах, вообще отсекает в соответствии с критерием фальсифицируемости Поппера, что позволяет оценить в итоге непротиворечивость информационных источников как меру их достоверности.
Мы, вот, предложили новый метод консенсуса на основе непротиворечивости и запускаем его как децентрализованный проект https://habr.com/ru/articles/874440
Нет, наоборот, математическое моделирование подтвердило устойчивость к накруткам, а финмодель и юнит-экономику проверили профессиональные эксперты трех европейских акселераторов. Мало того — в свете бурного развития нейросетевых дипфейк технологий, проявивших способность кого угодно убедить в чем угодно, похоже, только непредвзятая математика и теория игр теперь способны распознать паттерны непротиворечивых данных. Поэтому, несмотря на огромный объем работы, мы помаленьку ползем и будем рады всем, кто захочет присоединиться к нашей команде.
Научный метод задает вопросы, выдвигает гипотезы и публикует факты, подтверждающие одни гипотезы и опровергающие другие, чтобы любые критики и оппоненты могли их проверить и привести свои аргументы.
И ключевое свойство научного метода — воспроизводимость результатов. Честные ученые в результате обсуждения одинаковых умозаключений независимо приходят к одинаковым выводам, поскольку научные законы всегда, везде и для всех одинаковы.
Конечно же, это относится только к честным ученым, однако существуют мошенники и просто необразованные люди, но для мошенников, неучей, ботов и троллей взаимная согласованность результатов связана с фундаментальной проблемой координации, которая в теории игр сводится к принципиально неразрешимой дилемме заключенных, в то время как ученые объединены в глобальное интернациональное научное сообщество с единой системой всеобщего образования.
Поэтому я предлагаю перейти от слов к делу и построить систему, которая видит эти закономерности в глобальном гиперграфе знаний и повышает рейтинг систематически непротиворечивым фактам, понижает доверие к нестабильным изменчивым источникам, у которых «семь пятниц на неделе», а цепочки утверждений, которые основаны на противоречивых аргументах, вообще отсекает в соответствии с критерием фальсифицируемости Поппера, чтобы оценить в итоге непротиворечивость информационных источников как меру их достоверности.
У Яна Лекуна в статье есть отличная цитата: "Большие языковые модели (LLM), похоже, обладают удивительно большим объемом фоновых знаний, извлеченных из письменного текста. Но большая часть человеческих знаний здравого смысла не представлена ни в одном тексте и является результатом нашего взаимодействия с физическим миром. Поскольку LLM не имеют прямого опыта с базовой реальностью, тип знаний здравого смысла, который они демонстрируют, очень поверхностен и может быть оторван от реальности".
Лекун пишет о том какими ухищрениями можно попробовать научить LLM здравому смыслу о мире, но это все равно далеко от вопроса достоверности, поскольку даже если эти ухищрения приведут к результату, все равно останется вопрос насколько база данных здравого смысла достоверна.
На данный момент все разработчики LLM утверждают, что их датасеты достоверны, но это очевидно не так, поскольку в них не раз обнаруживались фейки, а у самих разработчиков вообще нет критерия достоверности информации.
Позиция "моя база данных или онтология достоверна потому что она моя" не может быть основой достоверности. Поэтому будущее для меня лично довольно просто и определяется следующей логикой:
Любая физическая деятельность в реальном мире связана именно с физикой всего мироздания, и иногда малейшая ошибка в понимании этих взаимосвязей заканчивается летальным исходом. Миллион примеров можно посмотреть на видео, посвященных производственной технике безопасности. Именно поэтому любая галлюцинация робота с искусственным интеллектом без опоры на реальный опыт реальных людей с реальными знаниями о мире, закончится повреждением робота и убытками разной степени для работодателя, вплоть до катастрофических.
Отсюда вывод — на людях лежит главная ответственность за связь с реальностью. И чем сложнее будут вопросы, которые будут решать нейронки, тем серьезнее будет ответственность человека за своевременное выявление все более тонких и неуловимых галлюцинаций. Для этого нужны люди с глубочайшими знаниями, причем не с зазубренными из-под палки в школе, а с реальным опытом практически по любым вопросам.
Сколько будет задач у нейронок, столько должно быть и суперпрофи по этим задачам. А для суперпрофи нужны просто профи и помощники профи и ученики помощников профи.
И для всего этого необходим рейтинг достоверности знаний, чтобы знать кто профи, а кто не профи.
А без критерия достоверности информации и рейтинга достоверности знаний любую LLM (и вообще любую искусственную систему согласно доказательству Майкла Левина) ожидает неминуемый коллапс.
Противопоставить искусственному интеллекту можно только коллективную нейросеть всех умов человечества. Для взаимной проверки и совершенствования больших языковых моделей и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом. Это единственное, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке.
CyberPravda.com — глобальная интернациональная мультиязычная платформа для краудсорсинга достоверной информации, которая помогает интернет-пользователям в возрасте от 16 лет со всего мира (109 языков и 5 континентов) в ситуации, когда количество информации в Интернете растет экспоненциально, в сети находится огромное количество фейков и искусственно созданных утверждений, в которых теряется истина, а нейросети генерируют огромное количество высококачественного искусственного контента, который с каждым днем выглядит все более достоверным, отличить правду от лжи, увидеть альтернативные точки зрения и понять, кому можно доверять с помощью блокчейн-экосистемы всеобщего ежедневного применения с независимым математическим алгоритмом объективного анализа достоверности утверждений и оценки репутации их авторов без предвзятости админов, экспертов, оракулов, сертификатов государств и корпораций, галлюцинирующего искусственного интеллекта, кликбейтных лайков/дизлайков или токенов для голосования, которыми можно подкупить любого пользователя, что позволяет преодолеть кризис доверия и поляризацию общества, дает удовольствие переспорить своих оппонентов и возможность получить репутацию эксперта, которую в виде цифрового сертификата можно опубликовать в своих соцсетях, сделать ставки на разные версии событий и монетизировать свои знания, зарабатывая на публикации достоверной информации для широкой аудитории.
А также позволяет решить проблему галлюцинации больших языковых моделей и коллапса нейросетей с помощью коллективной нейросети всех умов человечества для сопоставления знаний искусственного интеллекта с коллективным интеллектом реальных людей, обладающих подлинными знаниями и опытом, что позволяет достичь взаимной проверки и самосовершенствования LLM и человека.
Мы впервые в мире алгоритмически реализовали критерий фальсифицируемости Поппера, который является основой научного метода.
О том, что в блокчейне можно хранить вредоносное ПО или нелегальный контент давным-давно известно. Об этом еще десять лет назад предупреждал Интерпол на конференции Black Hat Asia 2015, проходившей в Сингапуре. И способов стереть эту информацию исследователи безопасности, работавшие на Интерпол, не нашли.
Проблему можно решить только через репутацию источников информации, которая на фундаментальном уровне связана с достоверностью информации, поскольку высокая репутация может быть только у тех, кто говорит то, что делает и делает то же, что и говорит. В общем, это длинная цепочка причин и следствий и здесь предстоит большая коллективная работа, общий план которой подробно описан в этой статье https://habr.com/ru/articles/874440
Я думаю, каждый проект и каждая команда, которые хотят что-то сделать, при желании будут выпускать свою крипту и своими планами и стратегиями аргументировать ее перспективы роста и полезность для общественных задач. А люди, убедившиеся в репутации и доверии к организаторам таких проектов, будут инвестировать в их криптовалюту, финансируя таким образом перспективные организации.
Если кому интересно, мы делаем для этой цели систему коллективного интеллекта, которая дополняет возможности искусственного интеллекта знаниями реальных живых экспертов с реальным профессиональным опытом. Если интересно — пишите в личку, расскажу подробнее.
Да вы мазохист, батенька!
Да, конечно. Но большинству людей таким заниматься противно, поэтому Википедия оккупирована очень специфическими чинушами и крючкотворами.
Вот в этом и заключается основная претензия к Википедии. Ее оккупировали люди, которым не нужна радикальная объективность и которые не являются экспертами ни в одном вопросе, но у которых талант играть в бюрократию и сильная склонность бюрократическими методами затыкать рот своим оппонентам.
Может быть прокомментируете хотя бы один? Метод принципиально новый и радикально объективный. Поэтому хотелось бы услышать сущностные суждения. Особенно от тех, кто считает себя экспертом по данному вопросу.
Разработан принципиально новый метод объективного консенсуса на основе непротиворечивости как меры оценки достоверности, который сейчас запускается как децентрализованный проект https://habr.com/ru/articles/874440
Проекту очень нужна помощь и поддержка.
Есть. Мы как раз, вот, разработали принципиально новый метод объективного консенсуса на основе непротиворечивости как меры оценки достоверности и запускаем его как децентрализованный проект https://habr.com/ru/articles/874440
Буду рад, если найдутся желающие присоединиться к нашей работе. Нам очень нужна помощь и поддержка.
Между прочим, это огромное преимущество, поскольку составляет саму суть основы научного метода — научный метод задает вопросы, выдвигает гипотезы и публикует факты, подтверждающие одни гипотезы и опровергающие другие, чтобы любые критики и оппоненты могли их проверить и привести свои аргументы.
И ключевое свойство научного метода — воспроизводимость результатов.
Честные ученые в результате обсуждения одинаковых умозаключений независимо приходят к одинаковым выводам, поскольку научные законы всегда, везде и для всех одинаковы. Конечно же, это относится только к честным ученым, однако существуют мошенники и просто необразованные люди, но для мошенников, неучей, ботов и троллей взаимная согласованность результатов связана с фундаментальной проблемой координации, которая в теории игр сводится к принципиально неразрешимой дилемме заключенных, в то время как ученые объединены в глобальное интернациональное научное сообщество с единой системой всеобщего образования.
Все это позволяет создать алгоритм, который видит эти закономерности в глобальном гиперграфе знаний и повышает рейтинг систематически непротиворечивым фактам, понижает доверие к нестабильным изменчивым источникам, у которых «семь пятниц на неделе», а цепочки утверждений, которые основаны на противоречивых аргументах, вообще отсекает в соответствии с критерием фальсифицируемости Поппера, что позволяет оценить в итоге непротиворечивость информационных источников как меру их достоверности.
Подробнее здесь https://habr.com/ru/articles/874440
Буду рад, если найдутся желающие присоединиться к нашей работе.
Мы, вот, предложили новый метод консенсуса на основе непротиворечивости и запускаем его как децентрализованный проект https://habr.com/ru/articles/874440
Сперва надо создать независимую, объективную и непредвзятую площадку для такого диалога.
Нет, наоборот, математическое моделирование подтвердило устойчивость к накруткам, а финмодель и юнит-экономику проверили профессиональные эксперты трех европейских акселераторов. Мало того — в свете бурного развития нейросетевых дипфейк технологий, проявивших способность кого угодно убедить в чем угодно, похоже, только непредвзятая математика и теория игр теперь способны распознать паттерны непротиворечивых данных. Поэтому, несмотря на огромный объем работы, мы помаленьку ползем и будем рады всем, кто захочет присоединиться к нашей команде.
В чем суть научного метода?
Научный метод задает вопросы, выдвигает гипотезы и публикует факты, подтверждающие одни гипотезы и опровергающие другие, чтобы любые критики и оппоненты могли их проверить и привести свои аргументы.
И ключевое свойство научного метода — воспроизводимость результатов. Честные ученые в результате обсуждения одинаковых умозаключений независимо приходят к одинаковым выводам, поскольку научные законы всегда, везде и для всех одинаковы.
Конечно же, это относится только к честным ученым, однако существуют мошенники и просто необразованные люди, но для мошенников, неучей, ботов и троллей взаимная согласованность результатов связана с фундаментальной проблемой координации, которая в теории игр сводится к принципиально неразрешимой дилемме заключенных, в то время как ученые объединены в глобальное интернациональное научное сообщество с единой системой всеобщего образования.
Поэтому я предлагаю перейти от слов к делу и построить систему, которая видит эти закономерности в глобальном гиперграфе знаний и повышает рейтинг систематически непротиворечивым фактам, понижает доверие к нестабильным изменчивым источникам, у которых «семь пятниц на неделе», а цепочки утверждений, которые основаны на противоречивых аргументах, вообще отсекает в соответствии с критерием фальсифицируемости Поппера, чтобы оценить в итоге непротиворечивость информационных источников как меру их достоверности.
Подробно это описано здесь https://habr.com/ru/articles/874440. Буду рад, если найдутся желающие присоединиться к нашей работе.
У Яна Лекуна в статье есть отличная цитата: "Большие языковые модели (LLM), похоже, обладают удивительно большим объемом фоновых знаний, извлеченных из письменного текста. Но большая часть человеческих знаний здравого смысла не представлена ни в одном тексте и является результатом нашего взаимодействия с физическим миром. Поскольку LLM не имеют прямого опыта с базовой реальностью, тип знаний здравого смысла, который они демонстрируют, очень поверхностен и может быть оторван от реальности".
Лекун пишет о том какими ухищрениями можно попробовать научить LLM здравому смыслу о мире, но это все равно далеко от вопроса достоверности, поскольку даже если эти ухищрения приведут к результату, все равно останется вопрос насколько база данных здравого смысла достоверна.
На данный момент все разработчики LLM утверждают, что их датасеты достоверны, но это очевидно не так, поскольку в них не раз обнаруживались фейки, а у самих разработчиков вообще нет критерия достоверности информации.
Позиция "моя база данных или онтология достоверна потому что она моя" не может быть основой достоверности. Поэтому будущее для меня лично довольно просто и определяется следующей логикой:
Галлюцинации и конфабуляции искусственного интеллекта принципиально неустранимы https://www.mdpi.com/1099-4300/26/3/194
Перекрестное взаимообучение LLM на галлюцинациях друг у друга неизбежно ведет к "коллапсу нейросетей" и деградации знаний людей, которые их применяют https://arxiv.org/abs/2305.17493v2 и https://gradual-disempowerment.ai
Любая физическая деятельность в реальном мире связана именно с физикой всего мироздания, и иногда малейшая ошибка в понимании этих взаимосвязей заканчивается летальным исходом. Миллион примеров можно посмотреть на видео, посвященных производственной технике безопасности. Именно поэтому любая галлюцинация робота с искусственным интеллектом без опоры на реальный опыт реальных людей с реальными знаниями о мире, закончится повреждением робота и убытками разной степени для работодателя, вплоть до катастрофических.
Отсюда вывод — на людях лежит главная ответственность за связь с реальностью. И чем сложнее будут вопросы, которые будут решать нейронки, тем серьезнее будет ответственность человека за своевременное выявление все более тонких и неуловимых галлюцинаций. Для этого нужны люди с глубочайшими знаниями, причем не с зазубренными из-под палки в школе, а с реальным опытом практически по любым вопросам.
Сколько будет задач у нейронок, столько должно быть и суперпрофи по этим задачам. А для суперпрофи нужны просто профи и помощники профи и ученики помощников профи.
И для всего этого необходим рейтинг достоверности знаний, чтобы знать кто профи, а кто не профи.
А без критерия достоверности информации и рейтинга достоверности знаний любую LLM (и вообще любую искусственную систему согласно доказательству Майкла Левина) ожидает неминуемый коллапс.
Противопоставить искусственному интеллекту можно только коллективную нейросеть всех умов человечества. Для взаимной проверки и совершенствования больших языковых моделей и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом. Это единственное, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке.
https://habr.com/ru/articles/874440
CyberPravda.com — глобальная интернациональная мультиязычная платформа для краудсорсинга достоверной информации, которая помогает интернет-пользователям в возрасте от 16 лет со всего мира (109 языков и 5 континентов) в ситуации, когда количество информации в Интернете растет экспоненциально, в сети находится огромное количество фейков и искусственно созданных утверждений, в которых теряется истина, а нейросети генерируют огромное количество высококачественного искусственного контента, который с каждым днем выглядит все более достоверным, отличить правду от лжи, увидеть альтернативные точки зрения и понять, кому можно доверять с помощью блокчейн-экосистемы всеобщего ежедневного применения с независимым математическим алгоритмом объективного анализа достоверности утверждений и оценки репутации их авторов без предвзятости админов, экспертов, оракулов, сертификатов государств и корпораций, галлюцинирующего искусственного интеллекта, кликбейтных лайков/дизлайков или токенов для голосования, которыми можно подкупить любого пользователя, что позволяет преодолеть кризис доверия и поляризацию общества, дает удовольствие переспорить своих оппонентов и возможность получить репутацию эксперта, которую в виде цифрового сертификата можно опубликовать в своих соцсетях, сделать ставки на разные версии событий и монетизировать свои знания, зарабатывая на публикации достоверной информации для широкой аудитории.
А также позволяет решить проблему галлюцинации больших языковых моделей и коллапса нейросетей с помощью коллективной нейросети всех умов человечества для сопоставления знаний искусственного интеллекта с коллективным интеллектом реальных людей, обладающих подлинными знаниями и опытом, что позволяет достичь взаимной проверки и самосовершенствования LLM и человека.
Мы впервые в мире алгоритмически реализовали критерий фальсифицируемости Поппера, который является основой научного метода.
https://habr.com/ru/articles/874440
О том, что в блокчейне можно хранить вредоносное ПО или нелегальный контент давным-давно известно. Об этом еще десять лет назад предупреждал Интерпол на конференции Black Hat Asia 2015, проходившей в Сингапуре. И способов стереть эту информацию исследователи безопасности, работавшие на Интерпол, не нашли.
Проблему можно решить только через репутацию источников информации, которая на фундаментальном уровне связана с достоверностью информации, поскольку высокая репутация может быть только у тех, кто говорит то, что делает и делает то же, что и говорит. В общем, это длинная цепочка причин и следствий и здесь предстоит большая коллективная работа, общий план которой подробно описан в этой статье https://habr.com/ru/articles/874440
Мы сейчас как раз над этим работаем. Это очень перспективная задача, но у нас очень мало ресурсов
Я думаю, каждый проект и каждая команда, которые хотят что-то сделать, при желании будут выпускать свою крипту и своими планами и стратегиями аргументировать ее перспективы роста и полезность для общественных задач. А люди, убедившиеся в репутации и доверии к организаторам таких проектов, будут инвестировать в их криптовалюту, финансируя таким образом перспективные организации.
Можете предоставить список этих доверенных институтов?
Потому что доверие должно быть прозрачным
Если кому интересно, мы делаем для этой цели систему коллективного интеллекта, которая дополняет возможности искусственного интеллекта знаниями реальных живых экспертов с реальным профессиональным опытом. Если интересно — пишите в личку, расскажу подробнее.
Как российские разработчики заставили GPT предсказывать биржевые котировки https://habr.com/ru/articles/861492