Правда уже и так под угрозой из-за бурного развития многочисленных дипфейк-технологий на основе искусственного интеллекта, которые в ближайшее время заполнят все информационные ресурсы сфальсифицированным контентом. Только от вас зависит, успеем ли мы что-то этому противопоставить. Запугиванием вы нам точно никак в работе не поможете.
Пусть сначала с Биткойном разберутся. Но в одном вы правы — их ресурсы несравнимы с возможностями нашей маленькой команды. Нам очень нужны помощь и поддержка.
Нет. Аргументы Галилея были логичны, а аргументы церковников бездоказательны, противоречивы и не прошли бы проверку на фальсифицируемость в Киберправде.
Именно поэтому Киберправда оценивает не только сиюминутную достоверность, но и долговременную репутацию, которая является результатом игры «в долгую» и зарабатывается на протяжении всей жизни, а разрушена может быть за минуту.
Мы пока не раскрываем все подробности матмодели, чтобы не разглашать ноу-хау, но фактически матмодель буквально дословно описана в этом абзаце:
«Киберправда оценивает баланс аргументов, используемых разными авторами в качестве подтверждений или опровержений различных противоречивых фактов для оценки их достоверности, с точки зрения консенсуса в больших социально-разнородных группах. Из этих фактов авторы выстраивают свои личные описания картины происходящих событий, за достоверность которых они отвечают персональной репутацией. Непредвзятый и объективный корреляционный алгоритм на основе теории графов проверяет эти описания на взаимное соответствие и непротиворечивость по принципу «всех со всеми» и находит наиболее достоверные последовательности фактов, которые описывают разные версии происходящего. Разные версии конкурируют между собой по величине потока смысла, а наиболее достоверные версии становятся аргументами в цепи событий для фактов более высокого или более низкого уровня, что замыкает цепь взаимного влияния аргументов и контраргументов и создает глобальный гиперграф знаний, в котором наибольший поток смысла течет через устойчивые цепочки непротиворечивых научных знаний, в наибольшей степени соответствующих принципу фальсифицируемости и критерию Поппера. Критический путь в последовательности наиболее достоверных фактов формирует автоматически генерируемую статью по каждой из существующих версий событий, которая динамически перестраивается в соответствии с новыми поступающими свидетельствами и желаемыми уровнями достоверности информации в диапазоне от нуля до 100%, установленными читателями в своих персональных настройках. В результате пользователям доступны несколько статей наподобие статей в Википедии, описывающих конкурирующие версии событий, ранжированные по объективности в соответствии с желаемым уровнем достоверности».
Алгоритм повышает рейтинг фактам, у которых есть подтвержденные доказательства с развитыми многочисленными непрерывными цепочками подтвержденных фактов, и при этом понижает рейтинг аргументов, которые опровергаются надежными фактами, подтвержденными своими непрерывными цепочками подтвержденных доказательств. При этом бездоказательные аргументы игнорируются, а цепочки утверждений, которые на них построены, отбрасываются. В результате в глобальном гиперграфе коллективного интеллекта выкристаллизовывается ядро целостных непротиворечивых научных знаний, поскольку только научные знания являются непротиворечивыми, а непротиворечивые данные являются научными.
При этом фейки всегда противоречат друг другу, а реальные факты всегда являются опровержением фейков. В итоге: факты подтверждаются фактами, а фейки противоречат фейкам, да еще и опровергаются фактами. Это структурный дисбаланс, заложенный в основу алгоритма для систематического перевеса в сторону фактов.
Помимо тонких признаков фальсификации, которые можно выявлять и анализировать, дипфейки всегда связаны с каким-то нарративом, который можно разложить на элементарные факты и проверить на взаимную непротиворечивость с другими известными фактами. Это позволяет построить принципиально новую систему анализа достоверности информации и и оценки репутации ее авторов, которая описана и прототип которой показан здесь https://habr.com/ru/sandbox/207462
Вы не хуже меня знаете, что существуют тысячи форумов и блогов специалистов в самых разных областях знаний. Но сейчас статус этих людей в интернете неотличим от всех остальных пользователей и у них нет инструментов, чтобы донести свою точку зрения и пробиться через кликбейтные CEO и SMM технологии. Существуют миллионы ученых и просто грамотных, знающих многое людей, которые сейчас не имеют инструментов кроме Википедии, чтобы донести свою точку зрения. При этом даже в Википедии такие люди подвергаются давлению администраторов. Кроме того, есть миллионы простых людей, которые устали от фейков и лжи. Коллективная сеть всех умов человечества должна дать этим людям инструмент независимой оценки их вклада в общий массив знаний и реального опыта, которого в действительности вообще нет у нейросетей.
Несмотря ни на что, галлюцинации нейросетей являются их фундаментально неустранимым свойством и нейросети будут деградировать в процессе обучения на собственных галлюцинациях в Интернете, а люди деградировать в процессе применения деградировавших нейросетей. Один из ведущих специалистов в мире по системам информационной безопасности, профессор Кембриджского университета Росс Андерсон в своей статье https://arxiv.org/abs/2305.17493v2 вообще уже рассматривает сценарий, когда большая часть интернета будет сгенерированной нейросетевой галлюцинацией. Но ни вы, ни я и никакой эксперт и никто вообще не смогут отличить фейк от реальности. Этот процесс он назвал «коллапс нейросетей». Противопоставить ему можно только коллективную нейросеть всех умов человечества. Для взаимной проверки и самосовершенствования LLM и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом. Это то, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке.
Это связано со знанием и опытом. У нейросетей их в реальности нет. Реальными знаниями и опытом обладают только люди. А еще теперь к проблеме добавляются и нейросетевые галлюцинации. Это тупик. Бессмысленно надеяться на возможность отловить все галлюцинации, поскольку нейросети достигли превосходства над любым самым умным человеком. Это начало потенциальной катастрофы в информационном мире. Решение может быть только в области противопоставления фейковой информации и информации непротиворечивой с имеющимися научными знаниями, поскольку только научные знания непротиворечивы, а значит имеют право претендовать на достоверность. Вот только беда, системы для анализа на непротиворечивость у вас нет. Как нет больше ни одного человека, обладающего всей полнотой достоверной информации. А доверять сертификатам достоверности государств и корпораций больше нельзя. Поэтому задача может быть решена только с помощью нейросети коллективных знаний всего человечества, в которой люди смогут делиться своим реальным опытом и совместными усилиями выявлять фейки, которые ему противоречат. Мы сейчас как раз запускаем прототип такой информационной системы. Если кому интересно - вэлкам в личку.
Для начала обсуждения информационной безопасности хорошо бы дать сперва определение достоверности информации, иначе невозможно даже понять от чего вы себя вообще пытаетесь обезопасить. Но в статье об этом нет ни слова.
Один из ведущих специалистов в мире по системам информационной безопасности, профессор Кембриджского университета Росс Андерсон в своей статье https://arxiv.org/abs/2305.17493v2 вообще уже рассматривает сценарий, когда большая часть интернета будет сгенерированной нейросетевой галлюцинацией. Но ни вы, ни я и никакой эксперт и никто вообще не смогут отличить фейк от реальности. В результате нейросети будут деградировать в процессе обучения на собственных галлюцинациях в Интернете, а люди деградировать в процессе применения деградировавших нейросетей. Этот процесс он назвал «коллапс нейросетей».
Для взаимной проверки и самосовершенствования LLM и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом всего человечества. Это то, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке. Для этого нужна глобальная многопользовательская база знаний для определения достоверности информации без участия админов, экспертов, искусственного интеллекта или сертификатов государств и корпораций, без кликбейтных лайков или токенов для голосования, которыми можно подкупить любого пользователя. Фактически, нужен новый децентрализованный алгоритм PageRank на блокчейне, но не для отдельных сайтов и публикаций, а для каждого составляющего их факта и аргумента. Это позволит решить наконец проблему достоверности информации в Интернете, особенно сейчас на фоне бурного развития многочисленных дипфейк-технологий на основе искусственного интеллекта, которые в ближайшее время заполнят все информационные ресурсы сфальсифицированным контентом и сможет дать принципиально новый уровень доверия и достоверности для любых задач и проектов в Интернете, особенно для принципиально нового бурно развивающегося рынка web3-технологий.
Такая база реальных человеческих знаний позволит ввести в обучение LLM новые, чистые, сгенерированные человеком наборы данных с учетом их достоверности и даст возможность избежать коллапса языковых моделей и уменьшить нежелательные ошибки при создании новых более совершенных поколений генеративных нейросетей.
Буду рад найти желающих принять участие в такой разработке.
У меня есть еще одно практическое решение как избежать коллапса больших языковых моделей. Наша команда уже его реализует — мы делаем проект CyberPravda. Компьютерным нейросетям мы противопоставляем коллективную нейросеть умов всего человечества.
Для взаимной проверки и самосовершенствования LLM и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом всего человечества с учетом достоверности любой информации. Это то, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке.
Мы нашли принципиально новый способ создать глобальную многопользовательскую базу знаний с функцией определения достоверности информации без участия админов, экспертов, искусственного интеллекта или сертификатов государств и корпораций, без кликбейтных лайков или токенов для голосования, которыми можно подкупить любого пользователя. Фактически, мы разработали новый децентрализованный алгоритм PageRank на блокчейне, но не для отдельных сайтов и публикаций, а для каждого составляющего их факта и аргумента. Мы считаем, что способны решить наконец проблему достоверности информации в Интернете, особенно сейчас на фоне бурного развития многочисленных дипфейк-технологий на основе искусственного интеллекта, которые в ближайшее время заполнят все информационные ресурсы сфальсифицированным контентом. Мы делаем систему, которая позволит всем получить бесплатный свободный доступ к достоверной информации.
Такая база реальных человеческих знаний позволяет ввести в обучение LLM новые, чистые, сгенерированные человеком наборы данных с учетом их достоверности и дает возможность избежать коллапса модели и уменьшить нежелательные ошибки при создании новых более совершенных поколений генеративных моделей.
Буду рад рассказать подробнее, пишите в телегу @sadekovtimur
Есть один эксперимент, который давным-давно можно было провести, но он до сих пор по непонятной причине не был реализован — это вывод интерферометра на околоземную орбиту.
Вопрос изменения климата бессмысленно даже обсуждать. Итогом любого сценария ядерной войны будет разрушения многих из 500 построенных на сегодняшний день атомных реакторов, рассеивание огромного количества отработанного ядерного топлива, хранящегося в их хранилищах и на открытых площадках АЭС, а также непременный подрыв ядерных боезапасов с кобальтовой оболочкой (система "мертвая рука"), что по сумме всех факторов гарантирует полную радиационную стерилизацию поверхности планеты.
Правда уже и так под угрозой из-за бурного развития многочисленных дипфейк-технологий на основе искусственного интеллекта, которые в ближайшее время заполнят все информационные ресурсы сфальсифицированным контентом. Только от вас зависит, успеем ли мы что-то этому противопоставить. Запугиванием вы нам точно никак в работе не поможете.
А кому вы платить собрались? Интернациональному консенсусу?
Не хочу забегать вперед и прожектерствовать, но цель Киберправды — создание принципиально новой социально-ответственной журналистики.
Пусть сначала с Биткойном разберутся. Но в одном вы правы — их ресурсы несравнимы с возможностями нашей маленькой команды. Нам очень нужны помощь и поддержка.
В алгоритме Киберправды никак не учитывается количество сторонников тех или иных утверждений.
Нет. Аргументы Галилея были логичны, а аргументы церковников бездоказательны, противоречивы и не прошли бы проверку на фальсифицируемость в Киберправде.
Сорри, мы просто не хотим преждевременно подставляться пока идет тестирование и отладка. Потом алгоритм будет прозрачным для любого аудита.
Именно поэтому Киберправда никому не верит, а непрерывно оценивает динамический баланс всех фактов, аргументов и подтверждающих их документов.
Конкретная техническая реализация сейчас работает на нашем сервере в закрытом тестировании.
Именно поэтому Киберправда оценивает не только сиюминутную достоверность, но и долговременную репутацию, которая является результатом игры «в долгую» и зарабатывается на протяжении всей жизни, а разрушена может быть за минуту.
Мы пока не раскрываем все подробности матмодели, чтобы не разглашать ноу-хау, но фактически матмодель буквально дословно описана в этом абзаце:
«Киберправда оценивает баланс аргументов, используемых разными авторами в качестве подтверждений или опровержений различных противоречивых фактов для оценки их достоверности, с точки зрения консенсуса в больших социально-разнородных группах. Из этих фактов авторы выстраивают свои личные описания картины происходящих событий, за достоверность которых они отвечают персональной репутацией. Непредвзятый и объективный корреляционный алгоритм на основе теории графов проверяет эти описания на взаимное соответствие и непротиворечивость по принципу «всех со всеми» и находит наиболее достоверные последовательности фактов, которые описывают разные версии происходящего. Разные версии конкурируют между собой по величине потока смысла, а наиболее достоверные версии становятся аргументами в цепи событий для фактов более высокого или более низкого уровня, что замыкает цепь взаимного влияния аргументов и контраргументов и создает глобальный гиперграф знаний, в котором наибольший поток смысла течет через устойчивые цепочки непротиворечивых научных знаний, в наибольшей степени соответствующих принципу фальсифицируемости и критерию Поппера. Критический путь в последовательности наиболее достоверных фактов формирует автоматически генерируемую статью по каждой из существующих версий событий, которая динамически перестраивается в соответствии с новыми поступающими свидетельствами и желаемыми уровнями достоверности информации в диапазоне от нуля до 100%, установленными читателями в своих персональных настройках. В результате пользователям доступны несколько статей наподобие статей в Википедии, описывающих конкурирующие версии событий, ранжированные по объективности в соответствии с желаемым уровнем достоверности».
Алгоритм повышает рейтинг фактам, у которых есть подтвержденные доказательства с развитыми многочисленными непрерывными цепочками подтвержденных фактов, и при этом понижает рейтинг аргументов, которые опровергаются надежными фактами, подтвержденными своими непрерывными цепочками подтвержденных доказательств. При этом бездоказательные аргументы игнорируются, а цепочки утверждений, которые на них построены, отбрасываются. В результате в глобальном гиперграфе коллективного интеллекта выкристаллизовывается ядро целостных непротиворечивых научных знаний, поскольку только научные знания являются непротиворечивыми, а непротиворечивые данные являются научными.
При этом фейки всегда противоречат друг другу, а реальные факты всегда являются опровержением фейков. В итоге: факты подтверждаются фактами, а фейки противоречат фейкам, да еще и опровергаются фактами. Это структурный дисбаланс, заложенный в основу алгоритма для систематического перевеса в сторону фактов.
Помимо тонких признаков фальсификации, которые можно выявлять и анализировать, дипфейки всегда связаны с каким-то нарративом, который можно разложить на элементарные факты и проверить на взаимную непротиворечивость с другими известными фактами. Это позволяет построить принципиально новую систему анализа достоверности информации и и оценки репутации ее авторов, которая описана и прототип которой показан здесь https://habr.com/ru/sandbox/207462
Вы не хуже меня знаете, что существуют тысячи форумов и блогов специалистов в самых разных областях знаний. Но сейчас статус этих людей в интернете неотличим от всех остальных пользователей и у них нет инструментов, чтобы донести свою точку зрения и пробиться через кликбейтные CEO и SMM технологии. Существуют миллионы ученых и просто грамотных, знающих многое людей, которые сейчас не имеют инструментов кроме Википедии, чтобы донести свою точку зрения. При этом даже в Википедии такие люди подвергаются давлению администраторов. Кроме того, есть миллионы простых людей, которые устали от фейков и лжи. Коллективная сеть всех умов человечества должна дать этим людям инструмент независимой оценки их вклада в общий массив знаний и реального опыта, которого в действительности вообще нет у нейросетей.
Несмотря ни на что, галлюцинации нейросетей являются их фундаментально неустранимым свойством и нейросети будут деградировать в процессе обучения на собственных галлюцинациях в Интернете, а люди деградировать в процессе применения деградировавших нейросетей. Один из ведущих специалистов в мире по системам информационной безопасности, профессор Кембриджского университета Росс Андерсон в своей статье https://arxiv.org/abs/2305.17493v2 вообще уже рассматривает сценарий, когда большая часть интернета будет сгенерированной нейросетевой галлюцинацией. Но ни вы, ни я и никакой эксперт и никто вообще не смогут отличить фейк от реальности. Этот процесс он назвал «коллапс нейросетей». Противопоставить ему можно только коллективную нейросеть всех умов человечества. Для взаимной проверки и самосовершенствования LLM и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом. Это то, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке.
Это связано со знанием и опытом. У нейросетей их в реальности нет. Реальными знаниями и опытом обладают только люди. А еще теперь к проблеме добавляются и нейросетевые галлюцинации. Это тупик. Бессмысленно надеяться на возможность отловить все галлюцинации, поскольку нейросети достигли превосходства над любым самым умным человеком. Это начало потенциальной катастрофы в информационном мире. Решение может быть только в области противопоставления фейковой информации и информации непротиворечивой с имеющимися научными знаниями, поскольку только научные знания непротиворечивы, а значит имеют право претендовать на достоверность. Вот только беда, системы для анализа на непротиворечивость у вас нет. Как нет больше ни одного человека, обладающего всей полнотой достоверной информации. А доверять сертификатам достоверности государств и корпораций больше нельзя. Поэтому задача может быть решена только с помощью нейросети коллективных знаний всего человечества, в которой люди смогут делиться своим реальным опытом и совместными усилиями выявлять фейки, которые ему противоречат. Мы сейчас как раз запускаем прототип такой информационной системы. Если кому интересно - вэлкам в личку.
Для начала обсуждения информационной безопасности хорошо бы дать сперва определение достоверности информации, иначе невозможно даже понять от чего вы себя вообще пытаетесь обезопасить. Но в статье об этом нет ни слова.
Один из ведущих специалистов в мире по системам информационной безопасности, профессор Кембриджского университета Росс Андерсон в своей статье https://arxiv.org/abs/2305.17493v2 вообще уже рассматривает сценарий, когда большая часть интернета будет сгенерированной нейросетевой галлюцинацией. Но ни вы, ни я и никакой эксперт и никто вообще не смогут отличить фейк от реальности. В результате нейросети будут деградировать в процессе обучения на собственных галлюцинациях в Интернете, а люди деградировать в процессе применения деградировавших нейросетей. Этот процесс он назвал «коллапс нейросетей».
Для взаимной проверки и самосовершенствования LLM и человека нужна возможность сопоставления знаний искусственного интеллекта с коллективным интеллектом всего человечества. Это то, что может нас вытащить из персональных туннелей реальности и личных информационных пузырей, в которых мы все глубже застреваем поодиночке. Для этого нужна глобальная многопользовательская база знаний для определения достоверности информации без участия админов, экспертов, искусственного интеллекта или сертификатов государств и корпораций, без кликбейтных лайков или токенов для голосования, которыми можно подкупить любого пользователя. Фактически, нужен новый децентрализованный алгоритм PageRank на блокчейне, но не для отдельных сайтов и публикаций, а для каждого составляющего их факта и аргумента. Это позволит решить наконец проблему достоверности информации в Интернете, особенно сейчас на фоне бурного развития многочисленных дипфейк-технологий на основе искусственного интеллекта, которые в ближайшее время заполнят все информационные ресурсы сфальсифицированным контентом и сможет дать принципиально новый уровень доверия и достоверности для любых задач и проектов в Интернете, особенно для принципиально нового бурно развивающегося рынка web3-технологий.
Такая база реальных человеческих знаний позволит ввести в обучение LLM новые, чистые, сгенерированные человеком наборы данных с учетом их достоверности и даст возможность избежать коллапса языковых моделей и уменьшить нежелательные ошибки при создании новых более совершенных поколений генеративных нейросетей.
Буду рад найти желающих принять участие в такой разработке.
Есть один эксперимент, который давным-давно можно было провести, но он до сих пор по непонятной причине не был реализован — это вывод интерферометра на околоземную орбиту.
Вопрос изменения климата бессмысленно даже обсуждать. Итогом любого сценария ядерной войны будет разрушения многих из 500 построенных на сегодняшний день атомных реакторов, рассеивание огромного количества отработанного ядерного топлива, хранящегося в их хранилищах и на открытых площадках АЭС, а также непременный подрыв ядерных боезапасов с кобальтовой оболочкой (система "мертвая рука"), что по сумме всех факторов гарантирует полную радиационную стерилизацию поверхности планеты.