Комментарии 49
Крик души. Давайте усложним сложное и создадим электро-техно-"Дух".
Думаю что всю свою жизнь учусь думать что-бы выживать, а выживаю только за счёт интуиции.
Следующий ход за ту сторону - создание ложных сообщений, способных обходить Ваш семантический фильтр. Сразу вспоминается "растягивание купола" в Криптономиконе Стивенсона.
Не понимая сути ни одного закона природы, создать великий "Интеграл" хотим.
Светофор как прародитель "глобального предсказателя" и ведь зачастую работает
BigData рулит, но в случае монополии на информацию "мы через два года узнали, что посёлок стал ещё краше".
Историки для тех времен пользуются периодизацией, принятой в хрониках монастыря Бан Тоголо в Каракоруме. Уединившиеся там летописцы беспристрастно регистрировали мировые события ЭРМ, пользуясь двухполосной системой сопоставления противоречивых радиосообщений. Удаленность буддийского монастыря — причина, почему там сохранились летописи, — в те времена множество исторических документов в других странах погибло. В Бан Тоголо уцелела самая полная хронология, и мы пользуемся ее календарем.
— Великое сражение Запада и Востока, или битва Мары, было тоже в семнадцатом круге? — спросила Чеди.
— В год красной, или огненной, курицы семнадцатого круга, — подтвердила Фай Родис, — и продолжалось до года красного тигра.
Следующий год огненного тигра - 2046
Огненный петух - 2017
Иван Ефремов был прежде всего учёным и некоторые его предсказания сбывались (взять тот же роман "Алмазная труба" где он предсказал наличие кимберлитовых трубок в нашей Сибири). Может и с летописцами он угадал, и нам, в нашу эру Разобщённых Миров, стоит стать этими самыми летописцами? Я бы поучаствовал в такой соцсети, что автор предлагает, хотя остальные соцсети на дух не переношу.
Это же, по сути, "сильный ИИ" выходит? Опасная штука.
Не проще ли рейтинг добросовестности давать источникам информации? Те кто врут, врут всегда и по разному. Те кто говорит правду говорят одновременно одно и то же.
Я как раз сейчас размышляю на тему платформы для нового цифрового мира, в основе которой - надёжным способ верификации информации и доверие, исходящее из архитектуры этой системы (прозрачность, СПО, блокчейн...).
Но вот предсказание будущего вызывает у меня сомнения. Хаос же. Прогнозы некоторого рода могут сбываться и создавать впечатление, что "всё работает", но в любой момент может произойти наименее вероятное событие...
А вообще, я бы поддержал идею передачи полномочий по управлению человечеством в руки "ИИ")
PS: напомнило фильм "Особое мнение" и аниме "Neon Genesis Evangelion" с их MAGI.
Не думаю, что предсказание будущего вызовет хаос. Синоптики же, вон, предсказывают погоду, и ничего. Мы все, в той или иной степени, занимаемся предсказанием. Ну, повысятся точность и горизонт, вот и всё.
Главное же не предсказывать будущее, а верифицировать этим способом настоящее.
Я имел в виду не вызов хаоса предсказанием, а саму идею предсказывать развите хаоса. Да, есть примеры успешных предсказаний. Но они всё-таки узкоспециализованы, т.е. работают со сравнительно малым количеством "переменных".
Понимаю, что предсказания - не цель проекта, а только инструмент, но с большой вероятностью они затмят первоначальную идею верификации настоящего. Таковы уж люди...
Кстати, думаю, предсказания сами будут влиять на будущее через тех акторов, которые ознакомятся с предсказанием. Хаос от этого не возникнет (он и так уже есть), но это уже совсем другая история)
В принципе идея витает в воздухе, я уже подходил к ней со стороны экономических потребностей - в текущем её состоянии, когда мера стоимости превратилась в тыкву, единственный более-менее надёжный способ долгосрочного планирования может опираться только на достаточно надёжные предсказания основных экономических величин: спрос, котировки, уровень конкуренции, сезонные колебания ..
И в экономике достаточно быстро работают обратные связи - если чей-то способ показывает более высокую эффективность, то его достаточно быстро начинают использовать все
Если создать систему с чёткими и понятными правилами игры, в которой самым главным критерием является рейтинг экспертизы, дающей наиболее точные прогнозы, то такая система должна сама себя воспроизводить и расширяться.
Правда наиболее высокие риски я здесь вижу именно в моменте перехода на децентрализацию, сразу децентрализованной такая система быть не может, а поскольку будет завязана на экономику, будет много желающих прибрать её к рукам.
Информация сейчас будет закрыта и однобокая. Факты - искажены. Вот-вот интернет и персональный компьютер будет у немногих россиян, как в 90-х. А может и не будет вовсе - только одна методичка и ящик.
Тех кто думает - расстрел, тюрьма или эмиграция.
Тех кто не думает - им хлеб и зрелищ, ну и что бы не они умирали на чужбине.
Ув. Евгений, мысли интересные, но (imho) слегка сырые, хотелось бы дать позитивный совет (типа куда плыть), советую перечитать/продумать "Трактат... " Витгенштейна, конечно если еще не знакомы, может помочь, переводы доступны
Идея-то хорошая, "дайте две!". Хорошо бы реализовать.
Интересная идея, подобные мысли часто в голову приходят. Но к сожалению, пока что утопия. И вовсе не из-за нехватки технологий.
Методы ведения инфо-войн не менялись со времён геббельса.
Правду особо никто не пытается скрыть - это не нужно. "Чем сильнее ложь - тем охотнее в неё верят", "Ложь, повторенная тысячу раз, становится правдой." и прочие. Главное чтоб большинство (которое вообще ничего проверять не будет) кушало и одобряло.
Ну и самые сильные психо-воздействия это "свой-чужой", "внешний враг", "бей или беги" и прочие. Эксплуатация стандартных когнитивных искажений нашего вида.
Как минимум две явных проблемы вижу в описанном подходе:
GIGO (garbage in, garbage out). Сейчас при распространении информации делается упор на массовость и количество повторений, отсюда создается много шума и производных данных, вплоть до полного искажения. Плюс большое количество фейков, не основанных вообще ни на чем. Отсеять мусор от фактов - крайне сложная отдельная задача.
Наличие человека в качестве интерпретатора при попадании данных в систему - сразу слабое место. Достоверность суждений человека по определенным фактам в прошлом совершенно не гарантирует достоверность его суждений в будущем.
Я думаю, не всё так плохо. Нам же не надо, чтобы информация или суждения человека были истинными. Нам достаточно, чтобы они в среднем не являлись случайным шумом, вот и всё. Явная ложь войдёт в решение, грубо говоря, со знаком минус. Явные искажения в человеческом суждении можно, условно, "поделить на три и сдвинуть".
[Я как-то попросил своих друзей не-химиков оценить температуры кипения пары десятков веществ, про многие из которых они и не слышали раньше. Индивидуальные оценки были жутко искажены. Собранные в кучу с помощью ML, оказались не так уж и плохи]
Единственное, когда это не будет работать -- это если входящая информация является случайным шумом (тот самый garbage). Но если работает целенаправленная пропаганда с определённой целью, она не может себе позволить совершенно случайно шуметь. Она вынуждена в какой-то степени быть преобразованной формой истины.
«явная ложь», «явные искажения» - увы, это внешние и вполне субъективные оценки.
В примере с химиками, они были нейтральны относительно вашего вопроса. Если бы значительная часть ставила своей целью вашу дезинформацию - результат был бы совсем иным.
Пропаганда может искажать истину сколь угодно сильно и даже вовсе её не содержать. В «1984» это очень хорошо проиллюстрировано.
«явная ложь», «явные искажения» - увы, это внешние и вполне субъективные оценки.
Нет. Не знаю, насколько Вы знакомы с тем, как работает Machine Learning, но для него они вполне объективны, и выражаются в несогласии предсказанной метки с заданным значением. В каковом случае ML будет продолжать искать увязывающую закономерность. Не найдёт он её либо если не хватит памяти (маловероятно -- людская меньше), или если зависимость полностью случайна (маловероятно -- люди очень плохие генераторы случайных чисел).
А 1984 я как бы знаком. Не забываем, что это фантастика. И фантастика слабая, полная сама себе противоречий. В мире, где не могут сделать лезвия, камеры тоже будут работать через раз.
Я верю в "частичные идеи". Бывает, человек крутит в голове половину
чего-то важного. А у кого-то есть вторая половина. Чтобы мысли
встретились и "клацнули", кто-то должен свою половину опубликовать.
Не могу сказать, что у меня есть вторая недостающая половина, но тем не менее какой-то вроде бы подходящий кусочек пазла могу предложить. На самом деле это тема отдельной статьи или даже серии статей, но я попробую вкраце изложить ту часть, которая особенно резонирует с вашей идеей.
Иногда полезно обобщить и, казалось бы, усложнить задачу (пример: изучать электромагнетизм гораздо продуктивней, чем электричество и магнетизм по отдельности). В этой статье ставится задача поиска истинности утверждений. Я сейчас сформулирую свою задачу, а потом посмотрим, как связаны эти задачи между собой, не является ли одна обобщением другой, и имеет ли смысл решать их совместно. Я хочу построить бесцензурную сеть, в которой, грубо говоря, писатель пишет, что хочет, а читатель читает, что хочет. Задача состоит в том, чтобы показать читателю в огромном море информации именно то, что он хочет, и не показывать то, чего он не хочет. В каком-то смысле поисковики и социальные сети с модерацией отчасти решают эту задачу, но я хочу отдать всю власть по фильтрации бездны в руки читателя. Как это сделать? Мой ответ состоит в создании экосистемы фильтров (очевидно, децентрализованной по построению), где будут представлены разнообразные способы построения фильтров, в том числе те, которыей сейчас и нельзя помыслить. Есть несколько очевидных способов создания фильтров: примитивые (по ключевым словам, например), хитрые (с каким-то машинным обучением), основанные на сети доверия, и т.д., но главное — их можно соединять путем композиции. Это очень богатая тема, но я сейчас не буду останавливаться на том, как именно фильтры создаются. Важно, что читатель сам выбирает фильтры, которые будет применять — «вся власть читателю!» Забегая вперед, скажу, что должно получиться что-то близкое к тому, что описано в этой статье в разделе «C. Предсказывающая соцсеть».
Теперь возвращаемся к тому, как связаны эти две задачи: определение истинности (чтобы это ни значило) и индивидуальная фильтрация. Среди всего зоопарка фильтров могут и должны существовать такие, которые стараются отделить истинные высказывания от всех остальных. То есть в каком-то смысле фильтрация — более общая задача. Пока у меня есть только несколько сырых идей, на каких принципах строить полезные фильтры, но даже их описание не поместится на полях этой рукописи…
Это, безусловно, близко связанные задачи. Но я не уверен, что задача о фильтрах проще задачи проверки на истинность. Хотя с точки зрения "продажи" её пользователю вполне может быть и проще.
Тут надо ещё думать.
В самом общем виде, задача о фильтрах, конечно, сложнее. Но если хотя бы научиться отфильтровывать шум, спам, сообщения, не являющиеся утверждениями, то с оставшимся материалом будет проще работать. Один из моих тезисов состоит в том, что мы пока не знаем, какие фильтры будут полезны и эффективны, поэтому нужно создать биом, где они будут эволюционно конкурентно развиваться.
Еще с помощью фильтров можно искать не только «истинное», но и «красивое».
Тогда получится усилитель имеющейся у читателя уже в голове картинки мира, а не средство приведения этой картинки к объективному состоянию. Читатель просто отфильтрует то, что не вписывается в его точки зрения, и все.
Такой риск есть, но всё в руках читателя. Сейчас, напомню, этим занимаются модераторы (люди и роботы) соцсетей, и они по факту формируют отдельные информационные пузыри. Поиск объективной истины — это задача, которую читатель может взять на себя добровольно, и нужно, я считаю, «всего лишь» помочь ему, дав подходящие инструменты.
> хотите сделать «мощное понимание» ....
для этого вероятно потребуется формальная проверка истинности, т.е. формализм, язык для философского анализа, см. "Витгенштейн, философия познания в аналитической традиции", см. например
А вера в какую-то «общую истину» имеет все негативные последствия религии.
Поддерживаю. Само по себе составление прогнозов, без цели использования этой информации - бессмысленно. Цель всегда вначале любого осмысленного процесса. Человек, например, не всегда осознаёт свою цель, тогда неявными целями выступают задачи, определяемые эволюцией. Но перед машиной ставить цель необходимо, только критерий успешности выполнения задачи позволяет эффективно обучить нейронную сеть.
> принадлежности к области, которая определяется как истинная, и проблем цели
нет, речь не об «общей истине» или абсолюте, скорее об истинности в смысле логики, или мат. логики, конечно к религии никакого отношения,
Ваш ответ предполагает существование областей, выяснения принадлежности к ним и пр., что характерно например для распознавания образов, аналитический метод Витгенштейна исходит из другой модели, не берусь здесь излагать по понятным причинам, если интересно посмотрите источники,
сильно огрубляя, Ваш подход напоминает типа определение корректности программы путем проверки принадлежности данного кода области истинных синтаксически корректных программ, а аналитический метод несколько напоминает работу компилятора, аналогия конечно грубая просто показать, что подход связанный с областями и пр. в данном случае не слишком полезный, кроме общих слов двигаться особенно не получается, в теории распознавания образов обычно ситуация другая, пространство признаков и пр устроено проще
ps
сам метод Витгенштейна пришел с другого конца, а именно как отличить утверждения для которых возможно в принципе установление истинности (неважно как, например с использованием нейронных сетей), от тех где нет, снова огрубляя конечно
К любой цели можно задать вопрос "а это зачем?" и получить цель следующего порядка. Вы уверены, что не проскочили какую-нибудь промежуточную точку остановки? Ибо в статье целый раздел отведён на объяснение цели "вытрезвителя".
Создайте такую платформу, но только для кода, это решит проблему хранения данных в блокчейне (одно минутное видео может занимать больше байт чем совокупный труд всех программистов за день). Из идеи prediction market возьмите запрет на бесплатную запись в БД, чтобы не потонуть во флуде. Правда, тех кто оказался не флудером, придётся как-нибудь наградить, иначе они не будут записывать в вашу БД. Догадайтесь, какой ЯП решит проблему того чтобы написать один раз а использовать на любых устройствах. даже через 100 лет. Ну и последнее но не наименьшее по важности — если делать платформу для кода, а не для злободневных новостей, — то нужно принять решение для чего этот код нужен.
PS Мне очень интересная тема рынков предсказаний, если у вас есть ссылка на
Кстати, немало вполне успешных prediction markets было закрыто в США в 2003-2015-х годах.то это поможет для моей частичной идеи, которая весьма похожа на вашу. У меня, в моей частичной идее, код который я предлагаю вам вместо мультимедиа-контента, нужен для системы которая пишет саму себя
Цифровой спор
Замахнулись на сложное, но видимо можно начать с более простых вещей.
Назовём это «Цифровой спор». Есть событие, например, та же «Z операция». Далее есть возможность не «длинного» обсуждения, а категоризации и построения гипотез возникновения события (целей и т.п.), другие ветки обсуждения. Категоризация, гипотезы и т.п. – имеют название, а их суть - ограничена абзацем (т.е. короткие смысловые пояснения).
Обычно мнения делятся на два больших и противодействующих лагеря. Пользователь может проголосовать или добавить свою гипотезу\ категорию. В итоге получаем два конкурирующих стакана мнений (голоса поднимают гипотезу вверх стакана). Для каждой гипотезы ведется свой стакан ссылок, подтверждающих гипотезу. Вообще, это более сложный набор «стаканов», т.к. есть еще возможность вести стакан опровержений по конкурирующей гипотезе. Суть, что это лишь кратко «изложенное» в комплекте с ссылками и ранжированием мнений.
Имеется расширенный фильтр, включая уникальность IP (или авторизованный вход голосователя через соцсеть), локацию и т.п. Это - если кратко.
В целом – это опросник с развитием в направлении Wiki \ Zettelkasten. Может что-то подобное уже есть?
Существуют и другие - более простые направления (без всякого ML), которые можно отнести к «технологиям поиска правды». Например, я не встречал нормального бесплатного сервиса или ПО (простого в установке) для группового (публичного) аннотирования статей (pdf, html). Которые видел (бесплатные) - имеют слишком слабый функционал. Например, лучший бесплатный сервис, который встретил (у многих других - ограничение на объем файла):
Например, я не встречал нормального бесплатного сервиса или ПО (простого в установке) для группового (публичного) аннотирования статей (pdf, html). Которые видел (бесплатные) — имеют слишком слабый функционал
https://web.hypothes.is/start/ относится к "имеют слишком слабый функционал"? сами себя заявляют как "social annotation"/"collaborative reading"
Интересная статья! Автору желаю ознакомиться ещё с идеей https://www.wolframalpha.com/
Идея построения такой системы давно витает в воздухе, мы работали, рисовали схемки в 90х, а так с 60х, теперь есть ML. Очень пригодилась бы при моделировании, при принятии решений, либо в идеале "принимала бы решения", причем в различных сферах и разных масштабах, используя совместную работу подсистем (экономических, социально-политических и т.д.). Верифицировала настоящее на пути к светлому (или нет, от стейкхолдеров зависит) будущему. Тут только какой либо мега краудфандинг с децентрализованным распределением, крипто инструменты уже существуют. Все зависит от желания и возможностей сообщества. Коммерческие версии, в том числе и закрытые есть, но конечно пока не то.
Цифровой вытрезвитель