Pull to refresh

Comments 49

Крик души. Давайте усложним сложное и создадим электро-техно-"Дух".

Думаю что всю свою жизнь учусь думать что-бы выживать, а выживаю только за счёт интуиции.

Интуиция это неформализованный опыт. Люди разным образом воспринимают и хранят информацию.

Я сказал тоже самое в меру моего понимания или интуиции.

Я надеюсь я правильно понял смысл статьи: как создать технолоическую интуицию для всех? Как оценить стоимость "создания" в смысле кто и сколько заплатит.

Следующий ход за ту сторону - создание ложных сообщений, способных обходить Ваш семантический фильтр. Сразу вспоминается "растягивание купола" в Криптономиконе Стивенсона.

Ну, понятно, борьба щита и меча будет вечной. Однако кажется же, что равновесие в ней сейчас здорово смещено в одну сторону.

Не понимая сути ни одного закона природы, создать великий "Интеграл" хотим.

Светофор как прародитель "глобального предсказателя" и ведь зачастую работает


BigData рулит, но в случае монополии на информацию "мы через два года узнали, что посёлок стал ещё краше".

Не бывает полной монополии на информацию.

Кстати, монолог Жванецкого, которй я по памяти процитировал, не гуглится.

Историки для тех времен пользуются периодизацией, принятой в хрониках монастыря Бан Тоголо в Каракоруме. Уединившиеся там летописцы беспристрастно регистрировали мировые события ЭРМ, пользуясь двухполосной системой сопоставления противоречивых радиосообщений. Удаленность буддийского монастыря — причина, почему там сохранились летописи, — в те времена множество исторических документов в других странах погибло. В Бан Тоголо уцелела самая полная хронология, и мы пользуемся ее календарем.

— Великое сражение Запада и Востока, или битва Мары, было тоже в семнадцатом круге? — спросила Чеди.

— В год красной, или огненной, курицы семнадцатого круга, — подтвердила Фай Родис, — и продолжалось до года красного тигра.

Следующий год огненного тигра - 2046

Огненный петух - 2017

Иван Ефремов был прежде всего учёным и некоторые его предсказания сбывались (взять тот же роман "Алмазная труба" где он предсказал наличие кимберлитовых трубок в нашей Сибири). Может и с летописцами он угадал, и нам, в нашу эру Разобщённых Миров, стоит стать этими самыми летописцами? Я бы поучаствовал в такой соцсети, что автор предлагает, хотя остальные соцсети на дух не переношу.

Это же, по сути, "сильный ИИ" выходит? Опасная штука.

Не совсем. Ни в одной из предлагаемых архитектур ему не позволяется самому себя улучшать.

Другое дело, что кто-нибуть всё равно напишет, не для этой, так для другой цели.

Не проще ли рейтинг добросовестности давать источникам информации? Те кто врут, врут всегда и по разному. Те кто говорит правду говорят одновременно одно и то же.

Те кто говорит правду говорят одновременно одно и то же

Вчера и сегодня говорят правду, завтра заблуждаются, послезавтра - заблуждаются по "убедительной просьбе"

Я как раз сейчас размышляю на тему платформы для нового цифрового мира, в основе которой - надёжным способ верификации информации и доверие, исходящее из архитектуры этой системы (прозрачность, СПО, блокчейн...).

Но вот предсказание будущего вызывает у меня сомнения. Хаос же. Прогнозы некоторого рода могут сбываться и создавать впечатление, что "всё работает", но в любой момент может произойти наименее вероятное событие...

А вообще, я бы поддержал идею передачи полномочий по управлению человечеством в руки "ИИ")

PS: напомнило фильм "Особое мнение" и аниме "Neon Genesis Evangelion" с их MAGI.

Не думаю, что предсказание будущего вызовет хаос. Синоптики же, вон, предсказывают погоду, и ничего. Мы все, в той или иной степени, занимаемся предсказанием. Ну, повысятся точность и горизонт, вот и всё.

Главное же не предсказывать будущее, а верифицировать этим способом настоящее.

Я имел в виду не вызов хаоса предсказанием, а саму идею предсказывать развите хаоса. Да, есть примеры успешных предсказаний. Но они всё-таки узкоспециализованы, т.е. работают со сравнительно малым количеством "переменных".

Понимаю, что предсказания - не цель проекта, а только инструмент, но с большой вероятностью они затмят первоначальную идею верификации настоящего. Таковы уж люди...

Кстати, думаю, предсказания сами будут влиять на будущее через тех акторов, которые ознакомятся с предсказанием. Хаос от этого не возникнет (он и так уже есть), но это уже совсем другая история)

В принципе идея витает в воздухе, я уже подходил к ней со стороны экономических потребностей - в текущем её состоянии, когда мера стоимости превратилась в тыкву, единственный более-менее надёжный способ долгосрочного планирования может опираться только на достаточно надёжные предсказания основных экономических величин: спрос, котировки, уровень конкуренции, сезонные колебания ..
И в экономике достаточно быстро работают обратные связи - если чей-то способ показывает более высокую эффективность, то его достаточно быстро начинают использовать все
Если создать систему с чёткими и понятными правилами игры, в которой самым главным критерием является рейтинг экспертизы, дающей наиболее точные прогнозы, то такая система должна сама себя воспроизводить и расширяться.
Правда наиболее высокие риски я здесь вижу именно в моменте перехода на децентрализацию, сразу децентрализованной такая система быть не может, а поскольку будет завязана на экономику, будет много желающих прибрать её к рукам.

Информация сейчас будет закрыта и однобокая. Факты - искажены. Вот-вот интернет и персональный компьютер будет у немногих россиян, как в 90-х. А может и не будет вовсе - только одна методичка и ящик.

Тех кто думает - расстрел, тюрьма или эмиграция.

Тех кто не думает - им хлеб и зрелищ, ну и что бы не они умирали на чужбине.

Ув. Евгений, мысли интересные, но (imho) слегка сырые, хотелось бы дать позитивный совет (типа куда плыть), советую перечитать/продумать "Трактат... " Витгенштейна, конечно если еще не знакомы, может помочь, переводы доступны

https://ru.wikipedia.org/wiki/Логико-философский_трактат

Идея-то хорошая, "дайте две!". Хорошо бы реализовать.

Интересная идея, подобные мысли часто в голову приходят. Но к сожалению, пока что утопия. И вовсе не из-за нехватки технологий.

Что мешает сделать для начала маленький "песочный" вариант? (Собственно, я намерен попробовать)

Методы ведения инфо-войн не менялись со времён геббельса.

Правду особо никто не пытается скрыть - это не нужно. "Чем сильнее ложь - тем охотнее в неё верят", "Ложь, повторенная тысячу раз, становится правдой." и прочие. Главное чтоб большинство (которое вообще ничего проверять не будет) кушало и одобряло.

Ну и самые сильные психо-воздействия это "свой-чужой", "внешний враг", "бей или беги" и прочие. Эксплуатация стандартных когнитивных искажений нашего вида.

Мне кажется, геббельсовский уровень лжи на неподготовленной почве не прорастёт. Люди просто выпучат глаза и покрутят пальцем у виска. А вот если их подготовить, начав с умеренных искажений.... Которые как раз и можно поймать.

Если в лоб заявить, что Мистер Х ест младенцев на ужин - то и правда воспримут как чушь... Но если загодя готовить "факты", вкидывать информацию, понемногу приводить к этой мысли - то вполне поверят и пойдут его свергать/будут ещё больше бояться. Дальнейшее развитие событий по усмотрению заказчика

Как минимум две явных проблемы вижу в описанном подходе:

  • GIGO (garbage in, garbage out). Сейчас при распространении информации делается упор на массовость и количество повторений, отсюда создается много шума и производных данных, вплоть до полного искажения. Плюс большое количество фейков, не основанных вообще ни на чем. Отсеять мусор от фактов - крайне сложная отдельная задача.

  • Наличие человека в качестве интерпретатора при попадании данных в систему - сразу слабое место. Достоверность суждений человека по определенным фактам в прошлом совершенно не гарантирует достоверность его суждений в будущем.

Я думаю, не всё так плохо. Нам же не надо, чтобы информация или суждения человека были истинными. Нам достаточно, чтобы они в среднем не являлись случайным шумом, вот и всё. Явная ложь войдёт в решение, грубо говоря, со знаком минус. Явные искажения в человеческом суждении можно, условно, "поделить на три и сдвинуть".

[Я как-то попросил своих друзей не-химиков оценить температуры кипения пары десятков веществ, про многие из которых они и не слышали раньше. Индивидуальные оценки были жутко искажены. Собранные в кучу с помощью ML, оказались не так уж и плохи]

Единственное, когда это не будет работать -- это если входящая информация является случайным шумом (тот самый garbage). Но если работает целенаправленная пропаганда с определённой целью, она не может себе позволить совершенно случайно шуметь. Она вынуждена в какой-то степени быть преобразованной формой истины.

«явная ложь», «явные искажения» - увы, это внешние и вполне субъективные оценки.

В примере с химиками, они были нейтральны относительно вашего вопроса. Если бы значительная часть ставила своей целью вашу дезинформацию - результат был бы совсем иным.

Пропаганда может искажать истину сколь угодно сильно и даже вовсе её не содержать. В «1984» это очень хорошо проиллюстрировано.

«явная ложь», «явные искажения» - увы, это внешние и вполне субъективные оценки.

Нет. Не знаю, насколько Вы знакомы с тем, как работает Machine Learning, но для него они вполне объективны, и выражаются в несогласии предсказанной метки с заданным значением. В каковом случае ML будет продолжать искать увязывающую закономерность. Не найдёт он её либо если не хватит памяти (маловероятно -- людская меньше), или если зависимость полностью случайна (маловероятно -- люди очень плохие генераторы случайных чисел).

А 1984 я как бы знаком. Не забываем, что это фантастика. И фантастика слабая, полная сама себе противоречий. В мире, где не могут сделать лезвия, камеры тоже будут работать через раз.

Я верю в "частичные идеи". Бывает, человек крутит в голове половину
чего-то важного. А у кого-то есть вторая половина. Чтобы мысли
встретились и "клацнули", кто-то должен свою половину опубликовать.

Не могу сказать, что у меня есть вторая недостающая половина, но тем не менее какой-то вроде бы подходящий кусочек пазла могу предложить. На самом деле это тема отдельной статьи или даже серии статей, но я попробую вкраце изложить ту часть, которая особенно резонирует с вашей идеей.

Иногда полезно обобщить и, казалось бы, усложнить задачу (пример: изучать электромагнетизм гораздо продуктивней, чем электричество и магнетизм по отдельности). В этой статье ставится задача поиска истинности утверждений. Я сейчас сформулирую свою задачу, а потом посмотрим, как связаны эти задачи между собой, не является ли одна обобщением другой, и имеет ли смысл решать их совместно. Я хочу построить бесцензурную сеть, в которой, грубо говоря, писатель пишет, что хочет, а читатель читает, что хочет. Задача состоит в том, чтобы показать читателю в огромном море информации именно то, что он хочет, и не показывать то, чего он не хочет. В каком-то смысле поисковики и социальные сети с модерацией отчасти решают эту задачу, но я хочу отдать всю власть по фильтрации бездны в руки читателя. Как это сделать? Мой ответ состоит в создании экосистемы фильтров (очевидно, децентрализованной по построению), где будут представлены разнообразные способы построения фильтров, в том числе те, которыей сейчас и нельзя помыслить. Есть несколько очевидных способов создания фильтров: примитивые (по ключевым словам, например), хитрые (с каким-то машинным обучением), основанные на сети доверия, и т.д., но главное — их можно соединять путем композиции. Это очень богатая тема, но я сейчас не буду останавливаться на том, как именно фильтры создаются. Важно, что читатель сам выбирает фильтры, которые будет применять — «вся власть читателю!» Забегая вперед, скажу, что должно получиться что-то близкое к тому, что описано в этой статье в разделе «C. Предсказывающая соцсеть».

Теперь возвращаемся к тому, как связаны эти две задачи: определение истинности (чтобы это ни значило) и индивидуальная фильтрация. Среди всего зоопарка фильтров могут и должны существовать такие, которые стараются отделить истинные высказывания от всех остальных. То есть в каком-то смысле фильтрация — более общая задача. Пока у меня есть только несколько сырых идей, на каких принципах строить полезные фильтры, но даже их описание не поместится на полях этой рукописи…

Это, безусловно, близко связанные задачи. Но я не уверен, что задача о фильтрах проще задачи проверки на истинность. Хотя с точки зрения "продажи" её пользователю вполне может быть и проще.

Тут надо ещё думать.

В самом общем виде, задача о фильтрах, конечно, сложнее. Но если хотя бы научиться отфильтровывать шум, спам, сообщения, не являющиеся утверждениями, то с оставшимся материалом будет проще работать. Один из моих тезисов состоит в том, что мы пока не знаем, какие фильтры будут полезны и эффективны, поэтому нужно создать биом, где они будут эволюционно конкурентно развиваться.

Еще с помощью фильтров можно искать не только «истинное», но и «красивое».

Тогда получится усилитель имеющейся у читателя уже в голове картинки мира, а не средство приведения этой картинки к объективному состоянию. Читатель просто отфильтрует то, что не вписывается в его точки зрения, и все.

Такой риск есть, но всё в руках читателя. Сейчас, напомню, этим занимаются модераторы (люди и роботы) соцсетей, и они по факту формируют отдельные информационные пузыри. Поиск объективной истины — это задача, которую читатель может взять на себя добровольно, и нужно, я считаю, «всего лишь» помочь ему, дав подходящие инструменты.

То что делается кем-либо продуцируется всегда исходя из цели. Если вы хотите сделать «мощное понимание», то самое странное, что может быть — это высказываться в стиле «цели и так понятны, пора заняться технической стороной». Потому что этим допускается незнание своих целей. В других вопросах это не критично, но здесь — получится мы очень хотим, но неизвестно чего. Тогда неизвестно что и получится. Цель главенствует над техникой, идеология над страной, вера над человеком.

> хотите сделать «мощное понимание» ....

для этого вероятно потребуется формальная проверка истинности, т.е. формализм, язык для философского анализа, см. "Витгенштейн, философия познания в аналитической традиции", см. например

https://istina.msu.ru/courses/3261622/

Проблемы «проверки истинности» являются смешением проблем выяснения принадлежности к области, которая определяется как истинная, и проблем цели, потому что и сама это область определяется исходя из целей. То есть, при разных целях сама понимаемая истинность различается.

А вера в какую-то «общую истину» имеет все негативные последствия религии.

Поддерживаю. Само по себе составление прогнозов, без цели использования этой информации - бессмысленно. Цель всегда вначале любого осмысленного процесса. Человек, например, не всегда осознаёт свою цель, тогда неявными целями выступают задачи, определяемые эволюцией. Но перед машиной ставить цель необходимо, только критерий успешности выполнения задачи позволяет эффективно обучить нейронную сеть.

> принадлежности к области, которая определяется как истинная, и проблем цели

нет, речь не об «общей истине» или абсолюте, скорее об истинности в смысле логики, или мат. логики, конечно к религии никакого отношения,

Ваш ответ предполагает существование областей, выяснения принадлежности к ним и пр., что характерно например для распознавания образов, аналитический метод Витгенштейна исходит из другой модели, не берусь здесь излагать по понятным причинам, если интересно посмотрите источники,

сильно огрубляя, Ваш подход напоминает типа определение корректности программы путем проверки принадлежности данного кода области истинных синтаксически корректных программ, а аналитический метод несколько напоминает работу компилятора, аналогия конечно грубая просто показать, что подход связанный с областями и пр. в данном случае не слишком полезный, кроме общих слов двигаться особенно не получается, в теории распознавания образов обычно ситуация другая, пространство признаков и пр устроено проще

ps

сам метод Витгенштейна пришел с другого конца, а именно как отличить утверждения для которых возможно в принципе установление истинности (неважно как, например с использованием нейронных сетей), от тех где нет, снова огрубляя конечно

К любой цели можно задать вопрос "а это зачем?" и получить цель следующего порядка. Вы уверены, что не проскочили какую-нибудь промежуточную точку остановки? Ибо в статье целый раздел отведён на объяснение цели "вытрезвителя".

Вы уверенны что хотите именно цифровой вытрезвитель, а не что-то похожее?

Создайте такую платформу, но только для кода, это решит проблему хранения данных в блокчейне (одно минутное видео может занимать больше байт чем совокупный труд всех программистов за день). Из идеи prediction market возьмите запрет на бесплатную запись в БД, чтобы не потонуть во флуде. Правда, тех кто оказался не флудером, придётся как-нибудь наградить, иначе они не будут записывать в вашу БД. Догадайтесь, какой ЯП решит проблему того чтобы написать один раз а использовать на любых устройствах. даже через 100 лет. Ну и последнее но не наименьшее по важности — если делать платформу для кода, а не для злободневных новостей, — то нужно принять решение для чего этот код нужен.
PS Мне очень интересная тема рынков предсказаний, если у вас есть ссылка на
Кстати, немало вполне успешных prediction markets было закрыто в США в 2003-2015-х годах.
то это поможет для моей частичной идеи, которая весьма похожа на вашу. У меня, в моей частичной идее, код который я предлагаю вам вместо мультимедиа-контента, нужен для системы которая пишет саму себя ad nauseam до достижения стадии сильного ИИ.

Цифровой спор

Замахнулись на сложное, но видимо можно начать с более простых вещей.

Назовём это «Цифровой спор». Есть событие, например, та же «Z операция». Далее есть возможность не «длинного» обсуждения, а категоризации и построения гипотез возникновения события (целей и т.п.), другие ветки обсуждения. Категоризация, гипотезы и т.п. – имеют название, а их суть - ограничена абзацем (т.е. короткие смысловые пояснения).

Обычно мнения делятся на два больших и противодействующих лагеря. Пользователь может проголосовать или добавить свою гипотезу\ категорию. В итоге получаем два конкурирующих стакана мнений (голоса поднимают гипотезу вверх стакана). Для каждой гипотезы ведется свой стакан ссылок, подтверждающих гипотезу. Вообще, это более сложный набор «стаканов», т.к. есть еще возможность вести стакан опровержений по конкурирующей гипотезе. Суть, что это лишь кратко «изложенное» в комплекте с ссылками и ранжированием мнений.    

Имеется расширенный фильтр, включая уникальность IP (или авторизованный вход голосователя через соцсеть), локацию и т.п. Это - если кратко.

В целом – это опросник с развитием в направлении Wiki \ Zettelkasten. Может что-то подобное уже есть?

Существуют и другие - более простые направления (без всякого ML), которые можно отнести к «технологиям поиска правды». Например, я не встречал нормального бесплатного сервиса или ПО (простого в установке) для группового (публичного) аннотирования статей (pdf, html). Которые видел (бесплатные) - имеют слишком слабый функционал. Например, лучший бесплатный сервис, который встретил (у многих других - ограничение на объем файла):

 https://app.markup.io/invite/accept/OXsNV8Vl

Например, я не встречал нормального бесплатного сервиса или ПО (простого в установке) для группового (публичного) аннотирования статей (pdf, html). Которые видел (бесплатные) — имеют слишком слабый функционал

https://web.hypothes.is/start/ относится к "имеют слишком слабый функционал"? сами себя заявляют как "social annotation"/"collaborative reading"

Спасибо! Только я у них уже лет 10 как подписчик :)

Идея построения такой системы давно витает в воздухе, мы работали, рисовали схемки в 90х, а так с 60х, теперь есть ML. Очень пригодилась бы при моделировании, при принятии решений, либо в идеале "принимала бы решения", причем в различных сферах и разных масштабах, используя совместную работу подсистем (экономических, социально-политических и т.д.). Верифицировала настоящее на пути к светлому (или нет, от стейкхолдеров зависит) будущему. Тут только какой либо мега краудфандинг с децентрализованным распределением, крипто инструменты уже существуют. Все зависит от желания и возможностей сообщества. Коммерческие версии, в том числе и закрытые есть, но конечно пока не то.

Sign up to leave a comment.

Articles