Комментарии 30
Ну что можно сказать... Нам, Сообществу, определенно нужен децентрализованный свободный ИИ, неподконтрольный никакому государству. Понимаю, что это задача колоссальной сложности, но все же не невозможная. Обучение - на Либгене, Сайхабе и интернет-ресурсах, заслуживающих доверие (типа Хабра). Схема работы - чем больше участник предоставляет своих вычислительных ресурсов, тем выше его приоритет в обработке запросов.
Однозначно нужен, но возможно ли подобное вообще? Кто будет обеспечивать его работу (и гражданами какой страны они будут)? Кто и из каких средств будет платить за ресурсы и работу людей? Где будет размещаться мозговой центр (и в какой блок входит эта страна)? И таких вопросов будет много...
Децентрализованность подразумевает отсутствие центра. Платить - очевидно через предоставление своих ресурсов для вычислений. Т.е. человек предоставляет свой комп для работы сети, ему за это начисляется какая-то внутренняя децентрализованная крипта, которой он расплачивается за взаимодействие с самой сетью.
Я прекрасно понимаю огромную сложность этой задачи. Особенно - как связать математическую строгость proof of work с распределенными нейросетевыми вычислениями... Но хочется верить что гении найдутся.
TL;TR:
Все, кто не успел вскочить в последний вагон: авторские права, рабочие места, восстание машин, ко-ко-ко!
Правительства: нам можно, остальным - нельзя!
Те, кто успел (покручивая на остустсвующем у машин органе всех остальных): да-да, конечно, как скажите, глубоко разделяем ваше ко-ко-ко!
1. Неприемлемый риск.
Системы биометрической идентификации в реальном времени и удаленно, такие как распознавание лиц
Я знаю, что многие люди очень не любят камеры слежения, а особенно те, где используется технология распознавания лиц. Я в целом могу понять такую позицию, как минимум со стороны того, что эта информация будет использоваться как инструмент государственного контроля.
Вопрос тем, кто придерживается подобной позиции: если бы государственные органы могли получить данные с камер, за конкретный, чётко обозначенный промежуток времени и/или с участием определённого человека, только с информированного, добровольного (в законе прописано наказание за давление) согласия, допустим, подавляющего большинства (2/3) жителей посёлка или жителей квартала города, где эти камеры установлены - поменяло бы это обстоятельство Ваше отношение к камерам видеонаблюдения или нет?
Нет, потому что на примере выборов отлично видно что этим согласием просто манипулировать
Давайте представим, что система работает именно так как я описал и различным органам власти по тем или иным причинам накладно злоупотреблять ей (допустим в Европе, если такое невозможно в России). Есть ли ещё какие-то причины для нежелания видеть камеры на улицах? Причины могут быть любые: от непринятия того, что они снимают частную жизнь без разрешения, вплоть до того, что камеры портят внешний вид города. Мне интересно знать: дело в только в том, что исполнительная власть заработала подобную репутацию - тирана работающего только для собственного блага или всё-таки есть неприязнь к самой концепции, что за тобой следят и архивируют твои действия, может есть недоверие к здравомыслию окружающих людей, если брать ситуацию, которую я описал или ещё какая-то причина, которую я пропустил.
Давайте лучше представим что власть захватили куклы Барби, это более реалистичный сценарий.
"всё-таки есть неприязнь к самой концепции, что за тобой следят и архивируют твои действия"
Неприятия к самой концепции нет. Если что-то неодушевлённое, пусть и обладающее квази-интеллектом "смотрит" как я хожу по квартире голый -- мне абсолютно всё равно. Ведь оно даже не смотрит, это то же самое, как если бы на столе лежал кирпич, почему это должно меня как-то волновать?
Даже если это будет где-то архивироваться на какой-то срок, в описанном утопичом параллельном мире мне по-прежнему было бы параллельно.
Вот только подобное невозможно. Обязательно кто-то получит неправомерный доступ, а какой-нибудь свежепринятый закон вдруг поимеет обратную силу.
есть недоверие к здравомыслию окружающих людей
Есть, и обоснованное, к сожалению.
Я немного припоздал, но все же, вот в НЗ камер не очень много и я не особо в курсе, но впечатление, что частных камер (в магазинах, на своем доме и т.д.) чуть ли не больше чем публичных. Так вот они вам, как человеку пострадавшему от чьих то неправомерных действий, не помогут в большинстве случаев. Если правонарушение не насильственное, то вы идете лесом, полиции пофиг даже смотреть не будут, что бы найти виновника. Это по собственному опыту, мне повезло, я точно знал как найти и в таком случае фотки с камеры на заправке испольвали для опознания. Если насильственное преступления, то смотря кто и что сделал, но тут да скорее поможет чем нет. Такие случаи как подростки ночью вломились в магазин, чел свинтил саму камеру в прямом эфире, разбил окно в машине и обокрал / угнал - проходите мимо это ваши проблемы страховка все покроет, нет страховки вам не повезло, следующий.
Короче это я к чему, когда вам кажется, что камера лично вам поможет в какой то жизненной ситуации, то вы не правы - не поможет. Камеры нужны копам и спец службам только когда у них КПИ проседают. Ну и как обычно любая система с КПИ будет хакнута с целью накрутки это значит, что в лучшем случае вы не пострадаете от камеры, а в среднем вам будет только хуже - либо вас оштрафуют, либо за вами будут следить, либо вашу проблему проигнорируют. Максимум есть небольшой шанс, что камера поможет найти урода который вас избил, порезал или убил - так себе юзкейс. У органов нет задачи уменьшить преступность (зачем тогда они будут нужны?) у них задача показать свою нужность - закрыть/решить часть дел которые считаются важными если нет преступлений то это плохо для органов это же тогда можно будет им бюджет урезать да и вообще на камеры заменить.
Камеры не нужны пока не появится законная конкуренция на рынке борьбы с преступлениями, когда я могу запостить на биржу правонарушений свою беду и несколько независимых конкурирующих видов полиции будут соревноваться за право мне помочь. Это нам с вами нужно что бы было меньше преступлений, а существующим органам нужно совсем другое.
данные с камер <...> с участием определённого человека, только с информированного, добровольного согласия, допустим, подавляющего большинства (2/3) жителей посёлка
А зачем допускать? Военный коммунизм уже построен в КНДР, где подавляющее большинство последователей идей чучхе решает за индивида, что для него лучше. Давайте вообще не лезть в частную жизнь граждан ни при каких условиях, даже если 99 из 100 жителей посёлка хотят заглянуть за соседский забор? Это такой смелый эксперимент, что на него еще никто не решился.
Как я это вижу на примере посёлка: мальчишки угнали машину покататься, врезались в дерево, духа сознаться не хватило. Владелец авто послал сообщение на внутренний чат со ссылкой на время и номера камер, которые он хотел бы посмотреть и описанием, что произошло. В течение суток (или быстрее) жители проголосовали с телефонов или личных ПК в чате за или против (не проголосовал - значит против) и, в случае набора нужного числа голосов, зашифрованный сервер расшифровал и выплюнул записи с камер в общий чат. Виновников нашли и они будут отрабатывать, вскапывая картошку. Данные с камер сразу идут в зашифрованном виде. Сервер располагается в отдельной бетонной будочке со стальной дверью с несколькими кодовыми замками чтобы любые несколько человек представляющих домохозяйства смогли вместе получить доступ к нему в случае необходимости - сервер пошлёт всем сигнал в чат, когда будка будет открыта. Также сервер всего лишь сборщик и резервное шифрованное хранилище - его уничтожение ничего не даст, так как все данные хранятся по кускам на устройствах жителей в зашифрованном и избыточном виде.
Если, например, все вокруг параноики и не доверяют друг другу, не доверяют конкретному человеку или боятся человека или группу людей, то получить данные с камер будет очень проблематично, т.е. будет так, как будто камер не существует вовсе, если не касаться органов власти, а рассматривать только взаимодействие людей в посёлке. Только когда есть, какое-никакое доверие между людьми и людей не слишком много, чтобы не потонуть в запросах и была возможность знать всех лично (действовал институт репутации) или близко к этому, можно воспользоваться камерами в случае ЧП или спорной ситуации. Естественно данные с камер, которые смотрят во внутренний дворик дома или лестничную клетку городской многоэтажки принадлежат исключительно жителям дома/лестничной клетки и запрос приходит исключительно им.
Мой пример, описанный выше, довольно скучный, вероятно, у меня не хватает фантазии, чтобы представить как всё может пойти наперекосяк. Меня заинтересовал Ваш пример с тем, как люди захотят подглядывать друг за другом. Думаете люди будут делать записи с камер (если к ним будет свободный доступ), чтобы "сталкерить" или ещё по каким причинам? Если позволяет время опишите худший сценарий, который можете представить, опять же учитывая то, что мы неким неназванным образом решили проблему органов власти желающих превратить камеры в инструмент контроля.
сервер расшифровал и выплюнул записи с камер в общий чат
... участники которого мигом забыли об угоне, потому что куда интереснее обсудить попавшего в кадр гражданина Иванова, мацающего за филейные части гражданку Петрову (по мужу). Вот почему в реальной жизни записи с камер достаются не общественности в чате, а "спецсубъекту" - сотруднику спецслужб, которому в теории параллельно, свою жену мацает гражданин Иванов или чужую.
Тут я уверен, что записи камер, т.е. результат запроса должен быть виден всем, так, если кто-то из голосовавших захочет проверить соответствует ли цель запроса реальности, он сможет это сделать. Такой проверкой можно найти того, кто слишком часто кричит волк - этот человек потеряет репутацию в глазах сообщества и возможность использовать камеры.
Интересное замечание насчёт секса. Понятное дело на улице мы с ним не столкнёмся (ну или сами себе злобные буратины), однако расставить камеры так, чтобы, например, ни одно окно, а с ним и личное пространство за ним, не попадало в объектив, будет сложной задачей. Также, например, кусочек двора может попасть в кадр, что тоже можно считать личным пространством. Теоретически эта проблема решается во время установки и настройки камер путём заблюривания частей картинки с окнами, например.
Но я вижу более глобальную потенциальную проблему на которую Вы намекаете: некие действия, которые не являются незаконными, но являются социально осуждаемыми и могут повлечь нежелательные последствия, возможно не должны быть запечатлены на камеру. Эти события невозможно разделить технически (пока у нас не будет сильного ИИ). Тут вопрос становиться плюсов и минусов: вы узнали кто поцарапал Вашу машину выезжая со стоянки двора, но Ваша жена узнала о том, что Вы зачем-то заходили в подъезд дома напротив. Это интересно и я поразмыслю об этом, спасибо за комментарий!
Мой пример, описанный выше довольно скучный, вероятно у меня не хватает фантазии, чтобы понять как всё может пойти наперекосяк.
Банально: все соглашаются делать такую систему, но так как все - не профессионалы, им некогда, то делать будут вполне определенные личности, которые и уговаривали людей на внедрение Большого Брата. Система делается таким образом, что вышеозначенные люди могут эту информацию просто брать и пользоваться, наплевав на то, кто там за что голосовал или не голосовал. Особо недовольных можно заткнуть, использовав камеры везде, до того, как их услышат кто-нибудь. Надо только начальный этап пройти - построить систему слежения, чтобы до ее ввода в строй никто не мешал. А мешать не будут пока верят, что это для его же блага. Все пойдёт не так с самого начала: все стратегии на доверии неустойчивы относительно эгоист/альтруист примерно с архея (прокариоты еще до кислородной катастрофы от этой проблемы страдали, и с тех пор ничего не изменилось)
Коллега все-таки предлагал рассматривать варианты, где все стороны (кроме угонщиков) живут в Раю действуют добросовестно, но все равно оказываются в Аду выходит какой-то АдЪ и Израиль (впрочем, сегодня это почти синонимы).
Спасибо за комментарий! Да, что-то типа неразрешимой проблемы с электронными выборами. Любой человек должен быть способен полностью понять как технически система работает, но это возможно только с бумажными выборами, поэтому электронные выборы всегда будет гораздо проще подтасовать. Мне нравятся бумажные выборы, однако, мне не нравятся системы основанные на показаниях свидетелей - их часто нет там, где они нужны, их память ненадёжна и они иногда врут.
Потенциальные пути решения проблемы технически неграмотных пользователей:
1) Существование поставщиков оборудования специально под эти цели с репутацией, подтверждённой технически грамотными специалистами и простыми для понимания схемами физической защиты этого оборудования от модификации, а также простым способом подтвердить аутентичность оборудования. Т.е. глаз и мобильного телефона с камерой и выходом в интернет должно быть достаточно для проверки. Это вводит некую минимальную планку технической подкованности, но в современном мире она не слишком высока.
2) Поддержка со стороны государства, заключающаяся в создании законодательной базы налагающей особую ответственность на производителя оборудования, а также ответственность за попытки модификации подобного оборудования.
Репутация поставщиков всё время будет проверяться на прочность технически подкованными пользователями (в том числе на вмешательство третьих сил), а модификация оборудования для собственной пользы будет очень невыгодна, если учесть потенциальные риски.
Система слежения всё-таки не настолько лакомый кусочек, чтобы нечистые на руку люди выстаивались в очередь, чтобы завладеть ей. Тут нет непосредственной выгоды, люди не совершают поступки за которые их можно тут же поймать за руку и начать шантажировать, а если и совершают, то чтобы поймать такой момент придётся потратить какие-то титанические усилия - оно того не стоит.
Не уверен, что стратегии на доверии не устойчивы. Не устойчивы стратегии на абсолютном доверии, а стратегии, в основном построенные на доверии, но способные показать зубы в ответ на агрессивные действия являются самыми устойчивыми/выгодными насколько мне известно из теории игр. Хотя может я не совсем верно Вас понял.
Возможно Вы имеете в виду, что система нестабильна в том плане, что если один пользователь поймает за руку другого, то это будет началом разлада в этом небольшом коллективе и со временем коллектив превратиться в игру "все против всех" и система слежения станет бесполезной - все будут голосовать против всех. В этом случае Вы правы, но я не уверен в том, что это будет происходить часто, всё-таки люди в основном настроены на кооперацию, особенно с людьми, которых они знают лично.
Вопрос ленивых жителей, которые не желают участвовать во всей этой кутерьме, поэтому допустим не голосуют (т.е. всегда против) или голосуют всегда одинаково, может быть проблемой требующей решения для нормального функционирования системы. Потенциально может существует много людей, которым изначально понравилась идея, но затем им стало скучно и влом читать о проблемах других людей. Думаю для этой проблемы также можно найти решение. Допустим возможность делегации своего голоса "главной бабушке дома" :) Или случайная делегация.
Проблема систем наблюдения ещё и в том, что
Ваше мнение о происходящем зависит от положения камеры
* Домашнее задание со звёздочкой
Хотя посыл этого ролика правильный — восприятие зрителем происходящего зависит от точки зрения — на самом деле ролик была снят одной камерой в три дубля, между которыми камера переставлялась в очередную "точку зрения", а актёры повторяли действия заново. Если внимательно сравнить все дубли, можно заметить различия в некоторых, казалось бы незначительных деталях. Таких деталей здесь не менее трёх. Найдите их. А также уясните, что доверять нельзя никому — даже тем, кто хочет предупредить вас, что вас обманывают ;)
Мне — можно!
Мне удалось обнаружить только одну неточность
В конце второго эпизода чел хватает сразу дипломат дядьки. В третьем же эпизоде он хватает самого дядьку, а не его дипломат.
Подравляю, Вы прошли тест.
Во втором дубле когда парень хватает дядьку, его левая ладонь лежит на правом плече дядьки спереди (отчётливо видна как белое пятно). В третьем дубле когда парень хватает дядьку, его левая ладонь лежит чуть пониже правой лопатки дядьки сзади.
Во втором дубле когда дядька "загораживается" от парня портфелем, в центре портфеля на пару кадров отчётливо видна пряжка (то есть пряжка направлена на парня). В третьем дубле когда мужик размахивается портфелем, чтобы "загородиться" им, на той стороне портфеля, которая через секунду окажется направлена на парня, пряжки нет. (Ну не обратил режиссёр внимания, что актёр вертел портфель в руках между дублями и в третьем дубле держал его не той стороной, что во втором).
Во втором дубле к моменту, когда парень схватился за портфель, дядька совершил всего три движения ногами (услышал парня, поставил правую ступнь на землю, развернулся вокруг неё, поставил левую ступню на землю, слегка раздвинул колени). На третьем дубле к моменту, когда парень схватился за портфель, дядька успел ещё совершить несколько мелких подпрыгиваний и пошире расставить ноги.
Проблема в том, что такой механизм можно будет обойти. На примере России видно, как власти при острой необходимости могут вращать на оси любые механизмы, которые в теории должны ограничивать их способность творить дичь.
Но наличие такого механизма всё же лучше его полного отсутствия. Потому что сейчас абсолютно ничего не мешает собирать огромные сети из городских камер и лить данные из них в распознавание лиц непрерывно.
Возможно, и поменяло бы, но в реальности такая ситуация, разумеется, невозможна.
Спасибо за статью, интересно было узнать новое для себя. Мне кажется, достаточно разработать на гос. уровне протоколы безопасности для ИИ, но ни в коем случае не приостанавливать деятельность организаций.
Я вижу тут ещё одну угрозу - окончательное опопсение культуры и искусства с катастрофическим снижением разнообразия.
Если зайти на любой ресурс, предназначенный для публикации результатов AI-генерации, или же отфильтровать ИИ-контент на тех имиджбордах, где за него не банят, то можно увидеть удивительную вещь: все эти ИИ-картинки очень похожи. Они выполнены в одном и том же "сглаженном" стиле, их содержание также не блещет разнообразием.
Поначалу подобное явление удивляет: в конце концов, ИИ - великолепный подражатель, любой стиль копируется на раз! А разгадка проста, и вы найдёте её сразу же, как только начнёте сами публиковать ваши работы.
Создаёте что-то в интересной и необычной стилистике, играете с композицией, вводите сюжет - а в ответ тишина, ну может два-три лайка и прилетит за неделю. Потом выдаёте стандартную хрень "как у всех", тупо скопировав популярный промпт - в первый же день две сотни лайков и четыре комментария.
И если живой автор как правило не может быстро взять и поменять стиль в угоду толпе, то оператор ИИ - может и будет, раз хочет популярности.
В итоге чем больше вокруг будет ИИ, тем сильнее начнёт оптимизироваться искусство. Всё будет одинаковым, пластиково-градиентным. Выпускаться станет исключительно попса, которая угождает максимально широкому кругу потребителей, а ничего по-настоящему качественного вы уже не увидите.
Поэтому люди считают, что уж как минимум разработчики ИИ должны лицензироваться. А в идеале и наборы данных для обучения должны как-то контролироваться.
Хуже предложений не видел
Основная сложность даже не в том, что исчезнут профессии и авторские права и так далее. Основная сложность что в гонке за эффективностью мы будем вынуждены слепо доверять ИИ в его решениях, потому что если ты будешь тратить время на перепроверку, конкурент рискнет и в случае выигрыша выкинет тебя с рынка. С рынка товара, с рынка глобальной безопасности, с рынка вооружений и т.д. Мы втягиваем слишком чувствительные к безопасности человеческого вида сферы в венчурную модель и обратного пути нет из за неспособности человечества договориться. Возможно это позитивный путь. Возможно. Нам этого уже не понять.
Как США, ЕС, Китай и Россия собираются зарегулировать ИИ