«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний


    «Темные паттерны» (dark patterns) — это такие схемы вовлечения пользователя в продукт, при которых происходит игра с нулевой суммой: выигрывает продукт, а проигрывает потребитель. Говоря проще, это непротивоправное склонение пользователя к определенным действиям.


    Как правило, в обществе за разрешение таких вопросов отвечает мораль и этика, но в технологиях все движется так быстро, что мораль и этика попросту не успевают. К примеру, когда Google попытался сделать свой комитет по этике искусственного интеллекта, он развалился спустя всего неделю. True story.



    Причина, на мой взгляд, следующая. Технологические компании понимают всю глубину проблемы, но, увы, не могут разрешить ее изнутри. По факту, это два противоположных вектора и намерения: 1) выполнять свои квартальные цели по прибыли, охвату и вовлеченности и 2) делать хорошо гражданам в долгосрочной перспективе.


    Пока лучшие умы бьются над решением этой проблемы, самое эффективное, что получилось — это делать продукты на бизнес-модели, в которой клиент сам платит за продукт (или кто-то платит за него: работодатель, спонсор, папик). В рекламной модели, которая торгует вашими данными, решить проблему непросто.


    И в этот момент на сцену выходят регуляторы. Их роль — выступать гарантом гражданских свобод, морали и базовых правил (а также на основе популистских законов приходить к власти в следующем сезоне). Государства в этом смысле крайне важны. Проблема только в том, что они очень медленные и крайне неадаптивные: попробуй создать своевременный, прогрессивный закон. Или отменить закон, если ты его уже принял, и вдруг понял, что он не работает. (Законы про часовые пояса не считаются.)



    Надо сказать, появление в конгрессе США Цукерберга (Facebook), Пичаи (Google) и Дорси (Twitter) год назад спрвоцировало много интересного движа. Сенаторы начали придумывать законы, которые помогают что-то ограничить: распространение и использование личной информации пользователей, использование в интерфейсах «темных паттернов», и т.п.


    Последний пример: пара сенаторов недавно предложила ограничить механики, вовлекающие людей в использование продуктов путем манипуляций. Как они будут определять, что является манипуляцией, а что нет — неясно.


    Тут очень тонкая грань между когнитивными искажениями, желаниями и намерениями разных сторон. В этом плане, воспользоваться простым пользователем гораздо проще, чем главой корпорации, но у всех есть собственные когнитивные искажения. И это, во многом, ровно то, что нас делает людьми, а не просто размножающимися биороботами.



    Сравнение рыночной капитализации технологических компаний и ВВП стран Европы (2018).

    На самом деле, очень похоже, что власть старая офигевает от того, сколько у новых технологических компаний власти новой:


    1. Если бы Facebook был государством, то он бы был самой большой страной по числу граждан (MAU 2.2 млрд.), в полтора раза опережая Китай (1.4 млрд) и Индию (1.3 млрд). При этом если лидеры де-юре демократических стран сменяются каждые 4-8 лет, в капитализме практически нет механизмов отстранения лидера, если он владеет контрольным пакетом акций.
    2. Google сейчас знает о намерениях и желаниях людей больше, чем все пасторы, шаманы, оракулы и священники за все время существования мировых религий. Такая власть над данными беспрецедентна во всей записанной истории человечества.
    3. Apple заставляет нас делать удивительные вещи: оплачивать сверхдорогую ежегодную подписку на тысячедолларовый карманный компьютер, например. Попробуй отпишись: это сразу меняет восприятие твоего социального статуса, коцает репутацию инноватора, и понижает интерес противоположного пола. (Шучу.)
    4. До 40% облачной инфраструктуры, на которой крутятся Интернет, принадлежит Amazon (AWS). Компания является доминирующим «снабженцем» планеты, и отвечает за хлеб, информацию и зрелища.

    Что дальше? Думаю так:


    1. Американская версия GDPR не за горами.
    2. Технологические компании подвергнутся серии антимонопольных рассмотрений.
    3. Внутри тэк. компаний будет зреть недовольство негуманистическими политиками, и сотрудники попытаются больше влиять на решения руководства.

    А вы что думаете о регуляции гостударством продуктовых и дизайн-паттернов?

    Поделиться публикацией

    Комментарии 15

      0
      Я думаю, что не за горами цифровая тюрьма.
        +1
        И туда посадят всех цифровых пустозвонов :-)
        0
        Для чего нужно государство (гос. аппарат) в современном мире?

        Бизнес, конкурируя друг с другом, обеспечивает людей всем необходимым от рождения и до смерти на местном и глобальном уровне: едой, жильём, транспортом и доставкой, связью, развлечениями, медициной, образованием, работой (занятостью), безопасностью, пенсионным обеспечением и пр. Социально-ориентированного бизнеса, наверное, нужно чуть больше, и когда его станет больше, государство станет совершенно не нужно.

        Государства на наших глазах теряют своё влияние на общество и многие сферы жизни, не справляясь ни со своими обязательствами, ни с опережающим их во всех аспектах бизнесом, которому, словно несущемуся поезду, пытаются ставить палки в колёса. Мир уже по большей части принадлежит корпорациям и управляется ими.
          +1
          Вы не понимаете сущность государства. Основная цель государства — подавление правящим классом всех остальных при помощи полиции, армии, спецслужб и прочего. Это очень дорогой инструмент, одна корпорация такого себе позволить не может. Поэтому, корпорации и крупный бизнес кооперируются, скидываются в общак, и в этот же общак собирают подати с населения, из которого финансируют остальное — медицину, социалку, инфраструктурное строительство и так далее…
          До тех пор, пока все корпорации не сольются в одну монополистическую сверхкорпорацию, государство ещё нужно как некий арбитраж между ними всеми.
            0
            Государство в любом случае будет нужно, т.к. будет много людей, не охваченных корпорацией напрямую. Да и невыгодно быть государством даже мегакорпорации — все эти войны, границы, лесные пожары, пенсии, пособия — это траты лучше возложить на своих же работников и случайно выживших частных предпринимателей (фрилансеров надо же «стричь»?).
              0
              Немного расширю ваш комментарий.

              Цель существования любого государства — это защита самого себя. Государство, есть диктатура правящего класса. Правящий класс, в лице капиталистов, защищает себя любыми способами, чтобы сохранять свое влияние на общество, обслуживать свои интересы и главное увеличивать капитал.

              Современные технологические компании увеличивают свое влияние на общество и могут эффективно им манипулировать за счет обладания большим количеством данных. Такие манипуляции могут привести к конкуренции за место правящего класса.

              Подобные регламенты (GDPR) направлены на снижение влияния компаний на общество, что не нравится, естественно, самим компаниям. Но эта борьба всегда «заправляется соусом» для общественного блага.
                0
                Да, так и есть. Технологические корпорации получают преимущество, и их одёргивает конвенциональный крупный бизнес, который пока ещё больше, чем эти технологические корпорации. Но рано или поздно, они его под себя подомнут.
              +1
              Бизнес не обеспечит вам медицину там, где нет дорог, а дорог не обеспечит, поскольку у вас нет денег.
              А денег нет, потому как вы добровольно отдали их охранной структуре чтобы сохранить ноги непереломанными.
              «Мы сможем выбрать другую охраннуюб структуру», слышен писк, с трудом прорывающийся сквозь ломаемые пальцы.
              Вам никто этого не даст, кто вы такие, чтобы ради вас рисковать ссориться с людьми?
              Вы за годы принесёте прибыли меньше, чем будут стоять тёрки с другой структурой.
              Кому вы будете жаловаться? Спортлото? Государства с ререссивным аппаратом нет и единственный репрессивный аппарат — те самые охранные структуры.
              Как вы и хотели — работают очень эффективно.

              Конечно, чиновник или ФСБник, сбивший на переходе, скорее всего сейчас отмажется (или нет — тут как повезёт), но на него хоть в теории может найтись управа, в случае с бандформированием вы просто получите недопротогосударство, в которым вы будете даже не ресурсом, а сырьём.
                0
                Такие же страшилки можно и про государства писать, прямой подстановкой.
                  0
                  Проблема в том, что вы можете про это писать страшилки, а лет 20-30 назад вполне обычным было «а это наша крыша» и никаких сомнений в том, что подобные ребята, став самым большим реперссивным аппаратом, будут делать что хотят. Причём, государство — большое, неповоротливое, имеющее кучу кланов с разными интересами и приходится делать что-то типа сдержек и противовесов, а эти будут собирать здесь и сейчас, этап роста. Потом поделят, успокоятся, станут тем самым государством, но период роста вам не понравится.
              0
              А как вы относитесь к государственным соцсетям (да да по паспорту), где вас могут забанить только по решению суда?
                –1
                Отрицательно. Пока суд да дело тролль успеет изжить из сети сотни условных бабушек. Бан должен быть быстрым и резким.
                А вот обжалование бана через суд — дело неплохое. Причём это вполне возможно и сейчас и в текущих сетях при особой трактовке существующих законов. Ну там кабальные пункты соглашения, публичные оферты и прочий правовой матан. При устоявшейся, конечно, не получится.
                  0
                  Гос. соцсети — дело бесполезное. В новую сеть никто не пойдёт, а если существующую крупную национализировать, она будет медленно умирать. Народ пойдёт общаться туда, где нет регуляции. Например, в minecraft свои домики строить и на их стенах посты писать. Можно и minecraft тоже национализировать — пойдут дальше в другое место.
                  0
                  Американская версия GDPR не за горами.


                  CCPA уже с 1 января 2020 года, она еще не настолько сурова, как GDPR, но уже достаточный сдвиг.

                  CCPA покрывает Калифорнию, поэтому так или иначе изменит рынок всего США и сильно отразится на мире.

                  Будет настроение — напишу статью, я сейчас занимаюсь проектом по оценке влияния обоих на архитектуру, процессы и организацию.

                  Поэтому, в сущности, все уже произошло.
                    0

                    Я интересно, напишите плз!

                  Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                  Самое читаемое