Комментарии 133
В эпоху глубоких нейронных сетей полную прозрачность обеспечить будет сложно.
Нейросеть работает как чёрный ящик. Объяснить, почему она сделала определённое решение по контенту, часто не представляется возможным.
А если говорить о автоматической блокировке контента, то там нуже механизм «мануальной» проверки и «возмещения ущерба» при ошибочной блокировке.
поразмыслить можно еще раз. "Веса" это, конечно, бесполезно, но принимающие участие в оценке параметры — запросто.
Да и далеко не всегда используются нейронки, существует и активно используется множество других алгоритмов: лес деревьев решений, системы на правилах, k-ый ближайший… И для них запросто можно получившиеся системы описать.
Просто нужна ещё одна нейросеть, придумывающая обоснования для действий первой. Кажется, это было у Пелевина.
Мне кажется, если часть вашего крупного бизнеса, которой вы делегировали принятие решений по "блокировать-не блокировать" работает как черный ящик для вас, вам стоит уволить отдел разработки.
"Если даже разработчик криптографического алгоритма будет понимать, как он работает, то уж хакеры всегда найти способ его взломать". Как-то так?
Эм… нет.
От Ютуба в целом требуют одного — более-менее честных и понятых правил игры на площадке. Пока что ютуб может снять монетизацию на ролике за что угодно и вернуть ее практически невозможно. Получается что видеоблоггеры зависят от системы, которую никто не желает понятно и разумно формализировать и им приходится проводить реверс-инжениринг системы, что бы понять как оно работает.
Хотите попасть в тренды — для этого недостаточно большого количества просмотров (хотя казалось бы, это логично), нужно еще понравится алгоритмам ютуба.
Слетела монетизация в ролике с оригинальным контентом, который подходит под правила сообщества? Вам ее никогда туда не вернут. И так далее.
Мне кажется, уместнее сравнивать ситуацию с CEO для сайтов, где у Google есть какие-никакие правила игры и инструменты для того, что бы отслеживать проблемы.
Хотите попасть в тренды — для этого недостаточно большого количества просмотров (хотя казалось бы, это логично), нужно еще понравится алгоритмам ютуба.
Как раз логично использовать алгоритм, работающий «непонятно», чтобы люди не знали, на какие параметры нужно делать упор при «раскручивании» роликов. Попадание в тренды обязательно должно быть сложным для накруток и этому способствует закрытость алгоритма, в противном случае мы могли бы смотреть в трендах всякие казино и букмекерские конторы.
По моему мнению, недоступность трендов для накрученных видеозаписей гораздо важнее, чем попадание туда блогера «А», или блогера «Б».
Слетела монетизация в ролике с оригинальным контентом, который подходит под правила сообщества? Вам ее никогда туда не вернут.
Гугл — огромная компания и стремится сократить расходы, в частности, на поддержку, рассматривающую подобные случаи. Для гугла все хорошо — монетизации нет, деньги выплачивать не надо, на поддержку тратиться не надо. А блогерок пусть еще пару гневных роликов выпустит, люди пусть их посмотрят, ютуб пусть рекламу покажет, денюжку заработает. Идеально.
Как раз логично использовать алгоритм, работающий «непонятно», чтобы люди не знали, на какие параметры нужно делать упор при «раскручивании» роликов. Попадание в тренды обязательно должно быть сложным для накруток и этому способствует закрытость алгоритма, в противном случае мы могли бы смотреть в трендах всякие казино и букмекерские конторы.
Разве вы не знаете, что "security through obscurity" не работает. Те, кто реально концентрируются на том, что бы пробится в тренды отлично пробиваются, а те, кто делают ролики в своем стили обычно туда не попадают. В трендах как раз после изменения алгоритмов появилось куча различной мути и исчезающе мало интересного материала.
Для начала разобраться бы что такое вообще Тренды и какая у них цель. И вот это описание, как мне кажется, и должно быть открытым, а конкретная реализация скорее не должна. Она может быть неизвестна (нейросеть) и постоянно меняться, для улучшения соответствия заявленным критериям.
Для даже стандартных алгоритмов вроде RSA способы взлома — известны. Просто либо нужно ОЧЕНЬ много времени для ключа заданной длины либо нужен полноценный квантовый компьютер, с чем пока сложности (и при этом — разработки постквантовых алгоритмов идут уже).
Но, правда, контекст тут несколько другой. И для видео (хотя бы для более-менее топовых каналов) должен быть контроль со стороны человека. Который посмотрит видел после нейросети сам и если будут причины для санкций, то опишет их внятно.
Полагаю, позиция Ютуба растет из позиции Гугла, который (как и Яндекс) не любит объяснять причины банов и пессимизаций, чтобы не упрощать жизнь тем, кто хочет обойти систему.
Мне кажется это капец какой отвратительной идеей, особенно потому, что это так и не работает. Те, кто хотят обойти систему довольно быстро находят новую дыру, а вот реальные блоггеры обычно довольно сильно страдают.
Разница с Ютубом в первую очередь в том, что нарушения внутри контента вообще плохо поддаются алгоритмическому анализу. Особенно если речь не о использовании чужих материалов (где тоже много косяков, но хотя бы можно формализировать задачу), а о том, что сам контент какой-то не такой.
И если новые и просто обычные аккаунты проще таки банить автоматически (т.к. создают их тоже часто не руками), то топовые каналы с множеством настоящих подписчиков это уже совсем другая история и подход нужно менять.
По хорошему, нужен четкий рапорт от нейросети, что она вот на 01:54:21 нашла символ нацизма/порнографию/товарный знак, в идеале еще и выделив его, а не просто нарушение правил некого общего пункта. И сделать возможность платной аппеляции, когда и если автор не считает нейросеть правой, то может задонатить 100$ и за эти деньги соберутся эксперты гугла + эксперты неких независимых сообществ, рассмотрят этот конкретный случай и вынесут окончательное решение.
Лет дцать спустя:
"Уважаемый %username%. Государственная глубокая нейронная сеть (ГГНС) на основании анализа вашего поведения за последний год приняла решение о Вашей досрочной экстерминации. ГГНС работает как чёрный ящик. Объяснить, почему она приняла такое решение не представляется возможным. Экстерминация состоится по адресу %address%, ровно в %datetime%. Просим не опаздывать."
— Почему вы удалили мой контент? Решение приняла нейросеть, объяснить не возможно, никто не понесёт ответственность.
— Почему его не приняли на работу? Решение приняла рекрутинговая нейросеть, объяснить не возможно, никто не понесёт ответственность.
— Почему в судебном деле убийца был оправдан? Решение приняла юридическая нейросеть, объяснить не возможно, никто не понесёт ответственность.
— Почему полицейский дрон убил человека? Решение приняла нейросеть полиции, объяснить не возможно, никто не понесёт ответственность.
Мммм. А просто не пользоваться YouTube этот блоггер не пробовал?
Так это их продукт с которым они могут делать что угодно.
Если люди не будут им пользоваться из-за дурных правил — либо продукт закроется, либо владелец изменит правила.
А почему проблемы кривости отношения к гуглу чиновников вы приравниваете к пользовательским?
Я повторяюсь. Вас что — заставляют пользоваться гуглом?
Попытку блогера считаю позитивным началом, интересно что получиться в итоге. Вангую — некое NDA соглашение по примирению сторон.
Интересно за что минусы… Гугл частная компания. Если кому то не нравятся их условия и правила — ими можно просто не пользоваться. Никто же не заставляет.
Все эти сервисы объединяет одно — они монополисты в том или ином виде.
Также непопулярна концепция, согласно которой каждый индивид сам несёт ответственность за свои действия, их последствия, и жизненную ситуацию, в которой оказался.
Вспомните об этом, когда на вас повесят кредит, который вы даже не брали, просто данные из государственной конторы утекли в даркнет.
Вы же понимаете, что абсолютно свободный рынок пусть и будет отлично регулироватся, будет перемалывать миллионы жизней людей из-за различных неурядиц "регулирования"?
Возможно, вы правы, но такими утечками должны заниматься правоохранительные органы, и причастные должны отвечать по закону. Лечить-то нужно корень проблемы, а не симптомы.
Это был просто пример того, что концепция персональной ответственности откровенно лажает как только вы вступаете в взаимодействие с другими людьми. И эти люди далеко не всегда добросовестные и вполне могут специально вводить людей в заблуждение. А ни разу за всю жизнь не ошибится еще ни у кого не получилось.
Возвращаясь к второму тезису, что я выдвинул, я больше имел ввиду, что некоторое регулирование помогает обратить внимание на некоторые аспекты, на которые рано или поздно обратили бы внимание, но уже после значительных проблем.
Нормальный пример?
Теперь ни лайк не поставить, ни в список посмотреть позже не добавить. На телефоне вообще ютуб не работает.
Писал в техподержку, мне тупо не ответили.
Успехов дядечке!
К сожалению на рынке сервисов сложились фактически монопольные правила. Т.е. формально может быть монополии нет, но поскольку крупных игроков очень мало они придерживаются общих «дискриминационных» по отношению к пользователю правил.
И как мне видится проблем несколько:
1. Возврат денежных средств и одностороннее изменение стоимости сервиса и правил монетизация.
2. Одностороннее отключение сервисов по внутренним экономическим причинам которая может затрагивать ОГРОМНОЕ число пользователей. ИМХО следует признать, что многие онлайн сервисы на данным момент являются социально значимыми, и нельзя подходить к ним как к исключительно бизнес проектам, это уже часть социально значимой инфраструктуры.
3. У сервиса, часто, есть две большие функции. Приватная, это ваши данные которые вы разместили на сервисе. И публичная, это те публичные функции сервиса которые вы используете, например в целях продвижения своих услуг или просто для общения.
3а. При блокировки пользователя по любым причинам он как правило теряет доступ к обоим частям, что не допустимо. Пользователь, даже если он заблокирован вполне оправданно, должен иметь возможность забрать свои данные.
3б. При блокировки или изменении «статуса» пользователя, пользователь теряет функционал заложенный в публичную часть. Или он просто заблокирован, или он не может его монетизировать. При это полностью отсутствует какая либо возможно арбитража или обсуждения, чаше всего даже нет полноценного объяснения действий сервиса и пользователь не всегда может понять, что же привело к его блокировке и практически никогда не имеет никаких рычагов хоть как-то повлиять на ситуацию.
4. Правила использования сервиса и работы с ПД фактически составлены полностью в интересах сервиса и вообще не учитывают интересы клиента. Чтобы не допускать подобного перекоса зашита частного лица по отношению к компании усиливается( например у нас это ЗОПП, в Штатах можно вспомнить кучу, на первый взгляд абсурдных, исков с не соразмерными компенсациями, типа иска за слишком горячий кофе или животных в микроволновке ). Но эти меры, усиления защиты, по чему-то пока не затрагивают онлайн сервисы, хотя они являются таким же товарам.
5. Поставщик навязывает сервисы. Т.е. покупка товара требует подключения онлайн сервиса компании с принятием его политик. Например некоторой техникой xiaomi невозможно полноценно пользоваться без mi account, хотя по факту он совершенно не нужен многим пользователям. Или android телефоны, фактически требуют google account, при это я не могу даже бесплатные приложения с маркета скачать и нет общедоступных альтернативных площадок их дистрибуции, а их установка из альтернативных источников, которые могут использовать только достаточно квалифицированные пользователи, связанна с рисками.
Особенно интересен первый пункт (ложная самозанятость). Не знаю про Германию, но в Австрии реально есть практика по этому пункту. Вопрос только в том, получится ли доказать, но изначальное согласие истца с правилами в таком случае вообще не имеет значения.
Гугл в данном случае равен конторе, выдающей на прокат электродрели. и она совершенно не несет ответственности за доходы лица, навертевшего дырок за деньги третьим лицам.
Это не так. Гугл в данном случае и сам берёт деньги с третьих лиц за эти самые «дырки». Как минимум косвенно. И следовательно его вполне себе могут прижать по закону о ложной самозанятости.
Почему здесь важны тонкости — если предположить что ситуация очевидна, то тогда иск бы появился давным давно (либо конкретно этого пункта бы не было если ситуация очевидно работает в пользу гугла).
Если юристы говорят что такой вариант возможен значит это либо смелый блеф…
Почему здесь важны тонкости — если предположить что ситуация очевидна, то тогда иск бы появился давным давно
Скорее всего да, потому мало верится в успех. Скорее инфо-картинка.
Если присмотреться, то требования и угрозы не связаны между собой. То есть удовлетворение требований (открыть критерии и т.д.) не лишает кого-либо другого всё равно подать иски (по «ложной самозанятости» и «GDPR»).
То что ключ и деньги не связаны не отменяет того, что я не блефую. И не отменяет того, что я могу бахнуть ключом, даже если ты отдашь деньги.
Правильно так «есть люди с большими гаечными ключами, один из них я, кто-то может Вас бахнуть». Суть в том, что данный блогер хоть и может отказаться от суда сам, но не может повлиять на других блогеров.
Или ещё лучше — от случайного прохожего, «Вы запарковались где запрещено, заплатите и я не позвоню в полицию». Но только не лично, а через интернет — угадайте, как быстро появится другие такие прохожие, а то и вообще полиция?
В каком немецком законе гугл трактуется как работодатель?
Конкретно закон поищите сами, если надо. По термину Scheinselbständigkeit. По закону работодатель — тот, кто дал работу, название фирмы не важно.
Ложная самозанятость — это проблема лица, не платившего налоги и социальные взносы.
Нет. По закону, ответственность возлагается на работодателя, компенсирует выплаты именно он.
Гугл в данном случае равен конторе, выдающей на прокат электродрели. и она совершенно не несет ответственности за доходы лица, навертевшего дырок за деньги третьим лицам.
Совершенно верно. Вопрос только в том, удастся ли доказать Scheinselbständigkeit. Если строительная фирма делает ремонты и посылает бригаду рабочих, но по бумагам это не рабочие а «они просто арендовали дрели» — то это именно оно и полная ответственность фирмы. А если не удастся — то нет.
Я тоже в Украине арендовал стол и компьютер у своего работодателя, но законы в Украине и Германии немного отличаются.
Одинаковые законы везде.
Во первых — неправда. Трудовое законодательство США и Германии существенно отличается. А в России и Украине вроде то же самое, но просто не работает.
Google никак не выступает в качестве работодателя. Хотя бы потому, что никаких контрактов по трудоустройству не подписывает.
А во-вторых именно от этого немецкое трудовое законодательство и защищает своих рабочих.
Ровно так же, как обеспечивается 8-часовой рабочий день и социальная защита даже там, где есть переизбыток рабочих рук и люди готовы были бы «добровольно» от них отказаться.
А вот сможет ли данный конкретный блогер доказать, что имели место «трудовые отношения» — вот это большой вопрос. Мне это кажется крайне маловероятным в данном конкретном случае, но вот он и его профсоюз угрожают, что получится.
Гугл в данном случае равен конторе, выдающей на прокат электродрели. и она совершенно не несет ответственности за доходы лица, навертевшего дырок за деньги третьим лицам.
Как минимум в германии контора которая выдает на прокат электродрели и получающая за это доход, обязана заплатить с этого дохода налог…
Если гугл будет упираться в такую трактовку, то его это не спасет от выплат. Вопрос для юристов гугла будет состоять в том как трактоваться с условием наименьших затрат.
одновременно с этим блоггер может включить монетизацию самого google и тогда пользователь смотрит на баннеры или пропускаемые вставки. в этом случае площадка выдаёт дрели и контролирует количество и качество просверленных отверстий. деньги поступают также от самого google, т.е. его в некоторой степени можно сравнить с фриланс биржей.
людей вообще крайне сильно разбаловали «бесплатными» сервисами, free-to-play играми и мобильными приложениями с микро платежами. и подобных «протестов» будет только больше, с прогрессом деградации и отупления широких масс пользователей.
пользователь сам приходит к гуглу, сам принимает пользовательское соглашение и сам подписывает свой канал к партнёрской рекламе от того же гугла — достаточно странно удивляться возможным ограничениям.
Если местный телеканал по документам оформит всех журналистов как «блогеров», достаточно странно удивляться, что его таким образом прижмут. В Украине некоторые программисты просто арендуют у фирмы стол, стул, комп и 10 метров площади, а потом просто коммитят код в репозиторий и получают за это гонорары, и «чисто случайно» они это делают 8 часов в день и гонорары выходят на удивление одинаковые.
с ютубом то же самое. есть законы и правоприменительная практика (не важно насколько тупые, неправильные и некорректные). администрации проще ботом распознать такой контент и удалить/ограничить, чем вручную пересматривать килочасы котов ежесуточно. само по себе удалённое видео, даже у канала на 2млн, это статистический ноль — ничего личного, просто бизнес. шумиха вокруг — да, может подействовать, но тогда по итогу всё равно придут к явным контрактам, где «блоггеры» будут в лучшем случае подрядчиками или вроде того.
бунтовать же и требовать каких-то прав — можно конечно, но до первых ощутимых потерь со стороны google. дальше они просто скорректируют правила как им удобно ( ==как меньше платить по итогу на штрафы/суды) и на этом всё закончится. по сути никому там не интересны права отдельных блоггеров и заниматься этим должно быть достаточно уныло.
К требованиям — антимонопольное законодательство вполне можно притянуть.
К угрозам — как ниже написал один из комментаторов, возможно немецкие законы позволяют неочевидным образом связать частное предпринимательство с прозрачностью правил. Это единственное разумное объяснение происходящего.
это все бизнес решения.Да, но Youtube упорно ведёт себя так, будто бизнес там только у него. Если посчитать, сколько суммарно зарабатывают блогеры, то там «бизнес» выйдет не меньше, а Youtube фактически решает, кого в этот бизнес пускать, а кого нет.
бизнес гугла не имеет никакого отношения к бизнесам блогеров.Да ладно? Блогеры привлекают аудиторию, рекламодатели заказывают у них рекламу через автоматизированную биржу, а Гугл, как владелец биржи, берёт себе «процент за обслуживание». То есть бизнес Гугла существует за счёт бизнеса блогеров.
Если удастся доказать первый пункт из его ультиматума, то будет весело.
Но не совсем. Это я могу. А Billa не может просто так отказать компании Pepsi продавать их воду. И YouTube, который приблизился (а то и перегнал) по статусу Billa, уже тоже может попасть под законы о конкуренции.
Посмотрите например про разные бонусы за реализацию.
Не может Billa отказаться продавать потому что «не нравится». Там по закону нужны правила, мало того что известные и одинаковые для всех, так ещё и убедительно обоснованные для местного регулятора.
Не так давно на хабре же была статья про то как живут и работают модераторы подобных сервисов. Многие из них от работы сходят с ума черед пол года — год… при том что они фильтруют только подозрительный контент, на который указывают алгоритмы.
Ютуб вроде бы практикует нечто подобное, но, судя по всему, касается это только реакции на страйки, а не самих страйков. То есть уменьшаются шансы, что грохнут сам канал, но геморрой с оспариваниями в случае ложных решений все равно сохраняется.
Требуют прозрачности их работы.
Плюс вот вы заявлете что модераторов нехватает.
Так и не надо модераторов на каждого ютубера.
Мелкие каналы можно банить автоматически.
А крупные — приностя достаточно денег, чтобы каждое срабатывание автоматической системы проверялось вручную.
Ведь те поводы, по которым хотят подавать в суд, никуда не пропадут.
Одно из условий отличающих свободного предпринимателя (по немецким законам) является свобода принятия решений касающихся его бизнеса, а в случае с гуглом и его драконовскими и непрозрачными правилами да монопольным положением на рынке, он (гугл) может в один момент лишить предпринимателя его бизнеса, отсюда аналогия с трудоустройством и увольнением. Мне кажется юристы IG Metall на это и будут напирать.
Требуя от ютуба прозрачности ведения бизнеса и возможности получать возмещения ущерба в случае ложных срабатываний алгоритмов, можно приравнять блогеров к самозанятым (нем. Selbstständig — предприниматель).
Как в том анекдоте: «либо крестик сними, либо трусы одень»
Либо ютуб делает все процессы прозрачными либо все (по крайней мере немецкие) блогеры будут считаться ложными предпринимателями.
Перевод: «Youtubеры работали по строгим правилам, их постоянно проверяли и оценивали, а получение денег за продажу рекламы осуществлялось через Youtube, а не самим Youtubером.»
(ошибся веткой)
Очень хорошая инициатива. Хотелось бы побольше присоединившихся к давлению.
Правильно заметили, тот же беспредел в сторах.
Но в большинстве случаев, по словам того же Павла, видео нарушают какие-то из приницпов ютуба, список которых можно найти в открытом доступе.
Блогер выдвинул ультиматум Ютубу. В случае невыполнения грозится отсудить у компании миллионы долларов