Нейросеть в этом примере не ищет цифры, она распознает какая именно рукописная цифра ей предъявлена, от 0 до 9. Так что как раз приведенный пример вполне можно было бы интерпретировать именно как то что данный нейрон «узнает» двойку среди всех остальных цифр. Но авторы, вообще говоря, таких обобщений не делали, на картинке Fig. 1b, по их мнению, изображены картинки на которые реагирует нейрон, распознающий полукруглый штрих в верхней части картинки и прямой штрих в нижней.
Кроме того в чем странность логики-то? Авторы не изобретали своей логики, они использовали типовой штамп исследователей нейросетей который заключается в том что если отдельный нейрон срабатывает, скажем, при предъявлении в серии картинок картинки Дженнифер Лопес и не срабатывает при предъявлении других картинок из серии, то этот нейрон занимается тем что «узнает» Дженнифер Лопес. Эта серия картинок — как раз моделирование подобного эксперимента и это моделирование ставит под вопрос эту логику.
Что касается Вашего мысленного эксперимента, то в гугловском эксперименте искалось-то не одно, максимальное, изображение, а серия. И логично предположить что для Вашего гипотетического котико-собачьего детектора в этой серии окажется какое-то число изображений котиков и какое-то число изображений собак, что, собственно, и будет служить для наблюдателя подтверждением версии о том что этот нейрон детектирует кошек и собак. При этом в исследовании, вообще говоря, не рассматривались нейроны выходного слоя, поскольку с ними все более-менее и так ясно, их выходы напрямую оптимизируются под желаемый результат. Вопрос стоял в том как именно они этого результата достигают и в рамках этого вопроса рассматривалась популярная гипотеза о том, что нейроны промежуточных слоев детектируют какие-то разумные признаки типа, к примеру, наличия на картинке животного или наличия на картинке ушей. Из практики известно что действительно если взять отдельный нейрон в обученной сети и посмотреть на какую серию картинок он реагирует, то между картинками этой серии можно найти много общего (ну то есть например на всех картинках будут присутствовать уши). Этот результат сейчас часто принято интерпретировать как свидетельство правильности гипотезы о том что сеть декомпозирут сложную проблему (распознавание котов и собак) на более простые (поиск ушей в изображении). Гугловская работа ставит этот тезис под большой вопрос поскольку показывает что подобные «общие признаки» в серии можно найти и просто взяв случайную смесь нейронов выбранного промежуточного слоя.
Что происходит в мозгу у человека я не знаю — да и, полагаю, никто не знает. Меня интересуют лишь компьютерные нейронные сети, биологические — это отдельная самостоятельная тема (и там вполне возможны аналогичные косяки с интерпретацией результатов экспериментов)
Относительно Вашей реальной сети, я не могу Вам ничего содержательно возразить пока Вы не объясните мне что у Вас за сеть.
Что за картинки генерируются Вашей сетью? Обычно сеть используют для распознавания картинок и именно этот эксперимент был поставлен в Google. Я проинтерпретировал Ваши слова аналогично гугловскому эксперименту: Вы взяли сеть и обучили её на базе из некоторого кол-ва картинок распознавать картинки где есть бабочка. Затем Вы стали смотреть какие картинки вызывают срабатывание каких нейронов (аналогично «нейрону Дженифер Астон») и нашли что этот нейрон срабатывает, скажем, если законцовка крыльев бабочки имеет рыжий цвет. Вот в рамках этой модели если Вы возьмете не один нейрон, а случайную комбинацию из десяти и посмотрите что вызывает срабатывание этой комбинации, то окажется, что есть некий признак (возможно совершенно несхожий с признаками каждого из 10 использованных нейронов) который соответствует этой комбинации.
Но, судя по всему, у Вас какая-то другая модель нейросети, которая не распознает, а генерирует картинки? Можно ли узнать какие?
Если их между собой смешать вы получите птичку, которая сдвинута выше, а полосатые зоны на крыльях подсвечены. Но новым признаком это явно не является.
Так в том и суть. Кажется что должна получиться полная чушь. А на практике этого не случается. И я не думаю что это ошибка ребят из гугла, поскольку они реально поставили соответствующий эксперимент, а следствие фатальной ошибки в методике поиска «детектируемых признаков».
Веса, влияющие на какой-то один определенный выходной нейрон могут быть распределены среди произвольного количества нейронов предыдущего слоя — главное чтобы в сумме они достигали его порога.
Так в этом случае признак просто отображается на этот единственный выходной нейрон — значение его активации прямо коррелирует с наличием признака, верно?
А популярная идея состоит в предположении что не только выходной, но и в целом каждый нейрон в сети есть отображение какого-то признака, начиная с простейших в нижних слоях и постепенно усложняющихся по мере приближения к выходному. А на выходном, соответственно, признак самый сложный. И стало быть чем больше слоев в сети — тем более сложные признаки сеть сможет детектировать. То есть нейросеть не просто случайным образом перемешивает данные, а вначале разлагает их на какие-то фундаментальные осмысленные кирпичики, а затем «собирает» из этих кирпичиков некий осмысленный критерий.
Математически в этом нет смысла, но можно придумать методику исследования нейросетей которая создает иллюзию того что и отдельные нейроны в сети действительно детектируют осмысленные фичи. Получается недоказуемая, но вроде бы как подтверждаемая экспериментально теория. А гугловская работа интересна тем что там приводятся сильные аргументы показывающие что «экспериментальные доказательства», по видимому, являются простым артефактом используемой методики и выдаванием желаемого за действительное.
В статье рассматриваются полносвязанные и многослойные конструкции, причем взяты они не с потолка, а из эффективных и часто используемых реализаций
For the MNIST dataset, we used the following architectures [11]
– A simple fully connected, single layer network with a softmax classifier on top of it. We refer to this network as “softmax”.
– A simple fully connected network with two hidden layers and a classifier. We refer to this network as “FC”.
– A classifier trained on top of autoencoder. We refer to this network as “AE”.
– A standard convolutional network that achieves good performance on this dataset: it has one convolution layer, followed by max pooling layer, fully connected layer, dropout layer, and final softmax classifier. Referred to as “Conv”.
The ImageNet dataset [3].
– Krizhevsky et. al architecture [9]. We refer to it as “AlexNet”.
10M image samples from Youtube (see [10])
– Unsupervised trained network with ⇠ 1 billion learnable parameters. We refer to it as “QuocNet”
Некоторые особенно пессимистичные выводы попросту неверны.
А мне кажется что как раз верны и тезис о дескремблировании особенностей есть выдавание желаемого за действительное. Прочитайте статью-то. Там показано что то что обычно выдается за «детектируемую нейроном „фичу изображения“ на самом деле, по видимому, есть либо свойство тестового набора данных, либо целого слоя нейросети, но никак не отдельных нейронов.
Традиционный подход ведь как устроен? Возьмем какой-нибудь нейрон и посмотрим какие входные данные из обучающей выборки максимизируют его активацию. Получим некий набор картинок. При этом этом окажется что во всех этих картинках будет какой-то общий элемент, идентифицируемый с этим вектором. Отсюда стало быть заключаем что нейросеть самостоятельно нашла этот общий элемент и выбранный нейрон как раз его детектирует. Логично?
А теперь посмотрим что сделали ребята из Google. Вместо того чтобы искать в обученной нейросети вектор который бы максимизировал отклик какого-то одного нейрона (или набора нейронов), они считали взвешенную сумму активации всех нейронов одного слоя, выбирая при этом совершенно случайные веса. То есть результаты отдельных нейронов одного слоя просто случайным образом перемешивались в некую кашу, которая заведомо никакому детектированию специально не обучалась. Но прогоняем тот же самый процесс поиска в обучающей выборке изображений максимизирующих отклик этой случайной смеси, пристально вглядываемся в результат — и, надо же, тоже находим на картинках совершенно явные общие элементы. Упс. То есть одиночные нейроны в рамках подобной методики „дескремблируют“ изображение ничем не лучше чем случайная смесь из нейронов. Но как можно говорить тогда о том что нейросеть раскладывает входные данные на отдельные осмысленные компоненты, по одному на нейрон?
Понятно что для любого классификатора можно найти такой шум который заставит его ошибиться. Понятно что дообучая классификатор с использованием такого шума можно получить улучшенный классификатор, которому для ошибки потребуется шум побольше.
Проблема в том насколько большой требуется шум. Нетривиальность гугловской работы состоит в том что они показали что, по видимому, для больших нейросетей всегда достаточно очень небольшого шума. Там приводится хорошая аналогия: представим себе классификатор как нелинейную многомерную ф-ю соответствующую «уровню достоверности» того что поданный на вход объект принадлежит заданному классу. Тогда «традиционные» классификаторы построят непрерывные функции — небольшие изменения входных данных не будут сильно менять значение ф-и. Для нейросетей же это не так — более того, показывается что они всегда строят «разрывные» функции — в небольшой окрестностях любой точки находятся сильно отличающиеся значения ф-и классификации.
Что до оптимистических тезисов, то они, по сути сводятся к радостному предположению что хотя для любой нейросети всегда можно построить близко расположенный контрпример, но вероятность случайно найти этот контрпример стремится к нулю. «Небольшой» ньюанс, однако, состоит в том что как-либо обосновать или доказать это утверждение никто даже не пытается. Это снова вопрос веры. Раньше люди верили что достаточно большие и достаточно глубоко обученные нейросети не будут ошибаться на простых примерах вообще, теперь верят в то что вероятность ошибки стремится к нулю.
For all the networks we studied (MNIST, QuocNet [10], AlexNet [9]), for each sample, we always manage to generate very close, visually indistinguishable, adversarial examples that are misclassified by the original network
ALL the networks FOR EACH SAMPLE.
Мало того, там дальше еще интереснее:
A relatively large fraction of examples will be misclassified by networks trained from scratch with different hyper-parameters (number of layers, regularization or initial weights)
Т.е. мало того что для каждой сети и каждого элемента выборки можно построить ложное срабатывание неотличимое визуально, при переобучении сети с другими параметрами в значительном числе случаев тот же самый контрпример изначально построенный для другой сети сработает снова.
A relatively large fraction of examples will be misclassified by networks trained from scratch trained on a disjoint training set
То есть можно обучать сеть вообще на других данных, и все равно значительная часть контрпримеров сработает и для этой, новой сети.
Шум только ухудшит ситуацию. Там проблема в том, что нейросеть абсолютно ничего не гарантирует за исключением того, что она пристойно работает на обучающей выборке. Если взять любую сеть и любую точку обучающей выборки, то для этой точки можно сравнительно легко построить два направления — по одному выход детектора будет меняться максимально быстро, по другому — максимально медленно. Пройдя по первому направлению некоторое время мы довольно скоро добьемся изменения результата распознавания, пройдя по второму — сможем долго идти не меняя результата распознавания. Вопрос стоит только в том насколько мало придется пройти в первом случае и насколько много можно пройти во втором. Вот это, собственно, в гугловском исследовании и было проверено и, на мой взгляд ожидаемо, показало что для широкого диапазона применяемых сегодня нейросетей идти в первом направлении достаточно всего чуть-чуть, а во втором можно уйти очень далеко — см. картинки выше. И от того что Вы добавите к входным данным шум, Вы ничего в этой ситуации не поменяете — просто сдвинете начальную точку (причем вполне возможно сломав при этом правильный выход с детектора). Проще говоря в гугловской работе отлично показано что нейросети НЕ обладают двумя волшебными свойствами которые им без какого-либо обоснования приписывают:
1) способности к разумному обобщению данных
2) способности к надежному отделению выборки от всех остальных данных
А потому никаких гарантий работоспособности для нейросетей в общем случае нет и быть не может. Разве что взять исчерпывающую обучающую выборку которая почти полностью закроет пространство возможных входных данных. Но при наличии такой выборки в нейросетях нету смысла — проще тупо искать наиболее похожий вариант из выборки, при такой плотности обучающих данных работать этот подход будет не хуже.
… то ничего принципиально не поменяется. Если хэш-функция «сложная», то к ней и одной коллизию будет подобрать фантастически сложно, а если две «простые», то коллизию для них найти будет сравнительно несложно.
Ха, а я как раз примерно такого результата от нейросетей и ожидал после студенческого еще опыта работы с ними. И был честно говоря неприятно удивлен работами Google по нейросетям, поскольку мне казалось что это явная дорога в тупик, тогда как Google подавал нейросети чуть ли не как панацею и чудо-алгоритм за которым виднеется явное будущее систем распознавания :)
Ну что же, моя вера в Google восстановлена :). Статья великолепная, прекрасно иллюстрирует всю глубину распространенных заблуждений о нейросетях и особенно ценна тем, что написана людьми, которые являются одними из лучших на сегодняшний день в предметной области. Надеюсь что она подействует отрезвляюще на специалистов считающих нейросети надежным и эффективным способом решения сложных проблем.
Я не очень понимаю, в чем ценность данного примера? Я ничего не имею против, чтобы в ситуации когда никаких других критериев для принятия решения о доверии человеку нет, использовать такие захудалые признаки как наличие костюма, возраст или открытое лицо. Можно еще монетку кинуть — тоже вполне себе вариант ответа на Вашу модельную ситуацию. Решение-то какое-то все равно придется принять. Просто оно ничего не будет говорить о сравнительной значимости этого критерия по сравнению со всем тем, что Вы лихо в рамках примера потребовали попросту исключить из рассмотрения. К примеру выше уже советовали оставить вещи на хранение семье с детьми — это, имхо, на порядок лучший критерий чем отсеивать кандидатов по наличию костюма.
Насчет тревожности — это Вы сейчас как раз о страхе «непонятных», «отличающихся» людей пишете. Этот страх инстинктивен, он родом из нашего первобытного прошлого, он проявляется по-разному и я считаю его безусловным злом, т.к. он заставляет людей придавать совершенно неадекватно большую значимость довольно незначительным различиям. Возьмите, к примеру, из близких по смыслу примеров маккартизм в США. Там была примерно та же логика: эти коммунисты не разделяют некоторых наших общепринятых обществом идей, следовательно они опасны и аморальны. И на этом примере хорошо видно к каким последствиям подобные идеи приводят в неплохом и свободном в общем-то обществе.
А тут не надо просить. Есть определенные правила поведения в обществе.
Общество обществу рознь, в одних кругах принято надевать костюм, в других (и притом близких Брину) — нет. Есть и общества где дресс-код чрезвычайно формален и надеть пиджак мало — следует разбираться в тонкостях white tie. Вдобавок в разных странах и культурах дресс-коды разные.
Поэтому обвинение Брина в не следовании некоему «общепринятому» дресс-коду необосновано — такого кода принятого для вообще всех в принципе не существует. Вам следовало бы показать что Брин не соблюл дресс-код конкретного общества
Вы меняете картину. В нашем случае, именно бомж выглядит асоциально.
Неважно. Я выбрал БОМЖа просто как пример персонажа, которого не уважаю и для которого по этой причине не буду выполнять каких-то действий которые будут ему приятны. Можете подставить на эту роль любого другого персонажа — смысл не изменится
Кому вы доверите чемодан с ноутбуком?
Никому не доверю, если не будет знакомых и вещи нельзя будет взять с собой — то я пойду в камеру хранения, получу и проверю расписку за свои вещи. Никаких поводов доверять ни одному из этой троицы у меня нет.
О чем это я: одежда играет роль сигнала «свой-чужой».
Безусловно. Посмотрите на футбольных фанатов, к примеру. Только какое отношение это имеет к морали? Почему Вы решили что группа людей носящих костюмы имеет какие-то специальные моральные принципы?
я готов предположить (тут и кроется наше разногласие), что раз он идейно плюет на ряд общепризнанных требований, то ему проще плюнуть и на общие моральные принципы
На мой взгляд Вы исходите из предположения что человек изначально, так сказать, «с рождения», обладает неким набором общепризнанных моральных норм и правил поведения, а затем сам решает какие из них нарушить. Ну и дальше возникает логическая цепочка: нарушил часть правил — значит легче будет нарушить остальные.
А на мой взгляд любой человек получает все эти правила либо извне либо вырабатывает самостоятельно путем обучения, проб и ошибок. И исходя из этого предположения я полагаю что нет никаких оснований считать что человек обязательно должен получить в ходе обучения именно полный комплект «стандартных моральных норм и правил поведения». На мой взгляд ситуация прямо обратная — каждое из социальных правил усваивается человеком сравнительно независимо от других, и если человеку какая-то норма поведения не близка — то он просто её не примет (а не вначале примет, а потом выкинет). Кроме того разные люди просто изначально обучаются разным наборам социальных правил: многие выходцы из низов аморальны не потому что их учили-учили доброму и светлому, а они отринули стандартные нормы морали и обратились ко тьме, а потому что этих выходцев изначально обучали дерьмовым социальным правилам. А следовательно, на мой взгляд, то что человек научился социальному правилу «одевай костюм» практически ничего не говорит о том, научился ли он каким-то другим социальным правилам вроде норм морали. Только косвенно разве что — через несколько большую вероятность того что человек в принципе имел возможность обучиться социальным правилам «верхов», а не вырос на дне и попросту не имел возможности научиться чему-то хорошему.
Вообще я полагаю что эта теория «стандартного человека» довольно опасна. Вы ведь, по сути, высказываете тезис очень близкий к «Брин не такой как мы, поэтому он подозрителен и опасен». Это типовой человеческий архетип поведения и очень часто этот тезис начинает обобщаться на, к примеру, «у этого парня черный цвет кожи, он не похож на нас, а значит доверять ему нельзя». Знаете сколько сигналов «свой-чужой» можно при желании разыскать? «Он верит в неправильную религию», «у него неправильная национальность», «у него не те родители / не те социальные корни» и т.д.
Простите пожалуйста, исходя из каких моих слов вы решили, что я применяю какие-либо санкции к людям которых не уважаю?
Потому что Вы высказали тезис что Брин кого-то не уважает и выдвинули теорию о том что из этого следует что Брин может повести по отношению к этому кому-то себя аморально. Т.е. по крайней мере по отношению к другим людям Вы допускаете подобное поведение (раз не уважаю — то могу вести себя аморально).
И вообще, с чего вы решили, что я не уважаю вас, и вообще кого-либо по каким-то признакам?
Нет-нет, простите, я не утверждал что Вы меня или кого-то еще не уважаете. Я просто сказал что если вдруг такое случится (а потерять уважение не так уж и сложно), то я не уверен, не станете ли Вы, согласно Вашей теории «не уважает значит может поступить аморально» поступать аморально по отношению ко мне?
Знаком неуважения это будет если Брина явно попросят надеть костюм, а он этого не сделает. Тогда да, это будет знаком неуважения. Сомневаюсь что в данном случае была подобная ситуация, гораздо вероятнее что формат одежды просто изначально допускался любой и Брин мог свободно выбрать его на своё усмотрение.
Впрочем это не играет никакой роли, поскольку я не понимаю с чего вообще Брин должен уважать незнакомых ему людей в контексте «делать что-то для части этих людей приятное». В рамках «морали и общечеловеческих ценностей» Брин всего лишь не должен причинять этим людям зла, понимая «зло» как какие-то действия наносящие физический, экономический или моральный вред и на возможность совершения которых человек ранее не давал своего согласия. Закрытие Reader можно расценивать как акт неуважения (в понимании того что Брин не «уважил» своих пользователей согласившись работать себе в убыток ради их удобства), но это не будет актом зла (т.к. пользователи еще до начала пользования Reader были предупреждены о возможности такого развития событий и дали на это свое согласие) и соответственно не будет аморальным поступком.
Отсюда логичен следующий переход — если человек не уважает других и не соблюдает одни неписанные и писанные правила, с чего вдруг ожидать от него уважения и соблюдения других правил? В частности, сохранения неприкосновенности моих личных данных?
Причем посмотрите, как у Вас интересно получается: Вы напрямую увязываете мораль с уважением. Т.е. если есть уважение к персонажу А — то поступки в отношении А будут моральны. А если нет уважения — то можно вести себя аморально. Вы знаете, я вот как-то всю жизнь привык себя морально по отношению ко всем людям, даже тем кого я не уважаю. Если я, к примеру, вижу на улице БОМЖа, то я его, простите, не уважаю и, скажем, денег «в знак уважения» на водку ему не дам. Но и бить его или пытаться ограбить я не буду — ибо это аморально, а моральность есть свойство моих действий и она не зависит о того к кому я эти действия применяю.
Так и с Брином. То что он Вас не уважает (а с чего вдруг он должен?) совершенно не означает что он по отношению к Вам поведет себя аморально (например причинит Вам зло через распространение Ваших персональных данных). Мне, честно говоря, гораздо страшнее было бы доверить свои персональные данные Вам — а то мало ли что Вам в голову придет, решите, скажем, что я урод и русофоб которого не надо уважать, и сделаете мне за счет этих данных какую-нибудь гадость, раз уважать меня больше не нужно. С людьми, моральные принципы которых не зависят от того уважают ли они меня или нет, мне как-то спокойнее.
Чушь, ИМХО, пишете. Из того что человеку наплевать на внешний вид следует только то что этим человеком сложнее управлять тогда как человек в костюме явно демонстрирует готовность «прогнуться» под некие навязанные ему условия. Всё. Не больше и не меньше.
А теперь скажите, с кем Вы предпочтете встретиться: с бандитом в дорогом костюме или с Брином в тапочках?
Из того что человеку в костюме можно навязать сверху какую-то систему ценностей, как несложно догадаться по вышеприведенному примеру, вовсе не следует что эта система будет «общечеловеческой» или «моральной». У гангстеров есть связная и весьма четкая система ценностей, но они Вас убьют по приказу пахана без каких-либо переживаний. И будут при этом носить и очень уважать свой дорогой костюм.
Гангстеры конечно пример крайний, но и «в среднем»«прогибающимся» под общество навязывают отнюдь не «моральную систему ценностей» — она нахрен не нужна тем, кто собственно и заставляет людей надевать костюмы. От «костюмчиков» куда чаще требуют уважать интересы фирмы чем поступать в соответствии с совестью.
Умные, а потому наиболее опасные говнюки без малейших следов морали, кстати, тоже носят костюмы, поскольку прекрасно способны рассчитать когда нужно прогнуться в малом чтобы получить затем большой куш.
Где-то на очень низких социальных уровнях, наверное, еще можно провести какую-то корреляцию между костюмами и моральными принципами, т.к. косвенно отсутствие костюма говорит о том что человек вращается на таком дне, где о костюмах просто не слышали — а моральные нормы у подобного дна соответствующие. Но в остальном — о какой корреляции может идти речь?
В том что он менее болезнен для населения (да и для владельцев нефтегазовых компаний :) ).
Схема там требуется примерно следующая:
1) Резко сокращается производство нефти и газа либо резко увеличивается накопление резервов
2) Резко падает курс рубля — ну там, скажем, до 100 рублей за 1 $
3) Каким-то образом эффективно решается нетривиальный вопрос инвестирования промышленности на приобретение современного зарубежного оборудования
Стоимость всех товаров в стране резко растет. Уровень жизни падает. Но значительно ускоряется импортозамещение.
Сейчас правительство действует по компромиссному варианту — стерилизует лишь часть денег, удерживает курс рубля лишь не очень сильно заниженным и финансирует отдельные проекты.
Вы можете как-то обосновать это утверждение?
Представьте что стоимость нефти резко упала. Вырастут или сократятся в России все зарплаты, в том числе и не связанные с нефтянкой?
пришлось кучу времени восстанавливать разрушенное.
Я говорю не о «потребительских товарах», а об некотором общем «национальном богатстве», причем отнормированном относительно уже существующей базы. Т.е. условно говоря, если сейчас США и Россию войной разрушить до одинаково разрушенного уровня, то восстановление экономики России благодаря нефти будет при тех же затраченных усилиях происходить быстрее.
Ну давайте я переформулирую на «отставали меньше чем сейчас». С этим вы тоже будете спорить?
Я скажу что мы где-то больше стали отставать, а где-то наоборот меньше. Довольно сложно проводить сравнения. Не рискну судить что получилось в среднем.
Основные изменения произошли не в том что мы где-то изменили технологическое отставание, а в том что мы перестали поддерживать часть «отстающих» отраслей и предпочли заменить их на западный импорт. Там не то чтобы мы не могли производить что-то свое или это свое будет иметь гораздо большее отставание чем это было при Союзе — там просто нет смысла этого делать. Поддержка каждой неконкурентоспособных отрасли тянет вниз все остальные отрасли которые на неё завязаны, понимаете? Современная Россия предпочла вместо того чтобы иметь десяток равномерно отстающих областей сосредоточиться на паре-тройке и сделать их современными и конкурентоспособными, а остальные выкинуть совсем. Не потому что «не можем» произвести что-то по советскому варианту а потому что «невыгодно».
Почему вы считаете, что мы не должны следовать примеру Великобритании или Норвегии?
Например потому что текущая ситуация несколько отличается от ситуации XVIII века :)?
Вообще я считаю что протекционизм является вполне вменяемой стратегией индустриализации страны, а государственные инвестиции — отличный способ направлять развитие экономики. Я не анархист и не выступаю за Laissez-faire.
Но экстремальные варианты протекционизма типа советского железного занавеса попросту выкинут Россию из глобального экономического пространства а в современном глобализованном мире это смертельно. Наша экономика будет худо-бедно развиваться, мы восстановим ряд отраслей промышленности, но наша экономика в то же время будет с каждым годом все сильнее отставать от развитых экономик остального мира. Скрыть это отставание не удастся и довольно скоро население начнет задавать неудобные вопросы о том, почему на Западе жить настолько лучше чем в России. Пока уровень благосостояния населения продолжит расти это будет сглаживать социальную напряженность, но при первом же кризисе который затормозит или обратит рост благосостояния страны это недовольство полезет наружу. Со временем это все неизбежно закончится новым 91-м годом.
Когда говорят про резервы мне всегда хочется задать вопрос — вот упадут цены на нефть или она станет ненужно, за несколько лет мы резервы съедим, а дальше что?
Предполагается что этих лет хватит для того чтобы подготовиться и либо развить импортозамещение либо сократить потребление.
А надеются что кризис будет недолгим и сменится новым периодом роста когда и без всяких изменений экспорт снова превысит импорт
Скажите, а жителям Ливии или Ирака тоже повезло родиться на куске земли с кучей природных ресурсов? А жителям Венесуэлы? Нигерии — там ведь тоже много нефти?
Вы будете смеяться, но таки повезло. Ибо соседи этих стран без нефти живут еще хуже и перспектив у них гораздо меньше.
Красивая внешность как известно тоже не гарантирует девочке хорошей жизни — она лишь облегчает ей достижение успеха и открывает пути которые некрасивым барышням будут закрыты принципиально. И да, иногда эта красивая внешность может сыграть и плохую шутку. Но в среднем она дает гораздо больше плюсов чем минусов.
Сами по себе природные ресурсы богатства не приносят
Само по себе ничего богатство не приносит. Всегда требуется приложить какой-никакой но труд. Я пишу о том что за один и тот же труд нам платят намного больше чем за аналогичный объем труда, скажем в США. Причем если нашим прадедам еще действительно пришлось порядком потрудиться, создавая ракетно-ядерный щит, дороги и ТЭК, то наше поколение вкладывает уже совсем немного труда.
Ну если отставание в 8 лет и на порядок не принципиально то в этом смысле да, отставали «непринципиально».
Но Россия в этом смысле тоже «непринципиально» отстает. Просто очень трудно, знаете ли, продавать на рынке продукт устаревший на 8 лет, обладающий довольно паршивыми характеристиками, да еще и по жадным российским ценам. Стоит ли удивляться, что отечественному (вполне себе доступному) предпочитают импортное? А так закрыть границы — и лет за 10-15 вполне можно восстановить «советскую» экономику. Просто Вам самому в такой стране жить не захочется.
Кроме того в чем странность логики-то? Авторы не изобретали своей логики, они использовали типовой штамп исследователей нейросетей который заключается в том что если отдельный нейрон срабатывает, скажем, при предъявлении в серии картинок картинки Дженнифер Лопес и не срабатывает при предъявлении других картинок из серии, то этот нейрон занимается тем что «узнает» Дженнифер Лопес. Эта серия картинок — как раз моделирование подобного эксперимента и это моделирование ставит под вопрос эту логику.
Что касается Вашего мысленного эксперимента, то в гугловском эксперименте искалось-то не одно, максимальное, изображение, а серия. И логично предположить что для Вашего гипотетического котико-собачьего детектора в этой серии окажется какое-то число изображений котиков и какое-то число изображений собак, что, собственно, и будет служить для наблюдателя подтверждением версии о том что этот нейрон детектирует кошек и собак. При этом в исследовании, вообще говоря, не рассматривались нейроны выходного слоя, поскольку с ними все более-менее и так ясно, их выходы напрямую оптимизируются под желаемый результат. Вопрос стоял в том как именно они этого результата достигают и в рамках этого вопроса рассматривалась популярная гипотеза о том, что нейроны промежуточных слоев детектируют какие-то разумные признаки типа, к примеру, наличия на картинке животного или наличия на картинке ушей. Из практики известно что действительно если взять отдельный нейрон в обученной сети и посмотреть на какую серию картинок он реагирует, то между картинками этой серии можно найти много общего (ну то есть например на всех картинках будут присутствовать уши). Этот результат сейчас часто принято интерпретировать как свидетельство правильности гипотезы о том что сеть декомпозирут сложную проблему (распознавание котов и собак) на более простые (поиск ушей в изображении). Гугловская работа ставит этот тезис под большой вопрос поскольку показывает что подобные «общие признаки» в серии можно найти и просто взяв случайную смесь нейронов выбранного промежуточного слоя.
Относительно Вашей реальной сети, я не могу Вам ничего содержательно возразить пока Вы не объясните мне что у Вас за сеть.
Что за картинки генерируются Вашей сетью? Обычно сеть используют для распознавания картинок и именно этот эксперимент был поставлен в Google. Я проинтерпретировал Ваши слова аналогично гугловскому эксперименту: Вы взяли сеть и обучили её на базе из некоторого кол-ва картинок распознавать картинки где есть бабочка. Затем Вы стали смотреть какие картинки вызывают срабатывание каких нейронов (аналогично «нейрону Дженифер Астон») и нашли что этот нейрон срабатывает, скажем, если законцовка крыльев бабочки имеет рыжий цвет. Вот в рамках этой модели если Вы возьмете не один нейрон, а случайную комбинацию из десяти и посмотрите что вызывает срабатывание этой комбинации, то окажется, что есть некий признак (возможно совершенно несхожий с признаками каждого из 10 использованных нейронов) который соответствует этой комбинации.
Но, судя по всему, у Вас какая-то другая модель нейросети, которая не распознает, а генерирует картинки? Можно ли узнать какие?
cs.nyu.edu/~zaremba/docs/understanding.pdf
Смотрите на Fig. 1 — результаты для отдельных нейронов и Fig. 2 — результаты для случайной комбинации нейронов
Так в том и суть. Кажется что должна получиться полная чушь. А на практике этого не случается. И я не думаю что это ошибка ребят из гугла, поскольку они реально поставили соответствующий эксперимент, а следствие фатальной ошибки в методике поиска «детектируемых признаков».
Так в этом случае признак просто отображается на этот единственный выходной нейрон — значение его активации прямо коррелирует с наличием признака, верно?
А популярная идея состоит в предположении что не только выходной, но и в целом каждый нейрон в сети есть отображение какого-то признака, начиная с простейших в нижних слоях и постепенно усложняющихся по мере приближения к выходному. А на выходном, соответственно, признак самый сложный. И стало быть чем больше слоев в сети — тем более сложные признаки сеть сможет детектировать. То есть нейросеть не просто случайным образом перемешивает данные, а вначале разлагает их на какие-то фундаментальные осмысленные кирпичики, а затем «собирает» из этих кирпичиков некий осмысленный критерий.
Математически в этом нет смысла, но можно придумать методику исследования нейросетей которая создает иллюзию того что и отдельные нейроны в сети действительно детектируют осмысленные фичи. Получается недоказуемая, но вроде бы как подтверждаемая экспериментально теория. А гугловская работа интересна тем что там приводятся сильные аргументы показывающие что «экспериментальные доказательства», по видимому, являются простым артефактом используемой методики и выдаванием желаемого за действительное.
For the MNIST dataset, we used the following architectures [11]
– A simple fully connected, single layer network with a softmax classifier on top of it. We refer to this network as “softmax”.
– A simple fully connected network with two hidden layers and a classifier. We refer to this network as “FC”.
– A classifier trained on top of autoencoder. We refer to this network as “AE”.
– A standard convolutional network that achieves good performance on this dataset: it has one convolution layer, followed by max pooling layer, fully connected layer, dropout layer, and final softmax classifier. Referred to as “Conv”.
The ImageNet dataset [3].
– Krizhevsky et. al architecture [9]. We refer to it as “AlexNet”.
10M image samples from Youtube (see [10])
– Unsupervised trained network with ⇠ 1 billion learnable parameters. We refer to it as “QuocNet”
А мне кажется что как раз верны и тезис о дескремблировании особенностей есть выдавание желаемого за действительное. Прочитайте статью-то. Там показано что то что обычно выдается за «детектируемую нейроном „фичу изображения“ на самом деле, по видимому, есть либо свойство тестового набора данных, либо целого слоя нейросети, но никак не отдельных нейронов.
Традиционный подход ведь как устроен? Возьмем какой-нибудь нейрон и посмотрим какие входные данные из обучающей выборки максимизируют его активацию. Получим некий набор картинок. При этом этом окажется что во всех этих картинках будет какой-то общий элемент, идентифицируемый с этим вектором. Отсюда стало быть заключаем что нейросеть самостоятельно нашла этот общий элемент и выбранный нейрон как раз его детектирует. Логично?
А теперь посмотрим что сделали ребята из Google. Вместо того чтобы искать в обученной нейросети вектор который бы максимизировал отклик какого-то одного нейрона (или набора нейронов), они считали взвешенную сумму активации всех нейронов одного слоя, выбирая при этом совершенно случайные веса. То есть результаты отдельных нейронов одного слоя просто случайным образом перемешивались в некую кашу, которая заведомо никакому детектированию специально не обучалась. Но прогоняем тот же самый процесс поиска в обучающей выборке изображений максимизирующих отклик этой случайной смеси, пристально вглядываемся в результат — и, надо же, тоже находим на картинках совершенно явные общие элементы. Упс. То есть одиночные нейроны в рамках подобной методики „дескремблируют“ изображение ничем не лучше чем случайная смесь из нейронов. Но как можно говорить тогда о том что нейросеть раскладывает входные данные на отдельные осмысленные компоненты, по одному на нейрон?
Проблема в том насколько большой требуется шум. Нетривиальность гугловской работы состоит в том что они показали что, по видимому, для больших нейросетей всегда достаточно очень небольшого шума. Там приводится хорошая аналогия: представим себе классификатор как нелинейную многомерную ф-ю соответствующую «уровню достоверности» того что поданный на вход объект принадлежит заданному классу. Тогда «традиционные» классификаторы построят непрерывные функции — небольшие изменения входных данных не будут сильно менять значение ф-и. Для нейросетей же это не так — более того, показывается что они всегда строят «разрывные» функции — в небольшой окрестностях любой точки находятся сильно отличающиеся значения ф-и классификации.
Что до оптимистических тезисов, то они, по сути сводятся к радостному предположению что хотя для любой нейросети всегда можно построить близко расположенный контрпример, но вероятность случайно найти этот контрпример стремится к нулю. «Небольшой» ньюанс, однако, состоит в том что как-либо обосновать или доказать это утверждение никто даже не пытается. Это снова вопрос веры. Раньше люди верили что достаточно большие и достаточно глубоко обученные нейросети не будут ошибаться на простых примерах вообще, теперь верят в то что вероятность ошибки стремится к нулю.
ALL the networks FOR EACH SAMPLE.
Мало того, там дальше еще интереснее:
Т.е. мало того что для каждой сети и каждого элемента выборки можно построить ложное срабатывание неотличимое визуально, при переобучении сети с другими параметрами в значительном числе случаев тот же самый контрпример изначально построенный для другой сети сработает снова.
То есть можно обучать сеть вообще на других данных, и все равно значительная часть контрпримеров сработает и для этой, новой сети.
Траурная музыка, занавес.
1) способности к разумному обобщению данных
2) способности к надежному отделению выборки от всех остальных данных
А потому никаких гарантий работоспособности для нейросетей в общем случае нет и быть не может. Разве что взять исчерпывающую обучающую выборку которая почти полностью закроет пространство возможных входных данных. Но при наличии такой выборки в нейросетях нету смысла — проще тупо искать наиболее похожий вариант из выборки, при такой плотности обучающих данных работать этот подход будет не хуже.
Ну что же, моя вера в Google восстановлена :). Статья великолепная, прекрасно иллюстрирует всю глубину распространенных заблуждений о нейросетях и особенно ценна тем, что написана людьми, которые являются одними из лучших на сегодняшний день в предметной области. Надеюсь что она подействует отрезвляюще на специалистов считающих нейросети надежным и эффективным способом решения сложных проблем.
Насчет тревожности — это Вы сейчас как раз о страхе «непонятных», «отличающихся» людей пишете. Этот страх инстинктивен, он родом из нашего первобытного прошлого, он проявляется по-разному и я считаю его безусловным злом, т.к. он заставляет людей придавать совершенно неадекватно большую значимость довольно незначительным различиям. Возьмите, к примеру, из близких по смыслу примеров маккартизм в США. Там была примерно та же логика: эти коммунисты не разделяют некоторых наших общепринятых обществом идей, следовательно они опасны и аморальны. И на этом примере хорошо видно к каким последствиям подобные идеи приводят в неплохом и свободном в общем-то обществе.
Общество обществу рознь, в одних кругах принято надевать костюм, в других (и притом близких Брину) — нет. Есть и общества где дресс-код чрезвычайно формален и надеть пиджак мало — следует разбираться в тонкостях white tie. Вдобавок в разных странах и культурах дресс-коды разные.
Поэтому обвинение Брина в не следовании некоему «общепринятому» дресс-коду необосновано — такого кода принятого для вообще всех в принципе не существует. Вам следовало бы показать что Брин не соблюл дресс-код конкретного общества
Неважно. Я выбрал БОМЖа просто как пример персонажа, которого не уважаю и для которого по этой причине не буду выполнять каких-то действий которые будут ему приятны. Можете подставить на эту роль любого другого персонажа — смысл не изменится
Никому не доверю, если не будет знакомых и вещи нельзя будет взять с собой — то я пойду в камеру хранения, получу и проверю расписку за свои вещи. Никаких поводов доверять ни одному из этой троицы у меня нет.
Безусловно. Посмотрите на футбольных фанатов, к примеру. Только какое отношение это имеет к морали? Почему Вы решили что группа людей носящих костюмы имеет какие-то специальные моральные принципы?
На мой взгляд Вы исходите из предположения что человек изначально, так сказать, «с рождения», обладает неким набором общепризнанных моральных норм и правил поведения, а затем сам решает какие из них нарушить. Ну и дальше возникает логическая цепочка: нарушил часть правил — значит легче будет нарушить остальные.
А на мой взгляд любой человек получает все эти правила либо извне либо вырабатывает самостоятельно путем обучения, проб и ошибок. И исходя из этого предположения я полагаю что нет никаких оснований считать что человек обязательно должен получить в ходе обучения именно полный комплект «стандартных моральных норм и правил поведения». На мой взгляд ситуация прямо обратная — каждое из социальных правил усваивается человеком сравнительно независимо от других, и если человеку какая-то норма поведения не близка — то он просто её не примет (а не вначале примет, а потом выкинет). Кроме того разные люди просто изначально обучаются разным наборам социальных правил: многие выходцы из низов аморальны не потому что их учили-учили доброму и светлому, а они отринули стандартные нормы морали и обратились ко тьме, а потому что этих выходцев изначально обучали дерьмовым социальным правилам. А следовательно, на мой взгляд, то что человек научился социальному правилу «одевай костюм» практически ничего не говорит о том, научился ли он каким-то другим социальным правилам вроде норм морали. Только косвенно разве что — через несколько большую вероятность того что человек в принципе имел возможность обучиться социальным правилам «верхов», а не вырос на дне и попросту не имел возможности научиться чему-то хорошему.
Вообще я полагаю что эта теория «стандартного человека» довольно опасна. Вы ведь, по сути, высказываете тезис очень близкий к «Брин не такой как мы, поэтому он подозрителен и опасен». Это типовой человеческий архетип поведения и очень часто этот тезис начинает обобщаться на, к примеру, «у этого парня черный цвет кожи, он не похож на нас, а значит доверять ему нельзя». Знаете сколько сигналов «свой-чужой» можно при желании разыскать? «Он верит в неправильную религию», «у него неправильная национальность», «у него не те родители / не те социальные корни» и т.д.
Потому что Вы высказали тезис что Брин кого-то не уважает и выдвинули теорию о том что из этого следует что Брин может повести по отношению к этому кому-то себя аморально. Т.е. по крайней мере по отношению к другим людям Вы допускаете подобное поведение (раз не уважаю — то могу вести себя аморально).
Нет-нет, простите, я не утверждал что Вы меня или кого-то еще не уважаете. Я просто сказал что если вдруг такое случится (а потерять уважение не так уж и сложно), то я не уверен, не станете ли Вы, согласно Вашей теории «не уважает значит может поступить аморально» поступать аморально по отношению ко мне?
Впрочем это не играет никакой роли, поскольку я не понимаю с чего вообще Брин должен уважать незнакомых ему людей в контексте «делать что-то для части этих людей приятное». В рамках «морали и общечеловеческих ценностей» Брин всего лишь не должен причинять этим людям зла, понимая «зло» как какие-то действия наносящие физический, экономический или моральный вред и на возможность совершения которых человек ранее не давал своего согласия. Закрытие Reader можно расценивать как акт неуважения (в понимании того что Брин не «уважил» своих пользователей согласившись работать себе в убыток ради их удобства), но это не будет актом зла (т.к. пользователи еще до начала пользования Reader были предупреждены о возможности такого развития событий и дали на это свое согласие) и соответственно не будет аморальным поступком.
Причем посмотрите, как у Вас интересно получается: Вы напрямую увязываете мораль с уважением. Т.е. если есть уважение к персонажу А — то поступки в отношении А будут моральны. А если нет уважения — то можно вести себя аморально. Вы знаете, я вот как-то всю жизнь привык себя морально по отношению ко всем людям, даже тем кого я не уважаю. Если я, к примеру, вижу на улице БОМЖа, то я его, простите, не уважаю и, скажем, денег «в знак уважения» на водку ему не дам. Но и бить его или пытаться ограбить я не буду — ибо это аморально, а моральность есть свойство моих действий и она не зависит о того к кому я эти действия применяю.
Так и с Брином. То что он Вас не уважает (а с чего вдруг он должен?) совершенно не означает что он по отношению к Вам поведет себя аморально (например причинит Вам зло через распространение Ваших персональных данных). Мне, честно говоря, гораздо страшнее было бы доверить свои персональные данные Вам — а то мало ли что Вам в голову придет, решите, скажем, что я урод и русофоб которого не надо уважать, и сделаете мне за счет этих данных какую-нибудь гадость, раз уважать меня больше не нужно. С людьми, моральные принципы которых не зависят от того уважают ли они меня или нет, мне как-то спокойнее.
А теперь скажите, с кем Вы предпочтете встретиться: с бандитом в дорогом костюме или с Брином в тапочках?
Из того что человеку в костюме можно навязать сверху какую-то систему ценностей, как несложно догадаться по вышеприведенному примеру, вовсе не следует что эта система будет «общечеловеческой» или «моральной». У гангстеров есть связная и весьма четкая система ценностей, но они Вас убьют по приказу пахана без каких-либо переживаний. И будут при этом носить и очень уважать свой дорогой костюм.
Гангстеры конечно пример крайний, но и «в среднем»«прогибающимся» под общество навязывают отнюдь не «моральную систему ценностей» — она нахрен не нужна тем, кто собственно и заставляет людей надевать костюмы. От «костюмчиков» куда чаще требуют уважать интересы фирмы чем поступать в соответствии с совестью.
Умные, а потому наиболее опасные говнюки без малейших следов морали, кстати, тоже носят костюмы, поскольку прекрасно способны рассчитать когда нужно прогнуться в малом чтобы получить затем большой куш.
Где-то на очень низких социальных уровнях, наверное, еще можно провести какую-то корреляцию между костюмами и моральными принципами, т.к. косвенно отсутствие костюма говорит о том что человек вращается на таком дне, где о костюмах просто не слышали — а моральные нормы у подобного дна соответствующие. Но в остальном — о какой корреляции может идти речь?
В том что он менее болезнен для населения (да и для владельцев нефтегазовых компаний :) ).
Схема там требуется примерно следующая:
1) Резко сокращается производство нефти и газа либо резко увеличивается накопление резервов
2) Резко падает курс рубля — ну там, скажем, до 100 рублей за 1 $
3) Каким-то образом эффективно решается нетривиальный вопрос инвестирования промышленности на приобретение современного зарубежного оборудования
Стоимость всех товаров в стране резко растет. Уровень жизни падает. Но значительно ускоряется импортозамещение.
Сейчас правительство действует по компромиссному варианту — стерилизует лишь часть денег, удерживает курс рубля лишь не очень сильно заниженным и финансирует отдельные проекты.
Представьте что стоимость нефти резко упала. Вырастут или сократятся в России все зарплаты, в том числе и не связанные с нефтянкой?
Я говорю не о «потребительских товарах», а об некотором общем «национальном богатстве», причем отнормированном относительно уже существующей базы. Т.е. условно говоря, если сейчас США и Россию войной разрушить до одинаково разрушенного уровня, то восстановление экономики России благодаря нефти будет при тех же затраченных усилиях происходить быстрее.
Я скажу что мы где-то больше стали отставать, а где-то наоборот меньше. Довольно сложно проводить сравнения. Не рискну судить что получилось в среднем.
Основные изменения произошли не в том что мы где-то изменили технологическое отставание, а в том что мы перестали поддерживать часть «отстающих» отраслей и предпочли заменить их на западный импорт. Там не то чтобы мы не могли производить что-то свое или это свое будет иметь гораздо большее отставание чем это было при Союзе — там просто нет смысла этого делать. Поддержка каждой неконкурентоспособных отрасли тянет вниз все остальные отрасли которые на неё завязаны, понимаете? Современная Россия предпочла вместо того чтобы иметь десяток равномерно отстающих областей сосредоточиться на паре-тройке и сделать их современными и конкурентоспособными, а остальные выкинуть совсем. Не потому что «не можем» произвести что-то по советскому варианту а потому что «невыгодно».
Например потому что текущая ситуация несколько отличается от ситуации XVIII века :)?
Вообще я считаю что протекционизм является вполне вменяемой стратегией индустриализации страны, а государственные инвестиции — отличный способ направлять развитие экономики. Я не анархист и не выступаю за Laissez-faire.
Но экстремальные варианты протекционизма типа советского железного занавеса попросту выкинут Россию из глобального экономического пространства а в современном глобализованном мире это смертельно. Наша экономика будет худо-бедно развиваться, мы восстановим ряд отраслей промышленности, но наша экономика в то же время будет с каждым годом все сильнее отставать от развитых экономик остального мира. Скрыть это отставание не удастся и довольно скоро население начнет задавать неудобные вопросы о том, почему на Западе жить настолько лучше чем в России. Пока уровень благосостояния населения продолжит расти это будет сглаживать социальную напряженность, но при первом же кризисе который затормозит или обратит рост благосостояния страны это недовольство полезет наружу. Со временем это все неизбежно закончится новым 91-м годом.
Предполагается что этих лет хватит для того чтобы подготовиться и либо развить импортозамещение либо сократить потребление.
А надеются что кризис будет недолгим и сменится новым периодом роста когда и без всяких изменений экспорт снова превысит импорт
Вы будете смеяться, но таки повезло. Ибо соседи этих стран без нефти живут еще хуже и перспектив у них гораздо меньше.
Красивая внешность как известно тоже не гарантирует девочке хорошей жизни — она лишь облегчает ей достижение успеха и открывает пути которые некрасивым барышням будут закрыты принципиально. И да, иногда эта красивая внешность может сыграть и плохую шутку. Но в среднем она дает гораздо больше плюсов чем минусов.
Само по себе ничего богатство не приносит. Всегда требуется приложить какой-никакой но труд. Я пишу о том что за один и тот же труд нам платят намного больше чем за аналогичный объем труда, скажем в США. Причем если нашим прадедам еще действительно пришлось порядком потрудиться, создавая ракетно-ядерный щит, дороги и ТЭК, то наше поколение вкладывает уже совсем немного труда.
Но Россия в этом смысле тоже «непринципиально» отстает. Просто очень трудно, знаете ли, продавать на рынке продукт устаревший на 8 лет, обладающий довольно паршивыми характеристиками, да еще и по жадным российским ценам. Стоит ли удивляться, что отечественному (вполне себе доступному) предпочитают импортное? А так закрыть границы — и лет за 10-15 вполне можно восстановить «советскую» экономику. Просто Вам самому в такой стране жить не захочется.