А потом по ходу дела большую часть из этих слоёв повыкидывли за ненадобностью, из свёрток оставили только те, которые приводят кусок экрана к размеру 64х64 и получили ровно то, что собственно выигрывало в Atari. Не помню сколько там свёрток было оставлено, конкретно но мне кажется в итоге стало заметно меньше чем полноэкранная картинка плюс несколько слоёв для её первично обработки.
Справедливости ради ей только недавно начали предлагать картинки в динамике, и всё ещё не требуют от неё трёхмерного ориентирования. На таким образом сформулированной задаче просто недостаточно данных чтобы понять что леопардовый диван и леопард — не одно и то же. Статичный снимок не позволяет продемонстрировать ключевое отличие леопарда настоящего от плюшевого.
1-е я возьмусь опровергнуть. Свёртка это ещё и преобразование сильно, очень очень сильно снижающее размерность входных данных, до уровня уже достаточного для текущих вычмощностей. Не факт, что с появлением больших можностей не начнуть использовать меньше свёртки. Не факт, что с появлением других, более эффективных средств снижения размерности входа будет потребность в свёртке больше простейшей.
В задаче про предложения в 10 слов вопервых вы тоже сталкиваетесь с чудовищной массой входных признаков, с котррой боретесь векторизацией. Во вторых комбинаторная сложность задачи усугубляется фиговыми архитектурами рекурентных сетей со слишком большой избыточностью и необходимостью хранить историю весов на глубину на которую вы хотите распространять назад ошибку. Это если BP через время использовать.
Теперь допустим мы делаем более удачной архитектуру рекурентной сети и за счёт этого увиличиваете глубину её возвратного механизма с 3-10 знаков до 30-300 а неградой не на каждом шаге. Тогда ей на вход можно подавать уже не векторизованные корни слов, а буквально последовательность букв. Размерность входных данных ваще резко падает и мы получаем откровения новых методов даже на текущих вычмощностях.
Это, конечно, всё мои предположения. Но стремительный рост перплексити на задаче, которую вы упомянули за последний год подвигает меня к мысли, что новостей тут стоит ждать либо реально не скоро, либо буквально в ближайшие 1-2 года.
В конце концов задача написания музыки, за которую недавно взялись гугловцы строго говоря сводится к тому же самому, а гугловцы по всей видимости, считаю задачу разрешимой в обозримые сроки.
Как известно «искуственный интеллект» это то, что мы ещё не научились делать.
Всего год назад выигрыш в Го у человека был не просто искусственным интеллектом, но ещё и бесспорной демонстрацией функции интуиции, а сейчас это всего лишь алгоритм с самообучением.
>> Грубо говоря большинство классических нейросетей, существующих в настоящий момент, — есть классифицирующие функции… и выделяющих в итоге строго «запрограммированные» признаки.
Это скорее вопрос стадного мышления заказчиков задач, чем реальное ограничение нейросетей. Когда я в статье здесь на хабре предложил для оценки качества обобщений, сделанных нейросетью использовать не задачу классификации, а другую, гораздо более показательную в этой части, одним из самых частых комментариев по сути было «Как интересно, жаль, что вы решили не задачу классификации». Как только кто-то продемонстрировал заметный в прессе успех на какой-нибудь другой задаче, например, раскраска и стилизация картинок все стали считать это приемлемой задачей для сетей. Если завтра кто-то продемонстрирует успех в процессинге естественной речи на рекурентной нейросети я вас уверяю все бросятся рассказывать, что нейросети по самой своей природе и архитектуре приспособлены именно к этой задаче. И это будет правдой.
Про то, какие признаки распутываются, а какие нет и как заставить сеть смотреть как человек, я думаю задачи связанные. Автоэнкодеры нам в помощь. Когда мощь автожэнкодеров сети будет соответствовать понятийной базе типичного человека, вполне возможно, что сеть начнёт смотреть как человек. Я не говорю, что это будет прямо завтра, но то что википедия используется как типичный источник трейновых выборок говорит, что данные для такого обучения как минимум существуют.
Я для себя это сформулировал так: «Обучение заканчивается, когда обучаемый и обучающий одинаково понимают условие задачи».
Отсюда вытекает отсутствие в вашем опроснике подходящих для меня вариантов ответов.
Вместо: являются одним из многих инструментов, я бы поставил крыжик на являются новой парадигмой программирования. Примерно как ООП во времена Smaltalk. Это всё же больше чем просто инструмент.
Вместо: могут самостоятельно перестраивать собственную логику и алгоритм работы, я бы сказал, что могут самостоятельно начинать оптимизировать совсем не те параметры, оптимизацию которых от них ожидал создатель.
Вместо Смогут ли заменить, я бы сказал, что разработчиков как таковых станет на много меньше, и гораздо больше людей с квалификацией «Тренер ИИ», людей которые будут брать Microsoft Intelegent, например, и составлять учебные выборки для него и настраивать метапараметры ни разу не увидив при этом ни строчки кода, максимум – увидев блоксхему получающейся сети. То есть сделаю то же самое что прогресс готовых инструментов сделал с программистами, умеющими оптимизировать байтики. Их мало, мы их все уважаем, они сидят в тишине и пилят драйвера и ядра. А простые смертные заняты уже совсем другим. Интерфейсики плодят миллионами, на половину в графических средах.
Хо-хо!!! Тоесть виброзамки на ритм стука, о которых ездил всем в уши Крейл таки сделал! Даже жаль что я сийчас никакой фентезюшки не делаю, а то бы у меня такие замки на половине дверей в городе стояли. :)
Именно поэтому реальный ВР, а не мастер. Выходите вы в виртуальность видите другого игрока, который с вашей виртуальной базы что-то увлечённо прёт, можете ему даже бранное слово сказать или попытаться в сети с ним сразиться. А тем временем ваш коллега, пришедший по вашему вызову специальной прогой вычисляет точку входа, WiFi через который этот деятель подключён чтобы туда высылать банду товарищей. Но поскольку чувак зашёл через точку на другом конце полигона, а никто из вас не знает друг друга в сети, у банды товарищей появится интересный квест посреди сталкерского бара набитого жителями глубокой зоны. Как-то так я себе это представляю.
Имхо, вопрос VR уже не просто назрел, а вообще перезрел. Время на изготовление исчисляется днями, максимум неделями. В связке GoogleCardboard + Unity. Нужно только игру соответствующую, и наполнение этого ВР, связанного с сюжетикой игры, а не рутинной деятельностью, потому что понятно, что новые слои отвлекают людей от главного на РИ — трындежа между собой.
В точку. Директор этой фирмы прямым текстом сказал, что размеры яиц Маска и страстное желание их продемонстрировать стали угрозой не только индустрии, но и бизнесу партнёрских компаний. Хотя вполне возможно у Маска уже нет выбора. Малейшее сомнение в том, что яйца важнее продукта могут привести к набегу вкладчиков. Вероятно и СоларСити из-за этого же самого пришлось выкупать.
Я паравильно понимаю, что фактически на территории России пока не включена локация покемонов, а они просто генерятся затычкой? Прошёл 6 уроней поймал десятка три покемонов, наверное, но ни разу не видел чтобы на локаторе было меньше 3 лапок. Получается что в россии 180 000 человек играют в пока что выключенную игру? :)
Работаю в компании, котирующейся на насдаке. В этом году закрыли для отделения в США и одно в Китае, наиболее вкусный проект закрывающихся отделений передали нам в Москву. Один пример безусловно не статистика. Мы стадию взрывного стартапного роста давно прошли, бультыхаемся с рынком, поэтому к статье отнёсся чрезвычайно внимательно.
>> Наши инженеры тоже в какой-то степени приложили к нему свою руку.
> меняет конструкцию как самолета так и двигателя)
Главное там — сопло, способное перенаправить поток такой мощности и температуры на 95 градусов, это они взяли с ЯК-а в готовом виде с документацией и технологическими картами, А самолёт вокруг этого сопла построили уже, конечно, совсем другой, свой. За что и расплатились той же проблемой, что и у Як-а попорчеными взлётными полосами. :)))
Впрочем, подавляющая часть гиктаймсовой аудитории не знает этой истории, и даже если ей её рассказать — будет пищать, затыкать уши и отбрыкиваться. :)))
Дело не в разрешении, а выборочном внимании, которое есть у человека, и пока крайне редко реализуется в нейросетях. Там сложные алгоритмы пока не выгодно делать если есть возможность поставить ещё десять стоек серверов. ПРичём причин сразу две. Во-первых, слабое развитие рекурентных сетей, способных накапливать контекст, во-вторых, то что купить ещё 10 серверов даже не столько дешевле, сколько быстрее, чем отладить алгоритм.
В момент когда отдача на капиталловложение в грубую компьютерную силу станет меньше чем в алгоритмику ситуация изменится.
Ну и да не забываем, что в 2012-ом году впервые интеллектуальные леменги ломанулись в свёрточный нейросети и вот мы здесь, а компьютер знаки различает лучше человека, например.
Сейчас, если вы присмотритесь к новостям, интеллектуальные леменги, такие как и, собственно, ломапнулись в рекурентные сети. Ни сколько не удивлюсь, если вопрос динамического коридора, сводящийся к накоплению контекста, через 4 года будет решаться из коробки несколькими готовыми пакетами. Так же как задачи безошибочного распознования голоса при отношении «сигнал/шум» в пользу шума. Так же как и вопросы былых фур на фоне светлого неба. Нейросеть, неуверенная что именно она увидела в доступном ей разрешении будет «вглядываться» в картинку высокого разрешения, и помечать сомнительный объект.
Пока что на средней дистанции реальным ограничением будут не нейросети. Потолок их развития на данном этапе пока что не прощупывается.
А вот остальные аргументы про цену и тому подобное — тут я с вами полностью согласен.
Понимание, что сообщество гиктайсмса — это политизированное стадо баранов реагирующих истерикой на любое неблаголепное упоминание Маска и америки, это понимание приходит далеко не с разу. Потом глядя как они бросаются на людей как на красную тряпку, можно получить удовольствие, от того что ты не такой, с другой стороны удовольствие подпорчено немного тем, что на таком фоне даже сторонники единой России могут показаться интеллектуалами. :)
Ну он же показывающиеся 70% брутфорснул, а не те 30% по которым идёт зачёт.
Они там закрытым образом редактировали результаты от тех, которые им не понравились. Так что связь между результатами и местами получилась не очевидной. Если хотите узнать подробнее, то вот тут в статье и в комментариях к ней: https://habrahabr.ru/post/269745/
Да… Уж… Грустно всё это выглядит.
1) Zango не юристу мне больше всего интересно, что суть юридической борьбы вообще не имеет отношения к теме иска. Не скажу что это удивляет. Ключевой вопрос является ли Касперский «интерактивным компьютерным сервисом» зависит от наличия пользовательских настроек, которыми пользователь может оказаться неспособен воспользоваться, в виду их закопанности в интерфейсе или, например, которыми 99,99% пользователей не пользуются по каким-то другим причинам, это я сейчас не про Касперского, а вообще про принципиальную ситуацию. По-моему это указывает на то что закон действующий с 96-ого года болен.
Ещё и перенос дела в другой суд. Надо полагать, что в том суде, в котором первоначально дело начиналось решение бы отличалось, тупой ангажированный судья там сидит или, например, в этом месте антивирус совершенно неожиданно перестаёт иметь пользовательские настройки. По всей видимости, ещё и выиграть такое дело может только юрист, который понимает, что наличие настроек в антивирусе не только важно, но ещё и может меняться в зависимости от географического положения судьи… Чистая казуистика.
Грустно, в общем, выглядит дело.
>> Lodsys изучил предоставленные ЛК контраргументы во время раскрытия доказательств и пришел к выводу, что лучше не доводить судебный процесс до слушаний дела по существу, а отозвать свой иск без возможности повторной его подачи.
То есть попросту говоря их действия не очень или очень незаконны, и поэтому они решили, что должны уйти безнаказанными. :(
Примеры двух других дел из этой статьи показывает, что героическая битва Касперского (в данном случае Евгения) за спрямление американской патентной системы, больной на голову, пока имеет в основном символическое значение. Тем более, что всего этого можно было бы не делать, если бы американские законодатели захотели, чтобы систем не была такой поломаной. Наверняка ситуацию можно кардинально изменить поменяв конечное количество правил по рассмотрению таких дел, даже не трогая сами дела и законы на вроде того из 1996-ого года.
>> Barbara Machowicz — Плохо подготовилась, вероятно потому, что не являлась патентным троллём и юристом, а была всего лишь активисткой. На здоровый неюридический взгляд видно, что предлагаемое решение несоразмерно выявленным угрозам. Защищать свой бизнес — ваше право и даже долг перед своими сотрудниками, так что это просто выйгранное дело, в отличии от других, за которые Касперскому американцы и другие IT-шники должны памятник поставить.
>> Виталий Пилкин — Какое счастье, что принашем законодательстве тролли бывают только такие. :)
Билайновский конкурс показал, что если не ограничивать количество попыток — ещё как достижим. Один из участников просто перебором брутфорснул 70% тестовой выборки и таким образом увиличил себе учебную. Не из злого умысла, а потому что мог.
В задаче про предложения в 10 слов вопервых вы тоже сталкиваетесь с чудовищной массой входных признаков, с котррой боретесь векторизацией. Во вторых комбинаторная сложность задачи усугубляется фиговыми архитектурами рекурентных сетей со слишком большой избыточностью и необходимостью хранить историю весов на глубину на которую вы хотите распространять назад ошибку. Это если BP через время использовать.
Теперь допустим мы делаем более удачной архитектуру рекурентной сети и за счёт этого увиличиваете глубину её возвратного механизма с 3-10 знаков до 30-300 а неградой не на каждом шаге. Тогда ей на вход можно подавать уже не векторизованные корни слов, а буквально последовательность букв. Размерность входных данных ваще резко падает и мы получаем откровения новых методов даже на текущих вычмощностях.
Это, конечно, всё мои предположения. Но стремительный рост перплексити на задаче, которую вы упомянули за последний год подвигает меня к мысли, что новостей тут стоит ждать либо реально не скоро, либо буквально в ближайшие 1-2 года.
В конце концов задача написания музыки, за которую недавно взялись гугловцы строго говоря сводится к тому же самому, а гугловцы по всей видимости, считаю задачу разрешимой в обозримые сроки.
Всего год назад выигрыш в Го у человека был не просто искусственным интеллектом, но ещё и бесспорной демонстрацией функции интуиции, а сейчас это всего лишь алгоритм с самообучением.
Это скорее вопрос стадного мышления заказчиков задач, чем реальное ограничение нейросетей. Когда я в статье здесь на хабре предложил для оценки качества обобщений, сделанных нейросетью использовать не задачу классификации, а другую, гораздо более показательную в этой части, одним из самых частых комментариев по сути было «Как интересно, жаль, что вы решили не задачу классификации». Как только кто-то продемонстрировал заметный в прессе успех на какой-нибудь другой задаче, например, раскраска и стилизация картинок все стали считать это приемлемой задачей для сетей. Если завтра кто-то продемонстрирует успех в процессинге естественной речи на рекурентной нейросети я вас уверяю все бросятся рассказывать, что нейросети по самой своей природе и архитектуре приспособлены именно к этой задаче. И это будет правдой.
Про то, какие признаки распутываются, а какие нет и как заставить сеть смотреть как человек, я думаю задачи связанные. Автоэнкодеры нам в помощь. Когда мощь автожэнкодеров сети будет соответствовать понятийной базе типичного человека, вполне возможно, что сеть начнёт смотреть как человек. Я не говорю, что это будет прямо завтра, но то что википедия используется как типичный источник трейновых выборок говорит, что данные для такого обучения как минимум существуют.
Я для себя это сформулировал так: «Обучение заканчивается, когда обучаемый и обучающий одинаково понимают условие задачи».
Отсюда вытекает отсутствие в вашем опроснике подходящих для меня вариантов ответов.
Вместо: являются одним из многих инструментов, я бы поставил крыжик на являются новой парадигмой программирования. Примерно как ООП во времена Smaltalk. Это всё же больше чем просто инструмент.
Вместо: могут самостоятельно перестраивать собственную логику и алгоритм работы, я бы сказал, что могут самостоятельно начинать оптимизировать совсем не те параметры, оптимизацию которых от них ожидал создатель.
Вместо Смогут ли заменить, я бы сказал, что разработчиков как таковых станет на много меньше, и гораздо больше людей с квалификацией «Тренер ИИ», людей которые будут брать Microsoft Intelegent, например, и составлять учебные выборки для него и настраивать метапараметры ни разу не увидив при этом ни строчки кода, максимум – увидев блоксхему получающейся сети. То есть сделаю то же самое что прогресс готовых инструментов сделал с программистами, умеющими оптимизировать байтики. Их мало, мы их все уважаем, они сидят в тишине и пилят драйвера и ядра. А простые смертные заняты уже совсем другим. Интерфейсики плодят миллионами, на половину в графических средах.
> меняет конструкцию как самолета так и двигателя)
Главное там — сопло, способное перенаправить поток такой мощности и температуры на 95 градусов, это они взяли с ЯК-а в готовом виде с документацией и технологическими картами, А самолёт вокруг этого сопла построили уже, конечно, совсем другой, свой. За что и расплатились той же проблемой, что и у Як-а попорчеными взлётными полосами. :)))
Впрочем, подавляющая часть гиктаймсовой аудитории не знает этой истории, и даже если ей её рассказать — будет пищать, затыкать уши и отбрыкиваться. :)))
В момент когда отдача на капиталловложение в грубую компьютерную силу станет меньше чем в алгоритмику ситуация изменится.
Ну и да не забываем, что в 2012-ом году впервые интеллектуальные леменги ломанулись в свёрточный нейросети и вот мы здесь, а компьютер знаки различает лучше человека, например.
Сейчас, если вы присмотритесь к новостям, интеллектуальные леменги, такие как и, собственно, ломапнулись в рекурентные сети. Ни сколько не удивлюсь, если вопрос динамического коридора, сводящийся к накоплению контекста, через 4 года будет решаться из коробки несколькими готовыми пакетами. Так же как задачи безошибочного распознования голоса при отношении «сигнал/шум» в пользу шума. Так же как и вопросы былых фур на фоне светлого неба. Нейросеть, неуверенная что именно она увидела в доступном ей разрешении будет «вглядываться» в картинку высокого разрешения, и помечать сомнительный объект.
Пока что на средней дистанции реальным ограничением будут не нейросети. Потолок их развития на данном этапе пока что не прощупывается.
А вот остальные аргументы про цену и тому подобное — тут я с вами полностью согласен.
Только не отягощённый ограничениями обратной совместимости. :)
Они там закрытым образом редактировали результаты от тех, которые им не понравились. Так что связь между результатами и местами получилась не очевидной. Если хотите узнать подробнее, то вот тут в статье и в комментариях к ней: https://habrahabr.ru/post/269745/
1) Zango не юристу мне больше всего интересно, что суть юридической борьбы вообще не имеет отношения к теме иска. Не скажу что это удивляет. Ключевой вопрос является ли Касперский «интерактивным компьютерным сервисом» зависит от наличия пользовательских настроек, которыми пользователь может оказаться неспособен воспользоваться, в виду их закопанности в интерфейсе или, например, которыми 99,99% пользователей не пользуются по каким-то другим причинам, это я сейчас не про Касперского, а вообще про принципиальную ситуацию. По-моему это указывает на то что закон действующий с 96-ого года болен.
Ещё и перенос дела в другой суд. Надо полагать, что в том суде, в котором первоначально дело начиналось решение бы отличалось, тупой ангажированный судья там сидит или, например, в этом месте антивирус совершенно неожиданно перестаёт иметь пользовательские настройки. По всей видимости, ещё и выиграть такое дело может только юрист, который понимает, что наличие настроек в антивирусе не только важно, но ещё и может меняться в зависимости от географического положения судьи… Чистая казуистика.
Грустно, в общем, выглядит дело.
>> Lodsys изучил предоставленные ЛК контраргументы во время раскрытия доказательств и пришел к выводу, что лучше не доводить судебный процесс до слушаний дела по существу, а отозвать свой иск без возможности повторной его подачи.
То есть попросту говоря их действия не очень или очень незаконны, и поэтому они решили, что должны уйти безнаказанными. :(
Примеры двух других дел из этой статьи показывает, что героическая битва Касперского (в данном случае Евгения) за спрямление американской патентной системы, больной на голову, пока имеет в основном символическое значение. Тем более, что всего этого можно было бы не делать, если бы американские законодатели захотели, чтобы систем не была такой поломаной. Наверняка ситуацию можно кардинально изменить поменяв конечное количество правил по рассмотрению таких дел, даже не трогая сами дела и законы на вроде того из 1996-ого года.
>> Barbara Machowicz — Плохо подготовилась, вероятно потому, что не являлась патентным троллём и юристом, а была всего лишь активисткой. На здоровый неюридический взгляд видно, что предлагаемое решение несоразмерно выявленным угрозам. Защищать свой бизнес — ваше право и даже долг перед своими сотрудниками, так что это просто выйгранное дело, в отличии от других, за которые Касперскому американцы и другие IT-шники должны памятник поставить.
>> Виталий Пилкин — Какое счастье, что принашем законодательстве тролли бывают только такие. :)