Спасибо. Очень интересная статья. Трансфер, правда, грубоват если слоями дёргать, но идея крайне перспективная если даже в таком варианте получается. :)
В процессе вы ссылаетесь на вот эту статью про предобучение. habrahabr.ru/post/163819/
Там фигурирует предположение, что в процессе обучения происходит затухание примерно так выглядящее:
Однако так грустно и однообразно веса изменяются только если их округлять тысячами. Если посмотреть визуализацию подчёркивающую изменения отдельных весов при слабо меняющихся остальных становится видно, что изменения в сети предельно далеки от постепенно затухающего приближения к оптимуму: habrahabr.ru/post/221049/
Вообще то что к это радости до сих пор не прикрутили VR — исключительно результат того, что за неё до сих пор не взялся кто-нибудь разбирающийся в VR хотя бы на среднем уровне. Решение лежит на поверхности:
— На аппарат ставится фишай градусов на 120, а то и больше, но в глаза пилоту подаётся прямая картинка, разогнутая на клиенте дисплейсмент-мапом. Ваще не проблема в наше время.
— Это даёт вам запас поля зрения раза в два в каждую сторону, так что вы можете вертеть головой, В направлениях отличных от курсового картинка, конечно, заметно хуже, но картинка меняется ровно с той скоростью с которой вы крутите головой. Ну с точностью до задержки VR очков.
— Вешаете управление на голову. То есть аппарат всегда стремится повернуться жалом туда, куда вы смотрите головой.
— На джойстик выносите вертикальную корекцию, так что можно смотеть чуть вниз, но аппарат летит при этом вперёд.
— Ну и плюс стабилизатор продольной скорости, грубо говоря автомат тяги, который сам меняет наклон так чтобы не давать аппарату разгонятся больше указанной джойстиком скорости. Логически связать это с вертикальной коррекцией из предыдущего пункта.
Собственно всё. Дальше летаем и наслаждаемся.
Та же хрень у Ulmart. Эта гадина самостоятельно определяет что я нахожусь в немосковском городе Реутов и калечит половину функционала. Прямое указание, что меня интересует Москва помогает на один раз. При следующем входе история повторяется.
>>То есть если я правильно понимаю, то нужно вырастить гадость, проверить её в реальных масштабах.
Продолжаем цитировать генерала Евстигнеева, куски интервью, которые ваша медуза «забыла» процитировать, не указав, что интервью отцензурировано:
vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv
ЕВСТИГНЕЕВ: Действительно до 1992 года, благодаря нашей внешней разведке, добывшей как реальные образцы американских биологических боеприпасов, так и их технические чертежи, мы могли моделировать реальные боеприпасы: одно-, двух-, трех-, четырехфунтовые авиабомбы. Мы даже вытачивали их единичные образцы в своих лабораториях, проводили натурные испытания с участием животных на специальном полигоне в Аральском море на острове Возрождения. Но после 1992 года на все это был наложен строжайший запрет и теперь заражение животных мы проводим только путем прививок.
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
И там же на абзац ниже:
vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv
биологическое оружие отличается от химического тем, что оно состоит из живых организмов. Процесс хранения последних очень затруднителен. Именно по этой причине их никто никогда не накапливал, стратегических запасов не создавал. Исключение могли составлять только токсины. Но поскольку у руководства СССР не существовало идеологической подоплеки проведения таких экспериментов и испытаний, программа не смогла набрать такого же серьезного масштаба, как разработка ядерного или химического оружия. Все эксперименты проводились, что называется, на всякий случай. В каком-то отношении это был блеф нашего руководства,
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
>>Евстигнеев добавляет, что в конце 1980-х «НПО «Вектор» рассматривали как «промышленную базу для производства наступательных биологических препаратов».
И всё бы ничего, если бы это бы цитата, однако по хитрой расстанавке кавычек можно догадаться, что это враньё. Открываем журнал «Ядерный контроль» №4 за 99-ый год на 22-ой странице и читаем что на самом деле сказал Евстигнеев:
vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv
И по аналогии с нашими институтами был создан ряд НИИ в городе Оболенске Московской области, в Серпухове институт Иммунологии, в Новосибирске в поселке Кольцово институт вирусных риккетсий НПО Вектор, была рассмотрена возможность создания промышленной базы для производства наступательных биологических препаратов и их носителей. Но эта программа не вышла на пиковую фазу своего развития.
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
Обратили внимание, что разведка крала у сша образцы реально производившихся бомб, которых у нас не было?
Впрочем это мелочи. Если даже после такой явной демонстрации того, что ваши источники лгут как сивый мерин, Вы не пошли читать оригинал интервью Евстегнеева профильному изданию, а будете продолжать пытаться рассказывать сказки про нездоровый Советский Союз значит у вас пропаганда уже проделала дыру в мозге и убеждть вас в чём-то — только тратить буковки.
Я просто процитирую ту часть статьи, которые вы фигурно вырезали:
Евстигнеев заявлял, что в 1980-е — на основе данных, представленных КГБ и ГРУ, — был составлен список из 37 возбудителей различных заболеваний, по которым Союз должен разработать средства защиты. «Создавая средства защиты, нужно было создать какую-нибудь копию — подобие средства нападения. Поэтому нужно было научиться выращивать возбудители.
Чтобы разрабатывать защиту как бы необходимо уметь получать образцы того то, от чего вы защищаться собрались. В курсе, да?
Процитирую и тот кусок интервью Евстигнеева, который вырезали на медузе, не показав что вырезали, иначе бы у них сенсации не получилось:
… доставки и применения этого биологического вещества. Все это было необходимо делать не только для создания вакцин, но и чтобы проверить средства нашей биологической разведки, выяснить плотность обсеменения территории при применении этого оружия. Весь этот цикл работ и был так называемой наступательной частью…
То есть речь идёт о воссоздании наступательной технологии, для того чтобы узнать параметры нападения, от которого нужно защищаться. Никакого производства оружия. Но мастерски вырезав толкования понятий авторы зато получили интересную захватывающую статью, которая вызывает в читателях такие вот просветления.
У меня соседа по комнате в бытность в общаге родители работают в том самом Векторе в соседней лаборатории от той Эболы, их после второго заражения чуть тоже на месяц в карантин всех не пересажали. Немножко обидно за людей, которые рискуют жизнью, чтобы научиться лечить людей, которые их после этого ещё и поливают разоблачениями.
От антисоветской пропаганды в мозг многие люди испытывают трудности с пониманием прочитанного. :(((
В Кольцово не разрабатывают оружия. На «Векторе» разрабатывают ЗАЩИТУ от оружия, которое может быть применено против сначала СССР, а потом России. И об этом было известно за долго до распада СССР. :-\
Более того в США есть точно такой же центр, и там тоже есть всё, что могут против попытаться США применить.
Хотя, про один случай создания в Кольцово биологического оружия я, конечно, знаю. В том же «Векторе» разработали достаточно могучий противотараканий карандаш. По всему Новосибирску продаётся, «Машенька» называется.
Что-то я не понял. Вот есть у меня две папки, которые я скачал с чужого репозитория. Как мне теперь восстановить весь проект? Создать пустой и поместить папки туда или есть более прямой способ?
Извините, что не прогуглил вопрос, но с другой стороны статья же для того и написана, чтобы не гуглить этот вопрос. Ответ имеет смысл вставить в статью апдейтом, потому что что-то мне подсказывает, что не у одного меня будет такой вопрос.
К слову. Блоксхема AlexNet — лучшей сети для распознавания образов в 1212-ом году:
А это блоксхема GoogLeNet, лучшей уже в 2014-ом году:
Так что проблема «проблема — логика выбора «правильного сочетания» этих блоков» уже настала, причём так настала что писец.
Прошло совсем немного времени и стало известно как именно Cognitive Technologies справится с этой задачей. Следующей же новостью на сайте компании стало cognitive.ru/ru/competition-avtodor объявление конкурса в котором всем желающим предлагается создать систему компьютерного зрения для грузовика. Победитель конкурса, который лучше всех справится получит право работать в компании и, барабанная дробь… Приз в 100тысяч рублей. Меньше месячной зарплаты для такого специалиста за право сделать за CT их работу.
Надо отдать должное, неделя потрачена не зря, Максим Будаковский разработал неплохой регламент для соревнования, к участию в котором, по всей видимости, предполагается привлечь аспирантов или студентов старших курсов, заинтересовавшихся тематикой компьютерного зрения.
Напомним, что лидером в области таких алгоритмов распознования до недавнего времени считалась программа www.cs.toronto.edu/~fritz/absps/imagenet.pdf AlexNet написанная Алексом Крыжевским из университета Торонто, при участии таких бронтозавров-основаположников отрасли как Сутскивер и Хинтон. Схема сети приведена на рисунке: habrastorage.org/files/bcf/331/baf/bcf331baf1c84782b2d4a7f864ad6c75.png
С этой программой Крыжевский выиграл похожий конкурс по классификации изображений базы ImageNet. Однако сейчас лидером по всей видимости является GoogLeNet сами понимаете чей. Сеть стала глубже, сложнее, насыщена большим количеством хитрых связей и даёт ошибки всего в 10,7% против 18,2% у AlexNet Схема на рисунке: habrastorage.org/files/b3b/aac/215/b3baac215c6a4c6db3258e52ed0495d6.png
Вот с такими бронтозаврами предстоит посоревноваться претендентам, по всей видимости студентам МФТИ. В последнее вреня стратегией победы в таких конкурсах стало взять AlexNet, зафиксироть все веса кроме последнего слоя (6 миллиардов значений, если что), после чего дообучить последний слой сети на конкурсной выборке.
Я вам объясню почему вашего оппонента плюсуют. Потому что злопамятные!
Потому что помнят, что именно Вавилов активно продвигал карьеру Лысенко, что очень логично, учитывая значительные полученные им результаты, а пособачились они сильно позже.
Ещё потому что отлично знают, что в тогдашнем СССР за хозяйственные преступления садили, чаще всего, по не хозяйственным статьям, Точно так же как в одном штате США всем приезжим преступникам впаивают дополнительно год за то что они при въезде в штат не доложили что прибыли для совершения преступления.
Ещё потому что генетики не признались, как положено настоящим учёным, что они знают теорию в принципе правильную, но в практическом плане пока почти бесполезню. Вместо этого они брали на себя обязательства по выведению новых культур, отжимали финансирование других направлений, после чего с грохотом проваливали дедлайны, получая сильно меньше результатов, грубо говоря ARPU, чем мичуринцы.
И поэтому у меня как у физика Вавилов вызывает огромное уважение как минимум за излучение Вавилова-Черникова и то что он покрывал многих физиков, а также за бесценную вавиловскую коллекцю семян, за открытие центров видообразования, да ещё много за что. Но посадили его за нарушение внутрикорпоративной дисциплины и разбазаривание финансирования на подотчётном направлении.
Грустно, но правда. Быть носителем научного подхода за чужой счёт — традиционно и в этом нет ничего ненормального, но это не всегда проканывает. В данном случае не проканало.
Ну если вы с Украины, то судьба вашего производителя уж точно от биткоинов не зависит, и вообще сомнений не вызывает. У вас же там экономическую часть соглашения с ЕС, подписали, а в соответствии с ней не то что производством заниматься, а даже свиней на приусадебном хозяйстве выращивать будет нельзя. Кроме шуток, есть такой пункт, о приведении производства сельскохозпродукции к стандартам ЕС. Обязательством переложить все рельсы в стране этот многостраничный том не ограничивается.
В процессе вы ссылаетесь на вот эту статью про предобучение.
habrahabr.ru/post/163819/
Там фигурирует предположение, что в процессе обучения происходит затухание примерно так выглядящее:
Однако так грустно и однообразно веса изменяются только если их округлять тысячами. Если посмотреть визуализацию подчёркивающую изменения отдельных весов при слабо меняющихся остальных становится видно, что изменения в сети предельно далеки от постепенно затухающего приближения к оптимуму:
habrahabr.ru/post/221049/
— На аппарат ставится фишай градусов на 120, а то и больше, но в глаза пилоту подаётся прямая картинка, разогнутая на клиенте дисплейсмент-мапом. Ваще не проблема в наше время.
— Это даёт вам запас поля зрения раза в два в каждую сторону, так что вы можете вертеть головой, В направлениях отличных от курсового картинка, конечно, заметно хуже, но картинка меняется ровно с той скоростью с которой вы крутите головой. Ну с точностью до задержки VR очков.
— Вешаете управление на голову. То есть аппарат всегда стремится повернуться жалом туда, куда вы смотрите головой.
— На джойстик выносите вертикальную корекцию, так что можно смотеть чуть вниз, но аппарат летит при этом вперёд.
— Ну и плюс стабилизатор продольной скорости, грубо говоря автомат тяги, который сам меняет наклон так чтобы не давать аппарату разгонятся больше указанной джойстиком скорости. Логически связать это с вертикальной коррекцией из предыдущего пункта.
Собственно всё. Дальше летаем и наслаждаемся.
Продолжаем цитировать генерала Евстигнеева, куски интервью, которые ваша медуза «забыла» процитировать, не указав, что интервью отцензурировано:
vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv
ЕВСТИГНЕЕВ: Действительно до 1992 года, благодаря нашей внешней разведке, добывшей как реальные образцы американских биологических боеприпасов, так и их технические чертежи, мы могли моделировать реальные боеприпасы: одно-, двух-, трех-, четырехфунтовые авиабомбы. Мы даже вытачивали их единичные образцы в своих лабораториях, проводили натурные испытания с участием животных на специальном полигоне в Аральском море на острове Возрождения. Но после 1992 года на все это был наложен строжайший запрет и теперь заражение животных мы проводим только путем прививок.
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
И там же на абзац ниже:
vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv
биологическое оружие отличается от химического тем, что оно состоит из живых организмов. Процесс хранения последних очень затруднителен. Именно по этой причине их никто никогда не накапливал, стратегических запасов не создавал. Исключение могли составлять только токсины. Но поскольку у руководства СССР не существовало идеологической подоплеки проведения таких экспериментов и испытаний, программа не смогла набрать такого же серьезного масштаба, как разработка ядерного или химического оружия. Все эксперименты проводились, что называется, на всякий случай. В каком-то отношении это был блеф нашего руководства,
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
>>Евстигнеев добавляет, что в конце 1980-х «НПО «Вектор» рассматривали как «промышленную базу для производства наступательных биологических препаратов».
И всё бы ничего, если бы это бы цитата, однако по хитрой расстанавке кавычек можно догадаться, что это враньё. Открываем журнал «Ядерный контроль» №4 за 99-ый год на 22-ой странице и читаем что на самом деле сказал Евстигнеев:
vvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvvv
И по аналогии с нашими институтами был создан ряд НИИ в городе Оболенске Московской области, в Серпухове институт Иммунологии, в Новосибирске в поселке Кольцово институт вирусных риккетсий НПО Вектор, была рассмотрена возможность создания промышленной базы для производства наступательных биологических препаратов и их носителей. Но эта программа не вышла на пиковую фазу своего развития.
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
Обратили внимание, что разведка крала у сша образцы реально производившихся бомб, которых у нас не было?
Впрочем это мелочи. Если даже после такой явной демонстрации того, что ваши источники лгут как сивый мерин, Вы не пошли читать оригинал интервью Евстегнеева профильному изданию, а будете продолжать пытаться рассказывать сказки про нездоровый Советский Союз значит у вас пропаганда уже проделала дыру в мозге и убеждть вас в чём-то — только тратить буковки.
Евстигнеев заявлял, что в 1980-е — на основе данных, представленных КГБ и ГРУ, — был составлен список из 37 возбудителей различных заболеваний, по которым Союз должен разработать средства защиты. «Создавая средства защиты, нужно было создать какую-нибудь копию — подобие средства нападения. Поэтому нужно было научиться выращивать возбудители.
Чтобы разрабатывать защиту как бы необходимо уметь получать образцы того то, от чего вы защищаться собрались. В курсе, да?
Процитирую и тот кусок интервью Евстигнеева, который вырезали на медузе, не показав что вырезали, иначе бы у них сенсации не получилось:
… доставки и применения этого биологического вещества. Все это было необходимо делать не только для создания вакцин, но и чтобы проверить средства нашей биологической разведки, выяснить плотность обсеменения территории при применении этого оружия. Весь этот цикл работ и был так называемой наступательной частью…
То есть речь идёт о воссоздании наступательной технологии, для того чтобы узнать параметры нападения, от которого нужно защищаться. Никакого производства оружия. Но мастерски вырезав толкования понятий авторы зато получили интересную захватывающую статью, которая вызывает в читателях такие вот просветления.
У меня соседа по комнате в бытность в общаге родители работают в том самом Векторе в соседней лаборатории от той Эболы, их после второго заражения чуть тоже на месяц в карантин всех не пересажали. Немножко обидно за людей, которые рискуют жизнью, чтобы научиться лечить людей, которые их после этого ещё и поливают разоблачениями.
В Кольцово не разрабатывают оружия. На «Векторе» разрабатывают ЗАЩИТУ от оружия, которое может быть применено против сначала СССР, а потом России. И об этом было известно за долго до распада СССР. :-\
Более того в США есть точно такой же центр, и там тоже есть всё, что могут против попытаться США применить.
Хотя, про один случай создания в Кольцово биологического оружия я, конечно, знаю. В том же «Векторе» разработали достаточно могучий противотараканий карандаш. По всему Новосибирску продаётся, «Машенька» называется.
Извините, что не прогуглил вопрос, но с другой стороны статья же для того и написана, чтобы не гуглить этот вопрос. Ответ имеет смысл вставить в статью апдейтом, потому что что-то мне подсказывает, что не у одного меня будет такой вопрос.
А это блоксхема GoogLeNet, лучшей уже в 2014-ом году:
Так что проблема «проблема — логика выбора «правильного сочетания» этих блоков» уже настала, причём так настала что писец.
Прошло совсем немного времени и стало известно как именно Cognitive Technologies справится с этой задачей. Следующей же новостью на сайте компании стало cognitive.ru/ru/competition-avtodor объявление конкурса в котором всем желающим предлагается создать систему компьютерного зрения для грузовика. Победитель конкурса, который лучше всех справится получит право работать в компании и, барабанная дробь… Приз в 100тысяч рублей. Меньше месячной зарплаты для такого специалиста за право сделать за CT их работу.
Надо отдать должное, неделя потрачена не зря, Максим Будаковский разработал неплохой регламент для соревнования, к участию в котором, по всей видимости, предполагается привлечь аспирантов или студентов старших курсов, заинтересовавшихся тематикой компьютерного зрения.
Напомним, что лидером в области таких алгоритмов распознования до недавнего времени считалась программа www.cs.toronto.edu/~fritz/absps/imagenet.pdf AlexNet написанная Алексом Крыжевским из университета Торонто, при участии таких бронтозавров-основаположников отрасли как Сутскивер и Хинтон. Схема сети приведена на рисунке:
habrastorage.org/files/bcf/331/baf/bcf331baf1c84782b2d4a7f864ad6c75.png
С этой программой Крыжевский выиграл похожий конкурс по классификации изображений базы ImageNet. Однако сейчас лидером по всей видимости является GoogLeNet сами понимаете чей. Сеть стала глубже, сложнее, насыщена большим количеством хитрых связей и даёт ошибки всего в 10,7% против 18,2% у AlexNet Схема на рисунке:
habrastorage.org/files/b3b/aac/215/b3baac215c6a4c6db3258e52ed0495d6.png
Вот с такими бронтозаврами предстоит посоревноваться претендентам, по всей видимости студентам МФТИ. В последнее вреня стратегией победы в таких конкурсах стало взять AlexNet, зафиксироть все веса кроме последнего слоя (6 миллиардов значений, если что), после чего дообучить последний слой сети на конкурсной выборке.
Потому что помнят, что именно Вавилов активно продвигал карьеру Лысенко, что очень логично, учитывая значительные полученные им результаты, а пособачились они сильно позже.
Ещё потому что отлично знают, что в тогдашнем СССР за хозяйственные преступления садили, чаще всего, по не хозяйственным статьям, Точно так же как в одном штате США всем приезжим преступникам впаивают дополнительно год за то что они при въезде в штат не доложили что прибыли для совершения преступления.
Ещё потому что генетики не признались, как положено настоящим учёным, что они знают теорию в принципе правильную, но в практическом плане пока почти бесполезню. Вместо этого они брали на себя обязательства по выведению новых культур, отжимали финансирование других направлений, после чего с грохотом проваливали дедлайны, получая сильно меньше результатов, грубо говоря ARPU, чем мичуринцы.
И поэтому у меня как у физика Вавилов вызывает огромное уважение как минимум за излучение Вавилова-Черникова и то что он покрывал многих физиков, а также за бесценную вавиловскую коллекцю семян, за открытие центров видообразования, да ещё много за что. Но посадили его за нарушение внутрикорпоративной дисциплины и разбазаривание финансирования на подотчётном направлении.
Грустно, но правда. Быть носителем научного подхода за чужой счёт — традиционно и в этом нет ничего ненормального, но это не всегда проканывает. В данном случае не проканало.