Статья является вольным переводом The Flaw Lurking In Every Deep Neural Net.

Недавно опубликованная статья с безобидным заголовком является, вероятно, самый большой новостью в мире нейронных сетей с момента изобретения алгоритма обратного распространения. Но что же в ней написано?

В статье "Интригующие свойства нейронных сетей" за авторством Christian Szegedy, Wojciech Zaremba, Ilya Sutskever, Joan Bruna, Dumitru Erhan, Ian Goodfellow and Rob Fergus, команды, включающей авторов из проекта Google по глубокому обучению, кратко описываются два открытия в поведении нейронных сетей, противоречащие тому, что мы думали прежде. И одно из них, честно говоря, поражает.

Продолжение.

Начало здесь: Нейробиология и искусственный интеллект: часть первая — ликбез,
и здесь: Нейробиология и искусственный интеллект: часть полуторная – новости от Blue Brain Project.

Теперь, вооружившись новым знанем, можно порассуждать о том, каким образом транспорт ионов через мембраны приводит к интеллекту и сознанию. Правильного, полного и четкого ответа пока никто дать не может, так что будем рассматривать текущую ситуацию на примерах.

Хочу напомнить, что данная серия статей не претендует на детальное описание всех процессов, вовлеченных в когнитивную деятельность мозга, а является описательной, дабы дать интересующимся представление о принципах работы мозга, интеллекта и сознания.

И как же интеллект связан с деятельностью нейронов?

Пока писал вторую часть, наткнулся на новость и решил что это будет интересно многим в этом хабе.

Итак, есть такой великий проект, который спонсируется IBM, называемый Blue Brain Project. Основная идея сего предприятия – взять и оцифровать мозг. Вплоть до молекулярного уровня, дабы изучать все происходящие в нем процессы in silico. Ну и комп там соответствующий – Blue Gene Supercomputer.

По состоянию на август сего года, они могут симулировать порядка 100 кортикальных колонн, состоящих из 1 миллиона нейронов и миллиарда синапсов.

Так вот новость заключается в том, что они вбросили в симуляцию порядка 10000 нейронов в случайном порядке в 3D пространстве (с учетом общей плотности и местной морфологии нейронов), и проследили, как они будут строить связи между собой, и потом сравнили с данными о реальном мозге млекопитающего. В итоге они получили 75-95% сходство в позиционировании синапсов.

Таки что это значит для нас?

Так уж получилось, что я уже давненько читаю Хабр и особенно раздел про искусственный интеллект, однако до сих пор так и не отважился внести свою лепту в общий уровень энтропии.

Оживленные дискуссии в комментариях показывают живой интерес к теме и одновременно большое разнообразие точек зрения, мнений и уровней подготовки. Просмотрев историю публикаций, я как-то не нашел важного отправного пункта для многих рассуждений, а именно – какого-нибудь описания механизмов передачи сигналов в мозге. Те, кто пишут про нейронные сети и прогресс в компьютерных моделях интеллекта обычно вскользь упоминают про синапсы и медиаторы (что вполне достаточно для их целей), те же, кто пытается понять природу естесственного интеллекта в основном рассуждают философскими категориями. В результате, множество коментариев содержат отсылки к популярным домыслам и мифам, не находящим подтверждения в современных исследованиях.

В данной статье я в сжатой форме попытаюсь дать ответы на следующие вопросы:
— что же такое нейрон, как он устроен и работает?
— что происходит в синапсах, когда нейроны общаются друг с другом?

А в следующей (-щих):
— как интеллект и сознание связаны с активностью нейронов? (здесь же про то, как информация обрабатывается мозгом, нейропластичность, квантовую теорию сознания, сон и т.д.)

Кто из нас хотя бы раз в жизни не задумывался о том, чтобы жить вечно?
Происходило это и со мной. Можно сделать биологическую клетку, ориентированную на бесконечное число делений, без зависимости от типа клетки.
Но как сущий технарь я понимаю, что человеческое тело несовершенно.
Вечной жизни для биологического индивидума можно достичь двумя путями. Различными по своей сложности и возможностям, которые предоставят эти решения.

1. Управляемое бесконечное деление биологической клетки
2. Перенос сознания на другой более отказоустойчивый носитель.

Смысл статьи и последующей дискуссии — исследовать теорию именно по пункту 2, т.к. он подразумевает не копирование личности, когда ваш мозг скопирован в кого-то другого, но при этом вы остаётесь самим собой, а перенос именно вашего мозга на другой носитель, да так, чтобы вы не прекратили своего существования, мыслительного континуума, самоосознания.

github.com/bundestag/gesetze

Все законы можно найти в формате Markdown. Теперь граждане страны могут получать доступ к самым свежим текстам законов и отслеживать изменения.

Можно делать pull-реквесты, но только законы, которые одобрены голосованием в бундестаге, будут приняты…

/via news.ycombinator.com/item?id=4353389

Наверное, это самый экологичный робот — осуществляет 3D-печать из природных материалов (почва и песок), используя при этом природную энергию (Солнце).

Несмотря на то, что создание больших конструкций и зданий пока еще неподвластно роботу, его создателям удалось напечатать ряд скульптур (стулья, колонны и дуговые несущие конструкции) из песка, земли и специльной затвердевающей смеси.

Под катом — видео и FAQ.

Эта статья продолжение Модель функционального разделения сознания и бессознательного. Введение. В ней мы лирически описали принципы перцептрона Розенблатта. И подняли проблему обучения от двух и более учителей. В этой статье проблема «двух и более учителей» не рассматривается, её мне достаточно сложно сформулировать технически на простых примерах (на сложных могу). Поэтому с этим будем разбираться возможно в следующей статье — если будет некоторый интерес.

В этой статье мы поговорим о сознании, но если желаете пропустить лирику (а специалистов она несколько напрягает, но хотелось чтобы поняли не только специалисты), то начинайте читать с раздела «Модель «Нулевого сознания» в Интеллектронике». Но лирика все же дает некоторые идеи о связи с такими фиктивными понятиями как сознание.

Ученые в Стэнфорде совершили огромный шаг вперед: впервые была создана полная цифровая модель организма и всего его жизненного цикла. Для создания компьютерной модели крошечной бактерии Mycoplasma genitalium потребовалось написать 28 независимых взаимодействующих друг с другом модулей, симулирующих процессы живой клетки и оперирующих 1.900 параметрами. Для описания их поведения использовались 900 различных научных отчетов. Сложность модели высока: лишь для процесса деления одноклеточного требуется 10 часов симуляции, а на выходе получается полгигабайта данных.

Mycoplasma genitalium — простой паразит, обитающий в мочеполовых и дыхательных путях. Бактерия привлекает исследователей в первую очередь размером своего генетического аппарата — у M. genitalium всего 525 генов, в то время как у более традиционной лабораторной E. coli их 4.288. Несмотря на характер микроорганизма и трудности в работе с паразитом, малое количество генов делает его привлекательным для биоинженеров: именно с участием M. genitalium в 2008 году впервые была создана искусственная хромосома.

Графен — перспективный наноматериал для разработки новых устройств, и практически ежедневно случаются события, говорящие о прогрессе его исследований. Немецкие ученые университета Эрлангена-Нюрнберга поставили более значительную веху: путем обычной литографической гравировки были созданы высокопроизводительные монолитные графеновые транзисторы, что может стать отправной точкой некремниевой электроники.

Графен обладает целым рядом необычных свойств, и среди них есть высокая проводимость — наиболее высокая из открытых веществ. Согласно ранним демонстрациям от IBM, графеновые транзисторы могут иметь частоту коммутации в районе 100 гигагерц и до нескольких терагерц. Но графен не обладает запрещенной зоной, то есть не может открываться и закрываться под воздействием тока или напряжения, поэтому создание транзистора на его основе было осложнено.

Раньше Kickstarter публиковал статистику лишь от случая к случаю. Теперь данные будут обновляться ежедневно. Kickstarter — самая крупная площадка совместного финансирования. Всего с помощью kickstarter было собрано 263 миллиона долларов, из них 220 миллионов — на успешные проекты, 27 миллионов — на неуспешные. Ещё 16 миллионов сейчас на счетах незавершённых проектов. Доля успешных проектов — 44.04%. Большая часть успешных проектов — 17443 — собрали от 1 до 10 тысяч долларов. 168 проектов собрали больше 100 тысяч, 7 из них — больше миллиона.

Подавляющее большинство неуспешных проектов — 26572 из 31938 собрали меньше 20% нужной суммы, причем 7176 не получили вообще ни копейки. Сейчас на kickstarter открыто 4015 проектов. Больше половины всех собранных денег приходится на три категории — «фильмы и видео», «музыка» и «дизайн».

Глобальный рынок краудфандинга достиг уже полутора миллиардов долларов и продолжает расти. Однако, кроме количественного роста намечаются и качественные сдвиги. Краудфандинг арт-проектов, гаджетов, общественных и политических кампаний — это уже мейнстрим. А вот совместное финансирование научных исследований пока в новинку. Краудфандинг науки интересен не только как дополнительный источник финансирования исследований, но и как способ популяризации науки, мостик между широкой аудиторией и учёными.

Экономики мира в 2011 году потратили на R&D в общей сложности около 1 триллиона 333 миллиардов долларов, или 2% мирового ВВП. Естественно, большая часть этих денег приходится на прикладные исследования и разработки, но и на фундаментальную науку остаётся примерно 20% от общей суммы или около 270 миллиардов. Практически все деньги достаются учёным через посредничество корпоративной и государственной бюрократии. Для подавляющего большинства людей наука продолжает оставаться чем-то абстрактным.

Вы когда-нибудь думали, как будет выглядеть мир Civilization 2, если играть десять лет подряд без перезапуска? Один геймер прошёл через этот кошмар и делится впечатлениями. Хорошая новость в том, что человечество ещё существует. Но итог марафона — 1700 лет войны, повсеместное загрязнение, бесконечные восстания. Ледяная шапка Земли таяла 20 раз. Около 90% населения планеты уничтожено либо в результате ядерных войн, либо от голода, вызванного глобальным потеплением, из-за чего на Земле абсолютно не осталось почвы, пригодной для фермерского хозяйства.

От универсального интеллекта к сильному ИИ. Перспективы создания сильного искусственного интеллекта

Область искусственного интеллекта (ИИ) принесла массу замечательных практических результатов в части автоматизации человеческой деятельности в самых разных сферах, что постепенно меняет облик нашей цивилизации. Однако конечная цель – создание по-настоящему разумных машин (сильного ИИ) до сих пор не была достигнута. В то же время, из ученых мало, кто действительно сомневается в том, что такой сильный ИИ в том или ином виде может быть создан. Если какие-то возражения и звучат, то они имеют религиозных характер, апеллирующий к наличию у человека нематериальной души. Но даже при столь радикальных воззрениях на нематериальный мир списывают лишь такие сложные концептуально феномены как свобода воли, творчество или чувства, не отрицая возможности наделения машины почти неотличимым от человека поведением. Гораздо менее однозначными являются ответы на вопросы, когда и как именно может быть создан сильный ИИ?

Пузырьки диаметром несколько сотен микрометров управляются инфракрасным лазером. Лазер нагревает стенку контейнера с соляным раствором, на которой расположен пузырёк, нагретая жидкость стремится перетечь в более холодные области вокруг пузырька и заставляет его двигаться вслед за лазерным лучом. Освещая разные точки на границе пузырька, можно заставить его двигаться в любую сторону. Скорость пузырька зависит от интенсивности луча и может достигать четырёх миллиметров в секунду.

Рекордсмен по сетевому покеру и World of Warcraft Chiren Boumaaza, aka Athene, и его друг Reese Leysen, тоже геймер и медиа-активист, около полутора лет назад выложили свой научно-популярный фильм «Athene's Theory of Everything». Есть некоторое обсуждение фильма на русском и нет есть его перевод на русский, которого он действительно достоин.

Только на Ютубе фильм посмотрели уже более 1 млн. зрителей, он также доступен для скачивания с торрентов и по прямой ссылке.

Фильм состоит из 2 частей и рассказывает о последних достижениях в исследованиях работы мозга (1-я часть) и универсальной теории в физике (2-я часть).
Излагаемый материал доступен людям с базовым английским, рассказывается с хорошей дикцией и снабжён титрами.

Смотрите, читайте материалы по ссылкам в аннотации к фильму.

Идея написать подобный пост у меня появилась давно; в некоторых кописрачах я прямым текстом писал, что копирайт убивает классическое искусство и обещал раскрыть этот тезис позже. Долгое время меня останавливало то, что на Хабре такой топик вряд ли будет сильно интересен. Но, после некоторых раздумий, я пришёл к выводу, что проблема «копирайт — искусство» шире собственно классической музыки и литературы и затрагивает многие куда более приземлённые вещи. Например, игровую индустрию.

Если мы посмотрим внимательно на жанровое разнообразие в игровой индустрии (сразу оговорюсь, я имею в виду сюжетные single-player игры, не касаясь mmorpg и казуальщины), то мы обнаружим, что оно существенно деградировало по сравнению с 90-ми годами. Жанр квеста исчез совсем, TBS находится на грани вымирания. Существенно сократилось поголовье классических RPG типа Baldur Gate, Planescape Torment (т.е. таких RPG, где надо думать головой при билде персонажа). Стало значительно меньше игр с оригинальной игровой механикой (типа Settlers I-II). Собственно, за меня здесь уже всё сказали, см. картинку слева.

Большая часть современных игр — это какая-то помесь RPG от первого лица, шутера и аркады. При этом, что характерно, на разработку этих игр тратится очень много денег, так что проблема явно не в желании издателя сэкономить. Ровно то же самое произошло и с музыкой: всё многообразие жанров (опера, симфония, соната, фуга, etc.) в классическом искусстве деградировало ровно до одного — песни. И, если я не ошибаюсь в своих предположениях, то очень скоро с геймдевом произойдёт то же самое.

Собственно, если некоторые студии перестанут регулярно выкапывать труп стюардессы (см. Might & Magic Heroes VI, Civilization V, Diablo 3, etc), то это может произойти прямо завтра. Почему же? Что общего у геймдева 90-х и классической музыки?

Предисловие

Не знаю, все ли программисты всесторонне любознательные люди, но я всегда пытаюсь получить фундаментальные знания во всех областях, которые могут быть практически полезны. В то время, когда мне в голову пришла эта идея я изучал анатомию и физиологию по журналам «Тело человека. Снаружи и внутри», ну а по работе я занимался стерео-варио фотографиями (для тех кто не знает — были такие советские календарики с ребристой поверхностью, где картинка либо казалась объемной, либо менялась). Так вот, в один из вечеров мне пришла в голову замечательная идея, которую я на протяжении уже 4х лет использую для поддержания своего зрения.
Обещаю, что эффект почувствуете сразу!

С Дмитрием Коробицыным мы посвятили 159й вебинар UX Russia влиянию дизайна (в широком смысле) на продажи интернет-магазина.



Дмитрий, как разработчик и предприниматель, рассказывает истории из своих проектов, когда увлечение дизайном и «продвинутыми» интерфейсами" уводило внимание команды от понимания аудитории, и приводило к неожиданным обрушениям в продажах.

Продолжительность около часа! Видео для самых фанатов этой темы и этих спикеров :)

Сергей Орловский о 15-летней истории одного из старейших производителей и издателей онлайн-игр Рунета, о трендах в игровой индустрии, об особенностях создания онлайн-игр в в Азии, Западной Европе и России, схемы монетизации игр, о том, как создать игру мирового уровня, а также о многом другом.