Революционные компьютеры на подходе. Осталось научиться их программировать

    imageТак называется пост на гигаоме, который рассказывает о том, что скоро всё может сильно измениться.

    Вкратце:
    Команда учёных в Стенфорде создала новую плату, прозванную NeuroGrid, которая содержит 16 вычислительных ядер, способных эмулировать более миллиона нейронов и миллиарда синапсов. Они предполагают, что массовый выпуск таких устройств возможен при расходах около $400 за каждый юнит, что делает весьма привлекательным их применение во всевозможных устройствах, начиная с роботов, заканчивая искусственными конечностями, чтобы значительно повысить их вычислительные мощности, сократив при этом энергопотребление.

    Однако, даже если предположить то что это уже сегодняшний день, есть один важный момент — чтобы програмировать NeuroGrid, необходим учёный-нейролог (с соответствующей подготовкой).

    Сейчас та же команда учёных работает над специальными компиляторами, которые бы позволили людям без соответствующего научного багажа приемлемо писать программы под эту систему.



    Интересный момент: без создания качественных компиляторов для таких систем, которые будут в состоянии понизить необходимый объём знаний для начала работы с ними, данная разработка может просто «не взлететь». Потому что просто не будет программистов, способных хоть чем-то озадачить эти системы.
    Примерно те же проблемы сейчас испытывает отрасль суперкомпьютеров. Технически, возможно создавать машины практически любой вычислительной мощности, однако в мире очень мало специалистов, которые в состоянии написать для них ПО, чтобы их озадачить на полную мощность, а новые учатся слишком медленно.
    Share post

    Similar posts

    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More
    Ads

    Comments 52

      +8
      Как-то у меня в голове не укладывается НС и компилятор. Сеть же учат, а не программирую в привычном понимании? К тому же сеть ошибается (пусть и очень редко), как эти ошибки отлавливать и отлаживать?
        +6
        Ну, программы внутри человеческого мозга появились в процессе обучения. Мама-папа программисты, а ремень и конфеты — компилятор, грубо говоря.
        Суть же не в том, чтобы обучать НС, пока она не напишет «Hello World»
          0
          К тому же сеть ошибается (пусть и очень редко), как эти ошибки отлавливать и отлаживать?

          Я так полагаю, что нейроюниты из статьи и не предназначены для точных рассчетов, финансовых операций и т.п. применений без права на ошибку. Их стезя — CV всех родов, управление шагающими роботами, семантический анализ и синтез речи и пр.
          +21
          А так обучать не прокатит? :)

            +7
            Кенгуру получился :)
              +5
              Кенгуру получается потому что у алгоритма нет достаточной информации об окружающей реальности чтобы двигаться не только неуправляемыми прыжками. Насекомые многие передвигаются именно так и ровно по той же причине.
                +2
                Ох, спасибо за эту мысль! Озарило: так вот почему насекомые так «не логично» летают зигзагами или кружат петлями. Почему глупо петляют улитки.
              +9
              Вот это выглядит гораздо веселее.

              И paper с описанием вот тут.
                +7
                Меня всё время веселит пьяный мужик, в которого кидают коробки и в конце сбивают холодильником.
                +1
                Охренительно подобрана музычка…
                www.youtube.com/watch?v=AJJV69xnR8k
                  0
                  Да еще и последний аккорд отрезали.
                  +1
                  Вот Вам вдогонку проект — creativemachines.cornell.edu/soft-robots
                  +1
                  Скорее не новые учатся слишком медленно, а новых разбирают слишком быстро. При этом как мне кажется среднее число высококлассных программистов пока ближе к константе, несмотря на множество возможностей для обучения, это связано как с падением рождаемости, так и с деградацией системы образования. В итоге одно компенсирует другое.
                    +4
                    Тренд на использование машинного обучения в продакшене и околопродакшене появился относительно недавно. Учитывая латентность систем образования в целом — ничего удивительного нет.
                    +14
                    «однако в мире очень мало специалистов, которые в состоянии написать для них ПО, чтобы их озадачить на полную мощность» — к сожалению, все ровным счетом наоборот. В мире слишком много специалистов, которые способны нагрузить такие машины, что они никогда не выйдут из вечного даунтайма.)
                      +2
                      Это одно и то же.
                      –13
                      Покажите мне вакансию которая бы меня заинтересовала и я потрачу несколько лет лиж бы ее получить. А так же я как то не особо я видел хоть скольконибуть вводные курсы для данных специальностей. Либо они подразумевают что для того что бы попасть в эту сферу нужно быть ученым в какой либо другой отрасли нежели только IT?
                        +1
                        Для начала нужно выучить «рускиязык»
                          0
                          тогда мне туда дорога не светит :(
                            0
                            А они что по русски говорят?
                              0
                              Вам намекают, что если вы даже родной язык не в состоянии выучить, то английский нечего и пытаться.
                                0
                                Я не совсем понял ваш вывод, и мне кажется, что он даже не к тому посту прикреплен. Первый ответ это необоснованная глупость с моей стороны, второй это под*ёб, намекающий как раз на то, что ошибки в моем предыдущем посте несильно коррелируют с тем что нужно для становление специалистом в данной области.

                                Если так мыслить, то удивительно как я вообще живу, я же русский не знаю. Я не утверждаю, что слабое знание русской грамматики это хорошо, но это и не так страшно, если это не является вашим проффессиональным скилом.
                                  +3
                                  Я не про русский язык, я про родной. Если вы хотите работать в Стэнфорде, вам придётся выучить английский. Каковы будут ваши успехи в его изучении?

                                  Вы можете не быть писателем, но научиться использовать спелчекер в браузере не так сложно.
                            0
                            Вчера читал про мужика, который в 50 лет освоил zbrush (программа скульптинга) и начал делать шедевры для голливуда.
                            Так что нет никаких помех, вперёд!
                            +9
                            На самом деле Kwabena Boahen занимается NeuroGrid уже очень-очень много лет. При этом до сих пор нет какой-то понятной и прозрачной конкретики. К тому же ни в апрельском, ни в майском выпуске Proceedings of the IEEE пока нет его статьи, на которую ссылаются все новостные заметки. Большинство подобных проектов, с моей точки зрения, страдают от одной и той же проблемы: непонятно, какие возможности они предоставляют для обучения нейросети, как самого важного и трудозатратного этапа в данной области. На данный момент методы обучения серьезно развиваются — появляется множество модификаций и дополнительных трюков (как в области формальных нейронных сетей (школы Хинтона, Ле Куна, Бенджио и т.д.), так и в области биолого-реалистичных нейросетей (например Eliasmith et al., Friston et al. и т.д.) ). Поэтому не очень понятно как можно создать архитектуру, которая будет достаточным образом расширяема, чтобы допустить последующие модификации обучающих методик. А если это будет использоваться только для того, чтобы уже загрузить готовую нейросеть, которая обучалась еще где-то, то это уже значительно менее полезно.
                              0
                              А почему кстати? Нейронная сеть работает, скурпулёзно логирует первую производную по синапсу, усредённённую за большое количество тестов, после чего изредка отсылает гигабайты производителю, на производительском суперкомпьютере отрабатывает сложная методика обучения и отдаёт обратно готовую сеть. А локальный процессор умеет, грубо говоря, только Бак пропригейшен, для того чтобы лишь чуть-чуть доводить загруженную сеть на месте. На самом деле будет даже смешно, если локальный алгоритм будет плохой и вести к деградации и переобучению сети. тогда потребитель окажется в зависимости от регулярного обновления от серверов хозяина.

                              Помоему очень годная бизнес-модель, к тому же позволяющая скрывать от потребителей тонкости сложных алгоритмов.
                                0
                                В таком случае вообще непонятен смысл подобных нейрочипов, чтобы в облаке все равно был суперкомпьютер к которому есть толстый канал доступа. К тому же логику вычисления первой производной все равно надо зашить в данное железо (а иногда первой производной недостаточно). Хотя Kwabena Boahen больше ориентируется на биолого-реалистичные локальные правила обучения по типу STDP.
                                0
                                Может быть, как раз об этом и речь в абзаце о трудностях?
                                Типа, они разработали специальные чипы, которые «эффективно прикидываются нейронами и синапсами», но в мире слишком мало специалистов, которые понимают, что происходит там внутри и, поэтому, написать под них программы (обучения) является такой большой проблемой.
                                  +1
                                  Это только половина проблемы. Другая половина — это то, что очень сложно сделать эти чипы так, чтобы даже те люди, которые обладают достаточными знаниями, могли бы их эффективно программировать (с достаточной степенью свободы в реализации новых подходов к обучению).
                                  .
                                +7
                                Отдам нейросеть в хорошие руки, к горшку не приучена, гадит везде.
                                  +3
                                  Привет робопсихология.
                                    +1
                                    они... заставляли меня... сортировать... сортировать массивы неоптимальными алгоритмами...
                                    
                                    +1
                                    А нет ли материала в сети, возможно, на русском языке с описанием архитектуры и особенностей данного чипа?
                                      –3
                                      А ведь скоро компьютеры смогут полностью заменить человека. Чем будут заниматься люди в будущем? Если компьютеры уже умеют придумывать рецепты, писать музыку (пока не очень), водить автомобиль, и в скором времени будут это все делать лучше человека. Лет через 10-25 они смогут полностью избавить человека почти от всех профессий. Даже программистов заменят на 70%. Но ведь если люди не будут чем-то заниматься, то скорее всего они будут воевать. Прогресс это круто, но люди к нему не готовы, к хорошему это не приведет…
                                        0
                                        Приведёт к тому что «философский зомби» будет работать не на АТФ и глюкозе (как сейчас), а на электричестве. И не болеть простудой неделями.
                                          +1
                                          По-моему, в книжках сороковых годов или около того я уже читал подобные фразы. А может, и тридцатых.
                                          Интересно, сколько промышленных роботов трудится на АвтоВАЗе?
                                            +1
                                            Тогда не было таких разработок как сейчас, люди просто предполагали.
                                              +2
                                              Тогда были другие разработки. Штука в том, что компьютер/робот/whatever должен быть экономически выгоднее человека. Это только кажется, что ему не нужно платить зарплату и работать он может двадцать четыре часа в сутки.

                                              В действительности специализированное обордуование стоит больших денег, в принципе не всегда продаётся, нуждается в квалифицированном уходе/ремонте, морально устаревает и так далее. Не говоря уже о том, что апгрейд существующего процесса тоже небесплатен. Может вполне окзаться, что живой сотрудник обходится дешевле. Собственно, именно это мы и наблюдаем в наше время, когда у одних полный цех роботов, а у других — китайцев, но при этом и первые, и вторые вполне себе выживают, и ещё неизвестно, кто в итоге выживет.
                                                0
                                                В действительности специализированное обордуование стоит больших денег, в принципе не всегда продаётся, нуждается в квалифицированном уходе/ремонте


                                                В какой-то момент роботы смогут ремонтировать друг друга или сами себя. Ничего фундаментально «хитрого» тут нет.
                                                  0
                                                  Это не так уж и важно. Можно ремонтировать друг друга, а можно просто покупать новое оборудование в магазине. В любом случае всё стоит денег и должно быть экономически оправдано. Китайцев вообще не надо чинить — увольняем одного, берём другого. Без запчастей и расходов.
                                                    0
                                                    С китайцами приходится тратиться на суицидоуловительные сетки. Факт.
                                                      0
                                                      Факт. Осталось лишь привести калькуляцию, что дешевле.
                                                        0
                                                        С годами это будет намного дешевле. Компьютеры по началу тоже немного перспектив в этом плане имели, а однако…
                                            +1
                                            Еще можете заменить «роботов» на «индусов».
                                              +1
                                              Вместо тупой механистической рутины люди займутся чем-нибудь полезным. Изобретение трактора не разделило мир на 5% пахарей и 95% военных, правда?
                                                +1
                                                Да, но чем? Если даже скоро в творчестве, роботы будут не хуже людей. Да и пример с трактором не совсем корректный, так как оставалось еще очень много профессий. Роботов будет легче обучать, они менее ленивы чем люди, и им не нужно спать. Большинство профессий все равно исчезнет, останутся только самые сложные, которые не всем по силе. Если люди не заняты работой, они обычно начинают искать себе приключения, не всегда хорошие.
                                                  +2
                                                  У меня два варианта.
                                                  1)98% будут постить котиков в соц. сети, писать коменты и статьи обзоры на Хабре, лайкать фотки, выкладывать фото еды в Инстаграм. Остальные будут рисовать, писать книги, снимать кино, делать науку. Причем все это для себя, как хобби, т.к. все то же самое будут делать роботы, причем в значительно большем количистве и сравнимом качестве. Правда по началу «живые» книги будут более модными, но со временем это уйдет.
                                                  2) Двинуться осваивать и заселять другие планеты. Роботы тут будут помогать, но люди будут первичны.
                                                    0
                                                    Второй вариант мне нравится, но он опять же относится к «останутся только самые сложные, которые не всем по силе.». Но в итоге, заработать себе на жизнь, смогут только талантливые люди.
                                                    +1
                                                    Чем больше в мире роботов, тем больше в мире людей, которые будут чинить роботов.
                                                      0
                                                      Пока роботы не научатся чинить себя сами…
                                                  0
                                                  Эм… подсчитайте, пожалуйста, какой процент профессий связан с непосредственным производством материальных ценностей:
                                                  rating.rbc.ru/articles/2009/07/31/32514767_tbl.shtml?2009/07/31/32514766
                                                  От людей никуда не деться. Они дешевы, они широко специализированы, они самообучаемы и с маленькими потребностями под рабочее место.
                                                  Сколько нужно времени, что новый сотрудник начал работать? Поставил ноут и все.
                                                  И стоимость найма сотрудника = стоимости ноута.
                                                  Стартап может загнуться и не вытянуть стоимость суперкомпа (80 миллиардов нейторонов=80 000 таких плат. Это нехилый суперкомп, чтобы отдавать его под под стартап, который загнется через полгода).
                                                  Так что, с людьми все будет ок. Человек — как таракан, ко всему приспособится.
                                                  0
                                                  Как давно я этого ждал!

                                                  Only users with full accounts can post comments. Log in, please.