Комментарии 16
Конечно, мы не можем сейчас как Интел напечатать чипов, попробовать, выкинуть, опять напечатать…А в чем конкретно проблема? Производство пилотных образцов стоит вполне подъемных денег. Собственно, даже в России уже больше одной компании занимается нейроморфным железом. Ни одна из них, правда, не имеет отношения к Росатому, но это, видимо, потому, что у Росатома не получилось «найти в России центр компетенций, который будет способен разработать и произвести такую архитектуру».
Простите, я правильно понимаю, мы хотим сделать умных, долгоживущих, быстрых, неуязвимых боевых роботов, против которых будем бороться следующие 100-200 лет? И это при условии, что сразу не будет разгромного поражения, и геноцида?
Быстродумающий
Надёжный
Маленький, но зато его много
Энергоэффективный - солнечной энергии хватит
Вечный.
Это такие сапоги всмятку что даже не знаешь что комментировать
Надо просто дать команду памяти что-то сделать. Это гораздо
энергоэффективнее. Нейроморфная система – это не просто искусственный
интеллект, это уход от классической архитектуры фон Неймана.
Нет, нейроморфные вычисления это не Compute-in-Memory.
Или мы могли бы сделать такую DVS-камеру (особый тип камер, которые работают по принципу глаза),
Нет, DVS (Dynamic Vision Sensor) работает "по принципу глаза" не больше, чем обычная камера, где есть обьектив (хрусталик), диафрагма, и сетчатка (матрица). Разница в принципе считывания и кодирования матрицы. DVS возвращет картину изменений.
Современные нейросети мы не можем бесконечно увеличивать по количеству нейронов. А математический аппарат импульсных нейронных сетей как раз решает эту проблему. Заложив
его в нейроморфные чипы, мы сможем строить системы неограниченно
большого масштаба. Не 100 миллиардов нейронов, а еще на 3 порядка
больше.
Напомнило анекдот: "Я печатаю со скоростью 300 знаков в минуту! - Что, правда? -Ага, только полная фигня получается." Нету никакой проблемы увеличить модель в гугол раз, есть проблема обучения больших сетей - как практической реализации, так и теоретических алгоритмов эффективного обучения сверхглубоких и широких моделей. Импульсные нейронные сети имеют другой алгоритм обучения, который теоретически не имеет таких ограничений, а практически...ну вы поняли.
Отдельно меня порадовало, что наши ученые вовсю вовлечены в эту гонку и работают вместе с мировым сообществом.
Так с кем они "гоняются", или против кого?
Нет, нейроморфные вычисления это не Compute-in-Memory.Но compute in memory сейчас чаще всего применяется для перемножения матриц)
Потому что это чуть ли не единственная стоящая и вычислительно сложная задача.
А вот как раз для импульсных нейронных сетей ("нейроморфных") оно и не особо нужно.
Скорее потому, что это чуть ли не единственное направление развития цифровой микроэлектроники (имеющей грандиозный запас наработанных технологий) в сторону нейроморфных вычислений. Все разработчики железа в этом смысле так или иначе пытаются "срастить" вычислительные ядра с оперативной памятью. И это направление как раз достаточно универсальное, чтобы разрабатывать его без специфичной привязки к развитию алгоритмов (импульсные сети в этом смысле лишь подмножество алгоритмов compute-in-memory - высокопараллельных алгоритмов, удобно ложащихся на триллионноядерный CPU с кешем под каждое ядро или на RAM с вычислительным ядром на каждый килобайт :)).
импульсные сети в этом смысле лишь подмножество алгоритмов compute-in-memoryИмпульсные сети — не подмножество compute in memory, их вполне можно реализовать и без памяти, например, на переключаемых конденсаторах.
Можно и в пробирке вырастить, да. Но мой акцент был на цифровой микроэлектронике :).
Разве что вы спутали in-memory computing c near-memory computing.
Но в любом случае, множества спайковых нейросетей и in-memory computing ортогональны.
Ладно, я не пытался спорить о терминах (ниже мой комментарий как раз показывает моё поверхностное понимание нюансов терминологии), и не путал ничего из написанного вами, ибо даже не знаю, что это, не нужно меня экзаменовать :), я всего лишь высказал мнение, что импульсные сетки естественным образом ложатся на множество вычислительных ядер с памятью. Compute-in-memory эффективно ускорит и импульсную сетку :).
Про аналоговость микросхем Самсунга не знал, тогда, получается, это по всем канонам нейроморфность, даже по критериям, описанным мною в том же каменте :).
Да, тоже полез в гугл вспоминать новость про Самсунг (возможно, с ними и гоняются? про Интел тоже где-то новости были о подобной разработке), чтобы посмотреть, называют ли они это нейроморфностью, ибо сам всегда считал, что нейромрофное железо - это про что-то типа мемисторов, про какие-то физические принципы мозга, реализованные в аналоговых радиоэлементах. Погуглил встречаемость словосочетаний, вроде пока мой словарь верен :).
Но слово красивое, согласен, маркетологи его наверняка опошлят и забаззвордят, как нано, крипто и прочие ашди. Статья, кажется, не про технологии, а про аналоговнет и привлечение инвестиций :).
UPD: Всё-таки процессоры, реализующие нейроморфные вычисления на "транзисторной" логике тоже называют (называют) нейроморфными. Ок, свой словарь поправил.
– Основная наша сложность – найти в России центр компетенций, который будет способен разработать и произвести такую архитектуру.
Пока можно производить уже известные решения. Для них есть проекты в Vivado для FPGA Xilinx, например, на сайте General Vision написано, что "IP available on FPGA and ASIC" (и на языке C тоже).
А то тут, на Хабре писали, что Verilog программисты не знают, чем заняться, мигать светодиодом - слишком просто, а делать процессор - наоборот, слишком сложно.
Мне кажется, что мы вряд ли догоним другие страны в классических архитектурах. Но, что касается нейроморфных систем, то тут у нас есть сильный задел, как, кстати, и по квантовым вычислениям.
Также можно попробовать "вычисления на воде". Это - не шутка, а вот тут можно почитать, и после по ссылкам тоже.
https://techxplore.com/news/2022-01-simple-liquids-complex.html
Reservoir computing называется...
Нейроморфные системы: искусственные мозги на замену нейросетям