У очень ленивых студентов. Реферат ниже плинтуса, такое даже в школу стыдно притащить.
логика и устройство нейроморфных процессоров изначально узкоспециализирована для работы именно искусственных нейронных сетей.
нет, Google Edge TPU и ещё сотня NPU это не нейроморфные процессоры. Нейроморфные процессоры ускоряют импульсные нейронные сети, а не ИНС вообще.
Хотя бы прочитали что написали:
Почему GPU, ASIC и FPGA недостаточно хороши при работе с нейронными сетями
а ниже:
Таким образом, нейроморфный процессор — это особый ASIC,
М. Маслянов, в своей книге: "Спецназовцы особого назначения: моя автобиография без повторений и тавтологий" спрашивает читателя: Вы вообще понимаете разницу между СБИС и ASIC? Или просто бездумно копипастите куски чужих статей из интернета?
Статья о "нейроморфных процессорах", но не назван ни один из десятка существующих. Вообще ни о чём.
Это такие сапоги всмятку что даже не знаешь что комментировать
Надо просто дать команду памяти что-то сделать. Это гораздо энергоэффективнее. Нейроморфная система – это не просто искусственный интеллект, это уход от классической архитектуры фон Неймана.
Нет, нейроморфные вычисления это не Compute-in-Memory.
Или мы могли бы сделать такую DVS-камеру (особый тип камер, которые работают по принципу глаза),
Нет, DVS (Dynamic Vision Sensor) работает "по принципу глаза" не больше, чем обычная камера, где есть обьектив (хрусталик), диафрагма, и сетчатка (матрица). Разница в принципе считывания и кодирования матрицы. DVS возвращет картину изменений.
Современные нейросети мы не можем бесконечно увеличивать по количеству нейронов. А математический аппарат импульсных нейронных сетей как раз решает эту проблему. Заложив его в нейроморфные чипы, мы сможем строить системы неограниченно большого масштаба. Не 100 миллиардов нейронов, а еще на 3 порядка больше.
Напомнило анекдот: "Я печатаю со скоростью 300 знаков в минуту! - Что, правда? -Ага, только полная фигня получается." Нету никакой проблемы увеличить модель в гугол раз, есть проблема обучения больших сетей - как практической реализации, так и теоретических алгоритмов эффективного обучения сверхглубоких и широких моделей. Импульсные нейронные сети имеют другой алгоритм обучения, который теоретически не имеет таких ограничений, а практически...ну вы поняли.
Отдельно меня порадовало, что наши ученые вовсю вовлечены в эту гонку и работают вместе с мировым сообществом.
При чём здесь бесплатное ПО? На бесплатное открытое ПО можно создавать любую лицензию. Проблема в том, что платное и недешевое ПО продаётся без гарантий и альтернатив практически нет.
Ставлю свои ботинки против пиратской копии Windows 98 что ни фирма-разработчик, ни интегратор, не понесут никакой ответственности за этот инцидент. Это в реальном мире сварщики ставят свои клейма на швы, а архитекторы идут в тюрьму после обрушения здания. В прекрасном мире IT достаточно написать в лицензии "This software provided AS IS...", и ты в домике.
И да, это всего лишь меморандум о намерениях, а не контракт и предоплата или хотя бы гарантии оплаты. Просто встретились люди, поговорили, и пришли в выводу что буде у первых ракета, то вторые восжеламши покупать оную.
Интересно, если бы они попробовали мерять расстояние по звуку, можно ли было получить приемлемую точность?
Пусть у них будет хороший секундомер (метроном, маятник итд.). У лучшего фехтовальщика экспедиции скорость реакции должна быть меньше 50 мс. Большую пушку можно услышать километров за 10. Итого получится погрешность около 16 метров на 10 км. Конечно не учтена неоднородность воздуха на 10 километрах, но думаю точность в 50 метров на 10 км достижима. Это немного хуже чем прямое измерение, но гораздо менее трудозатратно.
Точность можно существенно повысить если создать какой-либо механический регистратор звука, типа фонографа. Вполне решаемая задача для Жаке-Дро.
Ага, только работают они только на CPU, и главная фишка у них эффективное распараллеливание на несколько процессорных ядер с максимальным использованием быстрого кэша. На мобильных процах (32-512 кБ) фокус не прокатит. Я не отрицаю что технология может быть полезной в некоторых случаях, но это явно не универсальная панацея. Прореживать Реснет-50 смысла нету - модель чисто академическая. Для Мобайлнета они обещают сокращение размера до 4.5 МБ, что соответсвует обычной 8-битной квантизации (4.2 миллиона весов). Так что непонятно где там "магия".
Я навскидку посмотрел - уже есть пара публикаций о квантизации трансформеров, авось через пару лет и дойдут до практических примеров.
Прунинг звучит круто ("мы выбросили 90% параметров!!!111"), на практике очень редко даёт ускорение ибо всё железо заточено под плотные, а не разряженные матрицы, и кроме слабеньких процессоров мало где можно получить ощутимый выигрыш.
При сопоставимом количестве операций с плавающей точкой модели Swin значительно превосходят ViT и DeiT и сравнимы с EfficientNet (эффективнее по числу операций, чуть уступают в плане эффективности по параметрам).
В табличке выше самый мелкий трансформер на 4.5 Гфлопс имеет точность 81.3, а EfficientNet на 1.8 Гфлопс выдает 81.6%. Где они эффективнее?
Ещё с трансформерами большая проблема в квантизации. Если свёрточные сети спокойно квантизируются в 8 бит или даже меньше с минимальной потерей точности, то трансформеры сильно ухудшаются, и совершенно неэффективны для практических применений, особенно вне дата-центра.
Смарт часы и vr очки работают и выполняют заявленный функционал. Если бы какие-то "смарт" часы обещали бы наручный сильный ИИ, а vr очки обещали бы полное погружение в Матрицу, то это был бы скам. Теранос делали заведомо ложные заявления о своей технологии и обманывали клиентов, выдавая чужие результаты анализов за свои.
изготовлены из лёгкого и прочного пластика с добавлением диоксида титана
Вау, титан это круто! А ещё этот космический материал добавляют в гуашь, детские игрушки и даже пончики. Ибо титановые белила это самый обыкновенный пищевой краситель.
Обе дужки имеют отверстия, компенсирующие направленные звуковые волны и дополнительно уменьшающие утечки звука.
Отверстия уменьшают утечку звука? А чем они компенсируют направленные волны?
Т.е. у Тиктока должен быть огромный архив видео убийств, каннибализма и порно с пометкой "хранить вечно, отмодерировано?" Или доказывать будут по записям в джире "mov004.avi: белый мужчина ест варёную руку ребёнка, удалено"?
Эти деньги в итоге идут на трансформацию, в тч на то, чтобы самолеты в итоге стали зелеными, на то, чтобы реализовывались инициативы, которые снижают выбросы в разных областях.
Нет.
Это в любом случае лучше, чем слепо покупать облигации угольных электростанций и владеть долями в высокоуглеродном бизнесе.
У очень ленивых студентов. Реферат ниже плинтуса, такое даже в школу стыдно притащить.
нет, Google Edge TPU и ещё сотня NPU это не нейроморфные процессоры. Нейроморфные процессоры ускоряют импульсные нейронные сети, а не ИНС вообще.
Хотя бы прочитали что написали:
а ниже:
М. Маслянов, в своей книге: "Спецназовцы особого назначения: моя автобиография без повторений и тавтологий" спрашивает читателя: Вы вообще понимаете разницу между СБИС и ASIC? Или просто бездумно копипастите куски чужих статей из интернета?
Статья о "нейроморфных процессорах", но не назван ни один из десятка существующих. Вообще ни о чём.
General Vision даже близко не нейроморфные. Их чип реализует два классификатора: k-NN и RBF, оба метода это примитивное статистическое обучение.
Потому что это чуть ли не единственная стоящая и вычислительно сложная задача.
А вот как раз для импульсных нейронных сетей ("нейроморфных") оно и не особо нужно.
Это такие сапоги всмятку что даже не знаешь что комментировать
Нет, нейроморфные вычисления это не Compute-in-Memory.
Нет, DVS (Dynamic Vision Sensor) работает "по принципу глаза" не больше, чем обычная камера, где есть обьектив (хрусталик), диафрагма, и сетчатка (матрица). Разница в принципе считывания и кодирования матрицы. DVS возвращет картину изменений.
Напомнило анекдот: "Я печатаю со скоростью 300 знаков в минуту! - Что, правда? -Ага, только полная фигня получается." Нету никакой проблемы увеличить модель в гугол раз, есть проблема обучения больших сетей - как практической реализации, так и теоретических алгоритмов эффективного обучения сверхглубоких и широких моделей. Импульсные нейронные сети имеют другой алгоритм обучения, который теоретически не имеет таких ограничений, а практически...ну вы поняли.
Так с кем они "гоняются", или против кого?
При чём здесь бесплатное ПО? На бесплатное открытое ПО можно создавать любую лицензию. Проблема в том, что платное и недешевое ПО продаётся без гарантий и альтернатив практически нет.
Ставлю свои ботинки против пиратской копии Windows 98 что ни фирма-разработчик, ни интегратор, не понесут никакой ответственности за этот инцидент. Это в реальном мире сварщики ставят свои клейма на швы, а архитекторы идут в тюрьму после обрушения здания. В прекрасном мире IT достаточно написать в лицензии "This software provided AS IS...", и ты в домике.
И вот опять свёрточные сети лучше всех: https://arxiv.org/abs/2201.03545 .
На орбите уже и так дофига спутников снимающих в инфракрасном - очень удобно для сельского хозяйства и лесничества.
Кандёхаем веселей.
И да, это всего лишь меморандум о намерениях, а не контракт и предоплата или хотя бы гарантии оплаты. Просто встретились люди, поговорили, и пришли в выводу что буде у первых ракета, то вторые восжеламши покупать оную.
Стреляем когда заблагорассудится. Вспышку видно моментально, звук прилетит через некотрое время. Именно так и меряли скорость звука в те времена.
Интересно, если бы они попробовали мерять расстояние по звуку, можно ли было получить приемлемую точность?
Пусть у них будет хороший секундомер (метроном, маятник итд.). У лучшего фехтовальщика экспедиции скорость реакции должна быть меньше 50 мс. Большую пушку можно услышать километров за 10. Итого получится погрешность около 16 метров на 10 км. Конечно не учтена неоднородность воздуха на 10 километрах, но думаю точность в 50 метров на 10 км достижима. Это немного хуже чем прямое измерение, но гораздо менее трудозатратно.
Точность можно существенно повысить если создать какой-либо механический регистратор звука, типа фонографа. Вполне решаемая задача для Жаке-Дро.
Они срубили из дерева большой
гробкорабль и оставили его на годы перед домом мачехи, как напоминание о бренности жизни.Ага, только работают они только на CPU, и главная фишка у них эффективное распараллеливание на несколько процессорных ядер с максимальным использованием быстрого кэша. На мобильных процах (32-512 кБ) фокус не прокатит. Я не отрицаю что технология может быть полезной в некоторых случаях, но это явно не универсальная панацея. Прореживать Реснет-50 смысла нету - модель чисто академическая. Для Мобайлнета они обещают сокращение размера до 4.5 МБ, что соответсвует обычной 8-битной квантизации (4.2 миллиона весов). Так что непонятно где там "магия".
Я навскидку посмотрел - уже есть пара публикаций о квантизации трансформеров, авось через пару лет и дойдут до практических примеров.
Прунинг звучит круто ("мы выбросили 90% параметров!!!111"), на практике очень редко даёт ускорение ибо всё железо заточено под плотные, а не разряженные матрицы, и кроме слабеньких процессоров мало где можно получить ощутимый выигрыш.
В табличке выше самый мелкий трансформер на 4.5 Гфлопс имеет точность 81.3, а EfficientNet на 1.8 Гфлопс выдает 81.6%. Где они эффективнее?
Ещё с трансформерами большая проблема в квантизации. Если свёрточные сети спокойно квантизируются в 8 бит или даже меньше с минимальной потерей точности, то трансформеры сильно ухудшаются, и совершенно неэффективны для практических применений, особенно вне дата-центра.
Смарт часы и vr очки работают и выполняют заявленный функционал. Если бы какие-то "смарт" часы обещали бы наручный сильный ИИ, а vr очки обещали бы полное погружение в Матрицу, то это был бы скам. Теранос делали заведомо ложные заявления о своей технологии и обманывали клиентов, выдавая чужие результаты анализов за свои.
Это не "очки дополненной реальности" с камерами, а помесь беспроводной гарнитуры с обычными очками. Ну и ещё с диоксидом титаниума.
Вау, титан это круто! А ещё этот космический материал добавляют в гуашь, детские игрушки и даже пончики. Ибо титановые белила это самый обыкновенный пищевой краситель.
Отверстия уменьшают утечку звука? А чем они компенсируют направленные волны?
Т.е. у Тиктока должен быть огромный архив видео убийств, каннибализма и порно с пометкой "хранить вечно, отмодерировано?" Или доказывать будут по записям в джире "mov004.avi: белый мужчина ест варёную руку ребёнка, удалено"?
Нет.
Чем лучше?