Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 17
Интересно, почему у Сбера оптический модуль сейчас выдает 1 млрд. опс. в секунду, он такое мог и в начале 90-х делать
Справедливый сарказм, с одним уточнением: у Сбера формулировка «миллиард операций матричного умножения», а не «миллиард операций». Размер матриц не опубликован, число не переводится в TOPS ни в плюс, ни в минус. Если скалярно. то тогда согласен, 90-е. Поэтому и демо.
С ним в целом есть ощущение что делают чисто по приколу, скорости смешные, требования по обвязке дикие. Тот же миллиард операций он еще не выдает, из-за отсутствия обвязки.
В статье одна сплошная вода и ода "Модулю". Где технические подробности NM6408 ? Где описание архитектуры и примеры кода ? Чтобы понять что NM6408 это круто, его надо пощупать. А так как пощупать собственными руками достаточно сложно, то хотелось бы прочитать как это делают другие.
Что осталось за кадром и тянет на продолжение: как устроена архитектура с перестраиваемой разрядностью 1–64 бита — индустрия к int8 и int4 пришла только к концу 2010-х; судьба господряда на 7,63 млрд рублей; чем кончится история с Росатомом. Материала на серию есть. Скажите в комментариях, что копать, — или скажите, что не надо.
Обзор, не техразбор — архитектура и код заявлены первым пунктом продолжения. „Пощупать“ реально: симулятор и компилятор идут бесплатно (доступ через поддержку на странице NMDL), devkit МС121.01 на NM6407 продаётся — цену дают по запросу rusales@module.ru, а тем, кто не хочет покупать железо, у них есть оферта на удалённый доступ к тому же модулю.
Обзор, не техразбор — архитектура и код заявлены первым пунктом продолжения.
Это просто замечательно. Только таких вот за затравочных статей на Хабре полно, а продолжения не следует. Ждем-с. ;)
пост написан нейронкой. судя по следам, то скорее всего Квеном
мало открытой инфы. к примеру https://habr.com/ru/articles/419161/ статья про МС121.01 аж 2018 года.. но очень лаконичная. похоже даже профильным специалистам приходится добывать информацию. типа берите и разбирайтесь сами.
module mb77 фанаты покупали на свои - они были, относительно недорого и пытались поднять какие то публичные проекты и тоже не взлетело никак.
возможно стоило бы производителю разработать наглядные стенды с их модулями, какие то методические указания и пихать по ВУЗам.
А вы можете хотя в комментах без нейросетки отвечать? То, что статью написать без нейросетки не осилили, это уже и не удивительно
К слову,
для Jetson Orin Nano имеются технические пузомерки для FP16: ~17 TFLOPS.
Jetson Orin - это и NVDEC и NVENC и DLA, и VIC, не только ускоритель нейросетей.
Есть на рынке сейчас и Qualcomm - быстрые и доступные железки (которые и в телефонах живут и на них YOLO26N в W8A16, боюсь соврать, но что-то типа 500 FPS может).
А зачем инференс на FP32 для компьютерного зрения? Нет никакой практической пользы - выглядит как на новую архитектуру денег нет.
Это я к чему, прекрасно, что отечественная промышленность что-то делает. Конкурентное ли это железо - нет. Есть ли для него ниша в цифровом ГУЛАГе - есть.
Бугага, проект ЧИЖ). 10 лет назад это уже работало на DB на 2х 780х)).
В России в кремнии существуют сейчас 2 ИИ-процессора - LinQ от Хайтек и супер секретная разработка о которой разработчики никому не хотят рассказывать, поэтому мы (пока) тоже не будем. Но кто работает в индустрии, всё в курсе. Оба этих процессора, в общем то, не являются маломальски конкурентными на широком рынке в силу многих причин, но они есть. Нейроматриксы от Модуля специализированными процессорами для ИИ не являются, а являются процессорами для ЦОС, что, в общем-то, на сайте разработчика прямо и написано. И именно поэтому у них нет специализированных форматов для ИИ по типу fp16, fp8 и тд. Так что заявление про единственный ИИ процессор в кремнии от Модуля выглядит неверным со всех сторон
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Российский нейрочип от НТЦ «Модуль»