Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 39
Нейросетевые картинки и нейростетевой stm32 присутствуют и в оригинальном материале от производителя.
но при этом там есть и нормальные фотки модуля и отладочная плата для него, вполне себе серьезно выглядит
Погодите. Они взяли процессор 2022 года (апдейченный процессор не то 19ого не то 20 года). И выпустили на его базе девайсину (все сказки про нейропроцессор не надо рассказывать, он там и так есть).
Судя по всему ещё и RKNN (фреймворк для нейросетей) от RockChip отломали и заменили на какую-то поделку "Нейтрино".
В проектах где я учавствовал разводка рокчипа + отправка его в печать обычно выполнялась 3-4 людьми за пару месяцев.
Ну либо этот пресрелиз настолько некомпетентно написан...
Всё так. Только нейтрино не поделка, а форк QNX Neutrino . Думаю пресс-релиз отражает всё очень точно - взяли чужое, притом не самое свежее и начали собирать где-то тут, делая вид, что не отстают от мировых трендов.
Может они сами путаются. У них на сайте:
Для построения нейросетей используется программное обеспечение реального времени «Нейтрино» российского технологического партнера
QNX Neutrino это RTOS, если я правильно понимаю, которое к нейронкам отношения не имеет.
которое к нейронкам отношения не имеет.
Три черепа Александра Македонского.
А где в этом предложении, были нейронки?:
«Фишт» работает на двух российских операционных системах: Astra Linux и системе реального времени «Нейтрино».
Речь шла про ОС. Если что "Нейтрино" - это вот это https://www.kpda.ru/products/kpda10964/ Купленный когда-то QNX, продолжающий самостоятельное развитие. Они и на Хабре есть: https://habr.com/ru/companies/swd_es/profile/ Почитайте для общего развития, прежде чем громогласно заявлять о "поделках".
Я вам дословную цитату из официального сайта даю:
Для построения нейросетей используется программное обеспечение реального времени «Нейтрино» российского технологического партнера
В соседней заметке описывают свежий Banana PI от марта этого года, и в нём тадам! рокчип 3588 (вместо 3568 здесь) той же самой серии 35хх того же 2021 года выпуска, просто более старший (8 ядер вместо 4). Наверное, в банане тоже медлительный идиоты сидят:)
1) Никто не позиционирует там это как "уникальное решение". Как я выше писал - разработать решение на базе рокчипа обычно несколько месяцев команды с опытом
2) Там никто не пытается испоганить оригинальный софт. А тут загадочное "Нейтрино" вместо адекватного софта
3) На RK3588 можно LLM-ки запустить. А на 3568 только простенькие сети
На RK3588 можно LLM-ки запустить
А можно по-подробнее? Пробовал запустить LLM на OrangePi 5 Plus, и нормально "работал" только MLC, но процесс конвертации моделей больно муторный. LCPP\KCPP тоже запустились, но это был мрак по скорости. Пробовал ковыряться с RKNN, но там всё выглядит как "короч, мы тут сделали, а вы сами *битесь как с этим работать" (вообще, по опыту, довольно типичный подход китайцев к одноплатникам).
У них есть отдельная библиотека с LLM-ками - RKNN-LLM. По скорости особых проблем не вижу. Конечно, ответ не мгонвенный, от от LLM ок его обычно не ожидают. Для 2B моделей примерно скорость речи.
Я делал видео про общие их LLM модели и их запуск и про визуальные, такие как Qwen-2VL. Самому новую модель туда можно запихать, но сложно. Я бы использовал те которые у них официально поддерживаются:
В статье сказано про "уникальное решение для российского рынка". Назовите любого одного конкурента-аналога российской разработки и сборки.
Нарисовать плату и запустить её серийное производство на новой площадке, вместе с оригинальным софтом, - это вещи несколько разные по объёму задач.
И да, про софт. Уверен, что "оригинальный" софт тут запустить можно, потому что процессор и чипсет вроде без особых модификаций. Вот только производитель чипа предлагает какое-то древнее ядро с кучей известных багов и CVE, которое никто не патчил с того же 2021 года. Запускать такое в той же промке - оригинальный способ <роскомнадзора>.
Думаю, что при возможность выпустить версию на 3588 вместо 3568 это вопрос желания и доступности оптовых партий чипов.
1) Ну, у Модуля что-то есть уже много лет. Кажется ещё лет 5 назад у них на RK3399Pro было что-то. А так, мне регулярно кто-то на канальчик предлагает разобрать очередное отечественное изделние пока не понимают что для этого его в Европу отправиль надо:) Это именно разного уровня "производители". Сейчас уже модные Sophron например, а не рокчипы.
2) Можно тут что-нибудь загонять на тему "отечественного решения". Но кажется использование китайского и швейцарского чипа в основе уже все говорят. Короче очередной попил.
3) Для RK3588 каждые пару месяцев апдейты идут. Например последние драйверы для NPU дают возможность использовать VLM-сетки. Это как раз то почему я говорю что использование 3568 это сомнительно.
Я немного не понял насчёт обоснования про попил. Не могли бы вы раскрыть вот это "короче"? Ну, швейцарские и китайские чипы, это я понял. Дальше что? У всех в мире так.
Люди тупо, как вы и говорите:
В проектах где я учавствовал разводка рокчипа + отправка его в печать обычно выполнялась 3-4 людьми за пару месяцев.
Вы в попилах тоже участвовали?
За сколько-то месяцев, сделали процессорный модуль с начинкой направленной в сторону нейросетей, который собираются внести в реестр, для которого допилили поддержку двух реестровых и сертифицированных в РФ ОС, одна из которых RTOS.
Можно тут что-нибудь загонять на тему "отечественного решения". Но кажется использование китайского и швейцарского чипа в основе уже все говорят. Короче очередной попил.
Это какие-то голоса в голове или что? Обычный "заурядный" SoM, где вы себе вечно находите полный цикл от руды до готового изделия? В игры переиграли?
До ASUS докопайтесь, а то чипсеты блин буржуйские использует.
И да, "отечественного решения" - конечный продукт сделан в дефолтовой для хабра стране.
конечный продукт сделан в дефолтовой для хабра стране
если бы все так просто. но нет.
Обычный "заурядный" SoM, где вы себе вечно находите полный цикл от руды до готового изделия?
Ещё раз. Основная претензия к многочисленным:
Это уникальное решение для российского рынка
Если бы "мы выпустили решение от нас" - то всё ок. Если бы "мы выпустили дешевле" или "у нас масспродакшн", то тоже ок. Моя позиция что "унакальности" и "российскости" в этом решении кот наплакал.
Иначе не понятно чем оно отличается от Модуля, или даже inmys, где все разведено в РФ с использованием тех же модулей. Почти уверен что Модуль тоже может на Резоните напечатать.
А создание ещё одного непонятного решения без смысла и комерческой выгоды - похоже на попил всегда.
А на 3568 только простенькие сети
Судя по этому:
модуль помогает распознавать низколетящие объекты в системах РЭБ
Им достаточно того, что на нем OpenCV запускается. А это уже куча применений от описанного, до всевозможных полетных контроллеров с автонаведением.
А в чем загадочность "нейтрино" ?
QNX операционка с богатой историей, вовсю используется в автомобилях
В том что в официальном сайте это стало ПО для построения нейросетей:
Для построения нейросетей используется программное обеспечение реального времени «Нейтрино» российского технологического партнера
Нейросети работают под ОСРВ, что на самом деле круто и на самом деле необходимо для всяких промышленных и полётных применений.
И что? Т.е, даже банально портированная OpenCV под их RTOS, плюс комплект всего ПО протестированный на данных платах не может называться одним именем?
Ага.
OpenCV - это не про нейронные сети
RKNN портировать нельзя, там бинарники, рокчип никому не даёт их собирать
"построения нейросетей" это вообще обычно про PyTorch
Ну да ладно, наклеить на это шилдик "Нейтрино" - и теперь всё становиться уникальной разработкой?
Да, да, и ещё раз да, оно становится уникальной разработкой! Оно там само зародилось? Порт PyTorch под отдельную, уникальную ОС с конкретной платой - это уже разработка. Это ресурсы, деньги, мозги, много часов работы. Всё это вложено, чтобы другие не проходили этот путь на их платах, могли брать как есть и использовать.
Плохая аналогия, но пойдёт. Это как в линуксах, RHEL/OEL/Debian/Ubuntu - просто шильдики над Open Source.
Прочитайте ссылки про саму ОСРВ - это "шилдик "Нейтрино"?
То что вы сейчас пишите говорит что вы никогда не занимались AI на Edge.
Хотя бы то что вы предлагаете там PyTorch запускать:)
Для этой платы - это условный pip install сделать + корректно драйвера через свою систему прокинуть. Примерно на уровне BolgenOS с весёлыми обоями.
Но в целом, если BolgenOS для вас отечественная разработка, то да, можно не продолжнать.
Вообще-то "Нейтрино" совершенно не загадочное, это операционная система реального времени QNX 6 хорошо известная и с давней историей, очень надежная и качественная, считается одной из лучших реализаций концепции микроядерных систем. Правда российской ее назвать трудновато, это канадская разработка. Есть по настоящему хорошая команда в Питере которая ее локализовала и даже протащила через сертификацию МО РФ.
Чубиса Рыжего отпустили... этих то хоть на цепи держите.
нейросопроцессор (сопроцессор Cortex‑M4)
Это шутка такая?
Цена, Карл! Цена!
Сколько будет стоить? Это ведь поделка из серии распебери и подобных одноплатников, Такие поделки обычно покупают обычные физлица и тут цена имеет большое значение, особенно при наличии на рынке конкурентов. Или сделают партию и по какойнибудь госзакупке для учебных заведения продадут и усе?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
В «Ростехе» запустили новое производство мини‑компьютеров для нейросетей