Комментарии 2
Огонь! Будет круто послушать еще о
1. Примерах быстрого запуска моделей (напримере какой нибудь задачи и сервиса)
2. Примеры проблемных сеток/слоев при конвертации. Не ужели даже в базовых/популярных/проверянных огромным кол-вом людей моделях при конвертации возникают проблемы
Спасибо!
Запросы принял, спасибо за обратную связь)
1. Делаю демки и выкладываю, когда появляется запрос от коллег и есть свободное время (например, из недавнего - статья с издержками multilora инференса https://habr.com/ru/articles/922290/).
Можешь еще на телеграм канал перейти (там можно в комментах задать вопрос или тему на обсуждение) или тут прожать "подписаться". Как будет новая статья, узнаешь)
2. Вряд ли проблемы возникают повсеместно, но с новыми моделями часты
Из того, как просто сломать лицо - вот тут в посте писал про конвертацию слоя внимания.
Почему ONNX так популярен в ML: конвертации, утилиты и инференс