Для тех, кто самостоятельно хочет KVM сделать советую глянуть на PiKVM - можно и самому собрать на Raspberry Pi, можно готовый модуль заказать (это эдакий стандарт KVM любительского уровня). А так есть еще Sipeed NanoKVM (на RISC-V) из готовых и дешевых.
Значения TOPS и TFLOPS сравнивать так не выйдет, так как всё зависит от оборудования. Плюс еще при переводе в int8 модели падает немного точность, так что надо в каждый конкретный случай отдельно смотреть. А еще те же видеокарты могут выдавать разные TFLOPS для случаев использования float16, float32 или float64 точностей. Тут вот например в Theoretical Performance можно глянуть.
Товарный знак еще ограничен областью. Apple Inc. и Apple Records вполне существуют. Также почему запрещать людям как-то зваться из-за корпораций? Тогда у нас и использование имени Алиса надо будет ограничивать.
Так вы оба правы в деталях. Особенно с джетсонами мучений много бывало (не от Nvidia Dev Kit, а промышленные от разных вендоров, там много может быть особенностей). К тому же, с другой стороны, готовый проект необязательно переводить на более современное железо, в проде главное, чтобы работало. Ну и нишевые какие-то вещи без причины лучше не использовать, а та же малинка до сих пор продается в старых версиях тоже.
Зачем жизнь усложнять себе. SSH там есть, учетка по умолчанию orangepi/orangepi (она нужна же и из GUI). Проверить всё это дело 5 минут, если даже уверенности не было.
Падение мощности было же заложено. Питание от РИТЭГ, его мощность падает с распадом плутония, причем очень предсказуемо. Нужно было предусмотреть отключение компонентов поэтому.
Там PiKVM насколько помню
Для домашнего сервера удобно, на серваках же промышленных есть KVM, типа iDRAC или iLO. Какие то компы удаленно настраивать да, тоже топ
PiKVM, NanoKVM, будет ещё JetKVM.
В другом комменте тут писал с ссылками
Не стал писать в коммент, так как ещё не продается, но на кикстартере ещё есть JetKVM, стильненькая штучка
Б/У это отдельная категория
Для тех, кто самостоятельно хочет KVM сделать советую глянуть на PiKVM - можно и самому собрать на Raspberry Pi, можно готовый модуль заказать (это эдакий стандарт KVM любительского уровня). А так есть еще Sipeed NanoKVM (на RISC-V) из готовых и дешевых.
Значения TOPS и TFLOPS сравнивать так не выйдет, так как всё зависит от оборудования. Плюс еще при переводе в int8 модели падает немного точность, так что надо в каждый конкретный случай отдельно смотреть. А еще те же видеокарты могут выдавать разные TFLOPS для случаев использования float16, float32 или float64 точностей. Тут вот например в Theoretical Performance можно глянуть.
Проверьте установку, выведите видит ли torch девайс, обновите/откатите, все работает, у меня только с 2.2.2 вроде были проблемы
Можете попробовать некоторые бесплатные модели на openrouter.ai (даже google/gemini-pro-1.5-exp), однако иногда платить данными)
Есть задачи, когда нужно декодирование/транскодирование без вывода на экран
Товарный знак еще ограничен областью. Apple Inc. и Apple Records вполне существуют. Также почему запрещать людям как-то зваться из-за корпораций? Тогда у нас и использование имени Алиса надо будет ограничивать.
На Jetson Nano с int8 есть проблемки
https://forums.developer.nvidia.com/t/why-jetson-nano-not-support-int8/84060
Он уже какое-то достаточно большое время асинхронный (с v20+, насколько помню). По комьюнити может быть)
А в чем могут быть плюсы/минусы в сравнении с python-telegram-bot?
На тех же джетсонах apt upgrade то страшно делать))
Так вы оба правы в деталях. Особенно с джетсонами мучений много бывало (не от Nvidia Dev Kit, а промышленные от разных вендоров, там много может быть особенностей). К тому же, с другой стороны, готовый проект необязательно переводить на более современное железо, в проде главное, чтобы работало. Ну и нишевые какие-то вещи без причины лучше не использовать, а та же малинка до сих пор продается в старых версиях тоже.
Зачем жизнь усложнять себе. SSH там есть, учетка по умолчанию orangepi/orangepi (она нужна же и из GUI). Проверить всё это дело 5 минут, если даже уверенности не было.
Можно предгенерировать и хранить в кэше истории еще.
Нужны, конечно. Вряд ли с llama связано, там квартальные отчеты скоро должны быть просто, по моему.
Падение мощности было же заложено. Питание от РИТЭГ, его мощность падает с распадом плутония, причем очень предсказуемо. Нужно было предусмотреть отключение компонентов поэтому.