Обновить

Научите уже кто-нибудь нейросети диагностировать те же ноутбуки, например. Камера, четыре щупа, база данных по элементной базе и ИИ, способный быстро пройтись щупами по тем же мосфетам, например. Хотя бы просто отличать пробитые от живых.

А то у́чите-у́чите всякой фигне, тот же г*внокод совершенно спокойно и без ИИ можно писать тоннами. И наукоподобную чушь генерировать, полную фактических ошибок и вымышленных «фактов» (вспоминается тот модуль из «Портала», рассуждавший про «этилбензоловые рыбки»). Научите уже своих горе-роботов делать что-то полезное из условно-рутинной деятельности, пусть человек думает, а робот — щупами тыкает.

Теги:
Всего голосов 9: ↑8 и ↓1+7
Комментарии8

Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах

Я собрал домашний сервер с нейросетками, чтобы не зависеть от облака. Далее честный рассказ с цифрами, бенчмарком на 14 реальных задачах и выводами, которые я проверял на себе.

Если совсем коротко: киловатт питания, две серверные Tesla P100 (суммарно 32 ГБ видеопамяти), турбины, которые слегка шумят, но сервер пришлось выселить на кухню, и Xeon на 28 потоков. Всё это выдаёт от 10 до 50 токенов в секунду, в зависимости от модели. DeepSeek в облаке в три раза быстрее, зато это моё и всегда доступное круглые сутки.

Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах

Публикации