Обновить
512K+
4,67
Оценка работодателя
2 673,77
Рейтинг
80 871
Подписчики

Пройдите опрос и расскажите, каким вы видите будущее Bare Metal Cloud

Привет, Хабр! Мы запустили опрос для экспертов из области серверной инфраструктуры. Понимаем, что можно было бы использовать готовые данные от аналитиков, но считаем, что мнение людей, лично работающих с IT-инфраструктурой, гораздо ценнее.

Мы попросим вас рассказать о вашем подходе к проектированию IT-инфраструктуры, используемых инструментах и имеющихся ограничениях. Вопросы касаются облаков, железа, сетей, виртуализации, администрирования, резервирования, разделения зон ответственности и так далее. Это действительно важно, чтобы мы могли создавать продукты, приносящие еще больше пользы для бизнеса.

Пройти опрос →

Теги:
Всего голосов 3: ↑3 и ↓0+6
Комментарии0

Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах

Я собрал домашний сервер с нейросетками, чтобы не зависеть от облака. Далее честный рассказ с цифрами, бенчмарком на 14 реальных задачах и выводами, которые я проверял на себе.

Если совсем коротко: киловатт питания, две серверные Tesla P100 (суммарно 32 ГБ видеопамяти), турбины, которые слегка шумят, но сервер пришлось выселить на кухню, и Xeon на 28 потоков. Всё это выдаёт от 10 до 50 токенов в секунду, в зависимости от модели. DeepSeek в облаке в три раза быстрее, зато это моё и всегда доступное круглые сутки.

Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах

Публикации

Информация

Сайт
slc.tl
Дата регистрации
Дата основания
Численность
1 001–5 000 человек
Местоположение
Россия
Представитель
Александр Шилов