Скажите, вам тоже кажется, что наша планета остановилась в развитии? Что не происходит никаких великих открытий или событий. Поясню. По моему мнению за последние двадцать лет действительно новинкой оказался только Интернет, все остальное всего лишь эволюционные изменения. Мобильники? Ну, тот же телефон, только с собой носим. Мини-компьютеры? Ну и что тут удивительного? Удивительно было бы, если бы у нас компьютеры остались такими же громоздкими. Цифровая фотография? Mp3-плейеры? А между тем фантасты середины прошлого века считали, что уже в наше время мы будем колонизировать планеты солнечной системы и во всю эксплуатировать человекоподобных роботов. Конечно, фантасты не самый научный источник, но мне вполне понятен их оптимизм. Тогда вовсю запускались ракеты, астронавты высаживались на луне, появились первые домашние компьютеры… То есть научно-технический прогресс во всю шагал по планете. Так почему же сейчас не происходит ничего нового? Или я этого просто не замечаю? Может сейчас происходят какие-то революционные изменения в социальном плане?
+9
18
Хабр доступен 24/7 благодаря поддержке друзей
Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах
Я собрал домашний сервер с нейросетками, чтобы не зависеть от облака. Далее честный рассказ с цифрами, бенчмарком на 14 реальных задачах и выводами, которые я проверял на себе.
Если совсем коротко: киловатт питания, две серверные Tesla P100 (суммарно 32 ГБ видеопамяти), турбины, которые слегка шумят, но сервер пришлось выселить на кухню, и Xeon на 28 потоков. Всё это выдаёт от 10 до 50 токенов в секунду, в зависимости от модели. DeepSeek в облаке в три раза быстрее, зато это моё и всегда доступное круглые сутки.
