я взял двухсокетную мать на ddr3 и получил почти 100gb в секунду на 8 каналах. Прикол в том что много китайских материнок на ddr4 поднимают только 2 канала на проц(итого 4 ) и проигрывают 8 каналам ddr3. А цена на 32 гб модуль ddr4 уже в 3 и более раз больше.
я тут прибарахлил железку на 256гб оперативы пропускной способностью 100 гигабайт в секунду, правда видяха только 2060 на 6 gb есть. Надо будет потестить что-нибудь такое
интересно каким таким образом у подземного дц ниже затраты на охлаждение. Теплоёмкость грунта в этих масштабах ничтожна, нагреют вокруг и всё, дальше только более длинные трассы которые проложены по каналам и коридорам где обслуживание сложнее
ваш вопрос бессмысленен, это не так работает, при обучении модели миллиарды (в данном случае 4) нейронов(тут вопрос, что считать нейроном, в миллиарда параметров) заполняются случайным мусором, потом модели показывают разные тексты, смотрят на ответы и корректируют параметры. Никто никогда не задумывал какой нейрон за что будет отвечать и смысл единичного нейрона понять нет никакой возможности, даже сам вопрос о возможности понять смысл нейрона неправильный, его просто нет. В составе модели влияет вот так, а что сам по себе значит никто не скажет.
А ласточки то летят. Я уверен что будущее нейросетей за уменьшающимися моделями короторые хорошо обрабатывают большие контексты. Не надо модели помнить весь интернет. Ей надо уметь гуглить и работать внешними источниками информации. Я думаю мы увидим тренд на это.
Блин, когда-то сделака по покупке Sun компанией Oracle казалась большой, а сейчас один ноунейм сервис с мобильной прилажухой купил другого ноунейма с прилажухой за 17 ярдов.
в 5 раз, это там где я получал исправление версии за 2 минуты я жду 10. Там где ждал 10 надо идти на обед. То, что могло быть сделано пока я обедаю, я посмотрю только на следующий день.
я покупал у них подписку за 80 баксов. Это ужас какая тормозная штука, я даже тест проводил между клодом и glm 5.3, на одной и той же задаче с одинаковым промтом и с одного коммита, glm потратил в 5! раз больше времени. Когда клод закончил этот только познакомился с проектом и начал вопросы задавать.
я взял двухсокетную мать на ddr3 и получил почти 100gb в секунду на 8 каналах. Прикол в том что много китайских материнок на ddr4 поднимают только 2 канала на проц(итого 4 ) и проигрывают 8 каналам ddr3. А цена на 32 гб модуль ddr4 уже в 3 и более раз больше.
официально да, а по факту контроллер памяти там старый. У меня:
Процессоры 2шт intel xeon e5-2686v4
Матплата MACHINIST X99 MD8-3
ОЗУ 256Gb ddr3 8х32Gb ECC REG ddr3-1600
выдаёт 97гб в секунду скорость оперативы, потому что восмиканал. И обошлось мне это счастье 60к с блоком питания и кулерами на прошлой неделе.
я тут прибарахлил железку на 256гб оперативы пропускной способностью 100 гигабайт в секунду, правда видяха только 2060 на 6 gb есть. Надо будет потестить что-нибудь такое
а толку то, ну вот стоит мой в кладовке, а dns у бегета
как бы не в 15-30, несли не больше. Это ооочень дорого.
скорее уж ФМРТ, а вот расцензурирование(аблитерация) это как раз гораздо ближе к лоботомии. И это тоже делают.
интересно каким таким образом у подземного дц ниже затраты на охлаждение. Теплоёмкость грунта в этих масштабах ничтожна, нагреют вокруг и всё, дальше только более длинные трассы которые проложены по каналам и коридорам где обслуживание сложнее
изучать влияние нейрона на модель - да, смысл самого нейрона как такого отсутствует как явление
ваш вопрос бессмысленен, это не так работает, при обучении модели миллиарды (в данном случае 4) нейронов(тут вопрос, что считать нейроном, в миллиарда параметров) заполняются случайным мусором, потом модели показывают разные тексты, смотрят на ответы и корректируют параметры. Никто никогда не задумывал какой нейрон за что будет отвечать и смысл единичного нейрона понять нет никакой возможности, даже сам вопрос о возможности понять смысл нейрона неправильный, его просто нет. В составе модели влияет вот так, а что сам по себе значит никто не скажет.
ждём следующее поколение snapmaker и можно будет брать.
где мой 2004?
Китай взял и начал делать open weight модели, а никому не говорил что он готов.
А ласточки то летят. Я уверен что будущее нейросетей за уменьшающимися моделями короторые хорошо обрабатывают большие контексты. Не надо модели помнить весь интернет. Ей надо уметь гуглить и работать внешними источниками информации. Я думаю мы увидим тренд на это.
Блин, когда-то сделака по покупке Sun компанией Oracle казалась большой, а сейчас один ноунейм сервис с мобильной прилажухой купил другого ноунейма с прилажухой за 17 ярдов.
для мака мой знакомый целый тул навайбкодил https://vpnkill.com/
Я таки кашёл этот пост, где чувак на сканер фоткал https://habr.com/ru/articles/375163/
в 5 раз, это там где я получал исправление версии за 2 минуты я жду 10. Там где ждал 10 надо идти на обед. То, что могло быть сделано пока я обедаю, я посмотрю только на следующий день.
да, надо было в скбочки взять
ну просто работать невозможно. Тот же дипсик быстр, так что всех китайцев под одну гребёнку не утащить
я покупал у них подписку за 80 баксов. Это ужас какая тормозная штука, я даже тест проводил между клодом и glm 5.3, на одной и той же задаче с одинаковым промтом и с одного коммита, glm потратил в 5! раз больше времени. Когда клод закончил этот только познакомился с проектом и начал вопросы задавать.