на моей машине из 5х manli cmp90hx заводится rejoin 15 и 16. Эксплойт этот для gen 2 регистров существует уже пару месяцев, не понятно что именно автор изобрёл. А так да, стенд эстетичный получился)
Причем нейромусор виден с первого взгляда из-за тысячи bullet point и просто куче несвязанных предложений формата "ollama — это круто! Обучаю — локально". Аж глаз дёргается. Скорее бы добавили причину минуса "низкосортный слоп".
Если там реальные 150TB/s на несколько GB суммарной памяти, то это фантастический llm чип. Под сотню тысяч проходов по всему объему памяти за секунду. А 3d v cache для задачи llm слишком мал даже в топовой реализации. Сотня тысяч проходов по 2 gb в секунду дадут безумные десятки тысяч токенов в секунду на небольших языковых моделях. Дальше вопрос масштабируемости
Самураям из мира fpga же давно пора сделать настоящую in memory compute специально под нейронки, чтоб считать активации не выходя из памяти. А не вот эти все NPU ядра, повышающие энергоэффективность операций с плавающей точкой...
Лучше бы советовали Spacedesk server удалять и его порт закрывать. Порой диву даёшься, сколько обывателей с забытой включённой службой spacedesk сидят в публичных сетях кафе, университетов и светят буквально RDP без какого-либо пароля)
А вот ссылки в оглавлении должны работать. В первую очередь я их оставляю именно для быстрого перемещения по HTML якорям перед заголовками, что помогает при написании.
А вот ссылки в оглавлении должны работать. В первую очередь я их оставляю именно для быстрого перемещения по HTML якорям перед заголовками, что помогает при написании.
Учитывая то, сколько разных сфер изжили себя благодаря приходу Яндекса, то мы можем такими темпами стремительно скатиться и до повседневных разговоров с Жанной.
«Берите столько суверенитета, сколько сможете проглотить»
Опа, нейротекст из песочницы пролазит. Ещё и реклама мутного тг по типу того, что мимикрирует под хабр (легко найдёте по половине миллиона подписчиков).
На такой позор и суда нет, только модерацию звать...
Для корпоративного бота он слишком широкий спектр контента поглощает и комментирует. Я уже написал ему лично и теперь готов заступиться за его репутацию) Просто человек читает хабр (как это делают ещё тысячи других анонов) и оставляет односложные комментарии для поддержки понравившихся статей. Он сказал, что теперь будет писать развёрнутее, что-бы не рисковать кармой
Я проверил, он самый настоящий человечек. Пусть он и публикует однотипные комментарии. Мне он сказал, что если его подозревают в фейковой активности, то он перестанет писать однотипные комментарии...
на моей машине из 5х manli cmp90hx заводится rejoin 15 и 16. Эксплойт этот для gen 2 регистров существует уже пару месяцев, не понятно что именно автор изобрёл. А так да, стенд эстетичный получился)
Причем нейромусор виден с первого взгляда из-за тысячи bullet point и просто куче несвязанных предложений формата "ollama — это круто! Обучаю — локально". Аж глаз дёргается. Скорее бы добавили причину минуса "низкосортный слоп".
Если там реальные 150TB/s на несколько GB суммарной памяти, то это фантастический llm чип. Под сотню тысяч проходов по всему объему памяти за секунду. А 3d v cache для задачи llm слишком мал даже в топовой реализации. Сотня тысяч проходов по 2 gb в секунду дадут безумные десятки тысяч токенов в секунду на небольших языковых моделях. Дальше вопрос масштабируемости
Самураям из мира fpga же давно пора сделать настоящую in memory compute специально под нейронки, чтоб считать активации не выходя из памяти. А не вот эти все NPU ядра, повышающие энергоэффективность операций с плавающей точкой...
Прекрасная работа и полезная статья, автору респект
Лучше бы советовали Spacedesk server удалять и его порт закрывать. Порой диву даёшься, сколько обывателей с забытой включённой службой spacedesk сидят в публичных сетях кафе, университетов и светят буквально RDP без какого-либо пароля)
Интереснейший материал, спасибо!
Спасибо за позитивный комментарий, посмеялся!
Этот комикс старше меня!
Пожалуй, вы правы - эта картинка просто идеально передаёт основную идею текста)
Что-то мне подсказывает, что способность воспринимать сенсорные стимулы вроде этого текста в состоянии расширенного сознания будет только падать ;)
Спасибо за положительный комментарий, мотивирует писать дальше!
Спасибо за положительный комментарий!)
Lisp, конечно, не эзотерический.
А вот ссылки в оглавлении должны работать. В первую очередь я их оставляю именно для быстрого перемещения по HTML якорям перед заголовками, что помогает при написании.
Lisp, конечно, не эзотерический.
А вот ссылки в оглавлении должны работать. В первую очередь я их оставляю именно для быстрого перемещения по HTML якорям перед заголовками, что помогает при написании.
Учитывая то, сколько разных сфер изжили себя благодаря приходу Яндекса, то мы можем такими темпами стремительно скатиться и до повседневных разговоров с Жанной.
«Берите столько суверенитета, сколько сможете проглотить»
Яндекс решает проблему фатального недостатка. И создает очередную "отечественную нейросеть" с "другой картиной мира".
Никогда такого не было и вот опять.
Статья просто крутейшая! Отлично преподнесла то, что крутилось в голове, но на реализацию не было времени, спасибо.
Опа, нейротекст из песочницы пролазит. Ещё и реклама мутного тг по типу того, что мимикрирует под хабр (легко найдёте по половине миллиона подписчиков).
На такой позор и суда нет, только модерацию звать...
казалось бы, причём тут архивация всего интернета на флешку?
Для корпоративного бота он слишком широкий спектр контента поглощает и комментирует. Я уже написал ему лично и теперь готов заступиться за его репутацию) Просто человек читает хабр (как это делают ещё тысячи других анонов) и оставляет односложные комментарии для поддержки понравившихся статей. Он сказал, что теперь будет писать развёрнутее, что-бы не рисковать кармой
Я проверил, он самый настоящий человечек. Пусть он и публикует однотипные комментарии. Мне он сказал, что если его подозревают в фейковой активности, то он перестанет писать однотипные комментарии...
Точно, возможность-то прикрутить сюда схему Шамира я и забыл упомянуть! Это действительно хорошее дополнение