Обновить
8K+
55
Валерия Пузикова@valeriaP

HPC, CFD, CUDA, MPI etc

66,2
Рейтинг
24
Подписчики
Отправить сообщение
  1. Да, для анимированного появления содержимого слайда по частям есть штатные средства beamer (оверлеи -- \pause, \only и т.д.). В моей демо-презентации на слайде 5 это используется (блоки с формулами по частям появляются). Из списка литературы можно, например тут и тут посмотреть больше примеров или глянуть начиная с 16-го слайда во втором источнике из списка. Т.е. делается легко и просто, одной командой -- можно анимировать части формул, списков, диаграмм, и т.д. и т.п.

  2. Слушайте, ну нет. Стоите вы в большом зале с экраном на всю стену и показываете скрины формул со всеми вытекающими эффектами на экране? Пардон, но такое без меня.

С латехом гораздо быстрее -- работаете с документом как с кодом (что для разработчика гораздо приятнее, как правило), формулу набрали один раз для статьи -- скопировали в презентацию спокойно. Сложно смотрится формула на слайде? Пара команд -- и вот ее части подсвечены цветами/появляются анимированно. Код нужно вставить -- прописали путь к файлу и какие строчки из него брать -- вот он на слайде, еще и с авто-подсветкой. Главное, вы сосредоточены только на содержании слайда/статьи. Все оформление он делает сам при компиляции.

Есть разные TeX-редакторы (TeXnic Center, WinEdt и т.д.), вроде бы в VSCode есть расширение для TeX. Если что-то кажется неудобным, возможно, нужно поискать, какой из редакторов будет удобнее.

Даже с mp4 на практике будет много проблем, увы. На конференции чаще всего презентация идет с ноутбука организаторов, не всегда даже их просят прислать заранее -- частенько надо принести по старинке на флешке и скопировать до начала докладов. И тут начинается множество сюрпризов: на каких-то машинах не оказывается кодеков для видео (да, бывает, встречала далеко не раз), где-то приходится даже объяснять технику, который эти презентации запускает с другого конца зала, как pdf в полноэкранный режим вывести (увы, бывает). В общем бывает много чего. Пока еще были живы возможности с флеш-плеером, регулярно возникала следующая веселая история: чтоб видео проигрывалось, нужно было после открытия pdf-ки зайти в настройки и нажать на что-то типа "Доверять этому документу". Когда вы работаете на своем ноутбуке или ноутбук хотя бы на столе докладчика -- нет проблем. Но если докладчику выдают только кликер, а ноутбук за столом звуковика/оператора/техника где-то там (иногда даже не с вами на одном ярусе зала, а на техническом балкончике), то вам надо в перерыве до доклада озаботиться поиском этого товарища, показать ему на что нажать и попросить больше pdf до доклада не закрывать. Чаще всего он даже не подозревает, что в pdf могут быть видео в принципе, и хорошо еще если он покорно соглашается нажать на все, что вы говорите, не раз мне в ответ начинали доказывать, что "видео в pdf вставляется только гиперссылками, папку с видео вы не скопировали, поэтому все бесполезно, ничего не получится, и не надо мне тут рассказывать".

Когда я нашла пакет, чтобы вмонтировать анимацию покадрово, и сделала для своего удобства вот эти 3 команды из статьи, наступили просто золотые времена: едешь на конференцию и не переживаешь, какой там у них ноут, какие там древние кодеки и есть ли они вообще, где там стоит ноутбук -- рядом, не рядом, в курсе там организаторы, что презентации бывают в pdf или не в курсе. Максимум, если видишь, что тебя объявили, а презентация почему-то не в полноэкранном режиме на экран выведена, а просто как документ, прямо в микрофон просишь нажать Ctrl+L и все.

Как сказал один мой замечательный коллега с прошлой работы: "Формат получился настолько удачный, что был переработан группой товарищей и используется теперь широко. Удачность формата подчеркивается тем, что переработки в основном сводились к удалению упоминания об авторе." (с)

сократить текст внутри презентации и добавить какие-то дополнительные иллюстрации (если формат конференции это допускает – на научные мероприятия вряд ли вы будете что-то добавлять помимо личных результатов), это не такая проблема, а вот переносимость формул (когда они сложные и их оочень много) и таблиц – это очень сильно спасает. Особенно спасает, если статья/презентация – часть монографии/диссертации/... . И нужна быстрая переносимость сложных участков из одного формата в другой

я про "Можно перевести нейронкой макет из PPTX в тему  ..."

а про сам Slidev -- для меня было важно, чтобы презентация и статья максимально быстро могли переводиться друг в друга, как правило у всех приличных журналов tex-шаблон

да, 3 года назад таких нейронок еще не было, увы)

Раз вы были непосредственным участником, может быть, вы могли бы поделиться инсайдами? Было бы интересно узнать:

  • В чём именно заключалась "тухлость подхода" на практике?

  • Проблемы были в стандартных расширениях ISA, в каких-то конкретных кастомных или же в чем-то еще?

В публичных анонсах ET-SoC-1 было что-то интересное -- 1088 ядер, 158 Infer/sec/Watt на ResNet-50 (int8). Реальность сильно расходилась с анонсами?

посмотрите, например, на разработки tenstorrent (это навскидку, список можно долго продолжать)

Конечно, это простейший вариант, позволяющий только в пределе протестировать числовую ось. Тем не менее, даже он гораздо лучше широко распространенного подхода с тестированием на конечном предопределенном наборе точек.

Про математические методы доказательства -- лично для меня тоже гораздо интереснее, данная статья скорее для общего понимания у широкой аудитории.

Не совсем. В Wolfram Mathematica функция PadeApproximant[Cos[x], {x, 0, {5, 6}}] строит аппроксимацию в точке, а не на отрезке. Какой именно внутри алгоритм, никто из близких к разработчикам Wolfram знакомых подсказать не смог, поэтому решили проверить по Maple: результат оказывается таким же, как у функции pade(...) в Maple, и заметно отличается от chebpade(...) из того же Maple.

А вот если в Wolfram использовать MiniMaxApproximation[Cos[x], {x, {0, 1}, 5, 6}], то Вы получите аппроксимацию именно на отрезке, с минимизацией максимального расхождения между функцией и аппроксимантом в наборе точек. Сам этот набор точек похож на узлы чебышевской сетки, но только похож.

Согласна, тяжело найти баланс между текстом "для общей эрудиции" и чем-то посерьезнее. Если хочется почитать коротко именно о минимаксах, можно глянуть статью. Если же хочется "проникнуться" до конца, то тут, конечно же, рекомендую классику -- Jean-Michel Muller "Elementary Functions".

В тексте речь идет не о векторном расширении, а о матричном. С910, о котором вы пишете, матричное расширение не содержит.

Спасибо за интересную информацию! Не знала про использование в космических миссиях. Это решение на базе SiFive x280 c кастомным интегрированным матричным расширением RISC-V, в конце предыдущего текста был его обзор.

да, поэтому вряд ли будет слияние векторного и матричного расширения в одно

Они уже добавили поэлементные для int32 и int64, но пока это все на qemu, нельзя оценить, что будет выгоднее. О слиянии расширений в настоящее время ничего на глаза не попадалось.

По моделям с квантизацией: дополнила заключение обзора сводной таблицей по существующим матричным расширениям -- поддержка int8 у всех заявлена.

Про активационные функции (softmax, sigmoid) -- используется векторизация, про max-pooling (сжатие) -- планируется в следующих версиях независимого матричного расширения T-Head (в статье говорится, что со временем его планируют развить до полноценного AI Matrix++ Extension, поддерживающего широкий спектр AI-специфичных матричных операция).

Да, конечно, поддержка расширения не обязана быть во всех абсолютно процессорах. Но тот же инференс является актуальной нагрузкой не только для серверных процессоров: умная клавиатура, голосовые помощники, фотокамера с AI-эффектами, расшифровка голосовых заметок и т.д.

Могу привести пример достаточно бюджетной платы Banana Pi BPI-F3 с 8-ядерным процессором SpacemiT K1 RISC-V (ближе к концу предыдущего текста говорилось о ней): все 8 ядер с векторным расширением RISC-V RVV 1.0, половина ядер с кастомным матричным раcширением RISC-V SpacemiT IME.

Большое спасибо! Я активно искала информацию по теме еще зимой, поэтому не видела ее. Очень интересная!

а, Apple AMX из Apple M1--M3 -- возможно, имелось в виду исследование Дугалла Джонсона, который его как раз и обнаружил, https://gist.github.com/dougallj/7cba721da1a94da725ee37c1e9cd1f21

Отличный вопрос, если какие-то математические детали неясны -- не стесняйтесь спрашивать!

В начале статьи кратко были описаны идеи многоуровневого блокирования из статьи Goto&Geijn: большие матрицы в несколько этапов разбиваются на маленькие блоки. И вы аккумулируете результаты умножения этих блоков. Ведь что такое элемент матрицы-произведения? Это сумма произведений элементов строки первого сомножителя на соответствующие элементы столбца второго сомножители. А раз это сумма, то вы можете просуммировать не все сразу, а частями -- идя по подстрокам и подстолбцам.

Есть чуть более хитрый подход, когда вместо скалярного произведения используется внешнее -- тогда аккумулируются не отдельные элементы, а целые блоки. Подробнее о нем я расскажу в следующем тексте. А в последнем тексте будет детально рассмотрен пример реализации такого алгоритма.

1

Информация

В рейтинге
112-я
Работает в
Зарегистрирована
Активность

Специализация

HPC (высокопроизводительные вычисления)
Ведущий