public static class UselessAwaitExtensions
{
public static TaskAwaiter GetAwaiter(this int milliseconds) => Task.Delay(milliseconds).GetAwaiter();
public static TaskAwaiter GetAwaiter(this string text) => Task.Delay(text?.Length ?? 100).GetAwaiter();
public static TaskAwaiter GetAwaiter<T>(this T anything) => Task.Delay(100).GetAwaiter();
}
Кроме шуток — в некоторых случаях конструкции вида await 500; в качестве пауз довольно удобны.
Запускаем GPT-OSS-120B на 6 Гб GPU и ускоряем до 30 t/s. Вам нужна RAM, а не VRAM. Параметр -cmoe для ускорения MoE LLM
Я видел её, но у меня на практике пока кроме падений (спасибо что без BSODов) никаких результатов нет :( Версии драйверов пробовал разные. То ли ждать обновы, то ли продолжить ковыряться...
Да, но он не везде нужен большой, и влияет нелинейно.
Например, на RTX 5090 GPT OSS 120b с окном 4096 выдает 15 т/с, а если поставить окно 32000, то будет около 11 т/с (4 эксперта). Плюс сейчас постепенно много где появляется функция сжатия контекста — и в онлайновых, и в локальных фронтендах.
Давно уже есть в американцах, немцах и китайцах. Эта штука повышает безопасность, а не понижает, так как не приходится переводить и перефокусировать взгляд из дали на ближнее расстояние, где приборка. Визуально кажется, что проекция большая и в 15 метрах впереди, а не в плоскости лобового стекла. Это невозможно показать картинками через интернет, так как дисплеи у всех плоские, а не голографические.
попробует загрузиться и свалится с ошибкой OutOfMemory
-models-max 1 - это означает что на VRAM нужно держать только одну модель
Эм. А считать не по количеству моделей, а по потребляемой памяти?
Типа нужно загрузить X, если оно вместе с уже загруженным жрёт больше VRAM, чем есть, то узнаем, сколько надо выгрузить и ищем самую маленькую и редко используемую модель не меньше, чем столько, сколько нужно освободить, и выгружаем. И только после этого загружаем X. Еще можно прикрутить всякие миграции целиком и по слоям/кускам/экспертам между GPU, когда их несколько.
По-моему, это не такая уж сложная задача, её 100500 раз делали так или иначе в разных формах.
Ни VRR, ни G-Sync работать не будут. Более того, для 10-битного HDR 120 Гц 4:4:4 до сих пор исчезающе мало переходников.
Сам использую Club3D-CAC 1085 + оптика. Требуют отдельного питания, греются как сковородки, друг друга перегревают и тогда картинка пропадает. Пришлось ставить вентилятор.
Скрытый текст
Из плюсов — лага нет (видимо там FPGA построчно обрабатывает картинку), с вентилятором работают исправно.
Есть ещё проблема с аллокациями, которая частично решена в .NET 10. Там среда может разместить массив на стеке, а не в куче, если будет убеждена, что это безопасно. А вот List гарантированно улетит в кучу (приходилось делать список значимым типом для борьбы с этой проблемой).
HDR 10 бит 4К? То есть H265 он был? И 90 Гб превратились в 4 Гб без видимых потерь? Скриншоты (в оригинальном разрешении в HDR и не пережатые хабром и джипегами) в студию. В том числе динамичных сцен. А лучше примеры фильмов.
Именно. Подобная штука не гарантирует защиту, а лишь добавляет ещё один эшелон обороны, усложняя жизнь мошенникам и уменьшая вероятность их успеха. Раньше пользователь просто пролистывал, а теперь он видит нечто, вызывающее прилив кортизола и создающее препятствия для дальнейших шагов (так как просто нажать ок не получится). Мошенникам придётся придумать и ввести дополнительные шаги в свои схемы (уговаривать + объяснять как это преодолеть), повышая её хрупкость.
Тут имхо важно не только донести опасность на информационном и эмоциональном уровнях, но и сделать это максимально просто, не апеллируя к понятиям, которые требуют от пользователя компетенций.
А на какой процент это улучшит ситуацию это уже другой вопрос, надо проводить исследования, причём в разных социальных группах, в разных психологических состояниях и при разном воздействии/давлении.
Что интересно — в VB6 то, что скомпилировано в псевдокод (P‑Code) на современных компах работает гораздо быстрее, чем то, что скомпилировано в Native Code. Чуть ли не на порядок. По крайней мере так было на всех компах, где я тестил (Win7/8/8.1/11).
Равномерное движение относительно, ускоренное движение абсолютно. Ускорение можно узнать в локальной системе отсчёта с помощью всяких акселерометров‑весов с маятниками, то есть ускорение не зависит от системы отсчёта.
Если в клиенте какая‑нибудь уязвимость, то такое может быть. Банально может быть неофициальный телеграмоватсапов клиент с 50 бекдорами. В официальных клиентах же нет бекдоров, правда?
Многие пользователи не понимают внутреннюю кухню устройств. Они не понимают и не вникают в составляющие части системы и их взаимосвязи. Что там ОС, приложения и разрешения какие то. Для многих людей это не система с внутренними отношениями, а единый цельный объект.
Поэтому, когда оно начинает задавать вопросы про разрешения, человек не понимает что происходит, потому что в его понятийном аппарате нет тех штук, взаимоотношение которых описано на экране. Плюс люди не понимают важность ИБ. В итоге человек воспринимает это как помеху и просто её пролистывает. Как рекламу.
В данном случае оно может объяснить, что такое constrexpr, что такое size_t и что за синтаксис с 0x для совсем уж новичков. Хотя в статьях, где присутствуют подобные штуки, новички редко обитают.
Можно просто справа вверху иконку сделать и всё, при наведении появляется тултип «Объяснить код с SourceCraft».
Кнопка справа вверху
Если на первых порах надо привлечь внимание, то можно чтобы она периодически (то есть не всё время) ненавязчиво сияла, подпрыгивала или покачивалась. Ну или жонглировала черными штуками используя оранжевокрасные как руки, если заморачиваться. Главное не перегнуть палку, чтобы не раздражало.
Еще можно объяснение выстраивать учитывая профиль того, кто читает. Если у него там 735 статей про написание драйверов на С, то азы ему объяснять не надо, надо сразу к делу и с терминологией. А если видно, что он новичок и/или у него другая профессия — то надо разжевывать, и тому подобное.
Скрытый текст
Кроме шуток — в некоторых случаях конструкции вида await 500; в качестве пауз довольно удобны.
Я видел её, но у меня на практике пока кроме падений (спасибо что без BSODов) никаких результатов нет :( Версии драйверов пробовал разные. То ли ждать обновы, то ли продолжить ковыряться...
Да, но он не везде нужен большой, и влияет нелинейно.
Например, на RTX 5090 GPT OSS 120b с окном 4096 выдает 15 т/с, а если поставить окно 32000, то будет около 11 т/с (4 эксперта). Плюс сейчас постепенно много где появляется функция сжатия контекста — и в онлайновых, и в локальных фронтендах.
Там памяти чуть меньше 1500 Гб ;)
Давно уже есть в американцах, немцах и китайцах. Эта штука повышает безопасность, а не понижает, так как не приходится переводить и перефокусировать взгляд из дали на ближнее расстояние, где приборка. Визуально кажется, что проекция большая и в 15 метрах впереди, а не в плоскости лобового стекла. Это невозможно показать картинками через интернет, так как дисплеи у всех плоские, а не голографические.
Эм. А считать не по количеству моделей, а по потребляемой памяти?
Типа нужно загрузить X, если оно вместе с уже загруженным жрёт больше VRAM, чем есть, то узнаем, сколько надо выгрузить и ищем самую маленькую и редко используемую модель не меньше, чем столько, сколько нужно освободить, и выгружаем. И только после этого загружаем X. Еще можно прикрутить всякие миграции целиком и по слоям/кускам/экспертам между GPU, когда их несколько.
По-моему, это не такая уж сложная задача, её 100500 раз делали так или иначе в разных формах.
Ни VRR, ни G-Sync работать не будут. Более того, для 10-битного HDR 120 Гц 4:4:4 до сих пор исчезающе мало переходников.
Сам использую Club3D-CAC 1085 + оптика. Требуют отдельного питания, греются как сковородки, друг друга перегревают и тогда картинка пропадает. Пришлось ставить вентилятор.
Скрытый текст
Из плюсов — лага нет (видимо там FPGA построчно обрабатывает картинку), с вентилятором работают исправно.
Есть ещё проблема с аллокациями, которая частично решена в .NET 10. Там среда может разместить массив на стеке, а не в куче, если будет убеждена, что это безопасно. А вот List гарантированно улетит в кучу (приходилось делать список значимым типом для борьбы с этой проблемой).
HDR 10 бит 4К? То есть H265 он был? И 90 Гб превратились в 4 Гб без видимых потерь? Скриншоты (в оригинальном разрешении в HDR и не пережатые хабром и джипегами) в студию. В том числе динамичных сцен. А лучше примеры фильмов.
Именно. Подобная штука не гарантирует защиту, а лишь добавляет ещё один эшелон обороны, усложняя жизнь мошенникам и уменьшая вероятность их успеха. Раньше пользователь просто пролистывал, а теперь он видит нечто, вызывающее прилив кортизола и создающее препятствия для дальнейших шагов (так как просто нажать ок не получится). Мошенникам придётся придумать и ввести дополнительные шаги в свои схемы (уговаривать + объяснять как это преодолеть), повышая её хрупкость.
Тут имхо важно не только донести опасность на информационном и эмоциональном уровнях, но и сделать это максимально просто, не апеллируя к понятиям, которые требуют от пользователя компетенций.
А на какой процент это улучшит ситуацию это уже другой вопрос, надо проводить исследования, причём в разных социальных группах, в разных психологических состояниях и при разном воздействии/давлении.
Поэтому вместо
должно быть что‑то типа
Я, конечно, утрирую, но суть примерно такая.
Это ностальгическая кровь
В гравитационном поле электрический заряд тоже не может. В ОТО гравитация не есть сила.
Я говорю про ОТО. В рамках ОТО космонавты на МКС двигаются равномерно без ускорения.
Что интересно — в VB6 то, что скомпилировано в псевдокод (P‑Code) на современных компах работает гораздо быстрее, чем то, что скомпилировано в Native Code. Чуть ли не на порядок. По крайней мере так было на всех компах, где я тестил (Win7/8/8.1/11).
Равномерное движение относительно, ускоренное движение абсолютно. Ускорение можно узнать в локальной системе отсчёта с помощью всяких акселерометров‑весов с маятниками, то есть ускорение не зависит от системы отсчёта.
Если в клиенте какая‑нибудь уязвимость, то такое может быть. Банально может быть неофициальный телеграмоватсапов клиент с 50 бекдорами. В официальных клиентах же нет бекдоров, правда?
Многие пользователи не понимают внутреннюю кухню устройств. Они не понимают и не вникают в составляющие части системы и их взаимосвязи. Что там ОС, приложения и разрешения какие то. Для многих людей это не система с внутренними отношениями, а единый цельный объект.
Поэтому, когда оно начинает задавать вопросы про разрешения, человек не понимает что происходит, потому что в его понятийном аппарате нет тех штук, взаимоотношение которых описано на экране. Плюс люди не понимают важность ИБ. В итоге человек воспринимает это как помеху и просто её пролистывает. Как рекламу.
В данном случае оно может объяснить, что такое constrexpr, что такое size_t и что за синтаксис с 0x для совсем уж новичков. Хотя в статьях, где присутствуют подобные штуки, новички редко обитают.
Можно просто справа вверху иконку сделать и всё, при наведении появляется тултип «Объяснить код с SourceCraft».
Если на первых порах надо привлечь внимание, то можно чтобы она периодически (то есть не всё время) ненавязчиво сияла, подпрыгивала или покачивалась. Ну или жонглировала черными штуками используя оранжевокрасные как руки, если заморачиваться. Главное не перегнуть палку, чтобы не раздражало.
Еще можно объяснение выстраивать учитывая профиль того, кто читает. Если у него там 735 статей про написание драйверов на С, то азы ему объяснять не надо, надо сразу к делу и с терминологией. А если видно, что он новичок и/или у него другая профессия — то надо разжевывать, и тому подобное.