Да хватит уже, мне нравится, что вместо коротких минусов мы наконец-то постоянно получаем красивые буллиты, которые дают целый таб пространства и хорошо обозначают информацию. Из-за вас нейронки пытаются отучить.
Спасибо Нейросети, красивый текст, я бы ещё коротеньких шуток или замечаний добавил.
Подсчёт цен у продавца серверов, после бума спроса на GPU, в период дефицита производства памяти и доступности карточек на рынке? Я могу вам ещё сверху прорекламить сервис, где за бренд вы будете вообще $6-8/час отдавать за тот же уровень производительности. При уровне инференса H200 на GPT-OSS 120b: 2000 - 2500 tps/ 50-200tps/user - то есть даже на одной карточке с triton сервером без инфраструктуры памяти, можно в прибыль выходить. В кластере GPU доступно намного больше памяти, при упоре в память не нужны более дорогие карточки, а в кластере после увеличения памяти те же карточки дают больше производительности
В плюс OpenAI вышли ещё на 4o модели больше миллиарда $, инференс очень дешёвый, особенно в кластере. Они даже делают скидки в 2 раза, если время ненагруженное и можно потом прислать ответ. То есть им выгоднее гонять карточки, чем просто отключать. Обычные цены - это платный приоритет из-за высокого спроса. У Google модели часто стоят где-то раза в 2 дешевле. Но все идут к OpenAI, они и продают по полной. У OpenAI все инвестиции в долг с будущей прибыли через 10 лет, не будет прибыли - ничего не должны. Финансовых вливаний там немного, акциями они не торгуют. Сейчас ещё приобрели Cerebras - которые делают в железе энергоэффективные специализированные чипы и там энергии на миллион токенов совсем мизерно нужно. Владельцы дата-центров покупают электричество по своим ценам или вкладываются в постройку собственной электростанции. OpenAI в большом плюсе больше даже при условии бесплатных генераций для пользователей, но так как они не отчитываются перед инвесторами, все деньги идут в расширение.
Реальные траты идут на обучение и на видео-генерацию, опять же, потому что видеогенерация бесплатная, а повышенные лимиты есть в той же подписке Plus, что и от стандартного ЧатГПТ, а OpenAI нужны данные пользователей, статистика взаимодействия и прочее.
Проекты, которые финансируются из привлечения инвестиций - это обычно надстройка над нейронками, всякие агенты, отыгрыш персонажей, инструменты и прочее. Они вынуждены закупать токены с наценкой, а продуктов, которые покрывали бы разницу почти нет.
Можно, почитайте про создание ядерного оружия. Чисто гипотетические вещи с успехом были созданы и дали целые новые направления науке во всех отраслях. Так же, как и сами LLM начиная с ChatGPT, никто не знал, где произойдёт такой сильный скачок интеллекта, чтоб уже люди перестали понимать с кем говорят, искусственный интеллект это или естественный. По итогу, у нас за пару лет модели умнее среднестатистического человека.
Если говорить о науке, то нам точно известно, что мозг и так работает без всякого сознания. Мы не смогли найти сознание в мозге в принципе. Нет какого-то отдельного физического эффекта - "понимать", понимание лежит в той же самой нейронной сети, это соотношение одного объекта к другим, оценивая разницу между var1,var2,var3 - мы говорим, что понимаем какой-то смысл. Разницу мы можем экстраполировать и моделировать поведение объекта к другим объектам в голове. С самого бума LLM почти все академики стали говорить о создании AGI, то есть интеллекта в полном смысле человеческого уровня - так как все элементы готовы, нужно только подобрать рецепт.
Технический отличаются максимально, спамеры используют дозвон круглые сутки, операторы отдельно такие звонки через свои API разрешают. Просто так организовать дозвон через IP нельзя, оператор заблочит если ему денюжку не заплатили за такую услугу. Более того, такие звонки часто идут с одноразовых номеров, перезванивать на которые запрещено и генерятся они из пула оператора, и всегда идут от ip-провайдера. То есть если номер официально зарегистрирован за компанией, никакого труда, отличить его от спамера - не составляет.
Мне МТС сказали надо самому подключать услугу блокировки. Поэтому и сорвались, что пул тех кто не подключил - сужается и пытаются заспамить пока есть возможность.
Общение по электронной почте имеет статус официального юридического обмена, тоже самое, что и письма по физической почте отправлять. Намного надёжнее и в суде приравнено.
Отличный закон, он блокирует ip телефонию с одноразовыми номерами с заблокированным обратным вызовом - то есть только спамерские номера. Официальные номера зарегистрированные на организацию под блокировку не попадают. Вы проблему из пальца высасываете. Хотите получать звонки с одноразовых номеров, пожалуйста, услуга опциональная.
Они на самом деле есть, но я оставил эту информацию для раздела про шейдеры, мне просто было нужно заострить внимания на фокусах и в расследовательском формате потом уже пояснить, где на самом деле всё спрятано. Про одни текстуры можно статью написать, но она выйдет техничной и скучной, в формате справочника. У локаций есть даже множители для того же Specular. Шейдеры, в нашем случае, наиболее информативны и будет в разы интереснее. Для меня самый большой вопрос, почему объекты в Скайриме выглядят очень похоже, даже если накатывать 4K текстуры.
Для этого сначала придётся пояснить, что такое EarlyZ, потом что такое сам Z-Prepass, потом особенности реализации в Скайриме, потом что они используют его неправильно. Это всё будет в следующей части. На данный момент, чтобы никого не путать, достаточно обобщения.
С чего бы ему быть дорогим?
Насколько я понял, он был вырезан на консолях (кроме скайбокса), так же рекомендации по оптимизации тех лет, прямо рекомендуют выключать всё, кроме неба. Раньше и планарные отражения использовали, это не значит, что это дёшево.
складывается впечатление, что SSAO, тени и буфер глубины создаются после основного прохода рендера
SSAO действительно создаётся на стадии пост-обработки, после основного рендера, так как для SSAO требуются итоговые нормали в экранном пространстве.
Это не так, стадия маркирования проходит через ссылки с построением графа. Так как объект доступен по ссылке, то все ссылки внутри тоже будут распознаны. Проход по управляемой кучи будет уже на стадии планирования, но нам она и не нужна.
Должен, GC берёт ссылки из полей корней, данные где расположены ссылки берутся из мета-информации, которую поставляет таблица методов. В искусственном объекте есть таблица методов с корректной мета-информацией, значит GC распознает ссылки, так же все отметки достижимости и закрепления хранятся в самом объекте, и тоже будут валидны. Но сам объект должен иметь внешние ссылки, чтобы GC его вообще видел или быть закреплённым. Однако, GC ещё занимается планированием кучи, и может посчитать, что объект находится в куче и ложно копировать его при уплотнении, поэтому всегда стоит использовать закрепление. В простом случае, можно использовать класс обёртку, который автоматический убирает закрепление при финализации объекта. Я не уверен, что GC обязательно попытается его скопировать, но он однозначно распознает ссылки внутри. Этот метод описан достаточно давно и сборка мусора не вызывает ни каких повреждений. Правда, все ситуации синтетические.
Лично мне интересно попробовать использовать этот метод для более тщательной разметки памяти.
Построение графа зависимостей подразумевает, что экземпляр может быть в других кучах или вообще залочен в неуправляемой памяти, поэтому все поля будут валидны и не собраны, более того, ссылка на сам объект будет учитываться в поколении. Однако, не факт, что будет вызван финализатор или IDispose, так как для них требуется сначала перепланировка кучи, поэтому следует использовать IDispose интерфейс во внешнем классе для связи с GC. И так же пинить сам объект, чтобы исключить ошибки планировщика кучи при попытке перераспределить память.
Какая хорошая техническая статья, на самом деле весь интероп огромная боль, а GC вообще необузданный монстр. Каждый раз при попытке хоть как-то контролировать освобождение памяти вылазит просто уйма нюансов и костылей в виде ObjectPooling. А здесь даже мимикрия под настоящий класс, ну просто красота.
Почему objectHeader находится по адресу -8? Зачем так сделано? Хз. Даже майкрософт говорили, что просто так исторически сложилось и никакого скрытого смысла здесь нет.
Смысл здесь логический, так как классы управляемые, objectHeader - это как раз обёртка, а по указателю что должно лежать? правильно мякотка, и никому кроме обработчика в частных случаях обёртка не нужна. Да и регулярно добавлять +8 к любому обращению к классу, который в жизни обработкой заниматься не будет - такое себе. В то время как та же таблица методов уже является частью реализации и жертвой постоянных обращений от всех владельцев ссылки.
Вот и определились — продолжаем использовать длинные тире и дефисы повсеместно ✔ Будем путать людей и улучшать чувство прекрасного.
p.s. про нейрохабровчан я ничего не говорил, содержание — уже другой вопрос, конечно текст без сути сам по себе менее красив
Да хватит уже, мне нравится, что вместо коротких минусов мы наконец-то постоянно получаем красивые буллиты, которые дают целый таб пространства и хорошо обозначают информацию. Из-за вас нейронки пытаются отучить.
Спасибо Нейросети, красивый текст, я бы ещё коротеньких шуток или замечаний добавил.
Подсчёт цен у продавца серверов, после бума спроса на GPU, в период дефицита производства памяти и доступности карточек на рынке? Я могу вам ещё сверху прорекламить сервис, где за бренд вы будете вообще $6-8/час отдавать за тот же уровень производительности. При уровне инференса H200 на GPT-OSS 120b: 2000 - 2500 tps/ 50-200tps/user - то есть даже на одной карточке с triton сервером без инфраструктуры памяти, можно в прибыль выходить. В кластере GPU доступно намного больше памяти, при упоре в память не нужны более дорогие карточки, а в кластере после увеличения памяти те же карточки дают больше производительности
В плюс OpenAI вышли ещё на 4o модели больше миллиарда $, инференс очень дешёвый, особенно в кластере. Они даже делают скидки в 2 раза, если время ненагруженное и можно потом прислать ответ. То есть им выгоднее гонять карточки, чем просто отключать. Обычные цены - это платный приоритет из-за высокого спроса. У Google модели часто стоят где-то раза в 2 дешевле. Но все идут к OpenAI, они и продают по полной. У OpenAI все инвестиции в долг с будущей прибыли через 10 лет, не будет прибыли - ничего не должны. Финансовых вливаний там немного, акциями они не торгуют. Сейчас ещё приобрели Cerebras - которые делают в железе энергоэффективные специализированные чипы и там энергии на миллион токенов совсем мизерно нужно. Владельцы дата-центров покупают электричество по своим ценам или вкладываются в постройку собственной электростанции. OpenAI в большом плюсе больше даже при условии бесплатных генераций для пользователей, но так как они не отчитываются перед инвесторами, все деньги идут в расширение.
Реальные траты идут на обучение и на видео-генерацию, опять же, потому что видеогенерация бесплатная, а повышенные лимиты есть в той же подписке Plus, что и от стандартного ЧатГПТ, а OpenAI нужны данные пользователей, статистика взаимодействия и прочее.
Проекты, которые финансируются из привлечения инвестиций - это обычно надстройка над нейронками, всякие агенты, отыгрыш персонажей, инструменты и прочее. Они вынуждены закупать токены с наценкой, а продуктов, которые покрывали бы разницу почти нет.
Нейронные сети не являются системой поиска
Можно, почитайте про создание ядерного оружия. Чисто гипотетические вещи с успехом были созданы и дали целые новые направления науке во всех отраслях. Так же, как и сами LLM начиная с ChatGPT, никто не знал, где произойдёт такой сильный скачок интеллекта, чтоб уже люди перестали понимать с кем говорят, искусственный интеллект это или естественный. По итогу, у нас за пару лет модели умнее среднестатистического человека.
Непрерывная модель мира? что-то новенькое, мы то думали люди спят, а вы точно человек?
Если говорить о науке, то нам точно известно, что мозг и так работает без всякого сознания. Мы не смогли найти сознание в мозге в принципе. Нет какого-то отдельного физического эффекта - "понимать", понимание лежит в той же самой нейронной сети, это соотношение одного объекта к другим, оценивая разницу между var1,var2,var3 - мы говорим, что понимаем какой-то смысл. Разницу мы можем экстраполировать и моделировать поведение объекта к другим объектам в голове. С самого бума LLM почти все академики стали говорить о создании AGI, то есть интеллекта в полном смысле человеческого уровня - так как все элементы готовы, нужно только подобрать рецепт.
Технический отличаются максимально, спамеры используют дозвон круглые сутки, операторы отдельно такие звонки через свои API разрешают. Просто так организовать дозвон через IP нельзя, оператор заблочит если ему денюжку не заплатили за такую услугу. Более того, такие звонки часто идут с одноразовых номеров, перезванивать на которые запрещено и генерятся они из пула оператора, и всегда идут от ip-провайдера. То есть если номер официально зарегистрирован за компанией, никакого труда, отличить его от спамера - не составляет.
Мне МТС сказали надо самому подключать услугу блокировки. Поэтому и сорвались, что пул тех кто не подключил - сужается и пытаются заспамить пока есть возможность.
Общение по электронной почте имеет статус официального юридического обмена, тоже самое, что и письма по физической почте отправлять. Намного надёжнее и в суде приравнено.
Отличный закон, он блокирует ip телефонию с одноразовыми номерами с заблокированным обратным вызовом - то есть только спамерские номера. Официальные номера зарегистрированные на организацию под блокировку не попадают. Вы проблему из пальца высасываете. Хотите получать звонки с одноразовых номеров, пожалуйста, услуга опциональная.
Они на самом деле есть, но я оставил эту информацию для раздела про шейдеры, мне просто было нужно заострить внимания на фокусах и в расследовательском формате потом уже пояснить, где на самом деле всё спрятано. Про одни текстуры можно статью написать, но она выйдет техничной и скучной, в формате справочника. У локаций есть даже множители для того же Specular. Шейдеры, в нашем случае, наиболее информативны и будет в разы интереснее. Для меня самый большой вопрос, почему объекты в Скайриме выглядят очень похоже, даже если накатывать 4K текстуры.
Спасибо, за ваше мнение.
Для этого сначала придётся пояснить, что такое EarlyZ, потом что такое сам Z-Prepass, потом особенности реализации в Скайриме, потом что они используют его неправильно. Это всё будет в следующей части. На данный момент, чтобы никого не путать, достаточно обобщения.
Насколько я понял, он был вырезан на консолях (кроме скайбокса), так же рекомендации по оптимизации тех лет, прямо рекомендуют выключать всё, кроме неба. Раньше и планарные отражения использовали, это не значит, что это дёшево.
SSAO действительно создаётся на стадии пост-обработки, после основного рендера, так как для SSAO требуются итоговые нормали в экранном пространстве.
Поправил, для лучшего понимания
Это не так, стадия маркирования проходит через ссылки с построением графа. Так как объект доступен по ссылке, то все ссылки внутри тоже будут распознаны. Проход по управляемой кучи будет уже на стадии планирования, но нам она и не нужна.
Либо промо закончится, и бесплатной опять будет только 3.5
Должен, GC берёт ссылки из полей корней, данные где расположены ссылки берутся из мета-информации, которую поставляет таблица методов. В искусственном объекте есть таблица методов с корректной мета-информацией, значит GC распознает ссылки, так же все отметки достижимости и закрепления хранятся в самом объекте, и тоже будут валидны. Но сам объект должен иметь внешние ссылки, чтобы GC его вообще видел или быть закреплённым. Однако, GC ещё занимается планированием кучи, и может посчитать, что объект находится в куче и ложно копировать его при уплотнении, поэтому всегда стоит использовать закрепление. В простом случае, можно использовать класс обёртку, который автоматический убирает закрепление при финализации объекта. Я не уверен, что GC обязательно попытается его скопировать, но он однозначно распознает ссылки внутри. Этот метод описан достаточно давно и сборка мусора не вызывает ни каких повреждений. Правда, все ситуации синтетические.
Лично мне интересно попробовать использовать этот метод для более тщательной разметки памяти.
Построение графа зависимостей подразумевает, что экземпляр может быть в других кучах или вообще залочен в неуправляемой памяти, поэтому все поля будут валидны и не собраны, более того, ссылка на сам объект будет учитываться в поколении. Однако, не факт, что будет вызван финализатор или IDispose, так как для них требуется сначала перепланировка кучи, поэтому следует использовать IDispose интерфейс во внешнем классе для связи с GC. И так же пинить сам объект, чтобы исключить ошибки планировщика кучи при попытке перераспределить память.
Какая хорошая техническая статья, на самом деле весь интероп огромная боль, а GC вообще необузданный монстр. Каждый раз при попытке хоть как-то контролировать освобождение памяти вылазит просто уйма нюансов и костылей в виде ObjectPooling. А здесь даже мимикрия под настоящий класс, ну просто красота.
Смысл здесь логический, так как классы управляемые, objectHeader - это как раз обёртка, а по указателю что должно лежать? правильно мякотка, и никому кроме обработчика в частных случаях обёртка не нужна. Да и регулярно добавлять +8 к любому обращению к классу, который в жизни обработкой заниматься не будет - такое себе. В то время как та же таблица методов уже является частью реализации и жертвой постоянных обращений от всех владельцев ссылки.
Тег "криптография" к чему? слово прикольное? похоже на "криптовалюта"?