Давайте разберёмся в том, как работает новый метод квантования больших языковых моделей HIGGS (Hadamard Incoherence with Gaussian MSE-optimal GridS)

Глобальное освещение - одна из самых красивых и одновременно самых сложных задач в компьютерной графике. Она включает не только прямой свет от источников, но и все его переотражения от поверхностей, преломления, рассеяния и прочие танцы фотонов в сцене.

Многие алгоритмы, включая path tracing, radiosity и voxel cone tracing, пытаются справиться с этой задачей десятилетиями. Некоторые дают красивую картинку, но требуют больших вычислительных ресурсов. Другие - быстрые, но страдают от шума, артефактов и утечек света.

Что если можно приблизиться к качеству трассировки бесконечного количества лучей, потратив ограниченное количество ресурсов? Именно такую цель преследует метод Каскадов яркости (Radiance Cascades), впервые предложенный Александром Санниковым из Grinding Gear Games. (заготовку его статьи можно посмотреть вот в этом репозитории).

В начале октября вышла модель DIAMOND, работающая в режиме игрового движка. Она эмулирует карту Dust 2 в игре CS: GO. По сути модель состоит из двух частей: модели, которая учитывает состояние игрового мира и диффузионной модели, генерирующий следующий кадр на основе предыдущего + инпута с клавиатуры + мыши.

Представьте себе сложное переплетение складок, натяжение ткани, развевающейся на ветру. А теперь представьте, что вы пытаетесь воспроизвести всё это в виртуальной среде. На первый взгляд эта задача кажется обманчиво простой, но даже в ней есть свои подводные камни. В основе моделирования тканей лежит тонкий баланс между физической точностью и вычислительной эффективностью.

Моделирование ткани в основном сводится к решению задачи Коши, которая заключается в нахождении будущего состояния системы с учетом ее начальных условий и управляющих дифференциальных уравнений. В данном контексте положения и скорости частиц в ткани определяются такими силами, как гравитация, ветер и внутренние ограничения, которые и описываются диффурами. Хотя метод Эйлера часто является базовым подходом к решению подобных задач, он часто не подходит для моделирования ткани из-за своей неустойчивости и склонности к накоплению ошибок с течением времени, особенно в динамических системах с быстро меняющимися силами.

Метод Эйлера аппроксимирует будущее положение, основываясь только на текущем состоянии, что приводит к нереалистичному растяжению и артефактам в моделировании. Напротив, интеграция Верле, учитывающая как текущее, так и предыдущее положение частиц, отличается большей стабильностью и точностью, что делает ее более надежным методом решения задачи Коши в физике тканей.

На заре развития искусственного интеллекта исследователи часто могли проследить логику процесса принятия решений моделью, но с появлением deep learning и, в частности, с выходом AlexNet в 2012 году, эта прозрачность начала исчезать. Прорывная производительность AlexNet в распознавании изображений ознаменовала не только технологический скачок, но и поворотный момент, когда сложность нейронных сетей опередила нашу способность понимать процессы, происходящие внутри. Успех модели, обусловленный миллионами параметров и слоями вычислительных блоков, положил начало эпохе, когда акцент был смещен в сторону максимизации производительности, зачастую в ущерб интерпретируемости. Сегодня эта проблема только усугубилась, поскольку нейронные сети стали еще больше и сложнее. Эти модели работают как «черные ящики», принимая решения, причины которых практически невозможно расшифровать.

Давайте поговорим о том, как вообще исследователи в области ии пытаются решить растущую проблему интерпретируемости моделей, в частности, поговорим о разреженных автоэнкодерах Anthropic.

В этой статье будут встречаться термины, которые я намеренно не перевожу из-за того, что перевод либо звучит ужасно, либо не отражает сути термина.

В быстро развивающемся мире и генеративных моделей появляются всё новые и новые модальности. После текста, изображений, звуков и музыки, настала очередь 3D моделей. Представьте себе систему, способную за считанные секунды создавать огромные, тщательно детализированные 3D-миры, будь то целые города или микроскопические структуры. Проблема в том, что существующие модели часто не справляются с задачей обеспечения баланса между разрешением, эффективностью и масштабируемостью, особенно в крупномасштабных решениях.

Сегодня я хочу рассказать вам про XCube - новый подход от Nvidia к генеративному 3D, в котором для преодоления этих ограничений используются подход Sparse Voxel Hierarchies. В отличие от традиционных моделей, XCube легко масштабируется от отдельных объектов до обширных открытых сцен, достигая уровня детализации с разрешением до вокселей - и при этом сохраняя эффективность вычислений. Этот метод не только повышает геометрическую сложность создаваемых моделей, но и поддерживает редактирование пользователем и универсальную генерацию атрибутов.

Когда в середине 1990-х годов была выпущена приставка PlayStation 1, она не только ознаменовала собой выход Sony на рынок игровой индустрии, но и возвестила о начале новой эры 3D-игр. Несмотря на свой новаторский статус, PS1 не была лишена недостатков. Аппаратное обеспечение консоли, хотя и было передовым для своего времени, накладывало существенные ограничения, которые приводили к появлению уникальных графических артефактов - косяков, определивших целое поколение игр. Давайте поговорим о технической стороне графических возможностей PS1 и рассмотрим как ее ограничения привели как к визуальным недостаткам, так и к творческим прорывам. Исследуя тонкий баланс между аппаратными ограничениями и изобретательностью разработчиков, мы узнаем, как графика PS1 стала культовой, пусть и несовершенной и почему она продолжает влиять на игры и по сей день.

Я обожаю RPG, меня привлекают их богатый сюжет, стратегическая глубина и захватывающие миры. Также меня восхищают data-driven подходы к разработке. Они не только улучшают логическую структуру игровых механик, но и гарантируют, что каждый элемент игры сбалансирован и вносит значимый вклад в опыт игрока. Баланс - один из самых сложных аспектов разработки игр, поскольку он требует тщательного внимания к взаимодействию игровых механик. Сегодня я расскажу о том, как использовать линейную алгебру для баланса стоимости предметов в игре.