Софтмакс Гумбеля: как устроен и для каких нейронных сетей полезен

[uchitel]

Забавное совпадение. Вникаю в моделирование дискретного выбора, загуглил (надеюсь, слово "загуглил" в Яндексе не считается матерным) распределение Гумбеля. Вижу ссылку на статью на Хабре. "Ну какое-нибудь старье" - подумал я. А тут на тебе - 1 час с момента публикации.

Совпадение?.. Не думаю :)

[ivodopyanov]

Что лучше для дискретизации тензора - gumbel softmax или VQVAE?

[EqualsZero]

Про решение проблемы вычисления градиентов: есть вот такая статья, где к распределению вероятностей, зашумленному Гумбелем, применяют SoftArgmax, т.е. Softmax + вычисление мат-ожидания.

Кажется довольно простым способом организовать честное(?) дифференцируемое сэмплирование.

[cydoroga]

Это не везде применимо: в RLной аналогии твоя идея предполагает некие soft-actions - псево-действия, полученные усреднением настоящих действий с весами.
Для нейронок и градиентов - это норм, но в среду ты такое действие отдать не можешь - нужно выбрать настоящее.