nn.Embedding слой эквивалентен тому, что мы подадим дискретную dummy-переменную на вход обычному полносвязному линейному слою. То есть, несмотря на то, что работаем с вещественными числами - это все же внедрение дискретного параметра в евклидово пространство, нежели работа с евклидовым пространством изначально
nn.Embedding слой эквивалентен тому, что мы подадим дискретную dummy-переменную на вход обычному полносвязному линейному слою. То есть, несмотря на то, что работаем с вещественными числами - это все же внедрение дискретного параметра в евклидово пространство, нежели работа с евклидовым пространством изначально
Информация от ground truth буквально передаётся через "бутылочное горлышко" в 10-20 вещественных чисел - довольно классический трюк для синтеза речи