Визуализация двумерного гауссиана на плоскости

[mezastel]

Немного офтоп, но было бы неплохо, если бы авторы постов в разделе Математика менее грубо рисовали бы формулы. Вот например у вас



а можно было бы нарисовать как



Кстати, инлайн формулы тоже можно вставлять картинками, т.е. вместо Λ^(1/2) можно было написать что, согласитесь, выглядит намного лучше.

Я уже давно просил администрацию Хабра добавить поддержку MathJax для этого блога — надеюсь что рано или поздно она появится.

[mephistopheies]

ага я тоже отсылал запрос на поддержку латеха

так я что не понял то, вас размер не устраивает? или качество картинки? я для генерации картинок юзаю www.forkosh.com/mimetextutorial.html с размером шрифта \Large

на счет инлайна я в курсе, иногда это нарушает межстрочный интервал, но согласен, что для мелких формул типа это лучше

[mezastel]

Качество картинки. Посмотрите как убого рисуются прямые линии на U и Λ, например. Мне кажется стоит использовать механизм, который сохраняет формулы в хорошем качестве. Я посмотрел на ссылку что вы дали выше и там действительно плохо все рендерится. Я бы не пользовался таким сервисом.

А нарушение интервала — вещь некритичная, особенно если не пытаться туда воткнуть что-нибудь с \displaystyle.

[mephistopheies]

спс за отзыв, нада будет потестить другие сервисы

[mephistopheies]

абрабрабрабрабрабрабрабрабрабр
абрабрабрабрабрабрабрабрабрабр
абрабрабрабрабрабрабрабраб
абрабрабрабрабрабрабрабрабрабр
абрабрабрабрабрабрабрабрабрабр

вот например, можно варировать с размером картинки конечно, но думаю не просто будет не нарушить интервал, оставить картинку качественной и читаемой, тут палка о двух концах, либо так либо так

[makc3d]

можно поиграться с юникодом ещё,
абрабрабрабрабрабрабрабрабрабр
абрабрабрабрабрабрабрабрабрабр
абрабрабрабра Λ½ или Λ¹´² брабр
абрабрабрабрабрабрабрабрабрабр
абрабрабрабрабрабрабрабрабрабр

[aledovskiy]

Элипс показывает в какой области находится двумерная случайная величина, в соответствии с заданной ошибкой первого рода.

[aledovskiy]

Нет, с заданной ошибкой первого рода вполне верно. Или с доверительным интервалом. Когда говорят, что велина равна 7±3 с вероятностью 95% подразумевают доверительный интервал. Ошибка первого рода равна 100 — 95 = 5%.

[aledovskiy]

«5% — это же вероятность того, что мы совершим ошибку первого рода.»
А, вы об этом. Ну да, конечно, вероятность ошибки.

[mephistopheies]

В данный период времени, одна из проблем которой я занимаюсь — это кластеризация с использованием расстояния Махаланобиса. Планирую кстати пост запилить как будут какие то интересные результаты. Если использовать EM алгоритм, как в k-means, то слишком быстро алгоритм впадает в локальный минимум, и результат на много хуже чем в k-means.



Я начал работать над градиентным спуском, но очевидно частные производные точно вычислять это слишком трудоемко, т.к. ковариационная матрица еще и обратная. В итоге приходится искать какие то эвристики. На данном этапе получается нечто такое (тестирую на 2d, что бы можно было визуализировать):



Раньше все 4 эллипса были слишком вытянутые, но добавление регуляризации помогло два эллипса сжать до почти удовлетворительных размеров, но два все еще растут куда то далеко.

Возможно понимание природы этих эллипсоидов поможет придумать новые эвристики.

[DeMoerto]

Вы же используете ЕМ для смеси гауссовских распределений? Картинка очень похожа на такую смесь, я немного удивлен, что ЕМ так сошелся. Если Вам не трудно, скажите, какие Вы данные используете, очень хочу посмотреть, откуда такой эффект.

[mephistopheies]

полностью искусственные данные, сгенерил несколько 2д гауссиан, черным отмечена инициализация для каминса

[DeMoerto]

А все-таки при чем здесь каминс, если Вы кластеризуете смесь гауссиан? Вот пример с ЕМ алгоритмом.

Было:
Стало:

Плюс, есть оценки матожиданий и матриц ковариации для всех гауссиан.

Код (используются пакеты mclust и mvtnorm)

set.seed(1)

x1<-rmvnorm(1000,c(0,0),matrix(c((40/3)^2,0,0,5^2),nrow=2))
x2<-rmvnorm(1000,c(0,-30),matrix(c(6^2,0,0,6^2),nrow=2))
x3<-rmvnorm(1000,c(-33,-25),matrix(c(6^2,-34,-34,6^2),nrow=2))
x4<-rmvnorm(1000,c(43,0),matrix(c(6^2,-34,-34,6^2),nrow=2))

x <- rbind(x1,x2,x3,x4)

plot(x,xlim=c(-60,60),ylim=c(-45,20),pch=16)

emcl <- Mclust(x,G=4)
cls <- unlist(apply(emcl$z,1,which.max))

plot(x,xlim=c(-60,60),ylim=c(-45,20),col=cls,pch=16)

[mephistopheies]

спс, посмотрю