Простите, мне кажется, что вы ошибочно упомянули кросс-энтропию.
К тому же приведена формула энтропии.
Смысл кросс-энтропии в мере «похожести» распределений, она является аналогом (а точнее родственницей) дивергенции Кульбака-Лейблера.
Наверно я немного непонятно выразился.
По поводу нужности и полезности — это как бы в ответ на ранние комментарии.
Сам я очень люблю всякие дурацкие поделки, которые позволяют сделать из… конфетку.
Одно из лучших воспоминаний — запуск селерона II на чипсете 440LX.
Вот описание — Использование новых процессоров в «очень старых» материнских платах
Возился почти сутки.
Одна пайка ножек процессора паяльником, не предназначенным для этого с намотанной медной проволокой в виде более тонкого жала, была тем ещё челленджем.
Но в конце концов заработало и реально по некоторым бенчмаркам било новые дорогие процессоры из-за более низкой latency.
Впечатлений было море :)
Вот тут третий вывод проявил себя в полном объёме :)
Ритуальный танец большого урожая в племени мумба-юмба по сравнению с моим был просто плавным вальсированием.
Всем, кто интересуется нейронными сетями, но не знает с чем их едят, очень рекомендую посмотреть великолепные лекции Школы анализа данных, которые читает К.В.Воронцов (и которые на хабре, конечно же, упоминались).
По этой теме две лекции: «Нелинейная регрессия. Многослойные нейронные сети» и «Нейронные сети (продолжение)».
По моему скромному мнению, идеальный баланс теоретической математики и популярного иллюстративного объяснения на пальцах, как оно там внутри устроено.
Очень позитивная картинка на входе :)
Создает впечатление об «успешности» среднестатистического студента — тут тебе и макбук эйр, и айфон.
Прям обратно в студенты захотелось.
Если вспомнить классику психологического триллера «Молчание ягнят», там вообще было прямым текстом сказано (за точность цитаты не ручаюсь), что жертвой чаще всего становятся те, кого преступник(=маньяк) видит каждый день.
В артиллерийской школе на уроке физики:
— Любое тело, подброшенное вверх, летит по параболе и обязательно падает на землю. Потому что на него действует сила земного притяжения. Всем понятно? Вопросы?
— А если оно упадёт в воду?
— Это нас не касается. Этим занимаются на флоте.
А если учесть распределение размеров объектов?
Вероятность столкновения есть функция линейных размеров, а вот плотность распределения по массе, мне кажется, должна быть обратной кубической как минимум.
А не могли бы вы (автор) прокомментировать то, что вылезает на второй ссылке, когда гугл просишь поискать «Hola — Олимпиада программистов»? Развод для программиста
Правда, Энрико был весьма осторожным ученым. Это он впервые высказал «сумасшедшую» идею о том, что ядерный взрыв может привести к синтезу из дейтерия[8] (если он будет присутствовать в зоне взрыва в необходимом количестве) атомов гелия, а это способно породить значительно более мощный термоядерный взрыв. Задание опровергнуть «такую чепуху» было дано двум не менее серьезным, чем Ферми, физикам — Эдварду Теллеру и Эмилю Конопински. Они засели за работу посчитали и выдали ответ: то, что сказал Ферми, вполне возможно. Теллера расчеты увлекли настолько, что позже именно он возглавил американский проект по созданию водородной (термоядерной) бомбы.
Результаты проверки тогда насторожили ученых, и они задались вопросом: а не вызовет ли мощный ядерный взрыв, скажем, в океане, грандиозный термоядерный взрыв всей планеты. Ведь дейтерия в нем содержится не так и мало — в кубометре воды примерно 20 граммов. К счастью, расчеты показали, что такой концентрации для начала цепной термоядерной реакции будет недостаточно. Но ученые-скептики не успокоились и задали новый вопрос, еще более серьезный: а не приведет ли мощный ядерный или термоядерный взрыв в атмосфере к цепной реакции синтеза азота. Проще говоря, а не вспыхнет ли при взрыве вся атмосфера так, как вспыхивают пары бензина, если в них чиркнуть спичкой. Просчитать вероятность такого исхода доверили все тем же Теллеру и Конопински. Скоро на свет появился доклад ЬЛ-602 (ЬЛ — Лос-Анджелес, ибо считали ученые именно в этом городе), в котором на 22 страницах подробно, с расчетами и графиками, было объяснено, что вероятность подобного развития событий крайне мала. Наша атмосфера — слишком разреженная для того, чтобы произвести цепную реакцию. Тут как с дорожкой из костяшек домино: они будут падать цепочкой только в том случае, если одна костяшка при падении дотянется до другой. Если расстояние между ними больше — цепочки падений не получится. Так вот, расстояние между атомами в нашей атмосфере слишком велико.
В конце своего доклада ученые приписали: «Однако существует возможность того, что в атмосфере могут возникнуть другие, более простые виды горения… Сложность аргументации и отсутствие удовлетворительных экспериментальных данных делают дальнейшую работу по этому вопросу крайне желательной».
Конечно, никакой дополнительной работы по тому вопросу уже не проводилось. Риск, что при испытании первого ядерного заряда атмосфера все-таки рванет, оценивался некоторыми учеными так: 1: 3 000 000. Это даже несколько больше, чем шанс выиграть по лотерейному билету миллион долларов. Но ведь кто-то же его выигрывает, этот миллион, для кого-то шанс выпадает.
А дальше про возможность создания на коллайдере черной микродыры (или микрочерной дыры :) )
Такой сценарий даже в художественной литературе упоминается.
Вот в этом цикле Песни Гипериона говорится о «старой Земле», с которой человечество вынуждено было убежать именно по причине провалившейся в её центр черной дыры, созданной учёными.
И тоже проводятся исследования возможен ли такой исход, просчитываются вероятности.
Так что о рисках думают.
И ИМХО риск создания СЧИИ пострашнее атомной бомбы у мартышек.
Кстати, что-то я заропортовался :) В Гиперионе как раз в конце выясняется, что все проблемы у людей были именно из-за СЧИИ. Простите, не знаю как тут убрать спойлер.
P.S. вообще классный цикл, кто не читал, очень советую прочесть, это современная классика НФ. Хотя, конечно, там меньше науки и больше философии (сразу прошу прощения у философов, что противопоставил философию и науку ;) )
У вас есть душ на работе? Тогда завидую белой завистью.
Я тоже пробовал ездить на работу на велосипеде, получалось практически столько же по времени, как и на метро.
Но по Москве помимо всего прочего ещё и неудобно ездить — водителе не уважают велосипедистов, как в европах, иногда и просто не замечают (личный опыт).
К тому же приведена формула энтропии.
Смысл кросс-энтропии в мере «похожести» распределений, она является аналогом (а точнее родственницей) дивергенции Кульбака-Лейблера.
По поводу нужности и полезности — это как бы в ответ на ранние комментарии.
Сам я очень люблю всякие дурацкие поделки, которые позволяют сделать из… конфетку.
Одно из лучших воспоминаний — запуск селерона II на чипсете 440LX.
Вот описание — Использование новых процессоров в «очень старых» материнских платах
Возился почти сутки.
Одна пайка ножек процессора паяльником, не предназначенным для этого с намотанной медной проволокой в виде более тонкого жала, была тем ещё челленджем.
Но в конце концов заработало и реально по некоторым бенчмаркам било новые дорогие процессоры из-за более низкой latency.
Впечатлений было море :)
Вот тут третий вывод проявил себя в полном объёме :)
Ритуальный танец большого урожая в племени мумба-юмба по сравнению с моим был просто плавным вальсированием.
В особенности третий ;) *THUMB_UP*
Понравилась надпись на флипчарте, который стоит рядом с лектором :)
Сразу вспомнилось новость на хабре
Будьте добры, напишите в трёх словах в чём состоит прорыв, который вы совершили.
Вроде бы в Eurotripе был несколько другой маршрут: Лондон -> Париж -> Амстердам -> Братислава -> Берлин -> Рим? ;)
<jock_mode=off>
Правда, это, как мне кажется, высокий пилотаж :)
Они называются булевы (от Джорджа Буля), а булинь — это узел такой.
По этой теме две лекции: «Нелинейная регрессия. Многослойные нейронные сети» и «Нейронные сети (продолжение)».
По моему скромному мнению, идеальный баланс теоретической математики и популярного иллюстративного объяснения на пальцах, как оно там внутри устроено.
Создает впечатление об «успешности» среднестатистического студента — тут тебе и макбук эйр, и айфон.
Прям обратно в студенты захотелось.
Об этом хабр рассказывал не так давно здесь
Вероятность столкновения есть функция линейных размеров, а вот плотность распределения по массе, мне кажется, должна быть обратной кубической как минимум.
Развод для программиста
Вот, далеко даже ходить не нужно LA-602 vs. RHIC Review
Чтобы пост не был слишком сухим, разбавлю его цитатой из книги Конец света: прогнозы и сценарии — Валерий Юрьевич Чумаков
А дальше про возможность создания на коллайдере черной микродыры (или микрочерной дыры :) )
Такой сценарий даже в художественной литературе упоминается.
Вот в этом цикле Песни Гипериона говорится о «старой Земле», с которой человечество вынуждено было убежать именно по причине провалившейся в её центр черной дыры, созданной учёными.
И тоже проводятся исследования возможен ли такой исход, просчитываются вероятности.
Так что о рисках думают.
И ИМХО риск создания СЧИИ пострашнее атомной бомбы у мартышек.
Кстати, что-то я заропортовался :) В Гиперионе как раз в конце выясняется, что все проблемы у людей были именно из-за СЧИИ. Простите, не знаю как тут убрать спойлер.
P.S. вообще классный цикл, кто не читал, очень советую прочесть, это современная классика НФ. Хотя, конечно, там меньше науки и больше философии (сразу прошу прощения у философов, что противопоставил философию и науку ;) )
Я тоже пробовал ездить на работу на велосипеде, получалось практически столько же по времени, как и на метро.
Но по Москве помимо всего прочего ещё и неудобно ездить — водителе не уважают велосипедистов, как в европах, иногда и просто не замечают (личный опыт).