тут тяжеловато понять код, тк кажется нейронка полностью самописная ? (или какая-то либа юзается)
когда я писал, у меня было много провалившихся экспериментов, тк ошибка в слоях была или в распределнии связей между слоями. Чистый unet должен отработать
Но если здесь и каждый слой с 0 написан, то надо глубже копать, может просто в имплементации ошибка back и forward propagation.
последняя формула выводится на основе мат ожидания для нормального распределения кажется, то есть зная шум на к шаге, можно 1ю формулу представите как x0 = (xt - sqrt(1 - alphat) * noise) / sqrt(at)
это просто для вычисления того же изображения
тк мы говорим о распределении, а не о конкретной точке, то мы обобщая этот момент и понимая, что вычислить обратное распределение(там интеграл будет по неизвестной) - нереально, получаем 2ю формулу.
на картинку добавляется шум 800 раз последовательно. В первом случае schedule будет иметь все 0.1, второй - все 0.3, а последний - линейно возрастающая последовательность.
x0 - начальный шаг, это сделано для схожести с формулами. То есть на самом деле здесь описан последовательный процесс получения конечных среднего и дисперсии. Для наглядности я сравниваю полученный график с графиком нормального распределения от 0 до 1. То есть выглядит это так: получаем mean, std из xt -> берем рандомную точку из нормального распределения с этим mean, std -> получаем новый xt -> повторяем.
В случае картинок можно сделать тоже самое, только вместо x0 будет двумерный или 3х мерный массив(если цветное изображение). Также можно заюзать все формулы с последовательн. Последний xt - зашумленное изображение(тк размерность xt = x0, в случае массива np.random.normal(mean, math.sqrt(variance)) будет возвращать новый массив)
А затем мы убираем из этой формулы np.random.normal заменяя просто на сумму со случайной величиной
Спасибо, LinkedIn - тоже суперполезный. В целом LinkedIn и его охваты - отдельная сложная тема, но коннекты думаю работают, просто надо регулярно писать туда(наверное, не проверял). Хочу начать как нибудь вести его, пока еще не добрался
Спасибо! Я думаю тут идет от желания что-то делать в свободное время. Потому что его немного и выбирать что-то делать(а это по сути еще одна работа), при этом работая, довольно тяжело. Я от этого получаю кайф, поэтому наверное и выбираю делать это)
Мне кажется, делая широкий продукт, высока вероятность после первой итерации маркетинга(написать всем подряд и где можно) получить 0 активных пользователей. Потому что в этой сфере конкуренция будет уже высока. Но если адаптировать(под этим имею в виду добавить фичи, которые нужны будут определенному сегменту), то вероятность получить активных больше. Но опять же, широкие продукты есть и иногда они тоже выстреливают
такая формулировка, на мой взгляд, заставляет опускать руки. Слово нужен или нет можно оценить количественно: в пользователях или доходе(в месяц или за год). Если вы заработали больше н(н у каждого может быть свой, но часто видел, что это больше 500 долларов в месяц) денег. В твиттере можно посмотреть у индихакеров сколько проектов становились успешными. В среднем 1 из 15 или 20, с учетом, что они имеют аудиторию.
Мне кажется это можно делать параллельно, в твиттере даже есть специальный хеш buildinpublic(но на мой взгляд он стал менее актуальным). Но у меня непопулярный твиттер и я бы сказал, что сейчас это также сложно как сделать нужный проект
С seo у самого опыта мало, но про асо слышал подобное года 3 назад. В этом году я залил новую прилу и получил около 1000 установок в год. Думаю здесь все сводится к переполненности ниши
Я старался не делать статью рекламной, нвписав пару ссылок на Хабр статьи и приложение pano. Также есть 2 живущих успешных на мой взгляд проекта и 2 успешных закрытых. Все приложения неигровые и всем кому интересно могут просто поискать в сторе или загуглить
Пару месяцев назад выпустил первый полноценный бот в телеге и дискорде. Монетизацию еще не прикручивали, но в ближайшее время думал это сделать. Но инструментов подсказать не могу, пока еще не изучал и не использовал подробно
Спасибо, приятно. В рамках этой статьи и репозитория я не разрабатывал latent diffusion model(или stable diffusion), который как раз таки использует CLIP. Но по сути это тот же conditional diffusion, где помимо embedding класса, добавляет embedding промпта, полученный от CLIP. Слои и модули conditional diffusion в простом варианте находиться здесь: https://github.com/juraam/stable-diffusion-from-scratch/tree/main/src/condition_diffusion
Ознакомился с мартингалами, да очень похоже на то, что мы получаем при forward процессе. Странно, что ни в одном из пейперов, связанных с диффузией не встречал этого термина.
тут тяжеловато понять код, тк кажется нейронка полностью самописная ? (или какая-то либа юзается)
когда я писал, у меня было много провалившихся экспериментов, тк ошибка в слоях была или в распределнии связей между слоями. Чистый unet должен отработать
Но если здесь и каждый слой с 0 написан, то надо глубже копать, может просто в имплементации ошибка back и forward propagation.
последняя формула выводится на основе мат ожидания для нормального распределения кажется, то есть зная шум на к шаге, можно 1ю формулу представите как x0 = (xt - sqrt(1 - alphat) * noise) / sqrt(at)
это просто для вычисления того же изображения
тк мы говорим о распределении, а не о конкретной точке, то мы обобщая этот момент и понимая, что вычислить обратное распределение(там интеграл будет по неизвестной) - нереально, получаем 2ю формулу.
Но я это не тестил, но кажется это сработает.
на картинку добавляется шум 800 раз последовательно. В первом случае schedule будет иметь все 0.1, второй - все 0.3, а последний - линейно возрастающая последовательность.
x0 - начальный шаг, это сделано для схожести с формулами. То есть на самом деле здесь описан последовательный процесс получения конечных среднего и дисперсии. Для наглядности я сравниваю полученный график с графиком нормального распределения от 0 до 1. То есть выглядит это так: получаем mean, std из xt -> берем рандомную точку из нормального распределения с этим mean, std -> получаем новый xt -> повторяем.
В случае картинок можно сделать тоже самое, только вместо x0 будет двумерный или 3х мерный массив(если цветное изображение). Также можно заюзать все формулы с последовательн. Последний xt - зашумленное изображение(тк размерность xt = x0, в случае массива
np.random.normal(mean, math.sqrt(variance)) будет возвращать новый массив)А затем мы убираем из этой формулы np.random.normal заменяя просто на сумму со случайной величиной
Блин, видимо сленга нужно было поменьше)
Да, похожие комменты писали люди из Канады, нужно создавать новое приложение: погладь снег)
Блин, черт, не думал об этом в ключе. Теперь понял, что возможно не удачный заголовок)
Спасибо, LinkedIn - тоже суперполезный. В целом LinkedIn и его охваты - отдельная сложная тема, но коннекты думаю работают, просто надо регулярно писать туда(наверное, не проверял). Хочу начать как нибудь вести его, пока еще не добрался
Спасибо! Я думаю тут идет от желания что-то делать в свободное время. Потому что его немного и выбирать что-то делать(а это по сути еще одна работа), при этом работая, довольно тяжело. Я от этого получаю кайф, поэтому наверное и выбираю делать это)
Мне кажется, делая широкий продукт, высока вероятность после первой итерации маркетинга(написать всем подряд и где можно) получить 0 активных пользователей. Потому что в этой сфере конкуренция будет уже высока. Но если адаптировать(под этим имею в виду добавить фичи, которые нужны будут определенному сегменту), то вероятность получить активных больше. Но опять же, широкие продукты есть и иногда они тоже выстреливают
Да, 80% установок из поиска в апп стор. Про 2002 год - это я не знаю о чем речь, я говорю про апп стор поиск
такая формулировка, на мой взгляд, заставляет опускать руки. Слово нужен или нет можно оценить количественно: в пользователях или доходе(в месяц или за год). Если вы заработали больше н(н у каждого может быть свой, но часто видел, что это больше 500 долларов в месяц) денег. В твиттере можно посмотреть у индихакеров сколько проектов становились успешными. В среднем 1 из 15 или 20, с учетом, что они имеют аудиторию.
Мне кажется это можно делать параллельно, в твиттере даже есть специальный хеш buildinpublic(но на мой взгляд он стал менее актуальным). Но у меня непопулярный твиттер и я бы сказал, что сейчас это также сложно как сделать нужный проект
С seo у самого опыта мало, но про асо слышал подобное года 3 назад. В этом году я залил новую прилу и получил около 1000 установок в год. Думаю здесь все сводится к переполненности ниши
Я старался не делать статью рекламной, нвписав пару ссылок на Хабр статьи и приложение pano. Также есть 2 живущих успешных на мой взгляд проекта и 2 успешных закрытых. Все приложения неигровые и всем кому интересно могут просто поискать в сторе или загуглить
Это было написано с учетом фул тайм работы(она у меня есть). То есть от 10 до 15 часов в неделю
Рад, что был полезно
Пару месяцев назад выпустил первый полноценный бот в телеге и дискорде. Монетизацию еще не прикручивали, но в ближайшее время думал это сделать. Но инструментов подсказать не могу, пока еще не изучал и не использовал подробно
Спасибо, приятно. В рамках этой статьи и репозитория я не разрабатывал latent diffusion model(или stable diffusion), который как раз таки использует CLIP. Но по сути это тот же conditional diffusion, где помимо embedding класса, добавляет embedding промпта, полученный от CLIP.
Слои и модули conditional diffusion в простом варианте находиться здесь: https://github.com/juraam/stable-diffusion-from-scratch/tree/main/src/condition_diffusion
Поправил, спасибо!
Если мы говорим о генерации картинки на обученной модели, то да, даем шум, а она его расшумляет последовательно T раз убирая по чуть-чуть шума)
При тренировке мы накладываем шум на картинку и заставляем нейросеть предсказать этот же шум.
Поправил, спасибо!
Ознакомился с мартингалами, да очень похоже на то, что мы получаем при forward процессе. Странно, что ни в одном из пейперов, связанных с диффузией не встречал этого термина.