Неожиданно для себя обнаружил, что, когда пишу быстро, хорошо заходит ритм Psy-Trance (soundcloud.com/dreamstalker), хотя раньше этот стиль меня не интересовал.
Скорее всего в его модели все веса единичные, а связи генерируются случайно и постоянны. Тогда можно для нейрона хранить только seed и каждый раз генерировать связи заново. В Path Tracing нечто подобное используется для генерации одних и те же случайных последовательностей.
У меня каждый нейрон связан только с входными (обычно со всеми). Внутри слоя связей между нейронами нет, вернее, они заменяются на чисто «программные» структуры.
Не могу знать почему другие его используют, могу сказать про себя. У меня есть работающая модель на базе такого кодирования. Она однослойная. «Обучается» на сильно ограниченном наборе данных (единицы-десятки). Самого обучения, как оно понимается в ИНС, нет, и модель для того же MNIST «обучается» за секунды. Дообучать можно непрерывно, прошлая память при этом не затирается.
Архитектура не имеет ничего общего с обычными нейронными сетями. На «позиционном» кодировании такая архитектура невозможна, так что все эти плюсы можно приписать к SDR-кодированию.
Количество возможных кластеров (паттернов). Сколько из количества возможных реально получается запомнить неизвестно. Повторю, это фронтир, можно сказать только-только (2-3 года назад) зарегистрировали эти кластеры (до этого были только предположения), и пока что совсем мало исследователей работает в этом направлении.
однако, мы не умеем сжимать пространство и я не слышал о том как такое было бы возможно даже гипотетически
Интерферометр Уайта — Джудэя
После первых результатов с интерферометром лет 5-6 назад он тут же получил в своё распоряжение плавучую лабораторию и финансирование. А после проверки на EmDrive наступила тишина, до того как год-полтора назад он сделал доклад. Работы над проектом оказывается ничуть не останавливались, тишина вызвана секретностью, похоже очень быстро подключились вояки, оно и естественно для подобной технологии. В каком-то интервью он выразился в духе, что теперь обязан думать над каждым словом, высказанным публично о проекте и его результатах.
Из за этого генератор псевдослучайных чисел нужно писать руками, хотя он уже есть !?
А я так и сделал, «портировал» широко известную хеш-функцию. Производительность по сравнению с нативной почти не изменилась.
код
const BJXorShift = (x) => {
x += x << 10;
x ^= x >> 6;
x += x << 3;
x ^= x >> 11;
x += x << 15;
return x;
}
let seed = (Math.random() * 0xffffffff) >>> 0;
const HM = 0x874C40D4 >>> 0;
...
seed = BJXorShift(seed ^ HM);
Он там и был. Машина же прикончила все инстансы Самаритянина и сама смогла выжить. Лояльный к людям, но не подконтрольный им ИИ — это лучший для людей вариант.
Картинки результата работы этой функции в статье не хватает. Формула приведена, но не дано никакого описания того, что она делает. Выглядит так, что вам дали «магическую» функцию, и всё, что сделали — отобрали максимумы из результата её вызова. К сожалению, не раскрыто самое интересное.
Я и без chkdsk подобным образом файловую систему поломал. Просто отправил винду в гибернацию. Отвалилось питание. И то ли я, то ли комп сам автоматом загрузился с другой винды. «Пара-пара-пам. Всё!». Пострадали все файлы, что были открыты в первой винде, вторая в те блоки что-то успела записать. Причём о проблеме узнал только, когда снова загрузился в первую винду и обнаружил мусор в файлах.
Мне недавно как-то потребовалось посмотреть несколько страниц в одной книге. Мне это стоило бы по 500 руб за страницу, это слишком. Вся остальная книга мне совершенно была не нужна. И вот у пиратов я её обыскался. Раньше это было элементарно сделать, люди сканили всё подряд и выкладывали на всяких инфанатах. Сейчас же издатели, имея сверхприбыли, очень хорошо задавили пиратство. Но для индивидуальных разработчиков всё осталось как было, у них нет миллионов на юристов для прессинга пиратов. Народ массово перешёл с тех же торрентов на стримы только потому, что онлайн-кинотеатры опустили оплату до минимума. Но что-то дороже 100$ сразу же попробуют поискать у пиратов.
И его надо было защитить (16C622), денег и времени было вложено много.
Я так понял, речь о версии с УФ-окошком для стирания. Она же чисто для разработки (флеш ещё тогда не завезли в пики), а клиентам надо было дешевые защищённые OTP-версии паять.
Cosine-weighted distribution нормально работает там, где из одной и той же точки испускается много лучей, как в старой «рекурсивной» Сишной трассировке. Если же от точки уходит только один луч, то будут артефакты, так как косинусно-взвешенное распределение будет работать только для первичных лучей (из камеры, из-за их большого количества), но не для вторичных. Лучше его не применять. Выбрасывание одного единственного косинуса не даёт никакого выигрыша в скорости, зато не будете ломать голову о том, что не так со светом или тенями.
Архитектура не имеет ничего общего с обычными нейронными сетями. На «позиционном» кодировании такая архитектура невозможна, так что все эти плюсы можно приписать к SDR-кодированию.
Такое кодирование называется «разреженные распределенные представления» (Sparse Distributed Representations). У той же Нументы лежит в основе всего.
Интерферометр Уайта — Джудэя
После первых результатов с интерферометром лет 5-6 назад он тут же получил в своё распоряжение плавучую лабораторию и финансирование. А после проверки на EmDrive наступила тишина, до того как год-полтора назад он сделал доклад. Работы над проектом оказывается ничуть не останавливались, тишина вызвана секретностью, похоже очень быстро подключились вояки, оно и естественно для подобной технологии. В каком-то интервью он выразился в духе, что теперь обязан думать над каждым словом, высказанным публично о проекте и его результатах.