Как стать автором
Обновить
4
0
Алексей @VDG

Sparse Hash AI

Отправить сообщение
Неожиданно для себя обнаружил, что, когда пишу быстро, хорошо заходит ритм Psy-Trance (soundcloud.com/dreamstalker), хотя раньше этот стиль меня не интересовал.
Скорее всего в его модели все веса единичные, а связи генерируются случайно и постоянны. Тогда можно для нейрона хранить только seed и каждый раз генерировать связи заново. В Path Tracing нечто подобное используется для генерации одних и те же случайных последовательностей.
У меня каждый нейрон связан только с входными (обычно со всеми). Внутри слоя связей между нейронами нет, вернее, они заменяются на чисто «программные» структуры.
Не могу знать почему другие его используют, могу сказать про себя. У меня есть работающая модель на базе такого кодирования. Она однослойная. «Обучается» на сильно ограниченном наборе данных (единицы-десятки). Самого обучения, как оно понимается в ИНС, нет, и модель для того же MNIST «обучается» за секунды. Дообучать можно непрерывно, прошлая память при этом не затирается.

Архитектура не имеет ничего общего с обычными нейронными сетями. На «позиционном» кодировании такая архитектура невозможна, так что все эти плюсы можно приписать к SDR-кодированию.
Количество возможных кластеров (паттернов). Сколько из количества возможных реально получается запомнить неизвестно. Повторю, это фронтир, можно сказать только-только (2-3 года назад) зарегистрировали эти кластеры (до этого были только предположения), и пока что совсем мало исследователей работает в этом направлении.
Ёмкость огромна, равна количеству сочетании из n по k, где n — количество нейронов слоя, а k — размер кластеров в нём.

Такое кодирование называется «разреженные распределенные представления» (Sparse Distributed Representations). У той же Нументы лежит в основе всего.

однако, мы не умеем сжимать пространство и я не слышал о том как такое было бы возможно даже гипотетически

Интерферометр Уайта — Джудэя
После первых результатов с интерферометром лет 5-6 назад он тут же получил в своё распоряжение плавучую лабораторию и финансирование. А после проверки на EmDrive наступила тишина, до того как год-полтора назад он сделал доклад. Работы над проектом оказывается ничуть не останавливались, тишина вызвана секретностью, похоже очень быстро подключились вояки, оно и естественно для подобной технологии. В каком-то интервью он выразился в духе, что теперь обязан думать над каждым словом, высказанным публично о проекте и его результатах.
Из за этого генератор псевдослучайных чисел нужно писать руками, хотя он уже есть !?
А я так и сделал, «портировал» широко известную хеш-функцию. Производительность по сравнению с нативной почти не изменилась.
код
const BJXorShift = (x) => {
  x += x << 10;
  x ^= x >>  6;
  x += x <<  3;
  x ^= x >> 11;
  x += x << 15;
  return x;
}

let seed = (Math.random() * 0xffffffff) >>> 0;
const HM = 0x874C40D4 >>> 0;
...
seed = BJXorShift(seed ^ HM);

Для всех людей?
Считаю, — да. Истории с джином, исполняющим желания какого-то человека, заканчиваются плохо (для человека).
Ну какой спойлер для «классики». Сериал уже мхом порос.
Я все ждал, что в конце будет хэппи енд.
Он там и был. Машина же прикончила все инстансы Самаритянина и сама смогла выжить. Лояльный к людям, но не подконтрольный им ИИ — это лучший для людей вариант.
Я его использовал на FF и один раз словил непонятно откуда заигравшую рекламу, причём расширение не устанавливал, просто была открыта вкладка.
второе народное название которого «Факельник»
А куда пропало первое народное название — «Качер»? Или это какая-то его отдельная разновидность с разнесёнными катушками?
Картинки результата работы этой функции в статье не хватает. Формула приведена, но не дано никакого описания того, что она делает. Выглядит так, что вам дали «магическую» функцию, и всё, что сделали — отобрали максимумы из результата её вызова. К сожалению, не раскрыто самое интересное.
Сам сигнал был в апреле-мае 2019-го
Ещё более худшее совпадение ))
А экспорт дерева добавили в Евернот? А то тысячи заметок вручную заново размещать по дереву нереально.
Я и без chkdsk подобным образом файловую систему поломал. Просто отправил винду в гибернацию. Отвалилось питание. И то ли я, то ли комп сам автоматом загрузился с другой винды. «Пара-пара-пам. Всё!». Пострадали все файлы, что были открыты в первой винде, вторая в те блоки что-то успела записать. Причём о проблеме узнал только, когда снова загрузился в первую винду и обнаружил мусор в файлах.
Мне недавно как-то потребовалось посмотреть несколько страниц в одной книге. Мне это стоило бы по 500 руб за страницу, это слишком. Вся остальная книга мне совершенно была не нужна. И вот у пиратов я её обыскался. Раньше это было элементарно сделать, люди сканили всё подряд и выкладывали на всяких инфанатах. Сейчас же издатели, имея сверхприбыли, очень хорошо задавили пиратство. Но для индивидуальных разработчиков всё осталось как было, у них нет миллионов на юристов для прессинга пиратов. Народ массово перешёл с тех же торрентов на стримы только потому, что онлайн-кинотеатры опустили оплату до минимума. Но что-то дороже 100$ сразу же попробуют поискать у пиратов.
И его надо было защитить (16C622), денег и времени было вложено много.
Я так понял, речь о версии с УФ-окошком для стирания. Она же чисто для разработки (флеш ещё тогда не завезли в пики), а клиентам надо было дешевые защищённые OTP-версии паять.
Cosine-weighted distribution нормально работает там, где из одной и той же точки испускается много лучей, как в старой «рекурсивной» Сишной трассировке. Если же от точки уходит только один луч, то будут артефакты, так как косинусно-взвешенное распределение будет работать только для первичных лучей (из камеры, из-за их большого количества), но не для вторичных. Лучше его не применять. Выбрасывание одного единственного косинуса не даёт никакого выигрыша в скорости, зато не будете ломать голову о том, что не так со светом или тенями.

Информация

В рейтинге
Не участвует
Откуда
Россия
Зарегистрирован
Активность