Pull to refresh

Comments 6

PinnedPinned comments

Смотря чего хотим получить :D, эксперимент крутой, только пока открыт вопрос. С другой стороны если бы был успешен то изобрели бы мы AGI.

Но как исследование интересно.

Это огромный пласт работы, я бы сказал чудовищный. Мне пришлось разобрать труды шлейфом в 15 лет. Победа есть, но маленькая.

Любая победа даже отрицательный тест это победа.

Но если отбросить всё, самостоятельный интеллект пока не придуман.

Статья огонь. Особенно вот это:

что вообще означает «синапс учится»?

Очень глубоко копаете. Удачи Вам, мужества и терпения.

Как научная статья вряд ли, но как хороший тост - пойдет :D

Правильно я понял, что эксперимент провалился?

Смотря чего хотим получить :D, эксперимент крутой, только пока открыт вопрос. С другой стороны если бы был успешен то изобрели бы мы AGI.

Но как исследование интересно.

Это огромный пласт работы, я бы сказал чудовищный. Мне пришлось разобрать труды шлейфом в 15 лет. Победа есть, но маленькая.

Любая победа даже отрицательный тест это победа.

Но если отбросить всё, самостоятельный интеллект пока не придуман.

Напоминает мои тысячи экспериментов на микросетях с переменным успехом...

Я бы попробовал:

  1. Убрать якорь к исходным весам или сделать его скользящим, после перестановки моторов старые веса неверны. Абляция: без якоря, без шума.

  2. Проверить решения ES. Множители e^θ не меняют знак, а результат выше, чем у целого тела, похоже на обходную стратегию. Разрешить смену знака и сравнить.

  3. Снизить дисперсию: базовое значение награды, плотная награда за шаг, больше эпизодов.

  4. Проверить SMSS на игрушечной задаче с известным оптимумом.

  5. Взять 30–50 организмов, дать размер эффекта с доверительным интервалом.

  6. Ошибку прямой модели использовать как плотный сигнал обучения.

Спасибо за комментарий,часть предложенного уже проверяли: плотная награда за каждый шаг есть, ES работает в том же ограниченном пространстве весов, а статистика посчитана с доверительным интервалом.

Абляция якоря и проверка SMSS на простой задаче с известным оптимумом - действительно хорошие идеи. С прямой предиктивной моделью тоже планирую экспериментировать.

Главное, что удалось установить: решение в пространстве весов существует, но текущий механизм прижизненного обучения его не находит. Именно эту границу я и хотел показать. Спасибо за идеи!

Sign up to leave a comment.

Articles