Комментарии 7
Эволюция отсеивала неудачные варианты, проверяя их на практике, ИИ варится в своей кастрюле. Чем дольше будет так, тем, наверное, лучше для нас - слишком велика неопределенность развития событий когда ИИ получит свободу и руки. Лучше под эксперимент отдать остров, который не жалко. Главное, нужно тщательно убедиться в отсутствии на острове радиоактивных материалов.
Это ведь по сути описание обучения с подкреплением. Я считаю что проблема сегодня в том что модели не учатся на своих ошибках без помощи извне и не умеют экспериментировать
Да,но эволюционные механизмы в базе своей невероятно медленные. Эволюции потребовались миллионы лет,чтобы просто создать многоклеточный организм. Нам нужно вместо эволюционных алгоритмов спланировать эволюцию с четкими этапами,оптимизируя нейронки на каждом.
Вам следует ознакомиться с таким разделом математики как методы оптимизации. Чтобы понимать о чем вы пишите....
Сейчас, обычно обучение производится методом обратного распространения ошибки.
Обучение модели сводится к подбору параметров модели (на самом деле просто большой функции) с помощью некого алгоритма обучения(т е минимизации ошибки).
Никто вам не запрещает подбирать "гиперпараметры" и архитектуру модели. в серьезных исследованиях их тоже подбирают.
Никто вам не запрещает обучать модели с помощью вашего "эволюционного" подхода. Но вероятно он будет на порядок медленнее и не подойдёт для решения проблемы, которую вы поставили (обучение в реальном времени при решении задач).
В отрасли существует понятие дообученние. Для него вы можете использовать любой существующий или авторский алгоритм по подбору любых параметров.
Но проблема в том, что ML мы используем для решения задач, которые не могут решить традиционные программы и "аналитические методы". У нас нет готовых и правильных ответов, чтобы проверить и оценить успешность развернутой модели.
Т.е если мы хотим ее дообучать в реальном времени рядом должна сидеть толпа индусов или какая-то другая программа и высчитывать ошибки модели. "Близость к идеальному ответу".
Если задача сложнее "быстро бегай как человек", то ее формализовать не так просто.
Кста... Это же буквально генеративные состязательные нейронные сети...
Много слов, "антропоморфизм" в употреблении терминов, нет описания сути дела. Какие конкретно функции не могут разработчики воспроизвести в своих "ИИ" или в теперешней архитектуре? Вскрывать суть понятий - давать дефиниции, проверять тексты на соответствие законам логики и критерию истины? Что является "камнем преткновения"?
Дада братан, верим. Проблема точно не в архитектуре трансформера
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Сооснователь Google Brain: до AGI ещё десятки лет. Проблема — в обучении моделей