В этой статье я расскажу об одном из самых важных отличий человеческого мышления от того, как работают нейросети: о структурном восприятии мира. Мы поймем, как это отличие мешает ИИ эффективно решать многие задачи, а также поговорим об идеях, с помощью которых можно внедрить в нейросети понимание структуры. В том числе обсудим недавние работы таких известных в области AI людей, как Джеффри Хинтон и Ян ЛеКун.
Начнем мы с понимания того, что вообще такое “структурное мышление” и почему люди им обладают:
В этой статье я расскажу, что такое inductive bias, зачем он нужен и где встречается в машинном обучении. Спойлер: везде. Любая нейросеть имеет inductive bias (даже та, что в человеческом мозге, хе-хе)
Также вы узнаете:
- почему inductive bias — это очень хорошо
- способы внедрить inductive bias в модели машинного обучения
- какой inductive bias в сверточных нейросетях и как успех архитектуры Image Transformer связан с inductive bias