Comments 6
Более того, для исследователей, интересующихся интеллектом животных и машин, это «контролируемое обучение» может быть интересно тем, что оно способно рассказать о биологическом мозге. Животные, включая людей, не используют помеченные наборы данных для обучения. По большей части они исследуют окружающую среду самостоятельно, и при этом они приобретают глубокое и надежное понимание мира.Трудно сказать в каких облаках витал автор пока писал статью) Младенцы и детеныши животных сразу же после рождения уже обладают многими когнитивными способностями, им не нужно этому учиться, а только улучшать их. Есть различия для людей и животных разных видов. Если взять млекопитающих, напр, разных видов антилоп, то сразу же после рождения, через час или два, телята готовы следовать за родителями, пусть и неловко, из-за еще не окрепших и не скоординированных движений мышц. Они вполне сносно ориентируются в окружающей среде, решая задачи преобразования положения окружающих тел и их перекрытия (окклюзии), по сути это врожденные способности. Если этого не было бы и им пришлось обучаться с нуля сразу после рождения, то они просто не выживали и гибли от хищников или голода, если не следовали за матерью. Проблема упирается в степени развитости (доношенности) плодов разных видов при рождении. У некоторых видов, включая человека, они рождаются по разным причинам неразвитыми. У человека, из-за большого размера головы плода, и ограничений родовых путей размерами таза женщин. Также роль играет социальность вида. Младенец не может сразу после рождения встать на ноги и пойти, хотя через некоторое время может ползать, не потому что не ориентируется в пространстве и окружающих предметах, и ему надо этому учиться с нуля, а потому что он рождается с неразвитой опорно-двигательной системой.
Дети могут быстро учиться буквально по нескольким примерам используя, как врожденные способности, так и комбинируя ранее полученную информацию. В машинном обучении это получило называние обучения на одном примере. Дети так же обладают способностями переносить знания с одного класса объектов на другой вообще без обучения, благодаря способностям к концептуализации. В машинном обучении достижение этой способности получило название обучения без примеров (см. как эти варианты обучения реализованы в языковой модели GPT-3). Что касается обучения с разметкой, то такую «разметку» в процессе воспитания делают родители произнося имена объектов которые показывают детям.
Что же тогда делают дети когда вертят предметы, ощупывают с разных сторон, стучат ими, пробую на вкус и ломают? Кажется они обучаются всем свойствам предметов, того как они выглядят со всех сторон, и тп. В действительности они знают о общих свойства предметов намного больше, чем мы думаем, а занимаются тем, что в процессе этого создают мультимодальные образы реальных предметов. Того многообразия которое невозможно, да и часто бесполезно, закладывать в наследственные механизмы. Как это соотносится с машинным обучением, с теми же языковыми моделями, кот. проходят процесс предобучения на огромных текстовых выборках, чтобы реализовывать обучение на нескольких, одном, или вообще без примеров? Мозг плода не просто растет, он развивается по определенной наследственной программе, и в определенный момент в нем возникает строго организованная спонтанная активность. Это показано не только на исследованиях активности мозга плодов, но и на органоидах мозга. У плодов эта активность направлена от формирующихся органов чувств и мышц к формирующимся структурам мозга. При этом происходит предварительная настройка синаптических связей нейронов в сетях этих формирующихся структур, своеобразное «предобучение», без непосредственного взаимодействия с окружающей средой. Роль также играет эпигенетическая настройка, и др. регулирующие факторы. Подобная самонастройка, самообучение пока не доступна моделям машинного обучения, и обязательно требует заранее размеченного или не размеченного обучающего материала в зависимости от типа обучения. Это «предобучение» мозга плода результат эволюционного обучения отложенного в наследственных механизмах, как самого вида, так и всей предшествующей филогенетической линии.
Модели мозга, вдохновлённые искусственными нейронными сетями, появились примерно 10 лет назад, в то же время, когда нейронная сеть под названием AlexNet произвела революцию в задаче классификации неизвестных изображений.Нет, наоборот, топология этой сверточной сети вдохновлена исследованиями зонной организации вентрального тракта зрительной системы приматов. Это хорошо показано в слайдах Ле Куна на эту тему. Развитие нейробиологических исследований и разработок ИИ взаимно влияют друг на друга, но идеи последних, в конечном итоге, заимствуются из этих исследований и представлений. Хотя могут реализоваться специфическим образом, например, обучение распространением обратной ошибки, а не хеббовским, или тем более с помощью STDP, т.к. большинство типов ИНС пока не являются импульсными. В этом отношении более подходящими являются нейроморфные решения.
А проблема с метамерами точно не решается предварительной обработкой входного сигнала? Кто знает, быть может если подать на наш зрительный нерв точную комбинацию сигналов, похожую на шум, мы увидим леопарда. Но наш зрительный аппарат несовершенен, и мы всегда получаем немного размытую и искаженную картинку. Кстати, этим можно попробовать объяснить случаи, когда люди "видят" потусторонние явления или НЛО.
Есть такая теория "Единая теория поля". Так может есть и единая теория разумной обработки информации?
Всегда коробит когда за псевдонаучным многословием в полный рост встает финансовый цинизм. Все эти "предсказания 11 кадра" есть натаскивание машины на биржевые игры. Никакого иного назначения все эти игры в предсказания не имеют. К изучению работы человеческого (и любого иного) мозга эти работы имеют не больше, чем "600 часов речевых данных для обучения сети". Возможно это "примерно соответствует тому, что ребенок получит за первые два года жизни". Но из этого никак не следует, что через 600 часов речевых данных у сети появится интеллект двухлетнего ребенка. Кстати о птичках - из успешного предсказания 11 кадра совершенно не последует успешность биржевых предсказаний. Уже хотя бы потому, что свою игру на бирже ведут многие тысячи крайне заинтересованных в результате настоящих интеллектов, конечно уступающие машинам в скорости своих вычислений, но несоизмеримо превосходящих их в сложности своих мотивировок. Это вам не в шахматы играть.
Но лично мне больше всего не нравится вульгаризация термина ИИ. Строго говоря, им даже и не пахнет. Не следует обольщаться. Если калькулятор умножает многозначные числа быстрее школьника, то из этого совсем не следует интеллектуальное превосходство калькулятора.
ИИ-самоучка демонстрирует сходство с тем, как работает мозг