Как машинное обучение помогло мне понять некоторые аспекты раннего развития детей

    Когда моему первому сыну было всего два, он уже любил машины, знал все марки и модели (даже больше, чем я, благодаря моим друзьям), мог их распознавать по небольшой части изображения. Все говорили: гений. Хотя и отмечали полную бесполезность этих знаний. А сын тем временем спал с ними, катал их, расставлял ровно в ряд или квадратиком.

    Мальчик любит машинки

    Когда ему было 4 он научился считать, а в 5 уже мог умножать и складывать в пределах 1000. Мы даже играли в Math Workout (игра такая на Андроиде — я любил в метро после работы повычислять), и в какой-то момент он стал меня делать только так. А в свободное от занятий время он считал до миллиона, что вымораживало окружающих. Гений! — говорили они, но мы-то подозревали, что не совсем.

    Кстати, на рынке он неплохо помогал маме — вычислял общую сумму быстрее, чем продавцы на калькуляторе.

    При этом он никогда не играл на площадке, не общался со сверстниками, не очень ладил с детьми и воспитателями в саду. В общем был немного замкнутым ребёнком.

    Следующим этапом была география — мы пытались куда-то канализовать любовь к числам, и вручили сыну старый советский атлас. Он погрузился в него на месяц, а после этого стал задавать нам каверзные вопросы в стиле:
    — Пап, как считаешь, какая страна имеет большую площадь: Пакистан или Мозамбик?
    — Наверное Мозамбик, — отвечал я.
    — А вот и нет! Площадь Пакистана на целых 2350 км2 больше, — радостно отвечал сын.

    Мальчик любит географию

    При этом его совершенно не интересовали ни народы, населяющие эти страны, ни их языки, ни одежды, ни народная музыка. Только голые цифры: площадь, численность населения, объём запасов полезных ископаемых, и т.д.

    Все опять восхищались. «Умён не по годам», — говорили вокруг, но я опять забеспокоился, т.к. понимал, что это совершенно бесполезные знания, не привязанные к жизненному опыту, и которые сложно продолжить развивать. Лучшим применением из всего, что я нашёл, было предложение посчитать, сколько машин поместится на парковке, если какую-то отдельно взятую страну закатать асфальтом (без учёта горного рельефа), но быстро осёкся, т.к. это попахивает геноцидом.

    Что интересно, тема машин к этому моменту ушла совсем, сын даже не помнил названия любимых машин из своей огромной коллекции, которую мы с потерей интереса стали раздавать. А после он начал медленней считать в уме и вскоре позабыл площади стран. При этом он начал больше общаться со сверстниками, стал более контактным. Гениальность прошла, друзья перестали восхищаться, сын стал просто хорошим учеником со склонностью к математике и точным наукам.

    Повторенье — мать ученья


    Казалось бы, к чему всё это. Такое наблюдается у многих детей. Их родители всем заявляют, что дети их гениальны, бабушки восторгаются и хвалят детей за их «знания». А потом из них вырастают обычные просто умные дети, не гениальней сына маминой подруги.

    Изучая нейронные сети я столкнулся с похожим явлением, и мне кажется, что из этой аналогии можно сделать определённые выводы. Я не биолог и не нейробиолог. Всё дальнейшее — мои догадки без претензии на особую научность. Буду рад комментариям профессионалов.

    Когда я пытался понять, как сын так круто научился считать быстрее меня (он проходил уровень в Math Workout за 20.4 секунды, в то время как моим рекордом было 21.9), я осознал, что он вообще не считает. Он заучил, что при появлении 55+17 нужно нажимать на 72. На 45+38 нужно клацнуть на 83, и так далее. Первое время он конечно считал, но рывок по скорости произошёл в тот момент, когда он смог запомнить все комбинации. Причём достаточно быстро он стал запоминать уже не конкретные надписи, а сочетания символов. Это именно то, чему учат в школе, изучая таблицу умножения — запомнить таблицу соответствия MxN -> P.

    Оказалось, что большую часть информации он воспринимал именно как связь между входными данными и выходными, а тот весьма общий алгоритм, который мы привыкли прокручивать для получения ответа, у не просто редуцировался до очень хорошо заточенного узкоспециализированного алгоритма счёта двузначных чисел. Задачи чуть отличные он делал, но сильно медленнее. Т.е. то, что всем казалось супер крутым, на самом деле просто имитировалось хорошо обученной нейронной сетью на конкретную задачу.

    Лишние знания


    Почему же у одних детей есть способность к такому запоминанию, а у других нет?

    Представим себе поле интересов ребёнка (тут мы подходим к вопросу качественно, без каких-либо измерений). Слева поле интересов обычного ребёнка, а справа поле интересов «одарённого» ребёнка. Как и ожидалось, основной интерес сосредоточен в областях, к которым особые склонности. А вот на повседневные вещи и общение со сверстниками фокуса уже не хватает. Эти знания он считает лишними.

    Интересы обычного ребёнка 5 лет Интересы гениального ребёнка 5 лет
    Интересы обычного ребёнка 5 лет Интересы «гениального» ребёнка 5 лет


    У таких детей мозг анализирует и проводит обучение только по избранным темам. Проводя обучение нейронная сеть в мозге должна научиться успешно классифицировать входящие данные. Но в распоряжении мозга много-много нейронов. Сильно больше, чем нужно для нормальной работы с такими простыми задачами. Обычно по жизни дети решают много разных задач, но здесь все те же ресурсы брошены на более узкий круг задач. И обучение в таком режиме легко приводит к тому, что профессионалы по ML называют overfitting. Сеть, используя обилие коэффициентов (нейронов), обучилась так, что выдаёт всегда точно нужные ответы (но на промежуточных входных данных может выдавать полную чушь, но этого никто не видит). Таким образом обучение привело не к тому, что мозг выделил основные характеристики и запомнил их, а к тому, что он подогнал множество коэффициентов, чтобы выдавать точный результат на уже известных данных (как на картинке справа). Причём на остальные темы мозг так себе обучился, плохо потренировавшись (как на картинке слева).

    Машинное обучение: underfitting и overfitting

    Что такое underfitting и overfitting?
    Для тех, кто не в теме, расскажу совсем кратко. При обучении нейронной сети стоит задача подобрать некоторое количество параметров (весовые коэффициенты связи между нейронами) так, чтобы сеть, реагируя на обучающие данные (тренировочную выборку), отвечала максимально близко и точно.

    Если таких параметров предоставить слишком мало, то сеть не сможет учесть детали выборки, что приведёт к очень грубому и усреднённому ответу, плохо работающему даже на тренировочной выборке. Примерно как на левой картинке выше. Это underfitting.

    При адекватном количестве параметров сеть будет давать хороший результат, «проглотив» сильные отклонения в тренировочных данных. Такая сеть будет хорошо откликаться не только на тренировочную выборку, но и на другие промежуточные значения. Примерно как на средней картинке выше.

    А вот если сети дать слишком много настраиваемых параметров, то она натренируется воспроизводить даже сильные отклонения и флуктуации (в том числе вызванные ошибками), что может привести к полной чуши при попытке получить ответ на входные данные не из тренировочной выборки. Примерно как на правой картинке выше. Это overfitting.

    Простой иллюстрирующий пример.



    Представим, что у вас есть несколько точек (синие кружки). Нужно провести гладкую кривую, позволяющую предсказать положение других точек. Если брать, например, полином, то при небольших степенях (до 3 или 4) наша гладкая кривая будет достаточно точной (синяя кривая). При этом через исходные точки (синие точка) синяя кривая может и не пройти.

    Однако, если количество коэффициентов (а значит и степень полинома) увеличить, то точность прохождения синих точек повысится (или даже будет 100% попадание), но вот поведение между этими точками станет непредсказуемым (посмотрите, как колеблется красная кривая).


    Мне кажется, что именно склонность ребёнка к конкретной теме (зацикленность) и полное игнорирование остальных тем приводит к тому, что при обучении слишком много «коэффициентов» отданы этим самым темам.

    Учитывая, что сеть настроена на конкретные входные данные и не выделила «фичи», а тупо «запомнила» входные данные, её невозможно использовать при немного других входных данных. Применимость такой сети очень узкая. С возрастом кругозор расширяется, фокус размывается, и возможности отводить столько же нейронов на ту же задачу уже нет — они начинают использоваться в новых более нужных для ребёнка задачах. «Настройки» той overfitted-сети рушатся, ребёнок становится «нормальным», гениальность исчезает.

    Конечно, если у ребёнка есть навык, который сам по себе полезен и его можно развивать (например, музыка или спорт), то его «гениальность» можно долго поддерживать, и даже довести эти навыки до профессионального уровня. Но в большинстве случаем это не получается, и от былых навыков и следа не останется уже к 8-10 годам.

    Выводы


    • у вас гениальный ребёнок? это пройдёт ;)
    • кругозор и «гениальность» — это связанные вещи, причём связаны они именно через механизм обучения
    • эта видимая «гениальность» — скорее всего совсем не гениальность, а эффект слишком сильной обученности мозга на какой-то конкретной задаче без её понимания — просто все ресурсы были отданы под эту задачу
    • при исправлении узости интересов ребёнка пропадает его гениальность
    • если у вас ребёнок «гениальный» и немного более замкнутый, чем сверстники, то развивать далее эти самые навыки нужно аккуратно, активно развивая параллельно кругозор, и не делать акцент на этих «крутых», но обычно бесполезных навыках
    Поделиться публикацией
    Комментарии 80
      0
      Мне кажется это очевидно, причём не только для детей, а для людей любого возраста. Если вы будете посвящать всё время одной задаче, то вы будете гением в рамах этой очень узкой области.
        +2
        Предлагаю рассмотреть статью, в контексте влияния игры Math Workout в метро на сознание отца. Когда очевидные вещи становятся не очевидными, до такой степени, что с трудом восстановив их очевидность, появляется желание запилить статью на хабре ))
          –1
          это не опыт или тренировка. Это, скорей, неравномерное развитие мозга. У некоторых взрослых что-то подобное сохраняется, см. ru.wikipedia.org/wiki/%D0%A1%D0%B8%D0%BD%D0%B5%D1%81%D1%82%D0%B5%D0%B7%D0%B8%D1%8F
            +4
            Основная тема не в том, что если долго фигачить что-то одно, то у тебя будет хорошо получаться, а в том, что многие родители (особенно с первенцем) считают явные отклонения развития гениальностью своего чада. И ещё, что эта гениальность связана не с супер мозгом ребёнка, а с замкнутым поведением и (само- или родительским) ограничением прочих интересов.

            Идея действительно проста, но я для себя её понял только к третьему ребёнку ;)
              0

              Основная тема в том, что нельзя быть лучшим во всем. При рождении генетически дается определенный фиксированный набор очков навыков. Какие то потом можно перераспределить, какие то заработать в будущей жизни, но прокачать все ветки развития одновременно нельзя. Даже за донат. И соответственно важнейшим критерием успеха будет стратегия прокачки этих навыков в оптимальном соотношении. А сам успех или неудача будут видны во время пвп

                0
                При рождении генетически дается определенный фиксированный набор очков навыков.

                Если вы в это действительно верите — у меня для вас плохие новости.

                Я даже не говорю о том, что навык — это то, что вырабатывается повторением деятельности («навыкание делать»). Все еще проще. Никаких «очков навыков» генетика вам не дает. Если у человека две руки, две ноги, полный комплект органов и нет явных отклонений в развитии — он может заниматься абсолютно любой деятельностью при должном воспитании и обучении.
              +2
              Это совершенно неочевидно многим родителям, которым сносит крышу от того, что их ребенок дошкольного-младше школьного возраста читает/считает немного лучше сверстников. Ребенок тут же назначается гением, заваливается с головой дополнительными занятиями (не оставляющими свободного времени на комплексное развитие), в нем тщательно выпестовываются комплексы отличника (четверка вместо пятерки — драма и трагедия и чуть ли не повод для суицида) и т.п. Это все на самом деле к очень серьезным проблемам в психике может привести, причем без особого положительного эффекта: к подростковому возрасту дети обычно выравниваются, и гениальные достижения молодости забываются.
              +2
              Согласен с наблюдением автора, хотя тезис про запоминание сумм дву/трех-значных чисел надо бы проверить отдельно )

              Наблюдая за развитием детей, можно вообще много разных параллелей провести с другими явлениями, в уже не детском возрасте.

              Например, многие дети проходят стадию «вот это мое, делиться не хочу, наоборот, хочу ещё себе что-то взять». Это нормально, что с появлением концепции «вещь может быть твоей и поэтому тебе решать, что с ней делать» ребенок начинает ею активно пользоваться, и так же нормально, что потом новые концепции, типа «делиться своими игрушками выгодно, т.к. улучшает социальные связи» затмевают первую. Правда, немногие индивидуумы в своем развитии остаются на уровне «только мое, ..» или другой детской (неразвитой) мировоззренческой концепции.

              В целом, уровень развития общества тоже проходит те же стадии, что ребенок, с другой скоростью, конечно. Примеры приводить лучше не буду )
                0
                Ха, тут тоже не всё так просто, гладко и есть варианты.
                Грубо говоря, ребёнок может быть подвергнут жесткому религиозному воспитанию, в результате чего и последнюю рубашку с радостью отдаст и другую щёку подставит…
                Может быть оставлен на произвол судьбы, как в вашем примере.
                Может быть помещён в образовательную среду, где в нужном возрасте нужные паттерны отработают свои роли, а рациональное поведение естественным образом принимается от старших…

                То-же касается и общества, которым к сожалению правит отнюдь не тайная ложа, но явная лажа :-)
                ИМХО здесь и правильный вопрос и ответ на него.
                  0
                  правят и ложа и лажа
                    0
                    Вы хотите сказать, что тайная ложа частенько порет явную лажу?
                      0
                      я хочу сказать, что свойства лажи порождать ложи, которые порождают ложи, которые порождают ложи… достаточно посмотреть в зеркало
                  0
                  вот это мое, делиться не хочу
                  Всё несколько сложнее, чем просто «делить не хочет». Ребёнок в раннем возрасте просто не понимает суть слова «делиться». Игрушка его, зачем это он должен делиться.
                    0

                    Вот только не "зачем", а "что это вообще такое… знать не хочу!"

                  +3
                  Ха, специально не буду комментировать с точки зрения ML ибо тут есть чего посчитать и по спорить, это довольно просто и по сути не важно…
                  … важно то, что детёныши развиваются не вдруг и сразу, а проходя некоторые этапы, которые в Монтессори педагогике обзываются сенситивными периодами. Это то ли результат нейрогенеза, то ли какой-то врождённый «внутренний учитель» подобный врождённым рефлексам примитивных животный, не суть важно, главное что мы можем это наблюдать, экспериментировать и смотреть что из этого получается, а получается очень не плохо…
                  В случае автора, скорее всего просто нашла коса на камень, и предоставленные окружением задачи совпали с окном интереса ребёнка. Но тут надо оговориться что «сенситивные периоды» на практике гораздо сложнее чем просто «сенсис», а период тут не точное расписание, а скорее некий граф переходящих состояний, с явно выраженными тенденциями впрочем. То есть наступает момент когда дитё начинает угорать по классификации и упорядочиванию, по фиг чего. Или например ребёнку вдруг нравиться тупо эксплуатировать память, по фиг как, площади стран и\или их флаги или машины и что-то ещё, не важно…
                  … важно период такой отследить\спрогнозировать и предоставить детёнышу правильный контент, что бы двинуть его в нужное русло, причём тут тоже всё не так очевидно, можно и на косячить… Например когда родители начинают совсем мелкого детёныша буквам учить, и радуются как круто он это осваивает, однако потом с чтением и письмом возникают проблемы, с иностранным языком, та-же фигня…
                  По мере развития и вступления в права второй сигнальной системы, появляется опасность «насрать ребёнку в мозги» и нарушить естественный порядок вещей, и очень хорошо что автор критически отнёсся к внезапной «гениальности» дитяти, и хорошо что всё идёт своим чередом…

                  Однако в отличии от автора, я не разу не уверен что произошедшее было напрасно, дело в том, что резоны периодов, по крайней мере в раннем возрасте, состоят в прокачке способностей, к восприятию, запоминанию, анализу, итд. То есть это как занятия музыкой, живописью или спортом в классическом элитном образовании, они никак не ради того что-бы воспитать музыканта\художника\спортсмена, а скорее ради побочных эффектов на эмоционально-волевую сферу, которым в практической жизни находятся куда более рациональные применения…
                    –2
                    в целом да, но постарайтесь быть лаконичнее, глубина не столь глубока что бы тратить столько слов, мы не 19-ом веке
                      0
                      Это издержки работы устройства с помощью которого я «вывожу текст», не клавиатура оно и не распознаватель речи, так-что особая магия слов мне не особо накладна…
                      … девятнадцатый век он скорее у вас в виде тонн культурного и технологического наследия
                        0
                        что же оно такое? ))
                      0
                      А я и не говорил, что это было напрасно.

                      Что я бы добавил к тексту (из него это, видимо, не очевидно), так это то, что при таком «перетренированном» умении, например, на буквы у ребёнка скорее возникнут проблемы с чтением, т.к. его сеть, распознающая буквы, не приспособлена к чтению нескольких букв подряд. А она настолько перетренирована, что страивать в неё новые задачи бывает уже очень трудно.

                      Overfitting лишает систему гибкости, т.е. гениальность становится проблемой.
                        0
                        проходя некоторые этапы, которые в Монтессори педагогике обзываются сенситивными периодами

                        может есть рекомендации что почитать по этой теме?
                        +1
                        Наблюдаю примерно то же самое у дочки: она не умеет пока сама собирать пазлы, но если ей два-три раза показать, то она легко запоминает положение каждого фрагмента и потом легко воспроизводит сборку в любом порядке без привязки к соседним элементам.
                          0
                          Тут не всё так однозначно. Если ребёнок научился чему-то одному, он будет пытаться проецировать это на всё, что сможет. Я дочку научил собирать из конструктора дорогу. Учил объёмному, получил длинную плоскую дорожку. Но ей понравилось, теперь у нас все игрушки выстраиваются в ряд. :) А если случайно получится новый результат, то и его может начать повторять. И вот на этих случайных результатах требуется ребёнка хвалить, и пытаться развивать новые результаты. Причём, на мой взгляд, требуется как можно раньше добиваться результатов «вширь», иначе будет слишком сильная специализация. Могу сказать, что это очень сложно.
                            0
                            Мы купили первый пазл, она не понимала что нужно делать. Несколько раз с ней вместе собрали, потом она стала собирать сама и очень лихо. Кажется, что она поняла суть и научилась пазлы. Но нет, она научилась собирать именно этот пазл, она запомнила как все в точности должно быть. Когда купили новый — она так же сидела и смотрела на него не понимая, что нужно делать. После того, как она запомнила его, стала и его собирать.
                            Нельзя сказать, что здесь совсем нет обучения, но это обучение примитивно и не несет практической пользы.
                              0
                              Тут всё правильно. Чтобы понять, требуется собрать не один и ни два пазла. Мозг затем сам сделает обобщение в ходе очередной ориентировочной реакции.
                                0
                                Ага, именно поэтому стоит идти «вширь». Но только куда пойдёшь после устного счёта с небольшим изменением условий задачи? Есть навыки, которые просто сложно масштабировать без концептуального изменения самой задачи
                                  +1
                                  Я пытаюсь всё, что возможно, приспособить для обучения. Приведу для примера идеи.

                                  Если ребёнок умеет считать до 10-ти, уже можно научить его считать в обратном порядке. Как только и то, и другое он будет уметь, можно учить прибавлять 1 и вычитать 1. Ребёнок ещё не будет в состоянии понять смысл вычитания, но это будет подготовкой к вычитанию двух и т. д. Всё объяснять на примерах в форме игры.

                                  А дальше уже идут сложные схемы. Например, вычитание из 12 числа 3 можно объяснить как сначала вычитание двойки из обоих чисел, чтобы получилось 10 в первом случае. («Какое число можно вычесть из 12, чтобы получить 10? Посчитай назад последнюю цифру!»). А затем вычитание из первого числа второго. С числами до 10 ребёнок уже должен уметь обращаться. Сам так учился, буду передавать опыт.

                                  Вот чем больше подобных разнообразных схем предлагать ребёнку, тем интереснее у него будет развиваться мышление. И это уже будет выявление закономерностей, а не заучивание. Заучивание идёт только на первых порах.

                                  На мой взгляд, всё зависит только от фантазии родителей.
                                    +3
                                    >> Например, вычитание из 12 числа 3 можно объяснить как сначала вычитание двойки из обоих чисел, чтобы получилось 10 в первом случае.
                                    >> Сам так учился, буду передавать опыт.

                                    Вот с навязыванием таких «явных» для Вас концепций нужно по-осторожнее. Я вот так и не понял, в чем здесь простота. Намного более полезно, когда «свой внутренний» вывод ребенок сделает сам. Он может быть для Вас не менее контринтуитивным, нежели Ваш пример для меня.
                                      0
                                      Согласен, один из принципов обучения — ребёнка необходимо подталкивать к решениям, которые он сам придумает. Ну или придумает взрослый, но подаст это так, чтобы ребёнок сам до решения догадался.

                                      Но в дошкольном возрасте это вряд ли будет работать. Инженерно мыслить ребёнок начинает в среднем только с 7-ми лет. А научить математике можно и до школы. Тем более, что все вложенные в ребёнка необычные решения будут в будущем генерировать ещё более интересные решения.
                                        0
                                        Тем более, что все вложенные в ребёнка необычные решения будут в будущем генерировать ещё более интересные решения.

                                        Осталось понять, зачем все это ребенку.
                                        В школе его «еще более интересные решения» будут только мешать учебе.
                                        После школы, скорее всего, тоже. От инженера требуется решать задачи эффективно и понятно для других. Работал я с «творческими личностями» — спасибо, уж лучше туповатый, но исполнительный, чем вострый, но делающий непонятно что и непонятно зачем.
                                          0
                                          Тем не менее, олимпиадники вполне себе неплохо устраиваются на работу.

                                          Не путайте отсутствие опыта или высокое самомнение с изобретательностью.
                            0

                            Подтверждаю, эффект наблюдается в возрасте от 2-4, после 4 уже появляется осознанность действий.

                            +4
                            Вот вы взяли и одной своей статьей глубоко оскорбили миллионы мамочек, верующих в исключительность своих чад-индиго. :)
                              +3
                              Мне прямо жена так и сказала ;) Но со словами «Хабр не malyshi.livejournal.com» я нажал «Опубликовать»

                              На самом деле, чем раньше они приземляться, тем легче падать будет. Я видел много индиго, поступающих на Физтех в 15 лет. Ко второму курсу они уже на три учатся.

                              Всему своё время, а из кубиков Зайцева лучше башни строить.
                                0
                                Хвалить можно для эффективного обучения. Если хвались за всё подряд, то такая похвала обесценивается в глазах ребёнка, на мой взгляд. Причём, если ребёнок научился делать то, что требуется в рамках обучения, то уже не стоит за это хвалить, а лучше относиться нейтрально.

                                И, кстати, тройки — показатель отсутствия интереса, а не ума.
                                  0
                                  Да и смысл какой? На пенсию все-равно раньше времени выйти не получится.
                                    0
                                    На пенсию все равно раньше времени выйти не получится.

                                    Ошибаетесь. Достаточно устроиться в силовые структуры, и пенсия наступит раньше. :)
                                      0
                                      Да, я вот когда был юным, раздумывал над этим, но здоровье было плохим, поэтому не решился. Сейчас заполучил спортивное сердце, но уже поздно. А ведь для программиста военная пенсия была бы неплохим дополнением вкупе с другими бонусами. Хотя если хорошо на работу устроиться, то и военная пенсия не нужна будет.
                                        +1
                                        И как же ФизТех в 15 помогает с устройством в силовые структуры? Может быть лучше стрельба и бокс?
                                          0
                                          А там, если не знаете, вежливые люди деликатно роедлагают. Как вообще во многих ВУЗах.
                                        +3

                                        Смысл высшего образования, что бы выйти на пенсию? Какой печальный мир.

                                      0
                                      У детей просто больше гибкость мозга, пока нет четких выстроенных структур они могут запоминать кучу информации и учиться чему угодно. Постепенно ненужная информация забывается, а то что не укладывается в наработанные шаблоны отбрасывается. Поэтому лучше развивать не специфичность знаний, а саму способность к обучению и решению проблем. Умение читать и считать с раннего возраста полезнее просто потому что таким образом вы получаете преимущество перед сверстниками. А вот насчет того как поддерживать интерес к обучению все сложно :)
                                        0
                                        Вообще все сложно, и нет ни лучше не хуже, можно делать А будет Б, можно делать А будет А, и ничто не хуже и не лучше. Все остальное это тешить свое «интеллектуальное» самолюбие.
                                        Невозможно привить ребенку свои приоритеты, мотивы и цели. Невозможно откопировать себя в ребенке. Для того и баба нужна что бы из двух разных, третье получилось. А что этому третьему лучше он сам решит.
                                      0
                                      И не только у детей подобные эффекты есть.
                                        0
                                        >>Изучая нейронные сети я столкнулся с похожим явлением, и мне кажется, что из этой аналогии можно сделать определённые выводы. Я не биолог и не нейробиолог. Всё дальнейшее — мои догадки без претензии на особую научность. Буду рад комментариям профессионалов.
                                        >>важно то, что детёныши развиваются не вдруг и сразу, а проходя некоторые этапы, которые в Монтессори педагогике обзываются сенситивными периодами.

                                        Мозг устроен совсем не так как “нейросеть глубокого обучения”, хотя используется все тот же принцип персептрона.
                                        Но в мозгу нет многослойных персептронов с внутренними связями и обратным действием ошибки. Каждый нейрон – однослойный, независимый персептрон с очень грубыми весами по входам. И все эти нефрона специализируются “без учителя”, но используя два принципа: повторяющиеся воздействия входных профилей все более закрепляются, а соседи воздействуют “латеральным торможением”, обеспечивая контрастирование.
                                        Слои нефронов созревают и включаются в специализацию строго по наследуемой очереди (сенситивными периодами). Поэтому вначале образуются самые простые распознаватели примитивов восприятия, а потом, следующий слой на их основе создает уже более сложные сочетания из этих примитивов.
                                        Т.е. нет такого сразу сложного обучения.
                                        Чем более продолжителен каждый из периодов, тем больше примитивов особь сможет научится распознавать, а не только те, что у него случайно оказались перед ним в коротком периоде. У человека самые длинные критические периоды развития и поэтому он самый универсальный и самый эффективный.
                                        Это – слишком лаконично, а подробнее в популярной форме: scorcher.ru/book/new_book_1.php
                                          0
                                          Но в рамках одного периода тот же набор нейронов может быть задействован на много задач или на узкий набор. И при первом варианте мозг лучше схватывает суть (ибо всё не запомнить), а при втором больше работает на запоминание. Или я не прав?
                                          0
                                          Прошедшие период развития слои больше не меняют специфику. Так, если у котенка в определенный период лишить восприятия вертикальных полос, то он на всю жизнь будет обходится без них. Если повреждаются распознаватели первичных сенсорных зон, то это уже на всю жизнь невосполнимо.
                                          Коррекция возможна за счет механизма рефлекса и, более эволюционно эффективная – за счет осознаваемой произвольности (вопреки привычному).
                                            0
                                            А можно разжевать для тупых?
                                              0
                                              Дело не в тупизне :) а в том, что все это – очень сложная система, построенная эволюцией заплатка на заплатке, и чтобы ясно увидеть механизмы, нужно разобраться со всеми тонкостями, для чего я и давал ссылку.
                                              Поверхностно говоря, в каждом критическом периоде развития слоя набирается такое разнообразие распознавателей данного уровня сложности, сколько позволяет длительность периода и насколько будет богаты стимулы этого уровня сложности.
                                              Что это дает? Вот кто-то сможет взглянуть на кучку горошин и сразу скажет сколько там, не пересчитывая. У кого-то такой предел 3-5 гтук, у кого-то намного больше. У мальца в посте за его период он воспринял очень много видов машинок и это удачно совпало с подходящим уровнем сложности формирования распознавателей.
                                              Самые последние периоды касаются развития лобных долей, у человека проходит до 25 лет. И тут сложность уже затрагивает распознавание смысла и понимание на уровне субъективных моделей: fornit.ru/7305
                                                0

                                                Не хотите статью на Хабре написать? Звучит очень интересно, особенно если оно будет со ссылками на исследования.


                                                P.S. вопрос не по теме. А какого размера тираж книги, что вам каждый экземпляр обошёлся так дорого?

                                                  0
                                                  Я попытался разок написать статью на Хабре и ее модератор не пропустил без объяснения причин. Больше не хочу.
                                                  Тираж был 100 экз. С учетом формата А4, цветных иллюстраций и того, что заказ был не на прямую в типографию, а через Библиоглобсус + затраты на дизайнера.
                                                  Вся книга основана на ссылках на исследования, которые даются короткими адресами.
                                                0
                                                Есть очень интересный пример. Если повреждается часть мозга, ответственная за восприятие формы, человек будет жить как раньше, но не сможет сказать где квадрат, а где треугольник. Но отличать объекты сможет. Если правильно помню, читал этот пример в книге Криса Фрита «Мозг и душа». Если интересно, почитайте.
                                                  0
                                                  Моя кошка не ест рыбу. В детстве не давали ей рыбу, теперь она смотрит на рыбу и начинает закапывать (любую, какую ей давали).
                                                0

                                                Я полагаю, что обученная сеть никуда не денется. Если очень повезет — ее можно будет переиспользовать в других задачах. Например, было показано, что одна девушка-чемпион мира по шахматам распознает позиции на доске как лица людей. Думаю, развивая зрительную память, она помогает и своей игре. Вообще, есть свидетельства, что некоторые люди используют свой "GPU" (участок мозга, который отвечает за анализ зрения) для своих задач и обходят на голову тех, кто так делать не научился

                                                  +2

                                                  У меня похожая фигня со счётом на сложение и вычитание в т.ч. и многозначных чисел: я по сути не считаю, просто рисую в уме два числа одно над другим, и под ними тут же появляется ответ. Просто с ранних лет хожу по магазинам, и в мозге образовался мощный центр счёта, походу.


                                                  Вообще, я считаю, что истинное мастерство достигается таким образом: ты сначала длительное время натаскиваешь, накачиваешь свой мозг, а потом просто передаёшь ему управление в нужные моменты, и он всё делает сам вне сознательного контроля. Я так тексты пишу — читаю-читаю по теме, потом расслабляюсь и в голове начинает звучать голос, а я просто записываю за ним.

                                                    +1
                                                    Гений.
                                                      0
                                                      Не думаю, что это гениальность, просто эффективное использование поразительно мощной штуки, коей является наш мозг. Главное правило — не нужно пытаться всё контролировать, нужно уметь вовремя отпустить вожжи. Особенно остро это проявляется в нередкой ситуации, когда человек впадает в ступор при попытке общения с противоположным полом. Это именно из-за желания всё контролировать, вместо того чтобы отстраниться и ретранслировать вещание Мозг-ФМ))

                                                      Хотя у меня иногда это делегирование полномочий мозгу доходит до какой-то жути, но это другая история, и до таких крайностей доводить себя необязательно.

                                                        0
                                                        Немного формализую вышесказанное.
                                                        Под механизмами буду подразумевать алгоритмы, базирующиеся на структуре мозга больше, чем на информационной составляющей, для которой алгоритмы уже буду называть алгоритмами.

                                                        Идея в том, что в абстракции от многих процессов наша психика представляет из себя набор механизмов обработки информации и набор памяти, в том числе состоящей из алгоритмов поведения, которые нас в данный момент интересуют.

                                                        По сути из существующих основных сущности в обработке информации нас интересуют сознательный и бессознательный логические аппараты, по своему содержимому это просто некоторый набор исполняющихся механизмов. Первый представляет из себя модуль модификаций, а второй наоборорот старается стагнировать на устойчивых решениях. Соответственно наша психика играет в перетягивание каната между исполненением автоматизированных алгоритмов от бессознательного модуля и анализом и продуцированием алгоритмов от сознательного.

                                                        В итоге наилучший баланс достигается тогда, когда сознание наиболее эффективно просеивает решения, выявляет ошибки и выкидывает их на пересмотр из бессознательного. Соответственно по вашему совету — да, это чертовски эффективно. Натренировать ряд алгоритмов и отправить в бессознанку.

                                                        Могу в пример привести то, что видя те же квадратные уравнения мне очень редко вообще приходится думать о дискриминанте, он у меня уже есть. Так же в детстве закинул туда ряд эвристик для работы с более сложными объектами, которые обычно исследуются методами высшей математики, но у меня были более интуитивные алгоритмы. Теперь приходится переписывать их. :>

                                                        Соответственно я считаю крайне эффективным играть в сохранение результата вычислений часто встречающихся закономерностей, потому что мозг делает точно так же со всеми работающими и часто встречающимися алгоритмами поведения. А математика уж всегда работает.
                                                    0
                                                    Конечно однобоко обвинять всегда во всем родителей. Мое мнение, что надо было уделить внимание психологической обстановке в семье, быть может у ребенка есть причины уходить в себя и концентрироваться на конкретных темах. Например шизофреногенная мать может стать причиной развития шизофрении или шизойдного расстройства личности, которое характеризуется необщительностью и странными увлечениями. В таком случае конечно интересно порассуждать, как там нейросеть у ребенка в голове обучается, но все эти рассуждения совсем не в тему в такой ситуации (и это кстати возможно говорит о том что автор статьи сам тоже шизойд).
                                                      +1
                                                      Конечно шизойд. Все мы в какой-то степени шизойды. Моя степень пока устраивает окружающих
                                                        +1

                                                        Потому что окружающие в той же степени шизоиды

                                                          0
                                                          А счастье это найти людей с той же степенью шизанутости.
                                                        –2
                                                        На самом деле автор не смог сделать правильного педагогического вывода из своих наблюдений.

                                                        А он таков. Раз уж ваш ребёнок в раннем возрасте способен сосредотачиваться на на одном предмете, дайте ему то, что может пригодиться на всю жизнь: музыкальный инструмент, спортивный снаряд, карандаши и краски.
                                                          +1
                                                          Кажется, я об этом и писал, если его интересы совпадают с «полезными» снарядами. Но основная мысль именно в том, что «гениальность» — признак проблемы с ограниченностью интересов. Это сильно связанные вещи. И это нужно решать, а не давать инструмент и растить однобокого гения, который будет всю жизнь страдать.
                                                          –1
                                                          По мне так, гениальность — это в первую очередь иррациональное мышление.
                                                          Запоминание цифр и данных — это совсем другое
                                                            0
                                                            Вообще-то гораздо дольше, чем нейронные сети, нашей цивилизации известен факт, что логический аппарат в мозгу отрастает примерно к 12 годам. До этого возраста детям просто физически нечем думать (с достаточной производительностью) — и они компенсируют это отличной памятью. Некоторые действительно достигают таким образом феноменальных результатов, но в этом также и кроется засада — детки при нормальном развитии должны суметь переключиться от эксплуатации памяти к эксплуатации логики, но не всем это удается.
                                                              0
                                                              Сейчас очень. много детей с РАС и их кол-во в процентном соотношении растет. Им сложнее приобретать социальные навыки. Часто это выражается в том, что у них другие навыки более развиты. Для таких детей есть специальная методология воспитания — ABA (хотя она отлично подходит для любых людей, даже взрослых). Главная мысль — лучше не ждать пока отсутствующие навыки сами разовьются (чего может не случиться), надо помогать их развивать.
                                                                0
                                                                Вспомнилась история про «гениальное» чадо которое якобы знало кучу животных в свои три года. А когда он случайно столкнулся с таким животным живьем он не смог его назвать. Все потому что обучение производилось по карточкам с изображениями и он думал что это и есть те самые животные. Карточки он запомнил, а абстрактной информации, что животные это не карточки не завезли.
                                                                  0
                                                                  А ещё один европейский шеф-повар однажды попросил в школе детей нарисовать рыбку, и они рыбную котлету в панировке нарисовали.
                                                                    0
                                                                    Ну так всё верно, повар + рыбка ~ котлетка.
                                                                    +1
                                                                    Видимо у Вас детей просто нет, поэтому так рассуждаете. Ребёнок ещё до двух лет всё прекрасно запоминает. Но обучения по карточкам может оказаться мало. Мозг ребёнка настроен на восприятие объёмных изображений, а не двумерных. Но, тем не менее, могу сказать, что в год ребёнок прекрасно способен отличать, например, кота от ежа в книжках со сказками, а также может распознать кота, которого видел на улице, несмотря на наличие у кота одежды со шляпой и мультяшный вид.
                                                                    0
                                                                    Концепция «overfitting» мне нравится. Фактически, overfitting, это полная противоположность мышлению человека, когда из набора явлений пытаются найти общее, абстрактное. Вместо этого, формируется GLUT (Gigantic lookup table), которая содержит в себе все ответы на все вопросы (которые раньше были) с мизерной предсказательной способностью.
                                                                      0
                                                                      Почему-то последние сообщения напомнили собственные воспоминания из того времени, когда у меня появился первый IBM-PC совместимый компьютер. Мне тогда 19 было.
                                                                      Компьютером был 286-й с графическим адаптером Hercules без возможности его русифицировать. То есть вместо русского текста были перевернутые вопросики и прочие значки из верхней части ДОСовской кодировки.
                                                                      Перво-наперво я составил в тетради табличку соответствия русских букв и кракозябр, чтобы с её помощью переводить, что же мне пишет компьютер. Но недели через две уже достаточно бегло читал текст и без неё.
                                                                      После установки VGA-карты навык сохранялся еще несколько лет, но потом был благополучно утрачен.
                                                                        0
                                                                        Я так в свое время надрюкался читать тексты в KOI-8, когда их в виндовой кодировке показывало. бНОПНЯ и вот это все. :)
                                                                        0
                                                                        Из вашей статьи и последующих за ней комментариев следует, что «необычность», «нестандартность» ребенка и его интересов, а также неабсолютная его социализация — это совершенное зло. Интересно, а насколько это корректно, особенно если допустить некое разнообразие между детьми и людьми в целом? А то подобная педагогическая модель очень уж напомнила «каждый принадлежит всем» из «Дивного нового мира».

                                                                        Просто, у меня, например, действительно рациональная часть и круг интересов и занятий в значительной степени повернут в сторону практических навыков. Шахматы, музыка, боевые искусства, учеба, программирование и т.д. При этом у меня всегда был достаточно низкий уровень социализации, особенно по сравнению с моими сверстниками. С которыми мне, кстати, практически всегда, действительно, было неинтересно, особенно ввиду различности интересов. Простите за тавтологию. :) Зато практически во всех других областях, куда было обращено мое внимание, я добивался достаточно значительных успехов, до «гениев» дело, может и не доходило, но некоторое признание я все-таки получал.

                                                                        И что ж, получается, что я обладатель паталогии? :) Честно говоря, никогда не задумывался о себе в подобном ключе. Это для меня ново.
                                                                          0
                                                                          Никто не говорит, что это зло. Безусловно это мешает детям в их социальной интеграции.

                                                                          Суть заметки именно в том, что кругозор и «гениальность» в чём-то — это связанные вещи, причём связаны они именно через механизм обучения. И при исправлении «проблем» с интересами ребёнка пропадает его гениальность.

                                                                          И вообще это не гениальность, а однобоко натренированная на запоминание нейронная сеть, которой дали слишком много ресурсов на одну задачу, что и привело к запоминанию.

                                                                          А вот вскармливать ли эту «гениальность», или расширять интересы ребёнка — это личное дело каждого родителя.
                                                                          0
                                                                          Отличие мозга от нейронной сети заключается в том, что он способен себя перестраивать, меняя внутри себя синаптические связи. От того какие связи более актуальны зависит и интерес человека. При постоянной изменчивости связей между нейронами меняются и интересы, а при постоянстве связей улучшается память. Есть много размышлений на эту тему, суть которых сводится к тому, что чем больше помним, тем медленнее соображаем. У детей, в раннем возрасте и переходном, связи между нейронами находятся в безумной мешанине, пытающейся выстроиться в какую-то логику. От того у многих детей и проявляется гиперактивность, и неспособность концентрироваться. Его синаптические связи меняются гораздо быстрее взрослого человека, а вслед за этим мысли и интересы.
                                                                          Моё мнение, не как педагога или спеца по ML, что ребенка нельзя «затачивать». В смысле надо стимулировать его конкретный интерес, но стараться подсовывать ему что-то помимо, того чем он заинтересован в данный момент. Или подсовывать в связке с тем, чем он интересуется. Заинтересовался машинами. Пытаемся впихнуть устройство автомобиля, заинтересовало устройство, впихиваем механику. А потом почему работает ДВС. А чем отличается бензиновый от дизеля. Далее раскачиваем физику и химию. Под шумок к двигателям можно и про электрические вспомнить. Ту же Теслу. А там от Теслы и к программированию один шаг. Так он получит более «гибкий» мозг, с гораздо более разветвленный нейронной структурой. Хотя в этом случае, про «суперпамять» можно забыть. Но аналитические способности будут шикарные.
                                                                            0
                                                                            У меня речь про возраст до 8 лет. А в этом возрасте «сменить пластинку» не так просто — дети ничего кроме своей темы не воспринимают.

                                                                            Кстати, в комментах расходится мнение на тему перестроения связей. Моё мнение (ненаучное мнение дилетанта), что такое перестроение есть в пределах определённого возрастного диапазона, после чего уже мозг созревает, появляются новые связи, а полученные связи уже фиксируются навсегда.

                                                                            Ваше мнение основано на чём-то научном?
                                                                              0
                                                                              Есть такая замечательная книга Масару Ибука «После трех уже поздно». И во всех отношениях эта книга замечательна. Но есть одно «НО». Она написана в 1971 г. После этого отношение к тезисам этой книги здорово пересмотрено. Если интересует тема детской психологии, могу порекомендовать книги Гиппенрейтер Ю.Б. Этой женщине однозначно можно доверять. А если совсем хочется погрузиться в сей дивный чудный мир, то можно ознакомиться с трудами Выготского Л. С. и Жана Пиаже. Это классика.
                                                                              От себя могу добавить пару логических домыслов. Уже доказано, что наша память не бесконечна. То что мы помним заложено в самой структуре нейронных связей. Соответственно, то что мы вспомним в первую очередь, или куда нас приведут наши ассоциативные цепочки, зависит от количества нейромедиаторов в нейронных связях (это если предельно упрощать). Приняв это за основной посыл, то логично предположить, что если мы способны запоминать и усваивать новое, то значит структура мозга меняется.
                                                                              По поводу фиксации… Тонкая грань между домыслами и реальными знаниями. Есть несколько степеней фиксации. Например, возьмем четыре нейрона. Первый соединен со вторым. И аксон первого в миелиновой оболочке, но нейромедиаторов между первым и вторым мало. У аксона тертьего нет миелиновой оболчки. Но между третьим и четвертым много нейромедиаторов. Какая связь будет крепче? Думаю, это в области догадок.
                                                                              И вот такой ньюанс. Когда мы пользуемся одними и те же знаниями, то у нас активны всегда примерно одни и те же нейроны и их связки. Они и закрепляются. Импульсы ходят одними и теми же путями. Остальное атрофируется за ненадобностью, заставить изменить пути импульсов, сложно. Если в мозг поступает куча различной информации, то она активирует новые нейроны и новые связки. У взрослых это более заметно, так как они редко хотят вылезать из своей будничной рутинной раковины. Это на уровне физиологии так как логично предположить, что на активацию новых связей тратиться должно больше энергии и вряд ли природа одобрит нерациональное расходование ресурсов.
                                                                              Ещё есть ньюанс. Связи полученные в течении дня легко разрушаются во время сна. Когда мы спим у нас в голове проходит нечто архивации и индексации. Неактуальные связи разрушаются (на уровне дендритов). Так что ничто не вечно. Если принять во внимание, что мы умеем забывать. И порой забывать вообще навсегда, то полученные связи не фиксируются навсегда.

                                                                              Это я всё к тому, что пластинку сменить можно. В любом возрасте. Главное подход, желание и терпение.
                                                                              0
                                                                              чем больше помним, тем медленнее соображаем

                                                                              Разве что в совершенно новых, незнакомых ситуациях. В остальных случаях мощная память наоборот играет в пользу сообразительности, подсовывая готовые решения или шаблоны.
                                                                                0
                                                                                Существуют несколько уровней принятия решений. Некоторые решения мы принимаем на уровне рефлекса. Например при вождении машины. Впервые я с ними познакомился из книги «Мозг освобожденный». Но есть отдельная книга посвященная именно этому. К сожалению, не могу вспомнить ни автора, ни название. Но суть в том, что выученные шаблонные решения не имеют отношения к сообразительности. В теории ТРИЗа очень любят приводить пример про пустые тюбики зубной пасты и вентилятор. Это наглядный пример, того что наши «шаблоны» и заученные решения это плохо.

                                                                            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                            Самое читаемое