Пол Грэм: Как знать (How You Know)

    «Чтение и личный опыт формируют мировоззрение. И даже если вы не помните самый момент получения опыта или содержания книги, то их влияние на ваше представление о мире непременно остается в Вас. Ваш разум похож на скомпилированную программу без исходного кода — он работает, но не ясно как.»
    — Пол Грэм, основатель Y Combinator, программист, инвестор, эссеист

    image
    «Взятие Константинополя крестоносцами» (Эжен Делакруа, 1840)

    Оригинал — How You Know
    December 2014

    За перевод спасибо lxsmkv, за ценные уточнения — knagaev, за поддержку публикации — Edison

    Я перечитывал Хроники Вилладруэна о Четвертом Крестовом Походе не менее двух раз, а может даже и трех. И если бы мне пришлось записать на бумаге, все то, что мне оттуда запомнилось, то сомневаюсь, что набралось бы и на одну страницу. А теперь, если перемножить это на семьсот, то результат сложится в неприятное, давящее ощущение, которое посещает меня всякий раз когда я гляжу на мои книжные полки. Какая мне польза от всех этих книг если я ничего из них не помню?

    Парой месяцев ранее я читал замечательную биографию Гильберта, написанную Констанцией Рид, и нашел в ней, если и не ответ на свой вопрос, то как минимум что-то, что сгладило бы это неприятное ощущение. В своей книге она пишет:
    Гильберт не терпел лекций по математике, на которых студентов пичкали фактами, вместо того чтобы учить их формулировать и решать задачи. Он часто повторял им: “Хорошая постановка задачи уже половина ее решения.”

    Эта мысль мне всегда казалась казалась чрезвычайно важной, и слова Гильберта лишь укрепили мою точку зрения.

    Однако, как я пришел к этому убеждению? Оно родилось из моего личного опыта и прочитанных книг. Ни одной из которых я не запомнил. И, возможно, мне бы даже не вспомнились слова Гильберта. Но найденные в книгах мысли подкрепили мои мысли и убеждения, несмотря на то, что я не помню их содержания.

    Чтение и личный опыт формируют мировоззрение. И даже если вы не помните самый момент получения опыта или содержания книги, то их влияние на ваше представление о мире непременно остается в Вас. Ваш разум похож на скомпилированную программу без исходного кода — он работает, но не ясно как.

    И то что я вынес для себя из прочитанных Хроник Вилладруэна, это не то, что я прочитал, а мысленные образы крестовых походов, Венеции, средневековой культуры, осадных сражений и прочего.

    И оглядываясь назад это кажется очевидным, хоть в свое время это и стало для меня открытием. Как стало бы, пожалуй для всякого, кто когда-либо чувствовал досаду от того, что не помнит прочитанного.

    Поняв это, возможно станет легче перестать беспокоится из-за свойства мозга забывать. С учетом вышесказанного, мы можем сделать дальнейшие наблюдения.

    Книжный и личностный опыт переплетаются с уровнем вашего сознания в определенный временной период. Таким образом, одна и также книга может по разному лечь на сознание в зависимости от того, в какой период жизни вы ее прочитаете. Именно поэтому имеет смысл перечитывать важные книги по нескольку раз.

    Перед тем как перечитать книгу меня раньше охватывало тревожное чувство. Ведь к чтению я бессознательно относился, как к столярной работе, где переделывать работу значит, что работа была сделана плохо в первый раз. Сейчас же я скорее считаю, что по отношению к книге, глагол «перечитывать» вообще неприменим.

    Стоит отметить, что эти выводы касаются не только книг. Технология предоставляет нам новые возможности пережить наш опыт заново. Ведь раз мы стремимся к этому, значит это нам нравится. Как нравится пересматривать отпускные фотографии или заниматься самокопанием, пытаясь понять, что нас сделало такими какие мы есть (как, например, Стивен Фрай, ловко вспомнивший, что причиной его неумения петь является застарелая психическая травма, случившаяся еще в детстве). С улучшением технологий для записи и воспроизведения пережитого опыта, для людей может стать обычным делом переживать прошлый опыт заново, даже безо всякой цели, просто чтобы открыть в нем что-то новое, совсем так, как это бывает с книгами.

    Может быть когда-нибудь мы сможем не просто воспроизводить прошлый опыт, а архивировать его, а то и даже перезаписывать. И пусть нам кажется, что это вполне нормальное свойство человеческого мозга — не задумываться о природе нашего мировоззрения, но как знать.

    Спасибо Sam Altman, Jessica Livingston и Robert Morris за прочтение черновиков.

    Предыдущий перевод — Пол Грэм: Как сделать Питтсбург стартап-хабом

    P.S.
    Кто готов помочь с переводом The Refragmentation, пишите в личку или на почту (указана в профиле)
    Edison
    386,00
    Изобретаем успех: софт и стартапы
    Поделиться публикацией

    Комментарии 28

      +2
      Забавно, сам недавно приходил к этим же мыслям (о новом опыте и восприятии при перепрочтении). По детству и подростковости очень много читал «взахлеб», даже не особо разбираясь в вопросе — даже такие вещи как «Красное и черное». Вроде даже нравилось. А вот третьего дня перечитывал — оказывается я в свое время ни черта не понимал… грустно вспоминать себя как глупого подростка. Думается мне пора заняться перепрочтением профессиональной литературы — по новому взгляну на себя-студента :)
        +1
        Стоит отметить что такое разное восприятие книг касается абсолютно всего и действий и решений и даже воспоминаний. Лично я для себя переодически делаю что-то вроде снимка своего мирровозрения, осознаю кто я сейчас, чем я живу, свои стремления, свое ищущение текущей реальности, все это запоминаю и откладываю в опеределенный ящичек мозга. И достаточно забавно потом эти воспоминания перебивать и отслеживать как изменилось мировоззрение. Очень часто это помогает поставить себя на место скажем ребенка или человека который учится и приподнести ему материал так, чтобы ему было все понятно. А вообще свойство мозга забывать это очень хорошее качество, так как так проще переживать трагедии и неудачи, запоминая из них только полезный горький опыт.
          +1
          Описан простейший когнитивный фильтр. Во входящем потоке информации человек замечает только то, что соответствует его собственным мыслям и игнорирует всё остальное. Ну и где тут обучение? Скорее уж просто подкрепление.
            0
            Не согласен, человек замечает только то что хочет замечать: если он хочет замечать только подтверждение своих мыслей он замечает только их, если он хочет замечать только опровержения своих мыслях он находит только их, но если он настроен на реальный конструктивный анализ дел, он замечает и то и другое и сопоставляет это.
            +1
            Разум похож не на скомпилированную программу без исходников, а на обученную нейронную сеть, которая работает, хотя и не может воспроизвести свою обучающую выборку. К сожалению, это звучит не так круто, поскольку это правда. Разум — это и есть обученная нейронная сеть.
              +1
              С таким же успехом можно отметить, что нога это всего лишь улучшенная форма механического протеза. Или, что нагляднее, Вселенная это всего лишь улучшенная версия Камня. Слишком уж велика разница между ними, чтобы называть это «всего лишь улучшенная версия». Так и тут разница между нейросетью и разумом пока что слишком велика, чтобы делать такие голословные утверждения и тем самым умолять все сложность (до сих пор неизученного как следует) разума.
                +1
                По сути, так оно и есть. Нога — это сложный био-механический агрегат + управляющая нейросеть. Первый год своей жизни человек активно занимается обучением того сегмента сети, который управляет ногами. В процессе очень часто ошибается и падает. Но в конечном итоге его нейросеть обучается так, что если ей на вход подать сенсорные сигналы от ног (определяемые конфигурацией той поверхности, на которую ноги наступают), то на выходе она выдаст адекватные управляющие сигналы, позволяющие скорректировать положение обеих ног с тем, чтобы сохранить равновесие. И это будет работать для всех типов поверхностей, которые часто встречаются в среде обитания — твёрдого асфальта, мягкого дивана, скользкого паркета. В простонародье это называется «научиться ходить».
                  +1
                  Тогда почему мы еще не увидели не одного аналога нейросети, которую бы запустили и воспитывали бы (допустим) подавая информацию схожим образом с человеческой через 5 чувств?
                  Я предполагаю, что все дело в том, что эта модель еще слишком в зачаточном состоянии как по алгоритмам так и оптимизации по сравнению с эталоном, разве при таких обстоятельствах корректно заявлять «всего лишь улучшенная версия»?
                    +1

                    Вполне корректно. Разум сложнее простенькой нейросети не в том смысле, в каком самолёт сложнее велосипеда (совершенно иной принцип работы), а в том, в каком полный граф всех пользователей Facebook'а сложнее списка контактов в вашем телефоне (новое качество приобретается за счёт перехода количества в качество).


                    А нейросеть, которую бы запустили и воспитывали, подавая информацию через 5 чувств, мы скорее всего никогда не увидим. Даже задача не стоит так, чтобы такого добиться. В этом нет никакого смысла. Искусственная нейросеть может получать информацию на вход сразу в цифровом виде. Так намного эффективнее. Это у человека нет выбора. Он вынужден получать информацию через те органы, которые у него есть. А у искусственной нейросети нет таких природных ограничений. Вот, например, когда вы пользуетесь Гуглом, где-то внутри его датацентров постепенно воспитывается ваш персональный ассистент по поиску, который знает ваши потребности. И ему не нужно видеть ваше лицо, чтобы понять, что вы мужчина. Ему не нужны для этого глаза. Если потребуется, то он может определить ваш пол гораздо проще — исходя из того, как часто вы ищете порно. Он получает информацию на вход сразу в той форме, в которой ему удобнее её обрабатывать.

                      0
                      Если бы было возможно сделать такой полный аналог человеческого разума, то его бы уже сделали не смотря на вычислительные мощности, так как это был бы прорывом позволяющим смотреть на следующий шаг — оцифровке разума и бессмертии, прогнозировании человеческого выбора исхода из поступающих в него данных и так далее и так далее. Позволило бы проводить эксперименты на таком разуме, которые непозволительны на людях, что позволило бы реально понимать как мы мыслим, а не как психологи строят отдаленные догадки по симптоматике, да и просто позволяло бы делать по-настоящему человечный AI. Такая нейросеть была бы лучше любого Эйнштейна, так как не имела бы недостатков уязвимого человеческого тела. Так что именно такой результат был бы прорывом, а вовсе не очередная узкоспециализированная сортировалка базы данных запросов гугла.
                      Более того вы хоть представляете какой поток данных обрабатывает мозг посредством этих 5 чувств? И его сила именно в том, что несмотря на всю эту хаотичность и астрономические объемы, он все равно адаптируется именно так, что вполне способен осознавать действительность и приспосабливаться под любую деятельность и даже размышлять о том, что творится в черной дыре. Покажите мне хотя бы зародыш такой нейросети?
                      Так что сравнение тут даже не велосипед с самолетом, а шестеренка со сложнейшими часами, вы можете хоть до посинения складывать хаотично от одной до миллиона шестереннок результат будет нулевой, так как шанс случайно собрать швейцарские часы будет стремится к нулю из-за невероятного количества комбинаций в 3д пространстве.
                      Так что повторюсь, лично я вижу смысл нейросетей именно быстром и качественном умении сначала сортировать невероятные по объему и хаотичности данные, потом умении их анализировать и строить до того сложные логические цепочки и выводы, что можно будет реально сказать, что Оно Мыслит не хуже человека.
                        0

                        Возможно, такой аналог создали где-нибудь в параллельной реальности, где живут исключительно романтические натуры. В нашем же мире двигателем научно-технического прогресса служит капитализм. А это предполагает, что ничего не делается просто так. Инвестиции в инновации делаются только в том случае, когда эти инновации способны принести прибыль. Бесприбыльные инновации остаются без финансирования. Даже если они сногсшибательны...


                        Кроме того, полный искусственный аналог разума не позволит понять, как мы мыслим. Будет точно так же неизвестно, как именно он работает внутри и почему принимает те или иные решения. Вот в точности как с поисковой выдачей Гугла. Никто (включая разработчиков поискового движка) не сможет вам сказать, почему в вашей конкретной выдаче некая ссылка находится на третьей позиции. Всё, что вам сможет сказать разработчик поиска, — это то, что позиция в вашей выдаче зависит от ваших же предыдущих запросов. Так же рассуждают и психологи. Они исходят из того, что любое решение человека зависит от предшествующего опыта.

                          0
                          Причем тут романтика? Вы серьезно не видите выгоду? Вы не задумывались почему на разработку человекоподобных роботов тратятся очень большие средства, несмотря на то, что пока что далеки от совершенства? А все очень просто, в мире где основной единый стандарт это человеческая еденица, такой робот будет шикарно продаваться и плавно заменять человека, без перестройки всей инфраструктуры. И именно то кто первым это разработает станет на какое-то время монополистом и ведущим разработчиком. Тоже самое и с наукой, как вы думаете много денег принес такой многомиллиардный проект как Хабл? Он расширил понимание вселенной и окупится это только в очень долгосрочной перспективе. Наверняка тоже можно сказать и кучей других разработок, как какой-нибудь полиетилен, сначала тратится куча сил и денег на достижение инновационного результата, а потом уже то что получили придумывают как применять в реальности и это нормально и это тоже капитализм и это тоже не просто так.
                          Проблема изучения разума в том, что он искажается при каждом обращении к нему, т.е. сложно найти 2-а разума с одинаковыми начальными данными, и даже если бы нашли, то после первого же разного ввода данных он уже бы изменился и у нас не было бы уже возможности вернутся к исходной точке. Без этих постоянных метаморфоз будет куда проще высчитать закономерности и преобразовать их в формулы и законы если мы вводим одинаковые данные и получаем такой же результат внезависимости от того, что одно сделано из органики, а другое из кремния. Это уже станет всего лишь задачей математики разве нет?
                          Я вот немного пофантазировал, но более приземленно, нежели дать нейросети 5 чувств. И подумал как бы выглядела бы первая более менее серьезная проверка такого искусственного разума.
                          1)Сначала мы разрабатываем нейросеть, которая должна уметь Учиться учится (это не описка).
                          2)Как источник информации рассматриваем гугл запросы (т.к. в основном это вопросы, то из них можно выводить логические цепочки и так как иногда они будут друг другу противоречить то это то что надо). Они все же на порядки более упорядоченны и типизированы нежели 5 чувств, что значительно разгрузит нейросеть.
                          3)Дать возможность этой нейросети обратной связи — ну например блог-твит, в котором бы она могла задавать вопросы и получать от всех подряд(или от сотрудников проекта) ответы через комментарии.
                          4)Если наша нейросеть действительно умеет учится, то через какое-то время мы получим вполне себе говорящий AI с какой-то сформировавшейся моделью действительности.
                          5)Вывод мы действительно приблизились к тому чтобы сказать, что разум это всего лишь нейросеть и все вышеописанные плюшки в подарок.
                          У вас есть на примете что-либо подобное?

                            0

                            Проблема в том, что человекоподобные роботы вообще не будут продаваться. При тех деньгах, которые в них уже вложены и ещё предстоит вложить, ценник на них будет таким, что купить их смогут только миллионеры. Вы что думаете, что те средства, которые тратятся на разработку, нигде не учитываются что-ли? Всё учитывается. И все эти деньги в конце концов отольются в конечную цену робота. Она будет на 1% состоять из затрат, связанных непосредственно с производством одной единицы, и на 99% из затрат, связанных с НИОКР, которые сделали это производство возможным. Вы просто представьте себе, какой объём интеллектуальной собственности придётся сконцентрировать в своих руках тому, кто захочет производить роботов на продажу. Причём все деньги на покупку патентов ему придётся потратить ещё до того, как он начнёт что-то производить и тем более продавать. Так что просто забудьте о человекоподобных роботах. Они просто не конкуренты обычным людям из мяса, которых можно эксплуатировать за 100 долларов в месяц. Вот просто прикиньте в уме экономику. Допустим, робот, умеющий аккуратно вытирать пыль с мебели, будет стоить $50 тыс. За эти деньги можно нанять человека на 500 месяцев. Т.е. в случае выбора в пользу робота этот выбор начнёт становиться более выгодным только через 41 год эксплуатации. В течение этого срока роботу обязательно потребуется ремонт, стоимость которого лишь увеличит первоначальный срок окупаемости. А если робот будет изготовлен настолько безупречно, что ему за 41 год ни разу не потребуется ремонт, то значит его изначальная стоимость будет намного выше.


                            Что-то похожее на описанную нейросеть недавно проскакивало в новостях. Чат-бот от Майкрософта. Правда его очень быстро выключили, поскольку пользователи научили его плохому и сделали из него расиста.

                              0
                              Так ведь так всегда и делается, сначала разрабатывается прототип: при разработке которого думают только над тем как бы его вообще хоть как-то сделать, когда продукт работает начинают думать можно ли его оптимизировать и удешевить производство. Первые компьютеры занимали целые этажи зданий и соотвественно этому стоили. И только спустя много лет модернизации они дошли до обывателя в том виде что мы видим сейчас. Тоже самое было и мобильными, 1-ые были очень дороги, не очень мобильны и быстро сажали батереи. Но для того чтобы дойти до шага массового продукта надо сначала доказать, что такое впринципе возможно достичь хоть как-то.
                              Я не знаю как был устроен тот бот, но возможно он просто собирал кучу твиттов и выдавал что-то среднее на основе частоты тех или иных упоминаний и я уверен на 100%, что он не умел учится учится, т.е. хоть тысячу лет ему дай он все равно не научится осмысленно говорить.
                                0

                                У компьютеров не было конкуренции со стороны людей. Люди не могут за 100 долларов в месяц считать так же хорошо, как компьютеры. Специфика возникающих перед человечеством задач потребовала внедрять компьютеры любой ценой. Только поэтому с компьютерами всё так удачно получилось. Кроме того, IT-индустрия в общем и целом ещё пока себя не окупила (и даже не приблизилась к этому). Все те деньги, которые в ней сейчас обращаются, — это в основном деньги, привлечённые в качестве инвестиций из других отраслей. Наиболее богатые IT-компании стали таковыми за счёт бума доткомов. Они возникли на руинах тех компаний, который сначала привлекли из других отраслей огромные средства, вложив их в оборудование и коммуникационные сети, а затем просто разорились, продав все свои активы за гроши. Если бы Гугл и Фейсбук покупали оборудование по честной цене, то они бы не могли развиваться так активно и к настоящему моменту ещё даже не вышли бы в ноль.


                                Не знаю, что вы имеете в виду под словами "учиться учиться". Но для того, чтобы интеллект можно было считать близким к человеческому, достаточно реализовать возможность обучения 3-го уровня. Ни у кого из животных такой способности нету. И даже нет полной уверенности, что она есть у всех людей. Именно эту способность измеряют тесты IQ. Но они так устроены, что низкий результат теста может означать как то, что эта способность слабая, так и то, что её нет вообще. Надежного теста на наличие способности к обучению 3-го уровня не существует.

                                  0
                                  С компьютерами и конкуренцией окей, согласен, но человек точно также не может жить вечно, ненадежен, предвзят, збывчив, ленив, подкупен и при его замене обязательно, что-то теряется- изменяется- искажается это на самом деле очень крутой недостаток. А вы знаете какой малый % толковых ученых на всей планете? Разве не заманчиво, сначала обучить такую нейросеть, а потом накопипастить столько сколько тебе надо этих ученых и задать им разные направления? Создание такой думающей машины позволило бы значительно увеличить научный прогресс, и 1-ой такой полноценной замене ученого было бы логично поставить задачу оптимизировать себя и свое производство. Мне кажется вы сильно недооцениваете потенциал такого продукта и в том числе коммерческий. Это то к чему человечество так или иначе придет и от этого никуда не деться, что-то вроде эволюции.
                                  Гугл мне ничего толком не нашел по запросу «способность к обучению 3-го уровня». Но рискну предположить что мы говорим об одном и том же. Ладно, вашу точку зрения я понял, вы считаете, что таких нейросетей со способностью к обучению 3 уровня мы не увидим только потому, что это никому не нужно, но если бы захотели, то было бы достаточно арендовать на пару лет большие вычислительные мощности. А моя точка зрения, что потому, что пока впринципе не могут сделать нечто адекватно похожее либо алгоритмы нейросетей в том виде что они есть, настолько далеки от совершенства, что нужны Слишком большие мощности, чтобы даже попробовать их сравнить с обычным человеком.
                                    0

                                    Этот крутой, как вы выражаетесь, недостаток — если его воспринимать как должное — в каком-то смысле является и достоинством. Исключительно благодаря существованию этого недостатка человечество научилось жить с ним и разработало самые разные способы его преодоления. В частности, невозможность жить вечно вынудила людей сохранять приобретённые знания в письменной форме. Через какое-то время письменных источников стало настолько много, что возникла необходимость их проиндексировать. Так появился Гугл. Будь люди бессмертными, всё было бы по-другому.


                                    Возможность иметь такую нейросеть, которая будет просто генерировать новые знания, сама по себе ничего не даст. Позитивный эффект от технологических инноваций наступает не тогда, когда их придумывают, а тогда когда они массово внедряются. А скорость внедрения инноваций зависит исключительно от скорости их окупаемости. Никто не будет внедрять новую технологию, если старая ещё себя не окупила. Я где-то читал такую историю про сталелитейную промышленность в США. Говорят, уже давно существует более эффективная технология производства стали (существенно, а не на несколько процентов). Но она не будет внедрена ещё как минимум 15-20 лет, потому что среди капиталистов, которые образуют собой эту отрасль, нет заинтересованных лиц. Технология требует полной замены существующего оборудования. А у них ещё старое не окупилось. Таким образом, если внедрить эту технологию прямо сейчас, то придётся зафиксировать убыток. Деньги, вложенные в существующее оборудование, будут частично потеряны. И в этом смысле у всех участников отрасли полный консенсус. Скорее всего ближе к концу срока окупаемости некоторые из участников предпочтут потерять немного на вложениях в старое оборудование, но зато очень круто подняться на том, что они первые внедрят новую технологию. Конкуренция проявит себя в полной мере. Но в ближайшее время никто переход на новую технологию не планирует. И этот принцип применим абсолютно к любым инновациям. Чем дороже обошлось внедрение предыдущей инновации, тем дольше не может быть внедрена следующая. Скорость разработки новых технологий не играет никакой роли.


                                    Естественно, в Гугле вы ничего об этом так легко не найдёте. Он не настолько крут, чтобы так легко можно было бы находить настолько небанальные вещи. Попробуйте найти по ключевым словам в более научной формулировке. Способность к обучению 1-го уровня — это способность распознавать простейший информационный контекст (паттерн). 2-й уровень — это способность распознавать контекст контекстов (паттерн паттернов). Соответственно, 3-й уровень — это способность распознавать контекст контекстов контекстов. Если не получится, то я могу рассказать ненаучно по памяти на примере экспериментов с обезьянами. Я читал об этом целую книгу. А как учит нас Пол Грэм, чтение не проходит бесследно.


                                    В любом случае ваша позиция не настолько уж и отличается от моей. Алгоритмы нейросетей в данный момент недостаточно развиты лишь потому, что достаточно развитые алгоритмы никому не нужны. Они развиты ровно настолько, насколько это нужно, чтобы применять их в тех направлениях, в которых нейронные сети применяются.

                                      0
                                      Вашей формулировки более чем достаточно, но если та книга что вы читали достаточно неплоха, то напишите пожалуйсте ее название.
                                      Но тогда что насчет таких многомиллиардных исследовательских инструментов таких как Хаббл, андронный коллайдер, международной космической станции?
                                      Да и многие миллиардеры наигравшись в преумножение своего капитала, начинают их тратить на благотворительность и проекты, которые впринципе не могут окупится, либо окупятся только спустя века.
                                      P.S. Я бы сказал что в жизни вообще ничего не происходит бесследно, можно насильно в школе читать книгу и вообще ничего не запомнить, а можно как Ньютон увидеть как падает яблоко.
                                        0

                                        Думаю, что Хаббл, коллайдер и МКС — это примеры проектов, которые никогда бы не были реализованы без участия государства. У государства просто немного другие задачи. Эффективность вложенного капитала для него не на первом месте. Легко догадаться, какие у него могут быть причины для того, чтобы вкладывать деньги в указанные проекты. Я имею в виду настоящие причины, а не официально декларируемые, которые сводятся к тому, что развитие фундаментальной науки очень важно само по себе. Учёным такая причина выделения денег очень льстит, поэтому они принимают её за правду. Я же не учёный, поэтому для меня такая причина не выглядит убедительной. Я думаю, что настоящая причина должна быть тесно связана с одной из главных задач, которые решает государство. Одна из таких задач — это безопасность. Для обеспечения безопасности государству всё время нужно совершенствовать вооружение. Этим должны заниматься очень опытные и хорошо подготовленые учёные. А где их взять? Именно для этого и существуют невоенные высокотехнологичные проекты. Они привлекают в науку новых учёных, где военные могут посмотреть на достигнутые ими результаты и приняться решение о том, стоит ли пригласить их немного поработать на благо родной страны. Грубо говоря, невоенные проекты — это такая песочница для учёных, где они могут себя проявить, чтобы лучшие из них впоследствии могли поработать над действительно важными вещами — новыми видами смертоносного оружия. Но безопасность — это только одна из задач, которые государство вынуждено непрерывно решать, если хочет продолжить суверенное существование. Другая задача — это обеспечение собственных граждан работой. Эту задачу государство тоже вынуждено решать непрерывно. Высокий уровень безработицы грозит социальными волнениями, которые могут развалить страну изнутри. Поэтому вряд ли государство будет вкладывать деньги в разработку роботов, которые будут планомерно лишать людей работы. Более того, вряд ли оно разрешит заниматься этим миллиардерам, которые решат потратить на это свои миллиарды.


                                        Та книга, о которой я говорил, на самом деле, вообще не об уровнях обучения. Она в основном о том, как разум обрабатывает информацию. Самое интересное в ней — это то, что она объясняет, что такое смысл… ну, и что означает слово "понимать" применительно к информации. Ведь когда мы видим какую-то информацию, мы обычно можем сказать, имеет ли она смысл. И если имеет, то мы часто можем его понять. Мало кто знает, что это вообще значит, и как работает понимание. Как будто бы это какая-то магия. Из этой книги я узнал, что, оказывается, здесь нет никакой загадки. Всё давно известно. Книга написана много десятков лет назад и обобщает множество исследований, которые были проведены ещё раньше. Она называется "Экология разума". Автор Грегори Бейтсон. Однако это сложная специальная литература, я не рекомендую её читать, если нет сильного интереса к данному вопросу. Про уровни обучения там очень мало. Если интересует только это и то, что именно измеряют тесты IQ, то читать не стоит.

                                          0
                                          Рискну предположить исходя из своих додумок, что слово понимать существует лишь относительно какого-то масштаба и угла зрения в котором предмет/знание рассматривается.
                                            0

                                            Почти. Смысл существует таким образом. А словом "понимать" обозначается действие по извлечению смысла.

                                            0
                                            «У государства просто немного другие задачи. Эффективность вложенного капитала для него не на первом месте.»
                                            Вы категорически неправы. Государство, которое не умеет эффективно вкладывать — быстро исчезало под давлением более эффективных соседей. Просто нужно понимать, что капитал это не только деньги, и чем сложнее организация (а государство — одна из самых сложных организаций общества), тем больше различных ресурсов можно соединить в некий продукт. Отсюда и траты на неочевидные вещи.
                                              0
                                              Я имел в виду капитал в узком смысле. Только деньги.
                                    0
                                    «Так ведь так всегда и делается, сначала разрабатывается прототип: при разработке которого думают только над тем как бы его вообще хоть как-то сделать, когда продукт работает начинают думать можно ли его оптимизировать и удешевить производство.»
                                    Нет, так поступают неудачники или энтузиасты.
                                    В нормальном деле, создается бизнес план, в котором думают — когда смогут окупить затраты. Во сколько обойдется производство прототипа и готовой к продаже партии продукта, и где взять деньги.

                                    Первые компьютеры могли и не появиться, если бы не прямая прибыль от них. Почитайте про энигму и способы ее взлома. Первые мобильные были дороги, но они уже тогда окупались. Сразу. А не 20 лет делали прототипы современных мобилок за собственные деньги.
                                  0
                                  «1)Сначала мы разрабатываем нейросеть, которая должна уметь Учиться учится (это не описка).»

                                  Сперва нужно разработать принципиальный механизм, который позволит учиться аналогично мозгу, а потом уже создавать нейросеть из этого механизма. Вы оперируете банальностями, упустив из виду, что самая сложная часть не решена.

                                  Если можно создать механизм, способный учиться как мозг, то расписывать все шаги, которые можно предпринять после создания принципиально рабочего механизма — типа масштабировать до нейросети, или залить туда контролируемую информацию — это банальности. Никто этим не занимается, потому что это пустое, пока не выполнен первый шаг.
                                    0
                                    А теперь перечитайте всю переписку более внимательно и сравните со своим комментарием.
                    +1
                    Полностью согласен, что чтение формирует сознание.

                    Не факт, что одна книга у разных людей сформирует что-то схожее, но я перечитал множество книг, и переживая моменты вместе с героями, или читая то, как герой решает свои проблемы — вот этот опыт полюбому остается, и именно он формирует ценности и способы решения.

                    И конечно весьма важно, в каком возрасте читаешь книгу — очень мало книг воспринимаются одинаково в 10, в 20, в 30 и в 40.

                      0
                      биографию Гильберта, написанную Констанцией Рид

                      Таки Констансом Ридом.

                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                      Самое читаемое