Комментарии 28
Я предполагаю, что все дело в том, что эта модель еще слишком в зачаточном состоянии как по алгоритмам так и оптимизации по сравнению с эталоном, разве при таких обстоятельствах корректно заявлять «всего лишь улучшенная версия»?
Вполне корректно. Разум сложнее простенькой нейросети не в том смысле, в каком самолёт сложнее велосипеда (совершенно иной принцип работы), а в том, в каком полный граф всех пользователей Facebook'а сложнее списка контактов в вашем телефоне (новое качество приобретается за счёт перехода количества в качество).
А нейросеть, которую бы запустили и воспитывали, подавая информацию через 5 чувств, мы скорее всего никогда не увидим. Даже задача не стоит так, чтобы такого добиться. В этом нет никакого смысла. Искусственная нейросеть может получать информацию на вход сразу в цифровом виде. Так намного эффективнее. Это у человека нет выбора. Он вынужден получать информацию через те органы, которые у него есть. А у искусственной нейросети нет таких природных ограничений. Вот, например, когда вы пользуетесь Гуглом, где-то внутри его датацентров постепенно воспитывается ваш персональный ассистент по поиску, который знает ваши потребности. И ему не нужно видеть ваше лицо, чтобы понять, что вы мужчина. Ему не нужны для этого глаза. Если потребуется, то он может определить ваш пол гораздо проще — исходя из того, как часто вы ищете порно. Он получает информацию на вход сразу в той форме, в которой ему удобнее её обрабатывать.
Более того вы хоть представляете какой поток данных обрабатывает мозг посредством этих 5 чувств? И его сила именно в том, что несмотря на всю эту хаотичность и астрономические объемы, он все равно адаптируется именно так, что вполне способен осознавать действительность и приспосабливаться под любую деятельность и даже размышлять о том, что творится в черной дыре. Покажите мне хотя бы зародыш такой нейросети?
Так что сравнение тут даже не велосипед с самолетом, а шестеренка со сложнейшими часами, вы можете хоть до посинения складывать хаотично от одной до миллиона шестереннок результат будет нулевой, так как шанс случайно собрать швейцарские часы будет стремится к нулю из-за невероятного количества комбинаций в 3д пространстве.
Так что повторюсь, лично я вижу смысл нейросетей именно быстром и качественном умении сначала сортировать невероятные по объему и хаотичности данные, потом умении их анализировать и строить до того сложные логические цепочки и выводы, что можно будет реально сказать, что Оно Мыслит не хуже человека.
Возможно, такой аналог создали где-нибудь в параллельной реальности, где живут исключительно романтические натуры. В нашем же мире двигателем научно-технического прогресса служит капитализм. А это предполагает, что ничего не делается просто так. Инвестиции в инновации делаются только в том случае, когда эти инновации способны принести прибыль. Бесприбыльные инновации остаются без финансирования. Даже если они сногсшибательны...
Кроме того, полный искусственный аналог разума не позволит понять, как мы мыслим. Будет точно так же неизвестно, как именно он работает внутри и почему принимает те или иные решения. Вот в точности как с поисковой выдачей Гугла. Никто (включая разработчиков поискового движка) не сможет вам сказать, почему в вашей конкретной выдаче некая ссылка находится на третьей позиции. Всё, что вам сможет сказать разработчик поиска, — это то, что позиция в вашей выдаче зависит от ваших же предыдущих запросов. Так же рассуждают и психологи. Они исходят из того, что любое решение человека зависит от предшествующего опыта.
Проблема изучения разума в том, что он искажается при каждом обращении к нему, т.е. сложно найти 2-а разума с одинаковыми начальными данными, и даже если бы нашли, то после первого же разного ввода данных он уже бы изменился и у нас не было бы уже возможности вернутся к исходной точке. Без этих постоянных метаморфоз будет куда проще высчитать закономерности и преобразовать их в формулы и законы если мы вводим одинаковые данные и получаем такой же результат внезависимости от того, что одно сделано из органики, а другое из кремния. Это уже станет всего лишь задачей математики разве нет?
Я вот немного пофантазировал, но более приземленно, нежели дать нейросети 5 чувств. И подумал как бы выглядела бы первая более менее серьезная проверка такого искусственного разума.
1)Сначала мы разрабатываем нейросеть, которая должна уметь Учиться учится (это не описка).
2)Как источник информации рассматриваем гугл запросы (т.к. в основном это вопросы, то из них можно выводить логические цепочки и так как иногда они будут друг другу противоречить то это то что надо). Они все же на порядки более упорядоченны и типизированы нежели 5 чувств, что значительно разгрузит нейросеть.
3)Дать возможность этой нейросети обратной связи — ну например блог-твит, в котором бы она могла задавать вопросы и получать от всех подряд(или от сотрудников проекта) ответы через комментарии.
4)Если наша нейросеть действительно умеет учится, то через какое-то время мы получим вполне себе говорящий AI с какой-то сформировавшейся моделью действительности.
5)Вывод мы действительно приблизились к тому чтобы сказать, что разум это всего лишь нейросеть и все вышеописанные плюшки в подарок.
У вас есть на примете что-либо подобное?
Проблема в том, что человекоподобные роботы вообще не будут продаваться. При тех деньгах, которые в них уже вложены и ещё предстоит вложить, ценник на них будет таким, что купить их смогут только миллионеры. Вы что думаете, что те средства, которые тратятся на разработку, нигде не учитываются что-ли? Всё учитывается. И все эти деньги в конце концов отольются в конечную цену робота. Она будет на 1% состоять из затрат, связанных непосредственно с производством одной единицы, и на 99% из затрат, связанных с НИОКР, которые сделали это производство возможным. Вы просто представьте себе, какой объём интеллектуальной собственности придётся сконцентрировать в своих руках тому, кто захочет производить роботов на продажу. Причём все деньги на покупку патентов ему придётся потратить ещё до того, как он начнёт что-то производить и тем более продавать. Так что просто забудьте о человекоподобных роботах. Они просто не конкуренты обычным людям из мяса, которых можно эксплуатировать за 100 долларов в месяц. Вот просто прикиньте в уме экономику. Допустим, робот, умеющий аккуратно вытирать пыль с мебели, будет стоить $50 тыс. За эти деньги можно нанять человека на 500 месяцев. Т.е. в случае выбора в пользу робота этот выбор начнёт становиться более выгодным только через 41 год эксплуатации. В течение этого срока роботу обязательно потребуется ремонт, стоимость которого лишь увеличит первоначальный срок окупаемости. А если робот будет изготовлен настолько безупречно, что ему за 41 год ни разу не потребуется ремонт, то значит его изначальная стоимость будет намного выше.
Что-то похожее на описанную нейросеть недавно проскакивало в новостях. Чат-бот от Майкрософта. Правда его очень быстро выключили, поскольку пользователи научили его плохому и сделали из него расиста.
Я не знаю как был устроен тот бот, но возможно он просто собирал кучу твиттов и выдавал что-то среднее на основе частоты тех или иных упоминаний и я уверен на 100%, что он не умел учится учится, т.е. хоть тысячу лет ему дай он все равно не научится осмысленно говорить.
У компьютеров не было конкуренции со стороны людей. Люди не могут за 100 долларов в месяц считать так же хорошо, как компьютеры. Специфика возникающих перед человечеством задач потребовала внедрять компьютеры любой ценой. Только поэтому с компьютерами всё так удачно получилось. Кроме того, IT-индустрия в общем и целом ещё пока себя не окупила (и даже не приблизилась к этому). Все те деньги, которые в ней сейчас обращаются, — это в основном деньги, привлечённые в качестве инвестиций из других отраслей. Наиболее богатые IT-компании стали таковыми за счёт бума доткомов. Они возникли на руинах тех компаний, который сначала привлекли из других отраслей огромные средства, вложив их в оборудование и коммуникационные сети, а затем просто разорились, продав все свои активы за гроши. Если бы Гугл и Фейсбук покупали оборудование по честной цене, то они бы не могли развиваться так активно и к настоящему моменту ещё даже не вышли бы в ноль.
Не знаю, что вы имеете в виду под словами "учиться учиться". Но для того, чтобы интеллект можно было считать близким к человеческому, достаточно реализовать возможность обучения 3-го уровня. Ни у кого из животных такой способности нету. И даже нет полной уверенности, что она есть у всех людей. Именно эту способность измеряют тесты IQ. Но они так устроены, что низкий результат теста может означать как то, что эта способность слабая, так и то, что её нет вообще. Надежного теста на наличие способности к обучению 3-го уровня не существует.
Гугл мне ничего толком не нашел по запросу «способность к обучению 3-го уровня». Но рискну предположить что мы говорим об одном и том же. Ладно, вашу точку зрения я понял, вы считаете, что таких нейросетей со способностью к обучению 3 уровня мы не увидим только потому, что это никому не нужно, но если бы захотели, то было бы достаточно арендовать на пару лет большие вычислительные мощности. А моя точка зрения, что потому, что пока впринципе не могут сделать нечто адекватно похожее либо алгоритмы нейросетей в том виде что они есть, настолько далеки от совершенства, что нужны Слишком большие мощности, чтобы даже попробовать их сравнить с обычным человеком.
Этот крутой, как вы выражаетесь, недостаток — если его воспринимать как должное — в каком-то смысле является и достоинством. Исключительно благодаря существованию этого недостатка человечество научилось жить с ним и разработало самые разные способы его преодоления. В частности, невозможность жить вечно вынудила людей сохранять приобретённые знания в письменной форме. Через какое-то время письменных источников стало настолько много, что возникла необходимость их проиндексировать. Так появился Гугл. Будь люди бессмертными, всё было бы по-другому.
Возможность иметь такую нейросеть, которая будет просто генерировать новые знания, сама по себе ничего не даст. Позитивный эффект от технологических инноваций наступает не тогда, когда их придумывают, а тогда когда они массово внедряются. А скорость внедрения инноваций зависит исключительно от скорости их окупаемости. Никто не будет внедрять новую технологию, если старая ещё себя не окупила. Я где-то читал такую историю про сталелитейную промышленность в США. Говорят, уже давно существует более эффективная технология производства стали (существенно, а не на несколько процентов). Но она не будет внедрена ещё как минимум 15-20 лет, потому что среди капиталистов, которые образуют собой эту отрасль, нет заинтересованных лиц. Технология требует полной замены существующего оборудования. А у них ещё старое не окупилось. Таким образом, если внедрить эту технологию прямо сейчас, то придётся зафиксировать убыток. Деньги, вложенные в существующее оборудование, будут частично потеряны. И в этом смысле у всех участников отрасли полный консенсус. Скорее всего ближе к концу срока окупаемости некоторые из участников предпочтут потерять немного на вложениях в старое оборудование, но зато очень круто подняться на том, что они первые внедрят новую технологию. Конкуренция проявит себя в полной мере. Но в ближайшее время никто переход на новую технологию не планирует. И этот принцип применим абсолютно к любым инновациям. Чем дороже обошлось внедрение предыдущей инновации, тем дольше не может быть внедрена следующая. Скорость разработки новых технологий не играет никакой роли.
Естественно, в Гугле вы ничего об этом так легко не найдёте. Он не настолько крут, чтобы так легко можно было бы находить настолько небанальные вещи. Попробуйте найти по ключевым словам в более научной формулировке. Способность к обучению 1-го уровня — это способность распознавать простейший информационный контекст (паттерн). 2-й уровень — это способность распознавать контекст контекстов (паттерн паттернов). Соответственно, 3-й уровень — это способность распознавать контекст контекстов контекстов. Если не получится, то я могу рассказать ненаучно по памяти на примере экспериментов с обезьянами. Я читал об этом целую книгу. А как учит нас Пол Грэм, чтение не проходит бесследно.
В любом случае ваша позиция не настолько уж и отличается от моей. Алгоритмы нейросетей в данный момент недостаточно развиты лишь потому, что достаточно развитые алгоритмы никому не нужны. Они развиты ровно настолько, насколько это нужно, чтобы применять их в тех направлениях, в которых нейронные сети применяются.
Но тогда что насчет таких многомиллиардных исследовательских инструментов таких как Хаббл, андронный коллайдер, международной космической станции?
Да и многие миллиардеры наигравшись в преумножение своего капитала, начинают их тратить на благотворительность и проекты, которые впринципе не могут окупится, либо окупятся только спустя века.
P.S. Я бы сказал что в жизни вообще ничего не происходит бесследно, можно насильно в школе читать книгу и вообще ничего не запомнить, а можно как Ньютон увидеть как падает яблоко.
Думаю, что Хаббл, коллайдер и МКС — это примеры проектов, которые никогда бы не были реализованы без участия государства. У государства просто немного другие задачи. Эффективность вложенного капитала для него не на первом месте. Легко догадаться, какие у него могут быть причины для того, чтобы вкладывать деньги в указанные проекты. Я имею в виду настоящие причины, а не официально декларируемые, которые сводятся к тому, что развитие фундаментальной науки очень важно само по себе. Учёным такая причина выделения денег очень льстит, поэтому они принимают её за правду. Я же не учёный, поэтому для меня такая причина не выглядит убедительной. Я думаю, что настоящая причина должна быть тесно связана с одной из главных задач, которые решает государство. Одна из таких задач — это безопасность. Для обеспечения безопасности государству всё время нужно совершенствовать вооружение. Этим должны заниматься очень опытные и хорошо подготовленые учёные. А где их взять? Именно для этого и существуют невоенные высокотехнологичные проекты. Они привлекают в науку новых учёных, где военные могут посмотреть на достигнутые ими результаты и приняться решение о том, стоит ли пригласить их немного поработать на благо родной страны. Грубо говоря, невоенные проекты — это такая песочница для учёных, где они могут себя проявить, чтобы лучшие из них впоследствии могли поработать над действительно важными вещами — новыми видами смертоносного оружия. Но безопасность — это только одна из задач, которые государство вынуждено непрерывно решать, если хочет продолжить суверенное существование. Другая задача — это обеспечение собственных граждан работой. Эту задачу государство тоже вынуждено решать непрерывно. Высокий уровень безработицы грозит социальными волнениями, которые могут развалить страну изнутри. Поэтому вряд ли государство будет вкладывать деньги в разработку роботов, которые будут планомерно лишать людей работы. Более того, вряд ли оно разрешит заниматься этим миллиардерам, которые решат потратить на это свои миллиарды.
Та книга, о которой я говорил, на самом деле, вообще не об уровнях обучения. Она в основном о том, как разум обрабатывает информацию. Самое интересное в ней — это то, что она объясняет, что такое смысл… ну, и что означает слово "понимать" применительно к информации. Ведь когда мы видим какую-то информацию, мы обычно можем сказать, имеет ли она смысл. И если имеет, то мы часто можем его понять. Мало кто знает, что это вообще значит, и как работает понимание. Как будто бы это какая-то магия. Из этой книги я узнал, что, оказывается, здесь нет никакой загадки. Всё давно известно. Книга написана много десятков лет назад и обобщает множество исследований, которые были проведены ещё раньше. Она называется "Экология разума". Автор Грегори Бейтсон. Однако это сложная специальная литература, я не рекомендую её читать, если нет сильного интереса к данному вопросу. Про уровни обучения там очень мало. Если интересует только это и то, что именно измеряют тесты IQ, то читать не стоит.
Вы категорически неправы. Государство, которое не умеет эффективно вкладывать — быстро исчезало под давлением более эффективных соседей. Просто нужно понимать, что капитал это не только деньги, и чем сложнее организация (а государство — одна из самых сложных организаций общества), тем больше различных ресурсов можно соединить в некий продукт. Отсюда и траты на неочевидные вещи.
Нет, так поступают неудачники или энтузиасты.
В нормальном деле, создается бизнес план, в котором думают — когда смогут окупить затраты. Во сколько обойдется производство прототипа и готовой к продаже партии продукта, и где взять деньги.
Первые компьютеры могли и не появиться, если бы не прямая прибыль от них. Почитайте про энигму и способы ее взлома. Первые мобильные были дороги, но они уже тогда окупались. Сразу. А не 20 лет делали прототипы современных мобилок за собственные деньги.
Сперва нужно разработать принципиальный механизм, который позволит учиться аналогично мозгу, а потом уже создавать нейросеть из этого механизма. Вы оперируете банальностями, упустив из виду, что самая сложная часть не решена.
Если можно создать механизм, способный учиться как мозг, то расписывать все шаги, которые можно предпринять после создания принципиально рабочего механизма — типа масштабировать до нейросети, или залить туда контролируемую информацию — это банальности. Никто этим не занимается, потому что это пустое, пока не выполнен первый шаг.
Не факт, что одна книга у разных людей сформирует что-то схожее, но я перечитал множество книг, и переживая моменты вместе с героями, или читая то, как герой решает свои проблемы — вот этот опыт полюбому остается, и именно он формирует ценности и способы решения.
И конечно весьма важно, в каком возрасте читаешь книгу — очень мало книг воспринимаются одинаково в 10, в 20, в 30 и в 40.
биографию Гильберта, написанную Констанцией Рид
Таки Констансом Ридом.
Пол Грэм: Как знать (How You Know)