Метафора позволяет увидеть новые семантические оси, которых в прежней схеме просто не могло существовать. С точки зрения старой логики они могут выглядеть глупыми, нерациональными или вообще не относящимися к делу: большой-снежный, мокрый-хороший и тд. Но именно эти новые различения позволяют описать ситуацию так, что разрыв, который мы называли проблемой, исчезает. Обнаружение такого нового взгляда на ситуацию и называется инсайтом.
Можно так себе это представить, но как это выглядит на уровне нейронных механизмов в мозге? Вероятно инсайт связан с морфогенезом в мозге, т.е. изменением структуры связности нейронных сетей в следствии интенсивной работы над проблемой, ее обдумывания. При этом кровь и нейрохимические регуляторы приливаются к определенным участкам мозга и соответственно могут стимулировать рост новых синапсов и устранять несущественные, что приводит к возникновению новых ассоциаций. Этот период роста, изменений в сетях, называется инкубацией, и может занимать от дней до месяцев, в зависимости от решаемой проблемы и особенностей самого человека. Процесс во многом случайный, вовлекающий образный уровень мышления, поиск решения задает только некоторый вектор роста связей. Именно такие новые связи являются источниками нового знания, которое принципиально не сводится к уже имеющемуся. Поскольку это процесс может носить бессознательный характер необходим внешний толчок (триггер) к осознанию этих новых связей в виде некоторых представлений. Однозначного варианта нет, зависит от многих обстоятельств и способностей личности. Это может быть внешний толчок, подсказка, ситуация, восприятие, и тд, или сон, или медитативное состояние, как проявление интуиции, как неожиданное воспоминание.
Современные ЯМ являются статическими решениями, они не могут на лету менять веса связей, тем более перестраивать архитектуру под решение новых нестандартных проблем. Это скорее прерогатива нейроморфных технологий, которые ближе к прототипам механизмов в мозге. В этом коменте разобран случай открытия периодического закона Менделеевым, как неплохо задокументированный, в котором, как считается сыграл роль сон. Хотя сам Менделеев этого официально не подтверждал.
Большинство из нас локализует себя в голове — где-то за глазами.
Это эволюционно выработанная полезная иллюзия локализации осознания себя. В чем ее полезность, если она возможно возникнув случайно, закрепилась? Скорее всего причина не одна. Например, беречь голову от повреждений, и наоборот повреждать у других в первую очередь, как критически важную для выживания всего организма часть тела содержащую мозг. Также определения эгоцентрической системы координат для ориентирования в пространстве из-за наличия дистантных органов чувств расположенных на голове. Эту иллюзию локализации с помощью специально поставленных экспериментальных условий, вероятно можно изменить, так же как и других органов.
взяли образцы кварцевого гравия из слоя, где лежали черепа... По соотношению этих изотопов определили возраст слоя — 1,77 ± 0,08 млн лет. Дополнительно проверили датировку всей речной террасы — ее отложения накапливались больше двух миллионов лет, и результаты хорошо совпали с расчетами специалистов.
Это не надежная датировка, если бы сами кости датировали. Археологи и палеонтологи часто сталкиваются с тем, что артефакты загадочным обпазом перемещаются из слоя в слой. В этом случае череп и другие кости могли обнажиться позже в одном месте, затем какая нибудь животинка перенесла в другое место близко к реке и бросила. После наводнение переместило его в более глубокий геологический слой. Еще проще, то же бурное наводнение обнажило череп в одном месте затем перенесло и похоронило в другом более глубоком слое. Как минимум требуется независимые измерения и другие похожие находки.
Похоже они старых фильмов насмотрелись, комедий, в которых сначала зомбировали некую личность, а затем по ключевому слову заставляли ее делать всякие непотребства)
К чему такой скепсис, если иметь в виду результаты этих исследований? Это фактически те же нейроны, что и у человека в мозге, с помощью которых люди успешно играют в эти игры. Только их намного меньше, в мозге их ~ 100 миллиардов разных типов. Получается условно ~10^-5 разума человека) Или, как "разум" муравья. Однако в мозге человека они с рождения организованы в иерархическую рекуррентную сеть, а не в виде однородной культуры. Также пока большие проблемы с точностью интерфейса связи с оборудованием и отображением состояния игр, как отмечают сами авторы. Эти опыты, в первую очередь, направлены на изучение самоорганизации нейронных сетей в рамках вариационного принципа минимизации свободной энергии, см. этот комент. По современным когнитивным представлениям это общий принцип функционирования нейронных сетей, включая всю нервную систему (в теории предиктивного кодирования, байесовского мозга/разума - обзор). Из этого принципа в пределе ИНС из формальных нейронов выводится процедура обратного распространения ошибок, которая используется для их обучения. Однако биологические нейронные сети, в отличии от искусственных, могут "на лету" не только менять веса синапсов, но и создавать новые синапсы или деактивировать мало используемые, вносящие шум, т.е. динамически перестраивать свою архитектуру под решение новых задач в соответствии с их организацией (проводить обобщения и аналогии, строить модели задач). В мозге такая перестройка структуры сетей (морфогенез) фактически отвечает за решение творческих задач. Возможность которая пока отсутствует в ИНС с их статичной архитектурой и настройкой весов после обучения. В этом смысле "разумность" таких ветвэа решений теоретически может превосходить возможности ИИ на основе трансформеров. С формальной точки зрения ЯМ являются приближенными моделями биологических прототипов в виде стохастических авторегрессионных аппроксиматоров обученных на ограниченных выборках данных. С когнитивной точки зрения первые обладают некоторыми свойствами полноценного разума, а вторые только относительно достоверно эмитируют его интеллектуальные функции. Они не строят фактических моделей задач с учетом их внутренней организации, а только ассоциативные в соответствии с имеющимися связями в данных по ним в обучающей выборке и дополняют аппроксимацией недостающие. Поэтому могут выдавать ошибки в решениях получившие название "галлюцинаций" ЯМ. По этим причинам ИНС могут решать только подкласс творческих задач на которые способны биологические сети, но превосходят их в решении задач с известными алгоритмами и большими пространствами решений таких, как расчет фолдинга биомолекул или игры в шахматы.
Да и с предыдущей "игрой" в пинг-понг - тоже натянуто, там "ракетка" чуть ли не 2/3 экрана и просто хаотично дёргается посередине, да, что-то будет попадать в неё, но это не значит, что "нейроны в чашке Петри играют в понг".
Ну и к "обучению" есть вопросы, лень ковырять их папиры (если такие есть)
Посмотреть статистику по обучению пинг-понгу можно в этой статье (окончательный вариант с большим число графиков данных). В ней приводятся величины корреляций и таблица уровней значимости для всех измерений. Эффект обучения имеется и он не на уровне шума. Выявляется не только в самой игре, но и в динамике нейронной активности в разных режимах - смены игры/отдыха, обучения на случайны и не случайных стимулах, и др.
Подобные исследования полезны в рамках разработки нейроморфных решений, которые со временем обязательно будут востребованы из-за их чрезвычайной энергоэффективности и других преимуществ. С учетом того, что как заявляют многие известные личности в области МО, технология ЯМ находится на грани исчерпания своих возможностей. Соответственно активизируется поиск решений, как в русле самой технологии, так и на новой основе, такой, как моделей мира Яном Лекуном или обучения с подкреплением непосредственно в среде Д. Сильвером, деньги на это выделяются. Эти идеи лежат в русле исследований из статьи, предполагающих новый уровень агентности ИИ.
Иногда трудно понять избыточность или кажущуюся неэффективность биологических решений с точки зрения инженерии. Понимание состоит не в том, что природа дура, а в том, что устройство биологических механизмов преследуют одновременно две цели. Первая, их устойчивая и достаточная работа необходимая для поддержания жизнеспособности организмов, и вторая, возможность их изменчивости необходимая для эволюционного отбора с целью поддержания устойчивости вида в целом и возможного видообразования при существенном и долгосрочном изменении условий существования. Видно, что это неизбежно противоречивые требования, отсюда кажущаяся странность реализаций биологических механизмов. С точки зрения инженерии для полета в птицах все лишнее кроме правильно расчитанных с точки зрения аэродинамики крыльев и двигателя соответствующей мощности. Если не устраивают характеристики можно их изменить и построить новую модель самолета с другими решениями. А эволюции приходится заниматься видообразованием с постепенным изменением составляющих механизмов и отбором наиболее подходящих для изменившихся условий. Зато такая универсальность помогает образованию видов, которые могут обитать в разных средах одновременно, в воздухе, на суше, на воде и под водой. Как пример такой универсальности для птиц тупики, и другие морские виды. Хотя в обоих случаях действует одна и та же физика.
Нейроморфные решения пока на стадии разработки и испытаний некоторых коммерческих предложений. Но за ними будущее. Основная проблема которую необходимо решить долговечность материала мемристоров, как наиболее продвинутого решения в этой области.
Центральный тезис Сильвера: большие языковые модели не способны привести к суперинтеллекту, потому что ограничены человеческими данными. Вместо этого он делает ставку на обучение с подкреплением (reinforcement learning) — подход, при котором ИИ учится через опыт и взаимодействие со средой, а не из текстов.
Данные по среде в титанических базах данных БАКа и др. ускорителей частиц, телескопов разного типа и базирования, детекторов частиц, и других мегаэкспериментов науки. Задачи для тестирования этого ИИ перечислены для физики здесь, для нейронаук здесь, для других наук есть свои списки. Самые объективные тесты из всех существующих, решений в сети точно не найти) Найдет решение хотя бы пары из них, которые признает научное сообщество, появится ИСИ.
Остальное (более 90%!) рассеивается в виде тепла. Рибосома работает как старая лампа накаливания — светит (синтезирует белок) в основном за счёт того, что греет окружающее пространство.
Сколько процентов энергии рассеивают чудо инженерной мысли микропроцессоры? Одна и та же физика в обоих случаях.
Кстати, о нагреве. Часто думают, что главная опасность для клетки — замёрзнуть. А вот и нет. Проблема как раз обратная — перегрев. При уже небольшом перегреве белки неправильно сворачиваются и перестают работать как должно. Клетка умирает
Ну да, а чудо инженерной мысли процессор сначала впадает в кому - тротлинг, а затем выгорает, если отвода тепла нет. Та же физика.
Но энергетическая неэффективность — это цветочки. Главный позор рибосомы — её алгоритм работы. Как она находит нужную тРНК?
На каждом этапе синтеза рибосома не «ищет» нужную тРНК целенаправленно — она просто тестирует те молекулы, которые случайно сталкиваются с её активным центром. Этот механизм сродни случайному перебору: по оценкам, в среднем от 10 до 30 тРНК «примеряются» к очередному кодону, прежде чем найдётся правильная.
Все случайно, функционирует в критических режимах, как и положено в постоянно эволюционирующих механизмах. Случайные ошибки, фенотипическая изменчивость, могут благоприятствовать отбору с целью приспособления на всех уровнях организмов к средам обитания. Если бы это не было эффективным отбор отбраковал эти механизмы и процессы. Помним, что в биологических системах на всех уровнях содержится не только то что полезно, стабильно и эффективно им самим, но то что полезно самой эволюции, а ей полезна постоянная изменчивость. Поэтому, например, в конечном итоге, появился половой способ размножения, как наиболее адекватный в эволюционном плане в сравнении с другими более древними и менее затратными способами.
Цикл присоединения одной аминокислоты к растущему пептиду в рибосоме в большинстве случаев занимает от 50 до 200 миллисекунд. Из этого примерно 60–80% времени приходится не на каталитический акт образования пептидной связи и сдвиг рибосомы , а на поиск подходящей тРНК. Этот этап выглядит как серия случайных «примерок» антикодонов тРНК к текущему кодону мРНК.
Ну да, а в чудо инженерной мысли процессоре память с инструкциями и данными в одном месте, а их исполнение в другом. Приходится гонять их по шинам туда-сюда тратя энергию и теряя время. Может собрать все вместе, как в сетях нейронов нервной системы? Не думали применить в архитектуре нейроинтеллекта? Эффективность по энергии и времени резко возрастет.
Это 4 с лишним миллиардолетний результат испытаний методом проб и ошибок и отбора с учетом механизмов самосовершенствования на всех уровнях биологических систем. Тепло используется компромиссно, как двигатель жизни и эволюции, хотя в конечном итоге разрушает систему приводя к смерти. Все тонко настроено, так выгодно эволюции, а не только самой жизни.
Стабилизирующий отбор работает как заклинание: «работает — не трогай». Любое изменение, которое может повысить эффективность, с вероятностью 99,9 % сломает точность. А ошибочный белок — это смерть. Рибосома оказалась в эволюционном тупике. Это застывший артефакт, молекулярная окаменелость.
Какой ограниченный взгляд. Посмотрим, что натворят на почве биоинженерии, как продолжении эволюции интеллектом и руками самого человека.
Из лошади не сделать автомобиль: суровая правда об AGI
Хотя автор многое правильно написал, но это сравнение неудачное, все обстоит как раз наоборот. Из автомобиля лошадь не сделать. Лошадь универсальна, может не только по дороге бегать, но и по горным тропам двигаться, в воде плавать, через препятствия прыгать, и еще много чего, чему можно ее научить. Автомобиль превосходит только в скорости на дорогах. На другое нужны специализированные конструкции. В этом пока его отличие, как искусственного, от естественного. Также, как самолета от птиц, некоторые из которых могут не только летать, но и ходить по суше по пересеченной местности, плавать по воде и под водой, делать маневры в воздухе на которые самолетам пока не способны, и т.д. И главное, они могут не только обучаться новым навыкам, но и меняться, приспосабливаться к новым условиям самостоятельно, эволюционно. Когда ЯМ станут столь же универсальными, и одновременно столь же гибкими, меняющими и подстраивающими свою архитектуру под новые условия и задачи на ходу, а не превосходить только в одном, в скорости, тогда они и станут ИИ, или даже ИСИ, если точнее пользоваться этой метафорой автора. В другой статье на эту тему было приведено более адекватное сравнение, как не добраться до Луны на самолете, а на ракете. В ней одно искусственное сравнивается с другим, что точнее подходит для этой ситуации сравнения с ИИ.
Google официально представила Gemini 3.1 Pro, и результаты выглядят серьезно: модель показала 77,1% в одном из самых сложных тестов на абстрактное мышление - ARC-AGI-2
Чем позже выходят модели, тем больше информации для обучения под известные тесты. Нужно принять это как данность. Вот если бы они решили эту проблему без обращения к внешним средствам вычислений, то был прогресс в новой области в сравнении с другими моделями и человеком.
Никто толком не знает, что такое общий интеллект не то что сверх) Но почему олимпийский принцип не перенести и на интеллектуальные соревнования? Тогда было бы логично. ЯМ соревнуются со всеми желающими, если хоть одному человеку проиграл, то пока он не превзошел возможности человека в решении любых задач. В том числе из списков нерешенных проблем наук подобные которым человек уже решал. Если превзошел всех, в том числе нерешенным проблемам, то ИИ становится ИСИ. А так выдается желаемое за действительное.
Можно долго обсуждать пользу и недостатки синтетических тестов. Их прохождение некоторый показатель прогресса. Но самый объективный тест, например, по физике приведен здесь) Решат ЯМ хотя бы оду из этих проблем, или существенно поспособствует, тест сравнения с возможностями человека к решению творческих задач буде пройден. Такие списки проблем имеются в каждой области знаний, вот в самих нейронауках. Экзаменаторы сама Вселенная, само сознание, сама неизведанная реальность.
Похоже, что они сконфигурировали веса, задали матрицу и запустили динамику.
В стать так и сказано демонстрация решения (вычисления) задач с дифурами в памяти. ЯМ (трансформеры) могут такие без обращения к внешним средствам, питону, и др? Известно, что у них пока проблемы с вычислениями. Обучение в перспективе может происходить на эмпирических данных на подобии этого (статья). Важно, что было использовано уже коммерческое решение от интел.
Проснулся и радостный такой, прямо как Менделеев - но как правило, утром свои "умные" сны уже не помнишь :)
Менделеев не одномоментно отрыл периодический закон, и никогда официально не подтверждал версию со сном, здесь подробнее как произошло. Хотя говорили, что за рабочим столом он иногда подремывать) Интереснее история его озарения с 40 градусами)
А тут есть жрущий энергию нахлебник, который ничего не решает, только смотрит сериальчик собственной жизни, но при этом не только эволюционно возник, но и не был до сих пор оптимизирован в ноль.
Этот нахлебник нужен чтобы мягко регулировать поведения особей в желательном эволюции направлении, одновременно эксплуатируя полезную фичу произвольного (сознательного) поведения человеком и его планирования, если посмотреть на это с такой точки зрения. Как обычно эволюционный компромисс.
Само понятие воли артефакт рассмотрения проблемы поведения, его деления на отдельные акты для анализа а исследовательских целях. В реальности это непрерывный процесс в котором преобладают разные компоненты регуляции, которым может приписывается волевой импульс. Также, как в физических задачах возникает необходимость выделения системы, задания для нее начальных и иногда граничных условий, необходимых для ее решения. В природе этого нет.
Как будто сознание — это не капитан корабля, а просто пассажир, которому приносят уведомление о манёвре, когда штурвал уже повёрнут.
Автор не учел в этой аналогии, что современные машины, самолеты и корабли могут быть оснащены автопилотами, и пилоты и капитаны при их работе действительно только получают уведомления о маневрах) У человека есть нечто подобное только намного сложнее устроенное. Но все это функционирует в предсказуемых условиях, чтобы разгрузить мозг, тогда преобладает поток управления снизу вверх. Это тот случай в опытах Либета. Когда условия становятся сложными, малопредсказуемыми, то автопилоты в технике отключают и пилоты и капитаны берет управление на себя. В мозге активизируются высшие иерархические отделы, чтобы делать предсказания в этих условиях и принимать наиболее оптимальные решения, и это может быть бессознательным процессом. В этом случае динамика активности мозга становится намного сложнее и запутаннее, потоки управления сверху могут преобладать над потоками снизу, и быть связанными с обучением и обновлением внутренних моделей. Это взгляд согласуется с современной теорией предиктивного кодирования (байесовском мозге / разуме) в когнитивной психологии, см. также более упрощенное представление о двойном процессе в мозге.
Стохастический попугай скорее шутка) Самое лучшее представление о ЯМ, и ИНС вообще, как о универсальных стохастических аппроксиматорах. На этот счет имеется множество доказанных результатов. Аппроксимирующая, авторегрессивная функция с миллиардами параметров, которые настраиваются в процессе обучения. Сразу понятно почему ЯМ иногда правильно выдают результаты, иногда нет, приближенно, а иногда откровенно врут. Именно поэтому, как вы и правильно заметили в статье, они имитирует мышление с помощью вычислений. В мозге "вычисления" аналоговые, физические, асинхронные, распределение, реализованные на электрохимическом биологическом субстрате (только метафорически напоминающем фоннеймановскую архитектуру вычислителей ИНС), который к тому же динамически меняется в ходе этих "вычислений".
Можно так себе это представить, но как это выглядит на уровне нейронных механизмов в мозге? Вероятно инсайт связан с морфогенезом в мозге, т.е. изменением структуры связности нейронных сетей в следствии интенсивной работы над проблемой, ее обдумывания. При этом кровь и нейрохимические регуляторы приливаются к определенным участкам мозга и соответственно могут стимулировать рост новых синапсов и устранять несущественные, что приводит к возникновению новых ассоциаций. Этот период роста, изменений в сетях, называется инкубацией, и может занимать от дней до месяцев, в зависимости от решаемой проблемы и особенностей самого человека. Процесс во многом случайный, вовлекающий образный уровень мышления, поиск решения задает только некоторый вектор роста связей. Именно такие новые связи являются источниками нового знания, которое принципиально не сводится к уже имеющемуся. Поскольку это процесс может носить бессознательный характер необходим внешний толчок (триггер) к осознанию этих новых связей в виде некоторых представлений. Однозначного варианта нет, зависит от многих обстоятельств и способностей личности. Это может быть внешний толчок, подсказка, ситуация, восприятие, и тд, или сон, или медитативное состояние, как проявление интуиции, как неожиданное воспоминание.
Современные ЯМ являются статическими решениями, они не могут на лету менять веса связей, тем более перестраивать архитектуру под решение новых нестандартных проблем. Это скорее прерогатива нейроморфных технологий, которые ближе к прототипам механизмов в мозге. В этом коменте разобран случай открытия периодического закона Менделеевым, как неплохо задокументированный, в котором, как считается сыграл роль сон. Хотя сам Менделеев этого официально не подтверждал.
Спасибо за интересную статью!
Это эволюционно выработанная полезная иллюзия локализации осознания себя. В чем ее полезность, если она возможно возникнув случайно, закрепилась? Скорее всего причина не одна. Например, беречь голову от повреждений, и наоборот повреждать у других в первую очередь, как критически важную для выживания всего организма часть тела содержащую мозг. Также определения эгоцентрической системы координат для ориентирования в пространстве из-за наличия дистантных органов чувств расположенных на голове. Эту иллюзию локализации с помощью специально поставленных экспериментальных условий, вероятно можно изменить, так же как и других органов.
Это не надежная датировка, если бы сами кости датировали. Археологи и палеонтологи часто сталкиваются с тем, что артефакты загадочным обпазом перемещаются из слоя в слой. В этом случае череп и другие кости могли обнажиться позже в одном месте, затем какая нибудь животинка перенесла в другое место близко к реке и бросила. После наводнение переместило его в более глубокий геологический слой. Еще проще, то же бурное наводнение обнажило череп в одном месте затем перенесло и похоронило в другом более глубоком слое. Как минимум требуется независимые измерения и другие похожие находки.
Похоже они старых фильмов насмотрелись, комедий, в которых сначала зомбировали некую личность, а затем по ключевому слову заставляли ее делать всякие непотребства)
К чему такой скепсис, если иметь в виду результаты этих исследований? Это фактически те же нейроны, что и у человека в мозге, с помощью которых люди успешно играют в эти игры. Только их намного меньше, в мозге их ~ 100 миллиардов разных типов. Получается условно ~10^-5 разума человека) Или, как "разум" муравья. Однако в мозге человека они с рождения организованы в иерархическую рекуррентную сеть, а не в виде однородной культуры. Также пока большие проблемы с точностью интерфейса связи с оборудованием и отображением состояния игр, как отмечают сами авторы. Эти опыты, в первую очередь, направлены на изучение самоорганизации нейронных сетей в рамках вариационного принципа минимизации свободной энергии, см. этот комент. По современным когнитивным представлениям это общий принцип функционирования нейронных сетей, включая всю нервную систему (в теории предиктивного кодирования, байесовского мозга/разума - обзор). Из этого принципа в пределе ИНС из формальных нейронов выводится процедура обратного распространения ошибок, которая используется для их обучения. Однако биологические нейронные сети, в отличии от искусственных, могут "на лету" не только менять веса синапсов, но и создавать новые синапсы или деактивировать мало используемые, вносящие шум, т.е. динамически перестраивать свою архитектуру под решение новых задач в соответствии с их организацией (проводить обобщения и аналогии, строить модели задач). В мозге такая перестройка структуры сетей (морфогенез) фактически отвечает за решение творческих задач. Возможность которая пока отсутствует в ИНС с их статичной архитектурой и настройкой весов после обучения. В этом смысле "разумность" таких ветвэа решений теоретически может превосходить возможности ИИ на основе трансформеров. С формальной точки зрения ЯМ являются приближенными моделями биологических прототипов в виде стохастических авторегрессионных аппроксиматоров обученных на ограниченных выборках данных. С когнитивной точки зрения первые обладают некоторыми свойствами полноценного разума, а вторые только относительно достоверно эмитируют его интеллектуальные функции. Они не строят фактических моделей задач с учетом их внутренней организации, а только ассоциативные в соответствии с имеющимися связями в данных по ним в обучающей выборке и дополняют аппроксимацией недостающие. Поэтому могут выдавать ошибки в решениях получившие название "галлюцинаций" ЯМ. По этим причинам ИНС могут решать только подкласс творческих задач на которые способны биологические сети, но превосходят их в решении задач с известными алгоритмами и большими пространствами решений таких, как расчет фолдинга биомолекул или игры в шахматы.
Посмотреть статистику по обучению пинг-понгу можно в этой статье (окончательный вариант с большим число графиков данных). В ней приводятся величины корреляций и таблица уровней значимости для всех измерений. Эффект обучения имеется и он не на уровне шума. Выявляется не только в самой игре, но и в динамике нейронной активности в разных режимах - смены игры/отдыха, обучения на случайны и не случайных стимулах, и др.
Подобные исследования полезны в рамках разработки нейроморфных решений, которые со временем обязательно будут востребованы из-за их чрезвычайной энергоэффективности и других преимуществ. С учетом того, что как заявляют многие известные личности в области МО, технология ЯМ находится на грани исчерпания своих возможностей. Соответственно активизируется поиск решений, как в русле самой технологии, так и на новой основе, такой, как моделей мира Яном Лекуном или обучения с подкреплением непосредственно в среде Д. Сильвером, деньги на это выделяются. Эти идеи лежат в русле исследований из статьи, предполагающих новый уровень агентности ИИ.
Про что натворят не более чем подтрунивае над биоинженерией, как еще только зарождающейся технологией, не более. Картинка смешная)
Иногда трудно понять избыточность или кажущуюся неэффективность биологических решений с точки зрения инженерии. Понимание состоит не в том, что природа дура, а в том, что устройство биологических механизмов преследуют одновременно две цели. Первая, их устойчивая и достаточная работа необходимая для поддержания жизнеспособности организмов, и вторая, возможность их изменчивости необходимая для эволюционного отбора с целью поддержания устойчивости вида в целом и возможного видообразования при существенном и долгосрочном изменении условий существования. Видно, что это неизбежно противоречивые требования, отсюда кажущаяся странность реализаций биологических механизмов. С точки зрения инженерии для полета в птицах все лишнее кроме правильно расчитанных с точки зрения аэродинамики крыльев и двигателя соответствующей мощности. Если не устраивают характеристики можно их изменить и построить новую модель самолета с другими решениями. А эволюции приходится заниматься видообразованием с постепенным изменением составляющих механизмов и отбором наиболее подходящих для изменившихся условий. Зато такая универсальность помогает образованию видов, которые могут обитать в разных средах одновременно, в воздухе, на суше, на воде и под водой. Как пример такой универсальности для птиц тупики, и другие морские виды. Хотя в обоих случаях действует одна и та же физика.
Нейроморфные решения пока на стадии разработки и испытаний некоторых коммерческих предложений. Но за ними будущее. Основная проблема которую необходимо решить долговечность материала мемристоров, как наиболее продвинутого решения в этой области.
Данные по среде в титанических базах данных БАКа и др. ускорителей частиц, телескопов разного типа и базирования, детекторов частиц, и других мегаэкспериментов науки. Задачи для тестирования этого ИИ перечислены для физики здесь, для нейронаук здесь, для других наук есть свои списки. Самые объективные тесты из всех существующих, решений в сети точно не найти) Найдет решение хотя бы пары из них, которые признает научное сообщество, появится ИСИ.
Сколько процентов энергии рассеивают чудо инженерной мысли микропроцессоры? Одна и та же физика в обоих случаях.
Ну да, а чудо инженерной мысли процессор сначала впадает в кому - тротлинг, а затем выгорает, если отвода тепла нет. Та же физика.
Все случайно, функционирует в критических режимах, как и положено в постоянно эволюционирующих механизмах. Случайные ошибки, фенотипическая изменчивость, могут благоприятствовать отбору с целью приспособления на всех уровнях организмов к средам обитания. Если бы это не было эффективным отбор отбраковал эти механизмы и процессы. Помним, что в биологических системах на всех уровнях содержится не только то что полезно, стабильно и эффективно им самим, но то что полезно самой эволюции, а ей полезна постоянная изменчивость. Поэтому, например, в конечном итоге, появился половой способ размножения, как наиболее адекватный в эволюционном плане в сравнении с другими более древними и менее затратными способами.
Ну да, а в чудо инженерной мысли процессоре память с инструкциями и данными в одном месте, а их исполнение в другом. Приходится гонять их по шинам туда-сюда тратя энергию и теряя время. Может собрать все вместе, как в сетях нейронов нервной системы? Не думали применить в архитектуре нейроинтеллекта? Эффективность по энергии и времени резко возрастет.
Это 4 с лишним миллиардолетний результат испытаний методом проб и ошибок и отбора с учетом механизмов самосовершенствования на всех уровнях биологических систем. Тепло используется компромиссно, как двигатель жизни и эволюции, хотя в конечном итоге разрушает систему приводя к смерти. Все тонко настроено, так выгодно эволюции, а не только самой жизни.
Какой ограниченный взгляд. Посмотрим, что натворят на почве биоинженерии, как продолжении эволюции интеллектом и руками самого человека.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Мать ваша эволюция)
Хотя автор многое правильно написал, но это сравнение неудачное, все обстоит как раз наоборот. Из автомобиля лошадь не сделать. Лошадь универсальна, может не только по дороге бегать, но и по горным тропам двигаться, в воде плавать, через препятствия прыгать, и еще много чего, чему можно ее научить. Автомобиль превосходит только в скорости на дорогах. На другое нужны специализированные конструкции. В этом пока его отличие, как искусственного, от естественного. Также, как самолета от птиц, некоторые из которых могут не только летать, но и ходить по суше по пересеченной местности, плавать по воде и под водой, делать маневры в воздухе на которые самолетам пока не способны, и т.д. И главное, они могут не только обучаться новым навыкам, но и меняться, приспосабливаться к новым условиям самостоятельно, эволюционно. Когда ЯМ станут столь же универсальными, и одновременно столь же гибкими, меняющими и подстраивающими свою архитектуру под новые условия и задачи на ходу, а не превосходить только в одном, в скорости, тогда они и станут ИИ, или даже ИСИ, если точнее пользоваться этой метафорой автора. В другой статье на эту тему было приведено более адекватное сравнение, как не добраться до Луны на самолете, а на ракете. В ней одно искусственное сравнивается с другим, что точнее подходит для этой ситуации сравнения с ИИ.
Чем позже выходят модели, тем больше информации для обучения под известные тесты. Нужно принять это как данность. Вот если бы они решили эту проблему без обращения к внешним средствам вычислений, то был прогресс в новой области в сравнении с другими моделями и человеком.
Никто толком не знает, что такое общий интеллект не то что сверх) Но почему олимпийский принцип не перенести и на интеллектуальные соревнования? Тогда было бы логично. ЯМ соревнуются со всеми желающими, если хоть одному человеку проиграл, то пока он не превзошел возможности человека в решении любых задач. В том числе из списков нерешенных проблем наук подобные которым человек уже решал. Если превзошел всех, в том числе нерешенным проблемам, то ИИ становится ИСИ. А так выдается желаемое за действительное.
А оно корректное сравнение со средним человеком?
Можно долго обсуждать пользу и недостатки синтетических тестов. Их прохождение некоторый показатель прогресса. Но самый объективный тест, например, по физике приведен здесь) Решат ЯМ хотя бы оду из этих проблем, или существенно поспособствует, тест сравнения с возможностями человека к решению творческих задач буде пройден. Такие списки проблем имеются в каждой области знаний, вот в самих нейронауках. Экзаменаторы сама Вселенная, само сознание, сама неизведанная реальность.
В стать так и сказано демонстрация решения (вычисления) задач с дифурами в памяти. ЯМ (трансформеры) могут такие без обращения к внешним средствам, питону, и др? Известно, что у них пока проблемы с вычислениями. Обучение в перспективе может происходить на эмпирических данных на подобии этого (статья). Важно, что было использовано уже коммерческое решение от интел.
Менделеев не одномоментно отрыл периодический закон, и никогда официально не подтверждал версию со сном, здесь подробнее как произошло. Хотя говорили, что за рабочим столом он иногда подремывать) Интереснее история его озарения с 40 градусами)
Этот нахлебник нужен чтобы мягко регулировать поведения особей в желательном эволюции направлении, одновременно эксплуатируя полезную фичу произвольного (сознательного) поведения человеком и его планирования, если посмотреть на это с такой точки зрения. Как обычно эволюционный компромисс.
Само понятие воли артефакт рассмотрения проблемы поведения, его деления на отдельные акты для анализа а исследовательских целях. В реальности это непрерывный процесс в котором преобладают разные компоненты регуляции, которым может приписывается волевой импульс. Также, как в физических задачах возникает необходимость выделения системы, задания для нее начальных и иногда граничных условий, необходимых для ее решения. В природе этого нет.
Автор не учел в этой аналогии, что современные машины, самолеты и корабли могут быть оснащены автопилотами, и пилоты и капитаны при их работе действительно только получают уведомления о маневрах) У человека есть нечто подобное только намного сложнее устроенное. Но все это функционирует в предсказуемых условиях, чтобы разгрузить мозг, тогда преобладает поток управления снизу вверх. Это тот случай в опытах Либета. Когда условия становятся сложными, малопредсказуемыми, то автопилоты в технике отключают и пилоты и капитаны берет управление на себя. В мозге активизируются высшие иерархические отделы, чтобы делать предсказания в этих условиях и принимать наиболее оптимальные решения, и это может быть бессознательным процессом. В этом случае динамика активности мозга становится намного сложнее и запутаннее, потоки управления сверху могут преобладать над потоками снизу, и быть связанными с обучением и обновлением внутренних моделей. Это взгляд согласуется с современной теорией предиктивного кодирования (байесовском мозге / разуме) в когнитивной психологии, см. также более упрощенное представление о двойном процессе в мозге.
Стохастический попугай скорее шутка) Самое лучшее представление о ЯМ, и ИНС вообще, как о универсальных стохастических аппроксиматорах. На этот счет имеется множество доказанных результатов. Аппроксимирующая, авторегрессивная функция с миллиардами параметров, которые настраиваются в процессе обучения. Сразу понятно почему ЯМ иногда правильно выдают результаты, иногда нет, приближенно, а иногда откровенно врут. Именно поэтому, как вы и правильно заметили в статье, они имитирует мышление с помощью вычислений. В мозге "вычисления" аналоговые, физические, асинхронные, распределение, реализованные на электрохимическом биологическом субстрате (только метафорически напоминающем фоннеймановскую архитектуру вычислителей ИНС), который к тому же динамически меняется в ходе этих "вычислений".