Comments 16
Прелесть этого концепта отчасти в том, что мы не можем предсказать, что же может случиться после того, как наступит этот момент
In the grim darkness of the future, there is only war.
In the grim darkness of the future, there is only war.
Эволюция информационных систем в живых организмах proza.ru/2019/01/25/267
если посмотреть на КПДВ, то там на самом деле два состояния AI
Narrow AI
General AI
потому что супер AI — это тот же General AI, только включенный 24х7 и работающий над следующей версий General AI.
Narrow AI
General AI
потому что супер AI — это тот же General AI, только включенный 24х7 и работающий над следующей версий General AI.
Обобщил неплохо!
Теперь бы что-то вроде «собственных соображений на тему AGI» — куда копаем-то?
Теперь бы что-то вроде «собственных соображений на тему AGI» — куда копаем-то?
Спасибо!
Это была разведка области, понять, что вообще происходит. Некоторый вектор интересующего применения образовался (прослеживается в статье), а теперь нужно переходить от теории к практике, пробовать до чего руки дотянутся.
Насчёт «куда копаем» сложно ответить, но более подробно ответить на вопрос «а что выкопали» и «как это потрогать» — вполне посильно. Теория теорией, но часть ответов нужно искать самому опытным путём)
Это была разведка области, понять, что вообще происходит. Некоторый вектор интересующего применения образовался (прослеживается в статье), а теперь нужно переходить от теории к практике, пробовать до чего руки дотянутся.
Насчёт «куда копаем» сложно ответить, но более подробно ответить на вопрос «а что выкопали» и «как это потрогать» — вполне посильно. Теория теорией, но часть ответов нужно искать самому опытным путём)
Очередная словоблудная статья о GAI, где автор описывает что он не понимает и чего не достигли все другие вокруг. Строит странные графики, рисует картинки ни о чем, вспоминает проекты, которые почти ничем не закончились, придумывает новые плохо определенные термины, которые нигде ранее не встречались и которые умрут вместе с этой статьей. Потом переходит к обсуждению разного понимания терминов, что тоже фактически является безрезультативным словоблудием. Словоблудность и неочемность этой статьи можно разбирать по предложениями и абзацам. Но это грустно, скучно и непродуктивно.
Я предлагаю же вообще не обсуждать GAI, когда автор хоть в общих чертах не понимает что такое GI!
У нас есть полноценный работающий показывающий результаты интеллект. Почему все отворачиваются от исследования его и сразу упираются в Искусственный GI?
Почему перед постройкой банального паровоза все понимают, что сначала надо исследовать свойства пара и кипение воды (а еще металлургию, сопромат), а только потом строить паровоз. Почему GAI сразу начинают строить без малейшего понимания, а в основном опираясь на собственные (или даже чужие) фантазии?
Любую статью по GAI я предлагаю начинать с рассказа автора что конкретное он понимает под GI, без всякого обсуждения GAI. Понятно, если вкратце, что GAI это GI «живущий» в компьютере. Но есть конкретные вопросы.
Какие функции выполняет GI в природе?
Как предположительно GI развивался в природе? Что дало импульс к его развитию и почему это вообще стало возможным?
Чем GI человеческого типа отличается от мозговой деятельности высших животных и насекомых?
Я предлагаю же вообще не обсуждать GAI, когда автор хоть в общих чертах не понимает что такое GI!
У нас есть полноценный работающий показывающий результаты интеллект. Почему все отворачиваются от исследования его и сразу упираются в Искусственный GI?
Почему перед постройкой банального паровоза все понимают, что сначала надо исследовать свойства пара и кипение воды (а еще металлургию, сопромат), а только потом строить паровоз. Почему GAI сразу начинают строить без малейшего понимания, а в основном опираясь на собственные (или даже чужие) фантазии?
Любую статью по GAI я предлагаю начинать с рассказа автора что конкретное он понимает под GI, без всякого обсуждения GAI. Понятно, если вкратце, что GAI это GI «живущий» в компьютере. Но есть конкретные вопросы.
Какие функции выполняет GI в природе?
Как предположительно GI развивался в природе? Что дало импульс к его развитию и почему это вообще стало возможным?
Чем GI человеческого типа отличается от мозговой деятельности высших животных и насекомых?
Спасибо, куда ж без словоблудия)
Исследованием мозга обычно занимаются другие специальности (как биологической, так и когнитивной стороны), получается не-специалистом в этой области нужно сидеть и ждать, пока же они определять, что есть интеллект?
Насчёт отслеживания эволюционного развития мозга интересные вопросы, но на деле я не особо понимаю, как ответы на них поможет достижению поставленной цели? Это больше будет акцент на применение (зачем то он возник), а понимание как оно эволюционировало вряд ли даст преимущество, оперируем то мы не над созданием биологического мозга.
Исследованием мозга обычно занимаются другие специальности (как биологической, так и когнитивной стороны), получается не-специалистом в этой области нужно сидеть и ждать, пока же они определять, что есть интеллект?
Почему все отворачиваются от исследования его и сразу упираются в Искусственный GI?Никто же не отворачивается, одни пытаются разобрать мозг, другие понять процессы, третьи попытаться создать подобие ИИ «грубой силой». Здесь же про паровоз — как основная цель не стоит задача создания копии мозга (что и требует разбора и методичного подхода), интересует именно из костылей и палок создать что-то, что будет хорошо выполнять интеллектуальные задачи.
Насчёт отслеживания эволюционного развития мозга интересные вопросы, но на деле я не особо понимаю, как ответы на них поможет достижению поставленной цели? Это больше будет акцент на применение (зачем то он возник), а понимание как оно эволюционировало вряд ли даст преимущество, оперируем то мы не над созданием биологического мозга.
Исследованием мозга обычно занимаются другие специальности (как биологической, так и когнитивной стороны), получается не-специалистом в этой области нужно сидеть и ждать, пока же они определять, что есть интеллект?Если вы не хотите сидеть и ждать, то необходимо двигаться вперед. Становясь специалистом во всех этих областях. Вероятно, не стоит зарываться очень глубоко а понимать, что будет существенно для GAI в мозге, а что нет. То и изучать. По крайней мере я так пытаюсь делать. В любом случае все эти исследователи исследуют какие-то свои определенные области в мозге. Я же например читая работы других исследователей 302 нейронного мозга Caenorhabditis elegans понял как сложная память может состоять всего из 1 нейрона (на самом деле участвуют больше, но фактически память сконцентрирована в одном единственном) и работать крайне эффективно в реальном сложнейшем мире (мириадов видов бактерий и простейших) спасая жизнь червю и увеличивая его шансы на выживание.
Никто же не отворачивается, одни пытаются разобрать мозг, другие понять процессы, третьи попытаться создать подобие ИИ «грубой силой».Получается рассказ как слепые щупали слона. Но в любом случае я еще ни разу не видел и не читал, чтобы хоть кто-то из пытающихся вменяемо сказал что конкретно он делает. У GAI есть множество нетривиальных свойств и особенностей, опуская которые мы ничего вразумительного в результате не получим в принципе. В общем пока пытающиеся всегда без исключения демонстрируют минимальное понимание того, что они пытаются сделать. Соответственно и нулевой результат. А понимание пытающегося можно определить задав ему все те же вопросы:
Какие функции выполняет GI в природе?
Как предположительно GI развивался в природе? Что дало импульс к его развитию и почему это вообще стало возможным?
Чем GI человеческого типа отличается от мозговой деятельности высших животных и насекомых?
Насчёт отслеживания эволюционного развития мозга интересные вопросы, но на деле я не особо понимаю, как ответы на них поможет достижению поставленной цели?Дело в том, если вы что-то вообще не понимаете попытайтесь понять это по шагам. Эволюция в нашем мире идет по пути повторного использования ранее найденных решений добавляя к ним новые найденные решения в новых видах. С GI именно так и есть. В человеческом мозге есть части, которые сформировались еще у рыб. И эти части даже работают почти также и выполняют такие же функции. Не поняв даже как они работают, мы врядли что-либо вообще поймем. А эта часть должна быть в тысячи раз проще, чем все остальные части и их функции.
оперируем то мы не над созданием биологического мозга.Из того, что я понял у меня сложалось впечатление, что нам придется очень много чего похожего на биологический мозг делать (не важно делая это программно или аппаратно), если мы захотим получить GAI. Пример эффективной памяти состоящей из одного единственного нейрона иллюстрирует эту идею. И эта память превосходит в тысячи раз наши существующие попытки сделать то же самое в виде недонейронных компьютерных сетей.
Так а где ваша замечательная статья обо всех ваших гениальных озарениях? Раз вы такой специалист во всех вопросах — я уверен всем небезразличным к данной теме было бы очень любопытно ознакомится с вашими изысканиями! Рассказали бы, хотя бы тезисно…
>>>У GAI есть множество нетривиальных свойств и особенностей, опуская которые мы ничего вразумительного в результате не получим
Просто необходимо представить на суд общественности это самое «множество»!
>>> Пример эффективной памяти состоящей из одного единственного нейрона
Ну и конечно ни одна дискуссия не будет полной, без принципиальной схемы этого невероятного «единственного нейрона». ;)
>>>У GAI есть множество нетривиальных свойств и особенностей, опуская которые мы ничего вразумительного в результате не получим
Просто необходимо представить на суд общественности это самое «множество»!
>>> Пример эффективной памяти состоящей из одного единственного нейрона
Ну и конечно ни одна дискуссия не будет полной, без принципиальной схемы этого невероятного «единственного нейрона». ;)
Так а где ваша замечательная статья обо всех ваших гениальных озарениях? Раз вы такой специалист во всех вопросах — я уверен всем небезразличным к данной теме было бы очень любопытно ознакомится с вашими изысканиями! Рассказали бы, хотя бы тезисно…Приписывание мне специализации во всех вопросах я отношу к любви к троленью. Боюсь, что если возмущенная общественность (в количестве 1 тушка) в моих предыдущих комментариях к этой статье по существу прочитала и поняла только шиш и немножко, врядли этой возмущенной общественности помогут конкретные схемы, чертежи, явки и пароли. Они только ее еще больше возмутят.
Если же я и буду писать статью, то точно не на Хабре. Первые несколько минусов в карму я получил пытаясь обсуждать в комментариях мою первую и зверски заминусенную статью. С годами статья набрала больше позитивных оценок, существенная же часть минусящей возмущенной общественности испарились в неизвестном направлении, как будто ее и не было, а минусы со мной остались. Так что Хабр это не то место где стоит писать серьезные материалы.
Ну и конечно ни одна дискуссия не будет полной, без принципиальной схемы этого невероятного «единственного нейрона». ;)А еще возмущенно-веселая общественность может построиться среди себя и отправиться, нет не туда куда она подумала, а в Гугл. И поискать там Caenorhabditis elegans. Найти статьи посвященные строению нервной системы, далее отобрать статьи посвященные обучению и внимательно их прочитать. После чтения 20-30 статьи она точно будет знать и не только «принципиальную схему» :) и не только «единственного нейрона». Немного ускорить процесс поможет чтение статей на OpenWorm по тематике обучения. Только надо честно читать и честно думать о прочитанном, а не о том, что еще можно заминусовать на Хабре.
Первые несколько минусов в карму я получил пытаясь обсуждать в комментариях мою первую и зверски заминусенную статью.
Я согласен с возражениями в комментариях там. На приведенном вами графике недостаточно данных, чтобы сделать приведенные вами выводы. Независимо от того, соответствуют ли эти выводы реальному положению дел или нет.
И 11 минусов это не так уж много, тем более за статью с недостаточно обоснованными рассуждениями.
>>>> Первые несколько минусов в карму я получил пытаясь обсуждать в комментариях мою первую и зверски заминусенную статью.
Ну я примерно так и предполагал… И с тех пор вы очевидно мстите? ;) Или может быть вы считаете что в презрительно-пренебрежительно менторской манере отзываясь о других (в отсутствии сколько-нибудь конструктивной критики либо собственных соображений — исключительно с отсылкой на «20-30 статей по теме») вы чем-то лучше тех, кто минусит?
Вам не приходило в голову, что минуса вам ставят (особенно в карму) за манеру общения? Сами же пишете, что статья в конечном итоге получила нормальный рейтинг, в отличие от кармы. Статью, я бы, кстати, плюсанул (если б срок не вышел) — не за корректность подхода, а как неплохую затравку для дискуссии!).
Ну я примерно так и предполагал… И с тех пор вы очевидно мстите? ;) Или может быть вы считаете что в презрительно-пренебрежительно менторской манере отзываясь о других (в отсутствии сколько-нибудь конструктивной критики либо собственных соображений — исключительно с отсылкой на «20-30 статей по теме») вы чем-то лучше тех, кто минусит?
Вам не приходило в голову, что минуса вам ставят (особенно в карму) за манеру общения? Сами же пишете, что статья в конечном итоге получила нормальный рейтинг, в отличие от кармы. Статью, я бы, кстати, плюсанул (если б срок не вышел) — не за корректность подхода, а как неплохую затравку для дискуссии!).
А вот про сложность и эффективность памяти Caenorhabditis elegans поподробнее, пожалуйста. Если «память состоит из 1 нейрона, но участвуют больше», то это большее число нейронов нельзя просто взять и выкинуть из системы, не потеряв положительные свойства памяти, да? Тогда нельзя говорить, что такая эффективная память состоит всего из 1 нейрона.
И про эффективность, что имеется в виду? Во всяком случае, про естественное распараллеливание нейронных сетей в природе за счёт «аналоговых вычислений» и превосходство их в этом относительно нейросетей искусственных, где требуется многие GPU, либо TPU и т.д. + немалые ватты электроэнергии, известно. Но, несмотря на это, в го искусственная нейросеть всё равно смогла уверенно превзойти человека — хотя бы за счёт своих «фишек» в виде суперскоростного самообучения. Это наводит на мысль, что для получения GAI в будущем не обязательно ставить на первое место эффективность, допилить её можно и потом в виде более хороших аппаратных решений.
Если говорить о превосходстве одного вида памяти над другим, то у компьютерной памяти тоже есть своё преимущество — в точности, а для человеческих нужд зачастую нужно именно это, а не «maybe» при вспоминании естественным мозгом. Так что вероятнее всего, при реализации GAI будет смесь природных идей и чисто технических решений, как, скажем, при проектировании самолёта, и не факт, что в созданном GAI останется много от природных нейронов и их функционирования, кроме общих логических принципов вроде суммирования входов и активации. У DeepMind вроде было исследование, направленное на объединение «вероятностной» нейросети и точной компьютерной памяти для улучшения поведения искусственных агентов.
Но исследовать естественный мозг, конечно, тоже нужно, хотя бы ради нахождения общих принципов работы. Ведь кажется, исходя из ограниченности размера ДНК (где генов, ответственных за формирование мозга, должно быть ещё меньше), что закономерности обработки информации в мозге (имеются в виду не исключительно сложная реализация в виде химических процессов, а сама высокоуровневая обработка информации) не должны быть сложными и многочисленными — скорее, это сравнительно небольшой набор, распространяющийся на весь мозг. Принципы работы машины Тьюринга вон просты, а сколько сложных программ можно создать на их основе.
Во всяком случае, попытки улучшить поведение исскусственных агентов на основе особенностей мозга людей и животных продолжаются — скажем, в работах той же DeepMind: 1, 2, 3.
И про эффективность, что имеется в виду? Во всяком случае, про естественное распараллеливание нейронных сетей в природе за счёт «аналоговых вычислений» и превосходство их в этом относительно нейросетей искусственных, где требуется многие GPU, либо TPU и т.д. + немалые ватты электроэнергии, известно. Но, несмотря на это, в го искусственная нейросеть всё равно смогла уверенно превзойти человека — хотя бы за счёт своих «фишек» в виде суперскоростного самообучения. Это наводит на мысль, что для получения GAI в будущем не обязательно ставить на первое место эффективность, допилить её можно и потом в виде более хороших аппаратных решений.
Если говорить о превосходстве одного вида памяти над другим, то у компьютерной памяти тоже есть своё преимущество — в точности, а для человеческих нужд зачастую нужно именно это, а не «maybe» при вспоминании естественным мозгом. Так что вероятнее всего, при реализации GAI будет смесь природных идей и чисто технических решений, как, скажем, при проектировании самолёта, и не факт, что в созданном GAI останется много от природных нейронов и их функционирования, кроме общих логических принципов вроде суммирования входов и активации. У DeepMind вроде было исследование, направленное на объединение «вероятностной» нейросети и точной компьютерной памяти для улучшения поведения искусственных агентов.
Но исследовать естественный мозг, конечно, тоже нужно, хотя бы ради нахождения общих принципов работы. Ведь кажется, исходя из ограниченности размера ДНК (где генов, ответственных за формирование мозга, должно быть ещё меньше), что закономерности обработки информации в мозге (имеются в виду не исключительно сложная реализация в виде химических процессов, а сама высокоуровневая обработка информации) не должны быть сложными и многочисленными — скорее, это сравнительно небольшой набор, распространяющийся на весь мозг. Принципы работы машины Тьюринга вон просты, а сколько сложных программ можно создать на их основе.
Во всяком случае, попытки улучшить поведение исскусственных агентов на основе особенностей мозга людей и животных продолжаются — скажем, в работах той же DeepMind: 1, 2, 3.
Проблема кофе-теста в данный момент, это скорее дороговизна, ненадежность и низкая энергоэффективность платформы. В случае решения этой проблемы, создание робота помощника по дому не составит проблемы. Задача лишь в возможности предоставить его услуги дешевле 3-5$ в час. Аналогично и для всех не специфических специальностей, как только станет дешевле — так сразу. К сожалению, по мере внедрения роботов цена рабочей силы падает и Ахиллесу надо догонять черепаху. Для некоторых специфических специальностей, робот вообще никогда не заменит человека. Колледж-тест мне кажется надуманным, так как робот обучается не так как человек и нет никакой причины в точности эмулировать поведение человека.
Человеческий мозг в компьютере, а не в черепе вещь интересная как сама по себе (понимания процессов обучения и памяти), так же интересная в контексте бессмертия, возможности ускорить или замедлить его работу. К сожалению, у нас тут пропасть по энергоэффективности. И пока не намечается паритета даже близко. Вероятно, он невозможен, кремний сам по себе больше и тяжелее углерода.
Человеческий мозг в компьютере, а не в черепе вещь интересная как сама по себе (понимания процессов обучения и памяти), так же интересная в контексте бессмертия, возможности ускорить или замедлить его работу. К сожалению, у нас тут пропасть по энергоэффективности. И пока не намечается паритета даже близко. Вероятно, он невозможен, кремний сам по себе больше и тяжелее углерода.
"Кофе-тест" и правда теоретически можно решить и текущими средствами, зашитых правил + зрения хватит, упс. На тот же Spot уже прицепили руку, так что разгромив половину дома он всё же пройдёт его. Только да, такой дорогой помощник по дому никому не нужен (пока). Про колледж тоже верно, дай такому доступ в интернет — за ночь изучит все программы.
Насчёт энергоэффективности хорошее замечание, я забыл про него упомянуть. В этом плане мне нравится подход сделать хоть какой-то AGI, а он пусть потом придумает как это всё эффективно делать.
С удовольствием прочёл, спасибо)
Sign up to leave a comment.
Artificial General Intelligence — поиски Святого Грааля искусственного интеллекта