Comments 90
А нельзя ли сделать «сильный» ИИ (а точнее коллективный разум) на основе Естественных интеллектов — людей, объединив их через сеть. Не знаю, как такое можно реализовать, но что-то типа «нейрон» ИИ (или группа) — это человек+ компьютер.
а с другой — в статьях про сильный ИИ много разных проблем, которые он, потенциально, может решить. бессмертие (в том числе и цифровое), болезни, экология, антигравитация (если это возможно), разобраться с «устройством» вселенной, космические перелеты, связь…
мало ли чего можно будет придумать. Детей люди сначала рожают, а уж потом они себе придумывают занятие.
Некоторые фантасты считают, что коллективный разум биологического вида — есть его следующая ступень эволюции.
Вы точно уверены что хотите, бы ИИ сам занимался поиском смысла своего существования? :)
наверное, он найдет «хороший» смысл своего существования.
но в первую очередь, интересно узнать — получится ли, и что именно получится, т.к. это, в общем-то, будет первый нечеловеческий разум, доступный для контакта (не берем Дельфинов и т.п., с которыми все не так понятно)
Тыкает пальцем почти в любую профессию, и вот оно. ИИ может работать 24/7 и зарплаты требовать не будет.
Сильный ИИ, кстати, не означает, что он умнее человека. Это — обозначение ИИ, способного выполнять все задачи, что и человек.
Почитайте Анатолия Левенчука.
Я не думаю, что правильно управлять и администрировать никто не умеет. Скорее не хотят, т.к. это не понравится человечеству.
Человек базируется на чувствах, которых не будет у ИИ (в теории), а рациональное управление очень жестокое. Это как технология — глючит память — ее надо выкинуть и купить новый. А теперь представим такое же «рациональное» решение по отношению, например, к правонарушителям или больным людям.
Странное представление о рациональности. Управление без учета человеческой психологии будет менее эффективным, а значит и не рациональным. Управление без учета репутационных издержек, тоже будет менее эффективным.
Если действительно рациональному ИИ потребуется кого-то выкинуть с работы, то он это сделает так, чтобы у человека не осталось неприятных впечатлений, или, если это невозможно, поставит человека в такую ситуацию, что ему самому придётся уйти и помалкивать об этом.
Связывать отсутствие эмоций и неспособность предсказать поведение человека, подверженного эмоциям — антропоморфизм. Мы предсказываем поведение других людей, представляя как бы мы поступили на их месте, но это не значит, что ИИ сможет действовать только таким образом.
ИИ может не испытывать эмоций в человеческом смысле, но как это может помешать ему строить модели поведения людей, включающие эмоциональные состояния, и использовать эти модели для эффективного управления?
Впрочем, продлится это недолго. Через год-два, когда ИИ, работающие в сфере производства элементной базы для ИИ, снизят стоимость внедрения ИИ, использование людей во всех этапах производства станет экономически неоправданным.
ИИ, уже без особых психологических тонкостей, выгонит оставшихся на улицу. К этому моменту массовые увольнения станут нормой и проблемой правительства страны, а не компании.
На работе останется только небольшое количество людей определенного психологического профиля. Они будут работать человеческим лицом компании. Опять таки по психологическим причинам. Человек, знающий что он имеет дело с андроидом, не сможет относится к нему как к человеку, даже если внешне андроид от человека не отличим. Поэтому лицом компании должны быть настоящие люди, не смотря на их недостатки. Естественно, до тех пор пока это имеет какое-то значение.
То есть руководящий ИИ в любой коммерческой организации будет принимать оптимальное решение и развитие организации будет зависеть только от её текущего состояния, набора состояний конкурентов (хорошо прогнозируется, так как ими управляет то же ИИ), и набора плохо прогнозируемых факторов, которых мало.
Сейчас конкуренция — это результат набора тех или иных решений управленцев. Как правильных, так и не правильных.
Результатов не было, поэтому и прикрыли. Не масштабировались их технологии на реальные задачи. Комбинаторный взрыв. Оказалось, что для выбора из огромного количества вариантов нужно формализовать здравый смысл. Так до сих пор этим и занимаются.
2) Текущие алгоритмы не имеют отношения к ИИ и являются просто алгоритмами, которые «делают что сказали».
Я например не возражаю если вы сидите на диване и на любые идеи смотрите скептически.
Но почему вы высказываете возражения на мои занятия?
Как будто ваш интеллект не алгоритм и делает хоть что-то, чего ему не "говорили". Разница лишь в том, кто именно "сказал": программист или эволюция.
Позитрон, притягивающийся к электрону, какую программу выполняет?
Если будет полное понимание работы данного биоалгоритма, то можно будет запилить эмулятор, а не пользоваться рандомом и надеяться на чудо.
Так сложилось, что единственный сильный разум который нам известен, это наш собственный и как ни странно, имеем довольно призрачное представление о его работе.
>Начнем с разбора почему, то что разрабатывают сегодня, не приведет к прорыву в этой области.
В область пришло огромное количество идей, из психологии, нейробиологии, математики, статистики, огромное количество алгоритмов и моделей. Что мы имеем в разборе? 0.
>Откопали алгоритмы 50 летней давности, для которых внезапно стало хватать мощностей.
Вы про персептрон? 50 лет назад и для него хватало мощностей. Только вот персептрон в наши дни используется только как некая упрощенная модель для примера. Если вы взгляните на любую из современных сетей, которые используются в реальных задачах, как например сеть для Google Translate, увидеть там нечто 50-летней давности уже крайне сложно. Это как говорить что вся современная физика это законы Ньютона, но чуточку другие.
>При этом, никто толком не рассказывает, зачем все же человечеству Сильный ИИ.
Из текущих применений: самоуправляемые автомобили и в перспективе самолеты/корабли, помощь в диагностике и лечении болезней, обработка и выделение различных закономерностей в огромных потоках данных(как те, которые генерирует БАК). И это только малая часть всей истории.
>Возьмем все эти фото котиков и сделаем из них среднего арифметического котика в вакууме. При этом, чем больше фото котиков мы скормим, тем лучше будет узнавание при сравнении новой фото со средне арифметическим фото котиков.
А это то тут при чем? По вашему нейронные сети созданы для усреднения картинок? Вы хоть что-то понимаете в этой области?
Извините конечно, но по-моему настолько бестолковым постам вообще не место на проектах ТМ. С таким мышлением Вам самое место в госдуме.
у меня есть свой проект, который я развиваю потихоньку.
в нем использую TensorFlow для определенных задач, которые в принципе можно решить и моим алгоритмом, но нужно потратить некоторое время на объяснения. А со временем у меня туго очень.
С радостью, давайте по конкретике.
Насчет современных нейронных сетей, вот вам пример — Переводчик Google Translate подключили к нейросети. Лично я не видел подобных алгоритмов в литературе даже более 5-летней давности, про 50 и говорить не стоит. Может ли он делать что-то вразумительное? Опять же, как на это посмотреть. Прикиньте для примера, насколько хорошо вы переводите с французского на английский. Задача не из легких. Этот алгоритм делает это практически на уровне профессионалов. Конечно он не рисует картины, не сочиняет музыку и не пишет посты сомнительного содержания, но с той работой, на которую его обучили, он справляется вполне достойно. Подобные примеры Вы легко можете найти в гугле по темам самоуправляемых автомобилей, диагностика болезней(в частности рака) с помощью ИНС, и в принципе можно было бы привести и другие примеры, но не в этом суть.
Как еще более конкретно? В чем из приведенного выше, как Вам кажется, лежит принципиальная граница, которые нейросети не смогут перейти?
>находить зависимости в больших массах данных, ну не путь это к интеллекту…
Почему? Это вполне распространенное мнение среди психологов, что распознавать сложные паттерны это одна из «высших» функций интеллекта.
>у меня есть свой проект, который я развиваю потихоньку.
Какой проект? Причем здесь он?
>В нем использую TensorFlow для определенных задач
Tensorflow к ИИ имеет очень посредственное отношение, это просто один из инструментов для общих математических вычислений и для построения очень ограниченного класса ИНС. Причем здесь он?
>которые в принципе можно решить и моим алгоритмом, но нужно потратить некоторое время на объяснения.
Ну как бы типо это да. Какой алгоритм? Каких задач?
>А со временем у меня туго очень.
Видимо конкретику в этом обсуждении буду приводить только я. Увы, так у нас беседа не выйдет.
Причем в одном посте вы умудряетесь противоречить самому себе. «то собаки лают, то руины говорят».
Сначала вы приводите переводчик от гугля. И тут же топчете TensorFlow на которой скорее всего и реализована модель переводчика. И все сводится к статистическому усреднению. В данном случае зависимость некоторых слов от других, тоесть так называемого контекста и подбор правильного перевода согласно этой зависимости.
Где? Перечитал, в упор не вижу.
>Сначала вы приводите переводчик от гугля. И тут же топчете TensorFlow на которой скорее всего и реализована модель переводчика.
Я не «топчу» Tensorflow, где вы это увидели? Я утверждаю, что TensorFlow это лишь инструмент. При вычислении этой модели, я почти уверен что они использовали также процессоры, а для их работы нужна система охлаждения. Но все это абсолютно иррелевантно к теме беседы.
>И все сводится к статистическому усреднению.
Вот тут я чуть не упал. Нифига себе вы эксперт. Люди потратили годы, некоторые большую часть своей жизни, чтобы разобраться в реальной динамике нейронных сетей, а вы тут бац и все по полочкам. Нет слов.
Даже относительно простая нейронная сеть, как та что используют в Google Translate, как Вы свели ее к статистическому усреднению? Если вы действительно сможете дать этому вразумительное объяснение, я почти уверен что Вам дадут медаль, а может и не одну.
>В данном случае зависимость некоторых слов от других, тоесть так называемого контекста и подбор правильного перевода согласно этой зависимости.
Вы кажется даже не прочитали эту статью, и уж наверняка не поняли.
Не знаю про какие нейронные сети вы говорите, но про «усредняющие» я не слышал. Возможно они есть, но лишь как пример для маленьких детей. Реальные же работают в несоизмеримое число раз сложнее.
>потом считаем сколько слоев посчитало ДА а сколько ответило НЕТ
…
…
… что?
> главное это объем подготовленной информации для обучения.
Рад, что вы хоть это понимаете. Хотя видимо и то туго, раз не имея той самой обучающей информации Вы размышляете о высоких материях ИНС поувереннее самых выдающихся людей этой области.
>так и в чем же отличие от усреднения?
Нелинейность. Это ключевое и базовое свойство любой современной нейронной сети.
Если же Вы не понимаете даже самых основ, как Вы можете с такой уверенностью рассуждать об этом?
Я никого не призываю ни во что слепо верить. Как раз наоборот, собрать как можно больше информации прежде чем что-либо утверждать. Или, хотя бы, просто загуглить. Если бы Вы сделали это прежде чем писать этот пост, вся его несостоятельность Вам стала бы очевидна очень быстро.
Но, по сути, Вы уже просто переводите тему. Кажется, беседа окончена.
Конечно. Каждый имеет свое мнение основанное на доступных ему данных.
>То есть теории от корпораций, что если яко бы увеличить количество нейронов до безобразия то это приведет к созданию интеллекта, вас устраивает.
Большинство «корпораций» как раз предполагают несостоятельность ИНС для создания сильного ИИ. Я же имею другую точку зрения.
>А то что нейросети максимум чего смогут достичь это нечто наподобие животных инстинктов вам не нравится.
Вы когда-нибудь видели черепах за рулем автомобиля? Или птиц, которые по снимкам распознают раковые клетки? По-моему, это вообще имеет мало общего с животными инстинктами.
>Разница между мной и теми на кого вы ссылаетесь в том что им нужно получать инвестиции и рассказывать сказки инвесторам.
Это абсолютно очевидно, даже упоминать об этом не стоило. Давайте не будем вовлекать совершенно другие материи в беседу.
>Мне это не нужно и я могу себе позволить сомневаться в любом их утверждении.
А я, по-вашему, нет? Как я уже писал выше, мое мнение значительно расходится с большинством этих «корпораций».
>Вы же, гуглите маркетинговый бред
По вашему это все чем я занимаюсь? Сижу и гуглю какой-то «маркетинговый бред»? Это настолько тупо, что даже оскорбительно. Нет, я занимаюсь не этим. Иногда я читаю этот «маркетинговый бред», чтобы примерно представлять над чем сейчас работают эти «корпорации». Но это лишь маленькое хобби.
>и объявляете его истинной в последней инстанции :)
Где? Что? Когда?
В предыдущих постах мы лишь выяснили в чем был корень вашего заблуждения насчет тех ИНС, которые в основном сейчас разрабатывают те самые «корпорации». Если же даже само математическое свойство нелинейности Вы относите к маркетинговому бреду, то я вообще не представляю как с вами обсуждать что-либо.
> давайте больше конкретики
Это ваши слова. И я так же ожидаю от Вас больше конкретики. Может хватит повторять про маркетинговый бред и корпорации?
1) Входы есть. Сейчас их мало, например у лучших сетей для картинок в среднем подаётся матрица 224x224. То бишь зрение хоть и плохенькое у ИИ есть. Дальше добавить туда входы для звука, вкусовые рецепторы, какие-то рецепторы для осязания и.т.д. Выходы соединить со всякими сервоприводами и генераторами звука, например.
2) В текущих нейронках используется простейший подход: сначала учим, потом юзаем. Что бы сделать максимально близкое к человеку — надо что бы они учились непрерывно и использовались параллельно.
3) В текущем виде нейронные сети слишком маленькие для каких-либо серьезных задач. При этом жрут дофига мощностей. Так что что бы на их основе сделать что-то приемлемое потребуется дальнейшее развитие микроэлектроники.
Нейросеть обучается решать задачки на абстрактное мышление: https://arnabgho.github.io/Contextual-RNN-GAN/
Может статься, что создание сильного ИИ позволит нам понять что мы такое есть. Тогда, само по себе это знание может оказаться важнее или опаснее всего, что может делать ИИ. Представьте себе, что у нас есть полное математическое понимание как работает эмпатия, любознательность, мотивации, ЧСВ, депрессия, страх смерти и так далее. Что бы вы не переживали, вы можете разобраться в этом так же как можно разобраться в работе программ и фреймворков. Человек превратится в алгоритм, который знает самого себя и пытается фиксить самого себя. Не зависнем ли мы вообще после этого? Пока не попробуем не узнаем же.
Ну в дальний космос например с ним полетим. Будем дрыхнуть в анабиозных кроватках, а он пущай штурвал крутит. Главное, чтобы люки не открыл и в пространство всех не вышвырнул. Мало ли что ему там взбредет. Вдруг начитается Лурка по дальней лазерной связи и решит, что он может очень интересно тролить так. И наверное ИИ все таки будет сильно ограничен определенным вектором знаний.
Вояджеры полетели в дальний космос и сильный ИИ им для этого не потребовался. От слова совсем.
Даже если говорить о человеческом разуме, мы уже примерно (возможно ошибочно) представляем, как у человека в голове появляются ответы. Но откуда, черт побери, берутся вопросы? Ведь именно они являются драйвером для любых рассуждений, для любого мыслительного процесса. Без них не может развиваться мысль.
Если подумать, что может сделать искусственный интеллект, имея набор фактов и правил, если будет способен рассуждать логически? Ну, например, сделать все возможные выводы из имеющихся фактов, по имеющимся правилам. В результате получатся новые факты, и можно будет сделать новые выводы. В итоге он, рано или поздно, придет к состоянию, когда все возможные выводы сделаны и все факты открыты. Сколько на это потребуется времени и вычислительных ресурсов, и достижимо ли это вообще, это отдельный вопрос. Просто предположим что это возможно. Казалось бы, это то что нужно, так можно получить все возможные знания. Но человеческий разум работает совершенно не так. Он сам ставит цель, а потом пытается ее достичь. Задает конкретный вопрос и затем ищет ответ именно на на него. Наш же гипотетический ИИ применил все имеющиеся правила ко всем имеющимся фактам. И отсюда возникает вопрос, а можно ли назвать такой искусственный интеллект сильным? Можно ли это вообще назвать интеллектом в полном смысле слова? На мой взгляд нет. Это очень полезная штука, но это не то, что я бы назвал интеллектом. Во всяком случае, личности своей у него точно нет. А, на мой взгляд, у сильного ИИ она должна быть.
В чем выражается личность? Как она себя проявляет? Прежде всего задаваемыми вопросами. Допустим, ответы, разум, будь он искусственный или естественный, должен давать, опираясь на логику и имеющиеся факты, иначе он просто будет не очень-то разумен. Но чем тогда отличаются две личности? Тем, какие вопросы они будут задавать. Это трудно формализовать, но интуитивно это вполне понятно: наша личность сильнее всего выражается в том, что является предметом нашего интереса. Кто-то интересуется наукой, а кто-то азартными играми. Первый будет задаваться вопросами о том, как устроен мир и почему, а второй — на какое число поставить деньги в рулетку. При этом они оба даже могут пользоваться одинаковыми инструментами в своих поисках: матан, теория вероятностей. Но не процесс отражает их личности, и не полученные ответы, а первоначально заданный вопрос.
Вы любезный сравниваете бутылку с запиской и новейший атомный крейсер проекта " Борей ", вы в следующий раз извилину в голове напрягите прежде чем такие сравнения делать, а то как-то глупо выглядите.
> зачем все же человечеству Сильный ИИ? Ну в дальний космос например с ним полетим.
Мой ответ — не нужен ИИ, чтобы полететь в дальний космос, полетели уже без ИИ.
Ваш комментарий. Вояджеры — это полная ерунда, как записка в море, вот атомный крейсер — это вещь, 21 век и прочие инновационные технологии. Только вот я не уверен, что при комплексной работе систем атомного крейсера хоть как-то используется ИИ, чтобы Вы под ним не понимали. Тем не менее я могу ошибаться (оборонка, всё секретное), тогда хоть намекните как искусственный разум помогает подводным лодкам функционировать?
ps
Вообще весь класс таких тем надо начинать с определений. Определений ИИ очень много, они размыты. Для одних любая узкая экспертная система — это полноценный работающий ИИ. Для других требуется приставка нейро. Третьим подавай полноценное вербальное общение.
Зато есть огромное число алгоритмов, которые работают везде и которые никто интеллектуальными не обзывает. В том числе и Вояджеры, ИИ на борту нет, а дальний космос есть.
Слышали ли вы что-нибудь про рекуррентные NN, про LSTM? Про обучение с подкреплением? ИНС это не только классификатор, преобразующих N входов в M выходов.
Сигналы из этой сети поступают в другие сети или алгоритмы, а там уже принимаются решения и всё такое.
Имхо, за многоагентными системами будущее, и я сам потихоньку пилю собственную…
Это как с мозгом — он состоит из множества отделов, которые выполняют разные задачи и по отдельности их вряд ли можно назвать шибко интеллектуальными, это скорее «тупые» органические автоматы, но в сумме они образуют сложный естественный интеллект, который мы наблюдаем у здоровых людей…
Собираем «сильную форму ИИ» на коленке…