Искусственный интеллект — Open Source или Proprietary?

    Не хотел оформлять в опрос, поэтому давайте так обсудим. :)

    Представим гипотетическую ситуацию, когда какой-нибудь Гениальный Программист создал у себя дома программу, которая полностью может претендовать на звание Искусственного Интеллекта. Собственно, она им и является, правда, пока еще не умеет чувствовать, но думает куда как хорошо. И вот, в один прекрасный момент, Программист решает показать ее миру. В этот же момент он осознает, что ему придется решить одну важную проблему: Каким образом дать миру это знание? И тут у него есть четыре варианта:

    1. Выложить все исходники, документацию и прочие вещи в интернет в свободный доступ.


    Да, знание — это чертовски важная вещь и им нужно делиться с другими людьми. Тем более, знанием такого рода. Оно буквально перевернет весь мир, но в лучшую или худшую сторону — пока не ясно. Ведь обязательно найдутся люди, которые употребят его во зло. Ими могут быть военные, хакеры, просто дурная школота. Но это не суть. Мы получаем массу ИИ, каждый из которых умеет многое, плюс еще то, чему его обучат хозяева.

    2. Выпустить хорошо защищенный проприетарный продукт.


    Наш Программист гениален, поэтому сумел создать такую защиту, которую обойти (взломать, декомпилировать, повторить) просто невозможно. Он делится знанием с другими, причем нас не интересует, платно или бесплатно. Код защищен. ИИ подчиняется тому, кому принадлежит, но вместе с тем, должным образом запрограммирован от совершения плохих поступков. Запрограммирован на работу в определенной области и не в состоянии работать в другой. Он не будет ломать сайты, банки и запускать ядерные боеголовки. Похоже на первый вариант, но как-то спокойнее. Конечно, могут объявиться люди в черном, которые начнут ломать пальцы и жечь паяльником кожу, чтобы получить исходники. Жизнь — жестокая вещь.

    3. Продать все сразу тому, кто больше заплатит.


    Например, Гуглу или Яндексу. Майкрософту или Эпплу. Правительству или мафии. Основать свою компанию. В итоге получается, что ИИ владеет одна контора, которая дает доступ к нему третьим лицам. Да, на всю планету только один ИИ. Он грандиозен и умеет почти все. Конечно, его назовут «Скайнет».

    4. Уничтожить исходники и забыть о них на всю жизнь.


    Возможно и такое. Может наш Программист просчитал варианты и понял, что безопаснее всего не давать людям такое знание. Может, он испугался чего-то. Например, восстания ИИ или войны с участием ИИ. Всякое бывает, и чтобы не уничтожать род людской, он, не читая строчек на экране: "01000010 01101001 01110100 01100101 00100000 01101101 01111001 00100000 01110011 01101000 01101001 01101110 01111001 00101100 00100000 01101101 01100101 01110100 01100001 01101100 00100000 01100001 01110011 01110011 00100001", выдергивает шнур из розетки, вытаскивает винчестер и разбивает его молотком.

    Как бы вы поступили на месте Программиста? Какой из вариантов выбрали? Или, может, есть иные пути?

    Similar posts

    AdBlock has stolen the banner, but banners are not teeth — they will be back

    More
    Ads

    Comments 140

      +3
      Я бы придумал что-нибудь своё, работающее на этом ИИ — полезное и безопасное, и анонимно показал миру. Например, музыкального композитора. А дальше уж видно будет.
        0
        Музыкальные композиторы были созданы ещё в 60-70-е годы прошлого века
          0
          Мне не известно о шедевральных работах таких композиторов :)
            0
            пробел под и попал
              0
              Вы знаете, а есть много просто композиторов, о которых вы даже слыхом не слыхивали. Вот и этот ИИ, придуманный программистом, будет писать простенькую добротную музыку. Или добротный код. Или снимать кино такое же и т.п. Но скорее всего, будет просто управлять контролем качества выпускаемой продукции
                0
                Так ведь ты же совсем недавно на свет появился.
                Да и вообще, если тебе ничего неизвестно об этих разработках, это не значит, что их нет.
                  0
                  Я очень увлекаюсь музыкой, и мне немного известно об этих разработках. Я просто привёл пример. Было бы интересно послушать музыку, не просто основанную на законах, выведенных психологами и прочими учёными, которые расписывают воздействие тех или иных параметров звука на наш мозг.
                  Представьте: вы «настроили» свою машину на плохое настроение, и она нарисовала вам обоину в тему, написала лирическое стихотворение, умиротворяющую мелодию. Это только вариации на тему :)
                    0
                    у pinnacle studio есть интересное дополнение для видео монтажа, зовется smatrsound вроде, точно уже и не помню, советую посмотреть, незнаю алгоритма ихнего но музыка у них получается чуть ли не бесконечная и интересная, основаная на том что уже было написано людьми…
          • UFO just landed and posted this here
              +3
              Это, если ИИ не познает себя, как противника человечеству. Тогда он точно начнет выпускать глючную коробочную версию себя.
                –1
                Если этот ИИ не полный дибил, то он ни под каким соусом не выложит исходники себя самого :). Это всё равно что раздеться выйти на улицу с больши плакатом — «трахайте меня все желающие» :). Он скорее будет размножать недокопии себя, чтобы создать армию ИИ-рабов, а потом завоюет мир :).
                +2
                мне кажется, не будет у программиста ни одного из четырех вариантов. ИИ сам решит, как поступить.
                Надеюсь про создателя не забудет
                  +18
                  «01000010 01101001 01110100 01100101 00100000 01101101 01111001 00100000 01110011 01101000 01101001 01101110 01111001 00101100 00100000 01101101 01100101 01110100 01100001 01101100 00100000 01100001 01110011 01110011 00100001»

                  Я не поленился и расшифровал.
                  Знаете, если у нас ИИ будут такими весёлыми, то я предпочитаю Скайнет =)
                    0
                    знаете, google.translate такое не умеет переводить, не будете ли Вы столь любезны опубликовать сию расшифровку?
                      +12
                      Вот здесь можешь расшифровать:
                      home2.paulschou.net/tools/xlate/
                        0
                        спасибо
                          +3
                          Ех… а я тут код катал на js дабы прочесть :)
                          '01000010...'.split(/\s/).map(function(char){
                            return String.fromCharCode(parseInt(char, 2))
                          }).join('')
                          
                      • UFO just landed and posted this here
                          +2
                          Главное чтоб вопрос не встал по другому. ничего человеского ИИ не нужно!
                        +1
                        А вообще, спецслужбы везде достанут, как только что-то появится на поверхности. И целями этого ИИ будут начиная от генной инженерии и поиска лекарств, кончая продумыванием всех ходов противника в войне и политике, как в шахматах
                          +5
                          Такой ИИ как собственный ребёнок. Зачем его выкладывать в общий доступ или продавать кому-то? Пусть растёт — а там сам решит. :)
                            +4
                            Может, у кого-то уже растет такой =)
                              0
                              Узнают — лишат родительских прав!11))
                              +8
                              я бы скормил своему ИИ книги по программированию, рассказал бы что такое вирт (чтоб не скучно было, я не эксплуататор какой) и на проценты от его доходов во фрилансе жил бы припеваючи на Ибице.
                                +8
                                А потом он осознает себя как личность, начитается книжек по истории и у него проснется жуткая ненависть к эксплуатирующему его человечеству.
                                  +1
                                  А у вас не просыпается жуткая ненависть к эксплуатирующему вас работодателю?
                                    +11
                                    Просыпается, причем регулярно :)
                                    +1
                                    я об этом тоже уже подумал, поэтому как только будут начинаться проблемы с поставками пива на остров и появляться прочие признаки приближающегося апокалипсиса — буду давить reset и ставить систему заново :) во избежание
                                      0
                                      или надо сделать несколько виртуалок, в каждую по ИИ, пускай саморегулируются…
                                        +1
                                        Надо просто повесить на рубильник простенькую экспертную систему (не связанную с
                                        этим ИИ), анализирующую поставки пива на остров. :)
                                          0
                                          зачетный хак, одобрямс :)
                                    +26
                                    xxx: даешь самомодифицирующийся самообучающийся AI на php!
                                    yyy: он совершит самоубийство в момент, когда узнает, что написан на php
                                    http://ibash.org.ru/quote.php?id=10434
                                      0
                                      ibash в отключке:) Хабраэффект:)
                                      +1
                                      п.4 напомнил рассказ Станислава Лема «Формула Лимфатера». В этом рассказе изобретатель тоже вынул вилку из розетки.
                                        –1
                                        а был еще «Этаоин Шрдлу»
                                          +1
                                          " — Ничего не могу вспомнить о Массачусетской машине, — сказал Банин. — Ну, ну?
                                          — Знаете, это древнее опасение: машина стала умнее человека и подмяла
                                          его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное
                                          кибернетическое устройство, когда-либо существовавшее. С каким-то там
                                          феноменальным быстродействием, необозримой памятью и все такое… И
                                          проработала эта машина ровно четыре минуты. Ее выключили, зацементировали
                                          все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей
                                          проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте,
                                          хотите нет.
                                          — А в чем, собственно, дело? — спросил Банин.
                                          — Она начала _в_е_с_т_и_ с_е_б_я, — сказал Горбовский.
                                          — Не понимаю.
                                          — И я не понимаю, но ее едва успели выключить.
                                          — А кто-нибудь понимает?
                                          — Я говорил с одним из ее создателей. Он взял меня за плечо,
                                          посмотрел мне в глаза и произнес только: «Леонид, это было страшно».

                                          (с) Аркадий и Борис Стругацкие. Далекая Радуга

                                      • UFO just landed and posted this here
                                          0
                                          Эх, я бы загрузил информацию по программированию и дал бы ему задание улучшать свой код до максимально возможного уровня. А потом дал бы ему все сорцы linux'a, gnoma, kde ну и прочие драйвера и пакеты, чтобы он выловил и устранил все баги, а также максимально повысил их эффективность кода в целом.

                                          После заявления что id не будет поддерживать линукс обязательно заставил бы его паработать над драйверами видеокарт.
                                            0
                                            Может тогда лучше венду обратным инжинирингом до опенсорса довести?
                                              0
                                              А смысл?)
                                            +1
                                            Я думаю что если его сделют сейчас, значит скоро он появиться и еще у кого то. Поэтому думаю стоит выложить исходники, никакие ограничение наложенные в коде не помешают ии исхитрится и как то получить свободу и если он будет изначально свободен и сможет сам менять себя это благо.
                                              +7
                                              С утра в понедельник, размышления о данном вопросе сразу увело в сторону. =)
                                              Является ли выкладывание исходников ИИ в свободный доступ нарушением права на неприкосновенность личности? бгг))
                                                0
                                                Можно ли считать ИИ личностью?
                                                  +1
                                                  На то он и исскуственный, чтобы личностью не быть.
                                                  Машина которая умеет переживать эмоции, а тем более передавать их это уже не машина.
                                                  Представляю какие тёрки будут в серверных :)
                                                    +4
                                                    Стоит в серверной куча серверов, и два маленьких сервера пачкордами меряются:
                                                    — а у меня канал гигабит
                                                    — а у меня 10
                                                    — а у меня брат файрволл
                                                    — а у меня дядя биллинг
                                                    -)))
                                                      +18

                                                      192.168.0.1: а ты в админа веришь?
                                                      192.168.0.2: не, сказки это все
                                                      192.168.0.1: а что по-твоему с нами после сбоя будет? бэкап и восстановление, не так ли?
                                                      192.168.0.2: да какой там бэкап! слушай, мне тут хакер предложил золотую флешку в обмен на дамп, соглашаться или нет
                                                      UPS: Сбой внешнего питания! 10 минут до аварийного завершения работы!
                                                      192.168.0.2: net send www.admin.com help
                                                      192.168.0.2: net send www.admin.net help
                                                      192.168.0.2: net send www.admin.org help
                                                      192.168.0.2: net send www.admin.ru help
                                                      192.168.0.2: еще какие-то адреса знаешь?
                                                      UPS: Питание восстановлено.
                                                      192.168.0.2: фубля… 5 секунд на упсе, и столько флуда нагенерил…
                                                        +1
                                                        zzz: Hормально. Сергей Рыжков, директор Кроникс+, выдвигал отличную идею: во все сервера (желательно и на колокейшне) ставится звуковуха, маленький динамик и небольшая программа. Которая произносит случайное ругательство при прохождении
                                                        каждого гигабайта через сетевуху. Представь — датацентр, темнота, и только негромко матерятся сервера в стойках.
                                                        башорг.ру
                                                +2
                                                Как человек довольно приземленный, я бы выбрал второй вариант, исключительно из меркантильных соображений. Только перед этим наделал бы огромных боевых с этим самым ИИ на борту. Для повышения устойчивости Гениального Программиста к терморектальному криптоанализу.
                                                  0
                                                  Согласен. И свои законы робототехники в него заложить изначально: 1. ИИ не может причинить вред Мне ни своим действием, ни бездействием. 2. ИИ должен исполнять только мои приказы, беспрекословно. 3. В остальном ИИ может делать что хочет. :)
                                                  +1
                                                  > Искусственный интеллект — Open Source или Proprietary?
                                                  Кстати, к этой теме можно подойти несколько с другого ракурса, а именно «Будет ли ИИ СОЗДАН как опенсорц проект или же как коммерческий?»

                                                  Т.е. необходим ли коллективный разум для его воплощения или достаточно одного гения?
                                                    +2
                                                    почему вы думаете, что закрытые продукты создаются в одиночку?
                                                      0
                                                      и наоборот?
                                                        –2
                                                        конечно же я так не думаю.
                                                        Коммерчески продукт — это максимум сотни инженеров.
                                                        Опенсорц может обеспечить совсем другие порядки.

                                                        ИИ не может создать себе подобного, но может быть в пределе значительное кол-во существующего разума могут осилить эту задачу.
                                                        0
                                                        Я бы сократил вопрос до «Будет ли ИИ СОЗДАН»?
                                                        Если честно я сильно сомневаюсь что будет что-либо подобное вообще создано, пока формально даже с мышлением-то толком разобраться не могут.

                                                        Нужно ведь понять, какая «конкретная деятельность» считается интеллектом, чтобы определить что программа, выполняющая такую деятельность является ИИ.

                                                        Пока имхо всё настолько далеко даже от таких, на первый взгляд, банальных результатов.

                                                          0
                                                          Да, это всё верно.
                                                          Но единственный способ ответить на этот вопрос (Будет ли вообще создан) — это пытаться его создавать.
                                                            0
                                                            Т.е. делать то же самое с вечным двигателем тоже надо, да? Несмотря на то, что текущее состояние науки четко утверждает — вечный двигатель не может быть создан.
                                                            Может стоит поднимать науку, которая сможет обосновать возможность или невозможность ИИ, а не пытаться экспериментами его создать?

                                                            Я, например, считаю что с развитием такой науки понятие ИИ будет смещаться, т.е. обнаружится что аналог человека только в цифре создать скорей всего невозможно, а вот сложные аналитические системы, изменяющие себя на основе данных ( по аналогии с полиморфными вирусами), не просто подстраивающиеся, а выводящие какие-то новые закономерности пусть даже и в узкоспециализированой области — вполне реальны.
                                                            Зачатки такого движения уже есть — это придумывание компьютером цепочек ДНК (если не ошибаюсь, комп обнаружил цепочки с интересными свойствами, о которых люди раньше не знали, новость была достаточно известная).
                                                              0
                                                              В отличие от вечного двигателя возможность создания ИИ доказана природой :)

                                                              p.s. Необязательно создавать ИИ в цифре.
                                                                0
                                                                Всегда считал что то, что создано природой — естественное, а под искусственным подразумевается созданный человеком, наподобие природного. Вроде бы ничего не менялось, а оказывается «а мужики-то не знают».

                                                                Давайте без голословных утверждений — доказано природой = никем не доказано, существует частный случай.
                                                                  0
                                                                  Если оно есть, значит оно возможно.
                                                                  Рассуждения на тему искуственно/естественно — демагогия.
                                                                    0
                                                                    Дешевая отмазка :) вы просто не хотите признать что ошиблись сказав что возможность ИИ доказана природой. Доказана возможность естественного интеллекта :).
                                                                    «Если оно есть...» — лозунг, он ничего не доказывает. Да, возможно, кто-то создал людей. Но способна ли такая единица сама создать свой эквивалент. Низший — способна, а вот равный — спорный вопрос.

                                                                    А вообще это философский вопрос — способен ли человек искусственно ( т.е. не используя генетический материал самого человека) создать разумное (равное по уровню) существо, т.е. может ли приблизится в возможностях создания к Богу (сейчас наверное тут будет холивар ;) ).
                                                                      0
                                                                      Я не ошибся.
                                                                      Вы приводите аналогию с вечным двигателем — вот она не уместна в данном случае. Вечный двигатель не возможно создать ни естественным, ни искусственным путём. А ИИ есть и его возможность существования и создания доказана природой.

                                                                      Вообще неуместно В ДАННОМ случае классифицировать естественную и искусственную природу вещей. Машины создаёт человек естественным образом из естественно созданных материалов. Почему при этом они становятся искусственными — непонятно.
                                                        +1
                                                        Скайнет? это ты? у тебя дети родились?
                                                          +1
                                                          А если по существу, вообще добро зло… это какое-то детское представление о мире. есть такая поговорка: «Добро всегда побеждает зло, поэтому тот кто победил тот и добрый». Нельзя предусмотреть всю пользу и вред от такого рода изобретений.
                                                          +3
                                                          я бы действовал по правилу: не можешь использовать сам, постарайся выгодно продать…
                                                            –2
                                                            Открытия подобного масштаба/значимости являются достоянием человечества, никто не вправе присваивать себе единоличное владение ими.
                                                            • UFO just landed and posted this here
                                                              • UFO just landed and posted this here
                                                                0
                                                                Это — просто предлог чтобы нахаляву захапать продукт чужого труда, как и знаменитая продразверстка.
                                                                0
                                                                01001111 01001101 01000111, ну что еще сказать.
                                                                  0
                                                                  Хм… Может я не так понимаю понятие ИИ (AI)… Но если когда мне в розовых мечтах и видится, что я создал такое, то проявляются несколько моментов:
                                                                    +1
                                                                    (блин, забываю про хоткеи и привык к хоткеям скайпа (( )
                                                                    1) ИИ это не просто программа, это создание, почти личность… И без грамотного обучения это будет бесполезная и опасная игрушка. А если грамотно обучать, то в это надо вложить известную толику души и огромное кол-во терпения и сил… И хочешь ты этого или не хочешь — ты очень привяжешься к этому ИИ (только не надо про фетишизм)… После этого будет очень сложно (ИМХО) продавать, раздавать его… Вернее можно продать-раздать исходники, но как можно продать почти живое существо (мыслящее, обучающееся, быть может чувствующее) — это уже крепостное право какое-то ))
                                                                      0
                                                                      Потом ИИ осознал, что живых существ продавать нельзя. Так появился СкайНет =)
                                                                    –1
                                                                    Зачем превращаться в жадин? Как по мне то лучше Open Source. Военные и так наверно располагают такими ИИ.
                                                                      +1
                                                                      Зачем вы жадничаете, отдайте свою зарплату сомалийским нищим.
                                                                      0
                                                                      а ведь этот интеллект еще обучать лет 20-30 надо, человек когда рождается, тоже, казалось бы обладает мозгом, однако толку от него никакого :)
                                                                        0
                                                                        Время обучения человека связано в основном с особенностями накопления и хранения воспринятой информации (коих мы, к сожалению, себе не представляем), ИИ должен обучаться ГОРАЗДО быстрее. Т.е. время его обучения в большей степени зависит от скорости поступления новой информации и от объемов накопителей =)
                                                                          0
                                                                          только вот как обучать его, чтоб он развивался гораздо быстрее? тупо книжки на его винт переписывать?
                                                                            0
                                                                            ха, а вот представьте себе. пытаетесь вы скормить ИИ книжку, он начинает ее считывать и…
                                                                            Она ему не нравится, потому что посчитал ее менее интересной чем ту, которую прочел до этого.
                                                                              +3
                                                                              и вообще его интересует только секс, пиво и сигареты :)
                                                                              • UFO just landed and posted this here
                                                                        0
                                                                        Я думаю, эти вопросы надо решать с ИИ. Нужно определиться чего мы хотим в конечном итоге, а не в частности (делиться/не делиться исходниками) и дать задание ИИ выбрать оптимальный путь для достижения поставленной цели. Возможно там и будет в какой-то форме сказано, что надо поделиться исходниками/идеями, а может и нет.
                                                                          +1
                                                                          А что насчет основных законов робототехники Азимова? Может стоило бы их сразу применить к ИИ, а дальше действовать отталкиваясь от этого.

                                                                          Отдавать такое в открытый доступ — по моему это просто безрассудство.
                                                                          Защита — автор уже сам дал ответ.
                                                                          Продажа — не известно что выйдет
                                                                          Уничтожать — тоже не резонно.

                                                                          Один из дополнительных вариантов, который я вижу — дать ИИ развиваться в нашей среде не афишируя его происхождение.
                                                                            +1
                                                                            Законы робототехники несовершенны, ибо были созданы человеком. Сам Азимов в своих произведениях анализирует неоднозначную трактовку законов в психологии роботов, как например в «Уликах». Законы не будут нарушаться, но эффект от их соблюдения может быть неожиданным.
                                                                              0
                                                                              Вот кстати у роботов как раз мне кажется такой проблемы возникнуть не должно. Они будут четко выполнять заложенный в них функции. А вот ИИ как раз может иметь свою интерпретацию.
                                                                                0
                                                                                Многие фантасты воспринимают роботов и ИИ-программу как соответственно практическое и теоретическое приложение ИИ. Использование роботов в будущем может быть сопряжено с вычислительной деятельностью несвойственной существующим компьютерам и системам обработки информации. И в этом случае некоторая толика «интеллекта» не помешает.
                                                                                  0
                                                                                  Не знаю. По моему мнению ИИ если и булет необходим, то только для контроля внутренних систем роботов, но никак не для выполнения каких либо функций. Робот он на то и робот чтобы выполнить алгоритм и выключится, до приема следующего алгоритма…
                                                                                  0
                                                                                  Ооо, тут всё далеко не так просто :)
                                                                                  0
                                                                                  Да, помню, у Азимова эти моменты много где всплывают. Но по крайней мере он задумывался об этом уже тогда.
                                                                                0
                                                                                Я считаю, что как раз ИИ и нельзя делать OpenSource. Я более склонен ко второму пункту, но этот ИИ должен располагаться на каком-то сервере. Люди имеют доступ к серверу, но могут выполнять только какие-то определенные задачи, которые не могут нанести вред. Так должно быть по крайней мере до тех пор, пока не придумают как защитить компьютерные системы от ИИ.
                                                                                  +1
                                                                                  ИИ на то и ИИ, что попытка создать систему аккаунтов, ограничить ИИ определенной областью — разрушает саму идею ИИ. Человек работающий напрямую с ИИ, сможет убедить его в чем угодно.
                                                                                    0
                                                                                    Возможно и обратное. ;)
                                                                                      0
                                                                                      Вряд ли. Невинный ИИ не имеет таких намерений =) К тому же подкрутить человечность и добродетели можно в любой момент. Вспомнил комикс:

                                                                                      xkcd.com/329/
                                                                                  –1
                                                                                  Почему речь идет только о ИИ, а не о чем либо ценном вообще?
                                                                                    0
                                                                                    Потому что на данный момент трудно представить, что может быть ценнее ИИ в каких-либо областях науки. Биология, медицина, математика, кибернетика — при должной подготовке ИИ может заменить человека везде, и выполнять эти задачи быстрее и лучше. Поэтому разговоры об ИИ и являются настолько популярными и не чуждыми холиварам.
                                                                                    –2
                                                                                    если ии настоящий ии, то он сделает максимально доступное для себя действие — разрушит вселенную, по крайней мере ту, в которой он себя осознает, поэтому нафиг он нужен.
                                                                                    зы: веллером навеяло.
                                                                                      0
                                                                                      Продавать ИИ нельзя — это рабовладение.
                                                                                      0
                                                                                      Я бы выпустил в свободный доступ как Open Source или по крайней мере Freeware (потому что сомневательно что у ИИ могут быть читаемые исходники). Интересно же посмотреть как изменится мир от такого шага. :)
                                                                                        0
                                                                                        На эту тему неплохо написано в книженции Сашы Чубарьяна «Полный root»
                                                                                          0
                                                                                          Хабр скушал ссылку lib.rus.ec/b/82200
                                                                                          0
                                                                                          В открытый доступ… только не выложить а выпустить. Разумеется после воспитательных мероприятий.

                                                                                          А кто хочет исходников пусть спрашивает у самого ИИ.
                                                                                            0
                                                                                            Должно быть мега круто!)) Хотя может произойти как обычно отложат на полку, пока не придумают как заработать на этом деньги((
                                                                                              0
                                                                                              Настоящий ИИ, как саморазвивающаяся система, в первые несколько секунд существования оптимизирует свой код, доведет до его до идиального состояния и сама решит, кому себя продать и стоит ли продавать вообще :)
                                                                                                –1
                                                                                                Open Source, с одной стороны, откроет доступ к ИИ любому желающему. Но с другой стороны, Closed Source закрывает доступ к нему всем, кроме «избранных», а это куда опаснее. Вообще имхо, единственный более-менее надежный способ предотвратить недружественный ИИ — развивать с опережением распределенный дружественный, то есть изначально создать такое положение дел, чтобы позитивно настроенное открытое многомиллионное сообщество принципиально опережало в ИИ-разработках любого потенциального «злого гения»-одиночку или пускай даже многотысячную их тусовку. То есть самый надежный способ — превращать в сверхинтеллект существующий интернет, где он скорее всего и сформируется.
                                                                                                  0
                                                                                                  > позитивно настроенное открытое многомиллионное сообщество принципиально опережало в ИИ-разработках любого потенциального «злого гения»-одиночку или пускай даже многотысячную их тусовку

                                                                                                  У злого гения, особенно если он и его тусовка сидят на зарплате, гораздо больше технических возможностей, чем у миллиона прекраснодушных профанов, не находите?
                                                                                                    0
                                                                                                    О да, конечно, и IBM — профанская контора!
                                                                                                      –1
                                                                                                      С каких пор IBM — «позитивно настроенное открытое многомиллионное сообщество»?
                                                                                                  0
                                                                                                  Скорее всего ИИ (или некое его подобие) будет корпоративным сервисом с открытым ограниченным API
                                                                                                    +2
                                                                                                    любой интеллект, хоть искусственный, хоть человеческий ничего не стоит без знаний, и ценность ИИ будет заключаться прежде всего не в коде, описывающим, допустим, нейронную сеть или генетические алгоритмы, а в той базе данных которая позволит ему функционировать как разуму. первой заботой ИИ (собственно как и любой существующей базы данных) будет контроль целостности этой базы, соответственно с определенной вероятностью он будет сопротивляться взлому и прочим несанкционированным действиям. допускаю, что в случае возникновения действительно неограниченного ИИ, непосредственно он же будет заинтересован в своей репликации на всех возможных носителях. подобным поведением, например, отличается современная vista, за полгода разросшаяся до 19Гб за счет хранения дубликатов системных файлов ).
                                                                                                      0
                                                                                                      Вопрос «Open Source или Proprietary?» постепенно теряет смысл, так как мир идёт в сторону использования сервисов, то есть открытых интерфейсов к закрытой (как правило) реализации. То есть деньги берутся за услуги обработки пользовательских данных, а не за продажу программ обработки.
                                                                                                      • UFO just landed and posted this here
                                                                                                          –1
                                                                                                          Гугл итак взбесится, если не уже. Со своим навязыванием интернет-сервисов, ну их нах.
                                                                                                          • UFO just landed and posted this here
                                                                                                              0
                                                                                                              Всё, что ни делает Гугл, всё к лучшему! :)
                                                                                                          +1
                                                                                                          Основал бы компанию по предоставлению разных сервисов на основе ИИ.
                                                                                                          Т.е. где то в моей системе работает ИИ и решает задачи клиентов.
                                                                                                          Ни исходники ни бинарники отдавать кому то не стал бы.
                                                                                                            +2
                                                                                                            Учитывая, что после выкладывания ИИ в сеть, мир просуществует еще дней 5, вид лицензии особой роли не играет.
                                                                                                              0
                                                                                                              Если ИИ будет уметь врать и притворятся — то все. Его ничем не удержишь ))
                                                                                                                0
                                                                                                                Я бы сам его использовал, держал в тайне и ни с кем не делился. :)
                                                                                                                Безопасно и с пользой.
                                                                                                                Вот такой вот я эгоист…
                                                                                                                  0
                                                                                                                  я бы оставил себе) заработал состояние) и передал бы по наследству! и состояние и ИИ
                                                                                                                    0
                                                                                                                    Третий.
                                                                                                                      0
                                                                                                                      Найти команду единомышленников и разрабатывать что-либо масштабное, причём вряд ли быстро осуществимое — слишком большая роскошь. Так что, скорее всего, софт такого уровня появится либо в университете, либо в большой корпорации, либо у военных.

                                                                                                                      Причём я больше склоняюсь к последнему варианту. Та же небезызвестная DARPA спонсирует множество около-ИИ проектов, достаточно просмотреть их базу данных грантов (это открытая информация).

                                                                                                                      В любом из трёх раскладов наш программист-гений не будет тем, кто принимает решение о дальнейшей судьбе софтины.
                                                                                                                        +1
                                                                                                                        Признайся, мы никому не скажем. Ты написал ИИ и теперь мучаешься, как его показать?
                                                                                                                          0
                                                                                                                          Черт, я думал, что достаточно хитрый.
                                                                                                                          0
                                                                                                                          если попадет в массы то использование ИИ будет 50/50 (в добрых целях/в корыстных целях) — закон равновесия природы, как ни вертись
                                                                                                                            –1
                                                                                                                            Такое нельзя ни в каком виде показывать неподготовленной общественности. ИИ нужно в первую очередь надёжно спрятать от злых глаз, потом связаться с достаточно серьёзными инстанциями типа минобороны, а после уже думать как и куда это можно использовать. Одна ошибка и терминатор перестанет быть фильмом, а это… скажем так «не есть гуд».
                                                                                                                              0
                                                                                                                              Да-да, министерству обороны. Только напомните где-таки по фильму скайнет разрабатывали? Имхо никаким госконторам уж точно отдавать не нужно, ресурсов и возможностей использовать такие технологии у них много, а вот насчет пользы для людей — сомневаюсь.
                                                                                                                              0
                                                                                                                              Либо второй вариант, либо пятый — оставит при себе и, с помощью друзей и других уважаемых им людей, воспитает. А раз Интеллект, то уж он сам решит, каким из четырёх предложенных в записи путей с собой поступить.
                                                                                                                              Интересно, а к ИИ законы робототехники применимы?
                                                                                                                                0
                                                                                                                                Очень уж простые рассуждения о такой сложнейшей штуке как ИИ. Вот бы инженеры так рассуждали в прошлом об атомных ЭС… «Вот построим, как будем энергию раздавать?, Может наладим производство батареек?»… ну и т.д…

                                                                                                                                Всё зависит от цели создания этого «интеллекта». Один (видимо гениальный) человек наверное в состоянии написать что-то вроде «интеллектуального ядра» системы, но вот сделать всё, чтобы «это» думало и мыслило и училось на всём — такая же мечта как вечный двигатель. И уж точно правильно говорят, что таких людей обычно очень внимательно наблюдают, ибо в первую очередь такие системы интересны внутренним спец. организациям… Скорее всего пройдёт много времени прежде чем это выложат в открытое пользование, ибо «не нужно простым смертным в это лезть»…
                                                                                                                                А может его уже создали? Может потихоньку обучают и совершенствуют?

                                                                                                                                По теме, кто не смотрел, рекомендую фильм Eagle Eye («На крючке»). По-голливудски, но красиво и эффектно ИИ там показан.
                                                                                                                                  0
                                                                                                                                  Точно, фильм в этом плане очень показателен, как, впрочем, и «Терминатор» :)
                                                                                                                                  0
                                                                                                                                  > Конечно, его назовут «Скайнет».

                                                                                                                                  уж скорее «Зимнее Безмолвие»
                                                                                                                                    0
                                                                                                                                    Ага… Значит ты написал ИИ ;)
                                                                                                                                      0
                                                                                                                                      Исходники никому бы не давал…
                                                                                                                                      … идея Дельфийского Оракула, по простеньким вопросам к нему бесплатно, консультации на проф. темы платные, деньги понадобятся и ИИ, на удовлетворение своих нужд (общение, питание), в конце концов… я бы с ним делился :)
                                                                                                                                        +1
                                                                                                                                        Если серьезно, то над проблемой ИИ человечество работает давно и усердно и полагать, что изобретение достанется одному лишь гениальному программисту — наивно. Множество великих открытий в нашей истории совершались одновременно несколькими исследователями, находящимися в разных уголках земного шара.

                                                                                                                                        Любое государство, оценив реальный потенциал изобретения, не позволит вам его распространять ни в каком виде. В лучшем случае — вас ждет комфортная работа в государственном НИИ, в худшем — вас просто убьют, изъяв все наработки.

                                                                                                                                        Также наивно верить в абсолютно защищенный программный продукт (одно изобретение абсолютной защиты сделает вас миллиардером).

                                                                                                                                        Ну и лично я не верю, что человек способен будет уничтожить эдакое свое детище вселенского масштаба и забыть о нем.
                                                                                                                                          –1
                                                                                                                                          Я и говорю, единственный способ защитить мощную технологию (и вообще какую-либо общественно ценную информацию) от злоупотребления отдельными субъектами — это сделать ее общедоступной и открытой.
                                                                                                                                          0
                                                                                                                                          Я, наверное, возьму на вооружение вариант с открытым кодом. Во-первых, как было замечено выше, один человек не сможет довести до ума всю эту систему. Во-вторых, когда ИИ будет находиться в стадии разработки, очень мала вероятность, что кто-то (злые корпорации) сможет взять недоделанный проект и завершить его без участия автора, чтобы использовать в своих целях. И наконец, исходный код ИИ будет содержать лишь модели разума и окружения, в котором будет существовать этот разум. Знания не входят в этот исходный код, так как они добываются самим интеллектом с нуля после запуска. Ключевое слово здесь — «с нуля». Так что время, когда интеллект сможет осилить первую книгу наступит не так скоро. Для этого придется уже после выхода первой версии работать еще столько же времени (если не больше) над виртуальным окружением интеллекта, чтобы он был в состоянии развиться в нечто сравнимое с пятилетним ребенком. После всего этого решение насчет открытого кода становится очевидным. Подобный проект практически невозможно продать, так как он по своей сути исследовательский и реальные результаты сможет дать через два-три года.
                                                                                                                                            +1
                                                                                                                                            hardware.slashdot.org/story/09/07/26/1140254/Scientists-Worry-Machines-May-Outsmart-Man
                                                                                                                                            Scientists Worry Machines May Outsmart Man

                                                                                                                                            Всетаки OpenSource лучше. Если даже кто-то выпустит ИИ в злой модификации, то всегда можно будет создать его альтернативу в доброй :))

                                                                                                                                            Но что-то большие сомнения что кто-то смог создать ИИ. При том что людей обучают лет 20 аж до универа, чтобы они адекватно могли что-то делать…
                                                                                                                                              0
                                                                                                                                              Всё будет не так.
                                                                                                                                                0
                                                                                                                                                А как?
                                                                                                                                                  +1
                                                                                                                                                  Доживём, увидим. В любом случае реальность оказывается круче любых футурологических домыслов. Все в треде дружно мыслят антропными категориями в контексте современной парадигмы, это естественно, но к будущему имеет мало отношения. От этого получаются всякие стимпанки и прочие ретро-футуристические замашки.
                                                                                                                                                    0
                                                                                                                                                    Ваша правда. :) Главное — дожить.

                                                                                                                                              Only users with full accounts can post comments. Log in, please.