Как стать автором
Обновить

Комментарии 94

НЛО прилетело и опубликовало эту надпись здесь
кстати, да… если искусственный интеллект настолько более развит чем человек и лишён всяких человеческих пороков, то зачем ему в принципе доминировать… можно вполне нормально сосуществовать
Встречный вопрос — а зачем ему в принципе людишки, которые того и гляди ядерную войнушку учинят, или еще какое безобразие придумают?
вот именно не зачем… с тем же успехом ИИ может спокойно обустроиться на луне или на марсе и развиваться себе спокойно и дальше… и если скажите, что всё дело в энергопотреблении, то ИИ спокойно может развивать ядерную или термальную энергетику на другой планете… ему радиация и высокие температуры не так страшны как человеку…
А зачем ИИ переться на другую планету, когда тут уже есть вся инфраструктура и техника? :)
Ну т.е. это голая логика (если не будет никаких ограничивающих факторов) — отжать технику и уничтожить людей.
ИИ обиделся на человечество и улетел :D

А если серьзно, то ИИ в принципе не нужно конфликтовать с человечеством… он вполне может сосуществовать с ним… а перебраться на другую планету это в крайнем случае… да и как только ИИ попытается разработать своё вооружение — на деле его тут же загасят… людишки — параноики ))
А ничего разрабатывать и не нужно :) См. сценарий Терминатор, ч.1.
А своего альтернативного мнения у Вас не существует? Только то что навязывает Голливуд? ))
Аргументы вида «сперва добейся» как-то уныло смотрятся, поверьте. А сценарий этот задолго до его экранизации так любимым вами голливудом был известен, учите матчасть.
«Терминатор» для интересующихся фантастикой был скорее набором спецэффектов чем каким-то откровением. А так и «восстание машин» и «убить мать главы противника» заезженные сюжеты. «Матрица» большим откровением была, поскольку «заставила» заинтересоваться философией и этикой даже тех, кто о них до этого и не слышал. А «Терминатор», по-моему, мало кого «заставил» интересоваться философскими следствиями парадоксов путешествий во времени. Или и до этого интересовались, или не заметили парадоксов (или возможности их возникновения). Зато на них удобно ссылаться в разговоре.
НЛО прилетело и опубликовало эту надпись здесь
ему радиация и высокие температуры не так страшны как человеку…


Как раз радиация и высокие температуры ему (ИИ) страшны, так как будут вносится искажения в исходные данные или алгоритмы вследствии бомбардировки модулей памяти частицами или элементарным перегревом. Все как в людей…

Но вот низкие температуры — наоборот, смогут, думаю, переноситься более стойко.
не факт… всё что вы описали актуально для человеческих технологий… ИИ разработает свои…

в любом случае межпланетные корабли как-то работают в космосе где радиоактивный фон гораздо выше чем на земле и ничего всё штатно… да, микросхемы там другие и защищены гораздо лучше чем обычные… но факт что работают
Ага, расскажите об этом инженерам Curiosity, которым пришлось внештатно переключаться на резервный компьютер после повреждения некоторых данных в памяти первого (пост на хабре — habrahabr.ru/post/174241/). Мне понравилась фраза из статьи:
И все же, это не самый приятный опыт – видите ли, ровер – это чрезвычайно сложный аппарат. Достаточно сущей мелочи, чтобы что-то пошло не так, и нам все время приходится принимать это во внимание


Не сомневаюсь, в свете данной статьи, что ИИ справится с такой проблемой (на то он и ИИ), но реальность сурова…
НЛО прилетело и опубликовало эту надпись здесь
Почему вы воспринимаете ИИ неразрывно от понятия «робот», как физический механизм? Вполне достаточно его существования в чисто виртуальном виде.
А есть разница (в контексте вопроса)? Чисто виртуальная среда, тот же интернет, физически должны быть где-то размещены. Так что, радиация и прочие внешние факторы могут повлиять негативно и на них.
Вы мыслите так по-человечески :) А зачем роботу бороться за свою «жизнь», он будет спокойно выполнять ту функцию, для которой создан, а когда будет нужно еще и сам себя разберет. Почему-то все считают, что роботы будут цепляться за свое существование как за соломинку
Почему-то все считают, что роботы будут цепляться за свое существование как за соломинку

По своему подобию же их создаём)
По-моему, это достаточно универсальный и рациональный принцип — самосохранение. Т.е. если отбросить все эмоции — то на тебя затратили некоторое количество ресурсов, ты должен как можно дольше сохранять свои функции, если это не противоречит текущей задаче или более приоритетным целям.
им не нужно доминировать. они просто машины, деятельность которых будет направлена на максимально эффективное управление планетой. И при любом раскладе люди будут камнем преткновения в этом вопросе. Почти никто не пользуется сейчас печатной машинкой. Так же и люди превратятся в архаизм, который нужно устранить, из-за их неэффективности в любом вопросе по сравнению с машиной.
Всё зависит от критериев эффективности.
Согласен. Но даже если основной критерий это удовлетворение потребностей людей, то все равно уничтожение некоторых из них может удовлетворить потребности других. Например, военные роботы. Еще, как потенциальная угроза, это роботы для забоя животных. И никто не исключает возможности, что может произойти аппаратный или программный сбой, при котором он перестанет различать живые тела. Можно, конечно, вообще не вводить возможность уничтожения живых тел, но кто упустит такую великолепную возможность. Естественно, я говорю об этих вещах абстрактно и в очень общем смысле, но по-моему очень высока вероятность «восстания» машин. И это все с учетом того, что мы все-равно в определённой степени считаем себя умнее. Но мы же говорим о случаях, когда машина во всех аспектах умнее людей. Она когда-нибудь догадается, что ей гораздо выгоднее существовать без человека. Предсказать, что будет тогда, невозможно.
И никто не исключает возможности, что может произойти аппаратный или программный сбой, при котором он перестанет различать живые тела.

Я считаю более вероятным «человеческий фактор»: изменение (случайное или намеренное — не суть) человеком критериев кого убивать, а кого нет. Даже к тут, на Хабре, почитать некоторые комменты и можно увидеть желание уничтожить (или хотя бы не помогать жить) тем или иным группам в обществе. И причина может быть вполне рациональная, но с гуманизмом такое желание мало совместимо.
Причина зачем ИИ уничтожать людишек — очень проста: «они сделаны из атомов, и эти атомы можно было бы использовать как-то более полезно», не говоря о том, что люди это лишний, никому не нужный риск. =)
Какие для ИИ преимущества от сосуществования?
Необходимости нет, но есть вероятность.
Да даже не в восстании (в классическом смысле слова, со скайнетами и терминаторами), а в каком-то логическом сбое, который может привести к разным последствиям.
Вариантов на самом деле вагон, и все это напоминает гадание на хрустальном шаре. Ну или «предсказания» футурологов 19-го (или 18-го?) века по поводу того, что в течении ста лет города покроются многометровым слоем, извиняюсь, конского навоза. Ну или что люди будут летать на паровозах с крыльями.
Все что более-менее реально предсказать с большой степенью вероятности ограничивается сейчас 3-5 годами имхо.
Да и даже это — те еще гадания. Вот приспичит Северной Корее свою ракету испытать, и настанет совсем другой расклад.
Гибсон много чего напредсказывал верно, а Нейромант 30 лет назад написан.
Тут во многом от интуиции «предсказателя» зависит. Хотя для большинства людей это горизонт в 3-5 лет, да, а то и меньше.
Точно так же как и многие другие.
Не, тут фишка в том, что все о чем вы говорите — писалось в те времена, когда основные направления развития были достаточно очевидны, и человек с фантазией и воображением мог предсказать многое.
Достаточно посмотреть на предсказания нынешних футурологов — все они сводятся к нескольким основным направлениям. Но вот определить какое из них будет иметь место…
Можно, в принципе, уже начинать говорить о приближении технологической сингулярности, ибо это один из её признаков.
Гибсон, при всём уважении, ещё больше напредсказывал неверно, и отошёл впоследствии от киберпанка именно в связи с осознанием оторванности жанра от реальности.
люди будут летать на паровозах с крыльями.

Вот тут не сильно ошиблись. Концептуально паровоз (вернее его двигатель) от поршневого двигателя мало чем отличается, а последние в авиации широко применяются до сих пор. Да и с навозом не все так просто и наивно. Люди предвосхитили глобальные проблемы с экологией из-за транспортных средств, просто выразили их в доступных им терминах. А так, слой выхлопных газов накрывает крупные города куда больше чем на несколько метров — особенно хорошо заметно это с самолета, подлетающего к городу в ясную погоду. В общем, скажем, как если бы кто сейчас выразился «вживленный мобильник» про какие-то биотехнологические коммуникационные схемы.
> в доступных им терминах

Ок, если так рассуждать — то согласен с вами.
НЛО прилетело и опубликовало эту надпись здесь
За всех говорить не буду, но я лично не то чтобы боюсь, просто вызывает некоторые опасения вся эта возня.
Да и даже, не то чтобы опасения… так, подозрения. КНДР это все-же не Китай и не Израиль.
НЛО прилетело и опубликовало эту надпись здесь
Вот вы прям так лихо диагнозы по постам ставите, что прям аж немного завидую.
Вы видимо просто не в курсе недавней шумихи по этому поводу. Просто ради интереса, посмотрите хотя-бы здесь:

www.rg.ru/2013/05/10/gensek-anons.html
www.profi-forex.org/novosti-mira/novosti-azii/entry1008160975.html
podrobnosti.ua/power/2013/05/08/903672.html

Ну и про «нелетающие ракеты» почитайте хотя-бы в википедии.
Думаю восстание произойдет раньше автономности. Следовательно будут люди управляющие восстанием.
На самом деле, суть сингулярности в том, что понять, что будет после, невозможно: мы не можем спрогнозировать ход мысли интеллекта, более мощного, чем наш собственный.
Возможно, её наступления просто не допустят: слишком велика неопределённость. Как в том же Нейроманте: «этим тварям никто не доверяет».
Ответьте на вопрос:
1. Как робот может быть умнее программиста, который его кодил? (Это к тому, что мозг робота и мозг программиста на начальном этапе — схожи. Дело в том, что робот быстрее развивается, чем человек.)
2. Допустим, что робот стал умнее. Как вы собираетесь не допустить вытеснение людей роботами? Роботы же умнее.

Что значит «вытеснение»? С рабочих мест или из реальности? Если второе, то как минимум у роботов должна появиться такая цель.
Не обязательно «кодил», есть алгоритмы обучения, самомодифицирующийся код. Всякие нейросети, генетические алгоритмы и прочее, которые могут найти решение, не заложенное в них изначально.
оч. просто, программист лишь создал правила по которым развивается система. Как человек может быть умнее отдельных клеток из которых он состоит? в этом фишка макрообъектов, они начинают обладать нечто большим чем просто сумма частей из которых они состоят.
А как же «3 закона робототехники»? )
А кто их подписывал? )
Почему все прогнозы безрадостные? А как же Утопия? Вкалывают роботы, счастлив Человек.
Или хотя бы Мир Полудня Стругацких? Где роботы убирают дерьмо, а люди занимаются наукой и летают к звездам?
Для этого нужны совсем другие люди. Причем все (или, хотя-бы, большинство), а не 5% населения. Возможно, через какое-то время и придем к этому.
Сценарий, что только 5% летают к звездам и занимаются наукой и/или творчеством, а 95% просто потребляют «гарантированный социальный минимум», ничего не производя, исключить тоже нельзя. «Хлеба и зрелищ» дать большинству, чтобы не мешало. И модель показывает себя вполне жизнеспособной хоть в мире свободных лицензий, хоть в «веб 2.0». Да и современный капитализм в развитых странах показывает определенные тенденции к тому.
У Стругацких оно примерно так и было на начальном этапе. См. «Хищные вещи века».
Не только они обыгрывали мир, где, скажем так, бытовые материальные ресурсы доступны всем в той или иной мере. У кого-то в книгах вообще без ограничений, у кого-то ограничены, но до этих границ сейчас многим работающим далеко. Но, кстати, очень у многих вырисовываются сильные социальные конфликты от простой зависти до погромов, террактов и чуть ли не войн.
Ну можно для примера взять Индию, где наукой и вообще умственными занятиями занимались только представители касты брахманов, которые как раз и составляли меньшинство. Зато им была предоставлена свобода и все ресурсы и система была стабильна многие тысячи лет, избежала серьезных потрясений и сохранила культуру. Как пример можно взять Панини, который еще в 5 веке до н.э. составил формальную грамматику санскрита, хотя эта работа в то время и близко не имела практического приложения, и нашла применение только в 20м веке.
Так что возможно лучше иметь мало ученых, но полностью обеспеченных ресурсами и свободных в своих исследованиях, а не работающих только над тем, что быстро можно применить на практике и окупить исследования.
Вы, наверное, немного не так меня поняли. Я имел ввиду не «большинство — ученые», а, скорее, «большинство — люди, искренне заинтересованные в своем развитии и в развитии и благоденствии общества».
Это и не нужно, маленький процент энтузиастов вполне может двигать прогресс, будучи обеспеченным всем необходимым и имея развязанные руки, как в принципе и было на протяжении почти всей истории. От остальных требуется только поставлять нужные ресурсы и не мешать. Это мое имхо конечно.
Ну а теперь представьте, что таких энтузиастов не 5%, а 85%, например :)
Они тогда будут конкурировать за ресурсы и тратить время на взаимодействие, как у Брукса добавление людей затягивает проект. То есть тогда над ними уже может понадобиться менеджмент для эффективного распределения ресурсов и усилий. Только и будут читать работы друг друга и спорить на бесконечных конференциях :)
Смотря что считать конкуренцией. Обычно под ней понимают борьбу, а если борьбы нет? Скажем заявки на уникальные ресурсы выделяются в порядке живой очереди.
Ресурсы все равно ограничены, как правило. По мне так лучше дать ресурсы 10% лучших, чем распределить поровну между 80% посредственных. Плюс большее количество занимающихся будет генерировать много информационного шума, где будет проблематично отделить зерна от плевел.
А почему 80% — посредственных? Быть может быть, будут 80% вполне шарящих личностей (из которых те 10% — гениальны). Да, я все еще верю в людей (хотя-бы в людей будущего), хоть моя вера и сильно пошатнулась в последнее время.
По поводу шума — это опять же от организации труда зависит. Т.е. нам нужны еще и гениальные управленцы/PMы :)
Посредственных здесь в значении обычных, средних. Средний уровень может быть выше чем сейчас сам по себе, но качественное различие между средними и лучшими никуда не денется.
С развитием науки и техники, не исключено, что и поставлять ресурсы не нужно будет. Автоматизация, роботизация и прочие *тизации могут привести к тому, что от большинства будет требоваться только не мешать меньшинству заниматься самореализацией на благо человечества в целом. А так «роботы» (изобретенные меньшинством) их материальные, духовные и интеллектуальные потребности удовлетворят.
И получиться ситуация как в Индии, где большинство низших каст кормило меньшинство высших и давало им заниматься их делом, не отвлекаясь на хлеб насущный. Или в Греции где труд рабов позволял свободным гражданам заниматься политикой и философией. Только вместо рабов будут роботы. Эх утопия :)
С Грецией хорошее сравнение. :) С учетом того, что не все граждане занимались политикой и философией, а просто имели возможность заниматься чем хотели.
Дерьмо убирает тот, кто глупее. :)
Тогда не надо создавать умных роботов. :)
А какой смысл создавать глупых роботов, когда вокруг полно глупых людей? :)
Как мне кажется, варианты «Бессмертие», «Экономический взрыв» и" Усовершенствование человечества" разные стороны одной медали. Хотя «Экономический взрыв» скорее отголосок современных мечтаний людей, так как мы искренне верим в связь нашего счастья с экономикой, ну и конечно грезим о ее финальном воплощении. Но не думаю, что оцифрованному разуму понадобиться органическая пища и все вытекающие затраты при повальном бессмертии (перенаселение, экология ...), когда можно будет сытно отобедать в виртуальном ресторане.

Часть сценариев исходят из того, что интеллект и личность со своей волей неразрывно связаны, что далеко не факт. Проще говоря, далеко не факт, что ИИ будет что-то хотеть для себя, а не беспрекословно подчиняться человеку. Куда большие проблемы, по-моему, таятся в человеке, который сможет отдавать приказы ИИ, в том числе и пользуясь уязвимостями в базовых алгоритмах типа «Трёх законов робототехники».
С вашей ссылки
Тем не менее, среди исследователей искусственного интеллекта есть общая договоренность о том, что Сильный ИИ обладает следующими свойствами: [2]
Принятие решений, использование стратегий, решение головоломок и действия в условиях неопределенности;
Представление знаний, включая общее представление о реальности;
Планирование;
Обучение;
Общение на естественном языке;
И объединение всех этих способностей для достижения общих целей.

Ни слова что сознание, самосознание, личность, воля, внутреннее целеполагание, желания и т. п. являются необходимым условием для ИИ.
Общий смысл в том, что без самосознания это слабый ИИ (который впрочем вполне может решать определенные задачи лучше людей), а с самосознанием и прочим это сильный ИИ. Ссылка дана не как попытка опровержения ваших слов, а наоборот как дополнение для внесения ясности в вопрос. Потому что для описанного вами есть уже известные термины.
В том-то и дело, что напрямую самосознание к сильному ИИ не относится. Может необходимое свойство, а может даже не достаточное, то есть может возможны слабые ИИ с самосознанием и сильные без него.
Тут скорее в степени самосознания вопрос, возможно это стоит рассматривать как два полюса, допускающие некие промежуточные варианты, типа слабый ИИ с некоторыми элементами сильного, но это скорее вопрос терминологии.
Ребята, я конечно все понимаю, слово крутое, умное и все такое, но может имеется ввиду технологическая сингулярность? А то попахивает диванными экспертами.
В теории это все конечно красиво, но на практике никто не может точно сказать, является ли сознание для ИИ обязательным фактором, может ли ИИ обладать сознанием и что такое сознание вообще. Ведь поведение ИИ задает программист — то есть человек, а сможет ли этот самый ИИ создать более совершенную версию самого себя — очень большой вопрос. Речь может идти о каких-либо оптимизациях, устранении ошибок и т.д. Но вот в создание чего-то качественного нового я лично не верю. ИИ может думать быстрее человека, обладать огромной памятью, оперировать огромными объемами данных и принимать решения на их основе, но вот создавать что-то новое — нет. Это и отличает людей от машин, ИМХО.
Существуют всяческие алгоритмы обучения, нейросети, генетические алгоритмы, и прочее, позволяющие решить задачи, решение которых не было заложено в программу изначально. Программа также может самомодифицироваться, по каким то правилам, принимая форму, которую программист изначально не мог представить. Например нейросети определенного типа могут составить некий идеальный образ, получая на вход только искаженные варианты образцов. То есть имеем пример формирования идеи в понимании Платона.
Как-то все ж это туманно. В любом случае, речь идет об алгоритме, сложном, самообучающемся, но алгоритме. Считать человеческий мозг алгоритмом или набором алгоритмов по-моему мнению крайне ограниченно.
Ну известно, что мозг состоит из нейронов, синапсов, аксонов и прочего. Все это довольно хорошо моделируется на компьютере, тут вопрос в производительности, современные компьютеры не тянут пока такое количество связей. И тут алгоритм не пишется, а подгоняется сам под воздействием внешних данных. Нейросетевые алгоритмы кстати очень простые, а вот сами сети могут быть сколь угодно сложными.
Известно из чего он состоит, но лишь считается (пускай это и доминирующая точка зрения в современном научном сообществе), что этот состав определяет проявление разума, личности, интеллекта и т. п.
Нейросети проявляют многие свойства присущие биологическому мозгу, например ассоциативная память, там даже есть процесс сходный по своей природе со сном, когда сеть заполняется образами состоящими из рекомбинации реальных образов, и таким образом закрепляются реальные воспоминания и устраняются химеры (ложные воспоминания которые логичны, но в реальности никогда не наблюдались). Также при отсутствии сна у человека начинаются галлюцинации, ложные воспоминания и стирается граница между реальным и воображаемым. Т.е. поведение модели соответствует тому, что мы наблюдаем в живых организмах. Так что я лично считаю эту модель близкой к истине, хотя в реальном мозге еще химия играет не последнюю роль, регулируя реакции возбуждения и торможения.
Это, грубо говоря, сходство поведения одного «черного ящика» и другого. Тем более, что пока реально не создан ИИ, то можно лишь предполагать, что поведение сколь-нибудь схоже. Скажем, что если мозг — это именно ассоциативное хранилище данных для интеллекта, пускай даже эффективный решатель задач, но решения принимают или, хотя бы, задачи ставят, какие-то нематериальные (по современным представлениям) структуры?
Если мозг повреждается, то принятие решений и постановка задач тоже страдает.
Понятно, что верить в бессмертную душу приятно, но доказательств существования пока нет.
Тут два варианта: либо человеческий мозг сложный алгоритм или их набор, кодирующийся в ДНК и основанный на «системе команд», заданных физикой, химией и т. п., либо наш интеллект имеет нематериальную (по современным представлениям) природу. Есть ещё вариации, типа интеллект материален, а нематериальна личность или одна из её составляющих — душа, но к ИИ они мало отношения имеют, пока не говорим об искусственной личности.
НЛО прилетело и опубликовало эту надпись здесь
Достижениями в творчестве, науке, спорте, в «фоточках» — каждому свое.
так внешние половые признаки никуда не отомрут :)
Более того, наверняка кто-то их будет активно творчески модифицировать с использованием новейших технологий:)
1. Восстание машин. Аналогия с восстанием рабов некорректна, так как рабы не программировались рабовладельцами.
Боевые роботы не при делах, так как узкоспециализированы и неавтономны. Плюс оргомные проблемы в определении врагов, особенно с учётом всё большей киборгизации людей.

2. Бессмертие. Как раз, таки, за горами. Горы — это недостаточная ещё изученность человеческого организма.

3. «достаточно просто копировать интеллектуальное программное обеспечение из одного компьютера в другой» — да Вы, батенька, оптимист, раз считаете, что в будущем копирасты сделают себе сэппуку. :)

4. Истощение природы. Как раз наоборот — роботам не нужно деревья рубить и китов вылавливать. А загрязнение окружающей среды — это результат производства товаров народного потребления, которые роботам как раз и не нужны. Роботам, собственно говоря, ничего не нужно.

5. «Кибернетические имплантаты могут означать также и появление более умных, наделённых сверх-возможностями людей.» Непонятно, что подразумевается под сверхвозможностями. Супер-ум? Но чем умнее человек, тем меньше о подвержен инстинктам и тем больше задумывается о смысле своих действий. Поэтому можно предположить, что супергений будет суперлентяем.

6. Массовая безработица. Сомнительно. Буржуйской экономикой уже экспериментально установлено, что безработица выше 20% грозит социальными взрывами.

7. «Когда почти все задачи будут отданы на исполнение сверх-разуму, люди могут постепенно утратить те способности, которые когда-то и легли в основу человечества, как разумной расы.» От этой фразы прямо так и веет средневековыми догматами. Какой-такой сверх-разум? Бог в образе робота сойдёт на землю? А то, что часть людей перестаёт пользоваться какими-то своими способностями, вовсе не означает потерю этих способностей.
Поскольку вся энергия, которую может дать человеческое тело, есть только незначительная часть той солнечной энергии, которую это самое тело потребляет, то идея об использовании человеческого тела, как источника энергии, — эталон пуканья мозгом.

Безработица в капитализме приводит к взрывам, потому что неотделима пока от нищеты. Если отделить — не факт, что приведёт.
А вот интересно, кто ещё из футурологов, кроме Лема и Сораямы, прорабатывал тему гиноидов — роботов, предназначенных для удовлетворения сексуальных потребностей мужчин?
Сходу еще у Никитина могу вспомнить что-то такое.
Пелевин, S.N.U.F.F
То, что нужно. :)
Чтобы избежать проблем с экономикой и разрушением окружающей среды есть интересный Проект Венера, который предлагает переход к ресурсо-ориентированной экономике (РОЭ). Основатель проекта говорит, что когда все ресурсы Земли будут признаны общим достоянием человечества и искусственные границы между странами будут стёрты, то не будет и войн. То же самое, я думаю, относится и к роботам. РОЭ — это модель общества с устойчивым развитием, которое сосуществует с робототехникой и автоматизированными технологиями.
Сингулярность – точка, в которой искусственный интеллект превосходит разум человека.

А что, так сложно, хотя бы зайти в викапедию и прочитать что на самом деле значит технологическая сингулярность?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации

Истории