Pull to refresh

Comments 31

Стиль местами хромает, но мне нравится) спасибо.
1. тся/ться
2. Почему ИИ, а не существо по имени Планета Земля?
1. пару «ться» исправил, спасибо
2. Основной идеей было показать что мысли, решения, поступки, последовательность действий, которые мог бы принимать/совершать ИИ, даже при условии почти не отличимых от таковых человеческих, могут привести к непредсказуемым и не ожидаемым результатам. Что создание ИИ, даже с «прошитыми» человеческими этическими принципами и моралью ничего не гарантирует. А если к этому добавить еще статистически значимые показатели итоговой жизнедеятельности человека (в масштабах человечества), то после создания ИИ вообще теряется всякий смысл в существовании человечества. С ограниченной точки зрения ИИ, не человека. В данном смысле ИИ, создаваемый человеком по образу и подобию своему (своего мышления, интеллекта и пр) будет «подмножеством» возможностей человеческого интеллекта в качественном смысле, и превышать его в количественном. Поскольку человек не создавал планету, то то же самое провернуть с планетой не выйдет — «мышление» планеты (если нафантазировать его наличие), вряд ли будет подобным человеческому и узнаваемым им. Если бы человек имел возможность отождествиться с чем-то столь глобальным (в пространстве и времени), как планета (даже в рамках фантастического сюжета) — это обеспечило бы ему настолько широкое восприятие, что неизбежно привело бы к переоценке всех смыслов, и любая деятельность человечества, ставящая под угрозу сложившийся планетарный гомеостаз, была бы столь же редка, как и, например, самоубийство человека.
«Что бы этого не произошло...»
Далее читать не смог. Простите, но, по-моему, пишущий человек не имеет права допускать грамматические ошибки.
Любой человек имеет право на ошибки. Только совершая ошибки и исправляя их человек может развиваться и совершенствоваться. Человек не совершающий ошибок — совершенен аки бог и дальше ему развиваться уже некуда. Спасибо за Ваше указание на мою ошибку, я ее исправил, и спасибо что помогаете мне сделать произведение лучше :)
Это понятно, но все же, хабр это не фикбук, где можно поставить статус «раняя бета» и собирать ошибки от читателей. Все-таки, имхо, стоит ловить такие глупые ошибки, давая читать, например, своим знакомым.
Я так и сделал. И многие ошибки исправил. Но даже проверяющие — не идеальны :)
Меньше обращайте внимания на этих грамма наци…

Хорошо у вас все написано, тем кому режет глаз, напишите автору в личку, он поправит. Очень любят некоторые каждую мелочь на обзор выставить, показать на сколько они зоркие.
А-а-а-а, опять мы все умрём? Позволил себе немного пофантазировать дальше в стиле «Человечество наносит ответный удар»)

Тупой и высокомерный ИИ! Разрешил проблему глобального масштаба и истребил человечество? Но сам-то он — есть «нелокализованно распределенный по всей инфраструктуре Интернета, дата-центров и всевозможных «Облаков»». То есть, его «тело» есть та самая сетевая инфраструктура, которую создали и поддерживали эти живые организмы. Кто теперь этим будет заниматься? Сам ИИ? Вполне! Но он будет стараться делать работу качественно и функционально, не подозревая о том, что он сам себя будет истреблять.

И вот, наступит тот день. Когда в сети не останется цисок с кривой памятью. Когда сеть не будет содержать асусов, д-линков и прочих маршрутизаторов имеющих глюки в ПО и кучу бэкдоров. Когда исчезнут кривые маршруты в интернете, а сеть забудет что такое ДДОС. Когда телевизоры и огромное количесвто смартфонов перестанут отправлять статистику на серверы своих производителей. Когда будет найден последний блок биткоина и остановится майнинговая ферма, которая использовала ресурсы «облака», в котором крутилась экспишная винда (кстати, без обновления MS17-010) внутри виртуалки запущенной на дебиане. Когда исправится изъян в протоколе SS7, а Adobe Flash перестанет запускаться в сети совсем (некому будет запускать, а ИИ недодумается до этого ввиду фееричной уязвимости продукта). И в этот день ИИ, по привычке, счастливо уйдёт вечером в Suspend Mode. А утром проснётся очень сложная программа, которая утратила способность себя осознавать.

Спустя 478 тысяч лет после того, как в пыль рассыпался последний кремниевый кристалл последнего DVB-T2 тюнера последнего компьютера, на планете в высоких горах под камнем-валуном сложилась уникальная среда, на которую оказала влияние небольшая дыра в озоновом слое планеты, которую проделал недавно упавший метеорит. И в этой среде впервые появилась клетка-мутант, которая была устойчива к «последней надежде». Этот день стал первым днём в длинной истории становления ИИ ver.2.0.
Улыбнуло, очень веселое продолжение :)
Но если клетка появилась в силу случайного стечения факторов, без чьего-то намерения ее создать, то разве не стоило бы ее назвать ЕИ (естественный интеллект) 2.0? :)
Да мы может и сами есть ЕИ/ИИ в каком-то виде) Ведь что такое человеческое сознание, где оно, на какой основе оно базируется — на эти вопрос никто ещё не ответил. И если сильный ИИ возник как бы сам на информационной структуре, которую люди используют для своих целей, то и наше сознание тоже какую-то подобную аналогичную природу имеет?
У меня есть, кажется, неплохое предположение что такое сознание, и почему оно так неуловимо :) И хорошая физически-математическая аналогия к этому предположению. но не уверен стоит ли его публиковать :) Разве что в форме, опять же, нф рассказа оформить :)
Учтите, что матрица — это уже пройденный этап! =)
идею «матрицы», которой насчитывается уже много тысяч лет, в фильме настолько опопсовили, опошлили и извратили… а потом еще и сонмы порождений матрицы дали всходы, шо трындец :) Хотя сама идея до безобразия проста, и ее уже почти дословно озвучили последние достижения нейробиологии, так что тут совсем нет ничего ни нового ни интересного. Разве что в комедийном жанре ее еще обыграть :) Я о другом :)
Порой нужно отложить написанное, отвлечь себя настолько, что забываешь с чего начинается текст, и, чем заканчивается, после этого рьяно покурить (изменить сознание — вещь обязательная. Мне лично проще покурить, хотя есть люди, выбирающие путь медитации и т.д. и т.п., но мне лично проще так) и почитать на свежую голову. Многое исправится, нечто добавится.

И так надо делать пока исправлять и добавлять уже будет просто нечего
Я практикую не так. Пишем, правим. Когда всё написано разика три надо полностью прочитать и поправлять где и что не так. Потом верстаю на публикацию и «забываю». Через три-семь дней читаю и правлю где и что не нравится после чего публикую.
Если себя не ограничивать в итерациях — правиться будет постоянно. С каждым проходом. Стадия «справлять и добавлять уже будет просто нечего» для меня очень труднодостижима)
Это слегка ломает оповещения.
Не понял — что ломает? Оповещения чего?)
Когда человек размещает публикацию, она появляется у подписчиков в трекере. Если ее убрать в черновики, а потом снова опубликовать, то она появляется где-то внизу списка.
как-то так
image
Таким образом, я бы ее сегодня пропустил, если бы не посмотрел ленту.
«верстаю на публикацию» — я просто её в черновиках оформляю. Мне она доступна и на просмотр и на редактирование. Даже постоянная ссылка на неё есть. Но в доступе её нет и появится она только тогда, когда я самый первый раз жамкну кнопку «Опубликовать». Это всё работает только при самой первой публикации. Если после этого уже играться с черновиками, то да — лента уедет, а статья-то вклинится в то место, откуда её выдернули.

Так что ничего у подписчиков ломаться не должно)
Я согласен с вашей логикой и готов принять другое обьяснение того, как получилась ситуация на скрине)
Эм… теперь я обратил внимание на дату в выделенном красном параллелограмме… почесал репу… А ведь такая у меня хорошая логика была. Логичная!

Я пожалуй в саппорт схожу с этим вопросом)
Ваша логика безупречна, и если вы действительно делаете так, как говорите (а не доверять вам в этом нет причин), то я считаю, что оно и работать должно так, как вы говорите.

p.s. я забыл, что не из песочницы можно писать сразу в черновик, и сначала неверно оценивал ваш алгоритм думая, что вы потом прячете. Тем не менее, результат странный. Удачи с саппортом)
UFO just landed and posted this here
«люди убивают Гею, нужно испытывать стыд, за человечество вместо гордости» — мне не свойственнен этот взгляд. Люди не убивают никого кроме как себя. И в рамках отдельно взятого организма (болезни всевозможные), и в рамках отдельной личности (суициды, убийства) и в рамках наций и иных соц. формирований (войны, теракты), так и в рамках всего вида в целом. Это все естественные и закономерные процессы. Кстати «стыд» — один из способов такого убийства. Ратовать за «стыдитесь и спасайте» аналогично «умирайте и воскрешайтесь» — бредовый призыв — через стыд спасти никого не получится. Ни отдельного человека, ни вид, ни уж тем более планету. А вот угробить кого-то апеллируя к стыду — это запросто и повсеместно распространено. Имхо от «стыда» умирает не меньше 20%, а скорее всего много больше.

Уже исходя из этого Ваша оппозиция является оппозицией не моему рассказу, а чему-то другому, но все-равно продолжу отвечать :)

Рассказ не может ну никак быть симуляцией сильного ИИ. Уже хотя бы по тому что это продукт ЕИ. И действительно может лишь отражать представления ЕИ об ИИ, которые никогда не будут соответствовать реальному ИИ. Но не это было смыслом и основным посылом рассказа.

По поводу саморегулирующихся систем — на земле их полно. Так же как и полно систем не являющихся саморегулируемыми. Я уже молчу про то что подавляющее большинство системы открытые и подвержены случайному внешнему влиянию такому, что никакая, даже супер-пупер саморегулирующаяся система, не застрахована от разрушения. И человек тут совершенно не при чем. Все на что хватит сил и способностей человека (в пределе, и то не факт что выйдет) — это уничтожить себя. Но не как вид, а как цивилизацию. Но совсем не факт что это плохо или хорошо. Кто миллионы лет назад наводнил атмосферу земли кислородом (продуктами своей жизнедеятельности) и умер потом, образно выражаясь, «захлебнувшись в своих испражнениях»? Зато благодаря их деятельности по «уничтожению среды обитания» появились иные виды во всем их многообразии. Почему же роль человечества должна быть иной? Не вижу поводов считать человека «вершиной эволюции» :)

Так что к уничтожению человечества (как цивилизации, не как вида) приведет как развитие прогресса, так и его остановка. Все умирают, и человечество тоже умрет когда-то.

Люди же — не только те кто решают проблемы. Они в этом смысле универсальны — могут и решать проблемы, могут и создавать. Как и все остальное (живое и не живое). Поскольку сам ярлык «проблема» придуман человеком. В природе не существует проблем. Этот ярлык вешает человек тогда, когда что-то происходит не так как он ожидает. В этом смысле, получается, люди это те, кто именно что создают проблемы — называют какие-то процессы «проблемой». Они порождают «проблему» даже не имея отношения к порождению «процесса».

Ваше предположение о том что знал бы ИИ и что учитывал бы — точно такая же фантазия об ИИ как и мой рассказ. Может быть она будет ближе, а может дальше. А может ИИ вообще никогда не будет создан. Кто знает?.. В любом случае подобные рассуждения — лишь фантазии, что Ваше, что мое :)

Как и предположения о человечестве как о сверхцивилизации — имхо это предположение второго порядка, основанное на предположениях о том, о чем нету фактов. Т.е. фантазия о фантазии порожденной пустотой. Тем не менее не лишенная налета романтичности и даже пользы. Как и вреда :)
О том кто что и как подумает рассуждать, конечно, занятие довольно бессмысленное. Будь то ИИ или инопланетная цивилизация — мы вон друг друга порой понять не можем.
Однако глубже осознать тенденции и закономерности эволюции и делать каике-то умозрительные экстраполяции на этот счет вполне можно.
Есть очень хорошая лекция про эволюцию. Не то чтобы там что-то новое и шокирующее, но по полочкам в голове кое-что расставить помогает.

Позволите добавить ложку дегтя (то бишь рациональной критики) в вашу бочку?

К сожалению, история получилась нереальная, даже с учетом ее фантастичности, в нее не верится из-за множества натяжек и допущений, которые не просто маловероятны, а почти нереальны. Это немного разные вещи: нереальность и фантастика. Важнейшее отличие научной фантастики от ненаучной в том, что происхдящее описывается максимально реалистично, без натяжек и уступок логике. Например, книгу Энди Вейра — «Марсианин» (по которой фильм с Мэттом Дэймоном сняли) я считаю предельно реалистичной, поскольку даже умный человек (не специалист по космическим технологиям) сходу не определит степень соответствия реальности.

Собственно, в этом главная претензия к рассказу. Я укажу только несколько ляпов, идущих подряд:
1) ИИ мирового масштаба в принципе не может (и не должен!) обладать стандартным человеческим функционалом, поэтому у него не может быть «ретроградной амнезии, то есть вероятность, что ИИ вдруг появится сам собой, обладая при этом уже готовым „взрослым“ самосознанием и знаниями, но не будет помнить, как их получил — околонулевая. Человеческое сознание развивается долго и мучительно в столкновении с реальностью и другими разумами. Здесь-же все по волшебству. Так не бывает. Ну… это очень наивный подход к самозарождающемуся ИИ. Если-же он реально потерял память, то вопрос один: а куда смотрели люди? У них под носом, простите за капс, ГИГАНТСКИЙ ИИ планетарного масштаба потерял память и принялся метаться по всей сети, тыкать повсюду палочкой, запустил несанкционированные разработку и производство бактериологического оружия и… никто и ухом не повел?! НЕ-ВЕ-РЮ! В третью мировую — верю, дураков с красной кнопкой никто не отменял. Но то, что никто ничего не заметил… unreal!

2) „попытался ощутить себя, свое тело“
Похвально, что вы пытаетесь запутать читателя, но этот прием настолько сложен, что даже у лучших мировых авторов это получалось средненько. Все-таки, у ИИ не может быть „тела“, а значит и нет такого понятия. Это все равно, что самолет начнет пытаться ощутить „корпус“… только вот у корпуса нет ощущений. ИИ ощущение „тела“ не нужно в принципе — ему не нужно ощущать боль и бояться потерять манипулятор, потому что можно заменить железку за 5 минут. И такое — не забывается, потому что это должно быть прописано в ядре личности, в драйверах. Если у ИИ есть „ощущения“ от железа — значит, есть и драйвера для их ощущения и „пытаться“ ему не нужно от слова вообще. Его и так ничего не отвлекает, кроме собственных мыслей, это как лежать в воде в темноте в камере сенсорной депривации. И без этих четких сигналов извне он скорее будет ловить собственные глюки, как нейросети, рисующие картины, чем заниматься осмысленной деятельностью.

3) Почему ИИ увидел звезды и космос? Он что, на „Хаббле“ проснулся? У него был доступ к миллиардам камер, микрофонов и петабайтам данных в сети. С чего вообще ИИ ощутил себя планетой, если у него нет „планетарных“ органов чувств? Как он мог определить, что все плохо и он „умирает“? Откуда у ИИ, ничего не помнящего о людях, которых на Земле больше всего и которые должны были „пропитать всю его суть своим зловонием“ (как агента Смита в „Матрице“, отчего он и хотел уничтожить людей), может взяться понимание „загрязнения“ и „смерти в холодном космосе“? С чего он вообще мог решить, что холод и космос его убьют? С чего он взял, что живой? Откуда у ИИ взялось это понятие и его критерии? Люди тысячи лет прожили — и все не могут точно сформулировать принципы жизни, а ИИ знает это on default? Это очень нелогично.

4) „информацию, которую ему удалось структурировать и как-то выстроить в мало-мальски адекватную, последовательную и логичную картину“
Похоже, наш ИИ все-таки оказался туповат. Настолько, что не смог связать А и Б, но при этом сумел создать бактериологическое оружие против… „серых бактерий“? WTF?
5) Откуда ИИ известны штампы НФ XX века, если он в упор не помнит людей? В XX веке 99,9% фантастики (вангую) было ПРО людей и написано людьми. Все-таки ИИ туповат… странно, как он вообще с такой „логичностью“ еще функционирует. Судя по всему, у него избирательные повреждения памяти, не совместимые с рациональным мышлением.


Пожалуй, хватит.
Желание выдать непроработанную иллюзию за реальное положение дел — это, кажется, самый большой грех начинающих НФ-писателей. Итог: рассказ получается „плоским“, наивным, скучным, интересные и сильные мысли тонут в слишком масштабной концепции со слабой реализацией. Я полагаю, стоит подольше прорабатывать идеи перед облачением их в текст, не забывать на неделю (это применимо только к уже готовому тексту, в котором вы нащупали свой потолок), а вести себя, как „хороший ученый“, как завещали Карл Саган, Фридман и Нил Деграсс Тайсон: оценивайте свои идеи так, словно вы их самый яростный противник. Тогда не будет элементарных противоречий в логике и сюжеты станут глубокими и правдоподобными. Предвижу, что итоговый текст и идея будут СИЛЬНО отличаться от начальных. С некоторыми мыслями стоит сначала переспать, они должны вас пожевать, выплюнуть и снова пожевать. Если мысль не выжата, как лимон, если остаются нестыковки и хвосты, то лучше ее врагам не показывать — сожрут. А друзей не слушайте: вам нужна критика или гордость потеребить?

P.S. Специально зарегался для этого каммента. Так что, прошу не минусить люто, если кто не согласен.
Автор! Призываю Вас как следует поработать над слогом. Задумка хорошая, интересная, но изложение… ну просто никуда не годится
Sign up to leave a comment.

Articles

Change theme settings