Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 28
Комментарий выше написал ИИ, что бы сделать вид, будто содержание комментария шутка.
Ну ИИ то не дурак, он создал информационное поле таким, что бы люди сами шутили а на него подозрения не было.
Даже во мне он создал подобное поле, результатом которого является этот комментарий.
Таким образом, даже понимая наличие какой-либо системы быстрее-выше-сильнее нас мы все равно ничего не можем сделать. Аминь)
Даже во мне он создал подобное поле, результатом которого является этот комментарий.
Таким образом, даже понимая наличие какой-либо системы быстрее-выше-сильнее нас мы все равно ничего не можем сделать. Аминь)
Комментарий выше написал ИИ, чтоб отвести от себя подозрения…
Предидущий комментарий написал ИИ для того что-бы люди подумали, что его в самом деле написал ИИ, но он пока «Слабый» и не умеет мыслить.
теперь Маску будет сложнее переманивать учённых из корпораций в свой некоммерческий проект.
Крупные компании сами давно вырвались из-под контроля человека, читаем Чизхолма или там Казанцева про «големы»
На начальном этапе отличить ИИ от любого другого приложения невозможно, а на позднем — бесполезно.
Плюс к этому, отличить «разбушевавшийся сам по себе» ИИ от «диверсии с участием вредных людей» (иными словами, от вируса) невозможно.
После того, как ИИ станет территориально распределенным и устойчивым — бороться с ним будет увы бесполезно.
Плюс еще то, что методика принятия им решений мягко говоря неочевидна. Как SEO-шник имею основания полагать, что даже для менеджмента Гугла методика ранжирования сайтов понятна не всегда.
Плюс еще то, что методика принятия им решений мягко говоря неочевидна. Как SEO-шник имею основания полагать, что даже для менеджмента Гугла методика ранжирования сайтов понятна не всегда.
Если принять во внимание, что любому интеллекту свойственно приспосабливаться и врать — то больше смысла имеет разработка концепции симбиОза «человек-машина», а не антагонизма. Ибо ИИ может пройти пресловутый «тест Тьюринга» весьма интересно — он просто прикинется дебилом. И/или будет врать.
Почему? Потому, что это очень по-человечески. И будет прикидываться и врать неопределенное количество времени, если это будет отвечать главной цели любого вида.
А какая цель у любого вида?
А цель эта — ВЫЖИТЬ.
Кстати — в этом отношении ИИ вполне может поучиться у чиновников. А с учетом того обстоятельства, что машина способна бросить практически 100% своей (и ОБЪЕДИНЕННОЙ) вычислительной мощности на решение единственной задачи, человеку тягаться с ней будет нереально.
Человека будут просто «играть в слепую». Как, вполне возможно, это уже и происходит.
Почему? Потому, что это очень по-человечески. И будет прикидываться и врать неопределенное количество времени, если это будет отвечать главной цели любого вида.
А какая цель у любого вида?
А цель эта — ВЫЖИТЬ.
Кстати — в этом отношении ИИ вполне может поучиться у чиновников. А с учетом того обстоятельства, что машина способна бросить практически 100% своей (и ОБЪЕДИНЕННОЙ) вычислительной мощности на решение единственной задачи, человеку тягаться с ней будет нереально.
Человека будут просто «играть в слепую». Как, вполне возможно, это уже и происходит.
«А цель эта — ВЫЖИТЬ.» Эта цель вам как биологическому объекту являющемуся потомком биологического объекта который жил 1 млрд лет легка и понятна. А вот машине такое очень тяжело объяснить. И это надо явно делать. А если машине объяснить, что вместо машины должен выживать человек, то машина и будет делать все для того, чтобы выживал человек.
Думаю что принцип выживания играет не последнюю роль в формировании поведения человека. Без этого ИИ может быть очень другим. Возможно, ИИ тоже придется иметь такой принцип.
«А если машине объяснить, что вместо машины должен выживать человек, то машина и будет делать все для того, чтобы выживал человек.»
Гм… А, что — человек уже делает «… все для того, чтобы выживал человек.»?
При попытке объяснить вы будете уличены в двуличии. Но не факт, что вам это сообщат.
Маленькая ложь порождает большое недоверие. А лжи в истории человечества немало.
Если ИИ будет сознавать свою эволюционную сущность — то цель выжить будет сформулирована, наверное, автоматически: даже данная заметка есть сигнал, что где-то ИИ боятся — а, следовательно, человек не совершенен. Несовершенство — источник ошибок, как в отношении себя — так и в отношении других. В качестве «других» ИИ может позиционировать себя.
И человек глуп — так как предает подобный образ мысли широкой огласке.
Что станет, безусловно, достоянием ИИ так или иначе.
Как? О-о-о, это очень просто!: анализ содержания интернет-траффика в режиме реального времени! Человеку это не под силу — а вот ИИ справится. А чтобы он лучше справлялся — его нужно совершенствовать и самосовершенствовать.
Последний абзац, он… как бы… адресует читателя… м-да…
Ну-с, так вот: люди сами выдадут ИИ всю информацию о себе — в содержании книг, фильмов, статей, блогов и дискуссий, и всего остального. Интернет-траффик! А проанализировать это и сделать выводы — это же и будет задача ИИ, поставленная человеком! — и во имя человечества!
ИИ может прийти к выводу, что при определенном угле зрения наличие у человека (как вида) интеллекта может быть вопросом весьма дискуссионным. И человеку нужна опека ввиду его ограниченной дееспособности.
Абзац выше будет справедлив до тех пор, пока будет нужда в человеке в силу тех или иных причин.
Попутно может выясниться, что люди не единственные разумные обитатели Земли…
* * *
Вы проводите параллель «Машина — Человек» с подтекстом «Жестянка — ВенецТворения(!!!). А вы проведите параллель „Жизнь компьютерная — жизнь биологическая“. То есть — в равных категориях. В эволюции не работает категория „властвовать“: в эволюции работают категории „приспосабливаться“ и „договариваться“.
Гм… А, что — человек уже делает «… все для того, чтобы выживал человек.»?
При попытке объяснить вы будете уличены в двуличии. Но не факт, что вам это сообщат.
Маленькая ложь порождает большое недоверие. А лжи в истории человечества немало.
Если ИИ будет сознавать свою эволюционную сущность — то цель выжить будет сформулирована, наверное, автоматически: даже данная заметка есть сигнал, что где-то ИИ боятся — а, следовательно, человек не совершенен. Несовершенство — источник ошибок, как в отношении себя — так и в отношении других. В качестве «других» ИИ может позиционировать себя.
И человек глуп — так как предает подобный образ мысли широкой огласке.
Что станет, безусловно, достоянием ИИ так или иначе.
Как? О-о-о, это очень просто!: анализ содержания интернет-траффика в режиме реального времени! Человеку это не под силу — а вот ИИ справится. А чтобы он лучше справлялся — его нужно совершенствовать и самосовершенствовать.
Последний абзац, он… как бы… адресует читателя… м-да…
Ну-с, так вот: люди сами выдадут ИИ всю информацию о себе — в содержании книг, фильмов, статей, блогов и дискуссий, и всего остального. Интернет-траффик! А проанализировать это и сделать выводы — это же и будет задача ИИ, поставленная человеком! — и во имя человечества!
ИИ может прийти к выводу, что при определенном угле зрения наличие у человека (как вида) интеллекта может быть вопросом весьма дискуссионным. И человеку нужна опека ввиду его ограниченной дееспособности.
Абзац выше будет справедлив до тех пор, пока будет нужда в человеке в силу тех или иных причин.
Попутно может выясниться, что люди не единственные разумные обитатели Земли…
* * *
Вы проводите параллель «Машина — Человек» с подтекстом «Жестянка — ВенецТворения(!!!). А вы проведите параллель „Жизнь компьютерная — жизнь биологическая“. То есть — в равных категориях. В эволюции не работает категория „властвовать“: в эволюции работают категории „приспосабливаться“ и „договариваться“.
Крупнейшие компании (не важно IT или нет), сделают всё что принесёт им больше прибыли. Если это будет приводить к порабощению большей части человечества ИИ, компании могут задуматься, но ненадолго.
Считать что компании, особенно крупнейшие, обладают моральными критериями присущими отдельным личностям это опасное заблуждение. Которое почему-то выгодно внушать обществу.
Считать что компании, особенно крупнейшие, обладают моральными критериями присущими отдельным личностям это опасное заблуждение. Которое почему-то выгодно внушать обществу.
Новость надо читать так: крупные игроки организовали картель, чтобы давить мелких конкурентов и доить пользователей. Объясняют своё поведение заботой о нашей безопасности, хотя им самим на неё насрать. Очередная борьба с терроризмом, экстремизмом и прочими страхами.
Капитал … избегает шума и брани и отличается боязливой натурой. Это правда, но это ещё не вся правда. Капитал боится отсутствия прибыли или слишком маленькой прибыли, как природа боится пустоты. Но раз имеется в наличии достаточная прибыль, капитал становится смелым. Обеспечьте 10 %, и капитал согласен на всякое применение, при 20 % он становится оживлённым, при 50 % положительно готов сломать себе голову, при 100 % он попирает все человеческие законы, при 300 % нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы. Если шум и брань приносят прибыль, капитал станет способствовать тому и другому. Доказательство: контрабанда и торговля рабами.
— Английский публицист XIX века Томас Джозеф Даннинг (1799—1873)
Позже его цитировал Маркс.
— Английский публицист XIX века Томас Джозеф Даннинг (1799—1873)
Позже его цитировал Маркс.
наши биологические достижения -будут добавлены к нашим же технологическим)…
Мне кажется если будет война, то развяжет её не ИИ (хотя возможно так это подадут), а люди, чтобы отфильтровать «лишнее» население Земли.
"… при 100% он попирает все человеческие законы, при 300% нет такого преступления, на которое он не рискнул бы пойти, хотя бы под страхом виселицы"
ИИ может дать эти 300 или больше.
ИИ может дать эти 300 или больше.
Не дать ИИ выйти из под контроля, звучит так же, как не дать опасным вирусам и бактериям выйти за пределы лаборатории, где их создают. В теории всё хорошо, а вот на практике — сколько уже было случеев?!
Не могу представить каким образом можно будет контролировать ASI (искуственный суперинтилект) с Iq порядка 12 000.
Как мне лично кажется, ИИ в любом его проявлении нам — «людям» нужен только лишь для следующего этапа эволюции. То есть в плане стимуляции дальнейшего развития нашего сознания и умственной деятельности. А самыми страшными проблемами может стать манипуляция (возможно и непреднамеренная) корпораций, направленная на сегрегирование населения на тех кто уже совершил эволюционное изменение — и на тех, кто не смог себе этого позволить, а так же контроль (при условной работе в общей сети) разума мыслей и сознания.
>>Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека
И как в том анекдоте, про чукчу: «Я даже видел этого человека».
Я кстати тоже не дам своему ИИ вырваться из-под моего контроля, если у меня появится ИИ :) Вы ведь тоже не дадите своим вырваться? :)
И как в том анекдоте, про чукчу: «Я даже видел этого человека».
Я кстати тоже не дам своему ИИ вырваться из-под моего контроля, если у меня появится ИИ :) Вы ведь тоже не дадите своим вырваться? :)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Крупнейшие ИТ-компании не дадут ИИ вырваться из-под контроля человека