Комментарии 10
Кто тот безумец, который решил вложить в машины цель уничтожения живого?
Я бы вложил.
0
НЛО прилетело и опубликовало эту надпись здесь
Чем больше я думаю о том, как создавать сильный ИИ, тем больше понимаю, что три закона робототехники Азимова крайне сложно применимы. Насколько сложно вложить моральные ценности в человека, настолько же сложно (сравнимо в масштабе) вложить моральные ценности в искусственную личность.
А вот насчет аморальных ценностей — появляются ли они сами собой? Или нужно над человеком поиздеваться, чтобы его ценности были асоциальными?
А вот насчет аморальных ценностей — появляются ли они сами собой? Или нужно над человеком поиздеваться, чтобы его ценности были асоциальными?
+1
На счет трех законов робототехники Айзека Азимова, то тут можно все ограничить правилами на уровне выше ИИ. Но тут необходимо учитывать все варианты, чтобы не произошло ситуации как с «сумасшедшим роботом».
0
Внешние ограничители это вариант, пока интеллект не догадается, как их обойти.
На мой взгляд, перспектива упустить джина из бутылки — весьма вероятна. Хотя я вполне оптимист, но мой оптимизм доходит лишь до того, что ИИ просто потеряет интерес к человечеству. Пока у него не будет каких-то интересов, требующих ресурсов, потребляемых человечеством, он будет нас игнорировать.
Но есть одна надежда. Наиболее высоких ценностей — не так много. И если постоянно обнаруживать и отсекать ценности, не связанные с ценностью жизни человека и человечества, то можно держать ИИ в правильном моральном русле развития. Другой вопрос, будет ли у нас на это время.
На мой взгляд, перспектива упустить джина из бутылки — весьма вероятна. Хотя я вполне оптимист, но мой оптимизм доходит лишь до того, что ИИ просто потеряет интерес к человечеству. Пока у него не будет каких-то интересов, требующих ресурсов, потребляемых человечеством, он будет нас игнорировать.
Но есть одна надежда. Наиболее высоких ценностей — не так много. И если постоянно обнаруживать и отсекать ценности, не связанные с ценностью жизни человека и человечества, то можно держать ИИ в правильном моральном русле развития. Другой вопрос, будет ли у нас на это время.
0
НЛО прилетело и опубликовало эту надпись здесь
И вот я думаю, что подобная эволюция искусственного разума не займет века. Скорее годы.
Но надеюсь, что они могут перерасти создателя. Понять и простить. Ну и возглавить, чтобы излишне не шалили.
Кстати, спасибо за комментарии. Возрождается вдохновение, думаю продолжу тему, напишу еще несколько эссе
Но надеюсь, что они могут перерасти создателя. Понять и простить. Ну и возглавить, чтобы излишне не шалили.
Кстати, спасибо за комментарии. Возрождается вдохновение, думаю продолжу тему, напишу еще несколько эссе
+1
Кроме самой темы, меня бесспорно заинтересовал и сам рассказ!
Надеюсь, вставка ", возможно," пропадёт и продолжение обязательно последует.
Надеюсь, вставка ", возможно," пропадёт и продолжение обязательно последует.
Тоже крутое чтиво, которым просто нельзя не поделиться.
В последний раз меня заинтересовал так фанфик по вселенной старкрафта, на, тоже, достаточно интересную тему. Советую!
0
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Бочка в бочке. Фантастические эссе об искусственном разуме