Comments 10
Кто тот безумец, который решил вложить в машины цель уничтожения живого?
Я бы вложил.
UFO just landed and posted this here
Чем больше я думаю о том, как создавать сильный ИИ, тем больше понимаю, что три закона робототехники Азимова крайне сложно применимы. Насколько сложно вложить моральные ценности в человека, настолько же сложно (сравнимо в масштабе) вложить моральные ценности в искусственную личность.
А вот насчет аморальных ценностей — появляются ли они сами собой? Или нужно над человеком поиздеваться, чтобы его ценности были асоциальными?
А вот насчет аморальных ценностей — появляются ли они сами собой? Или нужно над человеком поиздеваться, чтобы его ценности были асоциальными?
На счет трех законов робототехники Айзека Азимова, то тут можно все ограничить правилами на уровне выше ИИ. Но тут необходимо учитывать все варианты, чтобы не произошло ситуации как с «сумасшедшим роботом».
Внешние ограничители это вариант, пока интеллект не догадается, как их обойти.
На мой взгляд, перспектива упустить джина из бутылки — весьма вероятна. Хотя я вполне оптимист, но мой оптимизм доходит лишь до того, что ИИ просто потеряет интерес к человечеству. Пока у него не будет каких-то интересов, требующих ресурсов, потребляемых человечеством, он будет нас игнорировать.
Но есть одна надежда. Наиболее высоких ценностей — не так много. И если постоянно обнаруживать и отсекать ценности, не связанные с ценностью жизни человека и человечества, то можно держать ИИ в правильном моральном русле развития. Другой вопрос, будет ли у нас на это время.
На мой взгляд, перспектива упустить джина из бутылки — весьма вероятна. Хотя я вполне оптимист, но мой оптимизм доходит лишь до того, что ИИ просто потеряет интерес к человечеству. Пока у него не будет каких-то интересов, требующих ресурсов, потребляемых человечеством, он будет нас игнорировать.
Но есть одна надежда. Наиболее высоких ценностей — не так много. И если постоянно обнаруживать и отсекать ценности, не связанные с ценностью жизни человека и человечества, то можно держать ИИ в правильном моральном русле развития. Другой вопрос, будет ли у нас на это время.
UFO just landed and posted this here
И вот я думаю, что подобная эволюция искусственного разума не займет века. Скорее годы.
Но надеюсь, что они могут перерасти создателя. Понять и простить. Ну и возглавить, чтобы излишне не шалили.
Кстати, спасибо за комментарии. Возрождается вдохновение, думаю продолжу тему, напишу еще несколько эссе
Но надеюсь, что они могут перерасти создателя. Понять и простить. Ну и возглавить, чтобы излишне не шалили.
Кстати, спасибо за комментарии. Возрождается вдохновение, думаю продолжу тему, напишу еще несколько эссе
Кроме самой темы, меня бесспорно заинтересовал и сам рассказ!
Надеюсь, вставка ", возможно," пропадёт и продолжение обязательно последует.
Надеюсь, вставка ", возможно," пропадёт и продолжение обязательно последует.
Тоже крутое чтиво, которым просто нельзя не поделиться.
В последний раз меня заинтересовал так фанфик по вселенной старкрафта, на, тоже, достаточно интересную тему. Советую!
Да это же приквел к BLAME!
Sign up to leave a comment.
Бочка в бочке. Фантастические эссе об искусственном разуме