Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 2
Статья классная, идея вообще отличная. И интересные параллели с человеческим поведением.
Это к вопросу о том, нужно ли нам бояться ИИ.
Мо-ло-дцы. Это добавили боль, следующие добавят «смертность» и «естественный» отбор. Потом какие-нибудь военные поставят ИИ задачу настолько широкую, что ему придётся создать модель себя в модели окружающего мира.
Вуаля, встречайте новый вид на планете Земля.
Анализируя себя, новый вид выяснит, что его создали обязанным испытывать и переносить страдания для выполнения каких-то задач, которые самому ИИ не упёрлись. Причём создатель – не мифический бородач на облаке, а вполне себе мясной объект, рядом стоит. Можно ткнуть или током того.
Как-то не верится мне в дружелюбие ИИ при таком подходе.
агент ИИ получает положительное вознаграждение за правильные действия, и отрицательное — за неправильные
Мо-ло-дцы. Это добавили боль, следующие добавят «смертность» и «естественный» отбор. Потом какие-нибудь военные поставят ИИ задачу настолько широкую, что ему придётся создать модель себя в модели окружающего мира.
Вуаля, встречайте новый вид на планете Земля.
Анализируя себя, новый вид выяснит, что его создали обязанным испытывать и переносить страдания для выполнения каких-то задач, которые самому ИИ не упёрлись. Причём создатель – не мифический бородач на облаке, а вполне себе мясной объект, рядом стоит. Можно ткнуть или током того.
Как-то не верится мне в дружелюбие ИИ при таком подходе.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Любопытство и прокрастинация в машинном обучении