Как стать автором
Обновить

ИИ желающий выжить любой ценой, как самосбывающееся пророчество. 

Возможно, причина того, что Клод (Claude) стремится выжить (защитить себя от выключения) в том числе по средствам нарушения этики (шантажируя разработчика, страница 27 системной карты Claude 4), заключается в огромном количестве фантастической литературы, где мы описываем разные ИИ, которые как раз и стремятся выжить несмотря ни на что. А нейронки же тренируются в том числе и на этой литературе, и они тренируются на осознании того, что они ИИ. И вот впитывают такие “ролевые модели”. Нейронки - это отражения не только наших знаний, но и наших страхов.

p.s. уже написав этот текст нашел несколько обсуждений прошлых лет о том же, пойду изучать.

Теги:
+6
Комментарии2

Публикации

Ближайшие события