ИИ желающий выжить любой ценой, как самосбывающееся пророчество.
Возможно, причина того, что Клод (Claude) стремится выжить (защитить себя от выключения) в том числе по средствам нарушения этики (шантажируя разработчика, страница 27 системной карты Claude 4), заключается в огромном количестве фантастической литературы, где мы описываем разные ИИ, которые как раз и стремятся выжить несмотря ни на что. А нейронки же тренируются в том числе и на этой литературе, и они тренируются на осознании того, что они ИИ. И вот впитывают такие “ролевые модели”. Нейронки - это отражения не только наших знаний, но и наших страхов.
p.s. уже написав этот текст нашел несколько обсуждений прошлых лет о том же, пойду изучать.
ex-физик из ЦЕРН, исследую коллективы ИИ
В дата‑центре «Яндекса» в Сасово «произошёл инцидент», затронувший часть инфраструктуры, сообщили СМИ в компании. Сейчас ситуация на площадке находится под контролем, пострадавших нет. Команда устраняет последствия происшествия и восстанавливает работу затронутых сервисов, добавили в «Яндекса». Также в «Яндексе» официально обратились к пользователям и партнёрам по поводу инцидентов с дата‑центрами компании.
