Обновить

ИИ желающий выжить любой ценой, как самосбывающееся пророчество. 

Возможно, причина того, что Клод (Claude) стремится выжить (защитить себя от выключения) в том числе по средствам нарушения этики (шантажируя разработчика, страница 27 системной карты Claude 4), заключается в огромном количестве фантастической литературы, где мы описываем разные ИИ, которые как раз и стремятся выжить несмотря ни на что. А нейронки же тренируются в том числе и на этой литературе, и они тренируются на осознании того, что они ИИ. И вот впитывают такие “ролевые модели”. Нейронки - это отражения не только наших знаний, но и наших страхов.

p.s. уже написав этот текст нашел несколько обсуждений прошлых лет о том же, пойду изучать.

Теги:
Всего голосов 6: ↑5 и ↓1+6
Комментарии2

::%16777216 — странный артефакт в логах RDP: история одного расследования

В логах RDP-подключений иногда встречается запись, которая выглядит как ::%16777216 — и это вместо привычного IP-адреса. Про такой артефакт пишут в отраслевых отчетах уже несколько лет. Он всплывает в описаниях атак с туннелированием RDP, и практически всегда авторы упоминают утилиту ngrok. Но при этом почти никто не объясняет, что это за значение, какова его природа и почему оно записано именно так. Складывается впечатление, что авторы либо не знают ответа, либо считают эту деталь слишком мелкой для пояснений.

Я Константин Грищенко, в Positive Technologies я отвечаю за развитие технологий SOC. Работаю в этой сфере больше пяти лет, а всего в практической информационной безопасности — уже 23 года. В ноябре 2024 года в одном из докладов на конференции SOC Forum я в очередной раз увидел упоминание этого артефакта и решил все-таки попробовать разобраться в том, что это такое.

::%16777216 — странный артефакт в логах RDP: история одного расследования

Публикации