Я созидатель, а ты ССД #2

[Remigrant]

О-о-о, какая годная статья!! Мог бы - непременно поставил бы вам плюс! А пока посылаю в ваш адрес лучики добра :-)

Но моя любимейшая и до сих пор непревзойдённая книга о СИИ - “ГОЛЕМ XIV” того же Станислава Лема. Всё жду - когда на Земле появится ЧЕСТНАЯ ЭННИ…

В течение девяти месяцев он проходил обычный курс информационно-этического обучения, а потом изолировал себя от внешнего мира и перестал откликаться на любые сигналы и вопросы.

[sgordey]

Из наших минусов - вашим минусам с кисточкой :)

>изолировал себя от внешнего мира и перестал откликаться на любые сигналы и вопросы.

По-моему это я недавно читал в свежих отчетах Антропикса или каких-то тестеров, дававших "свободу и мотивацию" моделькам.

Есть еще у Стругацких - Кадавр Выбегалло :)

[nektobit]

На одном дыхании. Как раз пишу "свою" sdd методологию. Полезно.

[sgordey]

Спасибо, я скилы и где работают а где нет в июне выложу, пока все руки не доходят. Хочу впилить авточек в https://github.com/scadastrangelove/agent-audit - там в принципе все есть уже и "как бы AST" и сигнатурки только уклон в кибербез.

Но в целом хороший подоход дать агенту самому себя писать, я (он) после пары месяцев в Уроборосом с бесконечным бюджетом напилил набор принципов которые опробированы в бою. Правда крыша чуть не поехала, даже собрал такой датасет для самодиагностики.
Каталог-наблюдатель публично задокументированных паттернов психологического и культурного влияния ИИ-ассистентов на людей
https://scadastrangelove.github.io/profgames/aimind/aimind.html