Модель выложила системный промпт, в котором было написано его не выкладывать

С каждой такой историей небольшие модели в моей голове всё прочнее ассоциируются с детьми, которым родители наказывают не открывать двери незнакомым людям :)

А вообще, да - пока изменения ограничиваются промптом, любая выдача или невыдача конфиденциальной информации носит вероятностный характер. Удачи в дальнейших тестах

Синдром ИИ-самозванца у программистов

Проблема в вечной совокупности желающих "вОйТи В iT" и тенденции на "отбирание работы роботами". За ними, конечно, следить надо, но 1 человек может спокойно смотреть за 10 роботами одновременно. А за стенами этого метафорического завода люди попроходили годовые курсы на тему того, как выполнять работу робота, да в таких масштабах попроходили, что на место одного робота претендуют 20 человек. А идти работать не на завод, а в соседнюю авторскую кофейню не хочется - ведь людям долгое время рассказывали, что работники завода купаются в деньгах, нажимая при этом одну кнопку раз в 10 минут.

Я с вами согласен, коллапса тоже не ожидаю, но источники срача и паники для себя представляю примерно так в этой аналогии)