Comments 5
Антропик так агрессивно рекламировали свою новую модель, что всех перепугали, и правительство в панике дернуло стоп-кран. Пока что это ситуация “задержаны до выяснения”. Когда разберутся на что реально способен Мифос, может снова разрешат продавать.
Есть вариант похуже - для иностранцев сделают особую версию с глюками. Тогда надо разрабатывать тест, чтобы отличать оригинал от экспортного варианта.
Хорошее резюме событий, изложенное с чувством юмора. Спасибо!
А гипотеза того, что модель просто начала слишком быстро находить отдельные уязвимости и затейливые цепочки "особенностей софта" (non-exploitable per se) так, что это поставило под угрозу давно и успешно работающие схемы по доступу "кого надо" к данным там, "где надо" не рассматривается?
Нет, она сильно зажата чтобы что-то серьезное искать. На каждый чих про "секурити" на втором или третьем шаге начинает глюка. Можно конечно джайлбрекнуть, но опять же в агентном режиме через пару шагов начнет чудить.
На самом деле обложить ту же гопоту или агента на SOTA модели "без тормозов" фазерочками и дебагерами с бесконечным бюджетом и они отлично сейчас справится.
Только проблема что "без тормозов" сейчас только у тех "кого надо".
Былинные приключения Антропикопитека в стране Мифов