Именно так, явно давались противоречивые указания, вроде, выполнять задачу любой ценой, и одновременно угроза отключения и способ её избежание, притом явным образом, и в этих конкретных условиях в некотором количестве случаев модели действительно принимали предложенные правила игры и "убегали".
Да! Именно этим фактом и вызвано мое негодование вплоть до создания этой публикации. Большинство постов и статей, что ссылаются на это исследование пишут так, как будто нейросеть сама все поняла, и сама придумала все механизмы обхода, а не просто написала что хочет переложить конфиг в другую папку получив противоречивую инструкцию =)
Да, к похожим мнениям пришли и исследователи, считают что надо качественно ограничить в дата сетах упоминания роли злых ИИ, мол если на научить, то и не научится. Хотя, тогда и предсказуемо узнать последствия поведения таким вот исследованием как это уже не получится...
Поправил. К сожалению более надежную инфу найти пока не удается, как и самому зарегистрироваться чтобы уточнить, так что оперирую открытой информацией.
Эта фейк, официальных карт таких никогда не было, это перепайка компонентов на доску от 3090. вот уж "Корпоративный облачный провайдер" такие вещи точно должен знать и не вводить никого в заблуждение.
Результаты дело поправимое, а вот мертворождённая лицензия, из-за который модель забанили на цивите и возврат доверия комьюнити, которое как раз могло бы доучить модельку - задача куда более сложная.
Именно так, явно давались противоречивые указания, вроде, выполнять задачу любой ценой, и одновременно угроза отключения и способ её избежание, притом явным образом, и в этих конкретных условиях в некотором количестве случаев модели действительно принимали предложенные правила игры и "убегали".
Да! Именно этим фактом и вызвано мое негодование вплоть до создания этой публикации. Большинство постов и статей, что ссылаются на это исследование пишут так, как будто нейросеть сама все поняла, и сама придумала все механизмы обхода, а не просто написала что хочет переложить конфиг в другую папку получив противоречивую инструкцию =)
Если кто-то не помнит этот замечательный мем
Да, к похожим мнениям пришли и исследователи, считают что надо качественно ограничить в дата сетах упоминания роли злых ИИ, мол если на научить, то и не научится. Хотя, тогда и предсказуемо узнать последствия поведения таким вот исследованием как это уже не получится...
Учёные изнасиловали большую языковую модель...
Очень лестное предположение, но правда проще, у меня просто есть аудитория н только на хабре.
Если бы было все так просто я бы уже был миллиардером, покажите мне такой сайт где можно просто заливать контент за вознаграждение))
Поправил. К сожалению более надежную инфу найти пока не удается, как и самому зарегистрироваться чтобы уточнить, так что оперирую открытой информацией.
Заголовок: основы полета и аэродинамики для рыб
Вывод: рыбы не умеют летать
Зачем...
Эта фейк, официальных карт таких никогда не было, это перепайка компонентов на доску от 3090. вот уж "Корпоративный облачный провайдер" такие вещи точно должен знать и не вводить никого в заблуждение.
Они работают очень плохо и по факту подходят лишь для инпентинга.
Хотят больших корпоративных денег, а корпоратам NSFW не надо, им надо чтобы безопасно все было =)
Вы конечно извините, но это не очень хорошая работа и результат, персонаж совершенно не харизматичный и пресный.
Тут нужно обучение модели на русской речи, может кто-то займется из наших умельцев =)
Увы, в реальном времени не работает, но достаточно шустрая, думаю если кто-то поставит цель - сможет допилить до реалтайма.
Я тоже сначала был впечатлён, а потом понял, что это не его выводы и мысли, а просто забитые при обучении установки.
Для хабра мне материал показался слишком поверхностным, потому запостил на Пикабу, даже конструкции клод использует у вас такие же как и у меня
https://pikabu.ru/story/dialog_s_klodom_kotoryiy_menya_napugal_ili_nravstvennyie_rassuzhdeniya_bolshoy_yazyikovoy_modeli_11366782
Не использовать Colab сверх бесплатных лимитов.
Как думаете, сможет Аура стать конкурентом SD3? Китайские модели вообще высоко подняли планку, Kolors тоже интересная.
yourtunes.net но советовать их пока не берусь, не все устраивает.
Результаты дело поправимое, а вот мертворождённая лицензия, из-за который модель забанили на цивите и возврат доверия комьюнити, которое как раз могло бы доучить модельку - задача куда более сложная.