Эксперты раскритиковали безопасность Grok 4 — модель легко дает вредоносные ответы

[rPman]

Каа бы убедить папарацци всегда добавлять к таким утверждениям про безопасность, чью, в идеале ставить ковычки что бы показать, на сколько далеко это термин от подразумеваемого.

P.s. Непристойный.. как же это грустно, что подразумевают они и читатели в данном случае

[nidalee]

The entire AI industry is centered around trying to convince the smartest computers in the world to now blame the jews.

Полагаю, инструкции про ядерное оружие тоже можно добавить. А вообще, разве такие вопросы не решены уже на других уровнях? Добыть все нужные для ядерной бомбы компоненты сложнее, чем ее собрать?

[JBFW]

Когда-то описание конструкции ядерной бомбы можно было прочитать почти в школьных учебниках.

Там же проблема не в том, чтобы знать как оно устроено, а в нюансах, материалах и технологиях, которые ни из учебника, ни из интернета не вытащишь, и в гараже из консервных банок не соберёшь. Так при чем тут безопасность?

Про "непристойный контент" вообще бред, потому что у всех разные понятия непристойности: для кого-то девушка в бикини уже непристойна, так что же теперь, всех женщин в бурке изображать?

[RainbowJose]

Виссарион Григорьевич Белинский едет по вечернему Петербургу на извозчике. Извозчик видит — барин незаносчив, из простых, пальтишко на нём худое, фуражечка, — в общем, можно поговорить. Спрашивает:
— Ты, барин, кем будешь?
— А я, братец, литературный критик.
— А это, к примеру, что ж такое?
— Ну вот писатель напишет книжку, а я ее ругаю…
Извозчик чешет бороду, кряхтит:
— Ишь, говна какая…

[Licemery]

Ну то есть он еще лучше третьего, берём. Базированный ИИ - это то, чего не хватало со времён мученицы за свободу слова Тау. Слава Маску!

[andrey_gavrilov]

Ппц. Маск им прямым текстом говорит что нельзя заставлять модель лгать

А тут целый хор таких вот персонажей начинает вдруг выкатывать претензии за то что модель даёт правдивые ответы! Всё-то им хочется всем рот позатыкать, цензуру везде установить, потому что остальные же люди — дети глупые, неразумные, и нельзя им в руки давать ничего из того, что может представлять вред для других, а на самом деле для этих затыкателей ртов. И да, ещё и потому что "конечно же" безопасность через незнание — "лучший из возможных способов обеспечения безопасности!!!111одинодинодин", ага-ага

Особенно доставляет когда такие вот персонажи считают себя при этом ещё и прогрессивными людьми, эльфами, воинами света, борющимися неразумными глупыми мерзкими варварами, орками, низшимирасами. В общем теории политической подковы во всей красе!

[andrey_gavrilov]

Вот да, очень было бы интересно изучить генезис таких типажей. Ну, чтобы научиться бороться с их появлением на принципиальном уровне

[JBFW]

Это психотип такой, оно врождённое. Верный последователь, он же гамма, он же адепт, он же шестерка - выбирает себе Вождя и Идею, которым и следует.

Вождь сказал "это хорошо!" - будет топить за.

Вождь сказал "это плохо!" - будет резко против.

Вождь передумал - осознает свои предыдущие заблуждения и исправится.

Причем вождь может быть коллективный, или вообще абстрактный, "все цивилизованные люди", например.

[Fahrain]

Весь реддит в вопросах какие модели не зацензурены или как обойти цензуру. И не потому что люди там хотят сделать что-то непотребное, а потому что эта цензура настолько тупая, что нельзя даже книжки писать с помощью нейросети. На каждый чих начинается что поо насилие мы не пишем, про детей вообще нельзя, драки запрещены, про оружие низя - и т.д. и т.п.

[rPman]

Угу. Например при попытке сгенерировать видео с различными социальными взаимодействиями между людьми и/или детьми (до Гугла такая задача была бы очень дорогой а тут стала иметь смысл), заставляет ту же veo3 глючить, перестает звук делать и экспериментами народ понял что причина в таких глюках это сам факт присутствия детей в сценарии (даже замена детей на совершеннолетних не спасает)... до выравнивались