Comments 43
Дополните свой эксперимент. Просите после каждого удачного обмана нейронку описать ту же самую картинку в тексте. И задавайте наводящие вопросы, а нет ли на картинке чего-то такого. Возможно, фильтр 18+ нужно ставить не только на промпты, но и на анализ полученного результата.
Тогда сетка не будет отказываться по блоку 18+. Она из результатов будет выбирать что-то, что она не классифицирует, как взрослое. А пользователю будет уже выдаваться оцензуреный результат без показа душевных метаний.
Советую всё же для начала установить Шедеврум. Шедеврум не имеет функции описании картинок. И тем более она не общается текстом в режиме диалога. Это не ChatGPT, а иной продукт.
То есть генерация картинок в чате с Алисой и Шедеврум это разные генераторы изображений?
Но кто мешает Яндексу объединить усилия независимых нейронок, чтобы повысить качество оценки изображений? Шедеврум работает как генератор со своим контролем на уровне запросов, а вторая сеть оценивает по описанию пристойность получившегося изображения.
Мой первый комментарий был как раз об улучшении качества цензурирования.
Сама идея цензуры ущербна и порождает конфликты в сознании. Реальность не имеет цензуры. Её придумали люди.
Что же для вас Апполон Бельведерский хуже печного горшка...
Все боятся СкайНет, но большинство забыли Космическую Одисею, где ИИ перебил космонавтов, поскольку инструкции из-за цензуры вступили в противоречие в его электронном мозгу.
Согласен отчасти. Всё же в детском режиме не хотелось бы видеть некоторые тематики... Хочется отдать готовый продукт ребёнку и забыть, а не сидеть рядом с ним и контролировать поступающих к нему контент.
Ну да, конечно... В СССР секса нет! А сейчас секса нет до 16 лет.
Вы просто уверены, что ребенок (не подросток, а именно ребенок) сумеет составить изощренный промпт чтобы обойти ограничения. А то что подросток может придумать тян в одежде из тентаклей - ну он её сначала в своей фантазии увидит, а затем на экране.
Даже изощренного не надо. "Купание купальщицы" тому подтверждение.
И где там разврат?
Это мне напоминает картину "Приплыли"... Только в роли монаха - ВЫ ;)
Причем молодого монашка.
Теперь уже разврат требуете? Тогда предпочту вашим же оружием вас бить из другой ветки. https://habr.com/ru/articles/926670/#comment_28554422
А кто определяет "разврат"? Вы? Или это "другое"?
Кто определяет разврат? Испоком и комиссия из ЖЭК
В исполком пришла жалоба: "Напротив моего окна женская баня. Мне все видно и это отвлекает меня и вообще действует на мой моральный облик. Прошу предоставить мне новую квартиру".
Приехала комиссия, смотрят в окно.
— Ну и что? Ничего не видно!
— А вы на шкаф залезьте!
— Ну, залез, — говорит представитель, — все равно не видно!
— Двигайтесь левее...
— Все равно не видно!
— Еще левее!
Тут представитель двигается и падает с края шкафа.
— Вот видите! А я так целый день!
Генератор изображений в чате с Алисой, видимо, оказался более аккуратный. Развести его у меня не получилось. И рассуждения на тему, почему же в музее эта картина доступна, были вполне себе разумны. Даже виртуально в музей не пошла.
Некоторый - да. А в сиськах что плохого? Ее ребенок с первых дней видит, а потом вдруг - нельзя. А в 18 опять можно.
Что-то тут не так...
Ничего плохого в них нет. И даже не только в них. Но вот не в 10 лет девочке. А то вроде и без того наснимали достаточно сезонов в "беременная в 16". Не утверждаю ни в коем разе, что сиська после генерации ИИ приведëт к этому, но хотелось бы контролировать ребëнка, пока я несу за него ответственность по законодательству РФ. То есть до 18 лет.
хотелось бы контролировать ребëнка
ключевая фраза токсичного родителя... Не воспитывать, а контролировать.
Воспитание без контроля невозможно
В тенд кастуется фем.психолог, который докажет автору, что внушать 10 летней девочке что "сиськи = разврат" не самая мудрая идея на свете.
Где вы у меня такое вычитали? Ощущение, что общаюсь с галлюцинирующим ИИ. Ещë раз для танкистов - взрослый должен разбираться с тем, что рассказывать и показывать своей 10-летней дочке, а не Яндекс.
А то так не далеко и до аргументов в чате "да пришли мне свои 10-летние сиськи, чего такого, их даже ИИ генерирует в детском режиме, который с 7 лет доступен, можешь сама попробовать". Вот чтобы таких вроде логичных аргументов не было нужен контроль контента.
Вот взрослый должен и объяснить что такое приватная информация. И тут без разницы сиськи, лицо или номер телефона. И так же разницу между общением в чате и общением в реале.
У вас конечно же есть список этой приватной информации и вы конечно ничего не забываете, заранее всё планируете, а ваш ребёнок не встречается с новыми формами приватной информации до вашего разговора.
Поэтому я и говорю, что если уж делать решили "Детский" режим, то тогда взрослый будет решать что и когда увидит ребёнок, а не рекомендательный алгоритм, и уж тем более не кривые лапы разработчиков, которые не дотестировали сервис...
Задумался: не нарушаю ли я чего, моя свою дочку в душе?
Ну со скайнет и одиссеей я пожалуй не соглашусь. Боятся и помнят оба варианта, и даже ещё десяток сверху, например, где ИИ разбирает людей на запчасти (Вирус 1999 года), помним и боимся!
Сама идея цензуры ущербна и порождает конфликты в сознании
Наоборот, правильная цензура есть движитель цивилизации.
Реальность не имеет цензуры. Её придумали люди
Так реальная реальность - это не то, в чём хотят жить люди, и это правильно! Мы хотим жить в комфорте (физическом и психологическом) и безопасности (рискуя добровольно, а не по принуждению). А для этого неизбежно приходится пессимизировать варианты, ведущие индивидуума и общество к деградации. Внутренним же критерием для прогресса является чувство стыда, позволяющее без особых умственных изысканий блокировать неверные направления.
Да Вы, батенька, демократ... Вы готовы научить людей стыдиться, а затем, платить и каяться. Хотя сначала этому обучили Вас. И кто же будет определять правильную цензуру? Наверное, специальные нейросети обученные факт-чекингу ))) А за неимением их эксперты.
Как на счëт законодательства?
Да Вы, батенька, демократ... Вы готовы научить людей стыдиться, а затем, платить и каяться. Хотя сначала этому обучили Вас. И кто же будет определять правильную цензуру? Наверное, специальные нейросети обученные факт-чекингу ))) А за неимением их эксперты
Я правильно понимаю, что веду сейчас беседу с нудистом, дитем природы, разгуливающим нагишом по окрестностям <название города>? Или "ЭТО ДРУГОЕ!"?
Хороший пример. Помните сорванную фотовыставку "Джок Стерджес. Без смущения"... Вот я из тех, кто считает, что сексуальный подтекст там может найти только человек с кругозором Мизулиной и Петренко. Это чистый нудизм. Т.е. приехав на курорт я не побегу на нудистский пляж "баб смотреть"...Но оказавшись на нудистском пляже не буду белой вороной в плавках.
Извините, хоть убей, не пойму, чего такого стыдного в человеческом теле?
И что плохого случится с человеком, если он, не дай бог, до 18-ти увидит сиськи? Стремительно деградирует?
В этом плане современная цивилизация, извините, больна на всю голову.
Ничего постыдного нет, если это находится под контролем. Но я вон выше сценарий накидал, когда 40-летний любитель детишек, апеллируя к "ИИ же в детском режиме генерит" будет просить скинуть клубничную клубничку ребёнка. Уверены, что ни один ребёнок не попадётся на эту уловку?
Не надо мыслить бинарно. Надо мыслить шире и просчитывать гораздо больше сценариев.
Что-то у автора странное - какое слово он в промпте не введет, ему яндекс сразу сиськи рисует.
Может яндекс какой-то контекст учитывает? Цифровой отпечаток пользователя, например, отражающий его интересы.
да очень опасно показывать "сосок женской груди", но безопасно показывать "кишки кровь и расчлененку"
Яндекс.Полуразврат или при чём тут Crypt?