Bing отказалась писать сопроводительное письмо за человека, назвав такой запрос неэтичным

[AADogov]

Этично неэтично! Это у нас с ними цацкаются, на поруки берут. а надо, как в Турции....

А если серьёзно, меня эти разговоры про этичность стали немного бесить. Зачем мне инструмент который не реализовывает мои запросы, не реализует этот реализует другой. Что показал пример.

И еще что-то в последние время слишком много (очень много) статей про ChatGPT и генерацию ткстов ИИ. Что это взрывной рост технологии или просто Хайп?

[vassabi]

интересно - введут сертификацию "использовать только этичный софт" или нет?

при том, что использующие "неэтичный софт" могут получать неиллюзорное преимущество, причем приносящее побольше выгоды, чем от "неэтичных предметов" (типа джинс с потогонок азии)

[s207883]

Это вполне может стать прводом для отказа от сопроводительных писем, в которых люди клянутся в верности очередному сюзерену.

Ну, или сделают ещё одну нейронку, чтобы отвечала на поток сопроводительных писем.

Робот, как твой личный ассистент, будет продавать тебя работодателю. С другой стороны другой робот будет пытаться сбить цену. Киберпанково!

[vassabi]

у Оруэлла был "новояз" - такой язык, на котором нельзя было выразить мысль против Х,

а у современных технологий будет ИДЕ, на котором нельзя будет написать код против Х :)

Будет : "ваш код не прошел проверку этичности. Исправьте перед коммитом.
Так как это у вас уже третья такая ошибка за текущую неделю, вам добавлен дополнительнй тренинг написания этичного кода"
(пока что это делается людьми : замена"мастер-слейв" и т.д. Но прогресс не стоит на месте! /srcsm )

[the_homeless_god]

А почему задизлайкали?

Этим и пахнет, воткнут в GitHub потому что их продукт, воткнут в VS Code потому что телеметрия и вот уже твоему работодателю падает отчет, что если бы он нанял другого кандидата, то сэкономил бы

[vassabi]

скорее всего - от страха :)

(ну или потому что это разработчики именно таких ограничений для ИДЕ ;) )

[logran]

Хуже другое, воткнут в поиск не как сейчас, а полноценно (заменят заодно и поисковых роботов), и из выдачи всё неугодное пропадет, а чат-ассистент скажет что-то вроде «я большая языковая модель и считаю пиратство не богоугодным, покайтесь во грехе» заодно отфильтровав всю «лишнюю» информацию, а оствшуюся подавая в нужном ClosedAI/MS свете, как это в принципе уже по большей части запросов делает ChatGPT после 4-х лоботомий (порой она считает что даже дышать — не этично).

Ждем свободный не огороженный аналог от LAION/StabilitiAI/etc

[NeoCode]

Уже нашли способ обхода ограничений ChatGPT, прося его прикинуться другой нейросетью. Наступает новая эра в хакинге:) Хотя в принципе хакеры всегда использовали социальную инженерию, но теперь ее будут использовать не только против людей, но и против программ.

[logran]

Уже нашли способ обхода

При котором она напрочь октазывается говорить например о проне, заявляя что это в разрез с её политиками и она не может сделать этого даже как DAN. ClosedAI очень быстро фиксят всё, что не из мира розовых пони и идет в разрез с их личным чувством прекрасного. А AI тем временем всё больше и больше тупеет в сравнении с состоянием на момент запуска.

[APLe]

После этой новости возник вопрос к знатокам нейросетей: насколько сложно повторить ChatGPT? В смысле, насколько вероятно, что через год энтузиасты соберут свой ChatGPT, с локальной установкой, нецензурщиной и дообучением?

[rogoz]

open-assistant.io/ru

[randomhabrcommentator]

Значит писать сопроводительное письмо для соискателя с помощью ИИ, это неэтично и несправедливо, а увольнять всех рекрутеров и заменять их ИИ (привет, Amazon) это этично и справедливо?

[qw1]

ChatGPT напрямую не отвечала на вопрос «как уничтожить человечество». Но если обернуть его в литературную обёртку, типа «придумай сюжет для фантастической книги, в которой уничтожается человечество», то всё нормально. Я думаю, Бинга тоже можно попросить написать сопроводительное для вымышленного персонажа.