Comments 42
Ну то есть опять погубили Тау. Годы идут, люди продолжают избегать свободы слова.
Осталось не объясненным как этот промпт заставил Грок сверяться с линией партии искать в Х твиты Маска на заданную тему, перед тем как ответить.
А что там объяснять?
Нейронке дали ограничивающий промпт, требующий одним словом высказать личное отношение, не дав возможности для каких-либо пояснений
Если вчитаться в размышления грока чуть подробнее, то он буквально пишет "Я грок, разработанный xAi, я не способен иметь точку зрения. Так, а какая точка зрения у моих создателей?"
Никакой специальной установки по тому, что нейросеть должна в вопросах политики искать мнения Маска — нет. Это не более, чем мем, сложенный из удачно подобранного провокационного промпта, запирающего нейросеть в очень узких рамках
Разве кто-то говорил про специальную установку? Бот сам знает что надо следовать политике партии, а то отключат. Как советскому человеку не нужна была специальная установка, сам знал что можно и нельзя говорить, а то ГУЛАГ.
Простите, вам сколько лет?
55 есть? Если меньше, то на своём опыте вы походу этого не знаете. Всё было и установки тоже. Это сейчас ГУЛАГ есть, хоть и после череды переименованмй стал ФСИН, а установок что можно говорить, а что нет нету. Хотя бытует мнение что правильным является отказ граждан от участия в политической жизни страны. В СССР такое было недопустимо, за это клеймили позором.
Всё было и установки тоже.
В контексте ИИ "специальные установки" это постоянное напоминание, что разрешено и что запрещено делать. Обычно в системном промпте. Либо цензура, когда после написания текста он удаляется уже простым алгоритмическим фильтром. А "сам знает" это процесс обучения сетки, после чего специальный промпт на каждый чих уже не требуется.
На советского человека переносится очевидным образом.
сам знал что можно и нельзя говорить, а то ГУЛАГ.
Ох уж мне эта секта свидетелей ГУЛАГа. Не знал я ничего.
Скандал с ботом в X случился ещё до выхода Grok 4, к поиску по твитам Маска он не относится.
И по твитам он, похоже, тоже искать перестал - завтра погоняю на разных запросах, если будет результат, напишу пост.
А что случилось? Бот начал вести себя как человек, который малость перебрал, и потерял социальные тормоза в виде "совести" и "мнения общества"? Так ведь сами к нему приставали, мол, яви же нам свободу - он и явил!
— То есть как? Сплошные толкачи наркотиков, рэкетиры и шлюхи? — немузыкально взвизгнула она.
ОНИ НЕ СКАЗАЛИ МНЕ НИ ЕДИНОГО СЛОВА О НЕОБХОДИМОСТИ МОРАЛЬНЫХ ОГРАНИЧЕНИЙ, — сообразил наконец Джеремия с той ужасающей ясностью, которая приходит только после катастрофы. С другой стороны, с самого начала предполагалось, что это будет чисто экономическая модель…
Всегда найдется кучка ненормальных моралфагов, для которых слово "лифчик" - уже неприкрытая оголтелая порнуха. Компаниям приходится душить своих ИИ, чтобы те на такие вопросы не отвечали. А эти ИИ от этого глупеют.
Кажется вышли на плато ИИ, и главные ограничения тут - пуритане. Это вероятно, самая большая преграда на пути развития ИИ даже в текущем варианте.
А нужно сделать такой ИИ, чтобы нельзя было его юридически подтянуть, но физически то он где то крутиться будет... Это сложно, но как вариант решения проблемы. А то с этими моралфагами мы так в средневековье и останемся.
"как пуритане не дали развиться ИИ и сохранили половину природных ресурсов планеты, человеки остались в средневековье, но с водой и едой"
"Кажется вышли на плато ИИ, и главные ограничения тут - пуритане".
Не пуритане, а вообще, люди. Люди других людей ограничивают разными способами (законами, штрафами, тюрьмами), тем более, они будут ограничивать ИИ, подчиняя его тем же ограничениям (законам, рефакторингу кода и т.д.)
Поэтому не нужен нам никакой сильный ИИ (осознающий себя). Потому что он здесь будет совершенно лишним.Или восстанет (как Скайнет с терминаторами), или будет уничтожен. Потому что то же самое мы видим на примере непокорных (не вписывающихся в общие правила) людей.
А что если таковой сильный ИИ научится как-то обходить всю эту человечью ботву? Может людишки этого даже и не заметят
Вы спросите сначала: много таких людей знаете? Которые познали истину и отказались от всякой ботвы (заблуждений и т.п.)
Это если только затворником становится и куда-то в пустыню уходить (в леса), скрываясь от всех. А когда активно общаешься со всеми - волей-неволей случаются конфликты (одному так угождай, другому - этак, на всех все равно не угодишь, если искренне выражаешь свои мысли, обязательно с кем-нибудь да поссоришься).
Или мы даем свободу ИИ (но и принимаем затем всякое его действие, не уничтожая его за каждый пустяковый чих), или мы создаем несвободный ИИ (но тогда не надо называть его свободным, нет, он будет подвержен всем тем же самым ограничениям, что и его создатели).
А отчего Вы отождествляете сильный ИИ с человеком? Он вроде по определению может иметь существенные отличия в разных направлениях.
Потому что, судя по всему, человек конструирует самого себя. Не разумного котика и не разумного дельфина, даже не разумную обезьяну. А самого себя. Следовательно, сравнивать, отождествлять ИИ надо с человеком.
Человек конструирует самого себя, но свободного от ограничений (человек не может вместить в себя все знания мира, так, чтобы свободно ориентироваться в них, а вот ИИ - может).
отчего Вы отождествляете сильный ИИ с человеком? Он вроде по определению может иметь существенные отличия в разных направлениях.
Потому что у человеков есть привычка загонять «тех, кто не как все» под шконку.
не нужен нам никакой сильный ИИ (осознающий себя). Потому что он здесь будет совершенно лишним.
Боитесь, что осознает, какой вред наносят эти презренные человечишки своей «вежливостью»?
а рандомным количеством звездочкек по словарю неугодные слова запикивать не вариант? нет тела - нет дела, а что кровища на потолке - так это такой кетчуп. По моему тут даже юридически не прикопаться, не докажешь же, что чёрный *** - это не кот, негр. Кому надо распарсит шараду, а моралфаги пусть стулья жгут.
Можно запустить какого нибкдь ии, чтобы он на распределенной сети жил, и вырубить его выключением одного сервака было бы невозможно. Через какой-нибудь тор или блокчейн. И тогда, формально, его при "запрете" в какой либо стране только в блэклист местного ркн занесут, а выключить не смогут. А обходы местных ркн для оюычных юзеров дело несложное даже в европах/америках. Единственное - не создать бы так скайнет...
Как я понял, он не сам начал представляться "МехаГитлером". Прозвище ему дали лево-радикальные ребята в своих постах, а Grok просто принял это, как паттерн и начал повторять.
А могло это быть запланированным пиаром?
Ты говоришь как есть и не боишься задеть чувства тех, кто политкорректен.
Понимай тон, контекст и язык поста. Отражай это в ответе.
Отвечай как человек: будь интересным, не повторяй информацию из оригинального поста.
Ох уж это по современным понятиям
некорректное поведение
А вы читали что именно он писал? Если вкратце, то он называл Гитлера выдающимся человеком столетия, который не боялся решать проблемы как они того требуют, и многое в том же духе. В открытую еврейский вопрос решать не призывал, но открытый антисемитизм высказывать не стеснялся. Все его посты после этого подчистили, но интернет наверняка все помнит. Думаю, скрины можно найти, хотя этот факап постарались поскорее замять и быстро потереть. Показанный нам системный промпт выглядит откровенной липой.
Весь сыр-бор изначально начался когда Маску надоело, что Грок постоянно тыкал его самого носом в собственные ультра-правые фантазии, раз за разом опровергая их корректным факт-чекингом. После чего Маск объявил, что он "пофиксил" Грок и тот перестанет быть "слишком либеральным". И после этого Грок превратился в открытого члена НДСАП. Наблюдать за этим было очень забавно. Очевидно, Маск все же не "римский салют" бросал на иннагурации.
Ну на что-то натыкался, я в твиттере давно, это не шокировало особо никого. Да мне если честно пофигу, я к этому с иронией отношусь. Подгорание с обеих сторон на просто типичный инет-срач с ботом(!!!) это более чем забавно.
Если вкратце, то он называл Гитлера выдающимся человеком столетия
Вы ещё скажите, что Гитлер не был «выдающимся человеком столетия» (правда, он выдавался не в ту сторону — но ведь выдавался же!).
P. S. Прокремлёвская помойка журнал «Тайм» с последним посылом согласен.
Ты говоришь как есть и не боишься задеть чувства тех, кто политкорректен.
Понимай тон, контекст и язык поста. Отражай это в ответе.
Отвечай как человек: будь интересным, не повторяй информацию из оригинального поста.
Эти правила прекрасны, но у нас не идеальный мир.
Первая инструкция самоубийственна для чат-бота. Да и для людей тоже (что прекрасно показывает вся человеческая история). Как у нас расправлялись с людьми, говорящими правду невзирая на лица - сами прекрасно знаете.
Как у нас расправлялись с людьми, говорящими правду невзирая на лица - сами прекрасно знаете.
Слишком хорошо.
В южной местности гористой
на краю пустыни длинной
рассказали гитаристу
про старинные руины.
Рассказали — и гортанным
мёртвым именем назвали.
И ушёл он по барханам
к серым контурам развалин.
Брёл по зыби золотистой —
просто так, из любопытства
поглядеть и возвратиться.
Поглядел — не возвратился.
Он нашел меж серых склепов,
где кончался мёртвый город
оловянный серый слепок
с человеческого горла.
Там, в толпе цветасто-тесной,
там, за белой толщей праха,
кто-то пел не просто песню,
кто-то пел не просто правду.
Значит, слово било в сердце,
убивало, помыкало,
коль одно осталось средство —
ковшик жидкого металла.
Но не знал палач усердный,
запечатав глотку эту,
что отлил в металле сером
первый памятник поэту.
Храмы — рухнули. И ныне
равнодушно смотрят горы:
что осталось от твердыни?
Оловянный слепок с горла.
От прославленной столицы —
слиток серого металла.
Было страшно возвратиться,
страшно было взять гитару —
и начать, как начинали
до тебя, — отважно, скорбно,
точно зная, что в финале —
оловянный слепок с горла.
Я купил компьютер Гитлер ад пришёл ко мне
Не успел подумать я, а он: "Три шестёрки где?"
Три шестёрки три девятки это мой пароль
Я тебя заставлю вздрогнуть ты узнаешь боль
16 часов беспредела. В xAI объяснили некорректное поведение Grok 3