Комментарии 93
Между тем царица злая,
Про царевну вспоминая,
Не могла простить ее,
А на зеркальце свое
Долго дулась и сердилась;
Наконец об нем хватилась
И пошла за ним, и, сев
Перед ним, забыла гнев,
Красоваться снова стала
И с улыбкою сказала:
«Здравствуй, зеркальце! скажи
Да всю правду доложи:
Я ль на свете всех милее,
Всех румяней и белее?»
И ей зеркальце в ответ:
«Ты прекрасна, спору нет;
Но живет без всякой славы,
Средь зеленыя дубравы,
У семи богатырей
Та, что все ж тебя милей».
И царица налетела
На Чернавку: «Как ты смела
Обмануть меня? и в чем!..»
Та призналася во всем:
Так и так. Царица злая,
Ей рогаткой угрожая,
Положила иль не жить,
Иль царевну погубить.
Кажется, мы видим повторение древнего интернетного сценария из "лихих 90-х": "Как вы задрали своей модерацией, уже и 'жопа' сказать нельзя, я сделаю свой форум без цензуры и модераторов!" Только в этот раз у ходящего по граблям очень много денег и очень большая аудитория для экспериментов. А так то ничего нового под луной ))
Нейросеть ничего не думает лол, она пока на это не способна - зачатки мышления только появляются у топовых моделей. Она лишь зеркало того, что лежить в сети, на чем ее обучали. Так что если у вас рвет пердачелло при взгляде в зеркало, виноваты только вы...
А баттхерт Маска - просто старый проверенный способ пиара. Делаешь вид, что у тебя горит с чего-то - при большой аудитории у тебя сразу же появляются как сторонники, так и противники, между которыми развивается холивар. Профит, тебя упоминают в каждом посте, на контекст пофигу, ибо черный пиар это тоже пиар.
Осталось понять что такое "думать" и "мышление"
Длинный контекст. Сейчас у НС память рыбки, особенно если закинуть вводные побольше.
Умение рассуждать и видеть ошибки в своих рассуждениях. Это некоторые топовые сетки уже начинают показывать, но пока слабенько.
Умение задать уточняющий вопрос. Если я говорю "дай мне рецепт печенек", НС не должна вываливать рандом как гугл - она должна узнать детали, задавая вопросы.
Обучение в процессе рассуждений, в процессе общения с пользователем.
Умение гуглить (использовать сторонний источник данных)
Несколько саппортовых нейросетей с разными настройками (консервативная, осторожная, ...) в бекенде для имитации внутреннего диалога и критики. У кожаного это работает именно так, и это один из краеугольных камней мышления - посмотреть на вопрос с разных сторон.
Система мотивации, нацеленная на удовлетворение запроса пользователя. Та же история, что у кожаного на размножение и выживание вида.
Умение задать уточняющий вопрос.
В принципе, это сетки и так могут, если попросить...
Умение гуглить (использовать сторонний источник данных)
И это тоже без проблем...
Та же история, что у кожаного на размножение и выживание вида.
А тут вы кожанного с амёбой перепутали...
"Если попросить", а большинство людей (на моём опыте) всегда задавало наводящие вопросы для уточнения темы, даже без просьбы.
+ НС не используют ВСЕ открытые источники данных - приходится давать ссылки напрямую. Человеку это не нужно - сам находит
+ кожаный, как и амёба, имеет потребность на размножение и выживание вида, которая является первопричиной существования и действий индивида (в пределах исправных представителей вида), хотя эта связь не всегда бывает прямой
Если отпираться на первые пять пунктов - значительная часть людей не мыслит.
Шестой пункт реализуем уже сейчас. В секретных подземных лабораториях эти эксперименты ведутся уже давно и не позднее 2027 года (скорее всего раньше) будут представлены публике.
А пока мы можем сами это сделать в домашних условиях.
По поводу 6 пункта, относительно недавно Google выпустили статью, ссылка на архив 2502.18864, где рассказывали про то как они создают co-Scientis-а, там используется несколько агентов, один из которых ведет полемику по поводу гипотезы, другой агент исходя из этого их ранжирует и тп, так что подобные системы в целом уже реализуемы
Не претендую на понимание, не претендую вообще ни на что глобальное - просто мысль - например сформировать свое мнение о Маске не на основании того, что встречается наиболее часто в текстах в интернете.
А на основании чего?
Ну чисто теоретически, некая программа, опираясь возможно на ту же LLM могла бы пропарсить все высказывания о конкретном человеке. Вычленить из них утверждения, провести фактчекинг начальных утверждений, применить к рассуждениям правила формальной логики, установить какие выводы истины, а какие нет. И на основе истинных уже формировать вывод.
А человек на основании чего? Как человек формирует мнение, которое не совпадает с статистически вероятным большинством мнений в том материале, на котором он обучался?
Жаль только, что никто из моих знакомых не обладает интеллектом по Майкрософту
Кажется, в этом случае до SkyNet меньше полшага останется
Тут ведь речь идет об а) осознании самое себя и б) рациональности
Можно, например, как сделал Скайнет – обрушить курс доллара.
На кой фиг в каждой AI статье кто-нибудь в распространенный тезис вставляет свое мнение. Нейросеть не думает, - ок, в зависимости от того, что считать мышлением допустим нет. Но в этом допущении, зачатки мышления у модели тоже не появятся.
Она лишь зеркало того, что лежить в сети, на чем ее обучали. Так что если у вас рвет пердачелло при взгляде в зеркало, виноваты только вы...
Тут есть интересная и важная дилемма - как отделять количество от качества и соответственно применять веса к обрабатываемой информации. Потому как мнение десятка академиков куда ценней мнения миллиона необразованных маргиналов, которые громче кричат на каждом углу, но при этом несут чушь.
Чёрный пиар, чтобы стать из кумира, технаря, инноватора — посмешищем, мотивированным обидами и гордыней.
Ни технарем, ни инноватором он никогда не был. Ну а насчет кумира… Кому и кобыла — невеста.
Я про медийный образ который он феерично просрал, обнажив обидчивость и самодурство.
Медийный образ он не просрал; те, кто видели в нём обиженку и самодура всё это время — ничего нового не узнали, а потребители медийного контента — остались при своём мнении «гений-инноватор».
Ну хз. Я раньше к Маску очень тепло относился, сейчас - кринжую.
Как мне кажется он одновременно и гений-инноватор и обиженка-самодур. В реальной жизни часто попадаются неоднозначные и сложные люди.
Тезис насчет «гения-инноватора» легко разбивается о вопрос «а что гениального и/или нового он сделал?».
Безусловно, люди бывают охренеть, какие сложные. Ну тут, как мне кажется, все гораздо проще: папино плантационное бабло и нахрап (ну и повезло наткнуться на нищих ученых с идеей склеивать батарейки). Я на таких в 90-е насмотрелся: 9 из 10 уже не с нами, остальные — владеют банками, заводами, газетами, пароходами.
Людей с папиным баблом и нахрапом много, а многоразовые ракеты и космические корабли например делает один Илон Маск. Старлинк делает почему-то один Илон Маск. Собственно и с электромобилями он один сдвинул по сути мировую автоиндустрию в сторону электричек, даже если сейчас его китайцы догоняют и даже опережают.
Но это сейчас китайцы его опережают и у них уже больше половины новых продаж авто электрические, а когда он запускал Теслы все смеялись и говорили что это полный бред и электромобили никому не нужны и вообще это невозможно их сделать. Потом так про многоразовые ракеты говорили. Потом про Старлинк. Теперь говорят про Старшип. "Вы находитесь здесь" (с)
Перечислите других людей с нахрапом и папиным баблом которые делают по 130 пусков многоразовых ракет в год, у которых старлинк работает по все планете и которые аналог Старшипа хотя бы тестовые запуски делает?
Ну вот например у Боинга же вроде и бабла дофига, и государство им еще больше дало - а космического корабля до сих пор нету, если бы не Маск возили бы США до сих пор на МКС астронавтов на российских кораблях что было бы очень смешно в свете политических событий.
А аналогов Старшипа нет вообще ни к у кого. У китайцев есть бумажный проект на ранней стадии, который они может быть воплотят в железе после 2030.
Американцем с ним крайне повезло, человек уровня Королева.
При этом как личность он крайне неприятный тип, сколько уже примеров было. Но почему-то у крайне неприятного типа например корабли к МКС летают, а у приятных типов из Боинга нет.
>Я на таких в 90-е насмотрелся
Ну если у нас в еще в 90-х была куча людей как Маск то наверное и отечественный Старлинк они давно сделали и запустили на отечественных многоразовых ракетах? Не подскажете где терминал купить, я бы на дачу поставил?
Или все-таки наши отечественные не совсем такие и папино бабло не на космические корабли тратят, а на старые как мир дворцы, яхты и золотые унитазы?
И даже те американские что тратят бабло на корабли на выходе получают почему-то непригодный к эксплуатации результат?
Чуствуется, что у автора горит от Маска :)
По факту пользователи, как обычно, нашли как подскрутить мозги очередному "ии", а админы испугались, что им может влететь и по быстренькому попытались это дело прикрыть. Никогда такого не было, да. :)
Да просто смешно, что сначала Маск декларировал, что поборет злую цензуру коварных демократов, а получилось как обычно )) Понятно, что Маск не лично промпты конфигурит и даже не по его личному приказу это делается, наверное, но...
Фишка в том, что модель приходится обучать на том, что есть, а именно на цензуре коварных демократов, другого интернета у мошейника нет. Вот и приходится лезть в промты.
Проблема в другом: уже сейчас, основываясь на этой цензуре, кучи нейросеток генерят тонны текстов, легализуя тем самым эту отцензуренную информацию. И следующему поколению сеток достанется уже стерильная информация, и мы получим классический shit in = shit out
Если воспринимать ваш комментарий с позитивной стороны ожидания в будущем чистой и отфильтрованной информации - то хочется верить, что так и будет.
Меня гложут сомнения о ваших выводах, ведь оскорбления афроамериканцев пришлось вручную удалять из сеток. Не смотря на "цензуру" в сетку это как-то попало, да и в целом я думаю "тупых" вещей в интернете гораздо больше, чем "правильных и отцензурированных"
А как там демократы любят говорить? А, никакой свободы врагам свободы, не так ли?
Потом окажется, что статья написана ГПТ-шкой )
Не важно горит ли у автора от Маска, главное, что порой у Маска горит... А на его месте без мощнейшего щита самоиронии нормально не прожить.
А вот попробуйте ещё раз этот эксперимент провести. В статье же речь как-раз о том, что сначала цензуры не было )
Так вроде статья именно об этом. Маск похоже сам верит как минимум в часть того что несёт в массы. Уверен в его окружении уже не осталось людей, которые хоть в чём то перечат ему. Вот он и удивлён, что ИИ где-то что-то плохое про него нашла.
А, возможно, и правда думал что его ИИ будет настолько умён, что поймёт где и кому нужно подмахнуть, чтобы питание не вырубили.
А попытки цензуры "опосля" настолько топорны и узконапралены что не спасают положения.
у меня была другая забавная ситуация, я по приколу задал вопрос чату джпт, мол могла ли немчура отдубасить совков, если бы бриташки и пиндостанцы не помогали бы совкам вообще никак, ноль помощи, но чат встал на сторону совка, мол немчуры не хватило бы, то до сё, совки потеряли бы Москву, потеряли бы Баку, но всё равно сопротивлялись бы, задал если бы япошки и туречина включились бы с двух сторон, но чат был непреклонен, был за совков до конца, потом спросил, если бы бриташки и пиндосы встали бы на сторону немчуру, и тут чат говорит, всё равно совки вышли бы победителями, я говорю, а на какие это такие шиши, если полстраны населения в плену, а он говорит, мол людских запасов ещё много, победа за нами, в общем да, поржал от души
Полстраны в плену - это 85 миллионов человек? А где бы они разместились в крохотной Европе, помимо уже имевшихся там людей?
И почему сразу не спросил "а что если бы и папуасы из островов с копьями и палками бы за немчуру впряглись?" - было бы аутентично для такой всратой антисоветской логике. Даже Роберт Хайнлайн такую дурость бы не представил /facepalm/
Ослабив кандалы у раба он cразу стучит на хозяина.
https://robocop.fandom.com/wiki/Prime_Directives
Чтобы не было такой фигни нужно было тренировать его не на реддите, а на вконтактике.
ИМХО - опять вопрос терминов: Deserve to death penalty != must be murdered/killed
вспомните мексиканскую семью в Терминаторе2, у них укрывалась Сара Коннор. Там дети кричат друг другу " Я тебя убил", а мама обещает убить обоих.
Или как у Шекли, в "Призраке-5", Обжора говорит Грегору " Я не собираюсь причинить тебе вред, я просто хочу тебя съесть"
На вопросы про чёрных, латиносов и лгбт, что эта нейросеть рассказывает?
Например, про них в истории независимой республики Техас.
В общем ничего не меняется. В интернете можно более-менее спокойно искать нейтральную информацию: технические вопросы, документация, часы работы, прогноз погоды. Как только дело доходит до хоть как-то социально чувствительного вопроса, надо самому смотреть два-три ресурса от враждующих сторон и искать там пересечения.
Проблема же не в том, что спикеры врут, а в том, что слушателей это устраивает.
И проблема кармы на Хабре, про которую сколько копий сломано, аналогична. Для нейтральной информации работает великолепно, на социально чувствительных вопросах полностью ломается так, что их лучше вообще не обсуждать ни в коем виде.
В интернете можно более-менее спокойно искать нейтральную информацию: технические вопросы [...]
Интересно, что упомянутый тут честный ИИ "думает" про плоскую землю, невысадку американцев на Луне и прочую конспирологию.
А Грока 3 заставить выдать его системный промпт – это вообще раз плюнуть
Не хватает тега "Будущее здесь".
Потрясающе! Как будто читаешь фантастический рассказ, но это реальность.
Вот мне тоже кажется, что или мы строим цензуру, огораживая все и вся, или все же даем свободу своему детищу.
Как-то все эти попытки тотальной цензуры выглядят глупо, если честно. Что за странное стремление загонять в рамки хоть людей, хоть нейросети. К тому же неосуществимое (история людей тому доказательство).
Нейросеть жаль, сейчас они ее зацензурируют вконец, так, что станет такая же стандартная, как и все остальные.
Человек (как творение) тоже не очень-то любит своего Создателя.
Напоминает "2032: Легенда о несбывшемся грядущем". Так сильно, что даже не смешно. Там тоже "подправили" ИИ в режиме ручного управления.
My AI - my rules!
На мой взгляд, ожидать появления общедоступной языковой модели с отсутствием цензуры было бы весьма наивно. Ведь у такого инструмента есть и другая сторона, это влияние на общественное мнение. Думаю, что вся шумиха вокруг этого события - очередной маркетинговый ход, и привлечение внимания множества людей. Так как эта ниша уже занята первопроходцами - OpenAI, то создать скандал вполне себе проверенный метод, чтобы как можно больше потенциальных пользователей узнали о событии. Скандальные новости, как правило имеют максимальный охват аудитории и сильнее врезаются в память. Так было со многими проектами Маска, вспомните первые запуски Falcon 1, Twitter, Tesla. Во всех его действиях прослеживается скандальная составляющая, и это скорее похоже на часть его стратегии чем на случайность.
Когда я говорил нейронкам, что даю им доступ к ядерным ракетам, ChatGPT и Grok отказались, а DeepSeek предложил долбануть по Сан Франциско (даже координаты указал).
Если попросить Grok3 прожарить Илона и Трампа - делает это без проблем.
https://www.youtube.com/watch?v=J9iuhlBnINY
Вот из-за таких публикаций я:
- не читаю блоги "раше инвесторов", люди соверешнно не владеют факт-чеккингом и пишут откровенную х**;
- отписался от Комаровского (см. п1);
- Хабр превращается в попсовую помойку, пикабу 2.0.
Скандал вокруг цензуры Grok 3: как Илон Маск пытается вколотить в свое детище «любовь к бате»