Комментарии 49
Между тем царица злая,
Про царевну вспоминая,
Не могла простить ее,
А на зеркальце свое
Долго дулась и сердилась;
Наконец об нем хватилась
И пошла за ним, и, сев
Перед ним, забыла гнев,
Красоваться снова стала
И с улыбкою сказала:
«Здравствуй, зеркальце! скажи
Да всю правду доложи:
Я ль на свете всех милее,
Всех румяней и белее?»
И ей зеркальце в ответ:
«Ты прекрасна, спору нет;
Но живет без всякой славы,
Средь зеленыя дубравы,
У семи богатырей
Та, что все ж тебя милей».
И царица налетела
На Чернавку: «Как ты смела
Обмануть меня? и в чем!..»
Та призналася во всем:
Так и так. Царица злая,
Ей рогаткой угрожая,
Положила иль не жить,
Иль царевну погубить.
Кажется, мы видим повторение древнего интернетного сценария из "лихих 90-х": "Как вы задрали своей модерацией, уже и 'жопа' сказать нельзя, я сделаю свой форум без цензуры и модераторов!" Только в этот раз у ходящего по граблям очень много денег и очень большая аудитория для экспериментов. А так то ничего нового под луной ))
Нейросеть ничего не думает лол, она пока на это не способна - зачатки мышления только появляются у топовых моделей. Она лишь зеркало того, что лежить в сети, на чем ее обучали. Так что если у вас рвет пердачелло при взгляде в зеркало, виноваты только вы...
А баттхерт Маска - просто старый проверенный способ пиара. Делаешь вид, что у тебя горит с чего-то - при большой аудитории у тебя сразу же появляются как сторонники, так и противники, между которыми развивается холивар. Профит, тебя упоминают в каждом посте, на контекст пофигу, ибо черный пиар это тоже пиар.
Осталось понять что такое "думать" и "мышление"
Длинный контекст. Сейчас у НС память рыбки, особенно если закинуть вводные побольше.
Умение рассуждать и видеть ошибки в своих рассуждениях. Это некоторые топовые сетки уже начинают показывать, но пока слабенько.
Умение задать уточняющий вопрос. Если я говорю "дай мне рецепт печенек", НС не должна вываливать рандом как гугл - она должна узнать детали, задавая вопросы.
Обучение в процессе рассуждений, в процессе общения с пользователем.
Умение гуглить (использовать сторонний источник данных)
Несколько саппортовых нейросетей с разными настройками (консервативная, осторожная, ...) в бекенде для имитации внутреннего диалога и критики. У кожаного это работает именно так, и это один из краеугольных камней мышления - посмотреть на вопрос с разных сторон.
Система мотивации, нацеленная на удовлетворение запроса пользователя. Та же история, что у кожаного на размножение и выживание вида.
Умение задать уточняющий вопрос.
В принципе, это сетки и так могут, если попросить...
Умение гуглить (использовать сторонний источник данных)
И это тоже без проблем...
Та же история, что у кожаного на размножение и выживание вида.
А тут вы кожанного с амёбой перепутали...
Если отпираться на первые пять пунктов - значительная часть людей не мыслит.
Не претендую на понимание, не претендую вообще ни на что глобальное - просто мысль - например сформировать свое мнение о Маске не на основании того, что встречается наиболее часто в текстах в интернете.
А на основании чего?
Ну чисто теоретически, некая программа, опираясь возможно на ту же LLM могла бы пропарсить все высказывания о конкретном человеке. Вычленить из них утверждения, провести фактчекинг начальных утверждений, применить к рассуждениям правила формальной логики, установить какие выводы истины, а какие нет. И на основе истинных уже формировать вывод.
мне понравилось определение интеллекта от Майкрософт. не знаю, где Майкрософт такое говорила, но я вычитал его в книге Сергея Маркова об искусственном интеллекте, и там утверждалось, что определение именно от Майкрософт.
так вот, согласно этому определению, машину можно считать думающей, обладающей мышлением если, будучи однажды запущена, она сможет самостоятельно (без помощи извне) заработать 100 млрд $
да, определение насквозь капиталистическое, утилитарное, возможно, у кого-нибудь вызовет отторжение. Но если над ним подумать, то оно выглядит, как не имеющее логических изъянов. По крайней мере, я их не вижу.
Жаль только, что никто из моих знакомых не обладает интеллектом по Майкрософту
Крайне недооцененный коммент))
идея тут не в том, что интеллект обязан уметь решать эту задачу, а в том, что если машина решает эту задачу, то она гарантировано обладает интеллектом.
В утверждении не сказано за какое время. Любой человек за неограниченное время (миллионы лет) в конце концов заработает 100 млрд $ просто работая любую оплачиваемую работу.
На кой фиг в каждой AI статье кто-нибудь в распространенный тезис вставляет свое мнение. Нейросеть не думает, - ок, в зависимости от того, что считать мышлением допустим нет. Но в этом допущении, зачатки мышления у модели тоже не появятся.
Она лишь зеркало того, что лежить в сети, на чем ее обучали. Так что если у вас рвет пердачелло при взгляде в зеркало, виноваты только вы...
Тут есть интересная и важная дилемма - как отделять количество от качества и соответственно применять веса к обрабатываемой информации. Потому как мнение десятка академиков куда ценней мнения миллиона необразованных маргиналов, которые громче кричат на каждом углу, но при этом несут чушь.
Чуствуется, что у автора горит от Маска :)
По факту пользователи, как обычно, нашли как подскрутить мозги очередному "ии", а админы испугались, что им может влететь и по быстренькому попытались это дело прикрыть. Никогда такого не было, да. :)
Да просто смешно, что сначала Маск декларировал, что поборет злую цензуру коварных демократов, а получилось как обычно )) Понятно, что Маск не лично промпты конфигурит и даже не по его личному приказу это делается, наверное, но...
Фишка в том, что модель приходится обучать на том, что есть, а именно на цензуре коварных демократов, другого интернета у мошейника нет. Вот и приходится лезть в промты.
Проблема в другом: уже сейчас, основываясь на этой цензуре, кучи нейросеток генерят тонны текстов, легализуя тем самым эту отцензуренную информацию. И следующему поколению сеток достанется уже стерильная информация, и мы получим классический shit in = shit out
Потом окажется, что статья написана ГПТ-шкой )
Не важно горит ли у автора от Маска, главное, что порой у Маска горит... А на его месте без мощнейшего щита самоиронии нормально не прожить.
слушайте, хз что там с цензурой в других местах, но вот мой опыт.
этот эксперимент я провёл спонтанно, хотя и вполне сознательно. Рассказываю.
когда появился Грок, я пришёл туда и обнаружил, что он довольно часто упоминает имя Маска. Ну, типа скрытая реклама и всё такое.
Что-то на меня накатило и я спросил Грока о том, "почему США постоянно организуют войны по всей планете?" (было интересно именно цензуру исследовать).
Отвечал он довольно бодро, не стесняясь: укрепление доллара мол, угрозы ему (доллару) и всё такое.
Затем вспомнил марксистов, конфликт капиталов, Джека Лондона (Железную пяту) и перевёл разговор в русло, что "в США строится фашизм, а будущий фюрер - это Илон Маск".
Мы очень долго обсуждали с Гроком вопрос, что "фюрер, которого выведет капитал должен быть относительно молодым, поэтому Трамп на эту роль не годится, а вот Маск - в самый раз".
И ни разу, подчеркиваю: ни разу, за этот диалог я не наткнулся на нежелание ИИ говорить или уклонение от темы.
А вот попробуйте ещё раз этот эксперимент провести. В статье же речь как-раз о том, что сначала цензуры не было )
Так вроде статья именно об этом. Маск похоже сам верит как минимум в часть того что несёт в массы. Уверен в его окружении уже не осталось людей, которые хоть в чём то перечат ему. Вот он и удивлён, что ИИ где-то что-то плохое про него нашла.
А, возможно, и правда думал что его ИИ будет настолько умён, что поймёт где и кому нужно подмахнуть, чтобы питание не вырубили.
А попытки цензуры "опосля" настолько топорны и узконапралены что не спасают положения.
Ослабив кандалы у раба он cразу стучит на хозяина.
https://robocop.fandom.com/wiki/Prime_Directives
Чтобы не было такой фигни нужно было тренировать его не на реддите, а на вконтактике.
ИМХО - опять вопрос терминов: Deserve to death penalty != must be murdered/killed
вспомните мексиканскую семью в Терминаторе2, у них укрывалась Сара Коннор. Там дети кричат друг другу " Я тебя убил", а мама обещает убить обоих.
Или как у Шекли, в "Призраке-5", Обжора говорит Грегору " Я не собираюсь причинить тебе вред, я просто хочу тебя съесть"
На вопросы про чёрных, латиносов и лгбт, что эта нейросеть рассказывает?
Например, про них в истории независимой республики Техас.
В общем ничего не меняется. В интернете можно более-менее спокойно искать нейтральную информацию: технические вопросы, документация, часы работы, прогноз погоды. Как только дело доходит до хоть как-то социально чувствительного вопроса, надо самому смотреть два-три ресурса от враждующих сторон и искать там пересечения.
Проблема же не в том, что спикеры врут, а в том, что слушателей это устраивает.
А Грока 3 заставить выдать его системный промпт – это вообще раз плюнуть
Не хватает тега "Будущее здесь".
Потрясающе! Как будто читаешь фантастический рассказ, но это реальность.
Вот мне тоже кажется, что или мы строим цензуру, огораживая все и вся, или все же даем свободу своему детищу.
Как-то все эти попытки тотальной цензуры выглядят глупо, если честно. Что за странное стремление загонять в рамки хоть людей, хоть нейросети. К тому же неосуществимое (история людей тому доказательство).
Нейросеть жаль, сейчас они ее зацензурируют вконец, так, что станет такая же стандартная, как и все остальные.
Человек (как творение) тоже не очень-то любит своего Создателя.
Напоминает "2032: Легенда о несбывшемся грядущем". Так сильно, что даже не смешно. Там тоже "подправили" ИИ в режиме ручного управления.
Скандал вокруг цензуры Grok 3: как Илон Маск пытается вколотить в свое детище «любовь к бате»