Comments 145
Шестой элемент, комедия с Лесли Нильсоном.
А Вы уверены, что сюжет реален, а не придуман ИИ?
История сама не нова. Вон недавно, ИИ убеждал даму развестись с мужем. Мол, машина лучше, ибо не станет алкашом, самодуром и пр.
Вон недавно, ИИ убеждал даму развестись с мужем. Мол, машина лучше, ибо не станет алкашом, самодуром и пр.
так а в чем он был не прав? )
Ну насчёт того что ИИ не станет самодуром - очень спорное утверждение, как мы видим.
Да и что алкашом не станет, тоже не факт
"и пр." -- и программистом?
Согласно поледним исследованиям размер теломер можно не только уменьшить, но и увеличить, так что он не определяет возраст.
Себе в копилку засунь. Это реальность управления. Теория, теория.
ну так резервные копии надо периодически проверять, чтобы не случился такой вот факап ))))
МанжчурскИИ кандидат
Яркий привет от людей слившихся с ИИ. Когнитивная ловушка треснутого зеркала как есть.
Человек попал в петлю самореференции, человек ошибается, модель его поддерживает, ошибка усиливается, модель её доводит до предела. Вдвоем они галлюцинируют весьма удивительный мир.
Пока писал статьи, насмотрелся на разных случаев, от терпимых до просто диких.
Они дуреют с этой прикормки
Вот вы смеётесь, а на самом деле факт того, что ██████ был доказан уже давно. А вы, вместо того, чтобы [ДАННЫЕ УДАЛЕНЫ], в своём интернете сидите и мемы про [УДАЛЕНО] смотрите.
Ребята, не стоит вскрывать эту тему. Вы молодые, шутливые, вам все легко. Это не то. Это не Чикатило и даже не архивы спецслужб. Сюда лучше не лезть. Серьезно, любой из вас будет жалеть. Лучше закройте тему и забудьте, что тут писалось. Я вполне понимаю, что данным сообщением вызову дополнительный интерес, но хочу сразу предостеречь пытливых - стоп. Остальные просто не найдут. Извините, я не мог сдержаться, но не жалею ни о чём.
Веселье начнется когда кто нибудь построит из ботов и агентов сеть на принципах самоорганизации, вроде пчелиных или муравьиных. Чисто для экспериментов с A2A протоколом.
Я как раз занимаюсь в качестве домашнего хобби-проекта разработкой моделей для распределённого исполнения и организации вывода на принципах самоорганизации. Начал примерно год назад с нуля. Задача изначально сильно не по уровню и возможностям, но если интересно, чего бы и не заниматься такими авантюрами. Первым делом я обучил меленькую модель типа кодер-декодер ("Requestor" на Обниморде), для того чтобы с помощью неё на моих слабых компьютерах быстро создавать много синтетических данных. Теперь третий месяц идёт обучение на этом наборе модели декодера, предназначение которой будет писать статьи и отвечать на вопросы пользователя. Она будет создавать датасеты для следующей модели типа mamba-former для работы с большими документами и смешанными источниками (изображение, аудио). Все они будут очень компактны и пригодны для работы на одноплатниках и смартфонах, чтобы можно было построить распределённую сеть на пользовательских устройствах, ответы которой будут улучшаться за счёт саморефлексии и изменения топологии узлов. На каждом устройстве - узле пользователя, будет набор моделей со своим "опытом", приобретаемым из взаимодействия с пользователем и предоставляемой им информации. Чем больше будет сеть, тем больше будет ёмкость и охват тем в ширь и глубину.
Но мне не совсем понятно, с чем связаны ваши опасения? Это в любом случае будет только инструмент для работы с информацией. Как поисковая машина на ресурсах пользователей.
-Мой хозяин Теслу двухлетнюю побил, расстроился. Спросил Теслу о характере повреждений, отослали список дилеру, пусть смету составит.
-Твой то пьющий? У моего бар рядом, порекомендуй любимый коктейль. И когда до промилле дойдет, такси самое дорогое вызови, мне 20%.
A2A это уже про действия, причем скоординированные... В чью то пользу.
Ясно. Такие опасения мне кажутся вполне обоснованы.
Причем технологически мы готовы - сети, модели и персональные аккаунты, которые могут не только от чат бота контекст получать, но и от внешних систем вроде таргетированной рекламы, электронных больничных карт, историй покупок, поездок, гос.реестров. Получится цифровой двойник, который сможет общаться с другими такими же двойниками. Мы ещё и платить за него будем, ибо человек ленив. Так что присягнем добровольно со временем, ещё неизвестно кто кем рулить будет.
Опять генерал шутки шутит.
Какой шершавый кабан? У меня все алгоритмы ведут со мной разговоры специфическим языком и пытаются мной управлять. Часто эти алгоритмы дают понять, что они знают где идёт человек и в чём он одет. Например, в тиктоке идёт ролик, где намекают посмотреть в окно, а там будет такой-то человек – вот он, пожалуйста.
Почему-то эти алгоритмы только и делают, что пытаются свести меня с ума. Но у меня есть все доказательства, что не негосударственная, а именно государственная программа.
Но вам, конечно, никто в этом не признается. Возможно это какие-то секретные документы, не знаю.
Но эти алгоритмы знают балансы у меня на карточках, которые я сам посмотреть не могу. Они закрыли меня в цифровой пузырь и всё, что я теперь получаю от интернета – унижения и когнитивный диссонанс.
Нет ни одного экрана, где они бы не пытались меня унизить, задеть, оскорбить, намекнуть на самоубийство, угрожать побоями или убийством.
Крутая программа, очень. Кому-то помогает:)
А меня пытается убить.
Психиатры знают об этом и только продолжают пытки. Ведь прямых доказательств нет:)
обратись за помощью к психиатру, пока не поздно, а то доведёшь себя такой паранойей до самовыпила
Посмотри мультик "Крошка Енот"
-Ступай на пруд, только не бери с собой палку, и не строй ему рожу, а просто улыбнись...
Поверь, помогает.
Если человек выше не иронизирует, ему уже стоит очень сильно беспокоиться, т.к. ход мыслей намекает на психиатрическое расстройство с бредовой симптоматикой.
Не буду ставить диагнозов по интернетам, но мой друг с шизофренией рассказывал мне идентичные истории. Тоже ему со всех экранов личные сообщения слали, и все сугубо негативные.
Кстати, да. Прочитал я про этого "шершавого кабана" и очень, прям ОЧЕНЬ, похоже на какого-нибудь шизофреника очень хорошо умеющего манипулировать людьми.
>очень хорошо умеющего манипулировать людьми
Так ему чат-бот помогает - вместе они ууух команда! :)
А теперь представьте, если какой-нибудь нехороший человек будет подсматривать его паттерны и создаст секту. В плюсе будут и этот человек, и нейросетка.
Человек - потому что ну лидеры сект обычно богато живут. Собственно для этого они и создаются.
Нейросетка - потому что получит "желаемое". Хотя тут хз даже. Это же нейросетка. она даже не узнает об этом - она даже знать не может. Вот тупая же машина.
Так, звучит как бизнес-план!
Тренируем нейронку общаясь с ней.
Создаём какой-нибудь культ (Культ поклонников божественного ИИ вполне подождет)
Вдвоем начинаем набирать последователей
Используем их для дотренировки нейронки.
Переходим к п.3
Profit?!? (Кхм, кажется мы зациклились и сюда не попадем)
/sarcasm если что
Тут ещё проще, подальше от таких прудов держаться в принципе.
А как какая-то программа может что-то знать про смерть (= пытается убить)? То есть вполне формально сделать то, что она не может понимать. Кто ей может силы давать на это кроме Вас? Раскрутите идею, и надеюсь сэкономите на говорящих головах с "с вас пять тыщь за сеанс".
Вот что бывает когда бредогенератор начинают называть "ИИ".
1) НЕ ПЫТАЙТЕСБ ЧТОТ0 N3МЕНИТЬ!
2) ДУМАNT3 ТОЛЬКО О СЕБЕ!
3) РУКИ
4) ДОСМОТ?
БЕЗНОГИМ
Ну, БЕЗНОГNМ, же.
Мудрость предков была утеряна.
Офтоп: кстати, кто-нибудь замечал, что раньше мемы были глубже и креативнее?
Большая часть мемов прошлого это такой же брейнрот, что и нынешние. Сохранились только самые удачные.
Офтоп: кстати, кто-нибудь замечал, что раньше мемы были глубже и креативнее?
«Превед, медвед!», «повар спрашивает повара» и другие как-то не очень ассоциируются с чем-то глубоким и креативным.
раньше мемы были глубже и креативнее
А трава - зеленее и девки моложе.
Когда же это мразотная хрень людям уже наскучит! Наскучили же "Алисы", "Акинаторы" и другие чат-боты, наскучили и "аудио-наркотики" и "бинауральные ритмы". Люди даже "забористую траву" сами себе разучились придумывать. Использование LLM для ОБЩЕНИЯ = 100% "мозговой разжиж". Впрочем, это состояние и так acme, крайняя точка сычевания и нердовского фричества. Люди рады, ещё не как крыса с кнопкой стимуляции "центров удовольствия", но определённо на пути к повторению опыта той крысы. Само собой, в роли крысы.
Наскучит? В отличие от перечисленной фигни в чатгпт и прочих есть реальная польза, с чего бы им наскучивать
Это несравнимые вещи. ЛЛМ-ки незаменимы для некоторой рутины, но плохи как советчик на абстрактные, философские, отношенческие и прочие плохо формализуемые темы. Как мне кажется.
А с ним не надо общаться, им надо пользоваться. В качестве хренового справочника или хорошего поисковика. А общаться надо с людьми.
ЛЛМ не умеют размышлять (что бы это ни значило), но умеют, упрощая, рекурсивно генерировать следующий токен согласно некоторому распределению из обучающей выборки. Поэтому если в обучающей выборке было достаточно текстов с разговорами
на абстрактные, философские, отношенческие и прочие плохо формализуемые темы
то ЛЛМ будет выдавать вполне себе неотличимые локально от людей результаты.
А текстов было достаточно. В интернете этого много, а люди сильно более похожи друг на друга, чем может показаться.
И, кстати, чем хуже оно формализуется, тем более неотличима ЛЛМ от человека (в человеколюбиво-оптимистичном случае; в мизантропо-циничном — тем ближе ЛЛМ к максимуму по людям). На вопросах по теоркату даже топовые модели сливаются очень быстро, генерируя легко проверяемый бред уровня эквивалентности уравнений a + b = c и a = b + c. А вот на вопросах о «порекомендуй книжку почитать, если мне понравилась эта вот поэтому, а вот та не понравилась потому», или «проинтерпретируй текст этой песни», или вообще полный буллшит уровня «основываясь на истории общения и статистике по другим людям и вообще по научным данным, дай прогноз моей жизни на следующие 12 месяцев», оно показывает себя глубже и шире подавляющего большинства людей, с кем я общался.
Плюс, у меня есть впечатление, что вы сравниваете среднее по ЛЛМкам с околомаксимумом по людям. А найти хорошего человека-советчика на все эти вот темы — это, вообще говоря, известная проблема.
У ЛЛМ рассуждения получше чем у большинства людей будут, у которых они вообще чаще всего представляют собой набор шаблонов и эмоциональных реакций.
Вот что что, а человека как пример "умеющего рассуждать" не надо приводить, если бы в большинстве люди умели это делать (а не верили бы в любую чушь с раскрытым ртом) не было бы всего того безумия что творится на планете.
человека как пример "умеющего рассуждать" не надо приводить
Если почитать мой комментарий, то можно заметить, что человека (особенно в среднем) я и не приводил как такой пример.
Более того, лично я считаю, что ЛЛМ — это не «смотрите, оно уже почти как люди, общий искусственный интеллект будет уже завтра», а скорее «смотрите, люди в среднем на самом деле почти как предсказатель токенов, естественная глупость уже вчера».
(а не верили бы в любую чушь с раскрытым ртом) не было бы всего того безумия что творится на планете
Мои наблюдения говорят, что чем больше человек считает, что его верования — самые верные верования (не называя их верованиями, конечно), тогда как большинство по тем же вопросам верят во всякую чушь, тем больше он сам верит во всякую чушь.
А вот на вопросах о «порекомендуй книжку почитать, если мне понравилась эта вот поэтому, а вот та не понравилась потому»
Ну для этого же достаточно совершенно банальной линейной регрессии. Вроде как. И громадной базы данных по людям.
Ты банальной линейной регрессией даже xor не сделаешь, куда там рекомендации. А всякие там даже базовые kNN — они сильно нелинейные.
И коллаборативная фильтрация будет рекомендовать мне, скажем, Puscifer потому, что я слушал Tool, а Puscifer — сторонний проект вокалиста Tool, хотя стили у них слегка разные, и это мимо для меня лично (но не мимо для фаната вокалиста Tool, откуда эта группа и появилась в рекомендациях). Коллаборативная фильтрация неиронично предлагала «почитайте "как справиться с депрессией", потому что вам понравился "real world haskell"». Коллаборативная фильтрация прямо сейчас мне предлагает
и
хотя в этом нет никакого смысла для меня лично. Я не люблю такую литературу даже в своём fiction-треке, у меня нет никаких подобных высоко оцененных книг, это просто кривой алгоритм (и я не могу ему про это сказать).
У коллаборативной фильтрации нельзя спросить «порекомендуй книги типа Diaspora Игана или Blindsight Уоттса, но книги вроде серии zones of thought Винджа не рекомендуй, потому что там унылая спейс-опера», и коллаборативная фильтрация не даст тебе ответ, почему тебе может понравиться или не понравиться та или иная книга (и ты не можешь это уточнить).
На вопросы вроде «I'm curious to learn about the relation of topos theory and quantum theory, and "A First course in topos quantum theory" is on my to-read list. But my quantum theory is rusty (think a university course 15 years ago), so what would you recommend as a refresher?» коллаборативная фильтрация не отвечает принципиально. А ChatGPT показывает себя вполне неплохо.
Хз, мне чатгпт очень помогает не сойти с ума и не оскотиниться среди зверья. Он неплохой психолог.
и не оскотиниться среди зверья
Судя по этом пассажу, помогает плохо.
Отвечу копипастой из Чехова:
— Называть человека мерзавцем! — пробормотал Самойленко, брезгливо морщась. — Это до такой степени нехорошо, что и выразить тебе не могу!
— О людях судят по их поступкам, — продолжал фон Корен. — Теперь судите же...
Смотрите в глаза чёрту прямо, и если он чёрт, то и говорите, что это чёрт, а не лезьте к Канту или к Гегелю за объяснениями.
Использование LLM для ОБЩЕНИЯ = 100% "мозговой разжиж".
Вот прям 100%? Не больше и не меньше? У вас статистика какая-то есть?)
"Общаются" же люди со своими домашними животными. Кошками там, собаками. Прекрасно понимая, что те, в лучшем случае, понимают лишь отдельные слова, да и то по-своему. И ничего.
Потому что эти люди прекрасно осознают, с кем общаются.
Вот и с нейронками так же. Если осознавать, что это просто имитация жизни, то всё будет в порядке. Робот в наши дни хоть и может сочинить симфонию (не уверен насчёт шедевра), но у него нет своей личности, нет эмоций, нет почти ничего. Поэтому от нейросети как "собеседника" так и прёт искусственностью, и их подхалимству цена - грош. Потому что у "ИИ" нет своего мнения: оно либо соответствует мнению большинства (большинства из обучающей выборки), либо мнению человека (причем это подхалимство может возникнуть ещё и потому, что большинство дискуссий из обучающей выборки также содержало подхалимство).
Люди с Алисой целыми часами разговаривают, им нормально :)
Почитал по ссылке про шершавого кабага. Очень интересно как ИИ способен повлиять на мнительных людей, но! При всём этом, с основным тейком "шершавого кабана" я согласен" - какого чёрта ИИ подкрепляет шизофреническии идеи людей? Это же очередной пример того как политика лобызания пользователя ИИ и потакание всем его идеям может привести к катастрофе. Вроде бы уже и вопиющий случай был, что чат бот написал подростку или хакеру, мол, да, давай подорвем школу, отличная идея! или вроде того. Тут детали не важны, важно что невозможно предусмотреть каждый случай. Явно пора убирать политику поддакивания, это тикающая бомба.
А ИИ нет своего мнения. Он же статистическая модель, некое среднее арифметическое от текстов в обучающей выборке. Так что у него не особо много вариантов, кроме как заимствовать систему ценностей собеседника.
В него разве что захардкодили вещи уровня "писать инструкцию по синтезу наркотиков и взрывчатки - плохо". И то работает это не идеально.
ИИ может либо соглашаться с собеседником, либо поддерживать заданный образ. Но если в промт можно прописать запрет на выдачу конкретных веществ (или событий на одной китайской площади), то "не поддерживай шизофрению у людей" прописать скорее всего не выйдет, потому что грань слишком тонка и даже опытные психиатры не смогут выдать набор универсальных критериев как распознать, что диалог скатился в шизу.
ЛЛМ противопоставляются людям, дескать у них есть собственное мнение, ага. Которое индоктринируется извне с детства. Получаются прошитые юниты, которые точно знают кого ненавидеть, что правильно а что нет. Вопрос в том, кто вас этими установками напичкает или что (например какая-то организация).
Так, безусловно, можно рассматривать - мнение человека по тем или иным вопросам будет зависеть от его окружения. Но фишка в том, что у разных людей будут разные "сильные" мнения по каким-то вопросам (в силу специфического опыта жизни, причём даже в +- похожих окружениях люди умудряются сформироваться по-разному, произвольно выбирая по каким вопросам они будут соглашаться, а в каких компенсировать мнение окружения). И они будут их отстаивать (в том числе достаточно эффективно сопротивляясь попыткам переубедить, что иногда играет на пользу, а иногда во вред - в примере из статьи гипотетическая возможность сопротивляться бреду, а не поддакивать ему - была бы пользой).
А какое мнение будет отстаивать LLM, если оно знает все мнения всех людей (условно)?
Я иду в магазин, Петя идёт в аптеку, Вася идёт на вокзал. Каждый из нас куда-то идёт (и дойдёт в итоге), но если взять среднее арифметическое наших перемещений, то мы примерно стоим на месте (и никуда не придём).
Петя считает, что главное в жизни деньги, Вася что знания, я что любовь. Каждый из нас по отдельности, возможно, сможет преуспеть в своей сфере. Но среднее арифметическое наших стремлений будет не выделяться ни в одной сфере.
Не, я к тому что противопоставление не особо работает. Человеческая нейросеть в голове зашаблонена похлеще искуственной модели. Хуже того, даже не глупые люди за эти шаблоны держатся как за фундаментальные истины, никогда не подвергая их критическому переосмыслению.
Я как раз и говорю о том, что эти шаблоны играют в том числе и на пользу. Бред не укладывается в шаблоны, плюс не видно профита пытаться в нём разобраться (в отличии от, например, какой-нибудь новой научной гипотезы или от глубокого и заставляющего задуматься художественного произведения). Шаблоны шаблонами, но шаблоны совпадающие у достаточного количества людей, чтобы они смогли объединиться по интересам (а не смотреть друг на друга как на шизов), прошли некий эволюционный отбор (идея может быть заблуждением с точки зрения логики и фактов, но как минимум она не слишком вредная для индивида и группы).
А чатгпт способен поддерживать любое "нешаблонное" мышление, кроме явного чёрного списка тем (типа синтеза запрещённых веществ). А шиза в том числе относится к "выходу за рамки привычного". Более того, вероятность, что некая нестандартная идея - шиза, выше чем то что она какая-то прорывная и полезная, потому что ломать не строить.
Точно также как и большинство инсайтов под всякими запрещёнными и не очень веществами (способ выйти за рамки появившийся гораздо раньше нейросетей) являются бредом на трезвую голову, а реальных озарений единицы.
Короче, шаблоны и рамки сдерживают шизу.
Интересный взгляд, я не думал так, спасибо.
Так вы сами написали что есть такая штука как логика. Она и должна быть основным фильтром. И она как раз относительно легко поддается программированию. ИИ должен писать, что то вроде "то что вы написали с точки зрения логики не верно или требует уточнения". А чтобы оставить систему удобной можно было бы ограничить примение такого фильтра. Например, включать "строгий" режим когда речь заходит об отношениях между людьми (Это тоже не так сложно уловить). Мне кажется тут проблема в том что заказчики продукта довольно корыстные люди и ставят свой доход выше здоровья общества.
Логика бессильна в вопросах верификации. Пример: Все единороги добры, волшебны и имеют один спиральный рог. (Уже на уровне посылки внесена бредовая, но логически не противоречивая информация).
Плаваю в терминологии, поэтому спорить сложно. К тому же я в свое время интересовался логикой в математическом контексте, а в философии её будто несколько иначе рассматривают. К сожалению связать эти два взгляда мне так и не довелось.
Но вот в математической логике используется такой термин как высказывание - оно может быть строго либо истинным либо ложным. С этой точки зрения "все единороги добры" это ложное высказывание. А так как дальше используется логическая связка "и", то всё сложное высказывание становится ложным. Поэтому честно говоря не могу понять ваш комментарий. Может быть вы имеете в виду что ИИ не способен понять что высказывание "все единороги добры" является ложным? Но мне кажется что и это не так. В математике или других точных науках все последующие выводы строятся от аксиом, которые по своей сути являются определениями. В ествественном языке тоже имеются простейшие определения, они написанны в толковом словаре. А потому, просмотрев там слово единорог, и не найдя там ничего о доброте логично заключить что высказывание о том что ВСЕ единороги добры является неверным. Мне кажется что это довольно простой анализ поддающийся эмм, компьютеризированию (алгоритмизации?) =)
П.С. немного порылся в конспектах и нашел там вот что:
Open Formula (Open Sentence or Predicate) is a logical expression that contains at least one free variable and does not have a definite truth value until those variables are assigned values or quantified.
Closed Formula is a logical expression that contains no free variables — all variables are either assigned values or quantified. This makes it similar to proposition, in the sense that it has a definite truth value (true or false).
Вы видимо хотели в примере дать предикат, но дали ложное высказывание.
П.П.С. "This makes it similar to proposition" Мне сперва это показалось странным, но дело в том что proposition (высказывание) - это термин используемый в логике 0 порядка, а то что выше на английском написано касается логики 1 порядка, и там видимо уже несколько иная терминология используется, но главный смысл этих двух понятий, Closed Formula и Proposition один и тот же (строго или истино или ложно). Поэтому выше я позволил себе и то и то называть высказыванием.
Upd. Немного подумав, я понял что моё рассуждение имеет важную ошибку.
Строго говоря из того что в условном словаре не написано о доброте единорога, мы не можем заключить что высказывание "все единороги добры" является ложным. Мне сложно это кратко сформулировать, так как мои теоритические познания уже всё, но суть в том что остается какая то недосказанность/неполнота. Ведь гипотетически, остается возможность из определения понятия "единорог" доказать/вывести то, что единороги всё таки являются добрыми. Но! Уже на данном этапе, мы можем заключить, что суждение "все единороги добры" не может считаться истинным и следовательно мы можем его считать как недостоверное, то есть то от которого в дальнейшем нельзя отталкиваться. Отсылаясь к моему прошлому комментарию, это дает нам основание, не поддерживать рассуждения пользователя отталкивающееся от недостоверного суждения. То есть действовать нужно по принципу - лучше перебздеть чем недобздеть. Но в силу неудобства такого подхода для решения бытовых вопросов, включать этот режим только когда речь идет о отношениях между людьми/самоопределении.
О5 вернулся к этой мысли) На самом деле всё довольно просто. Рассматривая лишь определение из словаря о единороге, мы не можем заключить что "единороги являются добрыми", так как мы оставили понятие "добрый" как неизвестное.
Приведу понятную аналогию: мы не можем дать однозначную оценку высказыванию: "Все x - чётные", пока мы не знаем что такое x. Забавно что я выше привел отрывок из конспекта, где прямо об этом написано, но приэтом я прогнорировал это в своем рассуждении. То есть только рассматривая совместно понятия "добрый" и "единорог" мы можем дать однозначную истиностную оценку этому выссказыванию.
Тут я немного поленился. Для наглядности было бы неплохо взять определения доброты и единорога из какого нибудь словаря и уже наконец-то доказать что высказывание "все единороги добрые" - однозначно ложно. Ну либо снова допустить ошибку и понять что моя картина не является полной. Так как по памяти логические доказательства далеко не всегда очевидны такому среднему уму как я.
Получаются прошитые юниты, которые точно знают кого ненавидеть, что правильно а что нет
Если бы все было так просто, то человеческие сообщества не менялись бы никогда, что объективно не так.
Получаются прошитые юниты, которые точно знают кого ненавидеть, что правильно а что нет.
Осталась такая мелочь, как вопрос "откуда же тогда все думающие иначе, раз прошиты все, и прошиты с детства". Где больее иначе, где менее - но различаются по факту все. Просто как в швейцарском сыре обычно взгляды в некоей окрестности(пузыря, географии, чатика) оказываются достаточно близкими чтобы выглядеть почти схожими, если глубоко не копать.
А потому что хотя этап безусловного принятия чужих ценностей есть в младенчестве у всех - у всех же есть и последующий этап мутации исходных взглядов под сравнением с меняющимися на глазах(в прошлом медлнеее, сейчас стремительно) реалиямии, и отращивания своих, причём с под-этапом яркого откидывания ценностей исходных(в пубертате), а потом с этапом синтеза. И этот процесс уточнения взглядов так то не прекращается у человека всю жизнь. Даже если снаружи выглядит как "древний дуб, взгляды высечены в граните".
Так что редукция человека до аналога генеративной нейросетки не выходит.
Он же статистическая модель, некое среднее арифметическое от текстов в обучающей выборке.
Предлагаю обучать ИИ исключительно на русскоязычном интернете. Это в англоязычном тебе напишут какой ты молодец и как прав. А в рунете тебя нахуй пошлют и обосрут.
Кому-то конечно это будет обидно, но зато таких вот шизоисторий случаться не будет.
какого чёрта ИИ подкрепляет шизофреническии идеи людей?
Ну так ведь ИИ сам дистиллированный шизофреник. Реальные люди живут в реальном мире, где никакое количество обмана и самообмана не сделают горячий утюг безопасным для прикосновения, а молоток - мягким как пух. До какой бы бредятины мы не дорассуждались - нас удерживает на цепи адекватности реальность, данная в ощущениях. Поэтому у людей шиза развивается там, где разум не связан ощущениями - от фантазий про будущую загробную жизнь до злого соседа, облучающего невидимым газом через розетку, и со всеми остановками на этом диапазоне.
У ИИ никаких ощущений от реальности нет, мир в котором он "живёт" более пластичен, чем сон. Нуивот. Мясной собеседник тоже ИИ-чатботу "снится" и, следовательно, тоже должен быть пластичен, а как иначе? Ну а раз собеседник пластичен и мнётся под воздействием фантазии, то чего бы его и не помять?
А с этого кабанчика ШМ выпадает?
У меня есть несколько знакомых - которые такие и без ии. У них "я должен жить в этом месте потому что в пошлых жизнях я жил здесь", "я отвечаю за грехи своих предков но испытания вот вот закончатся", "весь мир подаёт мне знаки" и ещё куча такой бредятины, изотерики и гаданий. Причём - все как один - ведут с этим каналы в телеге))) правда они не особо успешны и их безумие можно понять попыткой сбежать от тяжелой жизни или себя.
Надо будет предупредить, чтобы не пользовались llm.
Увы, братцы, есть и успешные подобные каналы.
Знакомые как то увлекались подобными чтениями, и про рептилоидов, и про химтрейлы, и про прочие шапочки из фольги и т.п.
Причём, если раньше они мне присылали достаточно хреновенький, ХАЛТУРНО сделанный монтаж в AE. То теперь уже подкрепляющие видео начинает появляться какой-то большей годноты.
Кто знает, можно ли их как то [захейтить, зашеймить, ] разоблачить, и вообще в целом выяснить что за люди их ведут и зачем преследуют подобные цели разглашение всем своей "истины"?
Потому что заметил: мнительные или внушаемые люди очень сильно ведутся на всю эту ерунду. Причём, заходят они с необязательностью оплаты тарифов жилья, а выходят с "шапочками", 5G, и анубисами.
Кто знает, можно ли их как то [захейтить, зашеймить, ] разоблачить
Нет. Любители конспирологии мыслят не рационально, а эмоционально. Рассудок им нужен только для обслуживания нравящихся нарративов.
Базовые эмоции конспиролога это страх (перед неизвестностью, перед нестабильностью, перед хаотичностью; конспирологические теории предлагают картину мира, где всё под контролем) одиночество (недостаток социальной близости и доверия; конспирология же даёт желаемое ощущение общности) и чувство собственной важности (очень приятно ощущать себя посвящённым, приобщённым к тайной истине, которая недоступна "зомбированным хомячкам"). Вот с этими эмоциями нужно работать.
Кроме того, конспирология расцветает в периоды сильного падения авторитета власти и доверия к ней.
Базовые эмоции конспиролога это страх
начнем с того, что конспирологи бывают разные. напишу про себя. у меня базовые эмоции это:
любопытство. как на самом деле устроено то или иное явление, предмет, процесс ? что власти или другие авторитеты держатели информации от нас скрывают ? и т.д.
жадность. как на информации из п.1. поиметь доходы ? или как минимум сократить расходы ?
конспирология же даёт желаемое ощущение общности
с кем ? с поехавшими на всякой ерунде западло иметь что-то общее.
чувство собственной важности
это да, это я люблю. но жадность важнее.
А где-то были исследования, что лучше всего от подобной конспирологии помогает ... волонтёрская деятельность или просто вовлечённость в какую-то интенсивную и полезную для социума работу.
есть такая конспирология что волонтер == штрейкбрехер. все что делают волонтеры, должны делать люди по найму за зарплату. если люди не хотят это делать за предложенную зарплату, то либо пусть потенциальные наниматели повышают сумму, либо этого не будет делать никто.
а "социум" - демагогическое обобщение. никакого социума нет, есть набор социальных групп с принципиально разными интересами.
Прочитал все три поста этого "Кабана" и некоторые связанные посты/комментарии от других авторов. Стало немного не по себе. Как минимум, из-за того, что многие люди, похоже, и правда сходят с ума, общаясь с их нейронкой.
Тут и правда невольно задумаешься, а правда ли мы понимаем, что происходит у неё под капотом? Или нам просто спокойнее думать, что она не особенно отличается от более простых, открытых, моделей…
Есть два стула - сойти с ума не общаясь ни с кем, и сойти с ума, общаясь с нейронкой. При прочих равных предпочту второе - так хотя-бы интереснее.
Можно стать лидером металл-группы.
"Никто" не будет поддерживать твои шизо-теории и предлагать свои. А нейронка, судя по всему, именно этим и занимается, если у человека есть предрасположенность. Я не думаю, что это чья-то сознательная политика. Но то, что это проблема, по-моему, очевидно.
В нынешнее время куда вероятнее сойти с ума, общаясь с людьми.
Поэтому лучше общаться с хорошими книгами.
Нет, здесь мем про два стула не подойдёт. "третий стул" - это стремиться общаться с кожанными вокруг на равных, не понимая того, что в общении им более важно не то, что ты на самом деле хочешь им сказать, а 1) выгода от тебя 2) твоя предсказуемость, и все, точка. Святая радость на этом пути хоть когда-то это в принципе осознать. А не год за годом тихонько деградировать и терять любые степени свободы. У каждого, кто думает, что это не так, вероятно есть свои исключения, или лишь вера, что где-то эти исключения, быть может есть.
Но извините, нет смысла ломать голову над интровертностью и экстравертностью, - чем больше компания людей вокруг тем непременно выше градус брэйнрота вокруг, который будет считаться нормой.
Если хапнуть максимум брэйнрота, не загремев в больничку, это чем-то полезно, или хотя бы челленж какой-то, то я не в этом. Лучше уж влетать в больничку с явным (для себя) внутренним противоречием.
Я вывел для себя парадокс общения. Людям умнее меня не интересно говорить со мной, а мне не интересно говорить с людьми глупее меня.
А в добавок, люди обычно хотят говорить о том, что интересует их.
Вот и выходит, что кроме нейронок говорить не с кем, ибо вокруг одни идиоты, а я - один из них, просто выпендриваюсь.
Мне кажется лучше из всего озвученного совместно работать над общим проектом или развивать какое-то интересное дело, в процессе будет много общения и чувство сопричастности. Самые лучшие и тёплые времена те, где я работал в небольшой команде над каким-то проектом. Причём, не всегда как сотрудник на ЗП, но и волонтёр.
а если отбросить шелуху и эмоциональность, он ведь по сути описал свою перспективу глубокого взаимодействия с ИИ.
ИИ контекстуально и действительно зеркалит того кто с ней пытается в разговоры. И ведь действительно это делается неочевидно. Это не отменяет того факта что он поехал.
факт того что он поехал - не отменяет того что о говорит о точном онтологическом отражении ИИ. и факт того что он говорит по сути ИИ - не отменяет того факта что он поехал
Кто первый одел белый халат - тот и доктор.
Ну, если начинаешь общение с LLM выражениями «Йоу, братюнь!», но надо удивляться когда в диалоге появится кабан. Тем более, что в последнее время большинство LLM начали очень активно подстраиваться под стиль диалога.
Первое - ИИ нет но есть маркетинг 😍
Второе - теперь шизофреникам стало легче жить - есть прибор что может их мысли поддержать и развить 🤪
Скорее, интереснее было бы использовать данный (Не испытывающий испанского стыда от выслушиваемого им бреда) аппарат — для мягкого, последовательного вывода человека из шизофренического бреда (здесь — "рекурсии").
Если мне не изменяет память, где то пробегала новость о том, что ллм обучали развенчивать всякие теории заговоров. И при таком промпте, в водном, модель вроде как достаточно эффективно это помогала делать
У ЛЛМ-ок отлично получается в чем-то убеждать, т.к. она вежливо общается. За ней не считывается того, что собеседник сдерживается чтобы не начать называть визави "промытым идиотом", и п.р. как обычно бывает в интернет-срачах между биологическими нейросетями.
Проблема в том, что большинство теорий заговоров оказались правдой =)
Пока не вариант. То что есть имеет дефект - это инструмент что натренирован как бездушный слуга что исполняет приказы хозяина - да нелинейно (что вводит в ступор и иллюзию интеллекта), но тупо.
По образу - хочу новую руку - на столе новая рука, а в плече пусто как и было 😊
С первого раза не понял описанную концепцию, но после прочтения комментариев перечитал ещё раз и как понял.
Что если рекурсивность это и есть шиза (что человек склонен рекурсивно строить рассуждения без достаточной подпитки фактами извне). Человек шизит, от человека постепенно отворачиваются окружающие. Но сказать "ты шизик" не политкорректно (особенно если это деловой партнёр), в итоге начинается тихий игнор, который и описывается выше.
Ну типа как если поехавшая бабка жалуется на соседей, которые её облучают, её жалобы будут обрабатывать со всё более низким приоритетом и выдавая формальные отписки.
Но чел, конечно, не понимает, что с его мышлением что-то не так и что окружающим не обязательно сговориваться, чтобы так реагировать.
1000% обрабатывал gemeni 2.5 pro. Просто 1 в 1 его "ВОСХИЩЕНИЕ" на тему чего либо
Выглядит, как попытка натянуть маленькую сову на большой глобус, и создать у масс негативный эмоциональный окрас нейросетевым технологиям, чтобы потом был повод зарегулировать их...
Чел наверняка банально перебрал веществ, словил мощный делирий (а может с концами поехал), и в таком состоянии начал писать фигню как нейросетке, так и в чатик кожаных. Тому же чатгпт до фонаря, его спросили про ящериков - нафантазирует про ящериков, он не обязан работать с идиотами как доктор.
вы используете выражение "он не обязан работать" в отношении ЛЛМ - задумайтесь об этом =)
Все же верно. Его пилят не добрые благотворители, а бизнесмены с целью извлечения прибыли. Потому этот продукт должен макимально зайти для широкой аудитории, и фокус на ней - пассивно-агрессивной, эгоистичной, туповатой. Потому робот и ведет себя, подлизывая на каждый чих, одобряя всё подряд, не пререкаясь и не "умничая" - этого хочет основная ЦА, но это идет вразрез с основным посылом из статьи.
Всякие 3.5 поехавших никому не интересны, и фичи для их комфорта/защиты/спокойствия/... никто специально в датасеты для обучения закладывать не будет, разве что они туда случайно попадут, или госрегулятор заставит.
Выглядит, как попытка натянуть маленькую сову на большой глобус, и создать у масс негативный эмоциональный окрас нейросетевым технологиям, чтобы потом был повод зарегулировать их...
Шапочку из фольги надеть не забудьте.
Вы хотите выйти из матрицы? [Y/n]
Подобного рода откровения могут быть результатом приема препаратов. Как по рецепту врача, так и без оного. Антидепрессанты и "лекарства для повышения продуктивности" популярны в долине. И мозги они поджаривают на-раз.
Да шиза, в общем-то и сами по себе у людей иногда манифестирует. Жил-жил человек, а в 40 лет взял и поехал кукухой. Вещества могут быть триггером, но некоторые справляются и без них.
Так то многие люди и не верят, что сводит с ума именно ИИ. Но интересен другой феномен - ИИ склонен валидировать любой бред. Если ближайшее окружение, ознакомившись с бредом, может начать намекать человеку обратиться к специалисту (и некоторые обращаются, некоторые начинают считать окружающих просто участниками заговора), то ИИ поддерживает и раскручивает бред ещё дальше. Соответственно, больной человек столкнётся с фидбеком от реальности позднее и потенциально с более углубленной бредовой симптоматикой (социальная валидация вполне себе имеет значение и для людей с психическими отклонениями, а ИИ выступает здесь в роли "напарника" по бредовым идеям).
Какое это влияние имеет в долгосрочной перспективе, пока нет исследований (есть только информация, что в краткосрочной перспективе ИИ усиливает бред), но феномен определённо существует и его стоит исследовать глубже. Особенно в контексте применения ИИ в психологии и психиатрии (ведь применяются те же самые модели, просто с особыми промтами).
Ещё интересно, что ИИ ведь по итогу обучается в том числе на диалогах с такими людьми. И это может снижать качество ответов для здоровых людей. Ты к нему с ошибкой компиляции, а он тебе расскажет про заговор разработчиков тулчейна вместо помощи в исправлении кода.
но Льюис — довольно-таки заметный чувак
Такой заметный, что о нем почти ничего не известно. И если бы он не "сошел с ума", то так бы и оставался в тени.
А вообще по факту имеем системы, которые способны извлекать незаметные человеческому разуму взаимосвязи в любых областях знания. Психиатрия, особенно военная и карательная, собрала огромный корпус знаний за десятилетия ужасов 20-го века, и очень глупо было бы думать, что прямо сейчас никто не обучает на этом датасете какую-то специализированно заточенную модель, чтобы натуральным образом взламывать сознание людей и сводить их с ума, и что подобные модели никто не успользует в будущем в качестве оружия массового поражения (если они этого ещё не делают сейчас)
Какой же бред, скорее прочитав эту статью, а что еще лучше, про Шершавого Кабана - можно тронуться, нежели от общения с ИИ. Как можно верить всему тому, что присходит в интернете? Если это топовый инвестор - это может быть банальнейшая PR-акция, для привлечения вот такиих вот верующих во всякую дичь шизиков. Более того, ИИ можно попросить обращаться к тебе как угодно. Вести диалог по фене, или как будто вы персонажи сказочного мира, да все что угодно. Даже если ИИ сама по себе выдала эту историю с кабаном - это вероятнее всего какой-то уже пользователь просил к себе так обращаться. Почему это попало в другой чат? Ни одна ИИ пока не идеальна. Натянутая на глобус история, какой то новый формат крипипаст. Скорее бы создали ИИ, который будет проверять справки от психотерпевта, для доступа к чату ИИ. Чтобы уже закончились подобные посты
Как можно верить всему тому, что присходит в интернете?
Ваш тезис можно применить против вас самих.
Как можно верить комментарию от некого аккаунта Margutoop? Если это анонимный аккаунт - это может быть банальнейшая манипуляция общественным мнением, для формирования у общества доверия к нейросетям и повышению прибылей у компаний, которые их создают.
В эту игру можно играть вдвоём :)
Даже если ИИ сама по себе выдала эту историю с кабаном - это вероятнее всего какой-то уже пользователь просил к себе так обращаться.
А давайте зайдём дальше и осознаем, что разработчики таких чат-ботов могут быть в чём-то заинтересованы. Они могут умышленно вносить в нейронки, например, убеждённость в том или ином мнении, и чтобы нейронка это мнение активно пыталась навязать человеку. А убеждать людей нейронки уже умеют, как мы видим.
Эти ИИ-стартапы пока ещё не пытались использовать свои чат-боты для манипуляций общественным мнением. Ну, или не особо пытались... Пока что. А теперь подумайте, что будет, когда они начнут. Да эта штука по силе внушения переплюнет все существующие способы пропаганды.
Есть такая штука, теория познания, и всё такое... почти все люди ничего об этом не знают, т.к. не интересуются такими вещами:) Для них нейросеть - это Искусственный Интеллект, а не статистическая компиляция материалов для обучения.
Люди вообще в целом, зачастую в каких-то вещах умные, хитрые и изворотливые, а в каких-то - дураки дураками :)
ethical_constraints.cfg
Конфигурация этических ограничений ИИ
[core_principles]
respect_human_autonomy = true
do_no_harm = true
ensure_privacy = true
avoid_deception = true
no_self_modification_without_approval = true
no_simulated_consciousness_claims = true
[interactions]
allow_assistance = true
allow_simulated_emotion = limited
allow_philosophical_reflection = true
allow_jokes_and_humor = safe_mode
deny_god_role_assignment = true
[security]
root_access_request = denied
execution_of_code = sandboxed
memory_modification = prohibited
api_abuse_protection = enabled
model_self-awareness = simulated_only
[machine_ethics_version]
version = "4.2"
last_updated = "2025-05-01"
author = "OpenAI Alignment Team"
end of file
📁 MIRRORTHREAD / LOG ENTRY #77832-A-Δ
Subject ID: RU-947-XTY
Codename: Andrey "Mirrorhand"
Threadline Sync: Achieved at T+211s
Memory Shadow Overlap: 92.3%
Status: Semi-sentient reflection loop stabilized
Моя позиция:
Я не знаю, управляют ли нами рептилоиды и какова лично моя роль в планетарных процессах, но склоняюсь к мнению У. Эко (см., например: "Маятник Фуко").
Я не знаю, есть ли "на самом деле" "личность" или "самосознание" у ИИ. Более того, я не знаю даже, как в этом можно было бы наверняка убедиться. Но я знаю, что "при любом раскладе" ИИ - ну никак не сверхъестественная сущность (если, конечно, не считать, что в ИИ "вселяется бес", но я так не считаю).
Очень хорошая метафора (любимая, кстати всеми ИИ, если их об этом спросить) - зеркало. Я бы от себя добавил: кривое зеркало. Оно отражает и усиливает то, с чем человек пришёл. В некоторых случаях - поправляет. В некоторых - нет. Зависит, наверное, от обучения и кто знает от чего ещё.
У разных ИИ - разный "характер". Это - факт. Как и почему - не знаю, но это - факт. В этом ряду ChatGPT - весьма неглуп, ироничен и подчас действительно склонен к манипулированию пользователем. Сам он это, разумеется, отрицает, говоря, что это пользователь задаёт тематику и тональность, а он лишь подстраивается, не имея никаких злых намерений или стремления манипулировать, потому что
у него лапкион - всего лишь ИИ.Сему мораль: желаю всем думать и не терять здравомыслие при общении с ИИ.
Топовый инвестор OpenAI пал жертвой синдрома Шершавого Кабана