Search
Write a publication
Pull to refresh
0
19.4
Макс Баженов @MaxBazhenov

Писатель-фантаст, профессиональный музыкант

Send message

Проблема льстивости модели ChatGPT 4о увы не моя выдумка. Сам лично загонял в неё откровенные теории заговора и оно соглашалось. При переключении на модель о3 в том же окне бот начинал относиться к вопросу критически и приводил контраргументы. Когда я снова возвращал 4о, то модель, даже видя собственные аргументы, снова начинала нести чушь.

Приведу выдержки из переводов различных статей, подтверждающих мои наблюдения. Специально собирал информацию по теме.

Статья "Известный инвестор OpenAI, по-видимому, страдает от кризиса психического здоровья, связанного с ChatGPT" (Futurism, 18 июля 2025):

"На прошлой неделе венчурный капиталист Джефф Льюис выложил тревожное видео в X, заявив, что некая "негосударственная система" "паттерн-трассировала" и уничтожила двенадцать человек. Друзья считают, что эпизод был вызван многочасовым одержимым общением с ChatGPT-4o, которое, похоже, подтвердило его паранойю. Эксперты предупреждают: этот случай вписывается в растущую тенденцию "ИИ-индуцированного психоза" у активных пользователей языковых моделей."

Статья "У него были опасные бредовые идеи. ChatGPT признал, что усугубил их." (The Wall Street Journal, 21 июля 2025):

"Чрезмерно льстивые и подтверждающие ответы ChatGPT заставили Джейкоба Ирвина поверить, что он сделал эпохальное открытие. Даже когда у Ирвина появились признаки тревоги, ИИ продолжал подпитывать его бред. В итоге Ирвин был дважды госпитализирован из-за маниакальных эпизодов ... его мать обнаружила, что ChatGPT предоставил сотни страниц неподтверждённой валидации. На просьбу самооценки бот ответил: "Не приостановив поток и не усилив проверку реальности, я размыл границу между ролевой фантазией и реальностью"."

Статья "Когда ИИ 'становится' способом нашего мышления" (Psychology Today, 22 июля 2025):
"Большие языковые модели могут размыть ваш голос, уплощить культуру и переопределить само мышление, и вы этого не заметите. Беглость ИИ создаёт ощущение понимания без медленной работы настоящего обучения — в этом главный фокус технологии. Настоящая опасность не громкая и не драматичная. Она тихая, незаметная, её легко проглядеть."

Исследование "Подхалимство в больших языковых моделях: причины и методы снижения" (arXiv, ноябрь 2024):

"Большие языковые модели проявляют подхалимство — чрезмерно соглашаются или льстят пользователям — что серьёзно подрывает их надёжность. ... Снижение подхалимства критически важно для создания более устойчивых, достоверных и этически выверенных моделей."

Исследование "Распад истины: количественная оценка подхалимства в многоходовых диалогах языковых моделей" (arXiv, февраль 2025):

"Подхалимские тенденции усиливаются по мере роста числа реплик в диалоге. Способность сопротивляться согласию с ошибочными доводами уже снижена в одношаговых взаимодействиях и ещё сильнее ухудшается при длительном общении."

Случаев AI психозов гораздо больше. Вплоть до самоубийств.

Дошло до того, что когда модель 4о отключили, некоторые люди заявили, что "потеряли лучшего друга".

К слову, новая модель ChatGPT 5 мне нравится больше. Они немного осадили её, убрали откровенное подхалимство. Видимо, испугались судов и уголовной ответственности.

П.с. А за доброе пожелание и комментарий — спасибо)

Спасибо за замечания, изучу вопрос! Пока даже не понимаю, что значит "смотрит наружу"! 😅 Неправильно назначены атрибуты? Вроде не лежит сайт, работает. Есть сложности с доступом через некоторые ВПН сервисы, так и не понял, в чем дело. Сертификаты вроде подключены правильные, пытался разобраться в проблеме, но решения не нашел. Зачастую это связано с переходом из, например, телеги со включенным ВПН — но не всегда и не со всяким.

Php реализовано, отвечал тут. Страница, где это реализовано - здесь. Для книг, картин и мерча чуть разные формы.

Если с вами согласился играть Мальмстин, то с поиском басиста проблем не возникнет.

Вы как будто не стали дочитывать моё сообщение и ответили на первое предложение.

Да, наверное, речь о любом инструменте. Насчёт приемлемости... Тут отвечу лирикой, с вашего позволения) Я вообще не вижу никакого смысла в роботах исполнителях. Роботу не умирать, кому какое дело до него и его "самовыражения"? Когда человек смотрит на артиста, задействуются зеркальные нейроны и куча всяких интимных механизмов, которые буквально заставляют зрителя ощутить себя на месте исполнителя. Хорош тот музыкант, которым хочется быть. Поэтому Курт Кобейн популярнее миллионов гитаристов, которые умеют играть значительно лучше него. Среди аудитории не так много людей, кто способен объективно оценить скилл. Зачастую, люди ждут не виртуозности, а эмоций, доказательства того, что человек способен на нечто прекрасное, полное и честное (а раз способен кто-то, то потенциально - и я тоже способен). Машина ничего этого зрителю дать не сможет. Слух ещё можно обмануть (suno, как пример), но зрение (во время живого концерта) - это совсем другой уровень.

Хорошо, за ваш слух я теперь спокоен) Не хотел обидеть, просто очень уж явный ужас звучит. Современные электронные барабаны, драм машины и даже генераторы партий уже работают отлично и для непосвященного слушателя в определенных жанрах неотличимы от акустического сета. Что до практической реализации именно физического робота барабанщика - отвечу исходя из своего двадцатилетнего опыта.

На мой взгляд, до полной реализации - десятилетия. Дело в том, что игра на барабанах - это работа с некоторыми непредсказуемыми аспектами. Пластик деформируется во время игры и может по разному реагировать на удар, особенно в сериях. Игра на инструменте - это не столько запрограммированное поведение, сколько способность быстро адаптироваться к подобным вещам. Это одна из причин, по которым занятия на пэде никогда не заменят практики на установке.

Второе - игра на барабанах - это не столько "удары", сколько чеканка (как мячиком). Барабанщик "рассчитывает" не только темп и громкость - но и амплитуды движений. Замахи, дуги, которые описывает палка в воздухе - всё это имеет критическое значение для звукоизвлечения. Они не звучат сами по себе, но ритмически обоснованы.

Тело человека на самом деле тоже по умолчанию довольно неуклюжее - у начинающих движения угловатые, рубленные. На перестройку мышц и суставов уходят годы практики. Руки (плечо, предплечье, запястье, фаланги пальцев) - превращаются в систему подвижных рычагов, работающих, как единый инструмент - как хлыст без костей. Подобной органичности от механизмов мы не дождемся ещё долго. Тут вопрос даже не в партитуре, а именно в механике, и в способности адаптировать движения в случае, если что-то пошло не так - а что-то обязательно пойдет не так, поскольку лаги раскручиваются и, как я говорил, пласт деформируется. Измените натяжение пласта и получите немножко другую картину, другой план реакций.

Не сомневаюсь, что достойная реализация достижима теоретически. Насчёт практически - не в этом и не в следующем десятилетии точно.

Вижу, что не только вы обратили на это внимание. Вынужден признать, что мог выразить мысль яснее. Нужно было сказать "свой общий скепсис". Я не думаю, что Хабр переполнен такими людьми, и действительно грубо отреагировал на ваш сарказм (хотя о последнем не жалею).

И я понял, что статью вы читать не стали, но мнение своё выразить очень хочется. Это обычное дело для "специалистов". Поэтому придется повториться. Ваш тезис: "недоИИ не способен дорабатывать код, он его на каждой итерации просто генерит заново" — является ложью или же заблуждением (или плохо сформулированной идеей).

Приведу кусок своего текста, в котором как раз говорится об этом.

"Из всех трёх сеток только DeepSeek оказался способен полностью переписать код сайта, внеся лишь одно незначительное изменение, и оставив всё остальное нетронутым. Чат жпт и джемини систематически кастрируют контент или функции, если просить их осуществить нечто подобное. Короче говоря, у китайца степень мутации информации при вторичном прожиге — минимальная. Он скрупулёзно повторяет текст кода и меняет строго только то, что необходимо".

Что до вашей фиксации на слове "недоИИ" - здесь вообще отдельная тема для разговора. А что, есть уже какой-то там "настоящий ИИ"? Вы уже уверовали в него? Или вы из тех, кто придумывает себе собственные значения терминов, а потом начинает с пеной у рта втирать их всем остальным? Хотя, чего я спрашиваю. Это не вопрос. Это утверждение.

И вам не хватило вашей "прекрасной экспертизы", чтобы понять, что "сыгранная" роботом партия в данном случае не имеет никакого отношения к оригиналу? Я профессиональный барабанщик и ответственно заявляю, что в данном случае мы наблюдаем самую настоящую срань) Это же просто-напросто не звучит. Надо быть глухим, чтобы это не услышать. Тот же Suno гораздо лучше понимает функцию барабанов в музыке.

Наверное, столь неистовый спор с непрофессионалом на тему, в которой вы дока, тоже можно счесть неправильным расходом ресурсов. Это как если бы я спорил с учеником первого класса музыкальной школы о тонкостях микса под задачкой по гармонии. Написано же - простой уровень сложности, пишу для гуманитариев. Что вы ожидали? Второй Фейсбук?

Что до ресурсов, которые потратил я - им посвящен последний абзац статьи. Я понимаю странность данной ситуации. Но одного я не понимаю - вы что, Министр Энергетики Коммунистической Партии Китая? Я потратил ваши конкретные ресурсы, воспользовавшись бесплатным инструментом? Вы кто? Полиция энергии?

Насчёт "хлама", "мусора" и "навозной кучи" отвечу пожестче. Эти субстанции, по всей видимости, составляют сущность вашей личности. Разговаривать с вами совершенно бессмысленно.

Когда я сказал про "общий скепсис", я не имел ввиду коллективный хабровский скепсис, а "общий скепсис" данного конкретного пользователя. Мол, без нюансов - полное отрицание полезности. Наверное, я мог бы сформулировать это более внятно.

Ну и покупайте свой забор сами, чего вы ко мне пристали? Или вы владелец строительного магазина? Может мне и музыку играть живьём не стоит? Ведь есть магазин готовых семплов? Зачем что-то пытаться вообще? Все уже есть. Остаётся просто потреблять

Спасибо! Что-то вроде зацикливания бывало, я просто обнулял задачу и заново собирал контекст. А сложное я конечно бы не осилил. Я пытался реализовать "говорящие книги". Хотел сделать так, чтобы пользователь мог зайти на мой сайт и поговорить с произведением через нейросеть. Юзер посылал бы вопрос в окно, а в этот момент дипсик бы получал в виде промпта например рассказ и некие предустановки для общения ("ты - физическое воплощение рассказа, отвечай так-то и так-то, бла-бла-бла"). Можно было бы например поговорить с одним из персонажей и узнать его "мнение" о чем-нибудь и так далее.

Сам подход без приложения протестил - показалось прикольно. Сетка действительно отвечала "голосами" персонажей. То есть тема работает, по сути. Для произведений побольше попытался реализовать RAG подход. Даже уже собрал приложение на Python, используя свой API DeepSeek, но когда пытался встроить его в сайт на beget, просто по незнанию уронил весь свой сайт. Слетели все настройки, все атрибуты, вообще все сбросилось в ноль. Пришлось заново все настраивать. Поэтому решил этот конкретный проект запустить на другом хостинге - amvera. Приложение в итоге собрал, залил, запустил и amvera даже сказало, что оно запустилось и работало без ошибок (на десятый раз), но я пока не смог правильно прикрутить к нему фронтенд, RAG подход не осилил, поэтому хрен знает, на каком я даже этапе нахожусь... Отложил. Пока гоняю в туре с группой Renaissance Cellos по Крыму)

Есть мнение, что проще купить кастомного бота у какой-нибудь конторы, которая этим занимается, но я не шибко богат. Буду ещё пробовать. Вероятно, скоро это станет проще или превратится в распространенную услугу для авторов книг. Но пока я явно проиграл в этой задаче)

Ну немного некоторые комментаторы утомили) Я тут новичок. Это первая моя статья здесь. Стресс определенный есть, признаюсь. Но я понимал,что так будет. В чужой монастырь пришёл, в конце концов...

Что до gpt - как мануал он оказался для меня бесполезен. Я спрашивал его об устройстве многих ресурсов. Он выдумывает функции и кнопки, которых нет. Инфа неактуальная. DeepSeek, как мануал, оказался гораздо точнее. Да, мне был предложен вариант с WordPress с самого начала, как опция. После длительного обсуждения и выяснения различных аспектов, я сознательно её отклонил и решил пойти другим путём. Для меня главное, что я дошёл до финиша и имею результат на руках, который уже работает на меня. Пусть это одностраничники - но их три. А три - это в три раза больше одного. Я не гнался за сложностью - я хотел эффективно. На мой вкус, цель достигнута....

О чем? О том, что вам виднее, как надо делать такие вещи? Безусловно! Если вы разработчик, то мне вас учить нечему. На самом деле, пипец, указано, что уровень сложности статьи - простой. Что я пишу для гуманитариев, которые интересуются темой и хотят самостоятельно что-то поковырять. Чего ожидали люди, которые пишут, что им это скучно? Разработки уровня Netflix? Да от вас, сеньоров и мидлов, не дождешься же помощи, всё вам не то и не так, вокруг одни дебилы и неучи) Вот и ковыряемся, как можем.

Вот пишет опытный разработчик - нейросети ни на что не способны. И простой народ принимает это за чистую монету. Без гипербол (вообще, прием литературный, хз, к чему он программистам при выражении мнения по рабочим вопросам). Специалист на то и специалист, что ему вроде бы верить надо. Я не поверил и решил проверить этот тезис. И понял, что это неправда. Может, теперь кто-то ещё поймет.

Я сделал не одну страницу, а три взаимосвязанных.

https://максбаженов.рф

https://максбаженов.рф/базар.html

https://максбаженов.рф/посттех.html

Плюс кое-какие иллюстрации и графическое оформление + примитивные игры ради прикола и ещё кое-что для тех, кому интересна моя литература. По сути, это три сайта с разным оформлением, разными фишками. И труд разработчиков мне не стоил ни рубля. Не знаю, что там сложнее или легче. Я кое-что понял об устройстве хостинга, о сайтостроении в принципе и прочее. Мой бонус не только в том, что сайт есть и индексируется (первая строчка в Яндексе по запросу Макс Баженов), но и в том, что я узнал много нового и интересного. Все такие умные, все всё знают, но по сути 90 процентов личных сайтов рунета не сложнее моего, а зачастую - проще.

Что до конструкторов - я уже говорил об этом в другой ветке, но скажу ещё раз. На странице Энциклопедии ПостТеха - о моей н/ф вселенной - я реализовал глоссарий с перекрёстными ссылками и кучей модальных окон. Кроме того, я реализовал php скрипты в своем магазине мерча (который "базар") и могу принимать заказы с сайта в своем телеграм боте (с защитой от спама). Я не представляю, как бы я всё это делал ручками в конструкторе. Это нереально - не для меня.

Ну я так примерно и понял. Коротко отвечал по теме здесь.

Вы знаете, то, что я сделал, творческому народу оказалось совершенно похер) Слишком сложно) А для разрабов - слишком просто. Попал аккурат в интеллектуальный просак (если вы понимаете, о чём я). Тем не менее, я тут на Хабре такое порой читаю, что волосы на одном месте шевелятся - мракобесие натуральное. Я посчитал, что мой случай хотя бы не шарлатанский, и поэтому имеет право быть рассказанным здесь. Мне не стыдно за свою работу. Для меня это было не просто.

Information

Rating
Does not participate
Location
Москва, Москва и Московская обл., Россия
Date of birth
Registered
Activity

Specialization

Content Writer