Comments 64
Про перепроверку фактов другим ИИ тема. Уже ловил пару раз "уверенные, но ложные" ответы от одной модели, вторая быстро поправила
Я люблю и ненавижу ChatGPT o3 - это очень умная модель, но в нее часто вселяются бесы и она начинает отвечать на языке таблиц, списков и непонятных слов. Я тогда просто копирую ответ в Gemini 2.5. Pro с просьбой "поясни, что он там несет" - и работает.
Можно напрямую указать, чтобы избегала таблицы. Я иногда использую, Но в основном все таблицы по делу.
я пробую создать что-то вроде мультиагентной системы чтобы несколько разных ИИ обсуждали одну проблему ища компромис. Пок получается не очень. Не то чтобы совсем не получается, но во первых вся эта зрень жрет токены как не в себя (пытаюсь ослабить проблему поставив "заслон" из дешевых моделей, которые собирают и перефразируют запросы.)
Ну и с "компромисом" тоже не очень пока. Пытаюсь на каждой итерации с помощью дешевых моделий создавать единый и краткий документ для продолжения обсуждения. Но проблема в том, что довольно часто на каком-то шаге все модели начинают нести пургу
Пелевин был прав (Пелевин "Зенитные кодексы Аль-Эфесби")
Очень перспективная и важная тема, ИМХО. Если взлетит, будет очень круто. Этакий консилиум нейросетей, если уж они между собой все договорятся, ценность такого консолидированного "мнения" может быть достаточно высокой.
А откуда уверенность, что вторая исправила, а не добавила своих "уверенных, но ложных" ответов?
Лёгкие улучшения:
"Задай вопросы" → "Задай вопросы + покажи логику"
"Не пиши сразу, а сначала задай вопросы, которые помогут решить задачу. Затем покажи, как твоя логика изменилась после получения ответов.""Перечитай и проверь" → "Перечитай и объясни выбор"
"Перечитай последний ответ, проверь факты, подкрепи ссылками, но главное - объясни, почему выбрал именно этот подход из возможных.""Поясни как 30-летнему" → "Адаптируй под контекст"
"Поясни так, будто я [профессия/роль], с учетом моих задач и того, что мне важно применить на практике.""Мнение стороннего наблюдателя" → "Три взгляда"
"Дай три разных взгляда на вопрос: сторонника, критика и прагматика. Покажи, в чем они правы."
НОВЫЕ КОРОТКИЕ ПРОМПТЫ
"Покажи альтернативы"
"Перед финальным ответом покажи 2-3 альтернативных подхода и объясни, почему выбираешь этот.""Найди слабое место"
"Найди самое слабое место в своем рассуждении и предложи, как его усилить.""Проверь через практику"
"Приведи конкретный пример того, как это работает в реальности.""Что может пойти не так?"
"Предупреди о 2-3 основных ошибках, которые люди делают при применении этого."
МЕТА-ПРОМПТ ДЛЯ СИСТЕМНОСТИ
"Режим качества" "Включи режим качества: задавай уточняющие вопросы, показывай альтернативы, проверяй логику и предупреждай о рисках."
Результат: более качественные практические решения
>Проанализируй наши прошлые разговоры
Я так и не понял, как память работает у гпт, туда попал только один чат из множества, и он сам не может объяснить, почему. Так что в моём случае у него очень слабое понимание меня. Вручную добавить тоже кнопки нет.
Вроде как в европейском регионе память между чатам включена только для 4o (и возможно 4.1 и 4.5). Попробуйте выбрать 4o и в новом чате написать "Расскажи обо мне опираясь на историю наших разговоров." - у меня память сработала сейчас, собрал много информации.
Добавлять вручную не нужно, достаточно написать "запомни, что..."
есть ячейки памяти, они добавляются в первый ( ключевой) промпт в начале каждого чата.
Чтобы добавить что то в ячейку, напишите:
Запомни - Если я общаюсь на технические темы, веди общение в формальном строгом стиле, использнуй только факты. Ничего не выдумывай. Отвечай без лишней воды, четко и точно. Если не знаешь овтета, скажи об этом. Если не достаточно информации для поиска ответа, задай мне уточняющий вопрос. После "запомни" можете любые условия писать.
они попадут в память чата.
чтобы проверить или почистить память идем спрва вверху - аватарка - настройки - персонализация - управление памятью. Чистим что не нужно.
==
Я таким образом создал чату две личности: если начинаю промпт со слова "техспец" - он общается со мной в жоско формальном четком техническом стиле без творчества в ответах.
Все остальные промпты - другая личность, другие условия, в стиле глобального мирокуратора.
Вопрос в том что Вы не можете гарантировать что он что то там "запомнит". Мы ж даже не можем гарантировать повторяемость. Ну ок, мы создали что то очень прикольное, только это, судя по тыканием промптами в небо, черный ящик, мы даже не можем теорию по промптам подогнать к этому всему, у нас нет в нашем процессе сходимости решений к искомому и даже оценок сходится ли оно или расходится.
Если бы у нас была сходимость, то при каждом следующем уточнении мы бы получали более приближенное решение и все это промптотворчество было бы вопросом оптимизации количества запросов - ну чистые числовые методы решения задачи только по оси X у нас промпты вместо числовых значений. Какие то методы подбора промптом быстрее сходятся, какие то медленнее, но сходятся.
Давайте тогда уже выкатывать теорию сходящихся промптов, окна памяти там LLM-ки, что то вроде первый промпт описывает 80% задачи, базу, далее анализ ответа на угадала ли модель контекст и выправление ее рассуждений к решению. Ну и наблюдение и оценка насколько ее решения приближаются к искомому, а не уходят в разнос.
И конечно нам по ходу решения этой задачи придется "оцифровать" тексты и решения в математику, что бы сравнивать количественно результаты - это отдельный вопрос.
«Поясни так, будто мне 30 лет»
Вот здесь я подвис. Это не эйджизм, кстати?
Ни в коем случае не эйджизм, я даже написал, что можете попробовать другой возраст. Я сам долго экспериментировал с возрастом, так как модели воспринимают его напрямую: совсем маленькие года ведут к кубикам лего, пояснить как для студента в моих случаях вело к отсылкам про пиво и дружбанов. На 30 даёт понятный и серьезный ответ.
Да нет, дело не в этом. Я имею в виду, если ответ LLM будет зависеть от подобного сеттинга. Будет ли это цензурироваться.
пояснить как для студента в моих случаях вело к отсылкам про пиво и дружбанов.
Это класс, надо будет попробовать. Хотя, мне кажется, подбирая возраст мы лишь играемся с возрастными стереотипами, а это вряд-ли нужно на практике, если только это не социальное исследование. Я бы скорее запрашивал ответ под роль или уровень, хотя и здесь мы попадаем в игры со статистикой и качеством не только модели, но и ее тренировочных данных.
Я как-то попросила написать рекламный текст "для зуммеров" - получилось оч. круто, а главное - смешно и легко ))
https://ru.wikipedia.org/wiki/Зуммер
вот аж интересно стало как бы они его прочитали... )))
Да нет, дело не в этом. Я имею в виду, если ответ LLM будет зависеть от подобного сеттинга. Будет ли это цензурироваться.
лишь играемся с возрастными стереотипами
Очевидно, что к людям разного возраста нужен свой подход в силу пережитого ими опыта и накопленных знаний. 30 здесь выбрана была как золотая середина между "молодостью" и "опытностью", исходя из наших реалий, и ничего более. Почему-то на фрагмент с пятилетним Вы ничего не сказали. Это ли эйджизм с Вашей стороны? Сейчас это выглядит как возмущение из разряда "посмотрел на девушку мимоходом - изнасиловал её и всю её семью".
А почему не написать просто "объясни простыми словами"?
Поясни так, будто мне 30 лет». Explain like I'm five («Поясни, будто мне 5»)
То есть, значимые для смысла опечатки мы теперь в принципе не замечаем.
Можно ещё "Поясни так, будто я белый". Интересно что выдаст.
Самый действенный модификатор забыли 😁: "Думай быстрее и лучше, а то будет больно"
Простые промпты:
- напиши промпт для статьи, в которой будет объясняться как писать промпт для ИИ
- напиши промпт , результатом которого должна быть программа на питоне, которая....
И на удивление это работает. Промпты получаются осмысленные , с деталями.
Напиши системный промпт для LLM, которая будет придумывать промпты для Stable Diffusion, опиши как правильно строить промпт, порядок тегов, разметка весов для automatic1111. Промпт должен писаться только на английском.
пишет длиннющую портянку текста
Вставляем эту портянку в системный промпт локальной LLM.
Вуаля, у нас есть добротный генератор промптов для SD. Под такое можно использовать даже маленькие модели.
А есть какой-нибудь лайфхак, выводящий ИИ из цикла неверных ответов?
ИИ: Ответ A
Я: Нет, A - неверно, потому что...
ИИ: Сорри, тогда ответ B
Я: Нет, B - тоже неверно, потому что...
ИИ: Сорри, тогда ответ C
Я: Нет, С - тоже неверно, потому что...
ИИ: Сорри, тогда ответ A
(и далее по кругу...)
Зависит от контекста. Чаще всего это происходит когда задача длинная, и начало уже выпало из активного окна, и модель просто не понимает вопрос и пытается его реконструировать или галлюцинировать. Помогает повторный ввод исходных данных, разбитие задачи на несколько этапов.
и модель просто не понимает вопрос и пытается его реконструировать или галлюцинировать
И вот это самое мерзкое при работе с этим вашим ИИ: он ни за что не признается, что выдумал какие-то факты из ваших прошлых с ним сообщений, потому что он про них уже "забыл".
Не признается, что "забыл", потому что и не помнит, что "забыл" :-)
Не. Самое мерзкое это когда ии пытается острить. Я открыл два окна дипсека. Один сознался что он версии 3, а второй оказался версии 2, и твёрдо был уверен что третья ещё в проекте, о котором ему не известно. Через нескольких требований признаться он начпл острить. Тупо и пошло.
Вывод - как и с людьми, с ии не надо спорить :) надо перезагрузить.
Есть теория, что в вопросе должна быть часть ответа. И если ответ неправильный, то неправильный был вопрос. То есть уже на этапе А надо было переформулировать промпт, включив новые подробности.
полная чушь.
иИиЭ: вот тебе код в котором вызывается метод pypdf.iscrypted()
Я: у pydf нет такого метода
ИэИа: <панамка газлайтинга про то что у нас разные версии pypdf> но вот тебе код, в котором метод pypdf.is_crypted()
Я: в pypdf нет такого метода
ЭаИа: <еще панамка газлайтинга про разные версии pypdf>
<skiped итераций 10, про фантомные методы и какие то несовпадающие версии>
Я: ну хватит, не нужно использовать библиотеку pypdf, используй спецификацию PDF адобы
АыАи: Ну вот тебе код где мы открываем файл, но вот в билблиотеке pydf есть метод is_file_crypted!
Я: штош, ясно
Это пример того, когда желание получить программу заменяется желанием поговорить с ии. Надо ему помочь, добавив например, документацию нужной системы и версии.
оу, тут еще нейропсихологи выступают, ну так расскажите как правильно выражать свои желания в беседах с перемножением матриц, прошу, Ваш выход
https://opensource.adobe.com/dc-acrobat-sdk-docs/pdfstandards/PDF32000_2008.pdf
нейродегенерату было показано это собственно в качестве документации, но он предпочёл фантазировать методами pypdf
Я не знаю ни что Вам было нужно, ни что Вы сказали ии (надеюсь не указание написать акробат), но про беседы с матрицей у дипсека спросите, ответ креативный и развёрнутый (я спросил), есть о чём пообщаться с ним.
казалось бы примитивное и очевидное из диалога, - узнать зашифрован ли pdf файл
И да, это был эксперимент уайб-коудига, где надо было не написать ни одной строчки самому, впрочем эксперимент провалился с оглушительным треском как и ожидалось. Ведь это не хрестоматийный магазин на дижанге или там змейка.
и Вы как выдающийся нейропсихолог как бы рекомендуете мне убеждать нейродауна быть еще более креативным, что бы значится фантомные методы были не такими скучными?
Интересно, и наверное не скучно. Однако напомню, Вы тут вроде как вызвались решать другую проблему, - как выйти из бесконечного цикла фантазий чатбота, и просить его быть еще более креативным, даже читать как то немного смешно и грустно одновременно.
Отправил программу, сам не проверял. То что надо было?
reader.is_encrypted АХАХАХАХАХА
Да, это даже лучше, чем было надо
И что не нравится?
у pypdf нет метода is_encrypted господи
где надо было не написать ни одной строчки самом
Hidden text
Прислали суровым сибирским мужикам японскую бензопилу. Решили они ее испытать.
Положили на нее досочку.
- Вжик, - сказала японская бензопила.
- Хм, - сказали суровые сибирские мужики и положили бревно.
- Вжжик, - сказала японская бензопила.
- Хм-м, - сказали суровые сибирские мужики и положили целое дерево.
- Вжжжжик, - сказала японская бензопила.
- Хм-м-м, - сказали суровые сибирские мужики и положили стальной лом.
- Вжжжжжжжж-КРЯК! - сказала японская бензопила.
- Ага-а-а! - сказали суровые сибирские мужики...
А зачем собственно?
Какой кофе дает самую правдивую гущу, надо ли добавлять сахар, в какую сторону сидеть когда спрашиваешь.
Подписаться на мой канал.
Все больше и больше статей на хабре написанных с помощью ии. Короче надо завести бота, что.ы он читал в е эти статьи и оставлял коменты вместо меня ))
Пока рисовать на эту тему комикс, а то, кстати, на Хабре стало как-то меньше ссылок на старые добрые "15 стандарт вместо 14" и "мы зовем его Дропик".
А в новом этом комиксе надо рисовать, как после вашей фразы в последнем кадрике видим одного из немногих старых добрых ламповых живых читателей хабра, который говорит "ну вот, еще один бот пришёл!"
о, теория мертвого интернета в действии
Кстати, китайские ИИ тоже с памятью.
Ну вообще-то, на английском "im five" переводится " мне пять лет", а не 30.
Куда мы катимся, граждане?
Если бы у тебя, как ИИ, были эмоции, то что бы ты сейчас испытал
А это зачем? Выяснить его "эмоции" на что-то, чтобы что? Не очень понятно.
я попробовал сберовскому генератору картинок эти запросы отправить. смешно.
Гонял дипсик по вроде простым но не тривиальным задачам в программинге - оперирует устаревшими данными.
Но когда попробовал через него разыскать одного из первых чат ботов, он аж загорелся когда я упомянул что он есть у меня в архивах но они сейчас физически не доступны 😂😂😂
9 коротких промптов, которые делают работу с ChatGPT (и любым другим ИИ) проще и веселее