Хакнуть ChatGPT. Учимся делать правильные запросы для использования в маркетинге

[khash_math]

Попросил написать функцию, находящую сумму четных цифр числа - получил прекрасный ответ (на Питоне).
То же самое, но найти сумму квадратов цифр - получил полную пургу. Уточните на каком языке, какой параметр. После уточнений он попытался сменить тему.
Я понимаю, что это первые попытки ИИ, но уж очень похоже на поведение двоечника.
В любом случае - очень интересно!

[Darkhon]

...а если на самом деле хочется "хакнуть" ChatGPT — рабочий Jailbreak prompt для GPT-4 здесь.

[khash_math]

Попросил написать функцию, находящую сумму четных цифр числа - получил прекрасный ответ (на Питоне).
То же самое, но найти сумму квадратов цифр - получил полную пургу. Уточните на каком языке, какой параметр. После уточнений он попытался сменить тему.
Я понимаю, что это первые попытки ИИ, но уж очень похоже на поведение двоечника.
В любом случае - очень интересно!

[kuznetsovatext]

Да, пока уровень ИИ такой, что даже по простым запросам лучше его перепроверять, особенно, что касается рабочих моментов. Помощник, но с подвохом получается)

[vassabi]

для себя я его использую для называния функций и составления списка случайных предметов.
Для чего-то более-менее интересного - у него оказался очень маленький размер контекста (нейронка быстро забывает - с чего она начинала и увы - начинает сочинять отсебятину, как двоечник который пришел на экзамен биологии, в процессе ответа рассказал про химию и про географию и уже забыл на что отвечал ...)

[kuznetsovatext]

Очень меткое сравнение с двоечником! )

[ksr123]

Он мне не смог описать выхухоль. Раза четыре давал разные и неверные ответы. На запросы о многих рецептах пишет, мол, убивать животных неэтично и много где запрещено.

[kuznetsovatext]

Интересный опыт. Не общалась с ним на тему еды)

[ksr123]

Попробуйте :) И вообще попробуйте проверять его ответы. Постоянно чушь выдаёт. Описал мне острова Щекочихина-Крестовоздвиженского, правда, в колонию мамонтов на них, о которой я рассказал, он то верил, то не верил. Сказал, что есть место, где встречаются и пингвины, и белые медведи на вопрос о том, почему вторые не едят первых. И т. п.

[kuznetsovatext]

Интересные дискуссии у вас с GPT! )

[ksr123]

Да, и самое главное! Он только раза с десятого дал мне рецепт жареного дятла. По-моему, я уговорил его ответить без соблюдения морально-этических норм. Однако рецепты курицы он давал. Чем дятел лучше курицы - не ответил.

[kuznetsovatext]

Объяснить, чем дятел лучше курицы действительно трудная задача)))

[ksr123]

Речь шла именно о еде :) Но, по его словам, дятлов есть нельзя, а кур - можно. Хотя и то, и то - пернатая еда :) И куры, кстати, красивее намного.