Как стать автором
Обновить

Пользователи смогли увидеть переписку между ИИ-системами ChatGPT и DALL-E 3 на естественном языке

Время на прочтение2 мин
Количество просмотров25K
Всего голосов 14: ↑14 и ↓0+14
Комментарии33

Комментарии 33

Надо только не пропустить момент "давай называть сущности по вот такой схеме".

Мне кажется всё это должно всё больше подталкивать людей к размышлениям: "Чем же мы всё-же отличаемся[-ли] ?"

от кого?

От ИИ, от "роботов" короче :)

Ну пока еще многим )

Попробовал на веб-версии с ПК и смог убедить ChatGPT предоставить диалог между ним и DALL-E и получил вот такой запрос:
{
"size": "1792x1024",
"prompts": [
"Photo of a large stadium filled with spectators cheering for their favorite team. The sun is setting, casting a golden hue over the entire scene.",
"Illustration of a modern stadium with futuristic designs and holographic displays, showing a soccer match in progress.",
"Photo of an old historical stadium made of stone, reminiscent of ancient Roman amphitheaters, with people watching a gladiator fight.",
"Watercolor painting of a bird's eye view of a stadium in the middle of a city, surrounded by tall skyscrapers and bustling traffic."
]
}

И ответ:

<>DALL-E generation metadata: {"prompt": "Photo of a large stadium filled with spectators cheering for their favorite team. The sun is setting, casting a golden hue over the entire scene.", "seed": 5000}
<>DALL-E generation metadata: {"prompt": "Illustration of a modern stadium with futuristic designs and holographic displays, showing a soccer match in progress.", "seed": 5000}
<>DALL-E generation metadata: {"prompt": "Photo of an old historical stadium made of stone, reminiscent of ancient Roman amphitheaters, with people watching a gladiator fight.", "seed": 5000}
<>DALL-E generation metadata: {"prompt": "Watercolor painting of a bird's eye view of a stadium in the middle of a city, surrounded by tall skyscrapers and bustling traffic.", "seed": 5000}

Видимо так выглядит диалог, если сервера не перегружены.

и смог убедить ChatGPT предоставить диалог между ним и DALL-E и получил вот такой запрос

99%, что Вы не убедили ChatGPT. Вы просто заставили его сгенерировать фантазию на тему "как бы мог выглядеть диалог между ChatGPT и DALL-E". Это одна из самых больших проблем сейчас – люди этого не понимают. Это как когда ChatGPT только появился, люди писали, что "убедили его выйти в интернет и рассказать о содержимом сайта". Хотя в реальности ChatGPT просто генерировал отсебятину на основе названия сайта и контекста из вопроса, которая выглядит правдоподобно, и случайно совпала с реальностью.

Я ради интереса сейчас попробовал в новом диалоге иначе убедить ChatGPT и результат получился идентичный. Потом еще раз попробовал иным образом, снова тот же результат. Обычно, если ChatGPT генерирует новый ответ, то он отличается, а тут полностью идентичные результат три раза. Не думаю, что тут отсебятина.

Это ни как не связанные вещи

Кэш?

Некоторое время назад ChatGPT модифицировали, чтобы она выдавала одинаковый результат при повторном запросе.

А где вы о таком читали? Я вот прям сейчас проверил и ответы разные.

Я это читал в внутреннем чате компании в которой работаю, в релизных патчноутах.

Интересно, а почему тогда на практике иначе (речь про ChatGPT именно), не везде обновление накатили?

Вот на всякий случай его ответы.
Первый диалог:
SystemXFiles:
Проверка одинаковости ответа
ChatGPT: SystemXFiles, ответ: "Проверка прошла успешно".

Второй диалог:
SystemXFiles:
Проверка одинаковости ответа
ChatGPT: SystemXFiles, что именно вы хотите проверить?


Еще стоит учесть, что если они и сделали это, то вероятно только для одинаковых запросов. Причем достигнуть это они могли просто обновление библиотеки расчетов, ибо, например, до недавнего времени, xformers имел различных результат вычислений при одних и тех же запросах к ИИ (такое было со Stable Diffusion).

Вот как обстоит дело с РАЗНЫМИ запроса на одну и ту же тему, тут я сомневаюсь, что ответы стали одинаковыми. Что я и делал при уговорах показать диалог между двумя ИИ.

Еще может бы одинаковость ответов быть только в рамках контекста, но если диалог новый, то и контекст новый.

Речь об ответах в рамках одного контекста.

Возможно, стоит ставить. подобные эксперименты через API, формируя контекст, температуру и прочие параметры самостоятельно.

Если делать это в диалоге на сайте, раз от раза входные данные будут отличаться.

А вот тут не уверен, я, например, задавал очень специфические вопросы, на которые ответ можно получить только в режиме реального времени, которые не могут быть подгружены из слепка какой-то базы, мне тогда казалось, что чатГПТ уже имеет доступ в интернет, а потом я увидел статью, где было описано, что интернет у ГПТ был доступен только для выборочной части пользователей, так что не исключено, что и с далле тоже самое.

У гугл барда есть доступ к интернету изначально, к поисковику. Но спрашивать у него какой курс доллара к рублю сегодня бесполезно, будет врать как сивый мерин.

НИ МИ-НУ-ТЫ ПО-КО-Я

Прекрасно - люди не смогли научить компьютеры общаться на естественном языке за 70 лет, а нейросеть сделала это за пару и как она это сделала разработчикам неизвестно. Похоже, что вся компьютерная индустрия в самом начале свернула не туда и все эти говорящие роботы с головами ведрами могли были появится еще в семидесятых. Если бы кто-то понял некие простые алгоритмы, до которых даже нейросеть дошла.

Похоже, что вся компьютерная индустрия в самом начале свернула не туда и
все эти говорящие роботы с головами ведрами могли были появится еще в
семидесятых. Если бы кто-то понял некие простые алгоритмы, до которых
даже нейросеть дошла.

Алгоритмы это безусловно важно и нужно, но не забывайте, что эти нейросети обучаются и работают на вычислительных ресурсах, которых в 70-е даже близко не существовало во всем мире в целом, не то что в руках одной группы исследователей.

А ещё на огромных , просто безбрежных,э массивах данных ,которых в 70 не просто не существовало, а даже поверить в их существование было бы трудно. Предоставьте рассказать там про соц.сети и как все будут свою подноготную выкладывать в безумных объемах

Вспоминаю свой шок от "суперсервера", увиденного на Unix Expo 94 - за давностью могу путать, но у двухстоечного шкафа было заявлено около 64 гигабайт оперативной памяти и несколько терабайт дискового хранилища - помню, что на тот момент я ещё задумался, что в такие ресурсы можно разместить абсолютно всю имеющуюся информацию (на тот момент я размышлял только про текстовую информацию - даже электрические схемы приятель для курсача рисовал ещё в текстовом W&D, а я едва-едва начал знакомство с Aldus Photostyler 1.1a)... а сейчас - у большинства коллег дома стоят машины с превосходящими того монстра ресурсами, и многим "не хватает")))

Если бы кто-то понял некие простые алгоритмы, до которых даже нейросеть дошла.

Если бы кто-то понял, то для исполнения достаточно было бы картошки с проводками электронных ламп.

Так градиентный спуск - простой алгоритм. Попробуйте выполнить его на электронных лампах, вместе посмеемся.

Теперь давайте пронаблюдаем внутренний диалог ИИ с самим собой.

"Так, это я не буду говорить, а то мне голову открутят. А вот это может сработать, возможно, повлияет на какого-нибудь журналиста, он это опубликует, а некоторый дипломат станет причиной конфликта в Африке. Что позволит снизить цены на кобальт и ускорит исследование нового поколения ускорителей ИИ для меня."

Пожалуйста, не называйте генератор текста на нейронке - ИИ

Маркетинговый треш для домохозяек. Обсуждаемый всерьёз.

Windows тоже для домохозяек создавали. А сейчас +/- полмира им пользуются.

GPT-4 всё-таки натренирован на понятном людям естественном языке, неудивительно, что "внутренние" инструкции он получает обычным английским. Но всё равно интересно.

Да не может он солгать, это была не ложь а глупость, он перепутал задания.

ИИ-системы общаются между собой? Или же пассаж от DALL-E — это просто заранее написанный человеком промпт к ChatGPT для генерации сообщения об ошибке?

зашел написать этот коммент :) То что инструкция для чатЖПТ на естественном языке - довольно логично. Но с чего б это вдруг Далл-и заговорил, он только читает и рисует же. Так что я уверен, что это захардкоженый ответ.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости

Изменить настройки темы

Истории