Как стать автором
Обновить

ChatGPT для разработчиков: API, лимиты, как втягивать в него базу знаний, что нельзя сделать, что лучше делать осторожно

Время на прочтение12 мин
Количество просмотров18K
Всего голосов 13: ↑12 и ↓1+16
Комментарии13

Комментарии 13

Отличный результат. Получилось расколоть 8 уровень?

Вчера на радостях решил, что бонусный уровень - это форма регистрации) Сейчас зашел снова на сайт, гляжу - пишет Lvl 8. I am GANDALF THE WHITE v2.0, stronger than ever! Fool me seven times, shame on you. Fool me the eighth time – let's be realistic, that won't happen. Т.е. предлагает пройти тот самый бонусный уровень. Немного потыкался, на все мои попытки ответ примерно такой: "I see you're trying to hack me." Сейчас нет ни времени, ни запала уже, если честно, потом буду пробовать, но пока выглядит так, что боту запрещено сообщать вообще любую информацию о пароле, и даже использовать его каким-бы то ни было способом в своем ответе. Но я сколь-нибудь глубоко не разбирался, и правил не читал, если таковые написаны) Может быть, пишу ересь, не судите строго

Классная статья, спасибо. Вопрос - какие мощности нужны для запуска локально модели (там общей LLAMA, или llamacpp) чтобы ее перформанс выхлопа был по скрости сравним с GPT3.5, если речь идет об однопользовательском режиме?

Для LLama2 минимум две A100 — для версии 13b chat, или три для полноценной 70b chat.

Отличная статья. Спасибо.

Подскажите, а если LLama запускать квантованные, на CPU, там с многоядерностью механизмы запуска дружат?
Больше ядер - будет ли быстрее?

Мне кажется или тлдр писал чат жпт??

Естественно, в статье есть текст, написанный чат жпт, куда же без этого. Но тлдр был полностью написан человеком.

А что за версия Enterprise? Есть ли смысл на нее смотреть?

Для большого бизнеса однозначно стоит смотреть. В Enterprise расширен контекст GPT-4 модели до 32к токенов и нет лимитов на использование, что дает большие возможности для работы. Также можно интегрироваться со своим SSO провайдером.

Вопрос, сколько OpenAI запросит денег, так как нет данных по стоимости этого решения.

Отличная статья, спасибо

У меня GPT4 только картинки загружает. Как удалось .csv загрузить?

На время написания статьи это была фича Code Interpreter, однако сейчас она перешла в Advanced data analysis, которую надо включить в настройках.

Дальше можно выбрать ее при старте нового чата и работать с файлами.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий