Comments 8
Тут даже вода в статье отравлена.
ChatGPT - это глубокая нейронная сеть
Это предложение писал сам гыпытык и переводил яндекс переводчик?
OpenAI сделали удобный интерфейс общения с нейросетью, конечно до них тоже разрабатывали GPT модели, но именно они сделали удобный интерфейс общения с моделью в виде чата
Ну вообще то трансформеры в таком виде предложила именно компания openAI, а вот чаты делали и до них.
На счёт того что gpt-3.5-turbo плохо работает с русским вы точно наврали. Третий работал не очень хорошо, согласен, но 3.5 понимает его не хуже английского. И уж совершенно точно может без яндекс переводчика справиться.
Дальше у вас максимально нелепый пример кода как добавить авторизацию через телеграмм на страницу, но никаких примеров промптов и настроек. Судя по ответам вы передавали запрос от юзера без дополнительной обертки промпта, в таком случае вы по сути решили только проблему доступа. Хотя из примеров мне вообще показалось что они из самого чата, а не из API.
Про сервер было совсем смешно. Думаю можно было брать раз в 10 слабее. Вы же не на своём сервере саму модель гоняете ) я для первых экспериментов вообще брал бесплатный инстанс на repl на 0,5 оперативы и его за глаза хватало. Впрочем я делал без Laravel, но я понятия не имею зачем он вам тут был нужен. Как и redis.
Это предложение писал сам гыпытык и переводил яндекс переводчик?
На самом деле да, этот текст действительно писал сам chatgpt, но без яндекс переводчика.
Ну вообще то трансформеры в таком виде предложила именно компания openAI, а вот чаты делали и до них.
Про это написано. И главный смысл был во второй части предложения, которую вы не вставили в цитату. Главное, что появился удобный интерфейс для разработчиков.
OpenAI сделали удобный интерфейс общения с нейросетью, конечно до них тоже разрабатывали GPT модели, но именно они сделали удобный интерфейс общения с моделью в виде чата и дали возможность разработчикам создавать свои сервисы с помощью API.
На счёт того что gpt-3.5-turbo плохо работает с русским вы точно наврали. Третий работал не очень хорошо, согласен, но 3.5 понимает его не хуже английского. И уж совершенно точно может без яндекс переводчика справиться.
Про перевод имелось в ввиду то, английский перевод более качественный и детальный. Проводили сравнительный анализ и всегда побеждал английский.
Дальше у вас максимально нелепый пример кода как добавить авторизацию через телеграмм на страницу, но никаких примеров промптов и настроек.
Цель была в том, чтобы показать что использоваться телеграмм как интерфейс для вывода, но суть с кодом уловил, исправлюсь.
Про сервер было совсем смешно. Думаю можно было брать раз в 10 слабее. Вы же не на своём сервере саму модель гоняете ) я для первых экспериментов вообще брал бесплатный инстанс на repl на 0,5 оперативы и его за глаза хватало.
Тут вы правы, в пике нагрузка была 7гб, на данном этапе можно было оставить в два раза меньше.
Впрочем я делал без Laravel, но я понятия не имею зачем он вам тут был нужен. Как и redis.
Laravel удобный инструмент, если внутри необходимо работать с API разных сервисов.
Redis здесь выступает как брокер сообщений. В данном случае он отправляет стриминг chatGPT на фронт, потому что, генерация ответа без стриминга занимает до минуты, а так вы видите как слова появляются как на самом сайте chatGPT.
Redis здесь выступает как брокер сообщений. В данном случае он отправляет стриминг chatGPT на фронт, потому что, генерация ответа без стриминга занимает до минуты, а так вы видите как слова появляются как на самом сайте chatGPT.
Если ответ от АПИ занимает минуту, какие слова могут появляться, если ответа еще нет?
Инструкция как эксперту увеличить охваты в полтора раза при помощи Chat GPT и Telegram Web App