Как стать автором
Обновить

Комментарии 8

НЛО прилетело и опубликовало эту надпись здесь

Прошу прощения, моя ошибка. Изначально стояла задача рассказать о кейсе применения нейросети в проекте. В следующий раз добавлю больше кода.

Тут даже вода в статье отравлена.

ChatGPT - это глубокая нейронная сеть

Это предложение писал сам гыпытык и переводил яндекс переводчик?

OpenAI сделали удобный интерфейс общения с нейросетью, конечно до них тоже разрабатывали GPT модели, но именно они сделали удобный интерфейс общения с моделью в виде чата

Ну вообще то трансформеры в таком виде предложила именно компания openAI, а вот чаты делали и до них.

На счёт того что gpt-3.5-turbo плохо работает с русским вы точно наврали. Третий работал не очень хорошо, согласен, но 3.5 понимает его не хуже английского. И уж совершенно точно может без яндекс переводчика справиться.

Дальше у вас максимально нелепый пример кода как добавить авторизацию через телеграмм на страницу, но никаких примеров промптов и настроек. Судя по ответам вы передавали запрос от юзера без дополнительной обертки промпта, в таком случае вы по сути решили только проблему доступа. Хотя из примеров мне вообще показалось что они из самого чата, а не из API.

Про сервер было совсем смешно. Думаю можно было брать раз в 10 слабее. Вы же не на своём сервере саму модель гоняете ) я для первых экспериментов вообще брал бесплатный инстанс на repl на 0,5 оперативы и его за глаза хватало. Впрочем я делал без Laravel, но я понятия не имею зачем он вам тут был нужен. Как и redis.

Это предложение писал сам гыпытык и переводил яндекс переводчик?

На самом деле да, этот текст действительно писал сам chatgpt, но без яндекс переводчика.

Ну вообще то трансформеры в таком виде предложила именно компания openAI, а вот чаты делали и до них.

Про это написано. И главный смысл был во второй части предложения, которую вы не вставили в цитату. Главное, что появился удобный интерфейс для разработчиков.

OpenAI сделали удобный интерфейс общения с нейросетью, конечно до них тоже разрабатывали GPT модели, но именно они сделали удобный интерфейс общения с моделью в виде чата и дали возможность разработчикам создавать свои сервисы с помощью API.

На счёт того что gpt-3.5-turbo плохо работает с русским вы точно наврали. Третий работал не очень хорошо, согласен, но 3.5 понимает его не хуже английского. И уж совершенно точно может без яндекс переводчика справиться.

Про перевод имелось в ввиду то, английский перевод более качественный и детальный. Проводили сравнительный анализ и всегда побеждал английский.

Дальше у вас максимально нелепый пример кода как добавить авторизацию через телеграмм на страницу, но никаких примеров промптов и настроек.

Цель была в том, чтобы показать что использоваться телеграмм как интерфейс для вывода, но суть с кодом уловил, исправлюсь.

Про сервер было совсем смешно. Думаю можно было брать раз в 10 слабее. Вы же не на своём сервере саму модель гоняете ) я для первых экспериментов вообще брал бесплатный инстанс на repl на 0,5 оперативы и его за глаза хватало. 

Тут вы правы, в пике нагрузка была 7гб, на данном этапе можно было оставить в два раза меньше.

Впрочем я делал без Laravel, но я понятия не имею зачем он вам тут был нужен. Как и redis.

Laravel удобный инструмент, если внутри необходимо работать с API разных сервисов.

Redis здесь выступает как брокер сообщений. В данном случае он отправляет стриминг chatGPT на фронт, потому что, генерация ответа без стриминга занимает до минуты, а так вы видите как слова появляются как на самом сайте chatGPT.

Redis здесь выступает как брокер сообщений. В данном случае он отправляет стриминг chatGPT на фронт, потому что, генерация ответа без стриминга занимает до минуты, а так вы видите как слова появляются как на самом сайте chatGPT.

Если ответ от АПИ занимает минуту, какие слова могут появляться, если ответа еще нет?

Приходит ответ по буквам, которые затем собираются в слова, слова в предложения.

Как в Rest API ответ приходит по буквам?

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации