Comments 40
Включаем впн, идем на bing.com. Общаемся с бесплатным gpt4 от микрософта.
там вроде 4 запроса в день только?
Mrs. Dawson, just tell me...
Так а что, есть какие-то модели в которых всякая эротика не запрещена? А то развели тут 30е годы.
По упомянутому https://github.com/mckaywrigley/chatbot-ui куча вопросиков - https://github.com/mckaywrigley/chatbot-ui/issues?q=is%3Aissue+is%3Aopen+leak. Вероятно все по большей части ошибки пользователей, но все же. Было бы здорово добавить эту ссылку в саму статью, чтобы люди могли увидеть/почитать тикеты и сделать информированное решение.
Также проект очевидно заброшен, авторы пилят коммерческую версию.
Из живых альтернатив более или менее развитых нашел https://github.com/Yidadaa/ChatGPT-Next-Web. Оно конечно китайское, но в целом выглядит лучше (с точки зрения активной поддержки, и отсутствия репортов об утекших ключах). Так же как и у chatbot-ui, у этой штуки нет персистанса и она не пишет логи. Хранит все в localstorage браузера.
Из очевидных плюсов - прямая возможность влиять на промпт. Можно, например, перевести его на русский для получения более качественных ответов на русском языке.
К аудитории - подумайте о ценности подобных решений в рамках не личного использования, а при использовании внутри компании например. ChatGPT логгирует данные и использует их для последующей тренировки что теоретически может привести к утечкам. Никакой вменяемый безопасник в большой компании не разрешит использовать ChatGPT для рабочих нужд. А с такой вот штукой можно поднять внутренний изолированный инстанс для своих сотрудников и с определенной долей уверенности (возможно после некоторого аудита) считать что данные в безопасности (у openai возможен опт-аут от логгирования в АПИ).
В идеале, конечно, и модель свою поднимать и на своих данных ее тюнить, но это под силу не каждому IT департаменту. А такой вот UI поднять и немножко бюджета на OpenAI API получить - совсем не сложно;
5 запросов за сеанс. И то он очень урезанный. На половину запросов выдаёт, что ответ может нарушать их политику.
Яндекс в этом плане получше. Но, намного тупее.
Лучше всего брать какой ни будь свеже-обученный форк лламы (а делают их сейчас чуть ли не каждый день) и интерфейс типа kobold - И разворачивать всё это дело локально/в своей сети.
Настолько же на доверии насколько у других. Они работают в понятной юрисдикции и заявляют всевозможные сертификации вроде SOC2 и GDPR. Если они что-то пишут когда говорят что не пишут - у них могут быть очень большие проблемы. Но в идеале, конечно, локальная модель.
Я оставлю вам ссылочку, а что с этим делать дальше, разберетесь сами ;)
Ждем, когда переизобретут Кроватку с участием робота
openai пишет что не использует для обучения ваши данные, пишет что ваши данные это ваши данные
за обучение на ваших данных openai хочет отдельных денег Ж)
А почему среди имен ни одного женского?)
Наивный, как минимум они используют сами запросы как старт для алгоритмов RLHF (сам список человеческих запросов уже информация) плюс информация о том, как человек продолжил общаться с сеткой и реакции на кнопку - плохой/хороший ответ.
использовать то что ты пишешь где то кроме твоего диалога как минимум опасно, если всплывет где-нибудь засудят насмерть
ChatGPT
When you use our non-API consumer services ChatGPT or DALL-E, we may use the data you provide us to improve our models. You can switch off training in ChatGPT settings (under Data Controls) to turn off training for any conversations created while training is disabled or you can submit this form. Once you opt out, new conversations will not be used to train our models.
По умолчанию включено.
Для api обещают что информацию не собирают. Но есть момент, дело в том что компания уже собрала необходимую информацию, и теперь с барского плеча могут позволить себе не собирать. Другие компании, догоняющие, могут пока не иметь такой возможности.
Openai api не использует, chatgpt использует, это разные продукты. Я в общем так и написал ведь.
Crushon.ai под такое подходит
в бинге? там целый день трещать можно
а кроме бинга есть еще бард и клауд. у них свои фишки, бард гуглит получше чем бинг и отвечает намного быстрее. клауд может с файлами работать, с текстами
Ух ты! Первая статья на Хабре и сразу такой охват! Спасибо всем, кто прочитал, и двойное спасибо за комментарии.
Я не являюсь представителем ProxyAPI, но сотрудничаю с ними. Так что всю конструктивную критику соберу и передам ребятам.
Нахватал минусов за "кликбейтный заголовок", но, честно говоря, я не ожидал такого результата. Обещаю исправиться! Интересно, можно ли из такого количества минусов выбраться или проще завести новый аккаунт? :)
Сам удивился) Хваленая борьба с сексизмом в ответах модели, видимо, пока не дает результатов)
После такой прекрасной статьи не могу не упомянуть свой проект такого же типа https://vsegpt.ru/
тоже доступ к ChatGPT, GPT-4, OpenAI API
...а еще к Claude, Google Palm, Llama 2 через тот же интерфейс )
...есть тестовый период
...и чат развернут прямо на сайте, не надо его запускать локально (но если кому хочется, то почему бы и нет :)))
Друг, лендинг бы нормальный вам, а то выглядит старо и отталкивающе. А вообще норм проект, если понадобится gpt-4, то к вам пойду.
Для человека, который ищет доступ в GPT по API, интерфейс сайта соответствует поставленной задаче. Самая важная информация на странице верхнего уровня. Топ меню позволяет быстро перемещаться между разделами на сайте. Не могу избавиться от ощущения, что современные, как вы говорите, метро интерфейсы выглядят дешево и безвкусно. А зачастую и не функционально, когда тратишь лишнее время чтобы найти требуемую информацию.
На https://proxyapi.ru/ никаких контактов нет только форма обратной связи куда то.
На сайте https://vsegpt.ru/ вменяемая контактная информация...
Как у вас с политикой конфиденциальности данных и со сбором логов сессий вами и/или конечными процессорами данных?
На сайте, на первой странице есть, но повторюсь:
Мы НЕ храним ваши запросы* - только статистические данные об использовании для биллинга (число символов)
\* Также наш провайдер доступа говорит, что он не собирает данные. Также возможно попадание некоторых данных в логи в процессе отладки.
Если брать чат-решение, которое мы используем, то оно тоже всё хранит на клиенте в localStorage.
на VC статью сделайте пользователей будет...
Отличный сервис. То что я давно искал. Есть доступ к разным реализациям, а не только к ChatGPT. Это здорово. А то часто читаешь про то как выходят новые нейросети и хочется их попробовать, но совершенно нет времени на изучение того, как их самостоятельно развернуть. Надеюсь вы будете добавлять в свой список нейросетей лучшие из вновь появившихся.
С оплатой некоторые заморочки.
1. На пробный период дается уж очень маленькая сумма - 10 рублей. Я взял пробный период, ввёл запрос средней длины на английском и чат мне написал, что это запрос выходит за рамки бюджета. Я не смог в рамках пробного периода задать даже один вопрос. Или ограничьте список моделей в пробном периоде самыми дешевыми или добавьте денег. Если боитесь спамеров, которые будут регистрироваться ради пробного периода - можно добавить какую нибудь добавочную верификацию типа капчи или реального номера телефона.
2. При пополнении баланса не указывается, что деньги списываются как на абонентскую плату, так и на сами запросы и сверх абонентской платы нужно ещё добавлять сумму на запросы. Это не очевидно, по крайней мере когда находишься на странице оплаты. Было бы неплохо добавить напоминание об этом. А то я увидел, что для перехода на платный тариф нужны деньги, я их заплатил, перешел на платный тариф, а в ответ мне пишут, что у меня денег не хватает. Пришлось платить второй раз.
3. Платежный сервис неудобный - нужно вбивать номер карты руками. Вроде давно уже все привыкли платить через QR-коды, а тут приходится лезть в кошелек, чтобы достать карточку и ввести вручную её номер, как в прежние времена.
Спасибо, содержательные замечания. 2 точно сделаем, 3 - у провайдера есть QR-коды, но я их отключил, они были неудобные, а теперь вот оно как получается. Наверное, попробую включить обратно.
Насчет сеток - да, новые будут :) скоро будет gpt-3.5-turbo-instruct, и кое-что из опенсорса.
Не понял по пункту 2
То есть 200 р платить в месяц. Но еще за запросы платить? это ж наверно можно вообще в дикие растраты уйти неожиданно
И это при том что все эти чат боты работают бесплатно на своих сайтах. gpt4 доступен на сайте bing.com а через неделю должно выйти обновление для венды которое сделает его встроенным в каждую венду (ну кроме тех кто в кндр и рф)
Бесплатного лимита нет, в общем-то, ни у кого. У Майкрософта официальный прайс на GPT-4 вот, если давать туда большие тексты, и так вылететь в трубу можно. Они тоже списываются со счета OpenAI, там безлимита нет.
Поэтому да, тариф за генерацию. Сам решаешь, что тебе важнее - какая модель, какой объем.
Было бы здорово, если бы вы подключили более удобную платежку (например с СБП). Попытался оплатить, но требуется номер карты, а возиться с виртуальными особо желания и времени нет.
Серьезно? Вобще я ждал от статьи как развернуть как минимум какую нибудь ламу или еще чего. А тут просто как прокси использовать - гениально ничего не скажешь.
Как по мне вам нужно заголовок изменить.
Включаем впн, идем на bing.com. Общаемся с бесплатным gpt4 от микрософта.
там вроде 4 запроса в день только?
5 запросов за сеанс. И то он очень урезанный. На половину запросов выдаёт, что ответ может нарушать их политику.
Яндекс в этом плане получше. Но, намного тупее.
Лучше всего брать какой ни будь свеже-обученный форк лламы (а делают их сейчас чуть ли не каждый день) и интерфейс типа kobold - И разворачивать всё это дело локально/в своей сети.
в бинге? там целый день трещать можно
а кроме бинга есть еще бард и клауд. у них свои фишки, бард гуглит получше чем бинг и отвечает намного быстрее. клауд может с файлами работать, с текстами
Mrs. Dawson, just tell me...
Так а что, есть какие-то модели в которых всякая эротика не запрещена? А то развели тут 30е годы.
Я оставлю вам ссылочку, а что с этим делать дальше, разберетесь сами ;)
Ждем, когда переизобретут Кроватку с участием робота
Если использовать через API, и хорошо написать контекст, а так-же убедительно описать зачем тебе надо обработать этот трешак про извращения, и прочую чернь, то OpenAi GPT-4 очень даже охотно работает с этим.
По упомянутому https://github.com/mckaywrigley/chatbot-ui куча вопросиков - https://github.com/mckaywrigley/chatbot-ui/issues?q=is%3Aissue+is%3Aopen+leak. Вероятно все по большей части ошибки пользователей, но все же. Было бы здорово добавить эту ссылку в саму статью, чтобы люди могли увидеть/почитать тикеты и сделать информированное решение.
Также проект очевидно заброшен, авторы пилят коммерческую версию.
Из живых альтернатив более или менее развитых нашел https://github.com/Yidadaa/ChatGPT-Next-Web. Оно конечно китайское, но в целом выглядит лучше (с точки зрения активной поддержки, и отсутствия репортов об утекших ключах). Так же как и у chatbot-ui, у этой штуки нет персистанса и она не пишет логи. Хранит все в localstorage браузера.
Из очевидных плюсов - прямая возможность влиять на промпт. Можно, например, перевести его на русский для получения более качественных ответов на русском языке.
К аудитории - подумайте о ценности подобных решений в рамках не личного использования, а при использовании внутри компании например. ChatGPT логгирует данные и использует их для последующей тренировки что теоретически может привести к утечкам. Никакой вменяемый безопасник в большой компании не разрешит использовать ChatGPT для рабочих нужд. А с такой вот штукой можно поднять внутренний изолированный инстанс для своих сотрудников и с определенной долей уверенности (возможно после некоторого аудита) считать что данные в безопасности (у openai возможен опт-аут от логгирования в АПИ).
В идеале, конечно, и модель свою поднимать и на своих данных ее тюнить, но это под силу не каждому IT департаменту. А такой вот UI поднять и немножко бюджета на OpenAI API получить - совсем не сложно;
у openai возможен опт-аут от логгирования в АПИ
К сожалению, это тоже на доверии + официальный договор вы вряд ли на эту тему получите.
На самом деле адекватный вариант - внутренний чат интерфейс (подобно упомянутому вами) + развернутая локальная модель по OpenAI интерфейсу, и всё во внутреннем контуре, без всяких утечек (сам такие системы делаю) Тюнинг имхо не очень обязателен, хотя зависит от задачи, да.
openai пишет что не использует для обучения ваши данные, пишет что ваши данные это ваши данные
за обучение на ваших данных openai хочет отдельных денег Ж)
Наивный, как минимум они используют сами запросы как старт для алгоритмов RLHF (сам список человеческих запросов уже информация) плюс информация о том, как человек продолжил общаться с сеткой и реакции на кнопку - плохой/хороший ответ.
использовать то что ты пишешь где то кроме твоего диалога как минимум опасно, если всплывет где-нибудь засудят насмерть
ChatGPT
When you use our non-API consumer services ChatGPT or DALL-E, we may use the data you provide us to improve our models. You can switch off training in ChatGPT settings (under Data Controls) to turn off training for any conversations created while training is disabled or you can submit this form. Once you opt out, new conversations will not be used to train our models.
По умолчанию включено.
Для api обещают что информацию не собирают. Но есть момент, дело в том что компания уже собрала необходимую информацию, и теперь с барского плеча могут позволить себе не собирать. Другие компании, догоняющие, могут пока не иметь такой возможности.
Openai api не использует, chatgpt использует, это разные продукты. Я в общем так и написал ведь.
А почему среди имен ни одного женского?)
Ух ты! Первая статья на Хабре и сразу такой охват! Спасибо всем, кто прочитал, и двойное спасибо за комментарии.
Я не являюсь представителем ProxyAPI, но сотрудничаю с ними. Так что всю конструктивную критику соберу и передам ребятам.
Нахватал минусов за "кликбейтный заголовок", но, честно говоря, я не ожидал такого результата. Обещаю исправиться! Интересно, можно ли из такого количества минусов выбраться или проще завести новый аккаунт? :)
Как развернуть свой собственный ChatGPT, только лучше