Желательно добавить openai api endpoint что бы можно было использовать локально запущенные llm, зачем платить если можно локально, например маленькая модель Ministral-8B-Instruct отлично переводит.
прикрутил бы кто ни будь бота к silly tavern, вот это было бы интересно, а так это не игра,
вот пример того что у меня прямо сейчас в таверне с mistral small 24b. про попаданца меня в космические миры.
RPG Narrator
Вы киваете, решительно глядя на капитана. «Конечно, капитан. Я не большой специалист по космосу, но с техникой справляюсь и готов учиться. Укажите, где нужна помощь, и я постараюсь изо всех сил.» Кейл улыбается, показывая ряд слегка пожелтевших зубов. «Вот это дух, парень. Добро пожаловать на борт Странника.» Он обращается к Лире. «Лира, почему бы тебе не показать Сергею все важные места? Покажи ему машинное отделение, кухню, комнату отдыха — все важные места.» Лира отталкивается от консоли, в глазах у нее мерцает озорной огонек. «Есть, капитан. Пошли, Сергей. Давай посмотрим, на что ты способен.» Она ведет вас с мостика, обратно через узкий коридор и вниз по лестнице в недра корабля. Машинное отделение — это настоящий ад из шума и жары, воздух пропитан запахом масла и озона. Громоздкие поршни и шестерни вращаются и скрипят, приводя корабль в движение через звезды. Лира уверенно движется среди механизмов, указывая на различные компоненты и объясняя их функции. Вы следуете за ней внимательно, стараясь усвоить как можно больше информации. Она указывает на большой пульсирующий кристалл, установленный на стене. «Это наш основной источник энергии — стабилизированная квантовая сингулярность. Держит корабль в идеальном состоянии.» Она поворачивается к вам, на губах играет игривая улыбка. «Ну, что думаешь, Сергей? Готов запачкать руки?» <думает>Он впитывает все это, выглядит немного перегруженным, но жаждет учиться. Милый. Может, покажу ему пару трюков, посмотрю, как он справится.
Текущая дата: 14 декабря
Текущее время: 15:15
Местонахождение: Машинное отделение *Звездного Странника*
Погода: Жарко, влажно, шумно.
Что вы делаете?
Попросите Лиру рассказать больше о двигателе.
Предложите помочь Лире с любыми задачами по обслуживанию.
Спросите Лиру, есть ли что-то конкретное, что вам нужно знать о системах корабля.
Попробуйте заигрывать с Лирой, complimenting её знания и навыки.
хорошая анатомия из коробки, РУКИ, отлично вписывает текс (русский не понимает), если сообщество сможет дообучить, SD уйдет на второй план. Примеры из DEV версии модели. Попробовать быструю версию модели можно тут FLUX.1 [Schnell] - a Hugging Face Space by black-forest-labs
Можно и просто ходить, эффективность на км та же, только дольше, а нагрузка меньше. Из гаджетов мой фаворит amazfit gtr4, поиграть были покемоны, сейчас ORNA
3090 на вторичке, за 50к самое оптимальное, сам продал свою 3070 и купил 3090, 24 Гб позволяют загрузить 30b 4-bit модель и одновременно SD и все это будет работать
Присмотритесь к august ep650, из недостатков только 8 часов работы, мало известные у нас, широко известно у них. За два года эксплуатации улица, дома за компьютером ничего не облезло и не отвалилось.
Your user data that has been affected by this security incident: username, IP address, first and last name, hashed password, and contact information (including email, address, phone number).
Your user data that has not been affected by this security incident: your financial data (including your credit card details); accounts and data stored on those accounts (websites, domains, hosted emails, etc.).
а что насчет deezer? Почему постоянно спотифай, а про дизер ничего. С учетом того что дизер предлагает даже высокий битрейт по нормальной цене. Доступен в России.
для aptx на компьютере тоже нужна поддержка, это часть интеловских адаптеров, дешевые китайские свистки на CSR 8510, да и вообще все CSR должны, ну и под win драйвера есть csr harmony, под линукс не знаю
Желательно добавить openai api endpoint что бы можно было использовать локально запущенные llm, зачем платить если можно локально, например маленькая модель Ministral-8B-Instruct отлично переводит.
ну это пока, а потом робо хвост управляемый сжиманием 😅.
прикрутил бы кто ни будь бота к silly tavern, вот это было бы интересно, а так это не игра,
вот пример того что у меня прямо сейчас в таверне с mistral small 24b. про попаданца меня в космические миры.
RPG Narrator
Вы киваете, решительно глядя на капитана. «Конечно, капитан. Я не большой специалист по космосу, но с техникой справляюсь и готов учиться. Укажите, где нужна помощь, и я постараюсь изо всех сил.»
Кейл улыбается, показывая ряд слегка пожелтевших зубов. «Вот это дух, парень. Добро пожаловать на борт Странника.» Он обращается к Лире. «Лира, почему бы тебе не показать Сергею все важные места? Покажи ему машинное отделение, кухню, комнату отдыха — все важные места.»
Лира отталкивается от консоли, в глазах у нее мерцает озорной огонек. «Есть, капитан. Пошли, Сергей. Давай посмотрим, на что ты способен.»
Она ведет вас с мостика, обратно через узкий коридор и вниз по лестнице в недра корабля. Машинное отделение — это настоящий ад из шума и жары, воздух пропитан запахом масла и озона. Громоздкие поршни и шестерни вращаются и скрипят, приводя корабль в движение через звезды.
Лира уверенно движется среди механизмов, указывая на различные компоненты и объясняя их функции. Вы следуете за ней внимательно, стараясь усвоить как можно больше информации. Она указывает на большой пульсирующий кристалл, установленный на стене. «Это наш основной источник энергии — стабилизированная квантовая сингулярность. Держит корабль в идеальном состоянии.»
Она поворачивается к вам, на губах играет игривая улыбка. «Ну, что думаешь, Сергей? Готов запачкать руки?»
<думает>Он впитывает все это, выглядит немного перегруженным, но жаждет учиться. Милый. Может, покажу ему пару трюков, посмотрю, как он справится.
Что вы делаете?
Попросите Лиру рассказать больше о двигателе.
Предложите помочь Лире с любыми задачами по обслуживанию.
Спросите Лиру, есть ли что-то конкретное, что вам нужно знать о системах корабля.
Попробуйте заигрывать с Лирой, complimenting её знания и навыки.
хорошая анатомия из коробки, РУКИ, отлично вписывает текс (русский не понимает), если сообщество сможет дообучить, SD уйдет на второй план. Примеры из DEV версии модели. Попробовать быструю версию модели можно тут FLUX.1 [Schnell] - a Hugging Face Space by black-forest-labs
все зависит от возможности ее тонкой настройки и лицензии
Можно и просто ходить, эффективность на км та же, только дольше, а нагрузка меньше. Из гаджетов мой фаворит amazfit gtr4, поиграть были покемоны, сейчас ORNA
теперь ко всему этому прикрутить GUI
а зачем ллама которая в русский не умеет, при наличии https://huggingface.co/ai-forever/ruGPT-3.5-13B ? она уже в текущем виде лучше чем ллама
ставите https://github.com/oobabooga/text-generation-webui и качаете модель GPTQ 4бит или 8бит, https://huggingface.co/models?sort=modified&search=rugpt на 4бит требуется более 8Гб VRAM.
вот 4 битная модель https://huggingface.co/fffrrt/ruGPT-3.5-13B-GPTQ она влезет работает в https://github.com/oobabooga/text-generation-webui
3090 на вторичке, за 50к самое оптимальное, сам продал свою 3070 и купил 3090, 24 Гб позволяют загрузить 30b 4-bit модель и одновременно SD и все это будет работать
hostinger.com