Любопытства ради: а какова производительность такого подхода? Скажем, 2 GPU в одной системе против 2х систем с 1 GPU? (все GPU одинаковые)
В моих (довольно скромных) экспериметнах бутылочным горлишком, например при inference llama3 q8 70b с помощью CPU был доступ к памяти - на практике выражалось в том, что увеличене потоков больше 2х не увеличивало производитекльность совершено. (Немного другой случай, но, имхо, показательный)
Так же lamma3 f16 8b на tesla p40 быстрее, чем на gtx 3060 Ti + tesla p40
Зависит от лаптопа. Если у вас есть 8gb vram - старые модели работать будут Вы можете запустить модель и в обычной RAM, но оно будет считать процессором в течении минуты-двух одну картинку
У каждой LLM есть свой собственный стиль речи. Из моих экспериметнов, Llama3 и Yi 1.5 Chat (Китайская нейросеть) говорят совершенно по разному, так как тренированны на разных датасетах, хотя архитектура одинаковая.
Кажется, что всё это, можно обойти с правильным system prompt, попросив LLM использовать (или избегать) определённый стиль. Просто люди ленивы и не заморачиваются, а ChatGPT - самая распространённая модель.
Ничем из Панели Управления на постоянной основе мы и во времена XP не пользовались. Это собственно и есть панель для настроек, которые или устанавливаются раз и на всегда, или используют когда возникают проблемы.
Впрочем да, новые "Параметры" я использую регулярно - раздел Bluetooth. Потому что Майкрософт не смог сделать нормальный виджет для системного трея.
Хах! Вы мне сейчсас моего учителя из универа напомнили: он говорил: что если в книге написанно "это тривиально доказать" или "оставляю как упражнение читателю" - автор сам не знает доказательства :D
Когда я занимался этой задачей (подключить в проект собираемый Bazel'ом обновлённую версию AppMetrica) - всё, что я смог найти в интернете: так это что никто ещё не разобрался как это сделать. Я в итоге я просто стал патчить исходники, чтобы существующие инструменты могли собрать их. (Яндекс, фу, изменять расшинения заголовочных файлов с .h на .def - плохая идея)
У меня была такая задача (как возможное решение существовавшей проблемы), и я не уверен, что я сделал все описанные тут шаги, но проблема с которой я столкнулся и не смог побороть - в фреймворк как раз таки не были включены ресурсы. Насколько я понимаю это решение так же не включит ресурсы? Пакет, который я пытался собрать - AppMetrica
Бонус баг: иногда форма создания спора при изменении размера окна просто исчезает, без изменения статуса бота. И сделать ничего нельзя, бот думает что я создаю спор, видимых кнопок отмены нет, формы отмены нет даже после перезагрузке страницы.
Вполне вероятно никак, в принципе. Генератор изображения тренируется вместе с детектором сгенерированных изображений. Задача детектора, определить, что изображение сгенерированно, задача генератора - обмануть детектор.
Ну вот кстати. Тут цена - не использованная возможность использовать тепловую помпу для обогрева (установить тот самый кондиционер штатно), он способен переместить больше энергии, чем потребит сам (в 3-4 раза).
Другой вопрос - что получается в сумме с доходом от майнинга, эту математику я не знаю
Лука не видел, но вот SD в равной степени генерировал бант на голове, бант на поясе, и один бант на голове и второй бант на поясе (да, 2 банта, ну а что, один точно выполнит запрос, а про то, что второго не должно быть - ничего не сказано)
Вообще на моём опыте - все ИИ ведут себя как "злые джины" - они выполнят ваш запрос, но в максимально возможной неправильной трактовке
Ещё вопрос в неоднозначности запросов, даже чисто с точки зрения естественного языка. Я обычно в качестве примера привожу "девушка в платье с бантом" ("a girl in dress with a bow"). Где должен быть бант?
Я экспериментировал только со Stable Diffusion, поэтому на скажу про другие сетки, но конкретно SD "не умеет писать". Он не умеет составлять слова и в лучшем случае он может знать как выглядит концепт (токен) "37".
Любопытства ради: а какова производительность такого подхода? Скажем, 2 GPU в одной системе против 2х систем с 1 GPU? (все GPU одинаковые)
В моих (довольно скромных) экспериметнах бутылочным горлишком, например при inference llama3 q8 70b с помощью CPU был доступ к памяти - на практике выражалось в том, что увеличене потоков больше 2х не увеличивало производитекльность совершено. (Немного другой случай, но, имхо, показательный)
Так же lamma3 f16 8b на tesla p40 быстрее, чем на gtx 3060 Ti + tesla p40
Зависит от лаптопа. Если у вас есть 8gb vram - старые модели работать будут
Вы можете запустить модель и в обычной RAM, но оно будет считать процессором в течении минуты-двух одну картинку
Зайдите на любой популярный сайт связанный с AI артом. У них, как и у всех виртуальный арт-галерей что я знаю "двойное дно"...
У каждой LLM есть свой собственный стиль речи.
Из моих экспериметнов, Llama3 и Yi 1.5 Chat (Китайская нейросеть) говорят совершенно по разному, так как тренированны на разных датасетах, хотя архитектура одинаковая.
Кажется, что всё это, можно обойти с правильным system prompt, попросив LLM использовать (или избегать) определённый стиль. Просто люди ленивы и не заморачиваются, а ChatGPT - самая распространённая модель.
Ничем из Панели Управления на постоянной основе мы и во времена XP не пользовались. Это собственно и есть панель для настроек, которые или устанавливаются раз и на всегда, или используют когда возникают проблемы.
Впрочем да, новые "Параметры" я использую регулярно - раздел Bluetooth. Потому что Майкрософт не смог сделать нормальный виджет для системного трея.
Компании США не могут состоять в юридических отношениях с подсанкционными организациями. Eula - юридические отношения.
Ну штош... Будем продолжать его не использовать.
Хах! Вы мне сейчсас моего учителя из универа напомнили: он говорил: что если в книге написанно "это тривиально доказать" или "оставляю как упражнение читателю" - автор сам не знает доказательства :D
Когда я занимался этой задачей (подключить в проект собираемый Bazel'ом обновлённую версию AppMetrica) - всё, что я смог найти в интернете: так это что никто ещё не разобрался как это сделать. Я в итоге я просто стал патчить исходники, чтобы существующие инструменты могли собрать их. (Яндекс, фу, изменять расшинения заголовочных файлов с .h на .def - плохая идея)
У меня была такая задача (как возможное решение существовавшей проблемы), и я не уверен, что я сделал все описанные тут шаги, но проблема с которой я столкнулся и не смог побороть - в фреймворк как раз таки не были включены ресурсы.
Насколько я понимаю это решение так же не включит ресурсы?
Пакет, который я пытался собрать - AppMetrica
Ну учитывая что его установили в 2022 в 0%... Тут скорее "халява кончилась". А каким этот налог был для it до 2022?
Не удивлён, тот же Windows так и не научился нормально e-core использовать. (скинуть 12 потоков 100% загрузки p-ядер на 4 e-core - как нефиг делать)
Эй, AliExpress Россия, а куда вам багрепорты отправлять?
У вас невозможно открыть спор потому что невозможно загрузить картинку
Запрос на http://aliexpress.ru/chat-api/v2/chats/attachment/upload возвращает ошибку 405
Бонус баг: иногда форма создания спора при изменении размера окна просто исчезает, без изменения статуса бота. И сделать ничего нельзя, бот думает что я создаю спор, видимых кнопок отмены нет, формы отмены нет даже после перезагрузке страницы.
Вполне вероятно никак, в принципе. Генератор изображения тренируется вместе с детектором сгенерированных изображений. Задача детектора, определить, что изображение сгенерированно, задача генератора - обмануть детектор.
Ну вот кстати. Тут цена - не использованная возможность использовать тепловую помпу для обогрева (установить тот самый кондиционер штатно), он способен переместить больше энергии, чем потребит сам (в 3-4 раза).
Другой вопрос - что получается в сумме с доходом от майнинга, эту математику я не знаю
Я сначала думал что картинка - это просто КДПВ к статье о бессмысленности и страданиях с VBA, но просмотр статьи по диагонали говорит, что это не так.
Тогда собственно вопрос: а что если сборка ровно 20 "штук"?
Знаете, я бы предпочёл смотреть доклад в тишине. Или уж если очень хочу - сам включу фоновую музыку которая подходит мне
Лука не видел, но вот SD в равной степени генерировал бант на голове, бант на поясе, и один бант на голове и второй бант на поясе (да, 2 банта, ну а что, один точно выполнит запрос, а про то, что второго не должно быть - ничего не сказано)
Вообще на моём опыте - все ИИ ведут себя как "злые джины" - они выполнят ваш запрос, но в максимально возможной неправильной трактовке
Надпись на кармане немного более похожа на то, что обычно получается :D
Что за сетка?
Ещё вопрос в неоднозначности запросов, даже чисто с точки зрения естественного языка.
Я обычно в качестве примера привожу "девушка в платье с бантом" ("a girl in dress with a bow"). Где должен быть бант?
Я экспериментировал только со Stable Diffusion, поэтому на скажу про другие сетки, но конкретно SD "не умеет писать". Он не умеет составлять слова и в лучшем случае он может знать как выглядит концепт (токен) "37".