Чаще так - grep не быстрее настроить, чем описать обучающую выборку для сниппетов в редакторе кода! С другой стороны - какая-нибудь толстая gemma обеспечит инструментом разработчика сразу и можно сосредоточиться на чём-то.. с большей степенью эффекта в итоге :)
Пусть будет тайна.. поисковый ИИ Гугла в восторге и говорит, что вы качок))
Нейминг можно считать самобытным до тех пор пока не ясно как им пользоваться) мне вот не ясно покачто хватит ли тому что воспроизводит сложную когнитивную функцию 4 названия: last4, strided, late, spread.
Предметные вопросы задавать не буду. Привлечением внимания человеческой аудитории вы тут не на соточку позанимались :)
Таким образом - он может точно больмень подсказать один из 300-т сниппетов в редакторе кода, но при условии что я его сам учил со своим набором сниппетов?? Это задача толстого эмбеддера! А этот, то есть, руль прямо поддержит в рамках системы стабилизации? С кнопки сигнал слишком сложной формы - а он подебаунсит?
Подбор ("весов", похоже) перебором, без математических этюдов - такой ход, когда скорость обучения стоит не на первом месте: в таком случае или не достижима какая-то определенная степень исполнительности llm; или маленькая и быстрая модель всё-таки получится - но исключительно с тщательной подготовкой обучающей выборки. Я такую работу никак не осмелюсь в одиночку проводить :)
впрочем, сложный инференс если строить между группами слоев: внимательно изучать где требуются такие компромиссы, а где к ощутимой прибавке производительности не приводят - мне-то только предстоит.
Вывод: взяли бы какой-нибудь шустрый HOLO, да посмотрели какие постандартизированные типы слоев там были использованы. На runtime-базе llama.cpp (с годным набором стандартов слоев от ggml) все равно отсутствуют какие-либо сложные типы инференсов (эт взаимодействие групп слоев между собой).
Если вы вспоминаете raspberry pi 3b таким образом, то у меня она сгорела как только ей дали питание побольше и никогда не справлялась даже с python скриптами (они же тяжёлые такие).
Кажется это называется "изврат ценообразования", когда ценник ориентируется на средний кошелёк вместо приложенных затрат. А так - вполне возможно что индустрия в полной мере своих затрат оценить не может и делает так демократично, так и быть - без извращений:)
Мой кошелёк тоже что-то заметил и стесняется ещё один стилус попробовать..
Написали бы конфигурацию компа в котором чипы горели у вас..
dell живее всех живых у меня, не то что msi тот и другой :) без этого статье высокий ценник не повесить и тяжкий вздох "за кого нынче хабрачанинов принимают" аутлайном..
У нас добавили инфы для кругозора в этом направлении, самостоятельно. И не вижу что кто-то считает количество студентов по направлениям специальностей - чем-то системообразующим..
С такой обработкой вряд-ли можно встретить какую-то одну модель. Там их целая конференция, где какая-то модель занимается шагами рабочего процесса, другая пишет код вооружившись каким-либо путем отфильтрованной обучающей базе данных, третья занимается контролем и соблюдением норм, в то время как четвертая может ещё визуальной компоновкой позаниматься и написать доку со схематикой.
Опенсурсный квен обученный выборке для генерации конфузов и мемов просто плачет от таких "завышенных" требований) А товарищ Страуструп мог пользоваться даже чем-то типа платного cursor, не зная что они только IDE неплохо проработали. И вообще как бы намекает что серьезные оптимизации в си++ появятся не раньше чем агент уровня Kimi. Ну то есть Кими не уровень, а тоже трата электроэнергии.. зато какая🤭
Спасибо за статью! Я обязательно попробую --cpu-moe
Arch Linux - "the only way" с поддержкой оборудования linux и сахарной помощью комьюнити. А Google красавчик и предлагает в новостной ленте свежие статьи с habr.
С автора комментарий на счёт последнего материала, на тему LLM, в моей группе ВК: vk.com/engine_expert
У этой группы пока что "стадия разработки бизнес-плана", если можно так назвать:)
Какие облачные красноречия.. "Вы когда нибудь задумывались завести себе еретика, чтобы он вейланд композитор разработал" - воспринимается мной как что-то более дельное.
извиняюсь, я на дату просто посмотрел - там 164 байта. этож ассемблер. на эту тему больше конфузий вызывают компиляторы arm64 (zephirOS на 32битных инструкциях столько весит сколько ваш хелло ворлд)
Си++ вдохновляет заниматься такими штуками - как мировой стандарт языка программирования. Сам он - лучший инструмент, который имеется персонально у линукса (после ANSI C). Pascal такой - называет профессионализмом (не отсутствие) минимазацию гламурных вайбов. И GNU-шная движуха рвёт их с небольшим отрывом - даже не смотря на торчащий гламур.
Мне даже попробовать захотелось прорабатывать такие инструменты, но без обратной связи с чип-фактори - опасно и пьянкой попахивает.
Прочитал, подумал что khadas vim3 - до сих пор что-то особенное. И до сих пор не дописали, кстати. Прошивка с камерой появилась через 5 лет после начала продаж камеры.
Один психологический барьер я переступил, сказав себе "очень трудно оскорбить человека, зато легко оскорбить воображение" и продолжил читать статью с множеством опасных формулирок. На самом деле - не было у меня никогда такого психологического барьера, я просто метафоризирую. Люди такие разные, но придумали говорить "заряжаться энергией" вместо "брать тренировки". Никто не запрещает опубликовать своё предложение на одной из самых популярных площадках и называть это продажами. Для того чтобы наращивать потенциал, сидя в запасе и выйти с пафосом на другом направлении деятельности. Считаю, что блуд это плохо. А интровертить нормально. Не заблуждайтесь.
Чаще так - grep не быстрее настроить, чем описать обучающую выборку для сниппетов в редакторе кода! С другой стороны - какая-нибудь толстая gemma обеспечит инструментом разработчика сразу и можно сосредоточиться на чём-то.. с большей степенью эффекта в итоге :)
Пусть будет тайна.. поисковый ИИ Гугла в восторге и говорит, что вы качок))
Нейминг можно считать самобытным до тех пор пока не ясно как им пользоваться) мне вот не ясно покачто хватит ли тому что воспроизводит сложную когнитивную функцию 4 названия: last4, strided, late, spread.
Предметные вопросы задавать не буду. Привлечением внимания человеческой аудитории вы тут не на соточку позанимались :)
Таким образом
Таким образом - он может точно больмень подсказать один из 300-т сниппетов в редакторе кода, но при условии что я его сам учил со своим набором сниппетов?? Это задача толстого эмбеддера! А этот, то есть, руль прямо поддержит в рамках системы стабилизации? С кнопки сигнал слишком сложной формы - а он подебаунсит?
Подбор ("весов", похоже) перебором, без математических этюдов - такой ход, когда скорость обучения стоит не на первом месте: в таком случае или не достижима какая-то определенная степень исполнительности llm; или маленькая и быстрая модель всё-таки получится - но исключительно с тщательной подготовкой обучающей выборки. Я такую работу никак не осмелюсь в одиночку проводить :)
впрочем, сложный инференс если строить между группами слоев: внимательно изучать где требуются такие компромиссы, а где к ощутимой прибавке производительности не приводят - мне-то только предстоит.
Вывод: взяли бы какой-нибудь шустрый HOLO, да посмотрели какие постандартизированные типы слоев там были использованы. На runtime-базе llama.cpp (с годным набором стандартов слоев от ggml) все равно отсутствуют какие-либо сложные типы инференсов (эт взаимодействие групп слоев между собой).
50mb без квантов интересно, разумеется. 11 слоёв потому что.. ЧТО?! Вы где-нибудь в сети обучающую выборку держите?
Если вы вспоминаете raspberry pi 3b таким образом, то у меня она сгорела как только ей дали питание побольше и никогда не справлялась даже с python скриптами (они же тяжёлые такие).
Кажется это называется "изврат ценообразования", когда ценник ориентируется на средний кошелёк вместо приложенных затрат. А так - вполне возможно что индустрия в полной мере своих затрат оценить не может и делает так демократично, так и быть - без извращений:)
Мой кошелёк тоже что-то заметил и стесняется ещё один стилус попробовать..
Stable diffusion для него точно имеется - "local dream" на гитхабе. Юзаю на планшете, всё классно:)
Вряд-ли, но я оценил только "нанометры"
Написали бы конфигурацию компа в котором чипы горели у вас..
dell живее всех живых у меня, не то что msi тот и другой :) без этого статье высокий ценник не повесить и тяжкий вздох "за кого нынче хабрачанинов принимают" аутлайном..
Шикарно!
У нас добавили инфы для кругозора в этом направлении, самостоятельно. И не вижу что кто-то считает количество студентов по направлениям специальностей - чем-то системообразующим..
С такой обработкой вряд-ли можно встретить какую-то одну модель. Там их целая конференция, где какая-то модель занимается шагами рабочего процесса, другая пишет код вооружившись каким-либо путем отфильтрованной обучающей базе данных, третья занимается контролем и соблюдением норм, в то время как четвертая может ещё визуальной компоновкой позаниматься и написать доку со схематикой.
Опенсурсный квен обученный выборке для генерации конфузов и мемов просто плачет от таких "завышенных" требований) А товарищ Страуструп мог пользоваться даже чем-то типа платного cursor, не зная что они только IDE неплохо проработали. И вообще как бы намекает что серьезные оптимизации в си++ появятся не раньше чем агент уровня Kimi. Ну то есть Кими не уровень, а тоже трата электроэнергии.. зато какая🤭
Спасибо за статью! Я обязательно попробую
--cpu-moeArch Linux - "the only way" с поддержкой оборудования linux и сахарной помощью комьюнити. А Google красавчик и предлагает в новостной ленте свежие статьи с habr.
С автора комментарий на счёт последнего материала, на тему LLM, в моей группе ВК: vk.com/engine_expert
У этой группы пока что "стадия разработки бизнес-плана", если можно так назвать:)
Какие облачные красноречия.. "Вы когда нибудь задумывались завести себе еретика, чтобы он вейланд композитор разработал" - воспринимается мной как что-то более дельное.
извиняюсь, я на дату просто посмотрел - там 164 байта. этож ассемблер. на эту тему больше конфузий вызывают компиляторы arm64 (zephirOS на 32битных инструкциях столько весит сколько ваш хелло ворлд)
Кроме
-sесть ещё-Osizeи ещё какой-то, не помню. Хелло ворлд скомпилированный fasm у меня весит 2025 байт.И это JS-но😁 я про мутации синтаксиса :)
Си++ вдохновляет заниматься такими штуками - как мировой стандарт языка программирования. Сам он - лучший инструмент, который имеется персонально у линукса (после ANSI C). Pascal такой - называет профессионализмом (не отсутствие) минимазацию гламурных вайбов. И GNU-шная движуха рвёт их с небольшим отрывом - даже не смотря на торчащий гламур.
Мне даже попробовать захотелось прорабатывать такие инструменты, но без обратной связи с чип-фактори - опасно и пьянкой попахивает.
Прочитал, подумал что khadas vim3 - до сих пор что-то особенное. И до сих пор не дописали, кстати. Прошивка с камерой появилась через 5 лет после начала продаж камеры.
https://disk.yandex.ru/d/EW5pHIePlcpGFw
поддержка паскаль окончилась в этом году, но он все ещё может фотку на flux2 :)
Один психологический барьер я переступил, сказав себе "очень трудно оскорбить человека, зато легко оскорбить воображение" и продолжил читать статью с множеством опасных формулирок. На самом деле - не было у меня никогда такого психологического барьера, я просто метафоризирую. Люди такие разные, но придумали говорить "заряжаться энергией" вместо "брать тренировки". Никто не запрещает опубликовать своё предложение на одной из самых популярных площадках и называть это продажами. Для того чтобы наращивать потенциал, сидя в запасе и выйти с пафосом на другом направлении деятельности. Считаю, что блуд это плохо. А интровертить нормально. Не заблуждайтесь.