сам собрал модель на Q6 , весит < чем модель от unsloth
Unsloth используют пропиетарный фреймворк Dynamic, который, по их измерениям, приводит к меньшей деградации качества - видимо за счёт некоторого увеличения размера модели на выходе. Сейчас там уже третья версия https://unsloth.ai/docs/basics/dynamic-3.0-ggufs . Набор утилит из llama.cpp полезен когда есть чисто академический интерес разобраться в принципах.
Используйте uvx / uv run вместо pip / pipenv - будет ещё проще и в 20 раз быстрее. Он сам установит нужную версию --python и зависимости --with / --with-requirements в venv, который сам же и создаст.
Философия за время своего существования не предсказала не одного события и не одного явления. Философы не умеют этого делать.
Потому, что это задачи прикладных наук, а не философии. Философия не является наукой в таком же качестве. Это скорее мыслительная деятельность, направленная на рефлексию разного опыта (в том числе и научного) и поиски смыслов.
Там автор вроде писал, что тратит на разработку какое-то гигантское количество токенов, чтобы гонять агентов в циклах самооптимизации - для простых энтузиастов бюджет выглядит запредельным. Интересно это как-то связано с данной новостью?
Вы правы, лучше использовать другой термин, чтобы не путать античную физику и более поздние ее трактовки. Древние греки решали задачи, которые им подкидывала астрономия, как геометрические головоломки, а не физические в нашем понимании.
Аристарх Самосский предложил гелиоцентрическую модель в III веке до н.э. Но физики в большинстве своем его теорию задавили авторитетом и математикой - птолемеевская модель была хорошо проработана с этой стороны, плюс естественным образом состыковывалась с религиозной картинкой мира. Коперник знал о трудах Аристарха Самосского, когда занялся своими расчётами. Галилей и Кеплер веком спустя привели больше доказательств с помощью телескопа и законов движения планет. Итого, 1800 лет с момента открытия гелиоцентрическрй модели, научное сообщество потратило на борьбу с им же созданными догматами.
Математика, в первую очередь, это живой язык, который меняется по мере возникновения новых потребностей со стороны других наук. И лишь во вторую это коробка с решениями.
Люди обычно хватают то, что легко достать, а верификация требует усилий. Если проверять каждый ответ ИИ, то учиться без него будет проще, чем с ним. А если не проверять, то вместо знаний в голове будут галлюцинации.
В США выборные округа издавна были поделены с рассчетом на то, чтобы в них было примерно равное количество городского и сельского населения. В итоге учитываются интересы и тех и других.
В РФ большой перекос в пользу горожан. Горожанам выгодно, например, чтобы закупочные цены на еду были как можно ниже, недвижимость в сабурбии - дешевле и т.д. Все это создает для сельчан тупиковую ситуацию. Исключение, быть может, Краснодарский Край, где позиции сельчан исторически сильны.
ИИ это склад коротких готовых ответов неизвестной степени достоверности. Они скорее про дешевую геймификацию, нежели способ получения систематизированных знаний. Из полезных навыков они формируют лишь навыки писать промпты и меньше доверять.
Нейромузыка сама по себе не является злом, как и LLM. При должном участии со стороны человека с хорошим музыкальным вкусом, получается здоровски.
Проблема в том, что музыкальные сервисы заполонил нейрослоп, который вызывает такие же чувства, как сгенерированные статьи на Хабре. Живые музыканты тоже могут создавать мусор, просто у них чисто физически не получается это делать в таких объёмах. Некоторые нейро-фабрики контента публикуют по несколько альбомов в неделю.
Спасибо за ссылки. Как TurboQuant связан с квантизацией моделей?
Спасибо за подробный разбор старой темы.
Скрытый текст
https://stackoverflow.com/questions/57103834/omit-a-property-from-all-interfaces-in-a-union-but-keep-the-union-structure
Там вроде немного сложнее. Вот попытка сделать подобный пайплайн, адаптированный под консьюмерское железо https://github.com/imrrohitt/OpenDynamicGGUF
Unsloth используют пропиетарный фреймворк Dynamic, который, по их измерениям, приводит к меньшей деградации качества - видимо за счёт некоторого увеличения размера модели на выходе. Сейчас там уже третья версия https://unsloth.ai/docs/basics/dynamic-3.0-ggufs . Набор утилит из llama.cpp полезен когда есть чисто академический интерес разобраться в принципах.
Используйте uvx / uv run вместо pip / pipenv - будет ещё проще и в 20 раз быстрее. Он сам установит нужную версию --python и зависимости --with / --with-requirements в venv, который сам же и создаст.
Новость в том, что кто-то кому-то дал возможность указывать почту кирилицей в контактных данных.
Потому, что это задачи прикладных наук, а не философии. Философия не является наукой в таком же качестве. Это скорее мыслительная деятельность, направленная на рефлексию разного опыта (в том числе и научного) и поиски смыслов.
Там автор вроде писал, что тратит на разработку какое-то гигантское количество токенов, чтобы гонять агентов в циклах самооптимизации - для простых энтузиастов бюджет выглядит запредельным. Интересно это как-то связано с данной новостью?
Вы правы, лучше использовать другой термин, чтобы не путать античную физику и более поздние ее трактовки. Древние греки решали задачи, которые им подкидывала астрономия, как геометрические головоломки, а не физические в нашем понимании.
Аристарх Самосский предложил гелиоцентрическую модель в III веке до н.э. Но физики в большинстве своем его теорию задавили авторитетом и математикой - птолемеевская модель была хорошо проработана с этой стороны, плюс естественным образом состыковывалась с религиозной картинкой мира. Коперник знал о трудах Аристарха Самосского, когда занялся своими расчётами. Галилей и Кеплер веком спустя привели больше доказательств с помощью телескопа и законов движения планет. Итого, 1800 лет с момента открытия гелиоцентрическрй модели, научное сообщество потратило на борьбу с им же созданными догматами.
Математика, в первую очередь, это живой язык, который меняется по мере возникновения новых потребностей со стороны других наук. И лишь во вторую это коробка с решениями.
Чтобы вселить в противника страх, а в сомневающихся союзников - уверенность. Правильный моральный настрой это половина успеха.
Вы имеете ввиду ответ автоответчиком обратно на ваш персональный Gmail или куда? Это будет ровно то, о чем я написал.
Предположу, что они вам не смогут ответить, т.к. сразу попадают на трансграничную передачу персональных данных.
Когда сначала читаешь комменты, а потом статью, чтобы понять о чем вообще речь.
Люди обычно хватают то, что легко достать, а верификация требует усилий. Если проверять каждый ответ ИИ, то учиться без него будет проще, чем с ним. А если не проверять, то вместо знаний в голове будут галлюцинации.
В США выборные округа издавна были поделены с рассчетом на то, чтобы в них было примерно равное количество городского и сельского населения. В итоге учитываются интересы и тех и других.
В РФ большой перекос в пользу горожан. Горожанам выгодно, например, чтобы закупочные цены на еду были как можно ниже, недвижимость в сабурбии - дешевле и т.д. Все это создает для сельчан тупиковую ситуацию. Исключение, быть может, Краснодарский Край, где позиции сельчан исторически сильны.
Когнитивные способности могут падать по разным причинам. А к четвёртому курсу добавляется еще и коммулятивный эффект.
ИИ это склад коротких готовых ответов неизвестной степени достоверности. Они скорее про дешевую геймификацию, нежели способ получения систематизированных знаний. Из полезных навыков они формируют лишь навыки писать промпты и меньше доверять.
Нейромузыка сама по себе не является злом, как и LLM. При должном участии со стороны человека с хорошим музыкальным вкусом, получается здоровски.
Проблема в том, что музыкальные сервисы заполонил нейрослоп, который вызывает такие же чувства, как сгенерированные статьи на Хабре. Живые музыканты тоже могут создавать мусор, просто у них чисто физически не получается это делать в таких объёмах. Некоторые нейро-фабрики контента публикуют по несколько альбомов в неделю.
Америка - страна юристов и чиновников.