Ты молодец, в целом хорошо при этом не особо важно как и что написал. Главное была поставлена цель, цель бы достигнута. То что решился описать это в статье еще один большой плюс тебе. Верной дорого идешь) Мой совет по развитию - научись добавлять аннотации типов. Сейчас это кажется не нужным и создающим дополнительные трудности, но если напишешь код 1000+ строк, без аннотации типов тебе очень сложно будет его отлаживать, и еще сложнее понять, что там происходить если захошь переписать код.
О даже видели код Cи. Вы своим текстом хорошо показали, что не знает что такое Cи. И соответственно знаний не достаточно для комментария. Вот это ваш ((*(*(*(*(*x[30][20])(int **, char) это не корректно спародированный slice который часто применяется в Python. То есть slice в Python это нормально, а тот же slice в Cи нет? Но подозреваю вы даже не понимаете, что написали. Как раз чтобы шарик отскакивал от границ экрана, код на Cи будет сильно прошел и прозрачнее чем на Python. И не надо мне писать про С++20 (Для него действительно нужна подготовленная психика) и прочее это никакого отношения к Cи не имеет. К примеру код массива на Cи int arr[]= {3,4,5} и для сравнения аналог на Python arr: List[int] = [3,4,5], не знаю как вам но на Cи он несколько короче.
Извините конечно но большего бреда от псевдо разработчиков не слышал. Писать что Си не нужный язык, при том что Python написан на Си и стандартной средство оптимизация кода Python называется Cython))))) Не говоря уже про то что почти все популярные библиотеки Python также написаны Си. С вами мне не по пути, даже общаться не хочется.
Еще один специалист) Си это не обертка, это язык который компилируется в машинные коды. Си плюс никогда код в Ассемблер не компилирует. Пожалуйста прежде чем что то писать, хотя бы основы почитайте. Python не компилятор, и большинство библиотек которые тут используют подобные вам "разработчики" являются библиотеками написанными на Си, и тупо вызываются из Python с мапингом параметров.
Ваш не компетентность поражает. Не пишите того, чего не понимаете. Си самый простой язык для изучения алгоритмов. Питон искажает основы разработки, так как бесконечно далек от реальной платформы на которой работает. Сейчас будет легче, а потом будет кошмар, когда узнает как на самом деле это работает. Вообще поражает что 90% "разработчиков" даже не знают отличий Си от Си++, и сложность Си++ зачем-то проецируют на Си.
Если есть реальное желание научиться программировать лучше начать с Си, попробуйте тоже самое сделать на чистом Cи (Не на Cи ++) в модульно-функциональном стиле под консоль. Без знания Cи и умения на нем делать библиотеки под Python. Полностью овладеть Python не возможно, так как Python по сути удобная обертка над кодом написанном на Cи
Запустить конечно можно, а можно ли этим пользоваться? Так то у меня и 70b запускается, с частичным разделением на GPU и CPU RAM. Но пользоваться ей не возможно. Так потестить и все.
Не упомянул 3090 так как она действительно может запустить 32B, но работать с ней не возможно, слишком долго ждать ответ, а когда нужно прогнать потоком то задача вообще становится не решаемой. На 4090 тоже выглядит печально, но хотя бы с болью, но пользоваться можно.
Вообще сильно проше поставить LM Studio, там и поисковик моделей есть и api если нужно, и они сразу в 4bit формате. И зачем вы людям про 32b пишите, для ее запуска нужна как минимум 4090. Для новичков 7b, самое то. То что вы пишите это вообще не средний уровень, это уже как бы продвинутый, а для многих не достигаемый....
Вместо ollama лучше использовать LM Studio она также имеет интеграцию с Continue.dev . При этом имеет графический интерфейс для поиска моделей и есть средства для оптимизации использования памяти CPU так и GPU. Сейчас более менее адекватной для локального компа это Llama 3.1 -8 B . Но если быть честным с собой то без 4090 локально это все работает медленно и реально наврятли кто то будет примять в большом проекте.
Ты молодец, в целом хорошо при этом не особо важно как и что написал. Главное была поставлена цель, цель бы достигнута. То что решился описать это в статье еще один большой плюс тебе. Верной дорого идешь) Мой совет по развитию - научись добавлять аннотации типов. Сейчас это кажется не нужным и создающим дополнительные трудности, но если напишешь код 1000+ строк, без аннотации типов тебе очень сложно будет его отлаживать, и еще сложнее понять, что там происходить если захошь переписать код.
О даже видели код Cи. Вы своим текстом хорошо показали, что не знает что такое Cи. И соответственно знаний не достаточно для комментария. Вот это ваш ((*(*(*(*(*x[30][20])(int **, char) это не корректно спародированный slice который часто применяется в Python. То есть slice в Python это нормально, а тот же slice в Cи нет? Но подозреваю вы даже не понимаете, что написали. Как раз чтобы шарик отскакивал от границ экрана, код на Cи будет сильно прошел и прозрачнее чем на Python. И не надо мне писать про С++20 (Для него действительно нужна подготовленная психика) и прочее это никакого отношения к Cи не имеет. К примеру код массива на Cи int arr[]= {3,4,5} и для сравнения аналог на Python arr: List[int] = [3,4,5], не знаю как вам но на Cи он несколько короче.
Извините конечно но большего бреда от псевдо разработчиков не слышал. Писать что Си не нужный язык, при том что Python написан на Си и стандартной средство оптимизация кода Python называется Cython))))) Не говоря уже про то что почти все популярные библиотеки Python также написаны Си. С вами мне не по пути, даже общаться не хочется.
Еще один специалист) Си это не обертка, это язык который компилируется в машинные коды. Си плюс никогда код в Ассемблер не компилирует. Пожалуйста прежде чем что то писать, хотя бы основы почитайте. Python не компилятор, и большинство библиотек которые тут используют подобные вам "разработчики" являются библиотеками написанными на Си, и тупо вызываются из Python с мапингом параметров.
Ваш не компетентность поражает. Не пишите того, чего не понимаете. Си самый простой язык для изучения алгоритмов. Питон искажает основы разработки, так как бесконечно далек от реальной платформы на которой работает. Сейчас будет легче, а потом будет кошмар, когда узнает как на самом деле это работает. Вообще поражает что 90% "разработчиков" даже не знают отличий Си от Си++, и сложность Си++ зачем-то проецируют на Си.
Если есть реальное желание научиться программировать лучше начать с Си, попробуйте тоже самое сделать на чистом Cи (Не на Cи ++) в модульно-функциональном стиле под консоль. Без знания Cи и умения на нем делать библиотеки под Python. Полностью овладеть Python не возможно, так как Python по сути удобная обертка над кодом написанном на Cи
Запустить конечно можно, а можно ли этим пользоваться? Так то у меня и 70b запускается, с частичным разделением на GPU и CPU RAM. Но пользоваться ей не возможно. Так потестить и все.
Не упомянул 3090 так как она действительно может запустить 32B, но работать с ней не возможно, слишком долго ждать ответ, а когда нужно прогнать потоком то задача вообще становится не решаемой. На 4090 тоже выглядит печально, но хотя бы с болью, но пользоваться можно.
Вообще сильно проше поставить LM Studio, там и поисковик моделей есть и api если нужно, и они сразу в 4bit формате. И зачем вы людям про 32b пишите, для ее запуска нужна как минимум 4090. Для новичков 7b, самое то. То что вы пишите это вообще не средний уровень, это уже как бы продвинутый, а для многих не достигаемый....
Вместо ollama лучше использовать LM Studio она также имеет интеграцию с Continue.dev . При этом имеет графический интерфейс для поиска моделей и есть средства для оптимизации использования памяти CPU так и GPU. Сейчас более менее адекватной для локального компа это Llama 3.1 -8 B . Но если быть честным с собой то без 4090 локально это все работает медленно и реально наврятли кто то будет примять в большом проекте.