Экспериментировал недавно со сборкой под разные платформы через buildx. Заметил, что он не очень совместим с docker. Если на amd64 собрать образ под riscv64, а потом попытаться запустить, docker не ожидает что локально может быть образ не для его платформы и не пуллит нужный, запускает то что есть. Соответственно если не указывать явно платформу в dokerfile для buildx или собирать одновременно через buildx и docker, можно собрать не понятно что.
В сообщении выше ссылка на модель, обычная llama3.2:11b с поддержкой изображений но без tools. Бот умеет через tools в интернет ходить, но для большинства открытых моделей это работает либо плохо, либо очень плохо.
Закинул в бота llama3.2:11b, можно поиграться без регистрации и смс на мощностях 1 карточки https://t.me/miaou_aibot. Мне кажется, способности к распознованию картинок ниже порога когда это можно использовать в деле.
Для домашней лаборатории для виртуализации узкое место будет диск, в первую очередь. Столько ЦПУ без реальной нагрузки не утилизировать, память это тоже на любую фантазию хватит. Собирал для ESXi хост на пользовательском железе, самый дешёвый на 2016 год двухъядерный Celeron с 64Гб RAM вполне справлялся с десятком ВМ. Хватало даже чтобы запустить такие страшные штуки как кластер SAP PI с Oracle RAC одновременно.
Плюс дешёвого но нового железа, что спустя 8 лет его всё ещё можно ремонтировать не с Авито.
Менеджерская профдеформация. Для критического мышления нужны знания. Менеджер оценке технологий как LLM - знает как слова между собой связаны, но не понимает их смысла. Где лучше маркетинг, то и в трендах. Бигдата - бежим, блокчейн - бежим, ИИ - срочно весь бюджет на видяхи, а то не успеем.
Да, ChatGPT постоянно зацикливается, пишет неправильный код, и приходится использовать разные модели ChatGPT, чтобы одна выдавала ответ, а вторая искала в нем ошибки (модель критик - иногда это помогает).
Хм, мой мозг так же работает. Одна часть с температурой 1 нонстопом генерит чушь, другая фильтрует и сверяет с реальностью. Зацикливаться, это вообще фича, а не баг.
За незаконное производство и хранение вишневого варенья с содержанием сахара больше 50% приговаривается 5 годам колонии общего режима с правом замены наказания на участие в СВО.
Вскоре я заметил, что довольствуюсь ролью посредственного студента. Для того чтобы быть хорошим студентом, нужно обладать легкостью восприятия; готовностью сконцентрировать свои силы на всем том, что читается на лекции; любовью к порядку, чтобы записывать и затем добросовестно обрабатывать преподносимое на лекциях. Всех этих качеств мне основательно недоставало, как я с сожалением установил. Так постепенно я научился ладить с не совсем чистой совестью и организовывать свое ученье так, как это соответствовало моему интеллектуальному желудку и моим интересам.
Он не был таким бродягой и чудаком, как я, но был связан со швейцарской средой и в пределах возможного не потерял внутренней самостоятельности. Кроме того, он обладал в избытке как раз теми данными, которых мне не хватало: быстрым восприятием и порядком во всех отношениях.
Это не много другое. Мой коммент не про оформление, то что из репы не понятно какой функционал забирает на себя протокол, как это работает. Чтобы понять, нужно идти читать код на C. Протокол, в первую очередь спека, а не код.
Они хоть бы доку написали в формате RFC перед тем как выкладывать. Протокол поверх Ethernet и может инкапсулировать IP, при этом устанавливает сессии и управляет состоянием. Ничего не понятно. Похоже на чей то pet проект.
Проходил полиграф, психолог для интерпретации результата нужен из-за примитивности инструментария. Фактически 1 бинарный канал информации - нарушенный пульс. Современные технологии позволяют сделать электронного психолога который будет распознавать аномалии даже там где актер так увлёкся что и сам не помнит что врёт: анализировать интонации голоса, мимику, активность участков мозга.
Всё та же 4070 Ti SUPER
утилизация
Экспериментировал недавно со сборкой под разные платформы через buildx. Заметил, что он не очень совместим с docker. Если на amd64 собрать образ под riscv64, а потом попытаться запустить, docker не ожидает что локально может быть образ не для его платформы и не пуллит нужный, запускает то что есть. Соответственно если не указывать явно платформу в dokerfile для buildx или собирать одновременно через buildx и docker, можно собрать не понятно что.
В сообщении выше ссылка на модель, обычная llama3.2:11b с поддержкой изображений но без tools. Бот умеет через tools в интернет ходить, но для большинства открытых моделей это работает либо плохо, либо очень плохо.
Почти 2 недели как поддерживается.
Закинул в бота llama3.2:11b, можно поиграться без регистрации и смс на мощностях 1 карточки https://t.me/miaou_aibot. Мне кажется, способности к распознованию картинок ниже порога когда это можно использовать в деле.
В ollama есть llama3.2:11b, в rc версиях 0.4 новый движок и добавлена поддержка работы с изображениями в llama3.2.
На десктопной видеокарте RTX 4070 Ti SUPER работает гораздо быстрее - 12Мpx фото 1.5 секунды.
llama3.2-vision:11b
Для домашней лаборатории для виртуализации узкое место будет диск, в первую очередь. Столько ЦПУ без реальной нагрузки не утилизировать, память это тоже на любую фантазию хватит. Собирал для ESXi хост на пользовательском железе, самый дешёвый на 2016 год двухъядерный Celeron с 64Гб RAM вполне справлялся с десятком ВМ. Хватало даже чтобы запустить такие страшные штуки как кластер SAP PI с Oracle RAC одновременно.
Плюс дешёвого но нового железа, что спустя 8 лет его всё ещё можно ремонтировать не с Авито.
Google удалил RISC-V из AOSP, совпадение...
Менеджерская профдеформация. Для критического мышления нужны знания. Менеджер оценке технологий как LLM - знает как слова между собой связаны, но не понимает их смысла. Где лучше маркетинг, то и в трендах. Бигдата - бежим, блокчейн - бежим, ИИ - срочно весь бюджет на видяхи, а то не успеем.
Запустил локально на всех скачанных моделях. Резултат так себе.
Модель Ответ
Gemma2:2b 248
Gemma2:9b 195
Gemma2:27b-instruct-q3_K_S 185
t-lite:q4_0-instruct 185
llama3.2:1b 306
llama3.2:3b 185
llama3.1:8b 185
llama3.1:70b 185
llava:7b 185
mistral:7b 190(рассуждение не верно)
codellama:7b 135
solar:10.7b 173
Очевидно что первая. Что говорят нейробиологи по этому поводу?
Что не так с postgres в docker?
Хм, мой мозг так же работает. Одна часть с температурой 1 нонстопом генерит чушь, другая фильтрует и сверяет с реальностью. Зацикливаться, это вообще фича, а не баг.
Пусть теперь попробуют найти 10 отличий того что они сделали от обычного внушения в состоянии некритического восприятия. Или хотя бы одно.
Пусть теперь попробуют найти 10 отличий того что они сделали от обычного внушения в состоянии некритического восприятия.
За незаконное производство и хранение вишневого варенья с содержанием сахара больше 50% приговаривается 5 годам колонии общего режима с правом замены наказания на участие в СВО.
Ну да, поэтому и упомянул. Cам об этом писал.
Это не много другое. Мой коммент не про оформление, то что из репы не понятно какой функционал забирает на себя протокол, как это работает. Чтобы понять, нужно идти читать код на C. Протокол, в первую очередь спека, а не код.
Они хоть бы доку написали в формате RFC перед тем как выкладывать. Протокол поверх Ethernet и может инкапсулировать IP, при этом устанавливает сессии и управляет состоянием. Ничего не понятно. Похоже на чей то pet проект.
Проходил полиграф, психолог для интерпретации результата нужен из-за примитивности инструментария. Фактически 1 бинарный канал информации - нарушенный пульс. Современные технологии позволяют сделать электронного психолога который будет распознавать аномалии даже там где актер так увлёкся что и сам не помнит что врёт: анализировать интонации голоса, мимику, активность участков мозга.
Этап R&D, продукт для внутреннего клиента.
Скрытый текст