Как стать автором
Обновить
3
0.4

Пользователь

Отправить сообщение

На пути к 1-разрядным моделям машинного обучения

Время на прочтение8 мин
Количество просмотров3.8K

В последнее время активно разрабатываются технологии экстремально малоразрядного квантования, например, BitNet и 1.58 bit. Они пользуются большим интересом в сообществе машинного обучения. Основная идея данного подхода заключается в том, что перемножение матриц с квантованными весами можно реализовать и умножения, что потенциально полностью меняет правила игры применительно к скорости вычислений и эффективности больших моделей машинного обучения.

Эта статья написана в схожем ключе, но нас наиболее интересует, возможно ли напрямую квантовать предобученные модели при экстремальных настройках, в том числе, при двоичных весах (0 и 1). Уже имеющиеся работы нацелены на обучение моделей с нуля. Но в открытом доступе сейчас достаточно много отличных предобученных моделей, таких как Llama2. Более того, обучение с нуля — это ресурсозатратная задача в пересчёте как на вычисления, так и на данные, поэтому такие подходы не слишком доступны в свободном сообществе.

В этой статье мы подробно разберём крайне малоразрядное (2 и 1-разрядное) квантование предобученных моделей с применением HQQ+. HQQ+ — это адаптация HQQ (полуквадратичного квантования), в которой для повышения производительности используется адаптер с низкой размерностью. Наши результаты показывают, что при обучении лишь небольшой части весов в верхней части HQQ-квантованной модели (даже одноразрядной) качество вывода значительно возрастает, такая модель может даже превосходить небольшие модели полной точности.

Модели находятся на Hugging Face: 1-разрядная2-разрядная.

Читать далее
Всего голосов 20: ↑19.5 и ↓0.5+19
Комментарии1

Развертываем peer-to-peer чат с голосом, видео, шарингом экрана, файлов и паролем

Уровень сложностиСредний
Время на прочтение7 мин
Количество просмотров8.1K

Эта секция написана уже после статьи, чтобы читатель посмотрел, а надо ли ему что-то отсюда или нет, но это забавное приключение, как всегда.

Что будет ниже:

Поиск open source решения для общения голосом, шаринга экрана, включения видео и чатов в режиме peer-to-peer, без лишних бекендов
Запуск этого решения в открытую в github pages
Заворачивание этого решения на приватный сервер
Простенькое закрытие доступа туды через basic http auth
Заключение с описанием некоторых замечаний и потенцевальных возможностей

Читать далее
Всего голосов 29: ↑28 и ↓1+27
Комментарии13

Запускаем privateGPT локально на WSL c поддержкой GPU Nvidia

Уровень сложностиСредний
Время на прочтение3 мин
Количество просмотров7K

Приватный GPT - это готовый к производству проект искусственного интеллекта, который позволяет задавать вопросы о ваших документах, используя мощь больших языковых моделей (LLM), даже в сценариях без подключения к Интернету. 100% приватный, никакие данные не покидают ваше окружение выполнения в любой момент.

Запуск на Windows Subsystem для Linux (WSL) с поддержкой GPU может значительно улучшить его производительность. В этом руководстве я проведу вас пошаговый процесс установки PrivateGPT на WSL с использованием ускорения GPU.

Читать далее
Всего голосов 7: ↑5 и ↓2+3
Комментарии7

Com-WiFi модем для старых компьютеров

Уровень сложностиСредний
Время на прочтение2 мин
Количество просмотров7K

Как выйти в Интернет на сорокалетней DOS машине с 640Кб ОЗУ и 9-и мегагерцовым процессором?

Новый этап приключений с ретро компами - на этот раз с доступом в Интернет!

Читать далее
Всего голосов 37: ↑37 и ↓0+37
Комментарии18

Как работать с помощью разных ИИ прямо в VSCode: AIConfig Editor

Уровень сложностиПростой
Время на прочтение4 мин
Количество просмотров7.2K

AIConfig Editor превращает VS Code в генеративную среду разработки, позволяющую в единой универсальной песочнице запускать модели любого провайдера (OpenAI, Google, Hugging Face, с вашего локального компьютера...) или в любой модальности (текст, изображение, аудио).

Подсказки и настройки модели сохраняются в файле .aiconfig.yaml или в .aiconfig.json, исходный код которых можно контролировать и использовать в вашем приложении через AIConfig SDK.

Читать далее
Всего голосов 11: ↑10 и ↓1+9
Комментарии2

Как настроить Kerberos аутентификации в Keycloak

Время на прочтение2 мин
Количество просмотров15K

Виктор Попов, техлид DevOps-команды в X5 Tech и спикер курса «Безопасность проекта: аутентификация в Keycloak», подготовил туториал. В нём он рассказывает, как настроить Kerberos аутентификации в Keycloak и как подготовить браузеры для работы. 

Читать далее
Всего голосов 14: ↑14 и ↓0+14
Комментарии0

Как я перестал бояться и полюбил Vim

Время на прочтение9 мин
Количество просмотров44K

Я работаю программистом уже почти десять лет. И, как и для каждого, кто посвящает работе до 2/3 суток, удобный инструментарий имеет для меня огромное значение. Сегодня я хочу как следует порефлексировать, поэтому статья выйдет слегка необычной. Сразу же хочу дать дисклеймер: всё, что вы прочтете ниже, носит субъективный характер. Поэтому будьте открыты и снисходительны.

Читать далее
Всего голосов 65: ↑55 и ↓10+45
Комментарии444

Магия SSH

Время на прочтение11 мин
Количество просмотров487K
С SSH многие знакомы давно, но, как и я, не все подозревают о том, какие возможности таятся за этими магическими тремя буквами. Хотел бы поделиться своим небольшим опытом использования SSH для решения различных административных задач.

Оглавление:

1) Local TCP forwarding
2) Remote TCP forwarding
3) TCP forwarding chain через несколько узлов
4) TCP forwarding ssh-соединения
5) SSH VPN Tunnel
6) Коротко о беспарольном доступе
7) Спасибо (ссылки)
Читать дальше →
Всего голосов 115: ↑106 и ↓9+97
Комментарии75

Linux-порт Far Manager: новости весны 2023

Уровень сложностиСредний
Время на прочтение4 мин
Количество просмотров22K

Обычно я пишу статьи об развитии проекта far2l — порта знаменитого Far Manager под Linux, MacOS и BSD (а теперь ещё и Haiku) раз в год. Но иногда случается так, что объем новостей на статью набирается быстрее. Недавно произошло сразу несколько важных событий, поэтому дожидаться конца года не буду, а опубликую самое интересное сразу.

Нас взяли в Debian!

Это, пожалуй, главная новость. К сожалению, в Bookworm мы попасть не успели, так что ждите нас в следующем выпуске, или в Ubuntu 23.10. Да, можно будет делать sudo apt install far2l, без всяких сложностей с ppa или самостоятельной сборкой!

Читать далее
Всего голосов 141: ↑141 и ↓0+141
Комментарии89

Большая подборка ресурсов и сообществ для тестировщика

Уровень сложностиПростой
Время на прочтение4 мин
Количество просмотров45K

Привет! Меня зовут Артем. Уже несколько лет я генерирую полезный контент в области функционального тестирования, а также являюсь создателем нескольких крупных сообществ, которые помогают начинающим тестировщикам.

На данный момент существует большое количество площадок, групп и чатов, которые помогают специалистам разного уровня в аспектах обучения, общения, взаимопомощи. У меня появилась идея собрать их вместе и поделиться с сообществом. Все ресурсы бесплатные.

Читать далее
Всего голосов 10: ↑10 и ↓0+10
Комментарии19

Как следить за кластером Kubernetes: 6 главных метрик, на которые нужно обращать внимание

Время на прочтение9 мин
Количество просмотров11K


Загвоздка с Kubernetes в том, что это не единая система, как, например, Redis RabbitMQ или PostgreSQL, а комбинация нескольких компонентов Control Plane: etcd, API-сервера и других. С помощью виртуальных машин или серверов они помогают контролировать пользовательские нагрузки, и от всех поступают огромные потоки метрик, в которых очень легко запутаться. 

Команда VK Cloud перевела статью о том, на какие именно метрики стоит обращать внимание в первую очередь, чтобы грамотно мониторить рабочие нагрузки и поддерживать кластеры в исправном состоянии.
Читать дальше →
Всего голосов 16: ↑16 и ↓0+16
Комментарии0

Stable Diffusion — важнейшая нейросеть за всю историю генеративного искусства

Время на прочтение7 мин
Количество просмотров48K


Компания Stability.ai объявила о публичном релизе модели графической нейросети Stable Diffusion. Можно подумать, что это лишь очередная новость о том, что в мире искусства появилась ещё одна рядовая нейросеть. Но это далеко не так по двум причинам, одну из которых вы видите в хабах. Подробности — к старту нашего флагманского курса по Data Science.
Узнать больше
Всего голосов 36: ↑32 и ↓4+28
Комментарии39

Что будет, если взять логарифм от Вселенной?

Время на прочтение6 мин
Количество просмотров12K


Художественное представление логарифмической концепции наблюдаемой части Вселенной. Солнечная система уступает место Млечному Пути, Млечный Путь — близлежащим галактикам, а те — масштабной карте звёздного неба и окаймляющей его раскалённой плотной плазме Большого взрыва. Каждое расстояние [каждый «луч зрения»] здесь также отражает время с момента рождения Вселенной. Тем не менее поиск самого удалённого космического тела увенчается успехом только тогда, когда будет составлена полная карта Вселенной (Автор: Пабло Карлос Будасси).

Подробности, иллюстрации и фото — к старту нашего флагманского курса по Data Science.

Увидеть больше
Всего голосов 28: ↑26 и ↓2+24
Комментарии12

4,2 гигабайта, или как нарисовать что угодно

Время на прочтение9 мин
Количество просмотров42K
В нашем мире мы можем сделать всё, что захотим. Всё что угодно.

Боб Росс, The Joy Of Painting, сезон 29, эпизод 1

Однажды, когда я наблюдал за ярким закатом в Сиэтле, внезапно включилось моё воображение. Потусторонний оттенок неба пробудил воспоминания о чём-то из научной фантастики. Дымчатый оранжево-сиреневый завораживал.

Я представил огромный инопланетный объект, висящий в горящем оранжевом небе над давно покинутым Сиэтлом, здания которого покрыты зарослями.

Тем же вечером я за несколько часов создал вот такое изображение:


Простите за низкое разрешение — к сожалению, у моего GPU всего 12 ГБ памяти.

Поскольку очевидно, что я талантливый художник, имеющий за плечами буквально десятки минут опыта, мне захотелось поделиться тем, как я создал данный шедевр.
Читать дальше →
Всего голосов 160: ↑160 и ↓0+160
Комментарии92

Умели же делать: карманный компьютер HP Jornada из 1998 года. Часть 1

Время на прочтение4 мин
Количество просмотров20K

На днях мне в руки попал девайс из относительно далекого прошлого — мне удалось его купить за примерно 3000 рублей. Этому устройству исполнилось почти четверть века. Речь идет, как уже понятно из заголовка, об HP Jornada 680. Это карманный ПК, который в свое время стал если не прорывом, то все же значительным событием в мире IT.

Через мои руки прошло много КПК от компании Hewlett-Packard (и сейчас, и в то время, когда они были действительно новинками). Но все же HP Jornada резко выделяется среди них всех. HP Jornada 680 — практически полноценный компьютер очень небольшого размера на базе ОС Windows CE 2.11.
Читать дальше →
Всего голосов 85: ↑82 и ↓3+79
Комментарии59

Разбираемся с концепцией аутентификации в HTTP

Время на прочтение20 мин
Количество просмотров37K

Я часто путаю понятия авторизации и аутентификации между собой, поэтому решил создать материал, который закрепил бы эти понятия через какой-то практический опыт.

Хотелось создать статью, которая поэтапно раскроет базовые концепции аутентификации и авторизации на практике, после чего можно применять эти знания, чтобы реализовать свою кастомную аутентификацию и примерно понимать, как она работает в очередном пакете для django-rest-framework, flask или fastapi. А вообще в целом эти концептуальные знания должны пригодиться(надеюсь) и для реализации аутентификации в других экосистемах. В статье есть упрощения, код для учебных целей.

Читать далее
Всего голосов 23: ↑21 и ↓2+19
Комментарии4

Устаревшие Python-библиотеки, с которыми пора попрощаться

Время на прочтение11 мин
Количество просмотров32K

В Python, с каждым релизом, добавляют новые модули, появляются новые и улучшенные способы решения различных задач. Все мы привыкли пользоваться старыми добрыми Python-библиотеками, привыкли к определённым способам работы. Но пришло время обновиться, время воспользоваться новыми и улучшенными модулями и их возможностями.

Читать далее
Всего голосов 37: ↑35 и ↓2+33
Комментарии29

F-строки в Python мощнее, чем можно подумать

Время на прочтение5 мин
Количество просмотров118K

Форматированные строковые литералы, которые ещё называют f-строками (f-strings), появились довольно давно, в Python 3.6. Поэтому все знают о том, что это такое, и о том, как ими пользоваться. Правда, f-строки обладают кое-какими полезными возможностями, некоторыми особенностями, о которых кто-нибудь может и не знать. Разберёмся с некоторыми интересными возможностями f-строк, которые могут оказаться очень кстати в повседневной работе Python-программиста.

Читать далее
Всего голосов 98: ↑96 и ↓2+94
Комментарии25

Дорога в тестировщики: как сменить профессию и добиться в ней успеха

Время на прочтение7 мин
Количество просмотров11K

Один из самых простых способов попасть в IT — обучиться профессии тестировщика. Причём перейти в неё может даже человек без образования программиста, а на начальные курсы уйдёт от 3 до 4 месяцев учёбы в свободное время. Мы поговорили с Teamlead нескольких команд тестировщиком и бывшим фитнес-тренером, который сейчас работает middle-специалистом, о том, как они пришли в профессию и какие навыки им помогли.

Читать далее
Всего голосов 11: ↑9 и ↓2+7
Комментарии13

NSA k8s security: Агентство национальной безопасности раскрывает секреты Kubernetes

Время на прочтение9 мин
Количество просмотров5.5K

NSA в соавторстве с еще несколькими организациями подготовила доклад (Kubernetes Hardening Guide) на 59 страниц на тему: Гайд по улучшению безопасности в Kubernetes.

Почему это может быть важно ?

Экосистема Kubernetes под капотом содержит множество технологий, плагинов, инструментов. Чем больше звеньев в цепи, тем больше шансов на разрыв, то же относится и к безопасности. Этот доклад призван уменьшить вероятность уязвимости

Читать далее
Всего голосов 20: ↑19 и ↓1+18
Комментарии0
1

Информация

В рейтинге
1 655-й
Зарегистрирован
Активность