Как стать автором
Обновить
451.44

Искусственный интеллект

AI, ANN и иные формы искусственного разума

Сначала показывать
Порог рейтинга
Уровень сложности

Quantization Deep Dive, или Введение в современную квантизацию

Уровень сложности Средний
Время на прочтение 16 мин
Количество просмотров 156

Привет! Меня зовут Василий Землянов, я занимаюсь разработкой ML-инфраструктуры. Несколько лет я проработал в команде, которая делает споттер — специальную маленькую нейросетевую модельку, которая живёт в умных колонках Яндекса и ждёт от пользователя слова «Алиса». Одной из моих задач в этой команде была квантизация моделей. На пользовательских устройствах мало ресурсов, и мы решили, что за счёт квантизации сможем их сэкономить — так в итоге и вышло.

Потом я перешёл в команду YandexGPT. Вместо маленьких моделей я стал работать с очень крупными. Мне стало интересно, как устроена квантизация больших языковых моделей (LLM). Ещё меня очень впечатляли истории, где люди берут гигантские нейросети, квантизируют в 4 бита и умудряются запускать их на ноутбуках. Я решил разобраться, как это делается, и собрал материал на доклад для коллег и друзей. А потом пришла мысль поделиться знаниями с более широкой аудиторией, оформив их в статью. Так я и оказался на Хабре :)

Надеюсь, погружение в тему квантизации будет интересно как специалистам, так и энтузиастам в сфере обучения нейросетей. Я постарался написать статью, которую хотел бы прочитать сам, когда только начинал изучать, как заставить модели работать эффективнее. В ней мы подробно разберём, зачем нужна квантизация и в какой момент лучше всего квантизовать модель, а ещё рассмотрим разные типы данных и современные методы квантизации.

Читать далее
Всего голосов 10: ↑10 и ↓0 +10
Комментарии 0

Новости

Интерактивные PROMPTы извлекают максимум пользы из GPT

Уровень сложности Простой
Время на прочтение 10 мин
Количество просмотров 1K

GPT стремительно ворвался в нашу жизнь и разделил аудиторию на две неравные части: технооптимистов и технопессимистов. Как ни странно, технопессимисты — это преимущественно профессионалы, способные трезво оценить результат, который демонстрирует GPT. А технооптимисты — люди, не достигшие вершин профессионализма. Их завораживает та лёгкость, с которой GPT генерирует тексты, картинки и видео на самые разные темы.

Споры относительно пользы или вреда от использования GPT не утихают. Я же хочу предложить вашему вниманию альтернативный взгляд: дело не в самом инструменте, а в способах его использования.

В этой статье я расскажу, как профессионалы усиливают свою мощь, задействуя интерактивные возможности GPT.

Читать далее
Всего голосов 11: ↑6 и ↓5 +1
Комментарии 0

Небольшая компания представила процессор с 900 тыс. ядер. Что это за чудо технологий?

Время на прочтение 3 мин
Количество просмотров 4.6K

О компании Cerebras на Хабре писали несколько раз, чаще всего с упоминанием того, что она создала самый большой в мире процессор. И сейчас та же ситуация — она повторила свой рекорд, разработав гигант с 900 тыс. вычислительных ядер. Конечно, это чип не для обычных пользователей, а для работы в отрасли искусственного интеллекта. Что это за процессор и на что он способен? Подробности — под катом.

Читать далее
Всего голосов 20: ↑19 и ↓1 +18
Комментарии 8

Городской мозг: как Сингапур цифровизировал управление государством

Время на прочтение 5 мин
Количество просмотров 1.4K

Сингапур — небольшое островное государство с площадью всего 734 кв. км и населением 5,9 млн человек. В 1960-х там не было ничего, кроме трущоб, а сейчас его называют одним из самых технологически продвинутых мест планеты. 

Одно из самых впечатляющих преобразований — цифровизация госуправления. В то время, как в некоторых странах только начинают внедрять биометрическую идентификацию, «всевидящее око» Сингапура знает всех своих граждан в лицо в прямом смысле этого слова. А еще — следит за каждым их движением при помощи десятков тысяч камер и беспристрастных роботов-полицейских. Что это — концепция комфортного и безопасного города будущего или же цифровой ГУЛАГ? Понятное дело, что всё куда как сложнее. Разбираемся. 

Читать далее
Всего голосов 8: ↑7 и ↓1 +6
Комментарии 17

Истории

ИИ в 3D: Где мы сейчас и какое будущее нас ждёт? (Часть 3)

Уровень сложности Средний
Время на прочтение 12 мин
Количество просмотров 1.4K

Мир, в котором мы с вами живём и который непосредственно ощущаем, является объёмным: расположение любой точки в нём можно описать тремя координатами, и этот факт элементарно зашит в нашу природу. Чем больше “понимания” система искусственного интеллекта будет иметь относительно истинной сущности вещей, включая их расположение, форму и объем, тем легче она будет справляться с задачами, которые до сих пор мог выполнять только человек. 

В этой статье разберём, как ИИ помогает решать одну из ключевых задач робототехники, а именно - понимание и ориентация в объёмных пространствах!

Читать далее
Всего голосов 7: ↑7 и ↓0 +7
Комментарии 2

Симуляция миров: как работает нейросеть SORA

Уровень сложности Средний
Время на прочтение 4 мин
Количество просмотров 6K
Видеоконтент стал неотъемлемой частью нашей жизни. ТикТок, Ютуб и прочие платформы с каждым днём всё больше используются людьми как способ отвлечься от повседневности и позволяют ненадолго предаться прокрастинации. Кто бы что ни говорил, но в 2024 году человек не представляет без него жизни, но создание качественного контента это довольно трудоемкая задача. В ней нам может помочь новая нейросеть OpenAI “SORA”.

В этой статье мы рассмотрим, как работает новая революционная нейросеть синтеза видео SORA, пофилософствуем на эту тему и, конечно, помечтаем о AGI.

Читать дальше →
Всего голосов 24: ↑23 и ↓1 +22
Комментарии 3

Мозг промышленного масштаба или как воплотить мечту в реальность?

Уровень сложности Простой
Время на прочтение 8 мин
Количество просмотров 2.2K

В предыдущей статье мы рассмотрели различные типы нейросетей и обсудили, какие задачи можно решать с их помощью. Теперь рассмотрим задачу искусственного интеллекта с организационной и технической точки зрения.

При работе над сложными проектами обычно вовлечена команда разработчиков и специалистов по обработке данных, у которых сразу возникают вопросы: как управлять проектом, совместно разрабатывать модель машинного обучения (Machine Learning model), проводить ее тестирование, каким образом синхронизировать код и результаты экспериментов? После разработки и оптимизации ML-модели возникает необходимость ее развертывания в промышленной среде. Все эти проблемы могут казаться менее увлекательными, чем решение самой задачи машинного обучения, но они имеют критическое значение для успешной реализации ML-проектов. 

В этой статье мы подробно рассмотрим жизненный цикл ML-сервиса от идеи до разработки и внедрения, а также инструменты и принципы, используемые на каждом этапе. 

Читать далее
Всего голосов 3: ↑3 и ↓0 +3
Комментарии 0

Художественные приемы и профессиональные термины для создания изображений с ИИ. Всё, что нужно знать

Время на прочтение 7 мин
Количество просмотров 3.9K

В этой статье собраны все основные понятия для написания текстовой подсказки для генерации изображений с помощью нейросети.

Если вы хотите создавать качественные изображения, нужно понимать (или просто запомнить) некоторые профессиональные термины и приемы, используемые художниками и фотографами.

В этой статье мы разберем такие ключевые факторы, как высокая детализация, освещение, стиль изображения и другое.

Читать далее
Всего голосов 29: ↑26 и ↓3 +23
Комментарии 9

Запускаем privateGPT локально на WSL c поддержкой GPU Nvidia

Уровень сложности Средний
Время на прочтение 3 мин
Количество просмотров 5.8K

Приватный GPT - это готовый к производству проект искусственного интеллекта, который позволяет задавать вопросы о ваших документах, используя мощь больших языковых моделей (LLM), даже в сценариях без подключения к Интернету. 100% приватный, никакие данные не покидают ваше окружение выполнения в любой момент.

Запуск на Windows Subsystem для Linux (WSL) с поддержкой GPU может значительно улучшить его производительность. В этом руководстве я проведу вас пошаговый процесс установки PrivateGPT на WSL с использованием ускорения GPU.

Читать далее
Всего голосов 7: ↑5 и ↓2 +3
Комментарии 7

Алгоритмы AdaBoost (SAMME & R2). Принцип работы и реализация с нуля на Python

Уровень сложности Сложный
Время на прочтение 11 мин
Количество просмотров 1.9K

Следующим мощным алгоритмом машинного обучения является AdaBoost (adaptive boosting), в основе которого лежит концепция бустинга, когда слабые базовые модели последовательно объединяются в одну сильную, исправляя ошибки предшественников.

В AdaBoost в качестве базовой модели используется пень решений (могут использоваться другие модели) — дерево с небольшой глубиной, которому присваивается вектор весов размера N, каждое значение которого соответствует определённому значению y_train и изначально равно 1 / N, где N — количество образцов в обучающей выборке. Каждый следующий пень обучается с учётом весов, рассчитанных на основе ошибок предыдущего прогноза. Также для каждого обученного пня отдельно рассчитывается вес, используемый для оценки важности итоговых прогнозов.

Читать далее
Всего голосов 5: ↑5 и ↓0 +5
Комментарии 2

Разработка SQL Expert Bot: подробный гайд по использованию Vercel AI SDK и API OpenAI

Время на прочтение 8 мин
Количество просмотров 609

OpenAI заложила фундамент для революции в сфере искусственного интеллекта с появлением ChatGPT, открывая новую эру в области AI, которую активно используют как отдельные люди, так и бизнес‑сообщества. OpenAI даже предоставила API для разработки персонализированных AI‑решений, включая чат‑ботов, виртуальных помощников и многого другого. Доступ к этому API можно получить через SDK, которые OpenAI выпустила для разных языков программирования, а также через оболочки, разработанные для удобства создания интерфейсов.

Компания Vercel внесла свой вклад, разработав AI SDK для создания интерактивных пользовательских интерфейсов с использованием TypeScript и JavaScript. Примечательно, что этот SDK является проектом с открытым исходным кодом и поддерживает Vercel Edge runtime.

В рамках данной статьи мы создадим SQL Expert ChatBot, применив API OpenAI и SDK от Vercel. Мы рассмотрим вопросы стриминговых ответов, настройки запросов и многое другое.

Читать далее
Всего голосов 4: ↑4 и ↓0 +4
Комментарии 1

Сравнение работы MTS AI Chat с другими русскоязычными LLM

Уровень сложности Простой
Время на прочтение 8 мин
Количество просмотров 2K

Всем привет!

Мы в MTS AI занимаемся созданием технологий и продуктов на базе искусственного интеллекта. Непосредственно наша группа фундаментальных исследований разрабатывает LLM и модели для генерации кода.

В этой статье мы представим нашу первую фундаментальную модель MTS AI Chat-7B. Также сравним результаты ее работы с другими русскими языковыми моделями, такими как YandexGPT, GigaChat и GigaChat‑Pro.

Читать далее
Всего голосов 20: ↑18 и ↓2 +16
Комментарии 3

Как нейросети сегодня влияют на то, что мы будем смотреть завтра

Время на прочтение 8 мин
Количество просмотров 1.2K

Когда я в детстве читал про искусственный интеллект и роботов, то думал, что роботы будут чистить снег, а человек — заниматься творчеством. Но реальная картина мира оказалась суровее — люди убирают снег, а ИИ занимается творчеством.

С декабря 2022 года на платформе Twitch в режиме реального времени транслируется шоу, генерируемое нейросетями. Это ситком «Nothing, Forever». Сценарием занимается ChatGPT, картинку создают Stable Diffusion и DALL-E. Пока нейросети работают, люди-актеры и люди-сценаристы переживают о будущем своей профессии и пытаются отстоять свои права с помощью забастовок, а государства разрабатывают новые законы, регулирующие использование нейросетей. В статье расскажем, как новые технологии меняют киноиндустрию и чем искусственный интеллект станет для актеров и сценаристов — удобным инструментом или главным врагом.

Читать далее
Всего голосов 8: ↑7 и ↓1 +6
Комментарии 0

Ближайшие события

Московский туристический хакатон
Дата 23 марта – 7 апреля
Место
Москва Онлайн

Искусственный интеллект и прогнозирование метастазов

Время на прочтение 10 мин
Количество просмотров 432


Использование искусственного интеллекта в различных областях деятельности человека становится все более обыденным делом. Хоть ИИ и далек от многогранности человеческого мозга, в некоторых ситуациях он все же весьма полезен. Особенно если речь идет об анализе данных. Ученые из медицинского факультета Вашингтонского университета (США) разработали алгоритм машинного обучения, способный быстро и точно прогнозировать потенциальный риск метастазирования мозга по данным биопсии пациентов с немелкоклеточным раком легких на ранней стадии. Как именно работает данный алгоритм, и насколько он эффективен? Ответы на эти вопросы мы найдем в докладе ученых.
Читать дальше →
Всего голосов 18: ↑17 и ↓1 +16
Комментарии 0

Отдаем рутину нейро-руководителю: ежедневный репост новостей в Telegram канал

Уровень сложности Простой
Время на прочтение 4 мин
Количество просмотров 1.6K

Наша цель - избавиться от рутины и без знаний программирования создать нейро-руководителя команды нейро-сотрудников, который сам активируется каждый день и делает репост новостей в наш Telegram канал. При этом текст новости должен быть переписан ИИ и к посту найдена релевантное фото в Яндексе.

Читать далее
Всего голосов 9: ↑5 и ↓4 +1
Комментарии 3

Обзор катастрофических рисков ИИ

Уровень сложности Средний
Время на прочтение 126 мин
Количество просмотров 2.7K

Это перевод статьи Дэна Хендрикса, Мантаса Мазейки и Томаса Вудсайда из Center for AI Safety. Статья не требует практически никаких предварительных знаний по безопасности ИИ, хотя предполагает некоторый (небольшой) уровень осведомлённости о прогрессе ИИ в последние годы.

Читать далее
Всего голосов 10: ↑9 и ↓1 +8
Комментарии 5

Как выбрать и внедрить  OCR-систему для распознавания и сверки документов

Уровень сложности Простой
Время на прочтение 5 мин
Количество просмотров 1.1K

Приветствую, друзья! Меня зовут Александр Вихарев, и я работаю системным аналитиком в проектах для Fix Price. 

Одной из самых сложных задач при работе с документацией является сверка документов. Причем сверка трудна и с точки зрения программной реализации, если заниматься этим самостоятельно. Для нас же эта задача особенно важна, поскольку все документы должны подписываться только теми людьми, у которых есть на это полномочия. В противном случае это может привести к правовым и финансовым проблемам — например, при подписании договоров на оказание услуг. Также могут наблюдаться и несовпадения в предварительно согласованной и подписанной версиях, что при ручной проверке выявлять долго.

Чтобы избежать этого и освободить время специалистов компании, занимающихся сверкой документации, было решено разработать свою OCR-систему на основе решений внешних поставщиков. Технология OCR (optical character recognition, оптическое распознавание символов) позволяет извлекать текстовые слои из отсканированных документов для сверки и переводить их в удобные для работы форматы.

Читать далее
Всего голосов 10: ↑10 и ↓0 +10
Комментарии 8

Голодные игры начались. Развитие ИИ приведёт к естественному отбору населения

Уровень сложности Простой
Время на прочтение 10 мин
Количество просмотров 83K

Эта статья, как выразился мой коллега, может «усугублять депрессивное состояние и «экзистенциальный крысис». Будьте осторожны при прочтении.

Мы попытаемся ответить на главные вопросы современности: научится ли ИИ программировать? Если да, то как быстро? И чьи должности пойдут под нож в первой партии, а кому повезёт поработать плечом к плечу с цифровым напарником?

Читать далее
Всего голосов 94: ↑57 и ↓37 +20
Комментарии 516

JIRA + AI = LOVE или Как Product manager-у найти друзей и перестать страдать

Уровень сложности Простой
Время на прочтение 7 мин
Количество просмотров 1.8K

Развитие AI-инструментов на базе современных LLM запустило в последние годы тренд на автоматизацию всего, что прибито меньше, чем на 2 гвоздя, и первыми адоптерами здесь традиционно выступает IT сообщество. Как Луи Пастер некогда ставил себе и друзьям намешанные на голой коленке вакцины, так сейчас разработчики активно ставят Code Copilot-ы, дизайнеры экспериментируют с Midjourney, скромно к этой очереди пристраиваемся и мы, Product Manager-ы.

Меня зовут Алексей, и я более 15 лет занимаюсь управлением b2b-b2c продуктами и руководством командами в энтерпрайзе и стартапах.

И сейчас предлагаю продолжить исследование того, какое влияние AI и ML инструменты оказывают на бизнес. Предыдущий эксперимент касался применения современных моделей машинного обучения в решении задачи прогнозирования цены в золотодобыче, в статье же ниже мы рассмотрим пример того, как очередные порождения ChatGPT могут помочь в управлении продуктовой разработкой и повысить эффективность взаимодействия в команде.

Читать далее
Всего голосов 14: ↑13 и ↓1 +12
Комментарии 4

Первый в мире препарат для лечения заболевания лёгких, разработанный ИИ, проходит клинические испытания в Китае и США

Уровень сложности Простой
Время на прочтение 4 мин
Количество просмотров 1.5K

Экспериментальный препарат, разработанный с помощью искусственного интеллекта (ИИ) для борьбы с агрессивным и часто смертельным заболеванием лёгких, вступил во вторую фазу клинических испытаний в Китае и США. Как сообщает компания Insilico Medicine, занимающаяся разработкой лекарств с помощью ИИ, это первый в мире препарат, созданный с помощью ИИ.

Компания заявила, что её методология, основанная на ИИ, позволила ускорить и повысить эффективность открытия лекарств и является доказательством «многообещающего потенциала генеративных технологий искусственного интеллекта для преобразования отрасли».

Читать далее
Всего голосов 5: ↑3 и ↓2 +1
Комментарии 4

Вклад авторов