От переводчика: Ниже представлен перевод части II главы отчёта Edge AI Technology Report,который был подготовлен в 2023 году при участии TinyML Foundation (ныне EdgeAI Foundation).

Edge AI, созданный благодаря последним достижениям в области искусственного интеллекта, приводит к значительным изменениям в современном технологическом ландшафте. Обеспечивая вычисления вблизи источника данных, Edge AI повышает скорость реагирования, повышает безопасность и конфиденциальность, способствует масштабируемости, обеспечивает распределенные вычисления и повышает экономическую эффективность.

Компания Wevolver в сотрудничестве с отраслевыми экспертами, исследователями и поставщиками технологий подготовила подробный отчет о текущем состоянии Edge AI. В этом отчёте рассматриваются его технические аспекты, области применения, проблемы и будущие тенденции. В нем объединены практические и технические идеи профессионалов отрасли, что поможет читателям понять и сориентироваться в развивающемся ландшафте Edge AI.

Edge AI — это технология искусственного интеллекта, которая функционирует на устройствах, расположенных рядом с источником сигнала. На практике она подразумевает сбор данных с датчиков, локальную обработку этих данных с помощью моделей искусственного интеллекта и использование полученных результатов для выполнения определённых действий, например, отправки уведомлений.

С использованием преимуществ Edge AI создаются реальные приложения искусственного интеллекта, которые могут быть установлены на различных устройствах, включая микроконтроллеры.

Эти приложения отличаются высокой производительностью, низкой задержкой, безопасностью, улучшенной защитой конфиденциальности и энергоэффективностью. Edge AI также позволяет оптимально использовать сетевые, вычислительные и энергетические ресурсы, что в целом повышает экономическую эффективность использования искусственного интеллекта. Давайте подробнее рассмотрим преимущества Edge AI.

Сокращение задержек

Приложения искусственного интеллекта, использующие технологию Edge AI, значительно уменьшают объём передаваемых данных по глобальным сетям. Это достигается за счёт того, что обработка информации осуществляется непосредственно у источников данных, а не в облаке. В результате обработка становится быстрее, а задержка реакции приложений искусственного интеллекта на запросы сокращается. Кроме того, передача и выполнение инструкций от таких приложений в полевых условиях происходит с гораздо меньшими задержками. Это особенно актуально для различных типов приложений искусственного интеллекта, включая те, что основаны на промышленных роботах и автоматизированных транспортных средствах. Некоторые другие приложения, основанные на видео, где раньше данные отправлялись в облако, теперь обрабатывают информацию на периферии. Это возможно благодаря новым технологиям, а также потому, что в некоторых ситуациях, например, при обеспечении безопасности, критически важно оценивать ситуацию практически в реальном времени.

Производительность в реальном времени

Благодаря меньшей задержке, приложения Edge AI идеально подходят для задач, требующих высокой производительности в режиме реального времени. Особенно это касается систем машинного обучения, которые должны обнаруживать события в режиме реального времени, например, выявлять дефекты на производственных линиях или аномальное поведение в приложениях безопасности. В таких случаях задержки, связанные с передачей и обработкой данных с периферии в облако, недопустимы.

Повышенная безопасность и защита данных

Приложения Edge AI передают гораздо меньше данных за пределы организаций, которые их разрабатывают или владеют ими. Это уменьшает потенциальный масштаб атак и минимизирует риск для безопасности и утечки данных. Именно поэтому приложения Edge AI обычно считаются гораздо более безопасными, чем их облачные аналоги.

Строгий контроль конфиденциальности

Многие приложения искусственного интеллекта работают с чувствительной информацией, включая данные о безопасности, интеллектуальной собственности, пациентах и другие личные сведения. Развертывания искусственного интеллекта на местах, известные как Edge AI, обеспечивают безопасную среду для управления такими данными, предоставляя более строгий контроль над их конфиденциальностью по сравнению с традиционными облачными приложениями.

Секрет такого строгого контроля заключается в том, что Edge AI-приложения ограничивают объём данных, передаваемых или распространяемых за пределы организаций, генерирующих или обрабатывающих эти конфиденциальные наборы информации.

Энергоэффективность

Процесс передачи и обработки данных в облаке связан с существенными энергозатратами. Особенно много энергии потребляют функции ввода-вывода (I/O), что приводит к значительным выбросам углекислого газа. Стоит отметить, что облачный искусственный интеллект (ИИ) не является экологически чистым решением, поскольку для обработки больших объёмов данных обычно используются графические процессоры (GPU) и тензорные процессоры (TPU).

Edge AI предлагает решение проблемы экологичности облачных ИИ-приложений. Он уменьшает количество операций ввода-вывода и обрабатывает данные на периферийных устройствах или в локальных центрах обработки данных, что позволяет снизить общий объём выбросов CO2.

Экономичность

Приложения Edge AI позволяют существенно снизить нагрузку на сеть и вычислительные ресурсы. Они передают и обрабатывают гораздо меньше данных, чем приложения для облачных вычислений. Кроме того, эти приложения потребляют гораздо меньше энергии, чем их облачные аналоги. В результате стоимость развертывания и эксплуатации приложений Edge AI оказывается гораздо ниже, чем при использовании облачного ИИ.

Обучение на устройстве (On-Device Learning)

Приложения Edge AI могут функционировать в рамках одного устройства, например, IoT-устройства или микроконтроллера. Это открывает двери к созданию мощных и интеллектуальных систем, таких как специализированные SoC (системы на кристалле).

Одна из ключевых особенностей этих устройств — способность к самообучению, что делает их гораздо более эффективными, чем традиционные облачные решения. Как отмечает Нандан Наямпалли из BrainChip: «Обучение на устройстве позволяет расширять функции обученных моделей, настраивая их поведение без необходимости дорогостоящего переобучения в облаке. Это существенно снижает затраты».

Новые горизонты для разработки приложений

Интеграция систем Edge AI в приложения на основе искусственного интеллекта открывает двери к возможностям, которые были недоступны всего несколько лет назад. Например, она позволяет создавать новые функции в реальном времени для транспортных систем, производственных процессов и других промышленных секторов. Благодаря Edge AI, не только улучшаются уже существующие облачные приложения на основе ИИ, но и появляются инновационные решения, которые раньше были недоступны.

***

В ходе беседы с представителями Synaptics мы спросили Шая Камина Брауна, директора по продуктовому маркетингу, о наиболее значимых преимуществах Edge AI. Он перечислил уже упомянутые ранее достоинства и добавил несколько особенно интересных.

Камин Браун, директор по развитию технологий, обратил внимание на преимущества Edge AI, которые не ограничиваются улучшением пользовательского интерфейса и сокращением времени отклика. Он также подчеркнул, что использование искусственного интеллекта на периферии устройства позволяет повысить уровень конфиденциальности и увеличить время автономной работы.

Камин Браун объяснил, что с Edge AI персональная информация (PII) остаётся на устройстве и не передаётся в облако. В большинстве случаев в облако отправляются только метаданные, что значительно повышает уровень защиты личных данных.

Что касается энергоэффективности, то использование искусственного интеллекта на периферии позволяет сократить объём данных, передаваемых в облако по сети, что значительно снижает энергопотребление. В результате устройства могут работать дольше без подзарядки, увеличивая срок службы батареи, или соответствовать стандартам Energy Star.

Камин Браун также отметил важное преимущество доступности, которое может быть проблемой для облачного ИИ из-за его зависимости от сети. «Возможно, у вас нет покрытия для мобильных устройств или Wi-Fi не работает. Вы не всегда можете полагаться на облако для обработки данных. Однако, если ваше приложение полностью находится на периферии, то вы не зависите от сети. Edge AI обеспечивает полную доступность».

«Выполняя вычисления на датчике с учётом контекста, вы можете оптимизировать работу лучше, чем с использованием общего, централизованного решения. И хотя батарея является важным фактором, меньшее тепловыделение позволяет устанавливать чип в устройство и использовать его в полевых условиях более дёшево и экономично, что действительно обеспечивает масштабируемость». Нандан Наямпалли, директор по маркетингу, BrainChip.

Преимущества Edge AI (из Отчёта о технологиях EDGE AI)