company_banner

Быстрее, точнее, эффективнее: IBM представила прототип 7-нм ИИ-сопроцессора


    Для обучения более-менее продвинутых моделей искусственного интеллекта зачастую требуются значительные ресурсы. А сложноустроенные модели подразумевают инфраструктуру в миллионы долларов. IBM создала технологию, позволяющую сократить стоимость и время обучения. И, конечно, сэкономить.

    Корпорация представила прототип нового энергоэффективного 7-нм ИИ-сопроцессора. Использование чипа может повысить эффективность обучающих систем более, чем в 7 раз. Беспилотные автомобили, преобразование текста в речь, машинное зрение, разработка новых лекарств, дроны для доставки — сферы приложения ИИ сегодня бесконечны. Для реализации этих масштабных проектов и нужны подобные технологии.

    В большинстве вычислительных ядер, процессоров и SoC, заточенных под машинное обучение, чаще всего применяют режимы пониженной разрядности: FP16 и INT8. 8-битная точность в этом случае просто избыточна. IBM разработала для подобных периферийных систем прототип нового ИИ-чипа.

    Чем интересен сопроцессор?



    4-ядерный чип. Источник

    Чип спроектирован с использованием 7-нм техпроцесса. Возможны разные сценарии использования чипа:

    • В 4-битном режиме для обычных задач. Технология позволяет добиваться сопоставимой с 8-ми битным режимом точности результатов.
    • В 2-битном режиме для инференс-задач. В этом случае иногда точность понижается на несколько процентов, но в 4 раза повышается производительность по сравнению с 8-битным режимом.
    • Гибридный режим для задач разного типа.

    Основные характеристики чипа:

    • 7-нм техпроцесс на основе EUV;
    • использование гибридного формата FP8 с HFP8;
    • управление питанием аппаратных ускорителей с помощью ИИ;
    • адаптация к перманентно высоким нагрузкам, что обеспечивает высокую производительность приложений.


    Источник

    Сферы применения новинки:

    • обучение крупномасштабных моделей в облаке;
    • усиление безопасности и конфиденциальности;
    • увеличение вычислительных мощностей в гибридных средах без больших затрат энергии.

    В IBM считают, что сопроцессор будет применим в машинном зрении, системах распознавания речи и обработки естественного языка, для различных облачных приложений, для обнаружения мошенничества с финансовыми транзакциями. Помимо этого, выгоду из применения чипа могут извлечь разработчики автономных транспортных средств, систем видеонаблюдения и мобильных телефонов.

    Selectel
    IT-инфраструктура для бизнеса

    Комментарии 5

      0
      пока всё это не будет на уровне Ардуины — и по цене, и по доступности, и по порогу вхождения — всё это так и останется статьями
        0

        Кстати, про Ардуино, когда-то IBM вместе с General Vision разрабатывала нейроморфные чипы, Intel внедрила технологию в Quark SE, получилась Arduino/Genuino 101. С нейронами.

        0
        И потом Intel собственноручно похоронила Quark (в 2019м). В небытие ушли Intel Galileo, Intel Edison и чипы Curie, на которых как раз и было сделана Arduino 101.

        upd. промахнулся с веткой комментов.
          0
          Из статьи непонятно когда и как IBM планирует развернуть производство нового чипа? Другие компании уже вовсю клепают чипы по 7-нм технологии — сможет ли IBM хотя бы догнать? О перегнать я уже и не говорю.
            0
            А какой интерфейс он имеет с внешним миром? Исходя из таблицы, на борту есть кэш, но кэш ещё надо наполнять данными и результаты надо отводить, есть ли инфа по скоростям обмена с процессором или тем, от кого этот чип получает данные? Далее, этот сопроцессор будет внешним отдельным чипом или может где-то в одном корпусе с основным процессором и т.д.?

            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

            Самое читаемое