С 29 апреля 2020 года в Москве начинает работу система искусственного интеллекта (ИИ), предназначенная для обнаружения коронавируса по рентгеновским снимкам, сообщил мэр города на совещании с президентом по вопросам противодействия распространению коронавирусной инфекции.

Руководство для разработки автоматического детектора COVID-19 по рентгеновским снимкам (флюорограммам) было опубликовано на Хабре 23 марта 2020 года. Автор гайда обращал внимание на то, что количество тестовых наборов COVID-19 ограничено во всех странах мира. Поэтому есть смысл обратиться к другим методам диагностики, в том числе флюорографии.

По словам Собянина, в Москве был создан единый рентгенологический информационный центр, который даёт специалистам «второе мнение» о рентгеновских снимках. Также начали проводить эксперименты с применением ИИ, чтобы выявлять подозрения на онкологические заболевания.


Пример флюорограммы от пациента с положительным тестом на COVID-19. С помощью Keras и TensorFlow на таких изображениях можно обучить классификатор обнаруживать COVID-19

«Буквально недавно… вы подписали федеральный закон о проведении эксперимента в Москве в области искусственного интеллекта. Пользуясь этими возможностями, мы создали специальную группу на базе нашего рентгенологического центра, и буквально завтра мы включим уже систему ИИ по обнаружению коронавируса на основе рентгеновских снимков. Она будет работать уже в боевом режиме. Получив первый серьёзный опыт, мы доложим вам, министерству здравоохранения, правительству, чтобы можно было распространить этот опыт и возможности на другие регионы. Это важная работа», — сказал Собянин.

Закон об экспериментальном правовом режиме для внедрения технологий искусственного интеллекта в Москве предусматривает проведение в Москве эксперимента с 1 июля 2020 года «в целях создания необходимых условий для разработки и внедрения технологий ИИ, а также последующего использования результатов его применения». Условия, требования, порядок разработки, создания, внедрения и реализации ИИ-технологий, а также механизм обработки обезличенных персональных данных будут регламентироваться столичным правительством. Срок проведения эксперимента — пять лет.

Участниками эксперимента станут юридические лица и индивидуальные предприниматели, внесённые в реестр участников экспериментального режима по их собственной заявке.

Руководитель департамента информационных технологий Москвы Эдуард Лысенко пояснил, что Москва готова выступить пилотной площадкой для апробирования решений на базе ИИ и проработки вопросов нормативного регулирования этой отрасли: «В состав координационного совета войдут представители федеральных ведомств, правительства Москвы и профильного бизнес-сообщества. Этот орган будет отвечать за координацию всех участников эксперимента: формировать стратегические направления и механизмы реализации экспериментального правового режима, вести реестр участников и следить за тем, чтобы проекты, которые реализуются в этой регуляторной песочнице, не нарушали Конституцию и федеральное законодательство. Конкретный состав проектов координационный совет определит к началу эксперимента. В первую очередь планируется реализация инициатив, направленных на улучшение повседневной жизни горожан. Это проекты в образовании, здравоохранении, социальной сфере. Повышение эффективности в этих отраслях — первоочередная задача эксперимента. Кроме того, столь же приоритетными являются решения, направленные на повышение качества городского управления, реализацию задач в строительстве, ЖКХ, транспорте».


Слева положительные образцы (от заражённых пациентов), а справа — отрицательные. Эти изображения используются для обучения модели, чтобы автоматически предсказывать наличие болезни

Распознавание коронавируса с помощью обученной нейросети — один из первых экспериментов ИИ, который начинается после принятия нового закона. Но в реальности Москва не первый год использует технологии ИИ в городских сервисах: «Например, в общегородском контакт-центре с 2014 года работает голосовой помощник, — рассказал Лысенко. — Мы научили робота не только отвечать на самые распространённые вопросы горожан, но и анализировать интонацию и даже распознавать сленг. К примеру, если человек называет машину „тачкой”, робот это поймёт и ответит на вопрос. И если поначалу москвичи относились к технологии с недоверием, то сейчас свободно общаются с ИИ-оператором и даже благодарят его. Зачастую он предоставляет информацию гораздо быстрее, чем человек. У обычных операторов появилось больше времени для ответов на сложные, нестандартные вопросы. Проекты с использованием ИИ есть в сфере транспорта — начиная от управления транспортными потоками и заканчивая тестированием беспилотного общественного транспорта. Речевые технологии в здравоохранении помогают пациентам записаться к врачу, отменить или перенести запись без привлечения оператора — с помощью голосового бота… Ещё одно важное направление, над которым мы сейчас работаем, — предоставление проактивных онлайн-услуг. Смысл в том, что система будет анализировать данные, которые пользователь предоставил городу, и предлагать ему (пользователю) актуальные услуги в определённой жизненной ситуации».

В конце прошлого года исследование ДИТ показало, что 90% москвичей хотя бы раз использовали сервисы на основе ИИ, а 93% жителей поддерживают развитие этих технологий.

Обезличенные данные

В рамках нового эксперимента потенциальные проблемы могут возникнуть с обработкой персональных данных москвичей. Например, последняя разработка ДИТ Москвы — приложение «Социальный мониторинг» выполняло следующие действия:

• получало права на доступ ко всей информации на устройстве, включая координаты GPS и местоположение (см. полный список разрешений);
  
• передавало собранную информацию на серверы мэрии Москвы в открытом виде без шифрования;
  
• для распознавания лиц использовало эстонский сервис identix.one. Фотографии для распознавания лиц передаются на адрес, принадлежащий немецкой хостинговой компании Hetzner;
  
• генерировало QR-код в качестве пропуска на перемещение по городу.

После массового возмущения низким качеством программного обеспечения ДИТ Москвы принял решение удалить приложение из каталога.

«Обезличенные персональные данные крайне важны для обучения ИИ, — объясняет руководитель департамента информационных технологий Москвы. — Например, система поддержки врачебных решений не сможет подсказать врачу-радиологу, что на конкретном снимке КТ в конкретной области лёгкого есть подозрение на опухоль, если эта система предварительно не будет обучена на тысячах снимков. При этом для обучения системы ей не надо знать, кому принадлежит каждый из этих снимков — ей нужно научиться распознавать злокачественные опухоли. Аналогичная ситуация с системами в других областях — образование, транспорт, экология и др. Обезличивание персональных данных [для обучения ИИ] будет осуществляться в соответствии с действующими нормами закона о персональных данных, о чём присутствуют явные формулировки в законе. Уничтожение данных, в соответствии с формулировками документа, должен будет осуществлять тот участник, который покидает площадку эксперимента».