С 29 апреля 2020 года в Москве начинает работу система искусственного интеллекта (ИИ), предназначенная для обнаружения коронавируса по рентгеновским снимкам, сообщил мэр города на совещании с президентом по вопросам противодействия распространению коронавирусной инфекции.

Руководство для разработки автоматического детектора COVID-19 по рентгеновским снимкам (флюорограммам) было опубликовано на Хабре 23 марта 2020 года. Автор гайда обращал внимание на то, что количество тестовых наборов COVID-19 ограничено во всех странах мира. Поэтому есть смысл обратиться к другим методам диагностики, в том числе флюорографии.

По словам Собянина, в Москве был создан единый рентгенологический информационный центр, который даёт специалистам «второе мнение» о рентгеновских снимках. Также начали проводить эксперименты с применением ИИ, чтобы выявлять подозрения на онкологические заболевания.


Пример флюорограммы от пациента с положительным тестом на COVID-19. С помощью Keras и TensorFlow на таких изображениях можно обучить классификатор обнаруживать COVID-19

«Буквально недавно… вы подписали федеральный закон о проведении эксперимента в Москве в области искусственного интеллекта. Пользуясь этими возможностями, мы создали специальную группу на базе нашего рентгенологического центра, и буквально завтра мы включим уже систему ИИ по обнаружению коронавируса на основе рентгеновских снимков. Она будет работать уже в боевом режиме. Получив первый серьёзный опыт, мы доложим вам, министерству здравоохранения, правительству, чтобы можно было распространить этот опыт и возможности на другие регионы. Это важная работа», — сказал Собянин.

Закон об экспериментальном правовом режиме для внедрения технологий искусственного интеллекта в Москве предусматривает проведение в Москве эксперимента с 1 июля 2020 года «в целях создания необходимых условий для разработки и внедрения технологий ИИ, а также последующего использования результатов его применения». Условия, требования, порядок разработки, создания, внедрения и реализации ИИ-технологий, а также механизм обработки обезличенных персональных данных будут регламентироваться столичным правительством. Срок проведения эксперимента — пять лет.

Участниками эксперимента станут юридические лица и индивидуальные предприниматели, внесённые в реестр участников экспериментального режима по их собственной заявке.

Руководитель департамента информационных технологий Москвы Эдуард Лысенко пояснил, что Москва готова выступить пилотной площадкой для апробирования решений на базе ИИ и проработки вопросов нормативного регулирования этой отрасли: «В состав координационного совета войдут представители федеральных ведомств, правительства Москвы и профильного бизнес-сообщества. Этот орган будет отвечать за координацию всех участников эксперимента: формировать стратегические направления и механизмы реализации экспериментального правового режима, вести реестр участников и следить за тем, чтобы проекты, которые реализуются в этой регуляторной песочнице, не нарушали Конституцию и федеральное законодательство. Конкретный состав проектов координационный совет определит к началу эксперимента. В первую очередь планируется реализация инициатив, направленных на улучшение повседневной жизни горожан. Это проекты в образовании, здравоохранении, социальной сфере. Повышение эффективности в этих отраслях — первоочередная задача эксперимента. Кроме того, столь же приоритетными являются решения, направленные на повышение качества городского управления, реализацию задач в строительстве, ЖКХ, транспорте».


Слева положительные образцы (от заражённых пациентов), а справа — отрицательные. Эти изображения используются для обучения модели, чтобы автоматически предсказывать наличие болезни

Распознавание коронавируса с помощью обученной нейросети — один из первых экспериментов ИИ, который начинается после принятия нового закона. Но в реальности Москва не первый год использует технологии ИИ в городских сервисах: «Например, в общегородском контакт-центре с 2014 года работает голосовой помощник, — рассказал Лысенко. — Мы научили робота не только отвечать на самые распространённые вопросы горожан, но и анализировать интонацию и даже распознавать сленг. К примеру, если человек называет машину „тачкой”, робот это поймёт и ответит на вопрос. И если поначалу москвичи относились к технологии с недоверием, то сейчас свободно общаются с ИИ-оператором и даже благодарят его. Зачастую он предоставляет инфор��ацию гораздо быстрее, чем человек. У обычных операторов появилось больше времени для ответов на сложные, нестандартные вопросы. Проекты с использованием ИИ есть в сфере транспорта — начиная от управления транспортными потоками и заканчивая тестированием беспилотного общественного транспорта. Речевые технологии в здравоохранении помогают пациентам записаться к врачу, отменить или перенести запись без привлечения оператора — с помощью голосового бота… Ещё одно важное направление, над которым мы сейчас работаем, — предоставление проактивных онлайн-услуг. Смысл в том, что система будет анализировать данные, которые пользователь предоставил городу, и предлагать ему (пользователю) актуальные услуги в определённой жизненной ситуации».

В конце прошлого года исследование ДИТ показало, что 90% москвичей хотя бы раз использовали сервисы на основе ИИ, а 93% жителей поддерживают развитие этих технологий.

Обезличенные данные

В рамках нового эксперимента потенциальные проблемы могут возникнуть с обработкой персональных данных москвичей. Например, последняя разработка ДИТ Москвы — приложение «Социальный мониторинг» выполняло следующие действия:

• получало права на доступ ко всей информации на устройстве, включая координаты GPS и местоположение (см. полный список разрешений);
  
• передавало собранную информацию на серверы мэрии Москвы в открытом виде без шифрования;
  
• для распознавания лиц использовало эстонский сервис identix.one. Фотографии для распознавания лиц передаются на адрес, принадлежащий немецкой хостинговой компании Hetzner;
  
• генерировало QR-код в качестве пропуска на перемещение по городу.

После массового возмущения низким качеством программного обеспечения ДИТ Москвы принял решение удалить приложение из каталога.

«Обезличенные персональные данные крайне важны для обучения ИИ, — объясняет руководитель департамента информационных технологий Москвы. — Например, система поддержки врачебных решений не сможет подсказать врачу-радиологу, что на конкретном снимке КТ в конкретной области лёгкого есть подозрение на опухоль, если эта система предварительно не будет обучена на тысячах снимков. При этом для обучения системы ей не надо знать, кому принадл��жит каждый из этих снимков — ей нужно научиться распознавать злокачественные опухоли. Аналогичная ситуация с системами в других областях — образование, транспорт, экология и др. Обезличивание персональных данных [для обучения ИИ] будет осуществляться в соответствии с действующими нормами закона о персональных данных, о чём присутствуют явные формулировки в законе. Уничтожение данных, в соответствии с формулировками документа, должен будет осуществлять тот участник, который покидает площадку эксперимента».