Стартап HeHealth решил закрыть своё приложение Calmara с искусственным интеллектом, цель которого — отсеивать пользователей с инфекциями, передающимися половым путём. Такое решение было принято после расследования Федеральной торговой комиссии США.
Приложение предлагало идущим на свидания людям отправлять фотографии своих интимных органов для их визуальной проверки на наличие инфекций. Разработчик обещал «чёткие, научно обоснованные ответы о состоянии сексуального здоровья партнёра», а также отмечал, что ИИ диагностирует более 10 заболеваний с точностью до 94%.
Однако в ФТС возникли опасения по поводу информации, на которую HeHealth опирался в своих заявлениях, в том числе касающейся диагностики. Регулятор отмечает, что HeHealth заплатила нескольким авторам исследования, которое оценивало только четыре вида ИППП, а не 10. При этом данные, использованные для обучения модели ИИ, включали изображения пользователей, которые никогда не проходили диагностический тест в приложении.
Учитывая, что большинство ИППП протекают бессимптомно, медицинские работники поставили под сомнение надёжность работы приложения. В ходе расследования Los Angeles Times выяснилось, что Calmara не мог различить даже неодушевленные предметы и не смог идентифицировать обучающие изображения с признаками ИППП.
Компания согласилась закрыть приложение 15 июля, а веб-сайт Calmara и ссылки на него уже недоступны. Компания также согласилась удалить всю личную информацию клиентов, полученную через приложения или поставщиков платёжных услуг, и потребовать того же от самих поставщиков.
ФТС заявила, что не будет продолжать расследование, поскольку HeHealth согласилась с условиями регулятора, а также из-за «небольшого количества пользователей и продаж Calmara в США».
