Полицейское управление города Хибер-Сити в штате Юта столкнулось с необычным багом при тестировании ИИ-софта для автоматического написания отчетов. Программа Draft One, анализируя видео с нательной камеры офицера, заявила в отчете, что полицейский превратился в лягушку. Причина оказалась прозаичной: во время записи на фоне играл мультфильм Disney "Принцесса и лягушка", и ИИ принял его аудиодорожку за реальные события. "Тогда мы поняли, насколько важно проверять отчеты, сгенерированные ИИ", — рассказал сержант Кил телеканалу Fox 13.
Департамент тестирует две системы — Draft One от Axon и Code Four. Именно Draft One виновен в "лягушачьем" инциденте, — он использует GPT-4 Turbo для генерации отчетов на основе аудио с нательных камер. Система интегрирована в экосистему Axon — крупнейшего поставщика тейзеров и камер для американской полиции — и стоит $65–70 в месяц на офицера.
Конкурирующий Code Four работает схожим образом, но дополнительно расставляет таймстемпы и анализирует тон говорящих. Обе системы поддерживают английский и испанский языки. Журналисты Fox 13 присутствовали на демонстрации Code Four: полицейские разыграли учебную остановку автомобиля, и ИИ сгенерировал адекватный отчет, хотя и потребовавший корректировок.
По словам сержанта Кила, технология экономит ему 6–8 часов в неделю — раньше написание отчетов занимало 1–2 часа за раз. "Я не самый технически подкованный человек, но софт очень удобный", — отметил он. Тестовый период Code Four завершается в следующем месяце, однако руководство департамента уже заявило, что планирует продолжить использование ИИ — вопрос лишь в выборе конкретной системы. Случай с лягушкой, впрочем, наглядно показал: пока что финальная проверка человеком остается обязательной.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
