В США школьный ИИ принял за пистолет пачку Doritos и вызвал полицию

[JBFW]

Классическая история про мальчика, кричавшего "Волки!"

После 100500 выезда на пачку чипсов или носок в руке на это всё просто забьют, систему распознавания улучшат, чтобы различала цветные полоски на предмете, а потом очередной мальчик Билли принесет в школу пушку, с наклеенными на нее кусочками цветного скотча, и никто его не остановит.

[Finesse]

Это поиск баланса между ложноположителными и ложноотрицательными срабатываниями. Грубо говоря, их сумма константна, а снижение этой суммы (то есть увеличение точности) крайне трудно. Кмк лучше, чтобы такая система срабатывала, когда угрозы нет, чем не срабатывала, когда угроза есть.

[akuli]

Именно так. Система генерирующая огромное количество ложных срабатываний, не повышает безопасность, а снижает ее, потому что она обесценивает сам сигнал тревоги

[IIopy4uk]

Всё, что угодно в руках ginger может быть пистолетом?

[amazingname]

Ход мыслей системы "пофиг что пистолет красный, главное что рука черная..."

[alice160nokia]

а форму он просто так одел тк остальное не высохло - хотя срабатывание было на айфон который цвета оружия

[LinkToOS]

"Человек в камуфляже держит что-то в руке. Что это может быть?".
"Человек в камуфляже скорее всего военный. В руке он держит скорее всего оружие."
"Спасибо ИИ. Полиция выехала."

[vsaR1SK]

Вряд ли он в школу в камуфляже пришёл

[nulovkin]

Я, как человек с образованием, так обычно не делаю, но...

Так, рука черная, там разберутся

[LinkToOS]

Если бы дело было в этом, то ложные тревоги были бы многочисленными.

[nulovkin]

Не ТОЛЬКО в этом, но вполне возможно, что датасет был перекошен, нейронка переобучилась и стала считать это одним из признаков, что склонило чашу весов наряду с положением пачки

[Much1978]

Хуже будет если вместо пистолета ии увидит пакет чипсов ))

[ParaParadox]

Программное обеспечение для системы разработала компания Omnialert, которая признала ложное срабатывание, но подчеркнула, что пакет «очень напоминал оружие».

Сразу старый анекдот вспомнил...

В новостях: вчера в дом к гражданину А ворвались двое неизвестных, и, угрожая предметом, похожим на пистолет, отобрали предмет, похожий на телевизор.

[byvshev_en]

Здесь действительно лучше перебдеть чем недобдеть. Пусть лучше ложные срабатывания будут чем кто-то реальное оружие пронесёт и устроит пальбу. Ну и полиция пусть свой хлеб отрабатывает.

[qyix7z]

Вы готовы ежедневно ложится на землю по дулами пистолетов из-за пачки чипсов? У одних ложно-положительное, у других хлеб отработан, а Вы мордой в земле.

[ParaParadox]

Ну будет примерно как в аэропортах. Ложных срабатываний будет куча. Смотрите, мол, как у нас всё под контролем. Только вряд ли поможет избежать стрельбы.

Продают чувство защищённости.

Хотя х.з. Ничего не делать тоже не вариант.

[akuli]

Проблема не в ИИ, а в процессе. Почему алерт от системы с заведомо ненулевым процентом ложных срабатываний является прямым триггером для вызова вооруженного наряда? Где человек в цикле, который должен был посмотреть на картинку до нажатия "красной кнопки"? Это не сбой нейросети, это сбой проектирования всей системы безопасности

[Much1978]

Адвокат дьявола мод: если бы там был пистолет, а мидлмен в цикле дал сбой

[BugM]

Сажаем смотреть троих. Два из трех подтвердить должны. Все уже придумано.

Это точно дешевле выезда вооруженный группы на ложноположительнве срабатывания.

[alexalexes]

2 или 3 человека - посменно, и им зарплату, нужно платить.

[LinkToOS]

Скорее всего проблема в настройках ИИ.
Чем отличается ИИ от компьютерного распознавания предметов - тем что ИИ распознает предмет не по только фактическим признакам, но и по контекстным. Если у него задача обнаружить оружие, то он ищет ситуацию в которой возможно наличие оружия.
Если для данного контекста вероятность наличия оружия велика, то ИИ примет решение что оружие есть, даже если нет достаточного сходства предмета с оружием. "Ты видишь суслика? А ИИ видит."

[ofthevoid]

уже представляю в школе театральный кружок.. с реквизитами.. за то можно детально пол крупным планом рассмотреть