Обновить

ИИ ввёл режим изоляции в американской школе, приняв кларнет ученика за оружие

Время на прочтение1 мин
Охват и читатели4.6K
Всего голосов 6: ↑5 и ↓1+9
Комментарии36

Комментарии 36

Лаудани планирует поговорить с учениками об опасностях, связанных с имитацией наличия оружия на территории школы.

А они не хотят обсудить опасности, связанные с имитацией наличия интеллекта у дирекции школы?

 имитацией наличия интеллекта у дирекции школы?

Откуда такие выводы? Как бы в этой ситуации поступили вы?

Допускаете ли вы такую мысль, как "убрать, поменять или починить систему, неспособную к отличию кларнета от штурмовой винтовки"? Звучит здраво, учитывая, что дирекция хочет поговорить с учениками с учётом случая, когда ученики не виноваты.

Допускаю. Одно другому не мешает. Вопрос остается: как должен был поступить директор в уже произошедшей ситуации, чтобы интернет не обвинил его в имитации интеллекта?

"убрать, поменять или починить систему, неспособную к отличию кларнета от штурмовой винтовки"

Вы ни разу не читали новости, где настоящие живые полицейские убивали людей, потому что не могли отличить (не помню что именно) от пистолета? Лично вы совершенно точно в любой ситуации сможете отличить кларнет от штурмовой винтовки?

Проблема в том, что ситуация со временем превратится в "мальчика, кричащего о волках", и усилится не настоящая безопасность, а театр безопасности. В итоге можно спокойно эксплуатировать брешь в системе, пронеся настоящее оружие. Это ещё хуже.

Реагировать на каждый ложноположительный инцидент - реагировалки не хватит.

С евгенически дефектными полицейскими ведь регулярно разбираются, почему нельзя усомниться в полноте полномочий и адекватности работы подобных систем?

Проблема в том, что ситуация со временем превратится в "мальчика, кричащего о волках", и усилится не настоящая безопасность, а театр безопасности.

Почему вы так думаете?

Реагировать на каждый ложноположительный инцидент - реагировалки не хватит.

Понятно, что с вашей точки зрения лучше не отреагировать школьника со штурмовой винтовкой, чем лишний раз зря отреагировать на школьника с кларнетом. Но сколько таких ложноположительных инцидентов происходит в месяц, например?

С евгенически дефектными полицейскими ведь регулярно разбираются, почему нельзя усомниться в полноте полномочий и адекватности работы подобных систем?

Кто сказал что нельзя?

Кто сказал, что я сказал, что нельзя? Просьба не паясничать. У меня как раз есть претензии к системе, которая может спутать что угодно с чем угодно и натравить вышеописанных вами дефектных ментов на кого угодно. Я хочу, чтобы с этой системой что-то сделали, но руководство школы предлагает снести школьникам мозг, а не разработчикам подобных костылей. Тон вашей дискуссии прямо предполагает либо полное отсутствие этой системы, либо абсолютный её авторитет.

Почему вы уверены, что руководство школы (а скорее всего даже не школы, потому что решение наверняка общее как минимум для округа) не будет обращаться к разработчикам системы?

дефектных ментов 

Да вроде как раз не дефектные оказались. Так что возвращаю - просьба не паясничать.

 Тон вашей дискуссии прямо предполагает либо полное отсутствие этой системы, либо абсолютный её авторитет.

Нет. Я считаю, что в сложившейся ситуации разумно предупредить учеников о том, что могут быть ложные срабатывания и рассказать им, как их можно избежать. Так же как разумно уступить дорогу грузовику, который несется на красный, а не бросаться ему под колеса, настаивая на своей правоте.

им, как их можно избежать

-Дети, мы поставили потолочные выдвижные турели с ИИ распознованием угроз, не носите в школу кларнеты - вас расстреляет в решето .50 калибром
... неделю спустя ...
-Дети, к тому списку запрещенных предметов прибавились чипсы Doritos

Ну может не читать ученикам лекции? Давайте запретим детям играть, а то вдруг ИИ не то подумает, да?

Такие выводы из того, что вместо того, чтобы разбираться со своей системой и методами её применения, они первым делом лекции ученикам читать будут. которые наверняка выльются в правило типа "нельзя носить продолговатые предметы кроме как вдвоём", и придётся музыканту помощника искать, чтобы кларнет носить.

Да, потому что это самое разумное в данной ситуации действие - объяснить ученикам, что могут быть ложные тревоги, и как их избегать. А потом разбираться с системой.

Второй вопрос остается открытым: как бы поступили вы?

Я же написал: разбираться с системой. Но совршенно точно не внушать ученикам, особенно девочкам, подсознательный страх перед кларнетами и другими длинными предметами.

подсознательный страх

и наоборот притуплять восприятие угрозы - сработала тревога "ВИУ!!! ВИУ!!!" - а это опять наверное Петров со своим кларнетом приперся...

Просто выбираем какие срабатывания нам нравится больше: ложноположительные и ложноотрицательные.

Эта новость звучит лучше чем: автоматическая ИИ система приняла пистолет за пачку чипсов.

Звучит лучше до поры, пока более продвинутые системы не реализуют сценарий по типу "кларнет распознан как огнестрел – определено местонахождение потенциального преступника – подано напряжение на токопроводящую плитку для обезвреживания – ученик умер из-за сбойного превышения параметров тока или слабого сердца". Полностью беспилотные авто люди пока не спешат принимать на дорогах. Тут аналогично, риски ошибки все еще велики.

Как реализуют, так и будем нервничать, а то ведём себя как Умная Эльза

спасибо, очень любопытно. История из серии что и сказка про Кикоса (м/ф по ней есть) и некоторые другие

... автоматически открыла огонь на поражение

Неизвестно, какую именно систему наблюдения использует школа. Однако тот факт, что система неспособна отличить кларнет с 17 клавишами от винтовки, вызывает беспокойство, пишет Futurism.

судя по фотке, больше похожи на индейские трубки с ядовитыми стрелами. вот уже от этого отличать будет сложнее.

как они жили до внедрения ии?

Странно почему перед тем как подать сигнал тревоги не проверить кожаному на основании чего LLM модель решила вызвать полицию. Чудесный новый мир.

Ситуация: ИИ определил у школьника в руках штурмовую винтовку и отправил запрос на проверку. Пока кожаный мешок проверил, прошло несколько минут. Оказалось, что действительно штурмовая винтовка. Когда полиция приехала в школу, он застрелил уже 10 человек. Если бы полиция выехала на несколько минут раньше, то не застрелил бы.

Вот именно поэтому сигнал тревоги подается сразу.

Может оформить подписку на индусов, что капчи разгадывают? Они в течении 30 секунд все кларнеты от ИИ разгадают.

противопожарные системы так же вызывают пожарных - вполне нормальная практика

Никто не сможет отличить кларнет в футляре от самопала.

Ладно кларнет, а то, бывает, учитель географии карты в тубусе носит.

У нас однажды препод пришёл с огромным пластмассовым тубусом, положил на стол, вытащил и него меч, потом плакат по теме урока (металлургия), плакат повесил на доску, меч убрал обратно в тубус, оглядел нас молча, и потом сказал "Я потом на церемонию открытия..."

Я потом на церемонию открытия...

Скорее, посвящения в рыцари

Да ну, кто-нибудь какую-нибудь ленточку перерубал. В нулевые такой креатив любили: от своего культурного кода мы в очередной раз стремительно отказались, надо спешно придумывать новый, копируя всё отовсюду.

 "Я потом на церемонию открытия..."

... ледяного трона?)

Все же, насколько можно судить по контексту даже из оригинала, никакого футляра не было.

ИИ посмотрел фильм Eagle Eye и решил перестраховаться.

ученик держал кларнет как оружие

Вангую, среди учеников теперь станет модным держать продолговатые предметы как оружие...

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации