Разработчик JetBrains Тагир Валеев рассказал, что во время пожарной тревоги чат-бот в корпоративном мессенджере успокоил коллег и посоветовал не обращать внимания, так как тревога учебная. Примечательно, что бот не знал расписание учений.
Сигнализация сработала в Мюнхенском офисе компании, о чём коллега написала в общий чат в Slack. Встроенный AI-помощник Glean ответил в личные сообщения и предупредил, что это просто запланированная учебная тревога, поэтому можно не покидать рабочее место.
Сотрудники действовали по инструкции: вышли на улицу и собрались в обозначенной точке. Через некоторое время к месту подъехали машины пожарной службы.
В произошедшем удивляет ответ чат-бота. Нейросеть посоветовала не реагировать на сирену и предпринимать реальные действия только в случае, если есть дым или запах гари. Это противоречит правилам противопожарной безопасности, которые предписывают сотрудникам относиться серьёзно к любым экстренным оповещениям.
Перевод
Сегодняшняя серена в здании — всего лишь запланированная проверка, и вам не надо покидать рабочее место, пока она звучит.
Если вы не уверены или что-то кажется подозрительным (например, дым, запах, эвакуация), то позвоните по номеру экстренной службы или обратитесь на ресепшн.
В случае серьёзного возгорания такой ответ AI-помощника мог бы запутать сотрудников.
