Создание безопасного ИИ: спецификации, надёжность и гарантии

Большая проблема со всеми этими ИИ/нейросетями в том, что они имеют всегда идут по линии наименьшего сопротивления, то есть хорошо решают задачу максимизации целевой функции, и плохо — все остальные. Поэтому и возникают ситуации, подобные вот этой. И ещё спасибо, что никто от таких ошибок пока не гибнет