Создание безопасного ИИ: спецификации, надёжность и гарантии

[Wesha]

Большая проблема со всеми этими ИИ/нейросетями в том, что они имеют всегда идут по линии наименьшего сопротивления, то есть хорошо решают задачу максимизации целевой функции, и плохо — все остальные. Поэтому и возникают ситуации, подобные вот этой. И ещё спасибо, что никто от таких ошибок пока не гибнет

[WTYPMAH]

Это проблема любой статистической модели, и не только ИИ.
Поэтому авторы и выделяют целый блок понятию «спецификации». Если в спецификации изначально правильно указана область применения, то в дальнейшем не должно быть «всего остального»

[Wesha]

Video unavailable