У современных систем искусственного интеллекта нет субъектности (собственного «Я»), они не имеют способности к рефлексии в процессе принятия решений, и не имеют понимания смысла и последствий даже собственных «действий».

Способность перспективных когнитивных систем к рефлексии (в том числе, пониманию смыслов и последствий), является естественным барьером для таких ситуаций.

В статье приводится гипотеза с формализуемым определением субъектности.