Реально опасной мне видится здесь даже не пресловутая проблема alignment ( соответствие человеческим целям методов исполнения поставленной задачи конкретным ии агентом); я думаю, ещё не наступило время, когда у этих "сущностей" появится собственное целеполагание. Куда опаснее связка : злонамеренная воля , извращённые цели конкретной группы людей + современные gen ai
Реально опасной мне видится здесь даже не пресловутая проблема alignment ( соответствие человеческим целям методов исполнения поставленной задачи конкретным ии агентом); я думаю, ещё не наступило время, когда у этих "сущностей" появится собственное целеполагание. Куда опаснее связка : злонамеренная воля , извращённые цели конкретной группы людей + современные gen ai