Недоумения пост...
В п. 5 ч. 2 и п. 5 ч. 3 ст. 6 Федерального закона от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» сказано:
большая фундаментальная модель искусственного интеллекта прошла подтверждение соответствия законодательству Российской Федерации и традиционным российским духовно-нравственным ценностям в порядке, установленном Правительством Российской Федерации
Надеваем шляпу разработчика БФМ и размышляем: а как мне научить мою будущую ИИ-модель не просто духовно-нравственным ценностям, а именно традиционным и именно российским? Ждать упомянутый акт Правительства РФ бессмысленно: он о порядке подтверждения, т.е. это процедурный документ. А нам тут над смыслами надо думать…
В Основах государственной политики по сохранению и укреплению традиционных российских духовно-нравственных ценностей, утв. Указом Президента РФ от 09.11.2022 № 809, есть определение «традиционные ценности» (п. 4) и что к ним относится (п. 5). Человеку это все более-менее понятно. А как этому научить ИИ-модель?
Ну хорошо, обучение модели – это вопрос данных. Для каждой ценности можно попробовать подобрать соответствующий корпус, тезаурус и/или онтологию, а то и не один/одну. И вроде как научить модель тому, что «хорошо», может получиться. Но что там с единством противоположностей, диалектикой Гегеля и/или материалистической диалектикой Маркса/Энгельса? Даже не философ легко вспомнит Владимира Маяковского «Что такое хорошо и что такое плохо?». Без «плохого» не получится обозначить «хорошее». Соответственно, ИИ-модель надо «научить» и плохим вещам, конечно же сопровождая это отрицательными весами и другими маркерами со знаком минус.
Допустим, молодой неокрепший разум зашел в сеть и спросил очередную БФМ: «Вокруг все говорят, что быть экстремистом нехорошо. Кто такие экстремисты? Я не хочу быть на них похож». Если модель не видела ни байта экстремистских материалов, то она в ответ может просто сгаллюцинировать. И ладно бы просто придумает что-то абстрактное и несуществующее, а если возьмет и отнесет, например, какую-то из мировых религий к экстремизму? А молодой разум все это возьмет на вооружение (ведь БФМ же прошла проверку, врать в этом вопросе не может) – и вот оно готовое «разжигание»…
В общем, без плохого в обучающих выборках не обойтись. И вот здесь обозначились два наифундаментальнейших препятствия:
1) размещение экстремистских материалов запрещено (ч. 6 ст. 13.15, ст. 13.37, ст. 20.3, ст. 20.29 КоАП РФ; ст. 282.4 УК РФ);
2) поиск экстремистских материалов запрещен (ст. 13.53 КоАП РФ).
Т.е. искать и негде, и нельзя.
Не понимаю, как эту проблему преодолевать: инженерная задача (обучить модель) превратилась в юридическое препятствие (как научить правильному и правильно научить неправильному). Тут либо ждать какое-то специальное законодательное разрешение наподобие ч. 2 ст. 10 закона № 243-ФЗ, либо вместо книги одного небезызвестного австрийского художника отдавать ИИ-модели материалы Нюрнбергских процессов (с какими-то направлениями экстремизма это может сработать, но не со всеми). Впрочем, если под эгидой государства и под контролем правительственных структур создать специальный банк экстремистских материалов (не просто заголовки с кратким описанием, а полностью с содержимым, с разметкой, весами и т.п.) исключительно для обучения ИИ-моделей и с предоставлением доступа исключительно сертифицированным/лицензированным разработчикам БФМ – как вариант…