Как Россия регулирует безопасность ИИ

[NeriaLab]

А вот здесь есть проблемы:

При использовании для функционирования информационных систем искусственного интеллекта нужно предотвращать любые попытки воздействия на модель, а также запрещено использовать информацию для служебного использования в целях обучения моделей (пункт 60)

Определены требования к ответам модели, если у пользователей есть к ней доступ. Правила есть как для structured generation, так и для обычных текстовых ответов. Кроме того, расписаны необходимые действия по обработке запросов к модели и её ответов вне зависимости от типа генерации (пункт 61)

и т.д. т.д. где есть слово "модель"

В когнитивно-символьных системах и их гибридах, нет такого понятия - модель. В отличии от LLM - это совсем разные архитектуры, реализация, философия и этика, так как все "родились" задолго по появления LLM

P.S.: исключения составляют гибриды вида: LLM-Soar (когнитивно-символьная) и т.д.

Если не будут корректно использоваться термины согласно всем известным архитектурам, то все исследователи работающие с когнитивно-символьными системами могут забыть при все эти "указы-приказы", так как они никак не повлияют на развитие и работу этих систем

[alpiner]

Спасибо, исправил. Впрочем, в ряде документов используется формулировка "модель ИИ", поэтому термин местами сохранился.

[NeriaLab]

"Модель ИИ" - не совсем корректная формулировка и может вызвать разночтения, правильней говорить - архитектура, ведь речь идёт не о наборе параметров, а о структуре.

В сообществе когнитивно-символьных систем и их гибридов (Soar, ACT-R, Sigma, CLARION и др.) вопросы связанные с этикой, прорабатываются десятилетиями, в отличие от "мира LLM", где этика часто добавляется постфактум и разработчики LLM систем до сих пор не могут определиться вопросами связанных с этикой. Именно поэтому стоит заглянуть на официальные сайты и публикации этих проектов: там вы найдёте формальные подходы к этическому рассуждению, выработанные в диалоге с: философией, когнитивной наукой и инженерией.

В нашей архитектуре (логическо-когнитивно-символьный гибрид) мы используем такие понятия, как "этический тормоз" (механизм отказа от действия при конфликте с базовыми принципами), "этический консенсус" (локальные или глобальные нормы, устойчивые в сообществе), "этический корпус" (формализованная база моральных принципов, например, Декларация прав человека), "этические уровни" и др.