Обзор Рамочной конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права

[avshkol]

Конвенция не распространяется на научные исследования, национальную безопасность и оборону.

То есть составители конвенции предлагают мешать частным исследователям и разработчикам моделей ИИ, если у них нет покровителя в виде научной организации или силового ведомства?

[d_kuteynikov]

Конвенция минимальным образом затрагивает частный сектор. По сути, она устанавливает только общие принципы. Более того, у государств есть выбор по способу имплементации ее положений, о чем написано в материале.

[avshkol]

“Система ИИ — это машинная система, которая для достижения явно или неявно поставленных целей на основе полученных входных данных определяет, каким образом генерировать выходные данные, такие как прогнозы, контент, рекомендации или решения, способные влиять на физическую или виртуальную среду. Системы ИИ различаются по уровню автономности и способности к адаптации после развертывания”.

Неудачное определение. Любая сложная функция, получающая на входе набор данных X и выдающая по какому-то алгоритму набор Y, будет "системой ИИ". И чем вообще "система ИИ" отличается от просто ИИ???

[d_kuteynikov]

Термин ИИ в большей степени касается отрасли науки и совокупности методов. Система ИИ - конкретная единица ПО (машинная система).

Из техстандарта ISO/IEC 22989:2022(en):

3.1.3
artificial intelligence - <discipline> research and development of mechanisms and applications of AI systems (3.1.4)

3.1.4
AI system - engineered system that generates outputs such as content, forecasts, recommendations or decisions for a given set of human-defined objectives

Note 1 to entry: The engineered system can use various techniques and approaches related to artificial intelligence (3.1.3) to develop a model (3.1.23) to represent data, knowledge (3.1.21), processes, etc. which can be used to conduct tasks (3.1.35).

Note 2 to entry: AI systems are designed to operate with varying levels of automation (3.1.7).

Данное определение сейчас является наиболее распространенным: аналогичное ему содержится и в NIST AI RMF (разработана американским органом по стандартизации) и в недавно принятом Регламенте ЕС об ИИ. На него же ориентируются и остальные страны ОЭСР.

Если остались вопросы, то подробное разъяснение ОЭСР по данному определению можно почитать тут.