1. Предназначение ИТ-продукта Telepathy – интерфейса мозг-компьютер компании Nueralink
В Резолюции Генеральной Ассамблеи ООН от 22.03.2024 г. № A/78/L.49 «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития» [1] подтверждается (п. 5), что «права человека и основные свободы должны уважаться, защищаться и поощряться на протяжении всего жизненного цикла систем искусственного интеллекта» и всем государствам-члены ООН и, в соответствующих случаях, другим заинтересованным сторонам следует «воздержаться от использования или прекратить использование систем искусственного интеллекта, которые невозможно эксплуатировать в соответствии с международным правом или которые создают неоправданные риски для осуществления прав человека, особенно для тех, кто находится в уязвимом положении», при этом «те права, которыми люди обладают вне интернета, должны быть также защищены и в интернете, в том числе на протяжении всего жизненного цикла систем искусственного интеллекта».
Создаваемые, испытываемые и развертываемые в настоящее время системы искусственного интеллекта («ИИ») охватываются более широким понятием - продукт информационных технологий («ИТ-продукт»).
При этом, согласно позиции Российской Академии Наук, озвученной академиком РАН Игорем Соколовым, «искусственный интеллект – это методы, которыми решаются те задачи, для которых отсутствуют или неприемлемы по временным ограничениям известные алгоритмы решения… Искусственный интеллект – это всего лишь новая вычислительная процедура… это лишь матричное уравнение. И этот математический аппарат работал уже в 1950-е годы и назывался, да и сейчас называется, фильтрация – фильтры Калмана, фильтры Пугачева и т.п. Эта математика использовалась в управлении сложными техническими устройствами, например – самолетами, просто ее тогда не называли искусственным интеллектом, потому что число параметров измерялось десятками, а сейчас топовые нейронные сети содержать более чем 500 млрд параметров». [11]
В свою очередь, автор термина искусственный интеллект, профессор Стэнфордского университета Джон Маккарти, определял интеллект как «вычислительную часть способности достигать целей в мире», а ИИ — как «науку и технику создания интеллектуальных машин, особенно интеллектуальных компьютерных программ». Вместе с тем, тот же автор предсказывает или сетует, что «как только это заработает, никто больше не будет называть это ИИ». [23, 26]
Логично предположить, что мы вернемся к использованию общего и устоявшегося понимания и определения ИТ-продукта, под которым принято понимать комплексное программно-аппаратное решение в области информационных технологий, предназначенное для выполнения определенных функций.
Как отмечено выше, в основе создания и функционирования всякого ИТ-продукта (включая инструментарий ИИ) – математические, вычислительные процедуры, классические фильтры и матричные уравнения.
ИТ-продукт может включать в себя как программное обеспечение разного назначения, так и аппаратные компоненты, а также комбинации обоих, в т.ч. различные виды технических средств обработки и передачи информации (включая программные интерфейсы), которые обращаются «на информационном рынке и отличаются многочисленными особенностями как на стадиях разработки, производства, так и на этапе обращения» [3].
В целом под предназначением ИТ-продукта понимается удовлетворение потребностей пользователей в сфере информационных технологий. При этом классификация ИТ-продуктов может быть разнообразной и зависит от множества параметров, в частности, таких как функциональность, сфера применения, архитектура и технологии.
Предназначение интерфейса мозг-компьютер концептуально определено его создателями следующим образом: «чтобы вернуть независимость и улучшить жизнь, мы создали интерфейс мозг-компьютер (BCI), который обеспечивает быстрое и надежное управление компьютером и ставит во главу угла простоту использования». [5].
Иными словами, подобные инновационные продукты имеют первостепенной задачей повысить качество жизни людей, страдающих инвалидностью конечностей или другими паралитическими состояниями [8].
Кроме достижения целей предоставления решений для различных неврологических расстройств, ИТ-продукт Telepathy имеет следующий практический потенциал [9]:
Улучшение психического здоровья: технология Neuralink потенциально может применяться при лечении психических заболеваний. Возможно, удастся разработать меры вмешательства при таких состояниях, как депрессия, тревога или обсессивно-компульсивное расстройство;
Расширение когнитивных способностей: основатель компании, Илон Маск, предполагает, что Neuralink потенциально может улучшить человеческую познавательные способности – память, скорость обучения или обработки информации;
Интеграция человека и машины: Neuralink может способствовать бесшовной интеграции между людьми и технологиями, включая улучшенное общение между людьми, улучшенное управление внешними устройствами или более захватывающий опыт виртуальной реальности;
Исследование и понимание мозга: разработанная технология от Neuralink может дать ценную информацию о том, как в действительности функционирует мозг, что может иметь значимые последствия для нейробиологии и, в целом, науки о познании.
В фазе разработки компанией Nueralink чип для спинного мозга, планируемый к использованию именно через ИТ-продукт Telepathy – интерфейс мозг-компьютер (BCI).
В дальнейшем интерфейс «мозг-компьютер» от Neuralink может быть ориентирован на восстановление зрения слепым, а также другим людям со зрительными расстройствами. Мозговой чип Neuralink может стимулировать части зрительной коры и, возможно, даже восстановить зрение при утрате соединения зрительного нерва и мозга. Планируется, что продукт будет назван «Слепое зрение» («Blindsight»). [10, 12, 13]
2. Описание жизненного цикла ИТ-продукта
Устоявшаяся терминология и общая рекомендованная структура процессов жизненного цикла ИТ-продуктов, на которую можно ориентироваться в программной индустрии, отображены в целом ряде документов по стандартизации как международного, так и национального уровней.
Так в п.4.16 ГОСТ Р ИСО/МЭК 12207 — 2010 «Информационная технология. Системная и программная инженерия. Процессы жизненного цикла программных средств» жизненный цикл (life cycle) ИТ-продукта определен как «развитие системы, продукта, услуги, проекта или других изготовленных человеком объектов, начиная со стадии разработки концепции и заканчивая прекращением применения». При этом под ИТ-продуктом (software product) в п.4.22 названного стандарта понимается «совокупность компьютерных программ, процедур и, возможно, связанных с ними документации и данных».[14]
Жизненный процесс ИТ-продукта описывается посредством модели жизненного цикла, состоящей из стадий. Модели принято использовать для представления всего жизненного цикла от замысла до прекращения применения или для представления лишь части жизненного цикла конкретного проекта.
Модель жизненного цикла сводится к описанию последовательности стадий, которые могут перекрываться и (или) повторяться циклически в соответствии с областью применения, размером, сложностью ИТ-продукта, потребностью в изменениях и возможностях. Каждая стадия описывается в дефинициях ее цели и выходов. [20]
Общий подход к определению жизненного цикла ИТ-продукта сохраняется и при описании жизненного цикла инструментария искусственного интеллекта (ИИ-инструментария).
К примеру, в актуальном нормативном регулировании Великобритании мы находим следующее определение: «Жизненный цикл ИИ: все события и процессы, связанные с продолжительностью жизни системы ИИ от создания до вывода из эксплуатации, включая его проектирование, исследования, обучение, разработку, внедрение, интеграцию, эксплуатацию, обслуживание, продажу, использование и управление» [21].
Иными словами, жизненный цикл продуктов ИИ итеративен [25] – равно как и ИТ-продукта любого вендора, действующего на открытом рынке и поддерживающего обратную связь с пользователями продукта (заказчиками и/или потребителями).
В свою очередь, консолидированный подход Европейского Союза к определению жизненного цикла ИИ направлен на сдерживание неконтролируемого, общественно-опасного и недобросовестного использования инструментария ИИ и, в этих целях, сводится к следующей модели (стадиям) жизненного цикла ИИ [22]:
Проектирование в соответствии с требованиями (Design in line with requirements) – на этой стадии разработчикам/поставщикам ИТ-продукта важно убедиться, что системы искусственного интеллекта стабильно работают по назначению и находятся в рабочем состоянии в соответствие регулятивными нормам;
Оценка соответствия (Conformity assessment) – здесь выполняется предварительная оценка соответствия ИТ-продукта;
Постмаркетинговый мониторинг (Post-market monitoring) – фаза, на которой разработчики/поставщики должны активно и систематически собирать, документировать и анализировать соответствующие данные о надежности, производительность и безопасность систем искусственного интеллекта на протяжении всего их срока службы, а также оценивать и подтверждать неизменное соответствие систем искусственного интеллекта регулятивными нормам;
Инцидент-система отчетов (Incident report system) – цель и выход на этой стадии – своевременное информирование разработчиками/поставщиками о серьезных инцидентах, а также о неисправностях, приводящих к нарушениям фундаментальных права (как основа для расследований, проводимых компетентными органами);
Новое соответствие и его оценка (New conformity assessment) –цикличная оценка соответствия в случае существенного изменения ИТ-продукта (изменение в его целевом назначении или изменение, влияющее на соответствие системы ИИ регулятивным нормам) разработчиками, поставщиками или любой третьей стороной, в том числе когда изменения выходят за рамки «предопределенного диапазона», указанного разработчиком/поставщиком для непрерывно обучающихся систем искусственного интеллекта.
В целом можно говорить об исторической преемственности между общепризнанными подходами к непрерывному циклу испытаний продукции (в т.ч. ИТ-продуктов) сформулированных как в международных стандартах [15, 16], так и в ГОСТ 16504-81 «Испытания и контроль качества продукции. Основные термины и определения». [19] В силу п.6 (с.17) названного ГОСТ, «главным признаком объекта испытаний является то, что по результатам его испытаний принимается то или другое решение по этому объекту». По смыслу упомянутого пункта ГОСТ – объектом испытаний для ИТ-продукта (продукта ИИ) является ИТ-продукт в целом.
3. Описание жизненного цикла ИТ-продукта Telepathy - интерфейса мозг-компьютер (BCI) компании Nueralink
Исходя из представленного понимания дефиниции информационного продукта, а также методик и стандартов, касающихся организации жизненного цикла информационных продуктов, допустимо изложить следующее описание жизненного цикла ИТ-продукта искусственного интеллекта Telepathy - интерфейса мозг-компьютер (BCI) компании Nueralink:
Проектирование в соответствии с требованиями (Design in line with requirements) – старт разработки проекта Telepathy компанией Neuralink пришелся на 2016 год;
Оценка соответствия (Conformity assessment) – в последующие почти семь лет имплантации подвергались исключительно животные: обезьяну научили двигать курсор силой мысли, свиньям посылали импульсы для выполнения движений. Осенью 2023 г. национальный регулятор США (Food and Drug Administration) выдал компании Neuralink разрешение на проведение испытаний на людях в рамках проекта Telepathy;
Постмаркетинговый мониторинг (Post-market monitoring) – осенью 2023 года Neuralink начала отбор кандидатов для имплантации мозгового чипа, а 28 января 2024 г. первый человек получил имплантат от Neuralink, началось успешное выздоровление пациента и многообещающее формирование нейронных спайков в его мозгу (активируемых с помощью ИТ-продукта Telepathy - интерфейса мозг-компьютер);
Инцидент-система отчетов (Incident report system) – информирование об инцидентах и/или неисправностях, требующих расследований, компетентных органов, на данный момент не имели места, а испытания проходят успешно;
Новое соответствие и его оценка (New conformity assessment) – в течение пяти-семи лет запланированы первые практические клинические применения ИТ-продукта искусственного интеллекта Telepathy - интерфейса мозг-компьютер (BCI) компании Nueralink, что позволит улучшать продукт, обеспечивать его соответствие меняющимся целям его применения.
Обращаясь к краткому описанию итеративного жизненного цикла ИТ-продукта искусственного интеллекта Telepathy (интерфейса мозг-компьютер (BCI) компании Nueralink), можно отметить следующее:
Предпроектный этап (Pre-Design stage) успешно пройден - выполнены планирование проекта создания ИТ-продукта, спецификация проблемы, сформирована предыстория исследования и собраны данные испытаний на животных, необходимые для проектирования рабочей модели ИТ-продукта;
Этап проектирования и разработки (Design and Development stage) успешно выполнен - проведен анализ требований и собранных данных, спроектирована рабочая модель ИТ-продукта, получено разрешение на клинические испытания на людях;
Этап развертывания (Deployment stage) – в стадии реализации. Первая рабочая модель ИТ-продукта Telepathy (интерфейса мозг-компьютер (BCI) компании Nueralink) выпущена и используется. В течение года планируется ввод в эксплуатацию еще 11 таких интерфейсов, а в течение пяти-семи лет – массовое применение интерфейса мозг-компьютер (BCI) по меньшей мере для трех категорий людей с ограниченными возможностями - имеющими инвалидность конечностей, травмы спинного мозга и зрительные травмы/патологии/функциональные расстройства.
4. Заключение
Резюмируя следует отметить, что в экспертном сообществе и бизнес- среде признается и понимается своевременность политических усилий, направленных на создание регулятивных норм применительно к жизненному циклу ИТ-продуктов искусственного интеллекта.
Члены Ассоциации вычислительной техники (ACM) Вэйу Ву (Weiyue Wu) и Шаошан Лиу (Shaoshan Liu) так сформулировали дилемму регулятивного воздействия с сфере искусственного интеллекта:
«Без должным образом регулируемой среды компании, занимающиеся искусственным интеллектом, не смогут процветать и трансформировать свои новейшие технологии в успешные продукты. Когда нормативные требования отсутствуют, игроки на поле могут сходить с ума и ставить на карту как будущее компании, так и общественную безопасность, что в долгосрочной перспективе ставит под угрозу технологический прогресс. Когда требования слишком жесткие, компании с ограниченным бюджетом, занимающиеся искусственным интеллектом, особенно стартапы, будут терпеть невосполнимые финансовые потери из-за подачи повторяющихся документов в различные офисы. Ключом к разрешению проблем является четкое сообщение о том, что потенциальные выгоды перевешивают соответствующие риски.».[24]
Актуальная категоризация рисков внедрения ИТ-продуктов искусственного интеллекта фундаментально сформулирована членами-экспертами Ассоциации вычислительной техники (ACM) и нашла свое отражение в новейшем законодательстве, в частности, в Законе Европейского Союза об искусственном интеллекте (European Union Artificial Intelligence Act), а также в указах президента США и актах Организации Объединенных Наций.
Важно отметить, что и в национальном законодательстве Российской Федерации (Указе Президента РФ от 10 октября 2019 г. №490 «О развитии искусственного интеллекта в Российской Федерации" (с изменениями и дополнениями 2024 г.) присутствует сходное с общепризнанным изложение рисков ИИ-инструментария.
Таблица 1. Уровни риска искусственного интеллекта и регулятивные меры
Уровень риска
|
Содержание риска
|
Регулятивные меры
|
Неприемлемый риск | Системы искусственного интеллекта считаются явной угрозой безопасности существованию и охраняемым законом правам людей, например, те системы, которые используют подсознательные манипуляции или социальный рейтинг | Запрет разработки/использования |
Высокий риск | Системы искусственного интеллекта, которые могут нанести вред в случае неисправности или неправильного использования, например, в образовании, трудоустройстве, правоохранительной деятельности, иммиграции, безопасности продукции, критической инфраструктуре
| Регулирование разработки/использования |
Ограниченный риск | Системы искусственного интеллекта с риском манипуляций или обмана, когда люди должны быть проинформированы, что они взаимодействуют с ИИ, например, чат-ботом или инструментом распознавания эмоций
| Прозрачность использования
|
Минимальный риск | Большинство используемых в настоящее время систем ИИ, например, видеоигры или спам-фильтры | Без вменения обязательств разработчикам/поставщикам
|
Мы видим, что правительства устанавливают ограничения на ИИ - многие страны/регионы обсуждают или пытаются внедрить нормативные установления в сфере обучения и использования искусственного интеллекта.
Изложенное свидетельствует о важности не только обеспечения экспоненциального роста в сфере создания и развития ИТ-продуктов искусственного интеллекта, но и важности параллельного финансирования и выполнения исследований в сфере нейроэтики для обеспечения защиты человечества от его собственной активности и продуктов его интеллектуального творчества и прогресса.
Представляется важным обсуждать вопросы нейроэтики сейчас, на ранних этапах разработки и внедрения ИИ-инструментария, особенно в такой деликатной сфере, как медицина.
Регулирование вопросов нейроэтики в чувствительных сферах поддерживается также признанием одним из отцов Интернета, Винтона Грея «Винт» Серфа, того факта, что "изобретая Интернет ... мы не думали о последствиях". [27]
У нашего поколения есть шанс мыслить и действовать более ответственно и проницательно.
5. Библиография
Список литературы
1. Резолюция Генеральной Ассамблеи ООН от 22.03.2024 г. № A/78/L.49 «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития» / Официальный сайт Организации Объединенных Наций (русский язык) –URL: https://documents.un.org/doc/undoc/ltd/n24/065/94/pdf/n2406594.pdf?token=e1BaksT0b14YZK5Uv1&fe=true (дата обращения 22.03.2024 г.);
2. Указ Президента РФ от 10 октября 2019 г. № 490 "О развитии искусственного интеллекта в Российской Федерации" (с изменениями и дополнениями) с изменениями и дополнениями от 15 февраля 2024 г. / ГАРАНТ.РУ - URL: https://www.garant.ru/products/ipo/prime/doc/72738946/ (дата обращения - 22.03.2024 г.);
3. Курс лекций «Экономика отрасли», учебного курса «Информационные системы и программирование» АНО ПОО «Колледж цифровой экономики и технологий»;
4. «Всё, что вам нужно знать об ИТ-продуктах — полное руководство от определения до продвижения» - Портал IaaSSaaSPaaS.ru / URL: https://iaassaaspaas.ru/terminologiya/it-produkt (дата обращения 07.02.2024 г.);
5. A Seamless BCI Experience – Neuralink.com - URL: https://neuralink.com/#experience (дата обращения - 24.03.2024 г.);
6. Neuralink Live Update - March 2024 / @neuralink channel - URL: https://www.youtube.com/watch?v=ZzNHxC96rDE (дата обращения - 22.03.2024 г.);
7. Neuralink Begins First Human Experiments! / @TheTeslaSpace channel - URL: https://www.youtube.com/watch?v=CxBbw8eT624 (дата обращения - 22.03.2024 г.);
8. Inside Neuralink's Brain Chip: How Does Elon Musk's New Tech Vision Work / Outlook Business Desk // Outlook India – URL: https://business.outlookindia.com/news/inside-neuralinks-brain-chip-how-does-elon-musks-new-tech-vision-work (дата обращения – 13.04.2024 г.);
9. A Non touch interactions/ Prof. R. Gayathri// Bannari Amman Institute of Technology - URL: https://www.bitsathy.ac.in/telepathy-a-non-touch-interactions/ (дата обращения - 08.04.2024 г.);
10. Чипы принимают управление / А. Мезенцев // Радио «Ъ FM» - URL: https://kommersant.ru/doc/6480110#comments (дата обращения - 13.04.2024 г.);
11. Искусственный интеллект – это всего лишь новая вычислительная процедура / академик РАН Игорь Соколов // Российская академия наук - URL: http://www.ras.ru/news/shownews.aspx?id=b8da5534-67fd-402e-9cad-876b921cbc5a&print=1 (дата обращения – 16.04.2024 г.);
12. Sci-Fi to reality: Elon Musk’s brain chip implanted in human brain by Neuralink / ET Edge Insights by Times Group - URL: https://etinsights.et-edge.com/sci-fi-to-reality-elon-musks-brain-chip-implanted-in-human-brain-by-neuralink/ (дата обращения – 13/04.2024 г.);
13. Elon Musk Teases First Neuralink Products After Company Implants First Brain Chip In Human / R. Hart // Reuters - URL: https://www.reuters.com/technology/neuralink-implants-brain-chip-first-human-musk-says-2024-01-29/#:~:text=The%20first%20product%20from%20Neuralink,Reuters%20request%20for%20further%20details (дата обращения – 13.04.2024 г.);
14. ГОСТ Р ИСО/МЭК 12207 — 2010 «Информационная технология. Системная и программная инженерия. Процессы жизненного цикла программных средств» / Издание официальное. – Москва : Стандартинформ, 2011. – 105 с.;
15. ISO/IEC/IEEE 12207:2017 Systems and software engineering - Software life cycle processes / URL: https://www.iso.org/obp/ui/ru/#iso:std:iso-iec-ieee:12207:ed-1:v1:en - Online Browsing Platform, OBP (дата обращения 23.03.2024 г.);
16. Guide to the software engineering body of knowledge (SWEBOK V3.0) / – Editors Pierre Bourque, École de technologie supérieure (ÉTS), Richard E. (Dick) Fairley, Software and Systems Engineering Associates (S2EA) - B.: IEEE, 2014. – 335 c.;
17. ГОСТ 34.003-90 «Информационная технология. Комплекс стандартов на автоматизированные системы. Автоматизированные системы. Термины и определения» / Издание официальное – Москва: Стандартинформ, 2009. – 16 с.;
18. ГОСТ 15971-90 «Системы обработки информации» / Издание официальное. – Москва: Госстандарт Союза ССР. 1991. – 14 с.;
19. ГОСТ 16504-81 «Испытания и контроль качества продукции. Основные термины и определения» / Издание официальное. – Москва: Стандартинформ, 2011. – 24 с.;
20. Модели жизненного цикла и технологии проектирования программного обеспечения: учебно-методическое пособие / Е.А. Кумагина, Е.А. Неймарк. – Нижний Новгород: Изд-во ННГУ, 2016. – 41 с.
21. A pro-innovation approach to AI regulation: government response / GOV.UK - URL: https://www.gov.uk/government/consultations/ai-regulation-a-pro-innovation-approach-policy-proposals (дата обращения 13.04.2024 г.);
22. A European Strategy for Artificial Intelligence CEPS webinar / L.Sioli // – B.: European Commission, 2021 – 21 c.;
23. Scherer, M.U. Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies / Harvard Journal of Law and Technology - URL: https://bit.ly/3YdCqSY (дата обращения 16.04.2024 г.);
24. Dilemma of the Artificial Intelligence Regulatory Landscape / Weiyue Wu, Shaoshan Liu // Communications of the ACM, 2023 – URL: https://cacm.acm.org/opinion/dilemma-of-the-artificial-intelligence-regulatory-landscape/ (дата обращения 17.04.2024);
25. Towards a Standard for Identifying and Managing Bias in Artificial Intelligence NIST Special Publication 1270/ R.Schwartz, A. Vassilev, K.Greene, L.Perine, A.Burt, P.Hall // U.S. Department of Commerce, 2022 – URL: https://doi.org/10.6028/NIST.SP.1270 (дата обращения 17.04.2024);
26. What is Artificial Intelligence? / Prof. John McCarthy // John McCarty’s Home Page, 2007 – URL: http://www-formal.stanford.edu/jmc/whatisai.pdf (дата обращения 17.04.2024).
27. A Brief But Spectacular - Take on the future of the internet - Vint Cerf / The PBS NewsHour, 2024 - URL: https://www.pbs.org/newshour/amp/show/a-brief-but-spectacular-take-on-the-future-of-the-internet (дата обращения 17.04.2024).
