Комментарии 5
Хочется поблагодарить @Tapatakt за отличный перевод.
Всем, кто не осилит статью, ее пересказ в двух предложениях.
Наши (американские) ученые сделали неведомую хтонь, которую никто не знает как остановить, так как компании, ее изобретающие, поддерживаются транснациональными корпорациями, которые неохотно идут на выполнение даже существующих законов в своей юрисдикции. Как регулировать изобретение, которое само умнее многих адвокатов в прецедентном праве, пока еще неясно, но написать много страшилок для Конгресса уже надо. Значимость данного изобретения В.В. Путин отметил еще 2017 году, отсюда сразу следует, что бояться его (ИИ) надо во много раз сильнее.
Особенно смешит в статье, что ее автор на полном серьезе думает, что все указанные иллюстрации и указанные в разделах проблемы ранее не встречались в истории кибернетики. Жаль, что статью писал явно гуманитарий, так как технологические аспекты не раскрыты совсем.
Открыл статью в случайном месте:
Быстрые эволюционные изменения можно наблюдать и у небиологических структур вроде софта. Он эволюционирует куда быстрее биологических сущностей.
Автор опасается, что калькулятор эволюционирует в трояна?
Наши (американские) ученые сделали неведомую хтонь
Ни в какой момент статьи не утверждается, что экзистенциально-опасный ИИ уже существует.
так как компании, ее изобретающие, поддерживаются транснациональными корпорациями, которые неохотно идут на выполнение даже существующих законов в своей юрисдикции
Проблема не в конкретных компаниях и не в большинстве компаний. Проблема в конкурентном давлении, которое на них действует.
Особенно смешит в статье, что ее автор на полном серьезе думает, что все указанные иллюстрации и указанные в разделах проблемы ранее не встречались в истории кибернетики.
Не думает. Слово "Обзор" в названии и огроменный список источников, частично -- про безопасность ИИ, как бы намекает.
Жаль, что статью писал явно гуманитарий
Список публикаций Мантаса Мазейки на Google Scholar
Вудсайд не такой впечатляющий, но BS по Computer Science в Йеле с почётом получил.
Да, гуманитарии совсем.
так как технологические аспекты не раскрыты совсем.
Функция статьи не в этом. Вам по какому конкретно аспекту скинуть что-то более техническое?
Мои собственные публикации есть в моем профиле. Но меня интересуют именно технологические аспекты безопасности ИИ. Расшифрую немного, чем технологические отличаются от технических. 20 лет с BI научили меня тому, что любой род человеческой деятельности подчиняется моделям предметной области и нескольким сотням проверенных государством источников данных. Здесь же нет ни модели защиты источников, ни модели инфоугрозы при входящих данных. Следовательно, технологические аспекты не раскрыты совсем. Далее, теория "черного ящика" для большинства типов сетей и других аспектов машинного обучения есть в других публикациях, но технически, то есть с математическим обоснованием того, как создаются модели безопасности ИИ, желательно бы использовать доказанные теоремы существования решения типа теоремы Колмогорова. К сожалению, без декомпозиции отдельных достигнутых возможностей ИИ, их применить невозможно, так как компании испытывают "рыночное давление", "дороговизну данных для обучения", "фактор Илона Маска", "давление ускорения коммерциализации технологии", что и порождает большую часть проблем, перечисленных в статье.
Так что мне надо немного больше чем есть в статье, а именно математическое и технологическое обоснование безопасности всех видов угроз по каждой технологически применимой комбинации моделей ИИ. Понимаю, что это, вероятнее всего, монография с заметно большим объемом математики. Книги, издаваемые в Оксфорде и Кембридже мне известны, но и их авторы пока ставят больше вопросов, чем пытаются дать ответов.
Обзор катастрофических рисков ИИ