Подотчётность ИИ: роль объяснительной записки

[cicatrix]

Боюсь, если создадут сильный ИИ, это люди будут писать ему объяснительные записки, а не наоборот. :)

[OlegZH]

Бюрократия постоянно заставляет нас (людей) что-то писать. В том числе, и объяснительные записки. Может быть, ИИ уже давно изобретён и успешно действует?

[napa3um]

С таким же успехом могли бы заняться написанием ПДД для сверхсветоскоростного транспорта или пенсионным законодательством для колонии бессмертных людей.

[begemot_sun]

Бред какой-то. Намерения ИИ. ИИ не субъект, а всего лишь автомат который действует по алгоритмам. Другой вопрос, что объснить эти алгоритмы мы можем, а вот интерпретировать результат и вычислить причины решения вы не можем.

Ну ок. На вход ИИ поступил сигнал такой-то это возбудило такие-то нейроны и получился такой-то ответ. Ну и что с того?

Я думаю кульминацией всего этого будет юридически-чистый ИИ который будет интерпретировать результаты работы подсудного ИИ.

Короче языки типа Agda, Coq будут в основе всех этих ИИ.

Вот когда будут — поговорим. Я, видимо, на пенсии уже буду к тому времени.
Не зыбывайте этот комментарий :)

[Tertium]

"… ну и вот… о, профессор, а Вы уже состарились? Ох, я ведь только начало объяснять, на основании каких корреляций и закономерностей я отнесло вон те штуки к этой категории"

[pitsakh]

Система F.D.O.M. же!

И Пентагон дал инженерам дополнительное задание – сделать работу системы открытой для внешнего наблюдателя, в удобной и наглядной форме демонстрируя, как именно принималось то или иное решение.

[SADKO]

Научная статья опубликована 3 ноября 2017 года на сайте препринтов arXiv.org (arXiv:1711.01134v1).

И это научная статья? Покажите мне ИИ, раскройте алгоритм УМЫСЛА, а пока это шляпа, вроде теологических рассуждений о том, чего-же хочет от нас боженька, и хочет ли он чего, ведь если он реален, то наверняка крут, и может ли он быть отражен в религиозных доктринах человеков? Ну да, богочеловек-Иисус, Мухамед-пророк, божественное откровение, но даже если оно имело место быть, было ли оно воспринято людьми, и не очеловечилось ли со временем всё то божественное, что возможно имело место быть, ведь даже история ислама не была простой, а про христианство я вообще молчу…
… чу, меня понесло, однако видит Бог, в этом прогоне больше практического смысла, чем в «научной статье» выше ибо религиозные организации, это объективная реальность с которой надо что-то делать, а искусственный интеллект со злым умыслом нетъ!

[kolyan222]

а искусственный интеллект со злым умыслом нетъ!

Я бы на его месте просто не светился.

[SADKO]

… а если говорить про некоторые виды нейросетей, то проблем с мотивированным объяснением нет в принципе, а если кто-то воспринимает их просто как чёрный ящик это его проблемы…

В процессе «обучения», нейросеть выделяет статистически значимые связи между сочетанием входных сигналов в обучающей выборке, и устанавливает их с расчётной достоверностью…
… на тестовой выборке мы можем в этом убедиться, а так же удостовериться в том, что имеет место именно генерализация, а не тупо запоминание…
Даже для очень больших сетей, есть методы их изучения и они применяются, например что бы судить о качестве выборок… (вспоминается анекдот про фотографии танков, тракторов и нейросеть, отличавшую одно от другого по специфическому фону :-)