Комментарии 4
Прежде чем перейти непосредственно к комментарию, выскажу мнение, что такие статьи-размышления нужны. В первую очередь - для общего обсуждения и выстраивания понимания работы неочевидных вещей, чтобы потом иметь возможность адаптировать их для прикладных нужд.
Теперь по тексту. Из того, что на что я обратил внимание:
заголовок подразумевает какую-то рабочую гипотезу о том, как реализовать ту самую "естественную совесть", а в статье даны только общие характеристики и не очень убедительные ассоциации
несогласованность понятия "совесть" на протяжении текста: в начале она обозначена как "...в системе этического самоконтроля человека... занимает не нуждающаяся в свидетелях совесть", потом (если я правильно понял написанное) идет переход на внешние объекты - "враги", "другие" и т.п., хотя по сути совесть все-таки замкнута на человека, в котором существует
показанный разброс степеней проявления и разнообразие влияющих факторов исключает прикладное применение совести в таком определении (равно как и встроенной этики)
Спасибо за прочтение и комментарий. Особенно за мнение про необходимость понимания неочевидного, ведь создавая ИИ мы бы не хотели что бы он был бессовестным, злым, бездушным, безчувственным, безчеловечным… а что такое совесть, добро и зло, душа, человечность и т.п. на уровне сути и алгоритма мы пока не понимаем даже для самих себя. Так что вы правы, такие рассуждения и обсуждения нужны.
По поводу замеченных вами несообразностей:
заголовок ничего по реализации совести не обещал, он лишь предпологает, что совесть естественна т.е. вписана в общий гомеостат Жизни;
вот тут согласен, нестыковочка… но легко объяснимая - дело в том, что собственное “Я” для совести это “внешний субъект” и ей оцениваются (если она не “спит”) именно его действия, т.е. она замкнута на самого человека в первую очередь… но и окружающие люди так же могут быть ей оценены, более того, собственная оценка-то и зависит от окружающего, своего в нём поведения;
насчет невозможности прикладного применения т.е. тут же на основе статьи создать и внедрить программу совести для ИИ - вы правы, такого нет и не предпологалось. Задачей опубликованных статей про совесть, сознание, интеллект-ум-разум... виделось в привлечении внимания к фундаментальным свойствам Жизни, их уточнение и приближение к пониманию их роли в этом процессе, в т.ч. приментиельно к создаваемому ИИ…
бессовестным, злым, бездушным, безчувственным, безчеловечным
Это не более, чем оценочные суждения. Создавая ИИ, мы хотим, чтобы он был функциональным и безопасным (хоть это и часто противоречащие друг другу требования). Для реализации чего-то технического лучше опираться на более объективные свойства. А в случае совести и этики это, увы, пока недостижимо.
По остальным пунктам: 1. Ок, я поделился своим ожиданием от прочтения заголовка. 2. То, что "Я" человека является внешним по отношению к совести - не спорю. Но вот чтобы "совесть мучила" из-за действий другого человека - это нонсенс. 3. Нет, я писал о другом: при том возможном разбросе, назовем условно, "силы проявления" совести, которое Вы подсветили в статье (фактически - от 0% до 100%), само предположение о необходимости её внедрения становится несостоятельным. Это как проектировать блок питания, который может выдавать от 0 до макс. мощности, причём он не регулируется, и мы не знаем, когда и сколько нужно.
автономный модуль-индикатор и хотя бы минимально оценивать другим системам (и участвовать в принятии решений)
Ну то есть обычный датчик хорошо/плохо, влияющий на действия ИИ. Об этом еще Азимов писал с 3 законами робототехники.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Естественная совесть искусственного интеллекта