Комментарии 8
Прежде чем перейти непосредственно к комментарию, выскажу мнение, что такие статьи-размышления нужны. В первую очередь - для общего обсуждения и выстраивания понимания работы неочевидных вещей, чтобы потом иметь возможность адаптировать их для прикладных нужд.
Теперь по тексту. Из того, что на что я обратил внимание:
заголовок подразумевает какую-то рабочую гипотезу о том, как реализовать ту самую "естественную совесть", а в статье даны только общие характеристики и не очень убедительные ассоциации
несогласованность понятия "совесть" на протяжении текста: в начале она обозначена как "...в системе этического самоконтроля человека... занимает не нуждающаяся в свидетелях совесть", потом (если я правильно понял написанное) идет переход на внешние объекты - "враги", "другие" и т.п., хотя по сути совесть все-таки замкнута на человека, в котором существует
показанный разброс степеней проявления и разнообразие влияющих факторов исключает прикладное применение совести в таком определении (равно как и встроенной этики)
Спасибо за прочтение и комментарий. Особенно за мнение про необходимость понимания неочевидного, ведь создавая ИИ мы бы не хотели что бы он был бессовестным, злым, бездушным, безчувственным, безчеловечным… а что такое совесть, добро и зло, душа, человечность и т.п. на уровне сути и алгоритма мы пока не понимаем даже для самих себя. Так что вы правы, такие рассуждения и обсуждения нужны.
По поводу замеченных вами несообразностей:
заголовок ничего по реализации совести не обещал, он лишь предпологает, что совесть естественна т.е. вписана в общий гомеостат Жизни;
вот тут согласен, нестыковочка… но легко объяснимая - дело в том, что собственное “Я” для совести это “внешний субъект” и ей оцениваются (если она не “спит”) именно его действия, т.е. она замкнута на самого человека в первую очередь… но и окружающие люди так же могут быть ей оценены, более того, собственная оценка-то и зависит от окружающего, своего в нём поведения;
насчет невозможности прикладного применения т.е. тут же на основе статьи создать и внедрить программу совести для ИИ - вы правы, такого нет и не предпологалось. Задачей опубликованных статей про совесть, сознание, интеллект-ум-разум... виделось в привлечении внимания к фундаментальным свойствам Жизни, их уточнение и приближение к пониманию их роли в этом процессе, в т.ч. приментиельно к создаваемому ИИ…
бессовестным, злым, бездушным, безчувственным, безчеловечным
Это не более, чем оценочные суждения. Создавая ИИ, мы хотим, чтобы он был функциональным и безопасным (хоть это и часто противоречащие друг другу требования). Для реализации чего-то технического лучше опираться на более объективные свойства. А в случае совести и этики это, увы, пока недостижимо.
По остальным пунктам: 1. Ок, я поделился своим ожиданием от прочтения заголовка. 2. То, что "Я" человека является внешним по отношению к совести - не спорю. Но вот чтобы "совесть мучила" из-за действий другого человека - это нонсенс. 3. Нет, я писал о другом: при том возможном разбросе, назовем условно, "силы проявления" совести, которое Вы подсветили в статье (фактически - от 0% до 100%), само предположение о необходимости её внедрения становится несостоятельным. Это как проектировать блок питания, который может выдавать от 0 до макс. мощности, причём он не регулируется, и мы не знаем, когда и сколько нужно.
Да, вы правы - это оценочные суждения. Человеческие, субъективные и поминутно меняемые. Для создания и “программирования” ИИ такой подход конечно же возможен, как гомеостат множества интересов, мнений и ситуаций, однако хотелось бы получить объективные понятия для этих терминов, не атропо- а космоцентричные (и об этом полная статья по ссылке).
2. Да, совесть по отношению к “Я” "внешняя"и древняя - как-то ведь у тех же клеток в многоклетоных организмах определялось кто есть кто…
2.1. Если есть “испанский стыд”… :) Ну, тут я неправильно выразился… это появившаяся оценка себя через оценку других - типа другие разбудили твою совесть и она тебя начала грызть
3. а! так это почему - потому что социум это гомеостат и у некоторых её “элементов” совесть есть и слишком, а у некоторых нет - и он балансирует в изменяющейся среде. Если 100% по-совести все ок и даже лучше, "не за страх а за совесть", а если 0% то прогромы луддитов :) А то что её нельзя регулировать самому - так об этом и статья, в этом всё и дело, регулировать можно социальный стыд, но не природную совесть.
автономный модуль-индикатор и хотя бы минимально оценивать другим системам (и участвовать в принятии решений)
Ну то есть обычный датчик хорошо/плохо, влияющий на действия ИИ. Об этом еще Азимов писал с 3 законами робототехники.
И, возвращаясь к ИИ и созданию для него системы этического контроля, можно заметить, что если “алгоритмы” социальных “предохранителей” понятны (фактически список правил/исключений/способов обхода/“цены договориться”/меры ответственности) и реализовать их функционал для ИИ сравнительно не сложно, то “алгоритм” совести так же легко не определить получиться, для этого нужно сначала понять его глубинную суть,
Здесь типичная попытка на скорую руку подчитать литературу и решить, что этого достаточно, чтобы составить "компетентное мнение". Недостаточно. Никакого алгоритма совести не существует и создание его невозможно, поскольку ИИ не обладает сознанием и субьектностью. Это вам обьяснит любой психолог. Для эксплуатации ИИ нужны лишь системы безопасности и контроля, которые "этическими" можно назвать только потому, что они соприкасаются с этикой человека.
Согласен с вами - пока данные в ИИ заносят люди, они же проверяют и оценивают результат - ИИ объект и никакой собственной совести у него не может быть (хотя мы знаем, что управляющие им люди вносят некие этические ограничения в его ответы)
Но согласитесь и вы - всё меняется если из объекта ИИ превращается в субъект.
Не будем тут спорить возможно ли обретение ИИ сознания или нет, тут и без нас спорщиков и алармистов полно - главное то, что такая возможность существует. И для этого случая модуль “совесть” в составе этического пакета был бы кстати.
Что же насчет “невозможности создания алгоритма совести” то Природа с вами не согласится :) У нас-то совесть есть? А значит она как-то, по какому-то алгоритму работает. И раз так, то мы можем попробовать понять этот природный алгоритм и перенести его на ИИ, с учетом его особенностей конечно же…
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Естественная совесть искусственного интеллекта