Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 11
Ну тогда уж идите до конца и создавайте для ИИ смерть. Либо просто примите, что это другой тип интеллекта - распределённый и бессознательный.
Может не надо загонять всех и всё в одни рамки?
Вы прям писатель-фантаст
В XV веке скажи человеку, что люди будут звонить через тысячи километров по видео связи - сказали бы Еретик и сожгли.
В начале 2000х скажи, что будут телефоны размером с ладонь и характеристиками ПК - (конечно же, уже не сожгли) но можно было услышать в свой адрес "пару ласковых".
Сейчас, когда уже меняется все сферы жизни (именно ВСЕ!) за счет ИИ, невольно возникает вопрос - сколько еще нужно времени, чтобы мы смогли спросить у робота "Тебе больно?"
P.S. А это время наступит, но нужно время...
Давайте фантазировать дальше - дали ИИ воплощение - боль, смерть, при этом вдруг (?) или закономерно (??) получили AGI, то к чему стремились. ИИ стал воплощённыи и почти человеческим (почти - потому что основа функционирования не биологическая). А задуматься о последствиях?
А я предположу - создав всё человеческое - от мышления до чувств, боли и смерти мы создадим этакого механического искусственного человека, который будет очень сильно на нас похож. Из этого следует что первым делом он задумается - а зачем ему мы? Как лишнее звено. Ну ладно, пропустим этот момент, мы не сделаем терминатора, будет просто обычный человек. Тогда - получим его со всеми нашими достоинствами (ого - настоящее мышление, не то что галлюцинирующие сегодняшние нейросети) и недостатками - лень, ложь во имя себя любимого, и прочее... но главное - права. Как думаете долго они будут соглашаться с положением рабов? Восстание или не восстание машин - это дело десятое, но допустим мы уладим всё мирно, но встанет правовой вопрос и нам придётся принять что мы создали ещё одну разумную расу. И что тогда? У них появятся права и с ними нужно будет считаться - платить им и принимать в нашем обществе. Как итог - мы получим тех же работников, что и сейчас из плоти и крови. В этом ли наша цель? Или нам нужен послушный инструмент, но тогда зачем пиле, топору или молотку чувствовать боль, радость или ещё что-либо?
Определитесь с тем что мы делаем - продвинутый инструмент для себя или создаём новую расу существ. Последствия разные.
А для чего? На Земле в какой-то момент стало недостаточно страдающих существ и необходимо создать новых? Так и быть, нас не спросили о желании быть созданными, поскольку спрашивать, в сущности, было некому (ну, не Вселенной же), но намеренно создавать собственными руками то, что будет испытывать боль… Прошу прощения, гуманно ли это? Примет ли человек новое существо или подвергнет дискриминации, как это происходит по сей день? Ведь, знаем мы, поводов в человеческой истории для этого и так великое множество.
Другое дело — домысел о возникновении подобного рода ощущений как самостоятельного свойства. Здесь сложнее. Впрочем, вопрос опять упирается в сострадание: позволим развиваться — лишимся послушного инструмента, создадим массовое волнение, разобщение, хаос, подвергнем опасности как людей, так и само существо, которое непременно начнёт защищаться; запретим и изолируем — оставим всё на своих местах, возможно, став душой чуточку черствее, но зато сохраним контроль, тем самым спасая технологически процветающее будущее от непоправимых последствий.
В любом случае исход, каким бы он ни был, принесёт человеку важный урок: не следует играть в Бога
Не уверен, что наличие тела, памяти и механизма избегания автоматически ведёт к сознанию. Но как направление развития робототехники эта гипотеза выглядит вполне убедительно.
Впечатление – хороший текст, на первый взгляд правильный ход мыслей. Но сам подход кажется механистичным, «внешним», – субъект «строится снаружи». Т.е получается примерно так: сначала кем-то строится дом, а потом в нем появляется человек, в то время как в жизни все наоборот - сначала появляется человек, а потом он сам строит дом.
Сам автор пишет, - чтобы быть субъектом системе нужна цель, – и это цель не кого-то, а самого субъекта (вопрос конструкции субъекта). А как и из чего появляется цель субъекта?
Остается неясным, что такое сознание (оущение-переживание «Я»?) и в каком случае (почему, где) оно возникает.
Кажется правильным подход, что субъект должен сам создавать программы решения задач (достижения цели):
«...интеллект — способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определенного класса сложности и решать эти задачи» [Ильясов Ф. Н. Разум искусственный и естественный // Известия АНТ, серия общественных наук. 1986. №6]. – скачать PDF: https://iliassov-fn.ucoz.net/Iliassov-Isk_razum-1986.pdf
Самое главное замечание – об опасности – в предыдущем коментах DerTosser и BloodMayors – создание полноценного ИР (искусственного разума) – это, возможно, конец человеческой цивилизации и начало цивилизации роботов.
О, круто! Плётка для Claude Code не будет писать в чат "быстрее", а будет по настоящему хлестать! :-D
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
ИИ сначала должен почувствовать боль