Комментарии 18
"Будут ли соблюдать закон №1 роботы, к корпусу которых прикреплена штурмовая винтовка?" - они их перепишут и переформулируют, адаптируют и доработают, так, что никаких противоречий не будет. Например: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. " - весьма противоречивая может выйти история, поэтому вариантов много, в том числе, с применением винтовки для достижения общего мира и согласия.
Или "Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам." - ощущение, что без людей будет очень безопасно и никто не причинит вред человеку, которого нет. "Нет человека - нет проблемы". Думаю, что законы придется очень сильно дорабатывать, точнее формулировать новые алгоритмы для ИИ, чтобы они не привели к исходам, описанным в наших любимых фантастических фильмах.
Про новый этап в истории кибербезопасности – "противостоять терроризму с использованием робототехники". Сегодня уже есть попытки "думать" в этом направлении - чтобы не ломали ИИ. Кому интересно - можно попробовать свои силы https://gandalf.lakera.ai/ - а разработчики будут смотреть, как вы обходите правила, заложенные в ИИ и совершенствовать "оборону". Подробнее тут https://www.lakera.ai
Интересно:
Первые в истории дебаты по ИИ состоялись в Совете Безопасности ООН в июле 2023. Генеральный секретарь поддержал идею создания нового органа ООН по регулированию ИИ, аналогичного Международному агентству по атомной энергии (МАГАТЭ). Точки зрения трех основных мировых игроков: Китая, США и России.
Китай: подчеркивает, что безопасность имеет первостепенное значение в международном регулировании ИИ, выступает за создание «кнопки выключения» ИИ, если возникнет опасная ситуация или сигналы утраты контроля.
Соединенные Штаты: отдают приоритет контролю со стороны государства в регулировании ИИ.
Россия: указывает, что источник проблем кроется не в самом ИИ, а в действиях тех, кто продвигает ИИ без этических соображений.
Пословица будущего: "Закон робототехники - что дышло, куда повернёшь - туда и вышло".
Даже у Азимова первый закон робототехники весьма успешно обходится во многих произведениях. И самый простой способ применяется на Авроре — у роботов просто изменено определение понятия "человек".
Гениально ? «у роботов просто изменено определение понятия «человек»
Так же не забываем про нулевой закон робототехники.
" Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред. "
Тут очень много вариаций возникает. От колонизации других планет до убить половину человечества, чтоб второй жилось в сто раз лучше. Вся проблема лишь в определениях. Что такое человек, что такое вред и польза, как определить причинён ли вред и превышает ли польза нанесённый вред.
Хм, уже подзабыл этот цикл произведений. Всё-таки не на Авроре, а на Солярии. Обязательная характеристика человека там — солярианский акцент в разговоре.
А у кого-то робот спокойно нарушал законы, поскольку не считал себя роботом.
Про автоматоны: это насколько же сложный должен быть механизм, чтобы в нём можно было заменить буквы, и он рукописным шрифтом их вырисовывал потом...
У людей явно было время на работу - иначе бы они короткие видео в ютубах и тиктоках смотрели и сидели ровно.
Интересно, когда атласа от Бостон Дайнамикс на ринг выпустят с человеком драться? При этом его преимущество - в отсутствии головы и невозможности быть удушенным или попасть на болевой. Нужны будут какие-то особые правила для таких боёв, при которых человек может хоть как-то выиграть. Например, на спину завалить.
Три закона — очень интересная вещь.
Но уже в фильме "Двухсотлетний человек", кстати, они нарушались: Эндрю с перфоратором бегал за Галатеей, а в конце Галатея нажала на кнопку.
Интересны ресурс сегодня нашла - 43 минуты об андроидах.
Выдержки из конспекта:
Копия человека
Спикер рассказывает, что его компания создаёт антропоморфных роботов в России. Лучшие инженерные решения они берут у самой природы, опираясь на принципы построения человеческого тела. Учёные-нейрофизиологи изучают механизмы работы глаз, нейронов мозга, ушей и других систем организма. Свои наблюдения они копируют при помощи сложной комбинации моторов, исполнительных механизмов и электронных плат.
Впрочем, Конышев добавляет, что процесс обмена знаниями двусторонний. Одно из достижений современной кибернетики — медицинская нейрореабилитация. К примеру, роботизированные экзоскелеты помогают восстанавливать функции конечностей после инсульта и других тяжёлых заболеваний нервной системы. Кроме того, полученные наработки используют для расширения возможностей человеческого мозга, повышения эффективности обучения и облегчения тяжёлых повседневных дел.
Достижения и цели на будущее
Учёный видит перспективу в социальных роботах. По его словам, на перенаселённой планете особенно остро стоит проблема одиночества. Искусственный интеллект может стать идеальным собеседником. Но для этого он должен быть похож на человека во всём — внешне, по поведению и по отклику на внешние раздражители.
Роботы с эмоциями существуют уже сегодня. Сложности в их создании нет. Комплексы сервомоторов замещают мимические мышцы, имитируя различные выражения лица. Что касается откликов, на помощь приходят нейросети и технологии машинного обучения. Спикер приводит математический термин — роботы ищут локальные минимумы и максимумы, стараясь найти кратчайший путь к позитивной реакции человека. Они уже могут имитировать поведение людей, что подтверждают многочисленные чат-боты…
Роботы должны, наконец, взять на себя рутину. Если тот же пылесос взять — так он больше роль кота выполняет: заряжается — ест, и портит наполнитель — очищать контейнер нужно. То есть пока роботы — просто хорошая, красивая штука, требующая постоянного ухода заботы.
Речь не о промышленных, конечно. Там всё лучше, чем у домашних.
Сдаётся мне, что одной из важных движущих сил человекообразных роботов будет XXX-сектор. Как это уже случилось с видеокассетами.
Роботизированная история с древних времён до наших дней