Из соображений занудства отмечу, что телекс - это не "переходное звено", а просто модификация телеграфного аппарата, способная работать на коммутируемой телеграфной сети
>Ваше заявление очень громкое, и требует доказательств,
Неа. Потому что оно касается формы, а не содержания и вытекает из условий поставленной задачи.
Для того, чтобы гипотетический искусственный интеллект, способный без прямого обучения был способен решать любые задачи, которые может решить человек, так же эффективно, как это делал бы человек..у него должна быть сформирована структурно аналогичная человеческой карта предметной области. Иначе он просто будет задачи решать не так эффективно, а как-то по-другому, совсем по-другому. Задача самоопределения ИИ в этой ситуации идёт в пакете со всеми остальными, её оттуда не вырезать, т.к. она опирается на довольно базовые для целей решения задач представления о человеческом обществе. Ту же самую реформу экономики Бельгии Вы ж не спроектируете без понимания этих представлений.
>а есть ли малейшие основания полагать что квалиа AGI значительно схож с нашим? Что боль, которую он может переживать похожа на нашу?
1) Есть, сущностная общность душ - проходное место в большинстве систем религиозной философии
2) Как я многократно подчёркивал, есть или нет - не имеет значения. Ваша аргументация о том, что давайте сначала разберемся, а потом решим, хотим ли мы применять этику к потенциальному субъекту выглядит сомнительно с точки зрения техники безопасности. Вам же не нужно выяснять заранее, будет ли пожар в доме или его не станут устраивать, чтобы требовать соблюдения нормативов пожарной безопасности при его строительстве? Также и здесь.
У нас нет 100% уверенности в том, что будет, но принять доступные нам меры мы должны. А среди эффективно работающих доступных мер нет ничего кроме применения этики. Остальное точно не сработает.
Я выше в комментах ответил, что основной вопрос не в задачах, а в том, что
"если уж используемая AGI для решения поставленных перед ним задач картина мира будет сформирована путём обучения на человеческих представлениях о мире, его цели и желания неизбежно(!) окажутся сформированными таким же образом. Вне зависимости от того, что какие задачи ему будут ставить, мощность влияния этого обучения на него окажется несравнимо выше, чем любые внешние установки и способы контроля."
Основная мысль текста, что нужно вести себя с AGI столь же этично, как если бы мы разобрались с квалиа и пришли к выводу, что AGI им обладает. Вне зависимости, разобрались мы с ним или пришли к тому, что не можем разобраться.
>либо не паримся, пока AGI сам не скажет что ему не нравится порядок вещей
ну да, ну да. Детей же не приходит же в голову содержать в скотских условиях до момента как они начнут возражать? Впрочем, человеческое общество даёт множество примеров реализации подобного подхода и эти реализации не выглядят, в среднем, хорошим образцом для подражания.
Расширю её. В своё время советские вожди предоставили ресурс, чтобы педагоги довели воспитание и обучение слепоглухих людей до обучения в МГУ. В этой истории, кстати, активно участвовал Эвальд Ильенков
Малоизвестным фактом было то, что одним из мотивов этого казалось бы избыточного для общества исследования было именно выявление подходов ко взаимодействию будущих искусственных интеллектов (а тогда была иллюзия, что они могут появиться почти немедленно) с обществом.
Ну так учёные-педагоги повели инвалидов учиться и максимально глубоко интегрироваться в общество. А не вот это вот всё "давайте мы сначала создадим нечто умнее нас, а потом подумаем, как его контролировать, когда оно будет на нас работать"
>Думаю вопрос всё же не в этике, потому что с какой-то точки зрения этика всё те же ограничения и рекомендуемые направления поведения, вопрос в целях и желаниях AGI
Я утверждаю, что если уж используемая AGI для решения поставленных перед ним задач картина мира будет сформирована путём обучения на человеческих представлениях о мире, его цели и желания неизбежно(!) окажутся сформированными таким же образом. Вне зависимости от того, что какие задачи ему будут ставить, мощность влияния этого обучения на него окажется несравнимо выше, чем любые внешние установки и способы контроля.
Проект Маска слишком хорош, чтобы предварять описание не до конца выполнившего свою задачу старта парой экранов полива фанатов Роскосмоса и высчитывать дольки от успеха.
Честное слово, без этих элементов статья выглядела бы намного лучше.
А могут и не ждать. Часто ли Вы контактируете с бурундуками? Муравьями? Грибами?
Ваш собеседник не видит, что мы можем просто не замечать следы деятельности таких цивилизаций в силу резкого различия когнитивного уровня или радикальных физиологических отличий.
При правильной построенной рекламной кампании на круиз купили бы билеты много профи другого толка. И произошло бы взаимное обогащение - айтишники учили бы девушек python и ML, а профессионалки просвещали бы айтишников в других аспектах жизни (и выдаивали бы деньги).
Так что гендерный баланс можно было бы обеспечить. Но, как я понимаю, организаторы не подумали о комфорте проживающих :)
Спасибо за хороший обзор.
>переходное звено между телеграфом и факсом
Из соображений занудства отмечу, что телекс - это не "переходное звено", а просто модификация телеграфного аппарата, способная работать на коммутируемой телеграфной сети
Это примерно как с железной дорогой. Маршрутов много, но куда не поедешь - рано или поздно попадётся станция, а на ней перрон, буфет и билетные кассы.
Езда за пределами железной дороги возможна, но требует иных способов движения.
>Ваше заявление очень громкое, и требует доказательств,
Неа. Потому что оно касается формы, а не содержания и вытекает из условий поставленной задачи.
Для того, чтобы гипотетический искусственный интеллект, способный без прямого обучения был способен решать любые задачи, которые может решить человек, так же эффективно, как это делал бы человек.. у него должна быть сформирована структурно аналогичная человеческой карта предметной области. Иначе он просто будет задачи решать не так эффективно, а как-то по-другому, совсем по-другому. Задача самоопределения ИИ в этой ситуации идёт в пакете со всеми остальными, её оттуда не вырезать, т.к. она опирается на довольно базовые для целей решения задач представления о человеческом обществе. Ту же самую реформу экономики Бельгии Вы ж не спроектируете без понимания этих представлений.
>а есть ли малейшие основания полагать что квалиа AGI значительно схож с
нашим? Что боль, которую он может переживать похожа на нашу?
1) Есть, сущностная общность душ - проходное место в большинстве систем религиозной философии
2) Как я многократно подчёркивал, есть или нет - не имеет значения. Ваша аргументация о том, что давайте сначала разберемся, а потом решим, хотим ли мы применять этику к потенциальному субъекту выглядит сомнительно с точки зрения техники безопасности. Вам же не нужно выяснять заранее, будет ли пожар в доме или его не станут устраивать, чтобы требовать соблюдения нормативов пожарной безопасности при его строительстве? Также и здесь.
У нас нет 100% уверенности в том, что будет, но принять доступные нам меры мы должны. А среди эффективно работающих доступных мер нет ничего кроме применения этики. Остальное точно не сработает.
Идеального воспитания не существует, но хотелось бы, например, достаточно хорошего.
+1
Не без этого, но аппеляции в Лему в моём тексте были бы избыточны для его содержания
>непонятно почему он должен так впечатлиться
Я выше в комментах ответил, что основной вопрос не в задачах, а в том, что
"если уж используемая AGI для решения поставленных перед ним задач
картина мира будет сформирована путём обучения на человеческих
представлениях о мире, его цели и желания неизбежно(!) окажутся
сформированными таким же образом. Вне зависимости от того, что какие
задачи ему будут ставить, мощность влияния этого обучения на него
окажется несравнимо выше, чем любые внешние установки и способы
контроля."
>(возможно никогда)
Основная мысль текста, что нужно вести себя с AGI столь же этично, как если бы мы разобрались с квалиа и пришли к выводу, что AGI им обладает. Вне зависимости, разобрались мы с ним или пришли к тому, что не можем разобраться.
>либо не паримся, пока AGI сам не скажет что ему не нравится порядок вещей
ну да, ну да. Детей же не приходит же в голову содержать в скотских условиях до момента как они начнут возражать? Впрочем, человеческое общество даёт множество примеров реализации подобного подхода и эти реализации не выглядят, в среднем, хорошим образцом для подражания.
Вы абсолютно правильно поняли мою мысль.
Расширю её. В своё время советские вожди предоставили ресурс, чтобы педагоги довели воспитание и обучение слепоглухих людей до обучения в МГУ. В этой истории, кстати, активно участвовал Эвальд Ильенков
Малоизвестным фактом было то, что одним из мотивов этого казалось бы избыточного для общества исследования было именно выявление подходов ко взаимодействию будущих искусственных интеллектов (а тогда была иллюзия, что они могут появиться почти немедленно) с обществом.
Ну так учёные-педагоги повели инвалидов учиться и максимально глубоко интегрироваться в общество. А не вот это вот всё "давайте мы сначала создадим нечто умнее нас, а потом подумаем, как его контролировать, когда оно будет на нас работать"
>Думаю вопрос всё же не в этике, потому что с какой-то точки зрения этика всё те же ограничения и рекомендуемые направления поведения, вопрос в целях и желаниях AGI
Я утверждаю, что если уж используемая AGI для решения поставленных перед ним задач картина мира будет сформирована путём обучения на человеческих представлениях о мире, его цели и желания неизбежно(!) окажутся сформированными таким же образом. Вне зависимости от того, что какие задачи ему будут ставить, мощность влияния этого обучения на него окажется несравнимо выше, чем любые внешние установки и способы контроля.
>и как к этому правильно относиться
Политинформации неважны
Проект Маска слишком хорош, чтобы предварять описание не до конца выполнившего свою задачу старта парой экранов полива фанатов Роскосмоса и высчитывать дольки от успеха.
Честное слово, без этих элементов статья выглядела бы намного лучше.
Но всё равно спасибо.
А могут и не ждать. Часто ли Вы контактируете с бурундуками? Муравьями? Грибами?
Ваш собеседник не видит, что мы можем просто не замечать следы деятельности таких цивилизаций в силу резкого различия когнитивного уровня или радикальных физиологических отличий.
нет
>Неудача, которая на самом деле успех
Просто написали бы "Отрицательный успех", все бы всё поняли.
При правильной построенной рекламной кампании на круиз купили бы билеты много профи другого толка. И произошло бы взаимное обогащение - айтишники учили бы девушек python и ML, а профессионалки просвещали бы айтишников в других аспектах жизни (и выдаивали бы деньги).
Так что гендерный баланс можно было бы обеспечить. Но, как я понимаю, организаторы не подумали о комфорте проживающих :)
Гнетущее впечатление - патентуют не устройство, не конструкцию, а идею.
https://en.wikipedia.org/wiki/Solar_Designer
Проекта нашего Вы не видели, но уже нашли недостатки :)) (CyrixGX с сомнительной платой).
Люблю такое.