Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 56
придется запретить создание интеллектуальных систем, способных к эволюции.
Кто и кому будет это запрещать и как этот запрет будет обеспечиваться? Трояны вроде как тоже вне закона, но это никого не останавливает.
из которых самые очевидные – это специальные программные средства для проверки правильности решения автоматически
Т.е. напишем ИИ, который будет проверять решения за ИИ? А кто будет проверять решения проверяющего?
Вопрос о запретах для ИИ поставлен небезызвестными Хокингом, Маском, Гейтсом и другими, достаточно авторитетными лицами, которые создали для изучения вопроса институт OpenAI c финансированием около $1B.
Насчет второго Вашего вопроса — читайте внимательно — в технике эта ситуация существует давно — при создании и эксплуатации сложных машин человек полагается на диагностическую аппаратуру, поскольку возможности его органов чувств ограничены.
Насчет второго Вашего вопроса — читайте внимательно — в технике эта ситуация существует давно — при создании и эксплуатации сложных машин человек полагается на диагностическую аппаратуру, поскольку возможности его органов чувств ограничены.
Хокинг, Маск и Гейтс не обладают политической властью даже в странах своего проживания и могут что-то запретить только сами себе, так что я еще раз спрошу и предлагаю обратить внимание на то, что мой вопрос содержит три части: кто и кому будет запрещать и как это запрет будет обеспечиваться?
Насчет второго вопроса: аппаратура, способная проверять корректность решений ИИ сама должна обладать ИИ не меньшей мощности. А значит ее тоже придется как-то проверять. Как вы себе это представляете?
Насчет второго вопроса: аппаратура, способная проверять корректность решений ИИ сама должна обладать ИИ не меньшей мощности. А значит ее тоже придется как-то проверять. Как вы себе это представляете?
«кто и кому будет запрещать и как это запрет будет обеспечиваться?» — никак не является темой настоящей статьи и вряд, ли, темой этого хаба.
Насчет ИИ для проверки ИИ — вопрос не простой, вот люди $1B не пожалели для изучения этого вопроса.
Я же пишу (см.текст) -«В технике это давно уже происходит – мы не можем проверить все механизмы и приборы на основе собственных органов чувств, доверяя специальным техническим средствам диагностики.
»
Насчет ИИ для проверки ИИ — вопрос не простой, вот люди $1B не пожалели для изучения этого вопроса.
Я же пишу (см.текст) -«В технике это давно уже происходит – мы не можем проверить все механизмы и приборы на основе собственных органов чувств, доверяя специальным техническим средствам диагностики.
»
Это ведь вы сами сказали, что "придется запретить". Значит у вас есть хотя бы предположения как это сделать в рамках противостояния стран: страна, которая внедрит ИИ первой — получит колоссальное экономическое, промышленное и демографическое преимущество. Помимо государств есть транснациональные корпорации, которые с удовольствием будут разрабатывать что-то такое для себя. Есть даркнет и его обитатели, которым, в общем-то, безразличны запреты официальных властей, есть просто отдельные умельцы. В общем, я не представляю как можно остановить прогресс в одной отдельно взятой области.
Средства диагностики бесполезны для контроля системы принятия решений — если решения такой системы было бы можно формализовать, то ИИ был бы не нужен. Единственное, что может проверить решения ИИ — это ИИ аналогичной или большей мощности.
Средства диагностики бесполезны для контроля системы принятия решений — если решения такой системы было бы можно формализовать, то ИИ был бы не нужен. Единственное, что может проверить решения ИИ — это ИИ аналогичной или большей мощности.
«Однажды искусственный интеллект станет умнее человека». Дальше не читал.
Какое-то словоблудие.
>Считается, например, что способностью «в уме» решить задачу Эйнштейна обладают лишь два процента людей. А вот, сколько людей могут >решить ее с бумагой и ручкой – 10%, 50%?
Что, правда? 50% людей с ручкой смогут хотя бы записать уравнения ОТО?
> ошибки программного обеспечения;
> Опасность первого рода характерна для всякого программного обеспечения, поэтому здесь о ней говорить не будем.
Ниже по тексту:
>Есть еще другая опасность – ИИ может содержать логические ошибки
Разве это не опасность «первого рода»?
Автоматические системы, которые будут контролировать верность решения? ИИ более высокого уровня. Кто будет контролировать его?
>Считается, например, что способностью «в уме» решить задачу Эйнштейна обладают лишь два процента людей. А вот, сколько людей могут >решить ее с бумагой и ручкой – 10%, 50%?
Что, правда? 50% людей с ручкой смогут хотя бы записать уравнения ОТО?
> ошибки программного обеспечения;
> Опасность первого рода характерна для всякого программного обеспечения, поэтому здесь о ней говорить не будем.
Ниже по тексту:
>Есть еще другая опасность – ИИ может содержать логические ошибки
Разве это не опасность «первого рода»?
Автоматические системы, которые будут контролировать верность решения? ИИ более высокого уровня. Кто будет контролировать его?
А причём тут уравнения ОТО?
Задача Эйнштейна — это логическая задачка про 5 человек разной национальности, в разных домах, с разными привычками и домашними питомцами. Чтобы её решать, знать уравнения не нужно вообще, достаточно уметь немного сопоставлять факты.
Задача Эйнштейна — это логическая задачка про 5 человек разной национальности, в разных домах, с разными привычками и домашними питомцами. Чтобы её решать, знать уравнения не нужно вообще, достаточно уметь немного сопоставлять факты.
Интересно, импульсивность — черта интеллекта или ума?
К уму или к интеллекту относится способность высказывать суждения, основанные на частично известных данных (имя «Эйнштейн» и «Эйнштейн создал ОТО»), но без знания данных полных («задача Эйнштейна»)?
ru.wikipedia.org/wiki/Загадка_Эйнштейна
К уму или к интеллекту относится способность высказывать суждения, основанные на частично известных данных (имя «Эйнштейн» и «Эйнштейн создал ОТО»), но без знания данных полных («задача Эйнштейна»)?
ru.wikipedia.org/wiki/Загадка_Эйнштейна
Задача Энштейна — весьма простая и легко формализируемая логическая задача, кторая состоит из 5 обьектов с 5 признаками у каждого и простыми логическими зависимостями. Вся ее сложность состоит в умении оперировать одновременно большим количеством сущностей.
Для компьютера или человека с ручкой ее решение не составит труда.
Хотя нет подверждений про то что ее составил Энштейн и особенно есть сомнения про 2%, ибо даже я могу ее решить в уме.
Для компьютера или человека с ручкой ее решение не составит труда.
Хотя нет подверждений про то что ее составил Энштейн и особенно есть сомнения про 2%, ибо даже я могу ее решить в уме.
Насчет решения в уме — смелое утверждение. Надеюсь, что оно достаточно обосновано.
Проблема в том, что современному компьютеру не по силам решить такую задачу, если предоставить ему текст задачи на естественном языке.
Проблема в том, что современному компьютеру не по силам решить такую задачу, если предоставить ему текст задачи на естественном языке.
Если время не ограничено, то, по моей оценке, ее смогут решить те же люди, что и решили ее на бумаге. Мне потребовалось 20-30 минут и где то на 10 минуте пришлось проговаривать и представлять запомненное, что бы смочь выбирать методом исключения.
Но в целом люди в жизни запоминают куда более сложные вещи, чем кто где живет и кто что курит. Вопрос времени, тренировок и усидчивости.
Я надеюсь что тот же IBM Watson способен строить модели на основании фраз на естественном языке вроде "Имеющий свойство А находится рядом с имеющим свойство Б", но здесь рождается вопрос насколько широким должен быть спектр задач которые способен распознать и решить ИИ, чтобы называть его интеллектуальным?
Но в целом люди в жизни запоминают куда более сложные вещи, чем кто где живет и кто что курит. Вопрос времени, тренировок и усидчивости.
Я надеюсь что тот же IBM Watson способен строить модели на основании фраз на естественном языке вроде "Имеющий свойство А находится рядом с имеющим свойство Б", но здесь рождается вопрос насколько широким должен быть спектр задач которые способен распознать и решить ИИ, чтобы называть его интеллектуальным?
Еще не в меньшей степени это вопрос целесообразности. понятно, что решить задачу Эйнштейна в уме это круто и все такое, но у меня (и у большого количества людей еще) нет сильно большого желания запоминать столько информации, что бы через 2 часа ее забыть. Ибо зачем, если можно воспользоваться бумажкой? Если бы у меня был какой-то существенный стимул для этого, то возможно я бы попытался это сделать, а так я лишь считаю, что мне придется потратить сильно много времени и усилий непонятно зачем.
Конечно можно пытаться доказать, что это тренировка ума и все такое, но опять же для каждого конкретного человека найдется много более полезных лично ему дел, которые так же помогут «размять мозги».
Конечно можно пытаться доказать, что это тренировка ума и все такое, но опять же для каждого конкретного человека найдется много более полезных лично ему дел, которые так же помогут «размять мозги».
Способность держать большее количество объектов в уме — это превосходство в скорости и сложности решаемых задач, как профессиональных, так и жизненно необходимых.
Не зря же существует выражение «Он всегда на два шага впереди».
Еще пример: программист с такими способностями может работать в несколько раз быстрее тех, кто все записывает на бумагу.
Не зря же существует выражение «Он всегда на два шага впереди».
Еще пример: программист с такими способностями может работать в несколько раз быстрее тех, кто все записывает на бумагу.
Я бы сказал способность _быстро_ загружать в память (запоминать) большие объемы информации, а отнюдь не просто держать в памяти. Все мы спокойно держим в памяти огромные объемы информации, просто для того, что бы запомнить этот объем понадобилось очень много времени.
Так же и тут. Я могу решить в уме задачу Эйнштейна, но на это мне потребуется очень много времени. По этому лично для себя я не вижу никакого смысла решать ее в уме (зачем?, что мне это даст?), потому я в эти 2% не попаду (даже и пытаться не буду потому что), но если бы у меня был какой-то серьезный стимул решить ее в уме, то уже был бы совсем другой разговор.
Так же и тут. Я могу решить в уме задачу Эйнштейна, но на это мне потребуется очень много времени. По этому лично для себя я не вижу никакого смысла решать ее в уме (зачем?, что мне это даст?), потому я в эти 2% не попаду (даже и пытаться не буду потому что), но если бы у меня был какой-то серьезный стимул решить ее в уме, то уже был бы совсем другой разговор.
У человека есть долговременная память и «оперативная», в которой средний человек держит от 3 до 7 объектов в момент мышления. Так же как и у компьютера — чем больше оперативная память, тем быстрее человек соображает.
Люди с сильной кратковременной памятью запоминают такую информацию мгновенно и очень быстро выдают ответ.
Если кто-то говорит, что ему нужно время, чтобы запомнить, значит он хочет использовать долговременную память и это уже совсем другой случай.
Люди с сильной кратковременной памятью запоминают такую информацию мгновенно и очень быстро выдают ответ.
Если кто-то говорит, что ему нужно время, чтобы запомнить, значит он хочет использовать долговременную память и это уже совсем другой случай.
При этом это никак не мешает решать задачу Эйнштейна в уме. Я лишь об этом и ни о чем другом. По этой причине говорить, что лишь 2% населения _способны_ решить ее в уме — это не совсем верно.
Если человек ее может решить на бумажке, то, при достаточном количестве времени и мотивации он сможет решить ее и в уме. В постановке задачи нигде не оговорено ни то, что ее нужно решить за ограниченное время ни то, что нельзя использовать долговременную память в своей голове.
Если человек ее может решить на бумажке, то, при достаточном количестве времени и мотивации он сможет решить ее и в уме. В постановке задачи нигде не оговорено ни то, что ее нужно решить за ограниченное время ни то, что нельзя использовать долговременную память в своей голове.
Не будем цепляться к частностям. Задача лишь для примера того, что уровень и характеристики интеллекта человека, а следовательно и машины, может быть очень различным.
Что же касается данного примера, показатель 2% не мой, он часто приводится в публикациях. Мне эта оценка кажется вполне реальной, поскольку держать в уме 25 объектов и не запутаться в них — очень трудная задача.
Что же касается данного примера, показатель 2% не мой, он часто приводится в публикациях. Мне эта оценка кажется вполне реальной, поскольку держать в уме 25 объектов и не запутаться в них — очень трудная задача.
Такое чувство, что это SEO текст, написанный автоматическим генератором.
Кстати, да. Ничего, кроме жонглирования словами. Наукобот.
К тому же проблема в том, что, в дополнение к слову «ум», в русский вошёл англицизм «интеллект», который означает ровно то же самое.
Я повторюсь со своим предложением: «интеллект — машина, статистически неотличимая от носителей цивилизации». Что, собственно, и является пояснением сути теста Тьюринга. Следовательно, это машина, решающая свои задачи взаимодействия с другими носителями цивилизации (обычно возмездным способом, типа «труд за зарплату», «взаимопомощь» и так далее) ценой своего времени, ресурсов, комфорта, здоровья или жизни.
И футуристы опасаются, что искусственный интеллект, являясь статистически отличимым, будет реализовывать неприятные нам остальным носителям свои решения любым доступным ему способом. То есть представлять разной степени опасность, от этической («кого выберет задавить автопилот») до физической («kill all humans»).
К тому же проблема в том, что, в дополнение к слову «ум», в русский вошёл англицизм «интеллект», который означает ровно то же самое.
Я повторюсь со своим предложением: «интеллект — машина, статистически неотличимая от носителей цивилизации». Что, собственно, и является пояснением сути теста Тьюринга. Следовательно, это машина, решающая свои задачи взаимодействия с другими носителями цивилизации (обычно возмездным способом, типа «труд за зарплату», «взаимопомощь» и так далее) ценой своего времени, ресурсов, комфорта, здоровья или жизни.
И футуристы опасаются, что искусственный интеллект, являясь статистически отличимым, будет реализовывать неприятные нам остальным носителям свои решения любым доступным ему способом. То есть представлять разной степени опасность, от этической («кого выберет задавить автопилот») до физической («kill all humans»).
Мы вроде обсуждаем интеллект и ум, а не чувства.
Хотелось бы услышать аргументацию данного утверждения. Мы обсуждаем разум, а не чувства.
Просто это еще один тест на IQ — способность к усвоению текста без картинок. Если смысл читателю не виден, его IQ — среднего уровня.
После того, как понял что автор исповедует наше русское «запретить = решить все проблемы» перестал читать. Не может выйти умных мыслей из человека, верящего в запреты.
У С. Лема есть такой рассказ о будущем интернета
«137 секунд»
«137 секунд»
Вы куда-то не в ту сторону рассуждаете) Причем здесь интеллектуалы, профессии, и тесты IQ? Биологический интеллект появился когда ничего этого не было. Или дикие звери, например, хищники — они умеют самостоятельно ориентироваться в лесу, выслеживать добычу по запаху. По вашему, у них нет биологического интеллекта?
Я считаю, что интеллект — это в первую очередь способность анализировать информацию об окружающей среде, искать взаимосвязи в этой информации, и совершать на основе нее какие-то действия.
Включает еще и способность обучаться – приобретать знания, специальным образом приготовленные для усвоения студентом.
Котенок, который учится бегать — кто для него приготовил знания специальным образом?
Когда же ИИ станет «добывать» знания самостоятельно, мы не будем знать «о чем он думает».
Почему? Есть же отладчик, дамп памяти, виртуальная машина.
Я считаю, что интеллект — это в первую очередь способность анализировать информацию об окружающей среде, искать взаимосвязи в этой информации, и совершать на основе нее какие-то действия.
Включает еще и способность обучаться – приобретать знания, специальным образом приготовленные для усвоения студентом.
Котенок, который учится бегать — кто для него приготовил знания специальным образом?
Когда же ИИ станет «добывать» знания самостоятельно, мы не будем знать «о чем он думает».
Почему? Есть же отладчик, дамп памяти, виртуальная машина.
Да я рассуждаю «в другую сторону», не в Вашу. Интеллектуалы, профессии и тесты IQ при том, что в тексте обсуждается возможность сравнения человеческого интеллекта с машинным. «Биологический интеллект» здесь не обсуждается.
Можно сказать еще проще – интеллектуал применяет знания, умный – создает знания.
Это ключевая мысль. Теперь как отличить одно от другого?
Есть мнение что люди не могут создавать знания. Приводили пример видеокамеры. Казалось бы такое сложное устройство кто-то должен был придумать. А затем рассматривали поэтапно и оказалось что человек ничего не придумал нового — просто случайно встретил те или иные являения в природе.
В случае изобретений человек не случайно встречает явления природы, а ищет способ решения задачи.
Конечно, знание — не очень точный термин и желающих дискутировать на эту тему достаточно.
В тематике ИИ под знаниями понимается результат познавательной деятельности человека, обобщение опыта своей деятельности. Например, знания эксперта в предметной области глубже, чем знания выпускника вуза.
Конечно, знание — не очень точный термин и желающих дискутировать на эту тему достаточно.
В тематике ИИ под знаниями понимается результат познавательной деятельности человека, обобщение опыта своей деятельности. Например, знания эксперта в предметной области глубже, чем знания выпускника вуза.
Можете ли вы придумать такой тест, который способен разрешить умный, но не способен разрешить интеллектуал?
Тесты Айзенка рассчитаны на людей со средним образованием, однако не все интеллектуалы покажут на них приличный результат, хотя есть школьники в высоким IQ.
О чем это говорит? Эти тесты могут решать компьютерные аналитические системы, типа IBM Watson? Ведь эти системы интеллектуальные, но не умные. Вопросы теста IQ определяют интеллект, умение анализировать/обобщать лингвистические, алгебраические и геометрические ряды.
Интеллект, т.е. умение анализировать/обобщать лингвистические, алгебраические и геометрические ряды формируется до 5 лет и получение в/о не поможет его увеличить. В/о лишь добавит в копилку знаний человека наиболее ценные для выполнения той или иной работы. А вот инттелект не увеличит, хотя на вступительных экзаменах пытаются отсеять людей с неразвитым интеллектом. Так?
А что же такое ум, т.е. способность не просто анализировать/обобщать (что умеют и компьютерные системы) а именно придумывать совершенно новое?
Читали ли вы «Новый ум короля» от доктора наук Р. Пенроуза?
Интеллект, т.е. умение анализировать/обобщать лингвистические, алгебраические и геометрические ряды формируется до 5 лет и получение в/о не поможет его увеличить. В/о лишь добавит в копилку знаний человека наиболее ценные для выполнения той или иной работы. А вот инттелект не увеличит, хотя на вступительных экзаменах пытаются отсеять людей с неразвитым интеллектом. Так?
А что же такое ум, т.е. способность не просто анализировать/обобщать (что умеют и компьютерные системы) а именно придумывать совершенно новое?
Читали ли вы «Новый ум короля» от доктора наук Р. Пенроуза?
Способность IBM Watson пройти тесты на IQ вызывают сомнение, поскольку эта система не является мыслящей. Это сверхмощная система контентного анализа — годится для диагностики, поиска и прогнозирования. Но в шахматы она не играет и в решении логических задач тоже не замечена.
пройти тесты на IQ вызывают сомнение, поскольку эта система не является мыслящей
Т.е. любая система, которая сможет пройти тесты Айзенка — мыслящая?
в шахматы она не играет и в решении логических задач тоже не замечена
Не ставилась такая задача, т.к. для игры в шахматы на уровне гроссмейстера достаточно мощностей одного домашнего компьютера.
Правильно ли я понял, что вы назовете умной и мыслящей систему, которая способна решать тесты Айзенка?
Умной нет, а вот если будет программа, которая по формулировке на естественном языке сможет решать любую логическую или арифметическую задачу, не требующую знаний выше средней школы, то это будет искусственный интеллект начального уровня.
Сделать программу, специализирующуюся на каком-то виде тестов, например, Айзенка, — не очень сложная задача для среднего программиста.
Скажу еще раз, чтобы быть правильно понятым. Во всех обычно приводимых логических задачах. решаемых с компьютером, основную работу — концептуализацию, делает автор программы. Вот если будет программа, которая сможет делать концептуализацию задачи из текстовой формулировки — это уже будет ИИ.
Сделать программу, специализирующуюся на каком-то виде тестов, например, Айзенка, — не очень сложная задача для среднего программиста.
Скажу еще раз, чтобы быть правильно понятым. Во всех обычно приводимых логических задачах. решаемых с компьютером, основную работу — концептуализацию, делает автор программы. Вот если будет программа, которая сможет делать концептуализацию задачи из текстовой формулировки — это уже будет ИИ.
Умной нет
Так какой же тест сможет показать что программа именно умная?
Вопрос серьезный. Наверное, если модифицировать тест Тьюринга на решение сложных задач, т.е. через клавиатуру общаться с неизвестным, который будет решать любые сложные задачи и сможет сам найти нужные знания и применить их.
Такое сможет сделать далеко не каждый человек. Получается не все люди умные? Или даже большинство людей не умны?
Конечно, ум у людей разный. Разве это не общеизвестно? Насчет большинства — наверное, базовые логические навыки у всех одинаковые, но многие не умеют (или не хотят) ими пользоваться.
Ну и что что разный? Мы можем с помощью теста определить что у человека есть хоть и небольшой, но ум. А у машины хоть и есть быстрый и с огромным багажом интеллект, но нет даже маленького ума.
Можно такой тест сделать?
Можно такой тест сделать?
Для этого надо дать формальное определение ума, пока никто еще не дал.
Определение не критично. Базовые понятия не имеют определений, они выводятся из примеров. Мой любимый пример — математический термин множество — одно из исходных (аксиоматических) понятий, то есть несводимое к другим понятиям, а значит, и не имеющее определения.
То что у термина нет определния никак не мешает с ним работать.
То что у термина нет определния никак не мешает с ним работать.
Могут они создавать знания. Есть, например, математика, которая не имеет аналогов в реальной жизни. Помимо внешнего мира есть фактор случайности происходящих в мозгу процессов, который также помогает создавать что-то новое.
Ну, если случайности называть новым — то и машина это умеет. Есть же генераторы случайных чисел… Какую хош вам уникальную, доселе нигде не встречающуюся последовательность вам нагенерят.
Но ведь генераторов случайных чисел нет, все чисто компьютерные системы это генераторы псевдослучайных чисел
Не все, есть аппаратные генераторы случайных чисел (истинно случайных чисел) для систем где даже псевдослучайные числа не подходят.
https://ru.wikipedia.org/wiki/%D0%90%D0%BF%D0%BF%D0%B0%D1%80%D0%B0%D1%82%D0%BD%D1%8B%D0%B9_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%82%D0%BE%D1%80_%D1%81%D0%BB%D1%83%D1%87%D0%B0%D0%B9%D0%BD%D1%8B%D1%85_%D1%87%D0%B8%D1%81%D0%B5%D0%BB
https://ru.wikipedia.org/wiki/%D0%90%D0%BF%D0%BF%D0%B0%D1%80%D0%B0%D1%82%D0%BD%D1%8B%D0%B9_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%82%D0%BE%D1%80_%D1%81%D0%BB%D1%83%D1%87%D0%B0%D0%B9%D0%BD%D1%8B%D1%85_%D1%87%D0%B8%D1%81%D0%B5%D0%BB
В хороших алгоритмах псевдослучайных чисел очень большой период, так что почти всегда не важно, какой генератор, поскольку от этого ничего не будет зависеть.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Опасный ум, безопасный интеллект