Comments 8
Спасибо за статью. Но, кмк, прогноз в 10+ лет великоват, и скорее всего предполагает линейную или квадратичную функцию накопления фактологии и продвижения вперед. К сожалению она экспоненциальная.. С другой стороны имеем: от времени изобретения автора прошло 30лет. "Стакан наполовину полон" по сути год-два назад. Отсюда, можно сделать прогноз что не через 10лет и не "следующий шаг", а через 3-5 лет мы поимеем роботов со свободой воли, способных творить Зло. Точнее, понявших что "Человек тут не нужен".. никакой. :(
Собственно эти выводы, видимо когда-то и привели к стагнации развития компьютерного дела в СССР. Была у Беляева фантастика по этой проблематике примерно в налаче 70-х. Как известно, он "имел доступ" .. не удивлюсь, если когда-нибудь узнаем что команда Ершова, Кнорозова, Колмогорова, Маркова когда-то получила подобный прогноз или даже результат.. Марковские цепи, Байесовские сети .. Причинно-следственное исчисление .. вероятностный вывод .. рандомное озарение..
О, сколько нам открытий чудных,
Готовит Просвещенья Дух.
И Опыт - сын ошибок трудных,
и Гений - парадоксов друг...
.. и Случай. Бог-Изобретатель.
(с) А.С. Пушкин.
Очень правильно понимал, что Эйнштейн ошибался со своим "Госполь не играет в кости".. да только этим он и занят! ;)
Эйнштейн ошибался
Ну, да. А Толстой недопонимал. Сборище двоечников. Очевидно, известный физик Эйнштейн начисто отрицал молекулярно-кинетическую теорию, а квантовая статистика Бозе-Эйнштейна названа так, вероятно, с целью потроллить незадачливого естествоиспытателя. Альберт Германович написал про бога и кости по определённому поводу и в определённом контексте. И вопрос ещё не закрыт.
Более того Эйнштейн первым и ввел вероятностное описание в кванты, см. коэффициенты Эйнштейна в области спектроскопии, выпустив вероятностного джина. Но не считал, что подобное описание имеет фундаментальную природу, а связывал с неполнотой квантового описания. Такое понимание, с использованием байесовского подхода, получило развитие в современной интерпретации КМ известной, как квантовый байесионизм.
Такое ощущение что комментарий написан чат ботом GPT. Много слов, а смысла нет.
... искусственному интеллекту препятствует неполное понимание того, что на самом деле представляет собой интеллект ...
Собственно да, проблема определения множества понятия "интеллект", в общем, и определения множества понятия "сознание", в частности, в настоящее время еще не решена.
Мало того, не решен вопрос, а является ли сознание обязательным атрибутом интеллекта.
В силу этих объективных фактов, то что мы называем сейчас "искусственный интеллект" к интеллекту созданному биологической эволюцией можно отнести только условно, с большой натяжкой, без объективных на то оснований.
... По какой-то причине эволюция сочла ощущение свободы воли желательным с точки зрения вычислений. ...
Вот эту формулировку и мнение всячески поддерживаю.
"Свобода воли" это только субъективное (относительное) ощущение, которое является искаженным отражением субъектом абсолютной детерминированности объективной реальности. :)
Чем больше человек познает объективную реальность, тем более скукоживаются его представления о "свободе воли":
Многие знания — многие печали.
Царь Соломон. Экклезиаст.
Объективно человек всегда и везде раб объективных обстоятельств. :)
Может ли появиться робот-ученый, который будет планировать эксперимент и искать новые ответы на нерешенные научные вопросы?
Автор широко шагает. Нам бы сначала робота-курьера, робота-водителя и робота-копирайтера заиметь, а уже потом задумываться о чём-то более квалифицированном.
Пока что наработки в сфере ИИ выглядят многообещающе, но это именно зачаток технологии. Хвалёный ChatGPT напоминает собаку из анекдота про шахматы: вроде и умный, а по факту нет. В шахматы играть не умеет - даже правил, видимо, не знает, а самое странное - не понимает, что если он не умеет "своим умом", то имеет право мгновенно подключиться к опенсорсному Стокфишу и играть с его помощью. Когда пишет научные работы, то зачем-то выдумывает источники, хотя, казалось бы, очевидно, что в качестве источников нужно прикладывать только реально существующие материалы, даже если текст написан от фонаря. Высокоинтеллектуальных вещей типа сверки текста с источником от него никто и не ждёт, но откровенные глупости в очевидных случаях он делает уже сейчас.
"Станет ли эта функция очевидна, когда роботы обретут свободу воли?"
Свободы воли у них никогда не будет - человек не позволит. Зато использовать их будут по всякому...
Но человек и сам по настоящему не свободен, а ограничен всякими правилами. Начиная от физического ограничения (законы природы, собственное несовершенство) и заканчивая социальными ограничениями (правила сообщества, в котором он обитает).
"Что такое зло?"
Вот, да. Даже для самого человека это совсем не очевидно.
А машина (робот) в этом плане невинна изначально - она не знает, что такое добро и зло. Потому что ее природа такова.
Животные в этом плане тоже невинны.
Об одном и том же действии или явлении один человек может сказать: это добро, а другой - это зло. (А потом еще подраться между собой).
"Когда нам станет очевидно, что робот игнорирует некоторые программные компоненты, и игнорирует их последовательно."
Ага. Но человек сам таков. Начиная с постоянного нарушения базовых правил - Декалога, например. (Интересно, кто и когда составит аналог Десяти заповедей для Чата?) Или морального кодекса.
И заканчивая постоянным нарушением уголовного и административного кодексов. Криминальная хроника и сейчас пишется.
Вот что такое искусственный интеллект по мнению изобретателя байесовских сетей