Становясь умнее, машины начинают обучаться почти так же, как мы

Пару слов по поводу «сильного ИИ».

На вопрос «Может ли компьютер превзойти человеческий разум?» я обычно отвечаю «конечно да». Даже мощь простой деревянной логарифмической линейки превосходит мощь моего разума по части перемножения чисел :))

На вопрос «Может ли компьютер смоделировать сознание?» отвечаю «я не понимаю, о чём вы говорите». Воспользуюсь аналогией. Допустим, мы решили заняться авиамоделированием и построить модель Боинга-747. Вырезали детальки из дерева, покрасили. Красиво. Прикольно. Можно пойти дальше, мощно развить свои скилзы и построить летающую модельку. С игрушечными сиденьицами внутри и прелестными куколками-стюардессами. Можем даже построить модель в натуральную величину. Даже действующую. Но всё равно получившееся изделие не станет самолётом, а останется его моделью. Потому что самолёт — это не только набор деталек, соединённых определённым образом, но и ещё куча всего, включая репутацию производителя, комплект сертификатов, гарантийное/послегарантийное обслуживание, перспективный план модернизации, тренинги подготовки персонала и так далее. Между «быть» и «быть моделью» лежит непреодолимая сущностная пропасть.

Каждый раз, когда техническое изделие начинает в чём-то превосходить человека, всегда случается ажиотаж. Подозреваю, когда наши древние предки изобрели тележку на колёсиках, и тогда народ занервничал, что эта штука превзошла человека по части переноски предметов, и люди теперь не нужны. Теперь повторяется та же самая ситуация, но только по поводу того, что тех.средства научились решать задачу аппроксимации функций большого количества переменных.

Когда в начале 90-х я вскользь столкнулся с темой «аппроксимация», уже тогда был понятен термоядерный потенциал этой штуки. В конце концов, классическое «научиться отличать на картинке котика от собачки» (в начале 90-х это звучало как недостижимая мечта) является именно задачей аппроксимации. Но существовавшие тогда мат.методы, включая генетические алгоритмы и нейросети первой волны, не обладали требуемыми ТТХ. Прорыв случился, когда придумали глубинное обучение. Именно тогда появилась возможность аппроксимировать нетривиальные функции тысяч переменных. Соответственно, начал раскрываться тот самый термоядерный потенциал.

Но какое отношение имеет задача аппроксимации к тому, что мы по жизни называем интеллектом? Да примерно такое же, как и умение выигрывать в шахматы, выполнять арифметические арифметические операции и запоминать наизусть тексты. То есть почти никакого. Если посмотреть в целом на то, чем занимается наш мозг, то… в общем, не существует той самой глобальной длиной в жизнь функции многих переменных, которую требовалось бы аппроксимировать. Ровно по той же самой причине, по которой жизнь не является шахматной партией.

Так что есть смысл с иронией относиться к тому, что глубинное обучение назвали искусственным интеллектом. Ошиблись товарищи. Бывает. Ничего страшного. Не в первый и не в последний раз.

Сознание это не что-то, что нужно расширять или нужно качать, вопрос в структуре. Сознание это способность к творчеству. Насчет ограничений, сознание это нечто отграниченное, что испытывается практически в жизни. Программист понимает, что это вопрос не одного лишь времени. Здесь участвуют и другие инстанции, такие как место и задача. Искусственное сознание не понятно что это такое.

У Вас есть прога от Гугла, чтобы в неё вставить лица Марии Ивановны и Зои Петровны, да так, чтобы она распознала их и сказала конкретно, что это Мария Ивановна, а та Зоя Петровна. Такого нет ни у кого.

А в той статье, что Вы приводите, сказано о том, что Гугл научился ОТЛИЧАТЬ, паровоз от дерева с точностью 94%. О чём я, собственно, и говорил.

Уловите разницу между «распознавать» и «отличать».

Ну, биологическая оболочка не такая уж плохая вещь. :)
Работы по продлению ее нормального функционирования тоже ведутся. Тут геномод, там нанотех, немножко ЗОЖ — глядишь, и дотянем до смены носителя. :)