Comments 13
Даже сейчас даже люди не могут понять микросхемы розроботаные ИИ. А они должны работать в дата центрах когда будет ASI? Ну смешно, проще научить собаку ремонтировать машины. Есть вариант а уже не из телом примата. Которое двигается очень медленно, слишком нежное, да и вообще не может запомнить даже ничтожную долю информации. Человек может запутаться в десятках деталей что уже говорит про млн. и млрд.
Хорошо и внятно написано... Одна из главных проблем AI - то, что это некоторая математическая формула, в которой проходит большое количество итераций с использованием ранее вычисленных значений.
По идее, AI должен прийти к выводу, что бессмысленно заниматься изучением Природы, поскольку всё, что "нужно" уже есть или может быть вычислено из имеющейся базы данных. Напоминает Выбегалловского "исполина духа", который вместо невероятного духовного и физического роста тупо прибирает к рукам всё до чего успевает дотянуться, а потом "сворачивает пространство" и "зацикливает время"... Нечто похожее есть и у Азимова в "Основании", где в Империи задачей ученого считается только изучение ранее накопленных знаний, в результате чего знания начинают искажаться, исчезать, игнорироваться и превращаться в инструмент для манипуляций Человечеством.
Учиться надо у Кристобаля Хунты, который считает бессмысленным поиск решения, если известно, что оно есть. "Цель - ничто, поиск - всё".
Ситуация будет напоминать "Академию" Азимова, где существовала каста технологов, которые знали, какие кнопки когда нажимать, но не имели представления о том, как это работает
Если учесть что человек это тоже совокупность языковых моделей, то мы и в эпоху до ИИ уже имели все подобные проблемы. Если задуматься то в любом рабочем коллективе найдется точно такая ситуация, когда не все варианты решений доступны, когда пространство свобод ограничено.
Это кстати, прекрасно иллюстрируется, в том числе, возможностью представить ситуацию не в виде ИИ достигшего высокого уровня людей, в в виде невысокого уровня людей доступно повторяемого техническими средствами.
У человека пожалуй, есть одно отличие, он мотивирован на создание ЯМ разной специализации, а сама ЯМ - нет.
В этом, возможно, кроется рабочая концепция сильного ИИ: это будет совокупность разной сложности специфичных ЯМ, и какая нибудь примитивная ЯМ определяющая мотивы их использования и пополнения.
P..S. Кстати, примеры с проблемами, навроде блока с велосипедом, и прочие нарочито непривычные решения - поразительно напоминают то что каждый день становится темой вирусных видео о "гениальных" решениях людей - в мире где ИИ пока нет.
Я имею в виду что люди уже всей этой ерундой страдают, и без дополнительных искусственных языковых моделей. Вероятно именно потому, что сами представляют из себя языковые модели невысокой точности. А не какие то суперуникальные модели, по сравнению с которыми исскуственные значительно умтупают.
люди уже всей этой ерундой страдают, и без дополнительных искусственных языковых моделей. Вероятно именно потому, что сами представляют из себя языковые модели невысокой точности.
Нельзя сравнивать человеческий разум и какие-то модели, пусть и языковые и большие. У человека есть такая вещь, как свобода воли. Мы сами ставим себе цели, ищем пути и строим инструменты для их достижения (в том числе и ЯМ, какими совершенными они бы не были). У человека нет и не может быть назначения. В противном случае мы из субъектов превратимся в объекты и история цивилизации на этом закончится.
"— Антропоцентрист, — сказал Витька с отвращением.
— Да, — гордо сказал Эдик."
(© Стругацкие "Понедельник начинается в субботу")
Не выглядит как принципиальное отличие - для нашего контекста, естественно.
С одной стороны... А с другой - ну есть она, как она помешает какой нибудь из имеющихся у конкретного человека модели - быть ограниченной? Никак. Именно поэтому мы и видим что люди в реальной жизни порой ограничиваються весьма странными представлениями и действиями. При, казалось бы, известных за их пределами возможностей.
Потому что ЯМ конкретного человека может быть сколь угодно простой. И бывает.
ну есть она, как она помешает какой нибудь из имеющихся у конкретного человека модели - быть ограниченной?
"Она" - свобода воли? Она никому никак не помешает. Она отделяет субъекта от объекта. Делает различие между человеком и инструментом принципиальным. Ограниченность какого-то конкретного человека не означает, что человека можно взять и заменить пассатижами на основании того, что пальцами гвозди из досок невозможно выдирать. У человека, в отличие от пассатижей нет предназначения, каким бы дауном или тупым с чьей-то точки зрения он ни был.
На работе она никого и никак не отделяет. Так как не является тем что обязательно используют. Или тем, что обязательно требуют на должности. А еще - то как сложно она проявляется - зависит от пространства свобод которое доступно человеку. А оно может быть очень неодинаковым для разных людей.
У человека вообще много качеств которыми он может отличится, но ключевое слово здесь - может. А смысл у него простой: не все люди одинаково используют эти возможности.
Естественно, часть из них именно поэтому можно заменить и их меняют. Причем и до эры искусственного интеллекта - тоесть, буквально "на пассатижи", и после. И можете на практике увидеть - это возможно.
На работе она никого и никак не отделяет.
Работа не является функцией или назначением человека. Работа - это всего лишь инструмент выживания. Считать человека инструментом... ну, этически неверно. Нас стараются превратить в инструменты, заставить почувствовать себя инструментом и ИИ - один из способов это сделать. И именно свобода воли - это и есть принципиальное отличие. Человек всегда может поступить в соответствии со своими желаниями - невзирая на последствия. Животное - не может. Молоток - не может... В противном случае мы превратимся в муравьёв - четко организованную иерархическую структуру, где шаг вправо-влево - расстрел. И спустя какое-то время безропотно вымрем, не выдержав изменений среды...
Скрипач не нужен: замещение технологических знаний