Comments 43
1) Мысль, будто человек не забывает старую информацию настолько очевидно-ложная, что не ясно, какие ещё опровержения вам нужны.
2) Хотелось бы, что бы у нас был естественный интеллект, который одинаково хорошо (плохо) справлялся бы и с просмотром сериалов и с пониманием квантовой физики, но увы. Предположение, что человеческий мозг не имеет предварительно заданной информации о входящих потоках такое же ложное, как и 1)
3) да, агрегация происходит
4) выводы на старых данных. И с распознаванием образов плохо и такси без водителя не ездят. Опоздали на несколько лет с такими тезисами.
5) долг может и есть (хоть и не ясно, почему), но почему это постулат?
1) забывает да, разрушает старую информацию запоминая новую - нет
2) почему ложное?
4) а такси что, поехали? Или все еще в процессе тестирования?
5) постулат в том, что должен сам контролировать свое применение
1) Спорно, да и принципиальная разница вами не показана.
2) Потому что младенец имеет инстинкты сразу при рождении. Он не является "белым листом", это достаточно известный факт, разве нужны пруфы?
4) Our Waymo One vehicles are fully autonomous. That means that on most occasions, no one is in the driver's seat when you ride with us.
5) кому должен-то?
1) принципиальная разница в нейросетевых проблемах. Чтобы на выходящем слое появился новый нейрон Вам нужно перестроить архитектуру и переучить сеть. С нуля. Старое порушили, потом вместе сновым заново обучили
2) фокусировка на лице матери - да, а вот на определение пробелов в тексте - вряд ли. Вы предлагает объяснить умение обрабатывать разные потоки данных заложенными инстинктами?? )))
4) они вроде до сих пор только по пригородам Феникса и СанФранциско ездят, движение там сами понимаете, не центр. Но в общем я рад за ребят ))
5) Должен создателю, если ему не наплевать как будут использовать. Если наплевать - то не должен.
1) Выкинули один слой остальные зафиксировали, новый слой обучили. Если вам тема интересна, вы изучайте существующие решения, а не придумывайте проблемы на пустом месте.
2) Скорее, структурой сети. Она даёт и готовность распознавать речь, например (интонацию ребенок в определенной степени понимает с рождения) и то, какие потоки данных человек может распознать. Никакой полноценной универсальности в человеческом мозге нет - вы сможете обработать длинный ряд чисел, найдя в нем закономерности? А вот увидеть их на графике вы сможете легко.
1) ну да, и я ровно об этом же. Научились различать кошечек и собачек. Потом встретили хомячка, выкинули слой, добавили новый (забыли про кошечек и собачек) и научились заново определять кошечек, собачек и хомячков. Потом встретили ворону и опять забыли про кошечек и собачек и научились их определять заново. Вот как сейчас помню, так именно в детстве все и происходило, сплощная маята. Встретил ворону - забыл про собаку, и давай заново учиться ее определять. )))
Не не, я даже не буду пытаться Вас переубедить что интелект на сетках не построить. Я уже пытался )))))
Вот как сейчас помню
Нет, не помните, в том-то и дело. Но если наблюдаете за детьми, то видите, что при появлении новых категорий у них немного сбоят старые (особенно на стыке старое/новое), но очень быстро настраиваются.
В любом случае, переобучить 1% - это не проблема и не является сильным доводом в пользу "интеллект на нейронках не построить".
Не не, я даже не буду пытаться Вас переубедить что интелект на сетках не построить
Дело не в том, что бы переубедить меня, а в том, что бы проверить свои доводы на надёжность и отсутствие дыр. Не "объяснить" то, что собеседники "не понимают" (люди нередко пытаются сделать именно это), а выстроить четкую последовательную картину.
Я уверен, что при попытке выстроить такую вы увидите, что существенных доводов против нейросетей у вас не останется. Очень надёжных доводов "за" при этом тоже может не найтись, правда. Лично я знаю только довод экстраполяции (или масштаба), он слабый.
мы тут не сойдемся, у каждого свое мнение. Я считаю, что архитектурно сетки реализуют рефлексы. А на рефлексах интелект по-моему не построить.
Ну и честно сказать, я сомневаюсь, что для переобучения при добавлении новых классов Вам будет достаточно переобучить только последний слой. Что ж в таком случае делают остальные слои, если они остаются константными при дообучении?...
Вот как сейчас помню, так именно в детстве все и происходило, сплощная маята.
Очень важный момент - работающий искусственный интеллект не обязан повторять естественный, так же как крыло самолёта не обязано повторять крыло птицы.
в ветке ниже тоже об этом дискуссия была, согласен, что AGI повторять мозг не обязан, но мне кажется, что пока нет никакого AGI, сверяться с эталоном при проектировании все-таки стоит
Всех, кто сверялся с эталоном при разработке летающих машин, ждала неудача.
Вот я должен выразить категорическое несогласие с тем, что предыдущий коммент (не мой!) получил минус. Граждане, если у вас есть возражения по фактам, пишите их, а не минусы лепите. Хабр делали как дискуссионную площадку.
Подозреваю, что под невысказанным контр-аргументов имелся в виду тот факт, что братья Райт действительно мучили птиц ))
Птицы могут парить в воздухе, не двигая крыльями. Самолёты могут парить в воздухе, не двигая крыльями. Вы отрицаете существование самолётов? Или в чем заключается неудача?
А набирать высоту при взлете, не двигая крыльями, птицы могут?
Эксперименты с махолетами закончились неудачей, полноценно взлетела только конструкция с зафиксированным крылом. Да вы и сами это знаете, впрочем.
А почему из всех процессов полета вы отводите главную роль маханию крыльями? Главная роль это процессы аэродинамики, в вакууме махание крыльями полет не создаст.
Для птиц проще создавать подъемную силу маханием, для самолета набором скорости. Только подъемная сила присутствует и там и там. Создание подъемной силы это главный принцип полета, а не махание.
И с ИИ аналогично. Можно создать "подъемную силу" в кремнии, но она должна быть такая же (логически эквивалентная), как и у естественного интеллекта.
На крыло самолета действуют те же законы аэродинамики, что и на крыло птицы. Без воздуха ни самолет, ни птица летать не будут.
1) забывает да, разрушает старую информацию запоминая новую - нет
Ну, вообще-то, память у людей именно так и работает. Каждый раз, когда человек что-то вспоминает, он перезаписывает это воспоминание. Можно даже подсадить людям ложные воспоминания с помощью аккуратно заданных вопросов. Есть более стабильные воспоминания, да, но и они не перманентны.
С навыками перезапись тоже в некоторой степени работает. Научившись ездить на велосипеде с обратным поворотом руля, вам придётся снова учиться, пусть и небольшое время, ездить на обычном.
У нейронов в принципе нет, насколько я знаю, механизма "всё, теперь с этого момента я останусь таким, как есть, и не буду меняться и образовывать новые/разрушать старые связи".
Нет, "именно так" не работает. Научившись ездить на велосипеде с обратным поворотом руля, вы не забудете навык письма.
У нейронов в принципе нет, насколько я знаю, механизма
А про него и нет разговора. Разговор о внешних проявлениях — у человека изученная информация более устойчива к изучению новой, чем у нейросети. Можно использовать любой механизм для достижения этого, но пока этого нет, неправильно говорить про схожие принципы.
Ух, на одном дыхании. Про телепатию не задумывался, но даже как-то действительно описанное очевидно ))
Спасибо спасибо ))) я старался )))
Если опираться только на первичные ID от рецепторов и окончательные ID к эффекторам можно попробовать и потелепать. Запускаешь их на схожем оборудовании и получаешь схожий результат с поправкой на опыт конкретного оборудования.
ID для речевых мышц одного отправил на речевые мышцы другого - получил чревовещание. Чем не телепатия.
Это все верно только при условии, что понятия в мыслях передаются именно идентификаторами, что не доказано. Они могут передаваться например набором первичных ощущений, которые у людей очень близки.
Кроме того, мы можем передавать мысли словами, которые понятны другим людям. То есть на пути к слову мысль как-то преобразуется в понятную форму. Возможно, что эта форма может быть понятной другим и на протяжении какой-то части этого пути до того, как оформиться в произнесенное слово.
Ну я б так сказал, если Вы зафиксировали набор первичных ощущений, то Вам его надо как-то идентифицировать. Иденитификация именно по совокупности первичных слагаемых через несколько этапов агрегации станет просто физически невозможной. Мы ж к сожалению идентифицируем агрегат не только по сумме слагаемых но и по их взаимному (даже не знаю как правильно сказать) расположению что ли....
Слово скорее всего это просто перекодировка агрегата так что боюсь не поможет ))
"Первичное ощущение" для конкретного нейрона это сигнал с предыдущих слоев, а не с первых.
То, что вы называете ID, это скорее сам нейрон, которые узнает какое-то понятие. Но нейроны это не то же самое, что мысли. Мысли это набор сигналов. Колбочки у всех расположены по-разному, но мы наблюдаем сходство сигналов на следующих слоях. Вопрос в том, насколько далеко идет это сходство. Теоретически, если спроецировать электрические сигналы колбочек одного человека на ближайшие по относительному пространственному расположению колбочки другого, то он "увидит" похожую картинку. Если предполагать наличие некоторой фантастической способности воспринимать электрическое поле нейронов другого человека на следующих слоях, а также ассоциации с нейронами предыдущего слоя, то есть и теоретическая возможность приблизительно узнавать мысли. Я говорю к тому, что еще не доказано, что в мыслях используются некие идентификаторы, которые разные у всех людей, поэтому и возможность телепатии не опровергнута.
Кроме того, напрямую читать мысли может и невозможно, но это технически возможно с использованием компьютера. Отслеживаем все сигналы со всех нейронов, задаем разные вопросы, ищем корреляцию сигналов с понятиями в вопросах, потом используем эту информацию для декодирования сигналов когда вопросы не задаются.
И вот что с этим делать, я не знаю. Но вот точно знаю, что разговоры из серии «я занимался чистой наукой, а Хиросиму взорвали военные» не проканают. Извините.
Покупать землю вдали от крупных мегаполисов и максимально автономно обустраиваться.
- Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя... Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой - хотите верьте, хотите нет.
- А в чем, собственно, дело? - спросил Банин.
- Она начала вести себя, - сказал Горбовский.
- Не понимаю.
- И я не понимаю, но ее едва успели выключить.
- А кто-нибудь понимает?
- Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: "Леонид, это было страшно".
А. и Б. Стругацкие, "Далекая радуга", 1963г
На мой взгляд, самое главное отличие обычного ИИ от сильного, это то, что сильный сможет вести себя. Готово ли человечество морально к этому или нет, это главный вопрос. Как только ответ будет "да" - появление сильного ИИ будет только вопросом времени - все необходимые технологии уже есть.
Механизм обработки любой входящей информации должен быть универсален.
Если рассуждать так, то почему у мозга есть явно "специализированные" области (доли, центры)? И, судя по всему, это врождённая "фича", а не результат некой настройки/обучения "универсальной серой массы" в процессе восприятия входящих данных.
Я бы сказал что во-первых потому что разные рецепторные поля должны иметь собственные входы в общий обработчик. Если представить себе обработку информации как многошаговую агрегацию, то логично чтобы нижние уровни агрегации проходили по сигналам одного источника, а верхние кросс-сигнально.
Если считать кору мозга общей двумерной шиной, то распространение агрегатов по коре будет происходить типа как круги на воде, с интерференцией в областях кросс-сигнальной агрегации.
ну блин какие я умные слова написал ))))))))
На одну монументальную предвзятость в посте хотелось бы указать отдельно: текст подразумевает, что AGI это модель-копия человека. Как старая фантастика про контакт с пришельцами, где все пришельцы это буквально люди, но ярко-зеленого цвета, или смешно одетые; других отличий нет.
Если мы уже обсуждаем жизнь на базе кремния и информационных потоков, давайте предположим, что и функционально эта жизнь будет совершенно иной, отличной от наших белков-жиров-углеводов. Было бы странно ожидать, что AGI будет натурально агукать и тянуться к сиське, или обладать обобщёнными механизмами обработки текста и изображений, или вообще оперировать текстом и изображениями. Как мы с вами в общем случае не оперируем магнитными полями, например.
(Я интуитивно согласен с тем, что из GPT-4-подобных штук не слепить AGI, если что.)
спсб за согласие про GPT )))
Про тягу к сиське скажу так, если мы хотим сделать то, чего никто до сих пор не сделал, то лучше ориентироваться хотя бы на работающий аналог. Потому что иначе вы приходите к ситуации когда можно сделать что угодно и нету никакой гарантии что это будет работать. Рефлексия на собственные механизмы распознавания по крайней мере дает вам некие маркеры - вот так у нас работает, а вот так нет.
Пример хотите? Почему если Вы в тексте встречаете слово с переставленными буквами Вы его спокойно прочитываете? Это не оксюморон и не прикольный факт, это реальное указание на то, как работает механизм распознавания. На фига в механизме обработки однонаправленного детерминированного потока такие сложности как распознавание переставленных сигналов?
или обладать обобщёнными механизмами обработки текста и изображений
Если он не обладает теми возможностями, которые есть у человека, а значит не может решать задачи, где подразумевается их использование, он по определению не является AGI.
Я б еще более наглое заявление сделал ))))) если в мозг воткнуть новый источник сигналов, то через какое-то непродолжительное время это мозг должен начать совершенно уверенно ими оперировать. То есть типа если в мозг воткнуть компас, то через некоторое время Вы начнете отлично ориентироваться на местности, причем неосознанно...
Кстати были интересные эксперименты по восстановлению нарушенной вестибулярки у людей через приборчик который передавал сигналы просто иголками на кожу... ссылку наверно сейчас не найду...
А если человек родился слепым или глухим, и таким образом не может решать задачи, где подразумеваются такие возможности человека, как слух и зрение — это, «по определению», и не человек вовсе?
Если вы говорите AGI, а подразумеваете точную 1:1 копию человека, так зачем плодить терминологию.
Эрм... мы наверно немного потеряли предмет дискуссии. Изначально обсуждалось нужно ли оглядываться на мозг человека как на пример работающего ИИ. Я думаю да, в качестве подсказок. Тезис коллеги о том что если ИИ не сможет обрабатывать визуалку, то он значит и не ИИ, я думаю, имелось в виду что это важный и сложный поток информации, если наша система с ним работать не умеет, значит мы к уровню работы мозга еще не приблизились. Отсутствие зрения у конкретного человека не означает что его мозг не умеет обрабатывать сигналы, у него просто рецепторы отрублены. Ну то есть мы говорим AGI, а подразумеваем те же принципы обработки информации как в человеческом мозге, а не сам человеческий организм в целом. Я подозреваю, что мы говорим об одном и том же но разными словами ))
это, «по определению», и не человек вовсе?
Конечно это не так, потому что это определение для Artificial General Intelligence, а любой человек им не является.
Вики
"An artificial general intelligence (AGI) is a type of hypothetical intelligent agent. The AGI concept is that it can learn to accomplish any intellectual task that human beings or animals can perform."
"Human beings" могут решать задачи, где требуется "слух и зрение"? Да. Даже если какой-то конкретный человек не может.
Человек, который родился глухим, не может распознавать речь по причине неисправности датчиков входных слуховых сигналов, а не потому что у него нет интеллектуальных способностей это делать. И с AGI точно так же — если он не распознает речь по причине неисправности микрофона, то это не означает, что он перестал быть AGI. Но в понятии "изобретение AGI" всегда подразумевается, что аппаратная часть работает правильно, и речь идет только об алгоритмах обработки информации.
У меня от вашей статьи осталось ощущение, что вы поняли жизнь, но отрицаете её. Все верно: пока есть военные - то всё, чем бы вы ни занимались, ИИ это или что-то ещё, будет ими использовано.
)))))))) ну блин почему так печально, если проблема идентифицирована, то всегда можно найти способ выкрутиться... просто способ может быть неочевидный
Призрак AGI. Постулаты