Но вот у меня сомнения, что нужно рассматривать в одной совокупности накопление информации и решение задач. Я в личке написал про младенца, а вот наверно еще лучше пример - астрономические наблюдения у древних. Сначал они просто пялились на звезды, потом узнавали созвездия, потом замечали что появление созвездий соответствует разливу Нила или чего там еще ))
Никакого действия и никакого вознаграждения там не было. Был просто поиск закономерностей. Ну и видимо потом прогноз, хоть мне ужасно не нравится все сводить к предсказаниям )))
Про репрезентацию я пока не понимаю )) это очень сложно )) надо осмысливать
ну погодите )) если сетка классифицировала N классов, а в новых данных повился N+1 класс, куда его нейронка денет? Уже появились сетки, которые на выходном слое сами отращивают новые нейроны?
А, вот как еще можно про сжатие спросить. А эта сетка любое видео теперь может так сжать? Или только из подмножества на котором тренировалась? Если любое, то наверно да, обобщение... надо подумать )))
Ну формулировка задачки для ImageNet которую вы приводите это не математическая, а скорее инженерная )) это я так, цепляюсь ))
По поводу доучивания сетки вопрос. Ну ок, у вас есть накопленные вне сетки данные, и они копятся в течение жизни. А доучиваться сетка как будет? каждый раз с сбросом всех весов? Это я правда не понимаю.
Насчет примера со сжатием, это выглядит как трансформация из одного многомерного пространства в другое... Не знаю, насколько это можно считать обобщением... А есть ли инструментарий, который бы показал каким именно образом внутри сетки произошло обобщение?
Ну то я к чему, происходит некое действие, часть наблюдателей говорит, что это было обобщение, другая часть не согласна. Как доказать, что обобщение имело место?
Ну про постулат 4 я совершенно согласен. Плюс соображение
ImageNet и возник именно потому что программными средствами решить распознование объектов на картинке было невозможно. И, кстати, я что-то сомневаюсь, что существует математически строгая постановка задачи для ImageNet (атака на постулат 1 :))
То есть, у нас получается два основных вопроса
что мы хотим от AGI
На какой простой измеримой задаче надо тренироваться
Спрашивали - отвечаем
AGI должен накапливать новые знания, так, чтобы не рушились уже накопленные.
AGI должен данные обобщать. Ну я вот не могу представить AGI без этой функции
У нас нет понимания, что является достаточным условием для AGI, но вот эти два мне кажутся необходимыми. Согласны?
Что у нас с нейросетевыми архитектурами
Пункт первый не выполняется. Сетки не доучиваются. Очень бы хотелось увидеть контрпример, если он есть. Мне тут подсказали посмотреть в сторону HTM. Смотрю... осмысляю..
Пункт второй, по моему мнению тоже не выполняется. Опять-таки, если есть контрпример, был бы очень радо увидеть
Вот поэтому я и говорю, что нейросетки - тупик для развития AGI
По поводу задачки для тестирования, у меня пожалуй есть предложение ))) но вот бы сначала услышать контраргументацию в защиту нейронок
Чтобы мне было проще сформулировать ответы, я бы хотел уточнить, что у Вас главные постулаты (я перечилю, а Вы поправите, если я ошибся)
Нужна математическая формулировка задачи
Нужны задачи, которые люди решают, а текущие архитектуры нейронок не могут
Провал проекта не доказывает провал концепции
Проверять решаемость через программирование, если можно решить программированием, а нейросеткой нет, то надо думать как сгенерировать такую программу автоматически
Прошу прощения за занудство )) я олдскульный BA и всегда перепроверяю, что я понял людей правильно
Единственная печаль, концепции уже больше 10 лет, а захвата вселенной так и не случилось. Наверно есть какие-то неразрешимые болячки. Хотя нейросетям уже 60 лет... ну ладно, посмотрим
Может вся проблема в том что нет ограничения на стремление к богатству? Ну то есть, на фига мне дом больше 200 квм, я его убрать не смогу, мне нужны слуги. На фига мне яхта больше 50 футов,я ею управлять не смогу, мне нужны слуги. Слуги - это же противно... какие-то посторонние люди трутся в моей личной жизни.. нет слуг, и уровень необходимого богатства станет ограниченным. Значит миллиарды не нужны. Значит нет нужды строить корпорацию, маленькой компании на местном рынке мне вполне хватит... И вся эта байда с разгоном потребления наверно стала бы не нужной.
Очхор )))
Но вот у меня сомнения, что нужно рассматривать в одной совокупности накопление информации и решение задач. Я в личке написал про младенца, а вот наверно еще лучше пример - астрономические наблюдения у древних. Сначал они просто пялились на звезды, потом узнавали созвездия, потом замечали что появление созвездий соответствует разливу Нила или чего там еще ))
Никакого действия и никакого вознаграждения там не было. Был просто поиск закономерностей. Ну и видимо потом прогноз, хоть мне ужасно не нравится все сводить к предсказаниям )))
Про репрезентацию я пока не понимаю )) это очень сложно )) надо осмысливать
Про дообучение
ну погодите )) если сетка классифицировала N классов, а в новых данных повился N+1 класс, куда его нейронка денет? Уже появились сетки, которые на выходном слое сами отращивают новые нейроны?
А, вот как еще можно про сжатие спросить. А эта сетка любое видео теперь может так сжать? Или только из подмножества на котором тренировалась? Если любое, то наверно да, обобщение... надо подумать )))
Ну формулировка задачки для ImageNet которую вы приводите это не математическая, а скорее инженерная )) это я так, цепляюсь ))
По поводу доучивания сетки вопрос. Ну ок, у вас есть накопленные вне сетки данные, и они копятся в течение жизни. А доучиваться сетка как будет? каждый раз с сбросом всех весов? Это я правда не понимаю.
Насчет примера со сжатием, это выглядит как трансформация из одного многомерного пространства в другое... Не знаю, насколько это можно считать обобщением... А есть ли инструментарий, который бы показал каким именно образом внутри сетки произошло обобщение?
Ну то я к чему, происходит некое действие, часть наблюдателей говорит, что это было обобщение, другая часть не согласна. Как доказать, что обобщение имело место?
Ага )))
Ну про постулат 4 я совершенно согласен. Плюс соображение
ImageNet и возник именно потому что программными средствами решить распознование объектов на картинке было невозможно. И, кстати, я что-то сомневаюсь, что существует математически строгая постановка задачи для ImageNet (атака на постулат 1 :))
То есть, у нас получается два основных вопроса
что мы хотим от AGI
На какой простой измеримой задаче надо тренироваться
Спрашивали - отвечаем
AGI должен накапливать новые знания, так, чтобы не рушились уже накопленные.
AGI должен данные обобщать. Ну я вот не могу представить AGI без этой функции
У нас нет понимания, что является достаточным условием для AGI, но вот эти два мне кажутся необходимыми. Согласны?
Что у нас с нейросетевыми архитектурами
Пункт первый не выполняется. Сетки не доучиваются. Очень бы хотелось увидеть контрпример, если он есть. Мне тут подсказали посмотреть в сторону HTM. Смотрю... осмысляю..
Пункт второй, по моему мнению тоже не выполняется. Опять-таки, если есть контрпример, был бы очень радо увидеть
Вот поэтому я и говорю, что нейросетки - тупик для развития AGI
По поводу задачки для тестирования, у меня пожалуй есть предложение ))) но вот бы сначала услышать контраргументацию в защиту нейронок
Привет! Спасибо )
Чтобы мне было проще сформулировать ответы, я бы хотел уточнить, что у Вас главные постулаты (я перечилю, а Вы поправите, если я ошибся)
Нужна математическая формулировка задачи
Нужны задачи, которые люди решают, а текущие архитектуры нейронок не могут
Провал проекта не доказывает провал концепции
Проверять решаемость через программирование, если можно решить программированием, а нейросеткой нет, то надо думать как сгенерировать такую программу автоматически
Прошу прощения за занудство )) я олдскульный BA и всегда перепроверяю, что я понял людей правильно
Спасибо! Очень интересно. Пошел осмыслять ))
Единственная печаль, концепции уже больше 10 лет, а захвата вселенной так и не случилось. Наверно есть какие-то неразрешимые болячки. Хотя нейросетям уже 60 лет... ну ладно, посмотрим
Может вся проблема в том что нет ограничения на стремление к богатству? Ну то есть, на фига мне дом больше 200 квм, я его убрать не смогу, мне нужны слуги. На фига мне яхта больше 50 футов,я ею управлять не смогу, мне нужны слуги. Слуги - это же противно... какие-то посторонние люди трутся в моей личной жизни.. нет слуг, и уровень необходимого богатства станет ограниченным. Значит миллиарды не нужны. Значит нет нужды строить корпорацию, маленькой компании на местном рынке мне вполне хватит... И вся эта байда с разгоном потребления наверно стала бы не нужной.