Вот я должен выразить категорическое несогласие с тем, что предыдущий коммент (не мой!) получил минус. Граждане, если у вас есть возражения по фактам, пишите их, а не минусы лепите. Хабр делали как дискуссионную площадку.
Подозреваю, что под невысказанным контр-аргументов имелся в виду тот факт, что братья Райт действительно мучили птиц ))
мы тут не сойдемся, у каждого свое мнение. Я считаю, что архитектурно сетки реализуют рефлексы. А на рефлексах интелект по-моему не построить.
Ну и честно сказать, я сомневаюсь, что для переобучения при добавлении новых классов Вам будет достаточно переобучить только последний слой. Что ж в таком случае делают остальные слои, если они остаются константными при дообучении?...
в ветке ниже тоже об этом дискуссия была, согласен, что AGI повторять мозг не обязан, но мне кажется, что пока нет никакого AGI, сверяться с эталоном при проектировании все-таки стоит
Эрм... мы наверно немного потеряли предмет дискуссии. Изначально обсуждалось нужно ли оглядываться на мозг человека как на пример работающего ИИ. Я думаю да, в качестве подсказок. Тезис коллеги о том что если ИИ не сможет обрабатывать визуалку, то он значит и не ИИ, я думаю, имелось в виду что это важный и сложный поток информации, если наша система с ним работать не умеет, значит мы к уровню работы мозга еще не приблизились. Отсутствие зрения у конкретного человека не означает что его мозг не умеет обрабатывать сигналы, у него просто рецепторы отрублены. Ну то есть мы говорим AGI, а подразумеваем те же принципы обработки информации как в человеческом мозге, а не сам человеческий организм в целом. Я подозреваю, что мы говорим об одном и том же но разными словами ))
ну да, и этот пример взят из наблюдения за эталоном, в эталоне вот так, значит наверно это имеет значение для разработки алгоритма. Я привел пример в подтверждение, что эталон дает подсказки. Если ими не пользоваться, то продвигаться вперед будет значительно труднее.
Я б еще более наглое заявление сделал ))))) если в мозг воткнуть новый источник сигналов, то через какое-то непродолжительное время это мозг должен начать совершенно уверенно ими оперировать. То есть типа если в мозг воткнуть компас, то через некоторое время Вы начнете отлично ориентироваться на местности, причем неосознанно...
Кстати были интересные эксперименты по восстановлению нарушенной вестибулярки у людей через приборчик который передавал сигналы просто иголками на кожу... ссылку наверно сейчас не найду...
Ну я б так сказал, если Вы зафиксировали набор первичных ощущений, то Вам его надо как-то идентифицировать. Иденитификация именно по совокупности первичных слагаемых через несколько этапов агрегации станет просто физически невозможной. Мы ж к сожалению идентифицируем агрегат не только по сумме слагаемых но и по их взаимному (даже не знаю как правильно сказать) расположению что ли....
Слово скорее всего это просто перекодировка агрегата так что боюсь не поможет ))
Про тягу к сиське скажу так, если мы хотим сделать то, чего никто до сих пор не сделал, то лучше ориентироваться хотя бы на работающий аналог. Потому что иначе вы приходите к ситуации когда можно сделать что угодно и нету никакой гарантии что это будет работать. Рефлексия на собственные механизмы распознавания по крайней мере дает вам некие маркеры - вот так у нас работает, а вот так нет.
Пример хотите? Почему если Вы в тексте встречаете слово с переставленными буквами Вы его спокойно прочитываете? Это не оксюморон и не прикольный факт, это реальное указание на то, как работает механизм распознавания. На фига в механизме обработки однонаправленного детерминированного потока такие сложности как распознавание переставленных сигналов?
Я бы сказал что во-первых потому что разные рецепторные поля должны иметь собственные входы в общий обработчик. Если представить себе обработку информации как многошаговую агрегацию, то логично чтобы нижние уровни агрегации проходили по сигналам одного источника, а верхние кросс-сигнально.
Если считать кору мозга общей двумерной шиной, то распространение агрегатов по коре будет происходить типа как круги на воде, с интерференцией в областях кросс-сигнальной агрегации.
1) ну да, и я ровно об этом же. Научились различать кошечек и собачек. Потом встретили хомячка, выкинули слой, добавили новый (забыли про кошечек и собачек) и научились заново определять кошечек, собачек и хомячков. Потом встретили ворону и опять забыли про кошечек и собачек и научились их определять заново. Вот как сейчас помню, так именно в детстве все и происходило, сплощная маята. Встретил ворону - забыл про собаку, и давай заново учиться ее определять. )))
Не не, я даже не буду пытаться Вас переубедить что интелект на сетках не построить. Я уже пытался )))))
1) принципиальная разница в нейросетевых проблемах. Чтобы на выходящем слое появился новый нейрон Вам нужно перестроить архитектуру и переучить сеть. С нуля. Старое порушили, потом вместе сновым заново обучили
2) фокусировка на лице матери - да, а вот на определение пробелов в тексте - вряд ли. Вы предлагает объяснить умение обрабатывать разные потоки данных заложенными инстинктами?? )))
4) они вроде до сих пор только по пригородам Феникса и СанФранциско ездят, движение там сами понимаете, не центр. Но в общем я рад за ребят ))
5) Должен создателю, если ему не наплевать как будут использовать. Если наплевать - то не должен.
Ну вот, вот оно, правильно! Этот механизм-то, которые делает внутренние представления, он то у мужика общий, не заточенный под конкретную задачку.
Его можно и в современный город закинуть и он автомобиль с телегой обобщит. То есть есть архитектурное решение, которое позволяет создавать внутренние представления поддающиеся потом измерениям, классификациям, поиску ближайщего и т.п.
Собственно найти этот механизм = найти ключ с AGI. Ну ладно, загнул, один из ключей )
Сейчас-то подобные системы делают, но под каждую задачку. И, да, как вы говорили нейронка будет одной из составляющих частей общего комплекса.
Сталбыть нужна постановка задачки на поиск такого механизма представлений. Смотрите-ка, мы сейчас до манифеста компартии допишемся ))
Следующий вопрос - а как бы Вы сформулировали такую задачку?
ненене, пардон )) как это не может быть нового класса?! Что это за AGI, который работает только с фиксированным набором классов?
Этот AGI завтра будет загружен в робота который по вертикали тоже сможет перемещаться. И он должен сам разобраться как ему действовать, без всяких подкручиваний его архитектуры.
И, кстати, по горизонтали он уже не должен заново учиться )) он уже имеет накопленный опыт.
Датасет с физикой Ньютона я бы все-таки рядом не ставил. Обучающие примеры сеток гораздо уже по применению.
Если сетка только на похожих видео дает приличные результаты, то наверно, мы вполне это можем объяснить тем что нейросетка просто подобрала функцию перевода точек одного многомерного пространства в другое.
Все-таки это не выглядит как обобщение... ну не знаю, по мне это как-то неубедительно
Вот в чем Вы правы точно, действительно нужно конкретизировать про обобщение, очень термин расплывчатый.
Ну ок, а вот такой пример
Мужика из Рязанской губернии 18 века закинули в Африку. Он кроме коров, собак и кур ничего в своей жизни не видел
Тут он видит гиену, страуса и антилопу гну. Вернувшись домой, он соседям расскажет что видел странную собаку, странную курицу и странную корову. И он ни фига не перепутает и страуса коровой не назовет. Мужик точно воспользовался обобщениями.
Вот я должен выразить категорическое несогласие с тем, что предыдущий коммент (не мой!) получил минус. Граждане, если у вас есть возражения по фактам, пишите их, а не минусы лепите. Хабр делали как дискуссионную площадку.
Подозреваю, что под невысказанным контр-аргументов имелся в виду тот факт, что братья Райт действительно мучили птиц ))
мы тут не сойдемся, у каждого свое мнение. Я считаю, что архитектурно сетки реализуют рефлексы. А на рефлексах интелект по-моему не построить.
Ну и честно сказать, я сомневаюсь, что для переобучения при добавлении новых классов Вам будет достаточно переобучить только последний слой. Что ж в таком случае делают остальные слои, если они остаются константными при дообучении?...
в ветке ниже тоже об этом дискуссия была, согласен, что AGI повторять мозг не обязан, но мне кажется, что пока нет никакого AGI, сверяться с эталоном при проектировании все-таки стоит
вроде совпали ))))
что-то никто задачку решать не хочет )))) а мне правда интересно есть ли готовые решения....
Эрм... мы наверно немного потеряли предмет дискуссии. Изначально обсуждалось нужно ли оглядываться на мозг человека как на пример работающего ИИ. Я думаю да, в качестве подсказок. Тезис коллеги о том что если ИИ не сможет обрабатывать визуалку, то он значит и не ИИ, я думаю, имелось в виду что это важный и сложный поток информации, если наша система с ним работать не умеет, значит мы к уровню работы мозга еще не приблизились. Отсутствие зрения у конкретного человека не означает что его мозг не умеет обрабатывать сигналы, у него просто рецепторы отрублены. Ну то есть мы говорим AGI, а подразумеваем те же принципы обработки информации как в человеческом мозге, а не сам человеческий организм в целом. Я подозреваю, что мы говорим об одном и том же но разными словами ))
ну да, и этот пример взят из наблюдения за эталоном, в эталоне вот так, значит наверно это имеет значение для разработки алгоритма. Я привел пример в подтверждение, что эталон дает подсказки. Если ими не пользоваться, то продвигаться вперед будет значительно труднее.
Да нет, конечно не доказано... Это просто как любопытное следствие из постулата об агрегировании, чисто на мой взгляд )))
Я б еще более наглое заявление сделал ))))) если в мозг воткнуть новый источник сигналов, то через какое-то непродолжительное время это мозг должен начать совершенно уверенно ими оперировать. То есть типа если в мозг воткнуть компас, то через некоторое время Вы начнете отлично ориентироваться на местности, причем неосознанно...
Кстати были интересные эксперименты по восстановлению нарушенной вестибулярки у людей через приборчик который передавал сигналы просто иголками на кожу... ссылку наверно сейчас не найду...
Ну я б так сказал, если Вы зафиксировали набор первичных ощущений, то Вам его надо как-то идентифицировать. Иденитификация именно по совокупности первичных слагаемых через несколько этапов агрегации станет просто физически невозможной. Мы ж к сожалению идентифицируем агрегат не только по сумме слагаемых но и по их взаимному (даже не знаю как правильно сказать) расположению что ли....
Слово скорее всего это просто перекодировка агрегата так что боюсь не поможет ))
спсб за согласие про GPT )))
Про тягу к сиське скажу так, если мы хотим сделать то, чего никто до сих пор не сделал, то лучше ориентироваться хотя бы на работающий аналог. Потому что иначе вы приходите к ситуации когда можно сделать что угодно и нету никакой гарантии что это будет работать. Рефлексия на собственные механизмы распознавания по крайней мере дает вам некие маркеры - вот так у нас работает, а вот так нет.
Пример хотите? Почему если Вы в тексте встречаете слово с переставленными буквами Вы его спокойно прочитываете? Это не оксюморон и не прикольный факт, это реальное указание на то, как работает механизм распознавания. На фига в механизме обработки однонаправленного детерминированного потока такие сложности как распознавание переставленных сигналов?
Я бы сказал что во-первых потому что разные рецепторные поля должны иметь собственные входы в общий обработчик. Если представить себе обработку информации как многошаговую агрегацию, то логично чтобы нижние уровни агрегации проходили по сигналам одного источника, а верхние кросс-сигнально.
Если считать кору мозга общей двумерной шиной, то распространение агрегатов по коре будет происходить типа как круги на воде, с интерференцией в областях кросс-сигнальной агрегации.
ну блин какие я умные слова написал ))))))))
1) ну да, и я ровно об этом же. Научились различать кошечек и собачек. Потом встретили хомячка, выкинули слой, добавили новый (забыли про кошечек и собачек) и научились заново определять кошечек, собачек и хомячков. Потом встретили ворону и опять забыли про кошечек и собачек и научились их определять заново. Вот как сейчас помню, так именно в детстве все и происходило, сплощная маята. Встретил ворону - забыл про собаку, и давай заново учиться ее определять. )))
Не не, я даже не буду пытаться Вас переубедить что интелект на сетках не построить. Я уже пытался )))))
1) принципиальная разница в нейросетевых проблемах. Чтобы на выходящем слое появился новый нейрон Вам нужно перестроить архитектуру и переучить сеть. С нуля. Старое порушили, потом вместе сновым заново обучили
2) фокусировка на лице матери - да, а вот на определение пробелов в тексте - вряд ли. Вы предлагает объяснить умение обрабатывать разные потоки данных заложенными инстинктами?? )))
4) они вроде до сих пор только по пригородам Феникса и СанФранциско ездят, движение там сами понимаете, не центр. Но в общем я рад за ребят ))
5) Должен создателю, если ему не наплевать как будут использовать. Если наплевать - то не должен.
Спасибо спасибо ))) я старался )))
1) забывает да, разрушает старую информацию запоминая новую - нет
2) почему ложное?
4) а такси что, поехали? Или все еще в процессе тестирования?
5) постулат в том, что должен сам контролировать свое применение
Прочитал. Замечательная статья и просто чумовой объем проделанной работы!
ага, помню я обе эти статьи. Чужую точно читал, а вот Вашу нет, что-то отвлекло. Пойду читать
Ну вот, вот оно, правильно! Этот механизм-то, которые делает внутренние представления, он то у мужика общий, не заточенный под конкретную задачку.
Его можно и в современный город закинуть и он автомобиль с телегой обобщит. То есть есть архитектурное решение, которое позволяет создавать внутренние представления поддающиеся потом измерениям, классификациям, поиску ближайщего и т.п.
Собственно найти этот механизм = найти ключ с AGI. Ну ладно, загнул, один из ключей )
Сейчас-то подобные системы делают, но под каждую задачку. И, да, как вы говорили нейронка будет одной из составляющих частей общего комплекса.
Сталбыть нужна постановка задачки на поиск такого механизма представлений. Смотрите-ка, мы сейчас до манифеста компартии допишемся ))
Следующий вопрос - а как бы Вы сформулировали такую задачку?
Я вот пошел думать ))
ненене, пардон )) как это не может быть нового класса?! Что это за AGI, который работает только с фиксированным набором классов?
Этот AGI завтра будет загружен в робота который по вертикали тоже сможет перемещаться. И он должен сам разобраться как ему действовать, без всяких подкручиваний его архитектуры.
И, кстати, по горизонтали он уже не должен заново учиться )) он уже имеет накопленный опыт.
Ну уж нет, знаете ли ))))))
Датасет с физикой Ньютона я бы все-таки рядом не ставил. Обучающие примеры сеток гораздо уже по применению.
Если сетка только на похожих видео дает приличные результаты, то наверно, мы вполне это можем объяснить тем что нейросетка просто подобрала функцию перевода точек одного многомерного пространства в другое.
Все-таки это не выглядит как обобщение... ну не знаю, по мне это как-то неубедительно
Вот в чем Вы правы точно, действительно нужно конкретизировать про обобщение, очень термин расплывчатый.
Ну ок, а вот такой пример
Мужика из Рязанской губернии 18 века закинули в Африку. Он кроме коров, собак и кур ничего в своей жизни не видел
Тут он видит гиену, страуса и антилопу гну. Вернувшись домой, он соседям расскажет что видел странную собаку, странную курицу и странную корову. И он ни фига не перепутает и страуса коровой не назовет. Мужик точно воспользовался обобщениями.
А нейросетка так сработать может?