Не обязательно каждому клиенту свой адрес пополнения.
Можно как с краудсорсингом — когда наберется нужная сумма, открыть ключ расшифровки всему миру ))
Представьте ситуацию — корпоративные политики безопасности в порядке, в смысле — регламенты написаны замечательно.
Но после "оптимизации" (см статью) в наличии есть менее 10 сисадминов, а железных и виртуальных серверов — несколько тысяч. Причём никто чётко не знает, какие из них в какое время можно перезагружать. Или даже знает что перезагружать нежелательно. Или перезагрузка требует длительного согласования.
Короче, начнёшь перезагрузками системы принудительно дергать — жди увольнения. Да кому нужен такой энтузиазм и самопожертвование.
Вот и довели ситуацию до...
А почему никто не советует для начала остановить и заблокировать запуск в Windows сервиса "Сервер"?
Ну хотя бы на домашнем компе? Хотя бы на компах, которые не расшаривают свои папки?
Для специализированных сетей обрывы ведут к ухудшению, это понятно.
Но если это механизм для "сознания" AI, которое будет подключать в работу другие нейросети, которое исходно обладает большой собственной (неразрушаемой) связностью, то может небольшое временное ухудшение даже ни на чем и не скажется?
По-моему не надо тестировать результат и откатывать к предыдущему состоянию этот блок AI.
Для него нормально постоянно быть в изменении, он же не должен идти к стабильному наилучшему состоянию, как AlphaGo или сеть распознавания породы котиков на картинках.
Я бы попробовал так.
Основа — сеть с уже хорошей связностью.
К ней — дополнительные связи, которые могут создаваться и разрушаться, в количестве сравнимом с фиксированными связями.
Нужна будет функция, определяющая важность (вес) связи.
Связь уничтожаем, когда её вес мал.
Сложнее будет решить, где создавать новые связи.
Все же, если их все создавать полностью случайным образом, то прогресс обучения может оказаться слишком медленным.
Хорошо бы определить правило поиска ключевых нейронов (или их групп), от которых пойдут новые связи. Концы для новой связи можно уже пробовать выбирать случайно.
Если такого правила нет, то периодически можно "равномерно" разбрасывать по сети немного случайных связей.
Если новые связи приобрели большой вес, то докидываем рядом к ним еще — соединяем соседние нейроны.
Мы пишем комментарии к статье с определенной темой. Статья — о том, что есть хорошие наработки решения узких задач, но...
приведут ли они нас к настоящему, полному ИИ, к обобщённому интеллекту, или ОИ? Вряд ли – и вот, почему.
Лично я согласен с автором статьи, что набор решенных узких задач — это не предел наших пожеланий к AI.
От AI хочется большего, чтобы он как минимум мог учиться (intelligence = the ability to acquire and apply knowledge and skills) в произвольной области, не ограниченной наперед небольшим набором правил. Т.е. чтобы AI мог воспринимать новые правила и факты без помощи человека, мог самостоятельно сформировать себе под эти правила внутреннюю вспомогательную нейросеть.
И в своем первом комменте я указал, что человек умеет это делать, а текущие реализации узких AI — нет.
Раньше Вы утверждали, что есть некое ключевое отличие, а теперь всё свелось лишь к недостаточности числа нейронов.
Ключевое отличие — в том, что мозг умеет перестраивать связи между нейронами, а железные нейросети — нет.
Далее вы сказали, что полносвязная сеть решает проблему, а я возразил, что практически — таки нет, из-за появляющегося жесткого ограничения на количество нейронов, которое нам доступно при имеющихся объемах памяти.
У нас с Вами, вероятно, разные требования к AI, у меня нет желания «делать AI умнее человека», мне нужно, чтобы алгоритм успешно решал мои практические задачи, а не рефлексировал относительно собственного бытия.
Исходная статья и мои комменты относятся к теме выхода AI за пределы узких предопределенных задач.
Не заметил у себя ничего самопротиворечивого.
Полносвязная сеть сейчас практически нереализуема для количества нейронов более 1 млн.
Для того, чтобы это понять, не нужно никакого практического опыта, достаточно знать арифметику и типичные объемы памяти современных устройств.
1 млн нейронов слишком мало для AI.
Поэтому ваше предложение "Используйте полносвязные слои. Нулевой вес эквивалентен разрыву связи." не проходит.
Нет такой альтернативы — экономить на памяти или не экономить.
Можно лишь рассматривать разные варианты экономии. Таки придется уменьшать связность и т.п.
А когда сэкономим в триллион раз на памяти (по сравнению с полносвязной сетью), то и общее быстродействие от этого только возрастет.
У человека порядка 10^10 нейронов.
Если хотим делать AI умнее человека, то придется примерно столько нейронов и брать, а лучше — еще больше.
Железо пока не тянет такие полносвязные слои.
Специализация участков сети (как и у человека) несколько ослабит проблему. Т.е. можно делать несколько специализированных сетей + полносвязный слой с интеллектом, который их объединяет и использует.
Предположим, на полносвязный слой пойдет 1/10 часть — т.е. 10^9 нейронов, это 10^18 связей (примерно 2^60).
Все равно много. AI пока недостижим.
Если на каждую связь по 1 байту памяти выделить, то 1 ТБ памяти хватит на полносвязную сеть из миллиона нейронов. На таком жалком количестве AI не получить.
Может все же лучше думать в сторону реализации механизма изменения конфигурации сети?
Почему никогда на Хабре и ГТ, рассказывая про нейросети, не упоминают ключевое отличие процессов их обучения и функционирования от таковых в "органическом" мозге?
В мозге не только веса входов нейронов изменяются, там ещё и образуются новые связи между нейронами, и исчезают старые — перестраивается сама конфигурация сети.
Без такой фичи нейросеть будет получаться заточенная только на 1 задачу. Либо игра го, либо распознавание образов. Вместе — никак. И никакого AI не получить из набора "решателей узких задач".
Если вы требуете от меня большей точности, тогда так:
Один важнейших факторов, подталкивающих индивидуума к воровству — нежелание работать.
Не следует смешивать понятие работы и воровства.
Не обязательно каждому клиенту свой адрес пополнения.
Можно как с краудсорсингом — когда наберется нужная сумма, открыть ключ расшифровки всему миру ))
Сколько фильмов смотрел, так американские грабители банков предпочитали брать мелкими купюрами.
Неужели террористы и взяточники так от них отличаются?
Не обязательно.
Представьте ситуацию — корпоративные политики безопасности в порядке, в смысле — регламенты написаны замечательно.
Но после "оптимизации" (см статью) в наличии есть менее 10 сисадминов, а железных и виртуальных серверов — несколько тысяч. Причём никто чётко не знает, какие из них в какое время можно перезагружать. Или даже знает что перезагружать нежелательно. Или перезагрузка требует длительного согласования.
Короче, начнёшь перезагрузками системы принудительно дергать — жди увольнения. Да кому нужен такой энтузиазм и самопожертвование.
Вот и довели ситуацию до...
Все равно не должно быть такого.
У меня нормально работал комп с USB 3G/4G модемом и остановленным "Сервером".
Впрочем, проприетарный кривой софт оператора может хотеть странного. Кто же ему запретит.
Вот именно.
Ну может они и нужны, но оставлять к ним доступ "через сетевое подключение" у домашнего компа… да многим ли это надо?
Вот сейчас пишу с компа, где "Сервер" остановлен.
Очевидно, у вас причина была в чем-то другом.
А почему никто не советует для начала остановить и заблокировать запуск в Windows сервиса "Сервер"?
Ну хотя бы на домашнем компе? Хотя бы на компах, которые не расшаривают свои папки?
Всё равно поправьте, пожалуйста.
frankly speaking = откровенно говоря.
Может чтобы обычные граждане не могли скрытно записывать действия и слова должностных лиц?
Для специализированных сетей обрывы ведут к ухудшению, это понятно.
Но если это механизм для "сознания" AI, которое будет подключать в работу другие нейросети, которое исходно обладает большой собственной (неразрушаемой) связностью, то может небольшое временное ухудшение даже ни на чем и не скажется?
По-моему не надо тестировать результат и откатывать к предыдущему состоянию этот блок AI.
Для него нормально постоянно быть в изменении, он же не должен идти к стабильному наилучшему состоянию, как AlphaGo или сеть распознавания породы котиков на картинках.
Я бы попробовал так.
Основа — сеть с уже хорошей связностью.
К ней — дополнительные связи, которые могут создаваться и разрушаться, в количестве сравнимом с фиксированными связями.
Нужна будет функция, определяющая важность (вес) связи.
Связь уничтожаем, когда её вес мал.
Сложнее будет решить, где создавать новые связи.
Все же, если их все создавать полностью случайным образом, то прогресс обучения может оказаться слишком медленным.
Хорошо бы определить правило поиска ключевых нейронов (или их групп), от которых пойдут новые связи. Концы для новой связи можно уже пробовать выбирать случайно.
Если такого правила нет, то периодически можно "равномерно" разбрасывать по сети немного случайных связей.
Если новые связи приобрели большой вес, то докидываем рядом к ним еще — соединяем соседние нейроны.
Мы пишем комментарии к статье с определенной темой. Статья — о том, что есть хорошие наработки решения узких задач, но...
Лично я согласен с автором статьи, что набор решенных узких задач — это не предел наших пожеланий к AI.
От AI хочется большего, чтобы он как минимум мог учиться (intelligence = the ability to acquire and apply knowledge and skills) в произвольной области, не ограниченной наперед небольшим набором правил. Т.е. чтобы AI мог воспринимать новые правила и факты без помощи человека, мог самостоятельно сформировать себе под эти правила внутреннюю вспомогательную нейросеть.
И в своем первом комменте я указал, что человек умеет это делать, а текущие реализации узких AI — нет.
Ключевое отличие — в том, что мозг умеет перестраивать связи между нейронами, а железные нейросети — нет.
Далее вы сказали, что полносвязная сеть решает проблему, а я возразил, что практически — таки нет, из-за появляющегося жесткого ограничения на количество нейронов, которое нам доступно при имеющихся объемах памяти.
Исходная статья и мои комменты относятся к теме выхода AI за пределы узких предопределенных задач.
Не заметил у себя ничего самопротиворечивого.
Полносвязная сеть сейчас практически нереализуема для количества нейронов более 1 млн.
Для того, чтобы это понять, не нужно никакого практического опыта, достаточно знать арифметику и типичные объемы памяти современных устройств.
1 млн нейронов слишком мало для AI.
Поэтому ваше предложение "Используйте полносвязные слои. Нулевой вес эквивалентен разрыву связи." не проходит.
В часы наименьшей нагрузки на сеть не скучают, а выполняют плановые работы.
Нет такой альтернативы — экономить на памяти или не экономить.
Можно лишь рассматривать разные варианты экономии. Таки придется уменьшать связность и т.п.
А когда сэкономим в триллион раз на памяти (по сравнению с полносвязной сетью), то и общее быстродействие от этого только возрастет.
Да, недавно была на хабре статья как раз про подобное.
Но, пожалуй, так не устроит ))
Отличие весьма существенное для процессов обучения.
Можно не называть его ключевым, какая разница.
У человека порядка 10^10 нейронов.
Если хотим делать AI умнее человека, то придется примерно столько нейронов и брать, а лучше — еще больше.
Железо пока не тянет такие полносвязные слои.
Специализация участков сети (как и у человека) несколько ослабит проблему. Т.е. можно делать несколько специализированных сетей + полносвязный слой с интеллектом, который их объединяет и использует.
Предположим, на полносвязный слой пойдет 1/10 часть — т.е. 10^9 нейронов, это 10^18 связей (примерно 2^60).
Все равно много. AI пока недостижим.
Если на каждую связь по 1 байту памяти выделить, то 1 ТБ памяти хватит на полносвязную сеть из миллиона нейронов. На таком жалком количестве AI не получить.
Может все же лучше думать в сторону реализации механизма изменения конфигурации сети?
Почему никогда на Хабре и ГТ, рассказывая про нейросети, не упоминают ключевое отличие процессов их обучения и функционирования от таковых в "органическом" мозге?
В мозге не только веса входов нейронов изменяются, там ещё и образуются новые связи между нейронами, и исчезают старые — перестраивается сама конфигурация сети.
Без такой фичи нейросеть будет получаться заточенная только на 1 задачу. Либо игра го, либо распознавание образов. Вместе — никак. И никакого AI не получить из набора "решателей узких задач".
Мой коммент был в поддержку слов anatolius
Если вы требуете от меня большей точности, тогда так:
Один важнейших факторов, подталкивающих индивидуума к воровству — нежелание работать.
Не следует смешивать понятие работы и воровства.