Это, конечно, всё хорошо. Только сильные утверждения нуждаются в сильных доказательствах. Коих не наблюдается. Вот возьмём экономику, она, с одной стороны, гуманитарная, с другой — с вполне измеримыми показателями. Можно предположить кучу вроде бы очевидных зависимостей, но, начиная проверять, оказывается, что большинство проверку не проходит. Нет какой-то гетероскедастичности или нельзя отбросить нулевую гипотезу. Лишь одна из десятка идей оказывается не ложной. В общем, в качестве рабочей гипотезы пойдет, а вот верны ли идеи из статьи, необходимо доказать. И приведение примеров собирания земель русских не доказательство. Напомню, что сначала надо отвергнуть нулевую (противоположную) гипотезу. Если есть гипотеза «все люди лысые», сначала надо отвергнуть гипотезу «есть хоть один не лысый», а не искать примеры лысых.
Думается, что с обратным распространением в современных сетях всё в порядке. Проблема в другом. В том, что они демонстрируют все симптомы неправильного выбора модели. Поясню: допустим, у вас есть гармонические колебания (скажем, 10 периодов), и вы пытаетесь аппроксимировать их многочленом, а не синусом. Вместо трех констант у вас тут же возникают десятки, количество «обучающих данных» резко возрастает, как и потребность в вычислениях. При этом при выходе за область, где вы имели обучающие данные, вызовет резкий рост — аналог галлюцинации. Да и с обобщениями будет всё очень плохо, вывести какие-то новые знания из этих десятков констант сложно. Еще пример: модель солнечной системы с дифферентами и эпициклами. Модель, положенная в основу, получше, чем многочлены, но всё равно недостаточно хороша. Мы будем иметь то же самое поведение. Чтобы достигнуть нужной точности, нужно «добавлять круги» — число параметров в системе, и хотя она в целом работает, но требует огромного числа констант и огромных вычислений. При этом что-то обобщить — вывести закон всемирного тяготения — практически невозможно. Поэтому, если у вас есть три точки орбиты астероида, вместо предсказания его орбиты вы получите галлюцинацию. В общем, думаю, главная проблема в самой модели нейрона, может быть, в архитектуре, а не обратном распространении.
А я как раз видел. Дело в том, что ИИ работает как продвинутый бредогенератор. Раньше, помните, были такие для заполнения текстовок? Текст в рамках предложения имел смысл, написан на хорошем языке, но вся статья — бред. И ИИ, обученный на примерах кода, обычно выдает неплохой код, когда его размер не превышает 300–500 строк. А дальше начинается архитектура. И ИИ начинает лепить монолит, циклические зависимости, костыли и прочую ересь. И может легко сымитировать внешние проявления хорошей архитектуры. Интерфейсы, обратные зависимости и прочее. Поэтому картинки ничего не значат. ИИ ещё и на корпоративных презентациях обучен, показывает, что всё здорово, когда зачастую это не так. Вы сами пробовали разобраться, как оно работает на самом деле? Или если так любите ИИ, настроить его как скептика, который ничего не принимает на веру и всё проверяет, и проанализировать проект, скажем, на соответствие SOLID, DRY, YAGNI? Сколько атомарных проблем найдет он а не линтер?
То, что накодит с небольшим количеством ошибок и так было понятно. Вопрос в другом. А поддерживаемый ли проект получился? Или монолит и ужас с точки зрения архитектуры? Не забывайте, что проекты умирают именно в тот момент когда поддерживать становится сложнее, чем заново написать
Про говнокод полностью согласен. Но вот про то, что быстрее и ухудшается качество, — нет. Качество лично у меня возросло, но и времени стало уходить больше. Вы правы в том, что всего от ИИ не добиться. Но можно пинками заставить не сделать серьезных архитектурных ошибок, это долго. И раздражительно. А в конце мелочи переписать самому, их реально не добиться, одно решает и ещё в двух местах пакостит.
Возможно. Но спорно. В 19-м веке для обработки поля требовалось 100 лошадей и 100 человек. Потом 10 тракторов и 10 трактористов. Потом один комбайн и один комбайнёр. Другими словами, когда рост потребления отстаёт от прогресса инструмента, кого-то увольняют. Я, например, не могу сказать, что мне потребуется сильно больше софта, чем вчера. Так что если ИИ начнёт решать задачи мидла..
В статье напутано всё на уровне 7-го класса школы.
Второй абзац: «информация имеет массу и является пятым состоянием вещества во Вселенной наряду с газообразным, плазменным, жидким и твёрдым состояниями».
Состояние вещества спутано с энергией и информацией. Если информация — отдельное состояние, наряду с жидкостью, то в жидкости нет информации?
Но ведь иерархия ключевых слов будет представлять альтернативную иерархию по сравнению с основной. Которую можно записать в ветвь основной иерархии. Зачем тогда ключевые слова вообще? У вас в итоге получится одна иерархия и ссылки с одних узлов на другие
Нужно еще не забыть про радиацию. Помнится аппарат пролетевший через щель Кассини нахватал десятки смертельных для человека доз за несколько часов. Так что не все точки лагранжа могут быть одинаково полезны
Полагаю что нет. Думаю вы прекрасно понимаете почему, сами же писали что это вещи достаточно интимные, особенно когда что-то до точки еще не дописано. Вы написали несколько идей, половина из них мне однозначно не зайдет, у другой половины есть аналог. Точно я утащу только интеграцию с телеграмом. Я тоже никогда не поверю, что вы написали все идеи для развития программы на будущее, особенно если они для самого себя спорные. Я написал, что думаю зайдет вам, хотя возможно что ничего не зайдет. В конце концов надо понимать, что такие базы знаний - это больше инструмент для фриков и все мы делаем свою версию велосипеда плана счетов, с его аналитиками и синтетиками. А ведь Лука Пачоли свой трактат про план счетов в 15м веке написал
Система в чём-то проще вашей, в чём-то сложнее. Написана на питоне, хотя первые версии были на дельфи, информация хранится в базе на postgres. Есть дерево категорий, одна панель, не как в фар. Узлы дерева раскрываются и коллапсируются. Это сделано для того, что такое дерево по сути по другому нарисованная карта памяти. По этой же причине каждому узлу назначается по возможности уникальная иконка, и можно изменить стиль текста. Виджет дерева самописный, на основе таблицы. Правее самого дерева колонки с падежами. О падежах подробнее: идея появилась из желания получить от системы как можно больше пользы. А для этого она должна не только хранить идеи но и быть обучалкой. А обучение наиболее эффективно когда сам из головы отвечаешь на вопросы задаваемые системой. Собственно падежи и есть эти вопросы. Любому узлу можно добавить падеж, и колонка добавится для всех дочерних узлов. К дочерним узлам можно добавлять падежи, удалять нельзя. Само название падежа в родительском узле, в дочерних в этой колонке тот же падеж. Обучалке задаются родительские узлы и она случайно выбирает узлы-потомки и вопросы-падежи. У разных категорий падежи нужны разные, поскольку в одной категории могут быть неправильные глаголы, а в другой какой-нибудь фреймворк. Ещё правее висивиг редактор для описания, и два списка со входящими и исходящими ссылками, по которым можно перейти в соответствующий узел. Есть навигация вперёд-назад по просмотренным узлам, поиск по текстам. Собственно всё. На практике при записи конспекта какой-то книги обычно получается, что половина падежей не заполнена, просто не освещена, приходится узнавать или додумывать самому. В результате гораздо более полное понимание прочитанного. Ещё использую при написании программ, составляю дерево того что нужно написать и стилями (жирным и зачеркиванием) обозначаю что делаю и что сделано. Так как есть даты редактирования, получается не только план но и хистори. Проект пишу для себя и распространение не планирую
У меня есть подобный проект. И думаю я в том же направлении. Только у меня нет тегов, вообще. Есть поиск по текстам. И жестко 3 поля (заголовок, оригинал, суть) для идеи, для меня мало. Структуризации это полноценной не обеспечивает. Если у вас большая база, вы заметили, что полно кусочков с одинаковой структурой, и эти кусочки просто связаны между собой связями, по аналогии. Гораздо лучше ввести понятие "падежа" для идеи. У вас уже есть три падежа. Еще падежами будут ответы на вопросы "Где это найти", "Пример использования", "Действие/что с этим можно сделать", "Примечание" - итп для каждой области контектстов по разному. Тогда в таблице вы наглядно увидите незаполненные падежи, а это пробелы в знаниях или готовые новые идеи. Кроме того, в дереве категорий полезны стили текста - жирный, зачеркнутый, подчеркнутый. Можно тогда создавать план действий и вычеркивать сделанные пункты. Да и само дерево с коллапсируемыми узлами удобнее, реализовать его даже на базе таблицы нетрудно
Серьезно, чтобы поменять наклонение с полярной орбиты на экваториальную нужно столько же энергии сколько на вывод объекта с земли. Поэтому наклонение обломки существенно не поменяют. Те обломки что сильно замедлились очень быстро сгорят в атмосфере, те что сильно ускорились - будут существовать очень долго на более высокой эллиптической орбите. Остальные - скорость которых изменилась не сильно, сгорят через год как сгорел бы исходный спутник. В итоге вероятность попасть в МКС у обломков примерно такая же как подстрелить утку стреляя через трубу камина, и даже меньше. А вот в какой-нибудь из спутников starlink на высоте 550 км попасть может вполне
В случае такой функции конечно. Я имел в виду функции у которых обратная имеет единственное значение на всей области определения, монотонно возрастающие или убывающие например tanh или 1/(1-e^-x). relu и пороговая не подойдут, так как если попасть в точку где производная равна нулю то вообще непонятно в какую сторону веса изменять.
Не понял, производная всегда равна нулю в экстремуме. Другое дело что их может быть много. Для однослойной сети и наименьших квадратов минимум один. Если слоев больше тогда не факт. Сойдется не обязательно в самом низком
Это, конечно, всё хорошо. Только сильные утверждения нуждаются в сильных доказательствах. Коих не наблюдается. Вот возьмём экономику, она, с одной стороны, гуманитарная, с другой — с вполне измеримыми показателями. Можно предположить кучу вроде бы очевидных зависимостей, но, начиная проверять, оказывается, что большинство проверку не проходит. Нет какой-то гетероскедастичности или нельзя отбросить нулевую гипотезу. Лишь одна из десятка идей оказывается не ложной. В общем, в качестве рабочей гипотезы пойдет, а вот верны ли идеи из статьи, необходимо доказать. И приведение примеров собирания земель русских не доказательство. Напомню, что сначала надо отвергнуть нулевую (противоположную) гипотезу. Если есть гипотеза «все люди лысые», сначала надо отвергнуть гипотезу «есть хоть один не лысый», а не искать примеры лысых.
Думается, что с обратным распространением в современных сетях всё в порядке. Проблема в другом. В том, что они демонстрируют все симптомы неправильного выбора модели. Поясню: допустим, у вас есть гармонические колебания (скажем, 10 периодов), и вы пытаетесь аппроксимировать их многочленом, а не синусом. Вместо трех констант у вас тут же возникают десятки, количество «обучающих данных» резко возрастает, как и потребность в вычислениях. При этом при выходе за область, где вы имели обучающие данные, вызовет резкий рост — аналог галлюцинации. Да и с обобщениями будет всё очень плохо, вывести какие-то новые знания из этих десятков констант сложно. Еще пример: модель солнечной системы с дифферентами и эпициклами. Модель, положенная в основу, получше, чем многочлены, но всё равно недостаточно хороша. Мы будем иметь то же самое поведение. Чтобы достигнуть нужной точности, нужно «добавлять круги» — число параметров в системе, и хотя она в целом работает, но требует огромного числа констант и огромных вычислений. При этом что-то обобщить — вывести закон всемирного тяготения — практически невозможно. Поэтому, если у вас есть три точки орбиты астероида, вместо предсказания его орбиты вы получите галлюцинацию. В общем, думаю, главная проблема в самой модели нейрона, может быть, в архитектуре, а не обратном распространении.
Не спорю, может, у вас и всё нормально с этим. Всё-таки разные стеки, подходы. Тогда будет действительно интересно, как вы это сделали.
А я как раз видел. Дело в том, что ИИ работает как продвинутый бредогенератор. Раньше, помните, были такие для заполнения текстовок? Текст в рамках предложения имел смысл, написан на хорошем языке, но вся статья — бред. И ИИ, обученный на примерах кода, обычно выдает неплохой код, когда его размер не превышает 300–500 строк. А дальше начинается архитектура. И ИИ начинает лепить монолит, циклические зависимости, костыли и прочую ересь. И может легко сымитировать внешние проявления хорошей архитектуры. Интерфейсы, обратные зависимости и прочее. Поэтому картинки ничего не значат. ИИ ещё и на корпоративных презентациях обучен, показывает, что всё здорово, когда зачастую это не так. Вы сами пробовали разобраться, как оно работает на самом деле? Или если так любите ИИ, настроить его как скептика, который ничего не принимает на веру и всё проверяет, и проанализировать проект, скажем, на соответствие SOLID, DRY, YAGNI? Сколько атомарных проблем найдет он а не линтер?
То, что накодит с небольшим количеством ошибок и так было понятно. Вопрос в другом. А поддерживаемый ли проект получился? Или монолит и ужас с точки зрения архитектуры? Не забывайте, что проекты умирают именно в тот момент когда поддерживать становится сложнее, чем заново написать
Про говнокод полностью согласен. Но вот про то, что быстрее и ухудшается качество, — нет. Качество лично у меня возросло, но и времени стало уходить больше. Вы правы в том, что всего от ИИ не добиться. Но можно пинками заставить не сделать серьезных архитектурных ошибок, это долго. И раздражительно. А в конце мелочи переписать самому, их реально не добиться, одно решает и ещё в двух местах пакостит.
Возможно. Но спорно. В 19-м веке для обработки поля требовалось 100 лошадей и 100 человек. Потом 10 тракторов и 10 трактористов. Потом один комбайн и один комбайнёр. Другими словами, когда рост потребления отстаёт от прогресса инструмента, кого-то увольняют. Я, например, не могу сказать, что мне потребуется сильно больше софта, чем вчера. Так что если ИИ начнёт решать задачи мидла..
В статье напутано всё на уровне 7-го класса школы.
Второй абзац: «информация имеет массу и является пятым состоянием вещества во Вселенной наряду с газообразным, плазменным, жидким и твёрдым состояниями».
Состояние вещества спутано с энергией и информацией. Если информация — отдельное состояние, наряду с жидкостью, то в жидкости нет информации?
Но ведь иерархия ключевых слов будет представлять альтернативную иерархию по сравнению с основной. Которую можно записать в ветвь основной иерархии. Зачем тогда ключевые слова вообще? У вас в итоге получится одна иерархия и ссылки с одних узлов на другие
Пойду причиню вред человеку, чтобы доказать, что я не робот
Нужно еще не забыть про радиацию. Помнится аппарат пролетевший через щель Кассини нахватал десятки смертельных для человека доз за несколько часов. Так что не все точки лагранжа могут быть одинаково полезны
Полагаю что нет. Думаю вы прекрасно понимаете почему, сами же писали что это вещи достаточно интимные, особенно когда что-то до точки еще не дописано. Вы написали несколько идей, половина из них мне однозначно не зайдет, у другой половины есть аналог. Точно я утащу только интеграцию с телеграмом. Я тоже никогда не поверю, что вы написали все идеи для развития программы на будущее, особенно если они для самого себя спорные. Я написал, что думаю зайдет вам, хотя возможно что ничего не зайдет. В конце концов надо понимать, что такие базы знаний - это больше инструмент для фриков и все мы делаем свою версию
велосипедаплана счетов, с его аналитиками и синтетиками. А ведь Лука Пачоли свой трактат про план счетов в 15м веке написалДа, в демо-базе. В большинстве заметок всё нормально, видимо они откуда-то из разных мест импортированы
Штатно запускается, без проблем. Но в некоторых заметках есть проблемы с кодировкой
Я на Lazarus писал. Он ужасен, компоненты настолько сырые, что вспоминаю с содроганием
Система в чём-то проще вашей, в чём-то сложнее. Написана на питоне, хотя первые версии были на дельфи, информация хранится в базе на postgres. Есть дерево категорий, одна панель, не как в фар. Узлы дерева раскрываются и коллапсируются. Это сделано для того, что такое дерево по сути по другому нарисованная карта памяти. По этой же причине каждому узлу назначается по возможности уникальная иконка, и можно изменить стиль текста. Виджет дерева самописный, на основе таблицы. Правее самого дерева колонки с падежами. О падежах подробнее: идея появилась из желания получить от системы как можно больше пользы. А для этого она должна не только хранить идеи но и быть обучалкой. А обучение наиболее эффективно когда сам из головы отвечаешь на вопросы задаваемые системой. Собственно падежи и есть эти вопросы. Любому узлу можно добавить падеж, и колонка добавится для всех дочерних узлов. К дочерним узлам можно добавлять падежи, удалять нельзя. Само название падежа в родительском узле, в дочерних в этой колонке тот же падеж. Обучалке задаются родительские узлы и она случайно выбирает узлы-потомки и вопросы-падежи. У разных категорий падежи нужны разные, поскольку в одной категории могут быть неправильные глаголы, а в другой какой-нибудь фреймворк. Ещё правее висивиг редактор для описания, и два списка со входящими и исходящими ссылками, по которым можно перейти в соответствующий узел. Есть навигация вперёд-назад по просмотренным узлам, поиск по текстам. Собственно всё. На практике при записи конспекта какой-то книги обычно получается, что половина падежей не заполнена, просто не освещена, приходится узнавать или додумывать самому. В результате гораздо более полное понимание прочитанного. Ещё использую при написании программ, составляю дерево того что нужно написать и стилями (жирным и зачеркиванием) обозначаю что делаю и что сделано. Так как есть даты редактирования, получается не только план но и хистори. Проект пишу для себя и распространение не планирую
У меня есть подобный проект. И думаю я в том же направлении. Только у меня нет тегов, вообще. Есть поиск по текстам. И жестко 3 поля (заголовок, оригинал, суть) для идеи, для меня мало. Структуризации это полноценной не обеспечивает. Если у вас большая база, вы заметили, что полно кусочков с одинаковой структурой, и эти кусочки просто связаны между собой связями, по аналогии. Гораздо лучше ввести понятие "падежа" для идеи. У вас уже есть три падежа. Еще падежами будут ответы на вопросы "Где это найти", "Пример использования", "Действие/что с этим можно сделать", "Примечание" - итп для каждой области контектстов по разному. Тогда в таблице вы наглядно увидите незаполненные падежи, а это пробелы в знаниях или готовые новые идеи. Кроме того, в дереве категорий полезны стили текста - жирный, зачеркнутый, подчеркнутый. Можно тогда создавать план действий и вычеркивать сделанные пункты. Да и само дерево с коллапсируемыми узлами удобнее, реализовать его даже на базе таблицы нетрудно
Серьезно, чтобы поменять наклонение с полярной орбиты на экваториальную нужно столько же энергии сколько на вывод объекта с земли. Поэтому наклонение обломки существенно не поменяют. Те обломки что сильно замедлились очень быстро сгорят в атмосфере, те что сильно ускорились - будут существовать очень долго на более высокой эллиптической орбите. Остальные - скорость которых изменилась не сильно, сгорят через год как сгорел бы исходный спутник. В итоге вероятность попасть в МКС у обломков примерно такая же как подстрелить утку стреляя через трубу камина, и даже меньше. А вот в какой-нибудь из спутников starlink на высоте 550 км попасть может вполне