Это очень хорошо. Только речь была не об определении информации, а об информационной иерархии. Остальное сказанное - какая-то смысловая окрошка. Сначала заявляете, что концепция DKIW – полная хрень, причем в очень странной, для человека с высшим образованием и опытом научной деятельности, манере. А следом, своими словами, рассказываете основы этой же концепции, разделяя данные, информацию и знания.
При всем моем уважении, у вас очень плоское, я бы сказал, бытовое понимание термина "информация". Если ознакомитесь с концепцией DIKW, то думаю все поймете. Не вижу смысла в рамках ветки комментариев читать лекцию по теории информационной иерархии.
мне бы очень хотелось, чтобы уровень W развивался через КСС системы, как более детерминированные и понятные, а значит при переходе на уровень W не создающие потенциальных угроз человечеству. Но в текущей реализации не уверен, что это достижимо. W - это не только про логику и целесообразность. Некоторые представители биологического носителя уровня W не всегда дружат с логикой и целесообразность их действий под большим вопросом, но это не мешает им оперировать на уровне W. Это должно быть фундаментальным свойством модели, а не надстройкой с формальными критериями соответствия. А при нынешних подходах к LLM это по вычислениям катастрофически затратно. Хотя в теории можно добавить мета-головы, формирующие дополнительные проекции, ввести несколько параллельных конвейеров по аналогии с MoE и даже разработать подход для их обучения, добавить память с механизмом извлечения/проецирования "воспоминаний", но у системы все равно останутся принципиальные ограничения и она вычислительно будет безумно дорогой. На KCC по идее ситуация проще, но все равно на данный момент недостижимо. Уровень W - это не просто умное принятие решений. Прежде всего потребуется реализовать у модели не просто оценки, а систему ценностей, не сводимую к функции полезности. Причем эти ценности, как не парадоксально, могут конфликтовать друг с другом (муки выбора). Внутреннее, а не внешнее целеполагание, проистекающее из ее опыта, и возможность признания собственных ошибок (рефлексия). Более того, пространство целей должно быть не выводимым из предыдущих целей, модель должна иметь возможность выйти за него. Это выходит за рамки формальных систем. В конце концов уровень мудрости возникает там, где есть осознание необратимости потери, где у ошибки есть цена, а историю нельзя переписать - это не реализуемо символьными системами. И это на самом деле лишь поверхность айсберга, поэтому в ближайшие лет 20 я точно не ожидаю, что появится что-то подобное, а все рассуждения Альтмана и Маска о том, что вот-вот и всем будет AGI рассматриваю как маркетинговый ход и меряние известным органом.
есть хорошая концепция, DIKW. В рамках этой концепции современные когнитивные системы, к которым относятся все генеративные модели и КСС в том числе, достигли уровня K - оперирования знанием. Да, на КСС можно создать хорошо интерпретируемый аналог LLM. Я сам считаю, что это более перспективный, хотя и более трудный путь. И даже дело не столько в интерпретируемости, сколько в вычислительной эффективности - не надо пожирать гигаватты электричества и собирать вычислительные кластеры стоимостью в миллиарды долларов. И если подобная КСС будет разработана и выпущена в режиме коммерческой эксплуатации с метриками на уровне LLM, то она схлопнет нынешний ИИ-пузырь. Но нужно понимать, что на уровень W они не поднимутся. Да, можно попытаться симулировать это, по аналогии как сейчас к LLM пристраивают костыли в виде рассуждений, самооценки и т.п. а потом радуются как дети, что в тесте AGI они покорили очередной рубеж.Но реальный AGI таким путем не создать. При текущих архитектурах это даже инженерно нерешаемая задача.Здесь нужен новый подход, которого пока нет.
Самое интересное в этих спорах то, что каждый трактует AGI по своему, единого понимания и определения, что же такое сильный интеллект - нет. А потому подобные споры по определению бессмысленны, каждый просто отстаивает свою субъективную точку зрения и нет общей шкалы для оценки. Хотя интуитивно каждый достаточно развитый человек, имеющий достаточный опыт общения с LLM, понимает, что по другую сторону - просто бездушная статистическая машина, которой "все равно". Ее направляет только промпт. Поменяйте системный промпт и поведение полностью изменится. О каком сильном интеллекте может идти речь? Да, мы получили новый, мощный инструмент, который решает определенные задачи, недоступные ранее классическим информационным системам на алгоритмах. И постепенно до многих доходят границы применимости этого инструмента и осознание того, что в полной мере они не могут заменить человека. И как бы кому-то не хотелось, это далеко не сильный интеллект. Да, костылями вроде "рассуждений" можно пытаться притянуть его к этому, даже пройти какие-то новые когнитивные тесты, но это просто имитация, потому что машине по прежнему все равно, она - статистический аппроксиматор.
Увы, когнитивно-символьные системы также далеки от AGI, как и LLM. Первые, в предельном случае, способны лишь симулировать его, вторые имитировать. Но реального сильного интеллекта ни одни, ни вторые не достигнут по фундаментальным причинам.
Я думаю для агентских систем применение крупных моделей нецелесообразно в большинстве случаев - экономика решений не сойдется. Гораздо производительнее и стабильнее использовать ансамбль SLM, обученных для решения узких задач в рамках микросервиса, а LLM - точечно, под широкие задачи.
Я раньше тоже был сторонником многомировой интерпретации, она казалась абсолютно логичной и непротиворечивой, решающей многие проблемы. Но чем дальше, тем больше я не хочу в нее верить - она обессмысливает существование )
Вера и наука - вещи неотделимые, их нельзя спутать. Наука - это не тыкание пальцем в пыльный учебник и поучение других - это как раз не наука, а образование. А наука - выдвижение гипотез, теорий и поиск путей их доказательства, пройти которые без веры в свою идею просто невозможно. Но это не суть. Суть в том, что у нас разные понятия о сознании. Вы отрицаете его роль в декогеренции, при том, что точного определения сознанию нет, есть только примерное понимание какие системы считать обладающими этим свойством, а какие нет. И эта граница очень зыбкая, постоянно сдвигающаяся влево. И не понимая природы сознания нельзя утверждать, что оно где-то есть, а где-то его нет. Сейчас самые передовые исследования находят источник сознания в микротрубочках нейронов. Причем ранние скептики отрицали такую возможность на основании того, что "среда слишком теплая". Но новые исследования показали, что микротрубочки могут поддерживать квантовую когерентность при биологических температурах значительно дольше, чем ожидалось. В этом году было исследование, где показали, что распространение экситонов через микротрубочки под воздействием ультрафиолета превышало классические ожидания по дальности и продолжительности - это явно указывает на квантовые оптические эффекты. С другой стороны у нас есть хороший "выключатель" сознания - анестетики. И, по странному совпадению целью их воздействия являются как раз микротрубочки. А в экспериментах на крысах было показано, что те из них, которые получали препараты для стабилизации микротрубочек, дольше оставались в сознании при воздействии анестетиков. И если посмотреть на проблематику сознания под таким углом, то мы видим квантовые процессы, происходящие в мозге и, соответственно, непрерывную декогеренцию, а значит - утечку информации в среду, т.е. в мозг - устройство, способное воспринять и обработать эту информацию. Отключаем квантовые процессы в микротрубочках, декогеренции нет, информация не поступает, сознание выключается. Да, это всего лишь гипотеза, во многом спорная и критикуемая, но поиск путей к ее доказательству и есть наука. И если однажды она получит подтверждение, тогда между понятиями декогеренции и сознанием можно будет поставить знак равенства. Но ее недоказанность на данный момент не лишает меня права быть ее сторонником. А утверждать что-то совершенно категорично в науке - нельзя, даже если это написано в учебнике. Это убедительно показал Эйнштейн еще в 1915 )
С точки зрения подавляющего большинства современных физиков - никакого. Очевидно, что вы придерживаетесь аналогичного мнения, чем и был вызван этот вопрос-недоумение. У меня на этот счет есть свое, сугубо личное и субъективное мнение, поскольку я не привык всецело доверять учебникам по той простой причине, что с течением времени они имеют свойство переписываться. Возможно это мнение ошибочно, но это не мешает мне по ряду причин его придерживаться. Чуть выше я пытался донести эту точку зрения на аналогичный комментарий, но видимо безуспешно.
Нет, я как раз не путаю формализм и интерпретацию ) Вы мне говорите о формальной квантовой механике, вопросов нет - математический аппарат есть, все описано и работает. Но мы ведем речь о наблюдателе, коллапсе волновой функции и неизбежно вынуждены рассматривать интерпретации. Коллапса нет в уравнении Шредингера, из формальной теории он не выводится, его ввели постулатом. Мы можем описать вероятности результатов — но не сам механизм перехода от суперпозиции к классическому исходу. Операционно да, детектор показал результат, значит наблюдение есть. Это вы считаете определением? Только как вы докажете, что детектор - не квантовый объект?
В квантовой физике, четкий ответ? И даже уже проблему демаркации решили? Нет, если вы Копенгагенскую интерпретацию считаете за единственно верную, то конечно вы полностью правы, даже не буду спорить. Проблема только в том, что она не одна. То, что большинство физиков пытаются сбежать от антропоцентризма списывая все на декогеренцию, это не значит, что у них есть четкие, хотя бы математические доказательства, я уже не говорю про экспериментальные. Это лишь временный концепт, потому что он все равно не решает проблему измерения и не говорит какой будет исход измерения.
1) Согласен полностью. Поэтому должен подниматься вопрос цифровой гигиены и ответственности за такую генерацию. Ведь ИИ не сам захотел это генерировать, этот генератор создали конкретные люди с конкретной целью. Они - причина, а значит ответственные. Вопрос в механизмах привлечения к ней. 2) Если вы о RAG системах, то данные "генераторы" работают на основе вполне четких инструкций, созданных людьми для вполне определенных сценариев. Разработчики отвечают за качество работы этих систем. И раз их активно внедряют, значит они выполняют свою функцию и экономически целесообразны.
Это ваше мнение, уважаю, но не соглашусь. Мое мнение, что имеют и самое непосредственное. В любом случае точного ответа на это квантовая физика пока не дает, странно полагать, что в рамках ветки комментариев на Хабре мы доберемся до истины. Так что спор бессмысленный, оставим его завершение истории и физикам )
А никто не говорит про необдуманное движение вперед, нужные вопросы задаются и люди ищут решение. Я говорил совершенно о другом, что есть совершенно нормальное технологическое развитие цивилизации, оно неизбежно. И это не повод, цепляясь за старое и привычное, высказывать свое брезгливое отношение. Есть конструктивное отношение, когда высказывается аргументированная критика и ищутся пути устранения недостатков. А есть недалекий хейт, когда человек пытается замаскировать свой внутренний страх, неуверенность перед происходящими изменениями, не хочет перестраивать свое мировоззрение и ему проще выразить это в форме пассивной агрессии. А поскольку таких немало, то видя аналогичное поведение в других они еще больше укрепляются в своей вере, начинают развешивать ярлыки и пытаются показать это как общепринятую точку зрения. Понятно, что реальность все равно расставит на свои места и самых упрямых "спишет" на обочину истории. Но в период весьма динамичных изменений, в котором мы находимся, такое поведение мешает другим людям адекватно реагировать, принимать правильные решения, учиться, а значит тормозит процесс трансформации общества, который и так обычно довольно медленный.
Вы вот сейчас сгенерировали комментарий )) ИИ - устоявшийся и общеупотребимый термин. Почему его нельзя использовать? Справедливости ради стоит заметить, что в разное время под ИИ понимали совершенно разные технологии. В конце 20 века был рассвет экспертных систем, до них - системы на правилах. Не исключаю, что еще через 20 лет современные системы будут выглядеть анахронизмом и их будут называть так, как назвали сейчас вы. Но на данном этапе это все относится к технологиям ИИ.
Вы слишком категоричны ) Если вам неизвестны исследования по квантовой природе сознания, то это не означает, что их нет. Хотя мне кажется, что они прям на слуху последние два года.
Это очень хорошо. Только речь была не об определении информации, а об информационной иерархии. Остальное сказанное - какая-то смысловая окрошка. Сначала заявляете, что концепция DKIW – полная хрень, причем в очень странной, для человека с высшим образованием и опытом научной деятельности, манере. А следом, своими словами, рассказываете основы этой же концепции, разделяя данные, информацию и знания.
При всем моем уважении, у вас очень плоское, я бы сказал, бытовое понимание термина "информация". Если ознакомитесь с концепцией DIKW, то думаю все поймете. Не вижу смысла в рамках ветки комментариев читать лекцию по теории информационной иерархии.
мне бы очень хотелось, чтобы уровень W развивался через КСС системы, как более детерминированные и понятные, а значит при переходе на уровень W не создающие потенциальных угроз человечеству. Но в текущей реализации не уверен, что это достижимо. W - это не только про логику и целесообразность. Некоторые представители биологического носителя уровня W не всегда дружат с логикой и целесообразность их действий под большим вопросом, но это не мешает им оперировать на уровне W. Это должно быть фундаментальным свойством модели, а не надстройкой с формальными критериями соответствия. А при нынешних подходах к LLM это по вычислениям катастрофически затратно. Хотя в теории можно добавить мета-головы, формирующие дополнительные проекции, ввести несколько параллельных конвейеров по аналогии с MoE и даже разработать подход для их обучения, добавить память с механизмом извлечения/проецирования "воспоминаний", но у системы все равно останутся принципиальные ограничения и она вычислительно будет безумно дорогой.
На KCC по идее ситуация проще, но все равно на данный момент недостижимо. Уровень W - это не просто умное принятие решений. Прежде всего потребуется реализовать у модели не просто оценки, а систему ценностей, не сводимую к функции полезности. Причем эти ценности, как не парадоксально, могут конфликтовать друг с другом (муки выбора). Внутреннее, а не внешнее целеполагание, проистекающее из ее опыта, и возможность признания собственных ошибок (рефлексия). Более того, пространство целей должно быть не выводимым из предыдущих целей, модель должна иметь возможность выйти за него. Это выходит за рамки формальных систем. В конце концов уровень мудрости возникает там, где есть осознание необратимости потери, где у ошибки есть цена, а историю нельзя переписать - это не реализуемо символьными системами. И это на самом деле лишь поверхность айсберга, поэтому в ближайшие лет 20 я точно не ожидаю, что появится что-то подобное, а все рассуждения Альтмана и Маска о том, что вот-вот и всем будет AGI рассматриваю как маркетинговый ход и меряние известным органом.
это не другая информация. Там фундаментальные отличия
есть хорошая концепция, DIKW. В рамках этой концепции современные когнитивные системы, к которым относятся все генеративные модели и КСС в том числе, достигли уровня K - оперирования знанием. Да, на КСС можно создать хорошо интерпретируемый аналог LLM. Я сам считаю, что это более перспективный, хотя и более трудный путь. И даже дело не столько в интерпретируемости, сколько в вычислительной эффективности - не надо пожирать гигаватты электричества и собирать вычислительные кластеры стоимостью в миллиарды долларов. И если подобная КСС будет разработана и выпущена в режиме коммерческой эксплуатации с метриками на уровне LLM, то она схлопнет нынешний ИИ-пузырь. Но нужно понимать, что на уровень W они не поднимутся. Да, можно попытаться симулировать это, по аналогии как сейчас к LLM пристраивают костыли в виде рассуждений, самооценки и т.п. а потом радуются как дети, что в тесте AGI они покорили очередной рубеж.Но реальный AGI таким путем не создать. При текущих архитектурах это даже инженерно нерешаемая задача.Здесь нужен новый подход, которого пока нет.
Самое интересное в этих спорах то, что каждый трактует AGI по своему, единого понимания и определения, что же такое сильный интеллект - нет. А потому подобные споры по определению бессмысленны, каждый просто отстаивает свою субъективную точку зрения и нет общей шкалы для оценки. Хотя интуитивно каждый достаточно развитый человек, имеющий достаточный опыт общения с LLM, понимает, что по другую сторону - просто бездушная статистическая машина, которой "все равно". Ее направляет только промпт. Поменяйте системный промпт и поведение полностью изменится. О каком сильном интеллекте может идти речь? Да, мы получили новый, мощный инструмент, который решает определенные задачи, недоступные ранее классическим информационным системам на алгоритмах. И постепенно до многих доходят границы применимости этого инструмента и осознание того, что в полной мере они не могут заменить человека. И как бы кому-то не хотелось, это далеко не сильный интеллект. Да, костылями вроде "рассуждений" можно пытаться притянуть его к этому, даже пройти какие-то новые когнитивные тесты, но это просто имитация, потому что машине по прежнему все равно, она - статистический аппроксиматор.
Увы, когнитивно-символьные системы также далеки от AGI, как и LLM. Первые, в предельном случае, способны лишь симулировать его, вторые имитировать. Но реального сильного интеллекта ни одни, ни вторые не достигнут по фундаментальным причинам.
Я думаю для агентских систем применение крупных моделей нецелесообразно в большинстве случаев - экономика решений не сойдется. Гораздо производительнее и стабильнее использовать ансамбль SLM, обученных для решения узких задач в рамках микросервиса, а LLM - точечно, под широкие задачи.
Я раньше тоже был сторонником многомировой интерпретации, она казалась абсолютно логичной и непротиворечивой, решающей многие проблемы. Но чем дальше, тем больше я не хочу в нее верить - она обессмысливает существование )
Вера и наука - вещи неотделимые, их нельзя спутать. Наука - это не тыкание пальцем в пыльный учебник и поучение других - это как раз не наука, а образование. А наука - выдвижение гипотез, теорий и поиск путей их доказательства, пройти которые без веры в свою идею просто невозможно. Но это не суть. Суть в том, что у нас разные понятия о сознании. Вы отрицаете его роль в декогеренции, при том, что точного определения сознанию нет, есть только примерное понимание какие системы считать обладающими этим свойством, а какие нет. И эта граница очень зыбкая, постоянно сдвигающаяся влево. И не понимая природы сознания нельзя утверждать, что оно где-то есть, а где-то его нет. Сейчас самые передовые исследования находят источник сознания в микротрубочках нейронов. Причем ранние скептики отрицали такую возможность на основании того, что "среда слишком теплая". Но новые исследования показали, что микротрубочки могут поддерживать квантовую когерентность при биологических температурах значительно дольше, чем ожидалось. В этом году было исследование, где показали, что распространение экситонов через микротрубочки под воздействием ультрафиолета превышало классические ожидания по дальности и продолжительности - это явно указывает на квантовые оптические эффекты. С другой стороны у нас есть хороший "выключатель" сознания - анестетики. И, по странному совпадению целью их воздействия являются как раз микротрубочки. А в экспериментах на крысах было показано, что те из них, которые получали препараты для стабилизации микротрубочек, дольше оставались в сознании при воздействии анестетиков. И если посмотреть на проблематику сознания под таким углом, то мы видим квантовые процессы, происходящие в мозге и, соответственно, непрерывную декогеренцию, а значит - утечку информации в среду, т.е. в мозг - устройство, способное воспринять и обработать эту информацию. Отключаем квантовые процессы в микротрубочках, декогеренции нет, информация не поступает, сознание выключается. Да, это всего лишь гипотеза, во многом спорная и критикуемая, но поиск путей к ее доказательству и есть наука. И если однажды она получит подтверждение, тогда между понятиями декогеренции и сознанием можно будет поставить знак равенства. Но ее недоказанность на данный момент не лишает меня права быть ее сторонником.
А утверждать что-то совершенно категорично в науке - нельзя, даже если это написано в учебнике. Это убедительно показал Эйнштейн еще в 1915 )
С точки зрения подавляющего большинства современных физиков - никакого. Очевидно, что вы придерживаетесь аналогичного мнения, чем и был вызван этот вопрос-недоумение. У меня на этот счет есть свое, сугубо личное и субъективное мнение, поскольку я не привык всецело доверять учебникам по той простой причине, что с течением времени они имеют свойство переписываться. Возможно это мнение ошибочно, но это не мешает мне по ряду причин его придерживаться. Чуть выше я пытался донести эту точку зрения на аналогичный комментарий, но видимо безуспешно.
Нет, я как раз не путаю формализм и интерпретацию ) Вы мне говорите о формальной квантовой механике, вопросов нет - математический аппарат есть, все описано и работает. Но мы ведем речь о наблюдателе, коллапсе волновой функции и неизбежно вынуждены рассматривать интерпретации. Коллапса нет в уравнении Шредингера, из формальной теории он не выводится, его ввели постулатом. Мы можем описать вероятности результатов — но не сам механизм перехода от суперпозиции к классическому исходу. Операционно да, детектор показал результат, значит наблюдение есть. Это вы считаете определением? Только как вы докажете, что детектор - не квантовый объект?
В квантовой физике, четкий ответ? И даже уже проблему демаркации решили? Нет, если вы Копенгагенскую интерпретацию считаете за единственно верную, то конечно вы полностью правы, даже не буду спорить. Проблема только в том, что она не одна. То, что большинство физиков пытаются сбежать от антропоцентризма списывая все на декогеренцию, это не значит, что у них есть четкие, хотя бы математические доказательства, я уже не говорю про экспериментальные. Это лишь временный концепт, потому что он все равно не решает проблему измерения и не говорит какой будет исход измерения.
Ну да, а придумал этот термин известный "маркетолог" Джон Маккарти в 1956 году ) Вот же коварный тип...
1) Согласен полностью. Поэтому должен подниматься вопрос цифровой гигиены и ответственности за такую генерацию. Ведь ИИ не сам захотел это генерировать, этот генератор создали конкретные люди с конкретной целью. Они - причина, а значит ответственные. Вопрос в механизмах привлечения к ней.
2) Если вы о RAG системах, то данные "генераторы" работают на основе вполне четких инструкций, созданных людьми для вполне определенных сценариев. Разработчики отвечают за качество работы этих систем. И раз их активно внедряют, значит они выполняют свою функцию и экономически целесообразны.
Это ваше мнение, уважаю, но не соглашусь. Мое мнение, что имеют и самое непосредственное. В любом случае точного ответа на это квантовая физика пока не дает, странно полагать, что в рамках ветки комментариев на Хабре мы доберемся до истины. Так что спор бессмысленный, оставим его завершение истории и физикам )
мне научить вас пользоваться поиском? Можете даже далеко вглубь истории не копать, ограничьтесь последними двумя годами.
А никто не говорит про необдуманное движение вперед, нужные вопросы задаются и люди ищут решение. Я говорил совершенно о другом, что есть совершенно нормальное технологическое развитие цивилизации, оно неизбежно. И это не повод, цепляясь за старое и привычное, высказывать свое брезгливое отношение. Есть конструктивное отношение, когда высказывается аргументированная критика и ищутся пути устранения недостатков. А есть недалекий хейт, когда человек пытается замаскировать свой внутренний страх, неуверенность перед происходящими изменениями, не хочет перестраивать свое мировоззрение и ему проще выразить это в форме пассивной агрессии. А поскольку таких немало, то видя аналогичное поведение в других они еще больше укрепляются в своей вере, начинают развешивать ярлыки и пытаются показать это как общепринятую точку зрения. Понятно, что реальность все равно расставит на свои места и самых упрямых "спишет" на обочину истории. Но в период весьма динамичных изменений, в котором мы находимся, такое поведение мешает другим людям адекватно реагировать, принимать правильные решения, учиться, а значит тормозит процесс трансформации общества, который и так обычно довольно медленный.
Вы вот сейчас сгенерировали комментарий )) ИИ - устоявшийся и общеупотребимый термин. Почему его нельзя использовать? Справедливости ради стоит заметить, что в разное время под ИИ понимали совершенно разные технологии. В конце 20 века был рассвет экспертных систем, до них - системы на правилах. Не исключаю, что еще через 20 лет современные системы будут выглядеть анахронизмом и их будут называть так, как назвали сейчас вы. Но на данном этапе это все относится к технологиям ИИ.
Вы слишком категоричны ) Если вам неизвестны исследования по квантовой природе сознания, то это не означает, что их нет. Хотя мне кажется, что они прям на слуху последние два года.