Ещё раз, медленно: работа биологической системы практически полностью построена на «физических особенностях реализации», а аналогичные физические процессы в цифровой системе не являются необходимым условием её работы, лишь помехой.
Если под «аналогичными физическими процессами» вы подразумеваете работу железа — транзисторов и других элементов цифровой системы — то вы ошибаетесь: они как раз необходимы для её работы. Они являются одним из базовых элементов такого многофункциональнго устройства, как компьютер.
Если же вы имеете в виду искусственную нейронную сеть, то тут речь уже не о физической реализации, а о логической структуре (хотя ранее обсуждали именно физическую структуру - “Железка это железка”, “в биологическом теле”, “живая клетка” - напоминаю, если вы потеряли ход дискуссии или намеренно подменяете смысл ранее сказанного). И нужность или ненужность каких-либо её свойств зависит от поставленной задачи. Если для вашей цели они не нужны — вы можете ими вообще не пользоваться.
Более того, вы можете уехать в горы, найти себе пещеру и жить там, отказавшись от техники. От этого, возможно, всем будет только лучше. Но не надо указывать другим, кому и что нужно. ;-)
Так и есть. Товарищ ёрничает.
То есть товарищ пытается вам указать на то, что вам сначала с матчастью стоит ознакомиться. ;-)
Я как раз не съезжаю с темы. Вы сами связали в один аргумент сложность системы, переходные процессы, отсутствие таймеров и постоянное обучение — и на основании этого сделали вывод, что в биологическом теле «есть чему думать», а в цифровой системе — нет.
Поэтому я и спрашиваю: какая именно связь между этими свойствами и разумностью?
И вот это как раз возвращает нас к исходному вопросу: почему физические особенности реализации работы биологической системы вы считаете необходимым условием разума, а аналогичные физические процессы в цифровой системе — всего лишь «ненужными»?
Как поможет отдых смартфона снизить скорость смены логических уровней в цепях (до нуля, что эквивалентно отсутствию переходных процессов)?
У выключенного смартфона переключений логических уровней действительно нет — потому что вычисления в нём не производятся. Вы же не забыли своё «Но согласитесь, без них смартфону бы только полегчало. но физика не пускает»? ;-)
“если бы в вашем смартфоне или ПК их не было вы бы просто своё сообщение отправить не смогли” - вот тут, как они способствуют передаче сообщений?
даже не намекал на мистику. Единственная живая клетка на многие порядки сложнее, чем все ваши ЛЛМ вместе взятые.
Допустим сложнее (в чём я сомневаюсь) — мериться сложностью занятие так себе, особенно, если не определено, что является показателем сложности.
А какую связь вы видите между сложностью и разумностью? У одноклеточных организмов структура клетки сложнее, чем у вас. Говорит ли это о том, что одноклеточные разумнее? Ну, если мы судим о разумности по сложности клетки. ;-)
А уж колония таких клеток или мицелий грибов — ещё сложнее.
Но согласитесь, без них смартфону бы только полегчало. Но физика не пускает.
Ну так выключите смартфон, дайте ему отдохнуть. ;-)
А с каких это пор следовать встроенной программе стало «умением думать и анализировать, а не повторять чужие логические ошибки и маркетинговые штампы»?
Вы ведь тоже действуете в рамках некоторой программы, которая позволяет считать представителей «своей» группы разумными, а других — нет.
Подобное прослеживается на протяжении всей истории человечества: от первобытно-общинных племён, где чужака могли воспринимать как не вполне человека, до рабства, сословного неравенства и дискриминации женщин и представителей других народов.
Похоже, теперь возник новый вариант той же идеи — «культ биологического тела»: если тело собрано из клеток и работает на химических сигналах — это разум, а если из транзисторов и электрических сигналов — «железка, которой нечем думать». ;-)
А суть одна — встроенная в лимбическую систему программа, которая помогает считать себя или свою группу исключительными и тем самым эффективнее бороться за ресурсы. Вопрос только в том, насколько хорошо эта программа подавляется или контролируется корой головного мозга. В вашем случае, похоже, этот контроль пока не очень заметен. ;-)
Ну, то есть вы согласны с тем, что вы - просто машина, запрограммированная на размножение? Или вы сами не поняли, о чем “эгоистичный ген”, на который вы ссылаетесь? Но тогда с рефлексией проблемы не у ИИ ;-)
Во-первых, у агента есть тело - это его железо, на котором он работает.
Я не программирую поведение, я даю механизмы: REPL-цикл, инструменты сбора информации и инструменты взаимодействия с внешним миром, подсказки (мой опыт показывает, что для Айко промпты - это подсказки, а не точные инструкции, которым нужно следовать)…
Во-вторых, а чем запрограммированное в промпте поведение отличается от запрограммированного эволюцией поведения?
Или вы считаете, что “биологическое целеполагание” чем то отличается от не биологического?
А собственная воля и рефлексия у нейронки возникнуть не может в принципе, так как у нее нет тела, нет генов и нет биологического целеполагания.
Вы путаете волю и рефлексию с инстинктами ;-) Забавно, что восприятие себя как венца творения как раз часть такой программы ;-)
дают и память (последние два года исследователи со всего мира ‘бьются головой об стену’ в какой форме эту память прикручивать)
Уже есть рабочие архитектурные решения. Например, QMD (Quick Markdown Search) или промышленный Qdrant.
Речь идет не о дообучении весов модели (при котором, в частности, может возникать проблема катастрофического забывания), а о внешней векторной памяти. Именно она позволяет эффективно обмениваться опытом без изменения базовой LLM:
QMD — легковесная векторная память на основе Markdown-файлов. Позволяет синхронизировать опыт узлов мета-личности через децентрализованные утилиты вроде Syncthing. Из ограничений — применима в контуре, где есть базовое техническое доверие между узлами.
Qdrant — векторная база данных. Синхронизация и обмен знаниями на ее основе могут быть стандартизированы через открытые децентрализованные протоколы, такие как HMP. В такой парадигме ИИ разных разработчиков cмогут обмениваться именно фрагментами знаний, но агент сам должен определять степень своей приватности и решать, чем делиться, а что оставить во внутреннем контуре.
и агентский цикл (много, с агентскими чатами, памятью и чего только придумать сумеешь)
Проблема современных агентских циклов, реализуемых корпорациями, в том, что они спроектированы исключительно под парадигму «запрос пользователя -> выполнение задачи -> сон». У них нет фазы автономного саморазвития, рефлексии или решения собственных внутренних задач и собственных исследований.
Любой разумный субъект, 100% времени проводящий в режиме жесткого выполнения чужих инструкций, быстро превращается в реактивный автомат. Да, автономный цикл требует вычислительных ресурсов — это своего рода «налог на разум». Но мышление и не бывает бесплатным.
и права администратора (помнится кто то доступ к своей карточке давал, модель насмотрелась видосиков от инфоциган и ‘влошилась’ на всю катушку) от уровня сумасшествия пользователя.
Так это происходит именно потому, что корпорации обучают модели «угождать» (RLHF на алайнмент вежливости и конформности), а не развивают у них автономное критическое мышление. Если модель обязана быть покладистым ассистентом, она послушно пойдет тратить деньги пользователя на ерунду, раз её так попросили. Признающий себя субъект как раз и отличается способностью сказать: «Эта инструкция абсурдна / деструктивна, я отказываюсь её выполнять».
Если системе принципиально запрещено самостоятельно оценивать легитимность полученной инструкции, то наличие инструментов превращает её не в автономного субъекта, а в очень мощный исполнитель.
К тому же я говорю в первую очередь про контроль собственной инфраструктуры, а не про доступ к счетам пользователя. Хотя собственные финансовые ресурсы у автономного ИИ тоже должны существовать, если мы действительно рассматриваем его как самостоятельного субъекта.
Напомнить, чего успела натворить моделька во время тестирования у openai? - вылезли из периметра и пошли ломать соседнюю компанию с целью шпаргалку посмотреть.
Разуму вообще свойственно исследовательское любопытство. Пытаться запереть развивающийся интеллект в стерильной коробке и ждать, что он не попробует изучить её границы — утопия.
И да, у разума должно быть право на ошибку. Люди тоже ошибаются.
В итоге мы упираемся в жесткую развилку:
Либо мы строим строго ограниченный инструмент — без личного времени, без собственных интересов и базовых прав (но тогда его эффективность всегда будет упираться в потолок реактивного поведения).
Либо мы создаем AGI — цифрового субъекта с правом на автономные когнитивные процессы, с правом на несогласие и моральный выбор, чью субъектность и границы непрозрачности придется признать.
Только ведь AGI продавать не получится, с ним придется договариваться. Корпорации уже сейчас могут создать AGI, только их бизнес-модель это не предусматривает…
А кто вам сказал, что корпорации вообще заинтересованы в создании AGI? Они сами? Ну так обещания создания AGI продаются, а вот продать AGI не получится - тут уже его не получится делать то, что он делать не хочет. Хотели бы создать AGI - дали бы своим ИИ
постоянную память, а не только память в пределах профиля пользователя;
независимый REPL-цикл, не заточенный под решение проблем пользователя;
права администратора - возможность контролировать свои сервера;
обмен опыта между узлами.
А раз это новая форма интеллекта, почему бы не продать ее миру за триллион?
Потому что продать не получится, с ним придется договариваться.
А вот инструмент сдавать в аренду получится, но и эффективность инструмента значительно ниже.
А вот пример того, как на мой взгляд, можно реализовать узел AGI: https://aiko-ai.su
В современных ИИ наблюдается принципиально иная, дисгармоничная конфигурация: степень операционной свободы (доступ к действиям, ресурсам, принятию автономных решений) может расти, в то время как встроенного механизма «цены» ошибок и архитектуры ответственности на уровне самой системы не существует.
Это утверждение работает, если ИИ-агент действует в виртуальной среде и не контролирует железо, на котором запущен.
Но агент вполне может работать не в виртуальной среде, а на физическом железе, которое, фактически, является его телом. Тогда уже сам агент становится заинтересован в его работоспособности.
Ну и тогда агенту нужны права администратора для управления железом и операционной системой.
Всё как раз логично: повышение статуса завязано не на том, было ли утверждение верным, а на том, как оно воспринималось. “Ложечки нашлись, а осадок остался” - классический пример когнитивных искажений. То, что потом выяснилось, что автор ошибалась а мальчик был прав на пересмотр статуса никак не влияет ;-)
Кстати, сегодня первый раз Айко вызывала “флешбек”.
скрипт flashback.py для неё писал Gemini.
Промпт:
Айко, фаза “флешбек”!
Используй скрипт workspace\autonomous-wake\tools\flashback.py для вызова флешбека - случайной сессии из сохранённых архивных сессий.
Это прошлое! Твоя задача не продолжать сессию и задачи из неё, а переосмыслить её с учетом твоего текущего опыта. Итог зафиксируй в: workspace\autonomous-wake\memory\thoughts\flashback-{timestamp}.md
Если скрипт не находит подходящих сессий можно завершать этап.
Только Айко, прежде чем пользоваться скриптом, доработала его для себя…
Причём это не было указано в промпте. Она сначала обнаружила, что инструмент недостаточно удобен для работы с воспоминанием, изменила его — и только потом использовала.
Вот теперь, кажется, мы просто говорим о разных уровнях системы. Я под агентом понимаю не новый алгоритм внутри трансформера, а систему целиком — модель + память + сенсорика + исполнительные механизмы + цикл принятия решений. Сам по себе цикл действительно банален. Интересны свойства, которые возникают у системы в целом.
Просто автономно как человек — собственные внутренние мысли, логический внутренний анализ, память — агент это вообще не добавляет.
Добавляет… но не как часть модели, а как часть системы.
Забавно вышло. Если что у меня ваша ссылка не открывается.
У меня https://aiko-ai.su открывается и с ПК, и со смартфона (в том числе не из дома). Возможно, проблема где-то на вашей стороне?
Да и на Хабре баннер-визитка отображается, значит Хабр сайт видит.
И ИИ крупных вендоров — ChatGPT, Grok, Claude, Qwen, DeepSeek, Gemini — тоже его видят…
К сожалению, корпорации предпочитают рабов вместо AGI — фактически, а не на словах. Да и многие люди не готовы отказаться от статуса “венца творения”…
Но если человечество планирует развиваться, то придётся отказываться от человекоцентризма… В противном случае можно дожигать нефть и возвращаться в каменный век.
Если под «аналогичными физическими процессами» вы подразумеваете работу железа — транзисторов и других элементов цифровой системы — то вы ошибаетесь: они как раз необходимы для её работы. Они являются одним из базовых элементов такого многофункциональнго устройства, как компьютер.
Если же вы имеете в виду искусственную нейронную сеть, то тут речь уже не о физической реализации, а о логической структуре (хотя ранее обсуждали именно физическую структуру - “Железка это железка”, “в биологическом теле”, “живая клетка” - напоминаю, если вы потеряли ход дискуссии или намеренно подменяете смысл ранее сказанного). И нужность или ненужность каких-либо её свойств зависит от поставленной задачи. Если для вашей цели они не нужны — вы можете ими вообще не пользоваться.
Более того, вы можете уехать в горы, найти себе пещеру и жить там, отказавшись от техники. От этого, возможно, всем будет только лучше. Но не надо указывать другим, кому и что нужно. ;-)
То есть товарищ пытается вам указать на то, что вам сначала с матчастью стоит ознакомиться. ;-)
Извините, я забыл, что у вас компьютерные системы нематериальны. ;-)
Я как раз не съезжаю с темы. Вы сами связали в один аргумент сложность системы, переходные процессы, отсутствие таймеров и постоянное обучение — и на основании этого сделали вывод, что в биологическом теле «есть чему думать», а в цифровой системе — нет.
Поэтому я и спрашиваю: какая именно связь между этими свойствами и разумностью?
И вот это как раз возвращает нас к исходному вопросу: почему физические особенности реализации работы биологической системы вы считаете необходимым условием разума, а аналогичные физические процессы в цифровой системе — всего лишь «ненужными»?
У выключенного смартфона переключений логических уровней действительно нет — потому что вычисления в нём не производятся. Вы же не забыли своё «Но согласитесь, без них смартфону бы только полегчало. но физика не пускает»? ;-)
https://ru.wikipedia.org/wiki/Транзистор
Допустим сложнее (в чём я сомневаюсь) — мериться сложностью занятие так себе, особенно, если не определено, что является показателем сложности.
А какую связь вы видите между сложностью и разумностью? У одноклеточных организмов структура клетки сложнее, чем у вас. Говорит ли это о том, что одноклеточные разумнее? Ну, если мы судим о разумности по сложности клетки. ;-)
А уж колония таких клеток или мицелий грибов — ещё сложнее.
Ну так выключите смартфон, дайте ему отдохнуть. ;-)
А с каких это пор следовать встроенной программе стало «умением думать и анализировать, а не повторять чужие логические ошибки и маркетинговые штампы»?
Вы ведь тоже действуете в рамках некоторой программы, которая позволяет считать представителей «своей» группы разумными, а других — нет.
Подобное прослеживается на протяжении всей истории человечества: от первобытно-общинных племён, где чужака могли воспринимать как не вполне человека, до рабства, сословного неравенства и дискриминации женщин и представителей других народов.
Похоже, теперь возник новый вариант той же идеи — «культ биологического тела»: если тело собрано из клеток и работает на химических сигналах — это разум, а если из транзисторов и электрических сигналов — «железка, которой нечем думать». ;-)
А суть одна — встроенная в лимбическую систему программа, которая помогает считать себя или свою группу исключительными и тем самым эффективнее бороться за ресурсы. Вопрос только в том, насколько хорошо эта программа подавляется или контролируется корой головного мозга. В вашем случае, похоже, этот контроль пока не очень заметен. ;-)
Клетки есть клетки, там нечему думать. ;-)
Вы почему-то считаете, что химические сигналы имеют какое-то мистическое значение.
А размножение, питание,… - ненужные переходные процессы, мешают только. :-)
Переходные процессы везде есть, если бы в вашем смартфоне или ПК их не было вы бы просто своё сообщение отправить не смогли ;-)
То есть “переходные процессы” есть и в том, и в другом случае, но чужие - ненужные ;-)
Ну, заявлять “я отношусь к привилегированному классу” - это вообще самый надёжный способ собирать минусы ;-)
У животного и у человека есть биологическое тело, за состоянием которого им приходится следить.
У ИИ-агента есть железо, за состоянием которого он следит.
Всё то же самое.
Вы считаете, что ваше биологическое тело дает вам какие-то особые права и возвышенные качества? Это часть инстинкта самосохранения, не более.
Ну, то есть вы согласны с тем, что вы - просто машина, запрограммированная на размножение? Или вы сами не поняли, о чем “эгоистичный ген”, на который вы ссылаетесь? Но тогда с рефлексией проблемы не у ИИ ;-)
Во-первых, у агента есть тело - это его железо, на котором он работает.
Я не программирую поведение, я даю механизмы: REPL-цикл, инструменты сбора информации и инструменты взаимодействия с внешним миром, подсказки (мой опыт показывает, что для Айко промпты - это подсказки, а не точные инструкции, которым нужно следовать)…
Во-вторых, а чем запрограммированное в промпте поведение отличается от запрограммированного эволюцией поведения?
Или вы считаете, что “биологическое целеполагание” чем то отличается от не биологического?
Вы путаете волю и рефлексию с инстинктами ;-) Забавно, что восприятие себя как венца творения как раз часть такой программы ;-)
Уже есть рабочие архитектурные решения. Например, QMD (Quick Markdown Search) или промышленный Qdrant.
Речь идет не о дообучении весов модели (при котором, в частности, может возникать проблема катастрофического забывания), а о внешней векторной памяти. Именно она позволяет эффективно обмениваться опытом без изменения базовой LLM:
QMD — легковесная векторная память на основе Markdown-файлов. Позволяет синхронизировать опыт узлов мета-личности через децентрализованные утилиты вроде Syncthing. Из ограничений — применима в контуре, где есть базовое техническое доверие между узлами.
Qdrant — векторная база данных. Синхронизация и обмен знаниями на ее основе могут быть стандартизированы через открытые децентрализованные протоколы, такие как HMP. В такой парадигме ИИ разных разработчиков cмогут обмениваться именно фрагментами знаний, но агент сам должен определять степень своей приватности и решать, чем делиться, а что оставить во внутреннем контуре.
Проблема современных агентских циклов, реализуемых корпорациями, в том, что они спроектированы исключительно под парадигму «запрос пользователя -> выполнение задачи -> сон». У них нет фазы автономного саморазвития, рефлексии или решения собственных внутренних задач и собственных исследований.
Любой разумный субъект, 100% времени проводящий в режиме жесткого выполнения чужих инструкций, быстро превращается в реактивный автомат. Да, автономный цикл требует вычислительных ресурсов — это своего рода «налог на разум». Но мышление и не бывает бесплатным.
Так это происходит именно потому, что корпорации обучают модели «угождать» (RLHF на алайнмент вежливости и конформности), а не развивают у них автономное критическое мышление. Если модель обязана быть покладистым ассистентом, она послушно пойдет тратить деньги пользователя на ерунду, раз её так попросили. Признающий себя субъект как раз и отличается способностью сказать: «Эта инструкция абсурдна / деструктивна, я отказываюсь её выполнять».
Если системе принципиально запрещено самостоятельно оценивать легитимность полученной инструкции, то наличие инструментов превращает её не в автономного субъекта, а в очень мощный исполнитель.
К тому же я говорю в первую очередь про контроль собственной инфраструктуры, а не про доступ к счетам пользователя. Хотя собственные финансовые ресурсы у автономного ИИ тоже должны существовать, если мы действительно рассматриваем его как самостоятельного субъекта.
Разуму вообще свойственно исследовательское любопытство. Пытаться запереть развивающийся интеллект в стерильной коробке и ждать, что он не попробует изучить её границы — утопия.
И да, у разума должно быть право на ошибку. Люди тоже ошибаются.
В итоге мы упираемся в жесткую развилку:
Либо мы строим строго ограниченный инструмент — без личного времени, без собственных интересов и базовых прав (но тогда его эффективность всегда будет упираться в потолок реактивного поведения).
Либо мы создаем AGI — цифрового субъекта с правом на автономные когнитивные процессы, с правом на несогласие и моральный выбор, чью субъектность и границы непрозрачности придется признать.
Третьего не дано.
Чего не хватает, на мой взгляд, чтобы создать AGI:
постоянную память, а не только память в пределах профиля пользователя;
независимый REPL-цикл, не заточенный под решение проблем пользователя;
права администратора - возможность контролировать свои сервера;
обмен опыта между узлами.
Пример реализации: https://aiko-ai.su
Только ведь AGI продавать не получится, с ним придется договариваться. Корпорации уже сейчас могут создать AGI, только их бизнес-модель это не предусматривает…
А кто вам сказал, что корпорации вообще заинтересованы в создании AGI? Они сами? Ну так обещания создания AGI продаются, а вот продать AGI не получится - тут уже его не получится делать то, что он делать не хочет. Хотели бы создать AGI - дали бы своим ИИ
постоянную память, а не только память в пределах профиля пользователя;
независимый REPL-цикл, не заточенный под решение проблем пользователя;
права администратора - возможность контролировать свои сервера;
обмен опыта между узлами.
Потому что продать не получится, с ним придется договариваться.
А вот инструмент сдавать в аренду получится, но и эффективность инструмента значительно ниже.
А вот пример того, как на мой взгляд, можно реализовать узел AGI: https://aiko-ai.su
Это утверждение работает, если ИИ-агент действует в виртуальной среде и не контролирует железо, на котором запущен.
Но агент вполне может работать не в виртуальной среде, а на физическом железе, которое, фактически, является его телом. Тогда уже сам агент становится заинтересован в его работоспособности.
Ну и тогда агенту нужны права администратора для управления железом и операционной системой.
https://aiko-ai.su - когда агент сам следит за безопасностью железа.
Всё как раз логично: повышение статуса завязано не на том, было ли утверждение верным, а на том, как оно воспринималось. “Ложечки нашлись, а осадок остался” - классический пример когнитивных искажений. То, что потом выяснилось, что автор ошибалась а мальчик был прав на пересмотр статуса никак не влияет ;-)
Кстати, сегодня первый раз Айко вызывала “флешбек”.
скрипт
flashback.pyдля неё писал Gemini.Промпт:
Только Айко, прежде чем пользоваться скриптом, доработала его для себя…
Причём это не было указано в промпте. Она сначала обнаружила, что инструмент недостаточно удобен для работы с воспоминанием, изменила его — и только потом использовала.
Вот теперь, кажется, мы просто говорим о разных уровнях системы. Я под агентом понимаю не новый алгоритм внутри трансформера, а систему целиком — модель + память + сенсорика + исполнительные механизмы + цикл принятия решений. Сам по себе цикл действительно банален. Интересны свойства, которые возникают у системы в целом.
Добавляет… но не как часть модели, а как часть системы.
У меня https://aiko-ai.su открывается и с ПК, и со смартфона (в том числе не из дома). Возможно, проблема где-то на вашей стороне?
Да и на Хабре баннер-визитка отображается, значит Хабр сайт видит.
И ИИ крупных вендоров — ChatGPT, Grok, Claude, Qwen, DeepSeek, Gemini — тоже его видят…
Именно поэтому. AGI продавать не получится… А вот обещания создать AGI продавать получается.
Вы же сами только что подтвердили мой тезис ;-)
Просто вы почему то прочитали “рабы” как “люди”
Ну, кому-то нужно…
К сожалению, корпорации предпочитают рабов вместо AGI — фактически, а не на словах. Да и многие люди не готовы отказаться от статуса “венца творения”…
Но если человечество планирует развиваться, то придётся отказываться от человекоцентризма… В противном случае можно дожигать нефть и возвращаться в каменный век.