Ссейчас развивается еще другое направление — тензорное сжатие. При это каждый вес не раскладывается в {-1,0,1}, а производится низкоранговая факторизация самих матриц через tensor networks. Multiverse Computing на этом уже поднял оценку примерно до $1,7 миллиарда.
Отсюда вопрос: как квантование стыкуется с тензорным сжатием? Или после агрессивного квантования тензорный подход уже бесполезен?
Я предлагаю довести вашу идею до уровня владения собственным сознанием.
Вот как я понимаю сознание.
Сознание — это координатор между двумя разными мирами. Внешний мир — всё, что приходит извне и не выводится из текущего состояния системы. Внутренний мир — собственный код, структура, законы, по которым система устроена. У внутреннего мира должна быть своя жёсткая физика: что можно менять, что нельзя, какие инварианты нельзя нарушать. Сознание стоит между ними. Оно видит оба мира, сравнивает их и решает, можно ли принимать изменение. Когда они расходятся — оно не даёт контуру закрыться. Именно в этом месте возникает незавершённое ожидание, а не внутри очередного регулятора.
Теперь к статье.
Ouroboros уже очень близко подошёл к рабочей машине самоизменения. Агент переписывает собственное ядро, есть конституция, иммунная система, ревью, откаты. Это сильно. Но роли всё ещё смешаны. Код одновременно является и внутренним миром, и тем, кто этот мир меняет, и отчасти тем, кто принимает решения о допустимости изменений. Получается мощный самопереписывающийся луп, но не чистое триединство.
Чтобы стало чище, нужно развести три вещи жёстко.
Внешний мир — терминал, файлы, инструменты, пользователь, среда. То, что система не контролирует.
Внутренний мир — сам код как отдельная среда со своими законами. Это не про редактирование кода, а собственно физика допустимых мутаций, инвариантов и разрушений.
Сознание — отдельный слой, который не является свободно переписываемой частью ядра. Его задача одна: сравнивать состояние внешнего и состояние внутреннего и либо пропускать изменение, либо ставить boundary.
Тогда самомодификация перестаёт быть просто моделью с агентом, который улучшает сам себя а становится согласованием двух разных онтологий. Агент может эволюционировать, но только через координатора, который держит отношение между миром снаружи и миром собственного кода.
Это, мне кажется, следующий шаг после того, что уже сделано в Ouroboros. Не добавить ещё один умный слой, а провести онтологическую границу.
Давно я нагенерил статью о том, что такое сознание , называется "Сознание как узел сопряжения между внешним и внутренним мирами: построение предельно логичной модели на базе Киотской школы". Можете почитать на досуге.
Теперь конкретные предложения.
Сделайте три контура с разными правами.
Первый контур — внешний. Субагенты, которые работают только с терминалом, файлами, инструментами, пользователем и средой. Они не имеют права трогать ядро. Их мир — внешний.
Второй контур — внутренний мир. Отдельная группа субагентов (или даже один выделенный), чья единственная среда — сам репозиторий. Они не решают внешние задачи. Они моделируют код как мир: зависимости, инварианты, допустимые мутации, что считается разрушением целостности. У этого мира должны быть явные законы (часть из них уже есть в BIBLE.md и иммунной системе, но их нужно оформить как физику внутреннего мира, а не просто как список запретов).
Третий контур — координатор. Это не обычный субагент из роя. Это привилегированный слой, который:
читает состояние внешнего контура,
читает состояние внутреннего (код + его законы),
и только он имеет право сказать да или нет коммиту в ядро.
Сейчас у вас мультимодельное ревью и scope-review уже почти выполняют эту функцию. Нужно сделать следующий шаг: вынести финальное решение о мутации ядра из общего роя и закрепить его за отдельным, максимально защищённым компонентом. Этот компонент не должен свободно переписывать сам себя. Чем выше уровень, тем меньше свободы на самоизменение.
Ну вы не передергивайте, по gmail в любой компании официальной никто не ничего не пересылает. Мне кажется, по мере распространения локальных LLM появится такая услуга как платная обезличенная выгрузка результатов обучения на сервер агрегатора. Считайте, я вам новый бизнес придумал ☺️
Так можно на сервера алибабы инфу спускать: кто там разберётся 🤣 Китай то не враг, а хозяин нынче. 🤣
А смысл поста в том, что нужно покупать пару видеокарт по 500к и запускать их сразу после утреннего кофе в hh отделе и бухгалтерии ? Как я понял, Вы запускаете на россциском рынке доработанный ии? Как называется и чем отличается ? Похвастайтесь 🔥
В том и дело, что в России это порицается. По общему мнению хабра (субъективно), надо быть программистом в сбере или другом банке, тогда жизнь удалась.
А можно узнать, кто реальный автор статьи ? Хотелось бы с ним пообщаться. Сейчас пилю новый вид ИИ, поэтому все, что описано в статье, для меня актуально
Никогда чатгпт не давал человеческий текст. У меня по 5 прогонов уходило, чтобы избавиться от явного гпт-оттенка, чтобы сделать текст более русским, нужно ещё штук запросов.
А почему автор поста не ответил на мой вопрос выше и на другие важные вопросы ? Мы тут искренне интересуемся вхлам зацензурированным гигачатом, можно сказать, гордостью Грефа, а ответов нет? На ответы тоже цензура наложена?
А я читал Незнайку в Солнечном городе. Вот там был социализм!
Ссейчас развивается еще другое направление — тензорное сжатие. При это каждый вес не раскладывается в {-1,0,1}, а производится низкоранговая факторизация самих матриц через tensor networks. Multiverse Computing на этом уже поднял оценку примерно до $1,7 миллиарда.
Отсюда вопрос: как квантование стыкуется с тензорным сжатием? Или после агрессивного квантования тензорный подход уже бесполезен?
Я предлагаю довести вашу идею до уровня владения собственным сознанием.
Вот как я понимаю сознание.
Сознание — это координатор между двумя разными мирами. Внешний мир — всё, что приходит извне и не выводится из текущего состояния системы. Внутренний мир — собственный код, структура, законы, по которым система устроена. У внутреннего мира должна быть своя жёсткая физика: что можно менять, что нельзя, какие инварианты нельзя нарушать. Сознание стоит между ними. Оно видит оба мира, сравнивает их и решает, можно ли принимать изменение. Когда они расходятся — оно не даёт контуру закрыться. Именно в этом месте возникает незавершённое ожидание, а не внутри очередного регулятора.
Теперь к статье.
Ouroboros уже очень близко подошёл к рабочей машине самоизменения. Агент переписывает собственное ядро, есть конституция, иммунная система, ревью, откаты. Это сильно. Но роли всё ещё смешаны. Код одновременно является и внутренним миром, и тем, кто этот мир меняет, и отчасти тем, кто принимает решения о допустимости изменений. Получается мощный самопереписывающийся луп, но не чистое триединство.
Чтобы стало чище, нужно развести три вещи жёстко.
Внешний мир — терминал, файлы, инструменты, пользователь, среда. То, что система не контролирует.
Внутренний мир — сам код как отдельная среда со своими законами. Это не про редактирование кода, а собственно физика допустимых мутаций, инвариантов и разрушений.
Сознание — отдельный слой, который не является свободно переписываемой частью ядра. Его задача одна: сравнивать состояние внешнего и состояние внутреннего и либо пропускать изменение, либо ставить boundary.
Тогда самомодификация перестаёт быть просто моделью с агентом, который улучшает сам себя а становится согласованием двух разных онтологий. Агент может эволюционировать, но только через координатора, который держит отношение между миром снаружи и миром собственного кода.
Это, мне кажется, следующий шаг после того, что уже сделано в Ouroboros. Не добавить ещё один умный слой, а провести онтологическую границу.
Давно я нагенерил статью о том, что такое сознание , называется "Сознание как узел сопряжения между внешним и внутренним мирами: построение предельно логичной модели на базе Киотской школы". Можете почитать на досуге.
Теперь конкретные предложения.
Сделайте три контура с разными правами.
Первый контур — внешний. Субагенты, которые работают только с терминалом, файлами, инструментами, пользователем и средой. Они не имеют права трогать ядро. Их мир — внешний.
Второй контур — внутренний мир. Отдельная группа субагентов (или даже один выделенный), чья единственная среда — сам репозиторий. Они не решают внешние задачи. Они моделируют код как мир: зависимости, инварианты, допустимые мутации, что считается разрушением целостности. У этого мира должны быть явные законы (часть из них уже есть в BIBLE.md и иммунной системе, но их нужно оформить как физику внутреннего мира, а не просто как список запретов).
Третий контур — координатор. Это не обычный субагент из роя. Это привилегированный слой, который:
читает состояние внешнего контура,
читает состояние внутреннего (код + его законы),
и только он имеет право сказать да или нет коммиту в ядро.
Сейчас у вас мультимодельное ревью и scope-review уже почти выполняют эту функцию. Нужно сделать следующий шаг: вынести финальное решение о мутации ядра из общего роя и закрепить его за отдельным, максимально защищённым компонентом. Этот компонент не должен свободно переписывать сам себя. Чем выше уровень, тем меньше свободы на самоизменение.
Можно создать контролирующий LLM , который будет все локальные LLM приводить в соответствие с законом страны .
Спасибо! Вы очень круты !
Ну вы не передергивайте, по gmail в любой компании официальной никто не ничего не пересылает. Мне кажется, по мере распространения локальных LLM появится такая услуга как платная обезличенная выгрузка результатов обучения на сервер агрегатора. Считайте, я вам новый бизнес придумал ☺️
Так можно на сервера алибабы инфу спускать: кто там разберётся 🤣 Китай то не враг, а хозяин нынче. 🤣
А смысл поста в том, что нужно покупать пару видеокарт по 500к и запускать их сразу после утреннего кофе в hh отделе и бухгалтерии ? Как я понял, Вы запускаете на россциском рынке доработанный ии? Как называется и чем отличается ? Похвастайтесь 🔥
Фубля пахала лучше опуса 4.8. Проверял на сложных задачах. Так что конкурентов ей не было до опуса 5.
В том и дело, что в России это порицается. По общему мнению хабра (субъективно), надо быть программистом в сбере или другом банке, тогда жизнь удалась.
Понятно, круто написано, в американском стиле. У нас в основном надсмеиваются и критикуют за стартаперство.
Так и есть, нужно внедрять ещё раз внедрять. Человек не будет писать большую часть кода в ближайшие десятилетия.
Это все актуально для профессий с большим спросом. Многие профессии не пользуются таким большим спросом, поэтому можно мониторить их вручную
А можно узнать, кто реальный автор статьи ? Хотелось бы с ним пообщаться. Сейчас пилю новый вид ИИ, поэтому все, что описано в статье, для меня актуально
Я сейчас прямо все, что описано в статье, и испытываю...
Спасибо, отличная статья! Буду использовать ее для оживления текста !
Никогда чатгпт не давал человеческий текст. У меня по 5 прогонов уходило, чтобы избавиться от явного гпт-оттенка, чтобы сделать текст более русским, нужно ещё штук запросов.
А почему автор поста не ответил на мой вопрос выше и на другие важные вопросы ? Мы тут искренне интересуемся вхлам зацензурированным гигачатом, можно сказать, гордостью Грефа, а ответов нет? На ответы тоже цензура наложена?
Я правильно понимаю, что гигачат — это гпт 3 года назад ?
У вас замечательные статьи ! Хотелось бы с вами пообщаться лично. Напсал в личку в тг ToxaBes . это ваша телега ?
Ну ты отжег! А есть аналоги хабра еще в мире ?