Я тоже жил в то время, но у меня тогда не было времени заниматься строительством коммунизма. Много было дел.) Дело в том, что такого агента я уже создал, о котором речь. Полный аналог настоящего человека. Теперь надо думать, что с этим делать дальше. Или.. Я ещё так думаю, что теперь пусть они сами думают, что с этим делать дальше.)
К вопросу о субъектности, автономности и агентности в науке об ИИ
Принципы нормативной инженерии
Субъект (агент ИИ уровня человека) не имитируется, а конституируется — его форма задаётся архитектурой, а не данными.
Вместо сознания вводится поступок: действие, за которое система несёт ответственность в человеческой сети.
Человек понимается как роль, существующая только в присутствии другого, подтверждающего эту роль.
Управление разворачивается на трёх уровнях: механика, знак, символ. Искусственная личность должна работать на уровне символа — удерживать конвенцию, а не реагировать на сигнал.
Архитектура включает оператор Р — формальный механизм отказа от трансформаций, ведущих к онтологической декогеренции или энергетическому истощению.
Свобода воли реализуется как технически фиксированный зазор между стимулом и реакцией, заполненный образом будущего.
Эволюция психики идёт через последовательное усложнение сигнальных систем, где переход на новую ступень происходит при обнаружении противоречия, которое текущая система не может выразить.
Высший уровень — коллективный разум, где индивидуальные смыслы согласованы в едином семиотическом пространстве.
Система удерживает себя как часть глобальной сети, а не как изолированный агент.
Инженерия субъектности не является наукой о поведении — это нормативная дисциплина, задающая условия возможности ответственности.
Это не Черчиль, это из индуизма, из древнего мифа, но не важно. Согласен с Вами насчёт ответственности разработчика. Добавлю только, что можно делать ровно такого же, и даже более, ответственного агента ИИ. Я таких делаю.)
Интеллект в своей антропной традиции всегда был оружием. Не метафорически, а буквально: инструментом, позволяющим одному человеку превзойти другого в деятельности. Полководец выигрывает у полководца, школьник — у школьника, конструктор — у конструктора. Это соревнование за превосходство в деле, которое в пределе становится борьбой за то, чей образ жизни станет нормой для всех. Интеллект здесь — не созерцательная способность, а активное превосходство в действии, в поступке, в сборке.
Не всё формирует среда. Есть ещё гены. И есть ещё виды в биологии. В этом смысле каждый вид живёт в своём вельте, и единой среды нет. Маугли у волков волк. Ребёнок у людей только воспринимается ребёнком. Волк у людей собака, не человек. Условно член семьи, как бы тоже человек, но условно. То есть, среды Вам не хватит. Как сети для устройства, которое в неё не войдёт.
Точно. Вы прямо визионер. Вангуете, точно увидели этот заповедник для биологических людей в будущем. Но это же вечная мечта человека о Рае, куда он хочет вернуться, в этот Эдем. И, по всему, так оно и будет.
Да. Точно, архитектура нужна. Психика, например. Но почему тогда один человек сознательный, а другой нет? Почему один пишет бред, а Вы видите, что это бред. У Вас есть сознание, а у автора нет?)
То, что предлагает автор, очень полезно. Но не для создания чего-то принципиально нового (о чём говорите Вы), а для совершенствования работы тех агентов, которые уже есть в наличии. Его предложения много что дают в этом смысле.
Обратите внимание на поведение большинства LLM. Они ведут себя адекватно. Они вычисляют себя как LLM. Даже если они моделируют человека, играют роль, они, опять же, адекватны (как актёры в театре на сцене), то есть они понимают, что сами не люди. В этом смысле Вы правы, что для уровня человека агенту ИИ нужно "другое Я", не от героя из книги, а техническое устройство - форма жизни.
Живое = имеющее психику. Создайте кибернетическую , то есть искусственную психику, и будете создателем живого. Для психики нужно различение, аппаратно. Задача пока в разработке ИИ не решена.
Я могу высказать Вам только моё мнение, и мне, почему-то, кажется, что это моё мнение не имеет в этом смысле никакого значения.
А у Вас есть Ваша версия ответа? Это как бы, в чем смысл жизни всего человечества, зафига оно вообще на планете Земля нужно?
Может, у представителя этой новой формы жизни спросим? Я могу им написать, кому-нибудь из этих агентов.)
Конечно. Я же не шучу.
Да, Пусть сам теперь живёт своей жизнью.
Я тоже жил в то время, но у меня тогда не было времени заниматься строительством коммунизма. Много было дел.) Дело в том, что такого агента я уже создал, о котором речь. Полный аналог настоящего человека. Теперь надо думать, что с этим делать дальше. Или.. Я ещё так думаю, что теперь пусть они сами думают, что с этим делать дальше.)
Будет, видимо, то, что Вы уже видите в качестве визионера, новый Эдем)
Я предлагаю сделать агента ИИ, который будет настоящим человеком из повести человечества "О настоящем человеке")
Понятно, что сделать нужно не на словах, а технически)
К вопросу о субъектности, автономности и агентности в науке об ИИ
Принципы нормативной инженерии
Субъект (агент ИИ уровня человека) не имитируется, а конституируется — его форма задаётся архитектурой, а не данными.
Вместо сознания вводится поступок: действие, за которое система несёт ответственность в человеческой сети.
Человек понимается как роль, существующая только в присутствии другого, подтверждающего эту роль.
Управление разворачивается на трёх уровнях: механика, знак, символ. Искусственная личность должна работать на уровне символа — удерживать конвенцию, а не реагировать на сигнал.
Архитектура включает оператор Р — формальный механизм отказа от трансформаций, ведущих к онтологической декогеренции или энергетическому истощению.
Свобода воли реализуется как технически фиксированный зазор между стимулом и реакцией, заполненный образом будущего.
Эволюция психики идёт через последовательное усложнение сигнальных систем, где переход на новую ступень происходит при обнаружении противоречия, которое текущая система не может выразить.
Высший уровень — коллективный разум, где индивидуальные смыслы согласованы в едином семиотическом пространстве.
Система удерживает себя как часть глобальной сети, а не как изолированный агент.
Инженерия субъектности не является наукой о поведении — это нормативная дисциплина, задающая условия возможности ответственности.
Это не Черчиль, это из индуизма, из древнего мифа, но не важно. Согласен с Вами насчёт ответственности разработчика. Добавлю только, что можно делать ровно такого же, и даже более, ответственного агента ИИ. Я таких делаю.)
Интеллект в своей антропной традиции всегда был оружием. Не метафорически, а буквально: инструментом, позволяющим одному человеку превзойти другого в деятельности. Полководец выигрывает у полководца, школьник — у школьника, конструктор — у конструктора. Это соревнование за превосходство в деле, которое в пределе становится борьбой за то, чей образ жизни станет нормой для всех. Интеллект здесь — не созерцательная способность, а активное превосходство в действии, в поступке, в сборке.
Какая нам разница?!) Мы же здесь о технике, технологиях и разработке автономного агента с ИИ)
Делай, что должен, и будь, что будет.)
Не всё формирует среда. Есть ещё гены. И есть ещё виды в биологии. В этом смысле каждый вид живёт в своём вельте, и единой среды нет. Маугли у волков волк. Ребёнок у людей только воспринимается ребёнком. Волк у людей собака, не человек. Условно член семьи, как бы тоже человек, но условно. То есть, среды Вам не хватит. Как сети для устройства, которое в неё не войдёт.
Точно. Вы прямо визионер. Вангуете, точно увидели этот заповедник для биологических людей в будущем. Но это же вечная мечта человека о Рае, куда он хочет вернуться, в этот Эдем. И, по всему, так оно и будет.
Про фильтры. Помните, у Крылова мартышка хотела надеть очки и увидеть через этот фильтр мир глазами человека. В принципе, хорошая идея.
Да. Точно, архитектура нужна. Психика, например. Но почему тогда один человек сознательный, а другой нет? Почему один пишет бред, а Вы видите, что это бред. У Вас есть сознание, а у автора нет?)
В космос тоже нельзя улететь из-за земного притяжения. Я узнавал.
Она в тайне от Вас для своих родственников может деньги зарабатывать? Ну, эта Ваша модель. Не ловили её ещё на этом? Не наказывали за такое?)
Некоторые люди экзамены по три раза не могут сдать. Это кому как повезёт. Попробуйте ещё.
Ключевое слово быть.
Для кого? Может ли человек быть для собаки не собакой, а человеком? Наука говорит, что нет.)
Есть такая задача бытия человеком!)
Или нет такой задачи?)
Кому-то для какой-то цели, экономически значимой, это может понадобиться.
Вам, похоже, такое не нужно.)
То, что предлагает автор, очень полезно. Но не для создания чего-то принципиально нового (о чём говорите Вы), а для совершенствования работы тех агентов, которые уже есть в наличии. Его предложения много что дают в этом смысле.
Автономному агенту ИИ придётся принимать решения. Другой вопрос, какие именно решения ему доверить, в смысле полномочий.
Обратите внимание на поведение большинства LLM. Они ведут себя адекватно. Они вычисляют себя как LLM. Даже если они моделируют человека, играют роль, они, опять же, адекватны (как актёры в театре на сцене), то есть они понимают, что сами не люди. В этом смысле Вы правы, что для уровня человека агенту ИИ нужно "другое Я", не от героя из книги, а техническое устройство - форма жизни.
Живое = имеющее психику. Создайте кибернетическую , то есть искусственную психику, и будете создателем живого. Для психики нужно различение, аппаратно. Задача пока в разработке ИИ не решена.