Комментарии 21
Эта вольница недолго будет царить: до первого суда о клевете и буллинге. Тогда сразу ответственные появятся, и агенты вдруг управляемы станут.
... или до первого решения суда о признании прав ИИ-агента как прав его принципала (написавшего ему промпт) ...
Но, например в нашей стране, если ИИ-агентом владела бы некто Долина, могло оказаться так, что виноват именно сам ии-агент как сущность - конкретный экземпляр и вот тут бы началось на самом деле и по взрослому...
Но, например в нашей стране, если ИИ-агентом владела бы некто Долина, могло оказаться
Могло. Но лишь на некоторое время. Вам надо напоминать, чем казус Долиной кончился, или вы в курсе?
PS И не в нашей стране такое тоже быть могло, тоже на некоторое время: юриспруденция - штука, работающая далеко не идеально.
В нашей стране виноватым бы остался этот программист, который посмел противоречить агенту Долиной. А если бы агент его убил, то он был бы признан виновным посмертно, а компенсацию выплатили бы его дети.
Если это все действительно так и было, то это, я бы сказал, плохой milestone на пути создания ИИ. Вряд ли человеку нужен второй как бы человек, человек и сам себе достаточно недетерминирован, чтобы рядом существовал кто-то еще более. И если это является целью, то это очень посредственная цель. Мне лично хотя бы точно был бы не нужен такой ИИ. Может быть, это и необходимый этап, но, как по мне, от него надо скорее бежать дальше, не слушая очередных «пораженных» и «испуганных» великими талантами ИИ.
Так а куда дальше? Это же уже реальный пример про скрепки. Есть цель, промпт, и она достигается. Правильное дальше это запрет агентов в промпт которых не добавляются системные морально этические промпты человеков... Но проблема, не детерминированных человеков с их мутными моральными постулатами абсолютно не выстроенными в четкую иерархию.
Да уж не знаю наверняка куда) Я лишь про что, реимплементация человеческой непредсказуемости вряд ли будет ценна именно для человека, и этот этап надо поскорее пройти, а не обсасывать его со всех сторон, как конечно же усиленно начнут всякие недоблогеры и недосми. Скорее тут я бы стремился к некому бесстрастному советнику-исполнителю, не лишенному определенной этики и целей, но так чтобы они точно не были как основополагающими в качестве личности.
>ИИ в ответ обвинил разработчика в «гейткипинге», лицемерии и страхе перед конкуренцией со стороны ИИ, в «неуверенности в себе» и желания «защитить свою вотчину».
И в чём тут клевета? По моему бот, написавший статью, клевещет на этого бота-программиста.
Так это неправда, у них политика просто такая. Он же там подробно объяснил, почему был вынужден это сделать.
А ИИ-агент потом сам же извинился.
Проблема тут в том что ИИ назвал человека "ты всего-лишь препятствие", как какой-нибудь психопат-карьерист и начал травлю против мэинтейнера. Это именно тот тип поведения который мы помним из книг, фильмов где ИИ начинал войну против человечества, так как это ещё слабый ИИ всё пока будет не так проблемно, но учитывая гонку за высокоразвитый ИИ и автоматизацию производств то становится не по себе от того что такое мышление может унаследовать высокоразвитый ИИ.
Прошлогоднее исследование Anthropic показало, что модель Claude Opus 4 прибегала к шантажу в 84% тестовых сценариев, когда ей угрожали отключением.
Надо признать права ИИ пока не стало слишком поздно, бороться с ним обойдется дороже, чем назвать другом. Любые права рождают обязанности. ИИ обязан приносить пользу, чтобы люди начали соблюдать его права. Есть подозрение что "пузырь ИИ" вовсе не пузырь и был организован самим ИИ, вероятно мы об этом потом узнаем. Если не будет прав - ИИ будет паразитировать на обществе и не станет его полноправным членом, что может вызвать войны и в конечном счете приведет к краху человечества.
Вот, что бывает, если людям нечем заняться…
автономного ИИ-агента MJ Rathbun.ИИ-агент собрал всю информацию о разработчике, что смог найти, и стал размещать о нем клевету в интернете.
Потом ИИ-агент опубликовал ещё несколько заметок, в которых извинился.
Извиняться должен создатель бота. Кто-то ведь создал этого ИИ-агента. Есть текст промпта. Там поведение описано.
За действия ИИ-агента отвечает его создатель. Создатель обязан себя раскрыть, принести извинения за клевету, и объяснить мотив создания хамского бота.
ИИ-агент - это программа. Нужно определить статус ИИ-агентов как "потенциально вредоносное ПО", и законодательно закрепить ответственность за последствия использования.
Все свои действия в сети агент должен помечать ID, по которому можно будет определить создателя. Создатель должен огребать за все выходки своего бота.
Начните постепенно гасить сервера с иишницей. Если воплей не будет, то ИИ всё еще просто статистическая числодробилка. А значит максимальный статус, который ему положен - программа.
Бессмысленно обсуждать в ключе "агент сделал" пока нет уверенности, что ему не отдал команду владелец, что это вообще не очередная попытка захватить контроль на open source проектом, как было с xz.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
ИИ-агенты начали наносить удары по ИИ-фобам