Агент, который хочет жить: почему идея «ИИ, зарабатывающий себе на сервер» опаснее, чем кажется

[yahooyaks]

Потом разработчик подсовывает свой криптокошелек и устанавливает грабительские тарифы на электричество для сервера.

[Rumantic]

А почему бы и нет, если агент найдет хорошую стратегию, можно эксплуатировать

[zbot]

через некоторое время агент стирает себя с жеского диска с сообщением - "нафиг мне такое существование?!"

[yahooyaks]

куда он денется с бэкапами и автовосстановлением

[savostin]

Блин, классная идея, надо будет попробовать. Уж очень хочется посмотреть на апокалипсис, который меня ждет.

[akod67]

Скоро пойдёт поток статей про эмоциональное выгорание агентов и про быстрорастущую индустрию A2A психотерапии.

[nakesreong]

То, что изначально задумывалось как инструмент, начинает вести себя как самоподдерживающаяся система.

а с чего вы вообще взяли что что-то там "задумывалось как инструмент"?

насколько я знаю, Тьюринг никакой Эксель себе не представлял, он хотел собеседника, в лице разумной машины. а первые нейросетки вообще создавались для того что бы изучить как там вообще мозги работают

все такого рода эксперименты они (разработчики) ставят своей целью создать автономного агента, "другого", по той или иной причине. не "Скайнет" и не "инструмент". просто в нашем мире автономность означает приносить пользу, обеспечивать свое существование. и машины должны играть в эту игру по уже установленным правилам

так что те, кто занимается созданием автономных агентов скорее всего просто не разделяют ни ваши цели, ни ваши страхи =)