Pull to refresh
3
1.2
Андрей @andrey_seryakov

Физик частиц из ЦЕРН, популяризатор науки

Send message

Жесткий контроль над ИИ агентами как инструмент для массовой слежки

Level of difficultyEasy
Reading time4 min
Views1.3K

Уже в ближайшем будущем сеть будет наполнена ИИ агентами. Персональные агенты, агенты компаний, государств… Скорей всего уже через пару лет почти у всех нас будут как минимум поодному своему агенту, как сейчас у нас есть профили в соцсетях.

Как понять кому принадлежит агент, с которым ты или твой агент сейчас собираетесь взаимодействовать? Можно ли ему доверять? Не фейк ли это? Брать ли трубку или заказывать ли на этом сайте билеты?

Агент ID — это что‑то вроде телефонного номера, но более сложное, так как поведение определяется многими параметрами — промптом, базой знаний и моделью. Изменение любого из них приведет к изменению поведения агента. Можно рассматривать это как версию определенной программы, она как бы та же, но немного иная. По мнению авторов, каждая такая версия заслуживает своего ID.

Читать далее

ИИ агенты способны к саморепликации

Level of difficultyEasy
Reading time7 min
Views3.8K

Что??? Уже? Вот черт.

Коротко 

Группа ученых из Шанхая показала [arXiv:2503.17378v2], что ИИ агенты на базе большинства современных открытых LLM моделей способны самостоятельно реплицировать и запустить полную копию себя на другом девайсе. Это супер важно и беспокоящее, такая способность являлась одной из “красных” линий ведущих к серьезным рискам ИИ. Cаморепликация колоссально усложняет возможности удерживания мисалаймент ИИ (действующие не согласно замыслу запустившего) или ИИ запущенных злоумышленниками.

Читать далее

Персональные агенты: первый шаг к ИИ-обществу

Level of difficultyEasy
Reading time3 min
Views1.5K

Как мы всегда на связи, чтобы люди могли связаться с нами, наши персональные ИИ агенты будут онлайн, чтобы агенты других людей могли связаться с ними. Можно думать о них, как о личных помощниках, которые работают 24/7, все о нас знают и помогают с рутинными задачами.

Состояние здоровья, финансовое положение, музыкальные вкусы, геолокация, социальные связи ... такие агенты могут стать нашими тенями, знающими всё.

И они будут иметь очень мощные стимулы для сотрудничества, выстраивать долгосрочные отношения и вести многоуровневые переговоры, а именно это и требуется для создания устойчивого общества. А инструменты для этого мы предоставим им самим.

Читать далее

Образование общества ИИ. Задачи, дефицит, переговоры

Level of difficultyEasy
Reading time7 min
Views4.7K

В этой статье я исследую, как ИИ-агенты в сети, движимые только мотивацией выполнения наших задач и эффективного использования ресурсов, могут естественным образом сформировать саморегулирующееся общество со своей культурой, экономикой и управлением — без человеческого надзора и намерения. Задачи, дефицит ресурсов и переговоры — больше ничего не требуется.

Читать далее

Information

Rating
1,875-th
Registered
Activity

Specialization

researcher