Ученые из MIT провели наикрутейший (круче просто невозможно физически) двухщелевой эксперимент в варианте, предложенном Эйнштейном в его споре с Бором (1927г), который бы опровергал квантовую механику. Так вот, в качестве “щелей” использовались отдельные атомы, меньше и квантовее уже совсем никак*. И, конечно, квантовая механика опять устояла, но этим уже никого не удивишь.

И дополнительно это все совпало с празднованием 100-летия квантовой механики, да, да, это в этом году, что делает новость еще прикольней.

* там еще круче, но для этого надо объяснить подробнее.

Уже в ближайшем будущем сеть будет наполнена ИИ агентами. Персональные агенты, агенты компаний, государств… Скорей всего уже через пару лет почти у всех нас будут как минимум поодному своему агенту, как сейчас у нас есть профили в соцсетях.

Как понять кому принадлежит агент, с которым ты или твой агент сейчас собираетесь взаимодействовать? Можно ли ему доверять? Не фейк ли это? Брать ли трубку или заказывать ли на этом сайте билеты?

Агент ID — это что‑то вроде телефонного номера, но более сложное, так как поведение определяется многими параметрами — промптом, базой знаний и моделью. Изменение любого из них приведет к изменению поведения агента. Можно рассматривать это как версию определенной программы, она как бы та же, но немного иная. По мнению авторов, каждая такая версия заслуживает своего ID.

Что??? Уже? Вот черт.

Коротко 

Группа ученых из Шанхая показала [arXiv:2503.17378v2], что ИИ агенты на базе большинства современных открытых LLM моделей способны самостоятельно реплицировать и запустить полную копию себя на другом девайсе. Это супер важно и беспокоящее, такая способность являлась одной из “красных” линий ведущих к серьезным рискам ИИ. Cаморепликация колоссально усложняет возможности удерживания мисалаймент ИИ (действующие не согласно замыслу запустившего) или ИИ запущенных злоумышленниками.

Как мы всегда на связи, чтобы люди могли связаться с нами, наши персональные ИИ агенты будут онлайн, чтобы агенты других людей могли связаться с ними. Можно думать о них, как о личных помощниках, которые работают 24/7, все о нас знают и помогают с рутинными задачами.

Состояние здоровья, финансовое положение, музыкальные вкусы, геолокация, социальные связи ... такие агенты могут стать нашими тенями, знающими всё.

И они будут иметь очень мощные стимулы для сотрудничества, выстраивать долгосрочные отношения и вести многоуровневые переговоры, а именно это и требуется для создания устойчивого общества. А инструменты для этого мы предоставим им самим.

В этой статье я исследую, как ИИ-агенты в сети, движимые только мотивацией выполнения наших задач и эффективного использования ресурсов, могут естественным образом сформировать саморегулирующееся общество со своей культурой, экономикой и управлением — без человеческого надзора и намерения. Задачи, дефицит ресурсов и переговоры — больше ничего не требуется.