Comments 56
Агент сам:
заказал продукты к ужину;
собрал и предоставил документы для спора со страховой;
перестроил ваш календарь, чтобы вы успели забрать ребёнка;
записал вас к врачу в удобное окно.
«А скрипач не нужен, родной. Он только лишнее топливо жрёт!» ©
Ну смотрите: богатые поколениями примерно так и живут, только агенты у них кожаные. И ничего - никому не жмет, все довольны. Ну кроме бедноты, которой тоже жутко хочется так же, но приходится все самому, самому...
Но теперь почему-то этот образ жизни пытаются выставить как фу-фу-фу. Почему?
Почему?
потому что бедноте такого образа никто не предоставит — это же очевидно
мало того, непонятно, что будет нужно, чтобы из бедноты подняться на лифте в НЕбедноту
потому что бедноте такого образа никто не предоставит — это же очевидно
Так бедноте и раньше такого (с кожаными агентами) образа жизни никто не предоставлял. Не пойму, что поменялось)
мало того, непонятно, что будет нужно, чтобы из бедноты подняться на лифте в НЕбедноту
Точно то же самое, что и раньше. Работать как проклятый поколение за поколением и трудиться с воспитанием преемников (и надеяться), что в цепочке поколений не найдется дегенерата, который укатит все обратно.
Переход в рамках одного поколения закончился примерно тогда, когда на планете не осталось незанятых территорий. Теперь только за несколько: первое поколение (возможно) успеет от наемного работника в малый бизнес. Второе - дотащить малый до среднего. Третье... И вот где-то примерно на втором (к концу жизни поколения) произойдет вылезание из бедноты, а где-то примерно к концу жизни третьего можно будет попробовать (очень аккуратно, чтобы на смех не подняли те, кто находится в восьмом-девятом-тридесятом) говорить о богатстве
Так бедноте и раньше такого
мы обсуждаем будущее и вопрос, заданный о нём всем.
То есть тот факт, что часть общества не видит это будущее светлым
Точно то же самое, что и раньше
вот здесь ошибка.
если при феодализме положение элит зависело от труда нищеты, то именно это обстоятельство делало возможным изменения в строе, что пусть спустя и тысячелетия, но произошли. А вот в мире, где блага производит машина, такой зависимости нет
Вижу статью про ИИ-агентов и в ней блок безопасность, ставлю лайк не глядя.
Есть книги генерала КГБ/ФСБ Б. Ратникова, он пишет о применение телепатии в деле. Раньше в безопасности страны, внутренней. А позже пошло и в бизнес, бескровный отьем бизнеса, к примеру. Описание удалённого сьема информации с иностранных политиков. Методика отработана. Есть и технические решения, фишка в частотах. До поры это не было глобальной опасностью, та же проблема атаки и защиты. Но, со стремительные развитием ИИ, которая может и возьмёт в свой арсенал технику телепатии, возникает проблема не человек против человека, а ИИ против человека.
Выдать две шапочки из фольги за старания!
И посадить в клетку Фарадея. Для безопасности
Об авторе:
Ратников Борис Константинович
Генерал-майор запаса Федеральной службы охраны РФ.
В 1984 году окончил ВКШ КГБ СССР по специальности офицер с высшим специальным образованием и со знанием персидского языка. В 1980-х годах находился в служебной командировке в Афганистане в качестве советника органов ХАД, участвовал в боевых действиях, награждён орденами и медалями.
С 1991-го по 1994-й был первым заместителем начальника Главного управления охраны РФ. С мая 1994 года работал главным консультантом в Службе безопасности Президента России.
В 1996 - 1997-м назначен советником начальника Федеральной службы охраны РФ. До 2003 года был советником председателя Московской областной Думы.
Ребята, не стоит вскрывать эту тему. Вы молодые, шутливые, вам все легко. Это не то. Это не Чикатило и даже не архивы спецслужб. Сюда лучше не лезть. Серьезно, любой из вас будет жалеть. Лучше закройте тему и забудьте, что тут писалось. Я вполне понимаю, что данным сообщением вызову дополнительный интерес, но хочу сразу предостеречь пытливых — стоп. Остальных просто не найдут. ©
Забавно читать про агентное будущее в месте, где уже модемные скорости интернетов, а обычный ландшафт за окном выглядит как-то...
так
И всё же мне кажется, что примерно так и будет всё двигаться. Но самые прошаренные и технически подкованные будут использовать селфхостед системы или жить по-старинке, возможно, используя секретарей.
в месте, где уже модемные скорости интернетов, а обычный ландшафт за окном выглядит как-то...
Ну это все же уже личное желание каждого, жить в месте, где как-то так...
Интернет говорит, что Архангельск выглядит примерно так
Интернет в моей адыгейской деревне 300 мегабит, в Краснодаре в паре километров гигабит. Забавно читать про приведенный тобой обычный вид из окна, когда миллионы людей живут в нормальных гортодах с нормальным интернетом. Да, черти всякие его всё пытаются поломать, но это временно...
в процессе чтения статьи агент представлялся тем самым роботом, обслуживающим Великого Нехочуху. Сам всё знает что нужно, сам всё порешает, от нехочухи надо только вовремя сказать "не хочу"
Почувствуйте себя собачкой на удобной почти незаметной шлейке.
Агенты в процессе разработки тупят постоянно, ошибаются и забывают контекст с правилами. Ещё и доступ к кошельку давать. Ага щас.
Агенты в процессе разработки тупят постоянно, ошибаются и забывают контекст с правилами. Ещё и доступ к кошельку давать. Ага щас.
Знаете, у меня вот недавно был в жизни опыт ремонта... Вот все, что вы сейчас описали, к кожаным относится в квадрате. И да - они тоже претендуют на доступ к вашему кошельку :)
"А если не видно разницы - зачем платить больше?"
Так это у нас новый рабовладельческий строй на горизонте наметился?
Нет, матушка, другого рода товарец: скажите, у вас умирали виртуалки лицензионные?
– Ох, батюшка, осьмнадцать штук – сказала старуха, вздохнувши. – И умер такой всё славный контингент, всё работники. После того, правда, завезли китайских без api, да что в них: всё такая мелюзга; а заседатель алератами в личку засыпал – подать, говорит, уплачивать с лицензии. Докеры мертвые, а плати, как за живых. На прошлой неделе сгорел у меня на контейнер с пентестером локальным на Gemini, на железке выделенной с RTX , такой искусный агент и мастерство майнинга знал.
– Разве у вас был пожар в серверной, матушка?
– Бог приберег от такой беды, пожар бы еще хуже; сам сгорел, отец мой. Внутри у него как-то загорелось, чересчур напруги дали, только синий огонек пошел от него, весь истлел, истлел и почернел, как уголь, а такой был преискусный ии! и теперь мне выехать не на чем: нечем периметр безопасности проверять.
– На все воля Божья, матушка! – сказал Чичиков, вздохнувши, – против мудрости Божией ничего нельзя сказать… Уступите-ка их мне, Настасья Петровна?
– Кого, батюшка?
– Да вот этих-то всех, что умерли.
– Да как же уступить их?
– Да так просто. Или, пожалуй, продайте. Я вам за них дам деньги.
– Да как же? Я, право, в толк-то не возьму. Нешто хочешь ты их ssd с помойки выкапывать?
Буквально худший из кошмаров
Ясно только одно: всё меняется постоянно и с ускорением. Наши родители жили не так, как деды и прадеды, а наши дети будут жить совсем не так, как мы.
Я в восторге, коллега! Вы как будто залезли мне в голову и изложили мои собственные мысли. Я даже поначалу начал анализировать, где могла быть утечка :)
«От приложений к намерениям», «Цифровая модель мира», «Когда агент получает право действовать» — это всё то, что я сейчас обсуждаю с Моделями и над чем работаю. Но различия в деталях есть, так что, похоже, мы просто независимо копаем в одну сторону. Думаю, мы попали в общий тренд, а Модели ещё и унифицируют нашу терминологию.
Поэтому следующая большая война Apple, Google, OpenAI, Meta и других компаний может быть не за лучшую LLM, а за право стать персональным агентом по умолчанию.
Вот тут я смотрю немного иначе. Люди действительно охотно отдают большим платформам часть своих данных в обмен на удобство. Но полная персональная Картина Мира — отношения, цели, обязательства, привычки, слабости, история решений — это уже совсем другой уровень риска.
LLM вполне может быть облачной и сменной: сегодня OpenAI, завтра Anthropic, послезавтра кто-то ещё. А сама Картина Мира, на мой взгляд, должна оставаться под контролем человека и не зависеть от конкретного поставщика. Грубо говоря, должна сохраняться возможность «хранить свою Картину Мира на флешке» и переносить её между моделями, агентами и инфраструктурами. Не буквально на флешке, конечно :) Это скорее вопрос собственности и независимости. В ЕС это ещё хорошо ложится на уже существующее стремление контролировать персональные данные. Вы сами хорошо описали основания для этого в разделе «Новые угрозы».
Насчёт Agentic First и Agentic Native — полностью согласен. Интерфейс сильно изменится: возрастёт роль голосового ввода, уменьшится роль клавиатуры и мыши, а визуализация на экране останется важной.
При этом человек будет напрямую участвовать во всё меньшей доле коммуникаций: условно 20% → 10% → 5%. Остальное уйдёт под воду: агент ↔ агент, агент ↔ сервис, агент ↔ инструмент. MCP и A2A здесь как раз выглядят частью этой подводной стороны айсберга.
И вот что мне особенно интересно: у вас уже есть какие-то наработки по отображению персональной Картины Мира человека и её структурированию?
Но полная персональная Картина Мира — отношения, цели, обязательства, привычки, слабости, история решений — это уже совсем другой уровень риска
Вы шутите? В голове у обывателя обычно нет никакой персональной картины мира. Цели? Большинство их не имеет, живет как живется. Обязательства? Банкам приходится изрядно потрудиться, чтобы заставить обывателя платить кредит без просрочек. Привычки? Обыватель их крайне редко осознает. Слабости - яростно отрицает (ибо неприятно в момент осознания в голове, а неприятного никто не любит). Ну а история решений обычно вылетает из головы минут через 5 после принятия решения. Да и не было (обычно) там никакого осознанного решения - обычный скрипт уровня "майонез бери Махеев, масло в машине меняй раз в год, гимназия лучше чем СОШ"
Нет, не шучу. Абсолютно серьёзен :) У каждого в голове есть своя персональная картина мира. У одних она более связная, у других - менее.
Но вот это "майонез", "Махеев", "масло", "машина", "СОШ", "гимназия" - это всё её фрагменты у какого-то конкретного человека. (О)сознание без этого просто невозможно.
Вы оба правы. Проблема в том, что хотя картина есть у каждого, очень не многие ее сами осознают (то есть могут четко сформулировать и описать) и еще меньше кто ее формирует относительно самостоятельно (обдумывая и перерабатывая), а не навязанными извне готовыми шаблонами с установками.
Поэтому в случае большинства получится как с лентой в соц.сетях - сторонний алгоритм решит за человека что, где и когда он должен потреблять и как об этом думать.
Согласен. Наличие собственной картины мира не означает возможности её осознанного использования. Персональный ИИ-агент такого рода - идеальный манипулятор своим "боссом".
Но с другой стороны, люди всегда пытались манипулировать другими - разговоры "по душам", письма-записки, стихи-книги, газеты-журналы, радио-телевидение, театр-кино. У кого-то это получается лучше, у кого-то хуже. Кто-замечает такого рода манипуляции, кто-то - нет. Это просто другой уровень. Ещё один. Надеюсь, не последний :)
Да, весьма неплохо сформулировано. Именно это я и имел в виду.
У каждого в голове есть своя персональная картина мира. У одних она более связная, у других - менее
А. Я понял в чем мы разошлись. Для вас "есть" - это когда она где-то там присутствует. А для меня "есть" - это когда она может быть осознана и к ней может быть применен crud. Позволю себе процитировать старую игру: "Лучше 10 человек под рукой, чем 10 тысяч где-то там далеко"
И вот как раз осознанного доступа к своей картине мира обыватель чаще всего не имеет в течение всей жизни. А когда вдруг получает (в силу разных причин и обстоятельств) - так и норовит обвесить это эзотерическими терминами типа "я обрел просветление"
И вот что мне особенно интересно: у вас уже есть какие-то наработки по отображению персональной Картины Мира человека и её структурированию?
Да, картину мира пользователя можно построить, если перехватить все или почти все его коммуникации. Сегодня это почта, рабочие инструменты, календарь, записная книжка в телефоне. Например, я давал агенту свою почту и он из нее верно определял как зовут пользователя, кем работает, возраст, контактная информация, строил состав семьи, имя ребенка, супруги, определял интересы и активность. При этом что интересно, состав семьи он определил по найденным билетам на самолет, где фамилии всех пассажиров совпадали и сделал вывод, что это пользователь и его семья. Но и много шума попадает. Например, мне ежедневно приходит рассылка вакансий моей компании, а агент сделал вывод, что я ищу работу. Это по сути первый этап - ты подключил агента, он берет первые данные и строит по ним каркас, заполняет ключевую информацию. И это элемент магии... ты подключил почту (1 клик), а агент узнал о тебе почти всё, не спросив ничего.
Анти-паттерн - когда агент начинает сам спрашивать, мол расскажи кто ты, откуда и так далее. Нормальный человек уходит после пары вопросов, понимая, что общается с тупой машиной, которая напрягает.
Следующий этап длительный - это общение с агентом, рабочие задачи, накопление памяти. Сегодня через агентом мало что делается, поэтому агент видит очень мало. Но если в будущем через агента ты можешь выбрать товары в магазине (уже можешь так-то), заказать пиццу, такси, пользоваться соцсетями, работать - это еще один огромный пласт информации, который позволит дополнить модель мира пользователя и главное обновлять ее сразу. Если ты заказываешь пиццу маргариту каждую неделю, то в следующий раз ты можешь сказать агенту "закажи пиццу" и он закажет маргариту потому что он знает твои предпочтения из предыдущего опыта.
И третий этап - это полный перехват коммуникаций. Это устройства-агенты. Смартфон превращается в устройство с одним приложением агентом. Через такое устройство агент может перехватывать разговоры, геолокацию, снимать с часов пульс, определять чем занимается пользователь (идет, бежит, фитнес, поднимается по лестнице, стресс и так далее). Всё, что делают современные приложения в смартфоне. Всю эту информацию можно связать со всем остальным. Это уже похоже на контроль жизни, но те бенефиты, которые это принесет пользователю перекроет любые переживания о приватности.
При этом человек будет напрямую участвовать во всё меньшей доле коммуникаций: условно 20% → 10% → 5%. Остальное уйдёт под воду: агент ↔ агент, агент ↔ сервис, агент ↔ инструмент. MCP и A2A здесь как раз выглядят частью этой подводной стороны айсберга.
Да, чем больше будет знать агент, чем он будет умнее, тем меньше нужно участие человека в его же жизни. Агент буквально включает автопилот жизни, освобождая человека от рутины.
А сама Картина Мира, на мой взгляд, должна оставаться под контролем человека и не зависеть от конкретного поставщика.
Я уверен, что люди с радостью отдадут корпорациям информацию о себе в любом объеме в обмен на удобство. iCloud хранит интимные фотки знаменитостей - удобно же. OpenClaw тоже появился как идея local-first агента, но очень быстро появились предложения развернуть его в облаке и практически все сегодня используют LLM провайдеров для него. Сегодня есть люди, которые не готовы корпорациям сливать свои данные, но их крайне мало, они пользуются Signal вместо Telegram/WhatsApp, DuckDuckGo вместо Google. И они же будут использовать своих автономных агентов с локальной LLM и локальной базой.
Я вот не понимаю зачем мне агент, который все про меня знает (я не говорю про агента который за меня кодит). Заказать билеты такси и пиццу это не такое сложное дело, да и редко надо. А белье агент за меня не развесит и даже чай не заварит. Нет, я не говорю что агент совсем не нужен, но это скорее какой-то новый рынок чем замена старого. Такси я сам себе вызову и так, а вот агент может довольно эффективно перелапатить слишком большие объемы информации и найти там что-то нужное для меня. Или создать систему трекинга и мониторинга интересных событий. В общем агент это на мой взгляд инструмент открывающий новые горизонты, а знание обо мне “всего” включая содержание разговоров со всеми людьми вокруг врядли сильно нужны для решение тех задач которые стоит поручать агенту.
Вам и не нужен будет агент, который всё про вас знает. Вы будете выбирать агента, который лучше остальных решает ваши задачи. Остальное - под капотом.
Вы не будете передавать ему данные о себе явно, это будет фоновый процесс, который вы не будете замечать. Но потом вдруг окажется, что агент заказывает именно ту пиццу, которую вы любите, покупает одежду именно вашего размера, предлагает поездки в отпуск именно туда, где вам нравится и на что хватает денег. И это именно то качество агентов, о котором будет говорить маркетинг, скрывая, что происходит внутри.
Сегодня агенты и ChatGPT уже собирают память, но вы ему не говорите "запомни это, запомни то", он сам это делает в фоне. Также как в Google вы не ставите галочку запомнить какой-то запрос или переход на сайт, чтобы следующий поиск был более релевантным. И точно также Google не сообщает ни в одной своей рекламе, что он собирает ваши данные, продает их, использует для обучения поиска и так далее - это магия, о которой пользователю не надо знать.
Знаете, местами рекламные разговоры про агента который делает все за меня мне напоминают прошлые разговоры про метавселенные, в которых будет все или про умный холодильник который сам закажет еду. На самом деле любая реальная задача требует некого погружения в контекст, а контекста у агента может и не быть. И мне например в голову не прийдет заказывать пиццу наобум через агентов в поисках того агента который чудом угадает или которому повезет. Агенты могут решать рутину. Например “посмотри где в моем районе можно заказать пиццу чтобы вкусная или доставка не опаздывала”. Или мне наоборот надо подешевле но можно подождать. А состав пиццы может быть очень разный, ведь я не для себя одного заказываю. Ну или перелопатить маркетплейсы и составить шорт-лист чего-то что более менее подходит под мои требования. Или перелапатить алиэкспресс и удалить дубли из поиска. Агенту можно делигировать рутину. Полгаться на его выбор, который он сделает на основе не пойми чего, на мой взгляд безрассудно.
На мой взгляд проблема всех этих решений не философской плоскости: "Мы все будем рабами, уууу...."
А во вполне практических наблюдениях. Например. Где именно агент хранит все контекстные данные о жизни конкретного человека, в облаке? У работающего человека это могу быть гигабайты в день, то есть за год легко набегает терабайт данных. Где бежит и сколько стоит агент с контекстным окном в терабайт (а то и десяток)? Поездка на такси вызванным агентом в таких условиях будет стоить как полёт на самолёте первым классом. И кстати ограничение контекста одним днём или даже неделей ничего не решает, умная напоминалка с памятью рыбки Гупи имеет очень ограниченное применение.
У работающего человека это могу быть гигабайты в день, то есть за год легко набегает терабайт данных. Где бежит и сколько стоит агент с контекстным окном в терабайт (а то и десяток)?
Гигабайты в день это только если прям кучу видео писать. Зачем?
Если же не уходить в такие крайности, то именно смысловой информации которую стоит хранить и обрабатывать будет не много, потому как в основном это все представимо в виде текста с разметкой.
Вопрос не в гигабайтах, а в том, откуда агенту знать что с кем я обсуждал голосом и какие схемы мы с коллегами рисовали маркером на доске. Или может я шел по городу и видел глазами некое событие или объявление. И для меня это важно, но откуда в принципе агенту это знать. Если писать видеопоток умными очками, будет очень много. Если выделить важное то будет очень даже немного.
Даже с той же самой пиццей: я лично сам заказываю пиццу чуть чаще чем никогда. Но если объединиться с коллегами из одной команды, то мы заказываем на работу пару раз в месяц (ДР и прочие праздники), и есть опыт, где заказывали, и какой результат. А если с другими командами обсудить, то опыта еще больше. По сути информации мало, но она размазана тонким слоем по коллективу
Гигабайты в день это только если прям кучу видео писать. Зачем?
Почему кучу одна встреча в день по зуму на час и вот ушёл гигабаит. Причём эти встречи именно для ИИ и пишутся чтобы потом из них задачи вынимать и выводы делать. А если говорить про реального агента помощника, так он будет писать все разговоры смотреть всё видео и читать всю переписку. Иначе как он работать будет.
Прошла встреча, текст из нее распознали, сохранили и вот с ним дальше и работаем, само видео больше агенту не нужно.
Причем для распознания текста из речи не нужно даже в облако видео грузить, можно делать локально.
Тем не менее и разговоры и пишут и видео хранят и делают это совсем не просто так. А потому что на видео, люди часто что-то показывают, что несёт часто больше информации чем сами разговоры. А сказать агенту покажи мне вот тот кусок встречи где показывали (!!!) то-то и то-то очень полезно. С разговорами примерно то же самое, там больше про интонации, но тоже иногда важно.
то именно смысловой информации которую стоит хранить и обрабатывать будет не много
А как определяется смысловая информация в разговорах членов семьи, которые в массе своей построены на всем известных (внутри семьи) фактах, внутренних шутках и очевидных допущениях. Чтобы получить контекст, агент будет вынужден записывать всё в течение очень долгого времени.
Разговоры в виде ТЕКСТА не занимают гигабайты, даже если этих разговоров очень много. Текст очень компактный.
Разговоры в виде ТЕКСТА теряют значимый процент информации. Именно поэтому в переписке используют смайлики и прочие видосики, чтобы добавить информационного контекста.
Именно поэтому в переписке используют смайлики и прочие видосики, чтобы добавить информационного контекста.
А некоторые вот cэтой целью добавляют курсив — и их за это чморят...
В записи разговора все равно воспринимаемой человеком информации намного меньше, чем битрейт аудиопотока. Для сжатия текст нужно дополнить метаданными интонации и пауз ( и этих данных в байтах не больше будет чем текста) и статическими метаданными голосов. Это больше чем текст, но меньше чем аудиопоток. Просто задачу такую: как преобразовать аудио в текст с метаданным интонации (а потом обратно в аудио) никто толком еще не решил. Ну или я не видел готовых решений. То-же самое касается и транслируемых изображений: там почти статичные картинки, причем даже не фото? а схемы и текст.
Агентное будущее