Комментарии 1
Отличный материал, который приземляет тему ИИ с небес на землю. Полностью согласен с тезисом о сложности интеграции. Сейчас на рынке затихает первый хайп, когда все радовались простым чат-ботам, и начинается суровая реальность.
Одно дело — крутить LLM в изолированной «песочнице», и совсем другое — превратить её в автономного агента, встроив в реальный production. Мало написать промпты, нужно связать модель с кучей legacy-сервисов, настроить логику и обработку ошибок, когда ИИ начинает «галлюцинировать». В итоге на поддержку и оркестрацию этого агента уходит едва ли не больше ресурсов, чем на классическую автоматизацию.
Ну и вопрос ИБ здесь встает в полный рост. Давать агенту доступ к внутренним базам данных, корпоративному коду или, тем более, право совершать действия в системе (например, деплоить или менять настройки) — это пока огромный риск. Изолировать контекст, защитить модель от prompt injection и гарантировать, что ИИ случайно не «слил» или не удалил лишнего, сейчас невероятно сложно. Пока эти две проблемы — контролируемая интеграция и безопасность — не будут решены на уровне стандартов, ИИ-агенты так и останутся дорогими игрушками для локальных задач.
Что мешает ИИ стать полноценным рабочим инструментом: итоги митапа «ИИ без иллюзий»