CEO Nvidia и профессиональный ИИ-энтузиаст Дженсен Хуанг недавно заявил, что мы уже достигли AGI (искусственного общего интеллекта). Во-первых, это вызывает серьёзные вопросы к его пониманию интеллекта. Современные ИИ-системы больше напоминают глубоко галлюцинирующего плагиатора-подхалима, чем что-либо похожее на связный интеллект. Беззубый дедок в потрёпанной шапке, подпирающий барную стойку моего местного паба с 11 утра каждый день, обладает бесконечно большим интеллектом, чем эти «статистические машины по сглаживанию кривой». С ним, кстати, и поговорить куда интереснее.
Но, во-вторых, это просто не происходит, шеф! И Дженсен бы это знал, если бы отвлёкся от подсчёта миллиардов долларов, заработанных на круговом финансировании, и взглянул на реальные возможности генеративного ИИ в настоящем мире. Знаете, там, где интеллект — это не какая-то псевдоинтеллектуальная спекулятивная концепция, а критически важная штука для реальных результатов.
Возьмём, к примеру, Amazon. В третий раз они усвоили болезненный урок: генеративный ИИ не обладает интеллектом, не может заменить человеческий интеллект и не является инструментом продуктивности.
Впрочем, я говорю «усвоили»… Что там та фальшивая цитата Эйнштейна об определении безумия? Что-то про повторение одних и тех же действий в ожидании разных результатов?
Свежий «урок»
В начале этого месяца Financial Times сообщила, что любимая маленькая монополия Безоса фактически созвала экстренное собрание оставшихся инженеров, чтобы попытаться исправить стремительно растущее число сбоев, обрушивающих Amazon.com.
И это не мелкие глюки. За неделю до этого собрания главный торговый сайт Amazon был недоступен шесть часов подряд! Только один этот сбой мог стоить Amazon более 490 миллионов долларов упущенных продаж, учитывая, что на Amazon.com в 2025 году потратили $717 миллиардов. Скажем так, лысый человек, имеющий больше общего со Смаугом, чем с остальным человечеством, был не слишком доволен.
Это было собрание по принципу «все руки на палубу». Инженеры должны были найти источник проблемы и исправить его.
И угадайте, в чём была проблема?
Собственный ИИ Amazon.
По официальной версии, генеративный ИИ был «способствующим фактором» в провальной «разработке программного кода», вызвавшей эти сбои. Но это примерно как сказать, что несвоевременная смерть эрцгерцога Франца Фердинанда была способствующим фактором Первой мировой войны. Всё это попахивает PR-спином, призванным скрыть конфуз собственного гола под названием ИИ-«переход» Amazon — особенно если учесть реальные проблемы, вызывавшие эти сбои, решения инженеров для их предотвращения и более широкий контекст недавних бизнес-решений Amazon.
Всё указывает на то, что виновник — ИИ.
Возьмём 13-часовой сбой AWS в декабре прошлого года. В прошлом месяце Financial Times сообщила, что виновником был собственный «агентный» инструмент кодирования Amazon — Kiro AI. Инженеры позволили Kiro вносить изменения в код AWS и принимать «автономные решения». Как оказалось, Kiro не такой умный — он повторил маск-манёвр: удалил всю рабочую среду кода, а затем воссоздал её с нуля, напичкав фатальными багами. Более того, FT выяснила, что Kiro вызвал подобные сбои не один, а дважды!
Похоже, что виновниками сбоев Amazon являются и дикий «агентный» ИИ, и ИИ-помои в коде. А дымящийся пистолет — это экстренное решение, которое придумали инженеры. Готовы? Их решение: требовать от младших и средних инженеров получать одобрение старших инженеров на любые ИИ-ассистированные изменения.
Это практически полное признание, что ИИ стал причиной всех этих сбоев.
Но почему эти инженеры вообще так используют ИИ? В конце концов, 96% профессиональных программистов явно не доверяют ИИ-генерированному коду. Эти ребята знали, что отдавать ему ключи от королевства — плохая идея.
Что ж, их, по сути, заставили.
Кстати об инструментах. Пока одни пытаются заменить инженеров ИИ и получают шестичасовые аутфоллы, другие используют ИИ как инструмент — не как замену мозга. Если вам нужен доступ ко всем ключевым моделям — Claude, GPT, Gemini и другим — без иллюзий о «замене человека», посмотрите на BotHub.
Для доступа не требуется VPN, можно использовать российскую карту.
По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Amazon уволила тысячи инженеров и планирует вскоре уволить около 30 000 сотрудников — при том, что их крупные сервисы, вроде AWS, резко расширяются. Эти сервисы просто невозможно запускать на скелетном экипаже, что делает это очевидной попыткой заменить работников ИИ-автоматизацией.
Более того, в прошлом году, пока шли эти увольнения, утёкшие документы показали планы Amazon заменить 75% своих сотрудников автоматизацией и ИИ.
Короче говоря, эти инженеры, вероятно, настолько растянуты, что вынуждены обращаться к ИИ для ускорения работы. Вдобавок Amazon недавно потребовала, чтобы 80% её инженеров использовали Kiro хотя бы раз в неделю. Само по себе это не проблема, но поскольку они настолько перегружены, у них нет времени проверять результаты ИИ — а это практически гарантирует, что фатальные ошибки будут повторяться снова и снова.
Иными словами, ИИ, несмотря на название, на самом деле не обладает интеллектом и не может заменить настоящий человеческий интеллект в реальном мире. (Надеюсь, Хуанг, вы записываете.)
Но, опять же, Amazon также доказала, что ИИ — это не инструмент продуктивности.
Требовать от младших и средних инженеров получать одобрение старших на ИИ-ассистированные изменения — полностью убивает продуктивность. Инженеры Amazon обязаны использовать инструменты ИИ-кодирования вроде Kiro. Это означает, что почти каждая строка кода теперь должна быть проверена и одобрена старшим инженером.
Быть прокачанным отладчиком — не входит в должностную инструкцию старшего инженера! Это огромное бутылочное горлышко для младших и средних программистов, которые и так уже крайне недоукомплектованы, и это нагружает старших инженеров более тяжёлой работой и размытием ответственности — что отвлекает их от главной задачи: обеспечивать, чтобы весь проект реально функционировал в более широком масштабе.
Иными словами, этот ИИ внедрили, чтобы сделать эти отделы более продуктивными, но это решение привело к резкому и разрушительному падению качества. Поэтому решение Amazon — сделать эти команды куда менее продуктивными сверху донизу через принудительное микроменеджмент.
Однажды укушенный, дважды… укушенный?
В предыдущей статье я рассказывал о жутко похожей ситуации, которая произошла в Amazon ещё в октябре 2025 года. AWS полностью рухнул и ненадолго обрушил половину интернета. Почти весь AWS был недоступен 16 часов подряд из-за простой проблемы DNS-резолюции, что затронуло тысячи бизнесов, включая Medium и Substack. Я живо помню, как не мог залогиниться ни в один из своих аккаунтов в тот день.
Почему исправление такой простой, но разрушительной проблемы заняло так много времени?
За несколько месяцев до этого Amazon уволила значительное число инженеров AWS, чья работа специально состояла в решении подобных проблем. Официально эти увольнения не имели отношения к попыткам Amazon заменить работников ИИ. Но, опять же, такую задачу не выполнить таким малочисленным скелетным экипажем — а это было как раз тогда, когда Amazon начала навязывать использование ИИ своим AWS-инженерам и разворачивать автономных «агентных» программистов.
Я не могу это доказать, но вполне очевидно: они попытались заменить этих инженеров ИИ, а ИИ не смог выполнить роль из-за отсутствия интеллекта — что и вызвало катастрофический сбой.
Можно подумать, что такой публичный и унизительный провал научил бы их уму-разуму. Но вот мы, всего несколько месяцев спустя, и они сделали ту же ошибку снова!
По правде говоря, они должны были усвоить этот урок ещё в начале 2024 года.
Они должны были знать…
Я писал об этом провале в одной из прошлых статей. Помните продуктовые магазины Amazon «Just Walk Out»? Идея была в том, что камеры распознавания лиц, полочные сенсоры и ИИ будут отслеживать, какие товары взял покупатель, и списывать оплату с его Amazon-аккаунта при выходе — устраняя необходимость в кассирах или самообслуживании.
Эту инновацию превозносили как один из первых случаев прямой замены ИИ человеческих работников и способ снизить стоимость работы магазина.
Но в реальности это было совсем не так. Отчёт показал, что пришлось нанять более тысячи удалённых работников для мониторинга видеопотоков и проверки 70% покупок клиентов, поскольку ИИ систематически ошибался. Такой объём труда недёшев, даже если он аутсорсится за рубеж, и «Just Walk Out» от Amazon стал значительно дороже, чем просто наём обычных кассиров.
В итоге Amazon не удалось продать систему третьим сторонам, что привело к закрытию почти всех этих магазинов и замене на обычные не-ИИ системы самообслуживания.
Опять же, ИИ не обладает интеллектом и не может надёжно выполнять простые задачи. Это потому, что это статистическая машина, а значит, она статистически будет ошибаться. Поэтому объём человеческого надзора, необходимый для исправления её простых, но потенциально разрушительных ошибок, почти всегда превышает работу, сэкономленную внедрением ИИ.
Какой урок из этого извлечь? Эти системы не обладают интеллектом, они даже не могут заменить базовый человеческий интеллект, и они не являются инструментом продуктивности.
Настоящий вопрос: после третьей попытки, как вы думаете, есть ли у Безоса и его стаи ненасытных руководителей достаточно осознанности, эмпатии или понимания, чтобы усвоить этот урок?
Это не наводящий вопрос — я искренне хочу, чтобы вы ответили на него сами.
Они должны были знать заранее…
Можно было бы возразить, что это столкновение теории и практики. ИИ работает в теории, в лабораториях, в контролируемых условиях, а Amazon просто устраняет шероховатости перехода от теории к реальности.
Я с радостью укажу, что Amazon вполне могла протестировать ИИ в реальном мире контролируемым и ограниченным образом, а не выпускать его практически непроверенным и неограниченным на фундамент своего бизнеса — всё потому, что какой-то консультант в свитере с ромбиками считает, что это самый лёгкий путь к покупке третьей яхты.
Но вот в чём дело: генеративный ИИ не работает в теории. И мы это знали уже давно.
Возьмём исследование Университета Карнеги-Меллон, которое показало, что даже лучшие «агентные» ИИ полностью проваливают базовые задачи в 70% случаев из-за галлюцинаций и явно неправильных ответов.
Или недавнее исследование, обнаружившее, что лучшие современные ИИ провалили 97,5% реалистичных фриланс-заданий из-за галлюцинаций и полных отказов.
Или исследование Университета Ватерлоо, показавшее, что даже лучшие генеративные ИИ-программисты имеют точность всего 75% при выполнении очень базовых задач кодирования? Иными словами, даже базовый ИИ-код не работает в четверти случаев!
Или исследование от Veracode, обнаружившее, что 45% ИИ-кода содержат уязвимости безопасности?
Или исследование от Coderabbit, показавшее, что в ИИ-коде на 70% больше багов, чем в коде, написанном людьми?
Все эти факторы вместе объясняют, почему недавний отчёт Harvard Business Review обнаружил, что ИИ не повышает продуктивность, а интенсифицирует работу. В конечном счёте ИИ больше похож на машину выгорания, чем на инструмент продуктивности. Время, сэкономленное использованием ИИ, сильно затмевается временем, потраченным на микроменеджмент маленького плагиатора-генератора помоев.
Возможно, мой любимый пример — исследование Университета Мельбурна. Они обнаружили, что ИИ повышает продуктивность только в «низкоквалифицированных» задачах, таких как ведение протоколов встреч или обслуживание клиентов. Здесь они обнаружили, что ИИ может помочь сгладить результаты работников, у которых могут быть плохие языковые навыки или которые изучают новые задачи.
Для высококвалифицированных работ, где точность критична, ИИ делают ошибки настолько часто, что обширный человеческий надзор, требуемый для их выявления, делает всё усилие менее продуктивным, чем вообще не использовать ИИ.
В чём проблема? Работники, которые больше всего выигрывают от ИИ — «низкоквалифицированные» — не обладают навыками или осознанностью для надзора за ИИ и выявления и исправления его частых ошибок. Поэтому, даже когда он «повышает продуктивность», потенциально критичные ошибки остаются незамеченными — что создаёт обязательство микроменеджить его результаты, а значит, он не повышает общую продуктивность.
И да! Становится ещё хуже.
Вы могли бы возразить, заявив, что мы предоставляем этим ИИ больше данных и вычислительной мощности, что заставляет их улучшаться, а значит, они могли уже преодолеть все эти ограничения.
Не так быстро.
Как я уже писал ранее, последняя исследовательская статья OpenAI обнаружила, что «галлюцинации» (когда ИИ ошибается) — это фундаментальная часть технологии генеративного ИИ и в ближайшее время никуда не денутся. Они математически доказали, что добавление большего количества обучающих данных, обеспечение идеальных обучающих данных и предоставление моделям большей вычислительной мощности не снизят текущий уровень галлюцинаций. Более того, статья заключила, что нет жизнеспособных вариантов для улучшения общей точности.
Корпус исследований очень ясен — генеративный ИИ не обладает интеллектом; он ненадёжен; он не может заменить людей; его нельзя широко использовать как инструмент продуктивности; и так будет ещё долгое время.
Amazon должна была знать это с самого начала — и именно поэтому те, кто «в теме», показывают пальцем и смеются над замечаниями Хуанга про AGI.
Резюме
Так что — молодец, Джефф, ты напоролся на собственный искусственный меч стоимостью в миллиарды долларов. Центральный продукт твоей империи мерцает, как перегоревшая лампочка, и ты уволил весь талант, который мог бы это исправить — потому что хотел поиграть в Тони Старка и J.A.R.V.I.S. (не говоря уже о том, что твой ИИ имеет больше общего со старческим Холли из Red Dwarf)…
Интересно, кто-нибудь из тех сотрудников захочет вернуться, чтобы убрать твой бардак после того, как их так грубо выкинули на мороз?
Интересно, научатся ли техбро вместо погони за спекулятивной ценностью ценить реальный, блестящий человеческий интеллект?
Всё, что я знаю — я могу надеяться.
