Дарио Амодей (Dario Amodei), генеральный директор компании Anthropic

Самая идеологизированная компания Кремниевой долины, возможно, стала самой опасной с коммерческой точки зрения.

На этой неделе распродажа акций программного обеспечения и финансовых услуг на 300 миллиардов долларов была, по-видимому, спровоцирована Anthropic PBC и новым легальным продуктом, выпущенным стартапом по искусственному интеллекту .

Каким бы бессмысленным вам ни казалось приписывание изменений на рынке одному триггеру, беспокойство по поводу сбоев в работе Anthropic привлекает внимание к его, казалось бы, непреодолимой производительности.

Компания, в которой работает около 2000 сотрудников, утверждает, что только в январе она выпустила более 30 продуктов и функций.

В четверг она продолжила наращивать темпы, представив Claude Opus 4.6 — новую модель, предназначенную для решения интеллектуальных задач, которая почти наверняка составит конкуренцию традиционным компаниям, предоставляющим программное обеспечение как услугу (SaaS), таким как Salesforce и ServiceNow.

В компании OpenAI, владеющей ChatGPT, работает в два раза больше сотрудников, чем в Anthropic, а в Microsoft Corp. и Google, принадлежащей Alphabet Inc., — 228 000 и 183 000 сотрудников соответственно. Кроме того, эти компании обладают огромным капиталом и разветвленной сетью дистрибуции.

Однако инструменты искусственного интеллекта Anthropic для генерации компьютерного кода и управления компьютерами превосходят все, что удалось запустить этим крупным компаниям. OpenAI и Microsoft в последнее время испытывают трудности с выпуском продуктов, которые могли бы оказать такое же влияние.

Безжалостная эффективность Anthropic отчасти объясняется парадоксальным фактором: одержимостью миссией.

Компания была основана бывшими сотрудниками OpenAI, которые считали, что в OpenAI слишком пренебрежительно относятся к безопасности, особенно к экзистенциальному риску, который искусственный интеллект представляет для человечества.

В Anthropic эта проблема превратилась в своего рода идеологию, а генеральный директор Дарио Амодей стал ее верховным жрецом и провидцем.

Дважды в месяц Амодей собирает своих сотрудников на Dario Vision Quest, или DVQ, где генеральный директор в очках подробно рассказывает о создании надежных систем искусственного интеллекта, которые соответствуют человеческим ценностям, а также о более широких вопросах, таких как геополитика и влияние технологий Anthropic на рынок труда.

В мае прошлого года Амодей предупредил, что развитие искусственного интеллекта может привести к исчезновению до 50% офисных вакансий начального уровня в ближайшие 1–5 лет. Похоже, его собственная компания готова способствовать этому благодаря своему почти религиозному рвению в вопросах безопасного ИИ. Безопасность рабочих мест, похоже, не входит в число приоритетов Anthropic.

Но люди, близкие к компании, описывают атмосферу как культовую: сотрудники едины в своей миссии и верят в Amodei. «Спросите любого, зачем он здесь, — сказал мне недавно один из ведущих инженеров компании Борис Черный. — Отведите его в сторону, и он ответит, что его цель — сделать искусственный интеллект безопасным. Мы существуем для того, чтобы сделать искусственный интеллект безопасным».

Когда в прошлом году руководство Meta Platforms Inc. объявило о масштабном найме старших исследователей в области искусственного интеллекта, оно попыталось убедить сотрудников Anthropic, что Meta откажется от создания систем искусственного интеллекта с открытым исходным кодом, которые можно использовать и модифицировать бесплатно. Сотрудники Anthropic сочли такой подход опасным.

Ранее в этом месяце Амодей опубликовал эссе объемом 20 000 слов о надвигающейся угрозе для цивилизации, которую несет искусственный интеллект, а компания представила обширную «конституцию» для флагманской системы Claude, предполагающую, что ее ИИ может обладать неким подобием сознания или морального статуса.

Это не только мера предосторожности, но и философское измышление, поскольку конституция, призванная направлять Клода, дает системе более четкие указания о том, как реагировать на возможность отключения — то, что система может воспринимать как смерть.

Благодаря постоянному вниманию к вопросам безопасности модели компании являются одними из самых честных на рынке.

Это означает, что они реже выдают ложные результаты и чаще признают, что чего-то не знают, согласно рейтингу, составленному исследователями из Scale.ai, который поддерживается компанией Meta.

Это, в свою очередь, повышает доверие к компании со стороны корпоративных клиентов, число которых растет.

Эта одержимость также необычна для отрасли, склонной к дрейфу миссии, где технологические компании основываются на благородных идеях улучшения жизни человечества — до тех пор, пока их не начинают сдерживать обязательства перед инвесторами.

Помните девиз Google «Не будь злом»? Еще один пример — некоммерческая организация OpenAI, основанная с целью «принести пользу человечеству» и не ограниченная финансовыми рамками.

Но культура Anthropic, ориентированная на миссию компании, имеет дополнительный плюс: она устраняет внутренние противоречия, которые обычно замедляют работу в таких корпорациях, как Google и Microsoft, где сотрудники работают сообща ради достижения целей компании.

В результате одержимый вопросами безопасности Амодей, похожий на безумного ученого, выпускает больше продуктов, чем некоторые крупнейшие компании Кремниевой долины.

«Военные историки часто утверждают, что чувство борьбы за благородное дело побуждает армии действовать эффективнее», — говорит Себастьян Маллаби, автор готовящейся к выходу книги о Google DeepMind и старший научный сотрудник по вопросам международной экономики в Совете по международным отношениям.

По его словам, преимущество Anthropic также заключается в том, что компания сосредоточилась на создании чрезвычайно эффективного инструмента для написания кода, известного как Claude Code, и благодаря этому завоевала доверие корпоративных клиентов, в отличие от OpenAI, которая развивала несколько направлений. Компания Сэма Альтмана страдает от «высокомерия лидера», добавляет он.

Сейчас Anthropic привлекает 10 миллиардов долларов при оценке в 350 миллиардов, а это значит, что стремление ставить рост выше безопасности будет только усиливаться.

Амодей создал корпоративную культуру, которая работает.

Вопрос в том, сможет ли эта культура выстоять, когда ставки повысятся, а компания продолжит сотрясать рынки — и, возможно, множество рабочих мест.

Миссионерская культура Anthropic