Как стать автором
Обновить
471.91
BotHub
Агрегатор нейросетей: ChatGPT, Claude, Midjourney

«Совет может меня уволить»: реальная история ухода Сэма Альтмана из OpenAI

Уровень сложностиСредний
Время на прочтение12 мин
Количество просмотров2.9K
Автор оригинала: Кич Хэги

Взлететь выше всех, чтобы тут же оказаться в эпицентре бури? Сэм Альтман знает, как это бывает. В ноябре 2023 года OpenAI, компания, что всего год назад удивила мир запуском ChatGPT, столкнулась с кризисом, который едва ли не поставил крест на её будущем: генеральный директор и основатель в одно мгновение оказался за бортом.

Как такое могло произойти и что заставило совет компании, обещающей спасти человечество от опасностей ИИ, буквально за ночь лишить кресла своего лидера? Под катом — внутренняя хроника того, как генерального директора крупнейшей техкомпании уволили, а затем стремительно вернули обратно.

За ужином в Арт-квартале Лос-Анджелеса в ноябре 2023 года миллиардер Питер Тиль предупреждает главу OpenAI Сэма Альтмана
За ужином в Арт‑квартале Лос‑Анджелеса в ноябре 2023 года миллиардер Питер Тиль предупреждает главу OpenAI Сэма Альтмана

В ноябрьский вечер 2023 года миллиардер и венчурный инвестор Питер Тиль устроил вечеринку в ресторане YESS — авангардном японском заведении, расположенном в здании банка, переделанном в минувшем столетии. Среди гостей, сидевших рядом с ним, был его давний друг Сэм Альтман.

Тиль поддержал первый венчурный фонд Альтмана более десятилетия назад и с тех пор оставался его наставником. А Альтман, со временем став главой OpenAI и лицом революции в области искусственного интеллекта, превратился в звезду мировой технологической сцены. Успешный запуск ChatGPT в ноябре 2022 года стал вирусным событием, что привело к одному из лучших годов для акций технологических компаний за последние десятилетия. Однако Тиль был обеспокоен.

Задолго до встречи с Альтманом Тиль взял под крыло другого гения, страстно увлечённого искусственным интеллектом, по имени Элиезер Юдковский. Тиль финансировал его институт, который занимался внедрением идей о том, что любой умнее человека искусственный интеллект должен быть безопасным и дружелюбным к своему создателю. В марте того же года Юдковский пришёл к выводу, опубликованному в журнале Time: если нынешнюю волну исследований в области ИИ не остановить, «буквально все на Земле погибнут».

— Ты не понимаешь, что Элиезер уже успел «запрограммировать» половину сотрудников твоей компании верить во всю эту ахинею, — предостерёг Тиль Альтмана. — Ты должен относиться к этому серьёзнее.

Альтман вертел в тарелке свои вегетарианские блюда, стараясь не закатить глаза. Это был не первый ужин, на котором Тиль предупреждал его, что компанию захватили «те самые ЭА», то есть сторонники движения эффективного альтруизма. ЭА в последнее время переключились с борьбы с глобальной бедностью на предотвращение уничтожения человечества неконтролируемым ИИ. Тиль не раз предрекал, что «сторонники безопасности ИИ» в конечном итоге разрушат OpenAI.

— Ну, с Илоном это оказалось отчасти правдой, но от него мы отделались, — ответил Альтман за ужином, вспомнив скандальный разрыв в 2018 году с его соучредителем Илоном Маском, который однажды сравнил создание искусственного интеллекта с попыткой «призвать демона».

На тот момент около 800 сотрудников OpenAI, говоря о стремительном успехе компании, ехали на ракете и готовились к моменту, когда смогут позволить себе дома на побережье благодаря сделке по выкупу акций компании — её стоимость оценивалась в 86 миллиардов долларов. Приходилось ли паниковать? Отнюдь.

Тиль, наставник Альтмана, на конференции по биткоинам в апреле 2022 года
Тиль, наставник Альтмана, на конференции по биткоинам в апреле 2022 года

В свои 38 лет Альтман заканчивал, пожалуй, лучший год в своей блистательной карьере: он стал узнаваемым лицом, встречался с президентами и премьер‑министрами по всему миру, но самое главное — в ценностях Кремниевой долины — он вывел в свет новую технологию, которая, казалось, могла перевернуть всё человечество.

И пока два инвестиционных партнёра праздновали под открытыми балками потолка в самом модном ресторане Лос‑Анджелеса, в это же время четверо из шестерых членов правления OpenAI, включая двоих прямо связанных с сообществом ЭА, проводили тайные видеозвонки. Они решали, стоит ли уволить Сэма Альтмана... и этому вовсе не было причиной ЭА.


Этот рассказ основан на интервью с десятками людей, которые стали свидетелями одной из самых безумных историй в мире бизнеса — неожиданного увольнения генерального директора самой популярной технологической компании планеты и его триумфального возвращения спустя всего несколько дней. В центре этой драмы оказался неугомонный лидер, который вдохновлял всех своей технологической визией, но одновременно сбивал с толку и порой приводил в замешательство паутиной тайн и неожиданных ходов.

С самого начала OpenAI задумывалась как необычная технологическая компания: её управление доверили некоммерческому совету директоров, чья главная обязанность заключалась не перед акционерами, а перед «всем человечеством». В начале года Альтман шокировал законодателей, когда под присягой заявил, что не владеет акциями компании, которую сам же и основал. Он согласился на беспрецедентные условия своего участия в совете, который требовал, чтобы большинство директоров не имели финансовой заинтересованности в компании. В июне 2023 года он сказал телеканалу Bloomberg: «Совет может меня уволить. Это важно упомянуть».

Однако за кулисами совет директоров всё чаще и с нарастающим раздражением осознавал, что на самом деле все ключевые решения принимает именно Альтман.

В течение последнего года в совете директоров царило противостояние из‑за того, какого эксперта по безопасности ИИ включить в свои ряды. Совет провёл интервью с Аджейей Котрой, специалистом по безопасности ИИ из благотворительной организации Open Philanthropy, связанной с движением ЭА, но процесс зашёл в тупик — в основном из‑за того, что Альтман и его сооснователь Грег Брокман (также член совета директоров) намеренно тормозили ход дела. Альтман предложил взамен своих собственных кандидатов.

— Было какое‑то силовое противостояние, — отметил Брайан Чёски, генеральный директор Airbnb и один из кандидатов в совет, предложенных Альтманом. — Сложилась довольно простая логика: если Сэм называет имя, значит, этот человек точно лоялен Сэму, поэтому его кандидатуру автоматически отклоняли.

Тиль, наставник Альтмана, на конференции по биткоинам в апреле 2022 года
Альтман выступает на первой конференции для разработчиков OpenAI 6 ноября 2023 года, менее чем за две недели до того, как совет директоров его уволил

Ситуация ещё больше обострилась после того, как трое членов совета директоров, поддерживавших Альтмана, покинули свои посты в начале 2023 года из‑за различных конфликтов интересов. После этого в некоммерческом совете, управлявшем коммерческим гигантом в области искусственного интеллекта, осталось лишь шесть человек: сам Альтман, его близкий союзник Грег Брокман, их сооснователь Илья Суцкевер и трое независимых членов совета: Адам д»Анджело, генеральный директор Quora и бывший топ‑менеджер Facebook*; Хелен Тонер, директор по стратегии Центра безопасности и новых технологий при Джорджтаунском университете и ветеран Open Philanthropy; и Таша Маколи, бывший генеральный директор стартапа и участница британского совета благотворительной организации Effective Ventures, связанной с ЭА.

Опасения по поводу корпоративного управления и способности совета контролировать действия Альтмана стали особенно острыми для нескольких его членов после того, как летом 2022 года они увидели демонстрацию ChatGPT-4 — более мощного ИИ, который мог с лёгкостью сдать экзамен по биологии уровня Advanced Placement.

— Такие вещи, как ChatGPT и GPT-4, стали, по сути, теми самыми переломными моментами, которые заставили совет осознать, что ставки становятся всё выше, — отметила Тонер. — Это не значит, что завтра мы все умрём, но совет должен работать эффективно.

К тому времени у Тонер и Маколи уже начали угасать доверие и вера в Альтмана. Для анализа рисков новых продуктов до их выхода OpenAI создала совместный комитет по безопасности продуктов с Microsoft, ключевым инвестором OpenAI, который имел особый доступ к использованию её технологий. На одной из встреч зимой 2022 года, когда обсуждался выпуск трёх довольно спорных доработок GPT-4, Альтман заявил, будто эти три изменения уже были одобрены совместным комитетом по безопасности; однако Тонер потребовала подтверждений и выяснила, что было одобрено лишь одно.

Примерно в то же время Microsoft запустила тестирование всё ещё невыпущенного ChatGPT-4 в Индии — это был первый случай, когда продвинутый код оказался на воле без согласования с комитетом по безопасности. При этом никто даже не удосужился сообщить совету директоров OpenAI, что процесс одобрения был пропущен. Независимые члены совета узнали об этом случайно, когда один из них, выходя из шестичасового заседания, услышал о нарушении от сотрудника OpenAI прямо в коридоре. За всё это время ни сам Альтман, ни Брокман ни словом не обмолвились об этом инциденте.

А затем, одной летней ночью 2023 года, один из членов совета директоров OpenAI случайно услышал на званом ужине, как кто‑то обсуждает фонд OpenAI Startup Fund. Этот фонд был создан в 2021 году для инвестиций в стартапы, связанные с искусственным интеллектом, и OpenAI объявила, что он будет управляться самой компанией. Однако тот разговор содержал жалобы на то, что прибыль от фонда не достаётся инвесторам OpenAI.

Совет директоров OpenAI, 2023 год:

Альтман выступает на первой конференции для разработчиков OpenAI 6 ноября 2023 года, менее чем за две недели до того, как совет директоров его уволил
Слева направо: Сэм Альтман, Грег Брокман, Илья Суцкевер, Адам д»Анджело, Хелен Тонер, Таша Маколи

Для совета директоров это стало неожиданной новостью, и они обратились к Альтману за разъяснениями. На протяжении нескольких месяцев они выяснили, что Альтман владеет этим фондом лично. Сначала руководители OpenAI заявили, что это связано с налоговыми соображениями, но позже объяснили, что Альтман создал фонд, поскольку это было быстрее и якобы носило «временный» характер. При этом утверждалось, что Альтман не получает никаких комиссий или прибыли от фонда, — крайне необычная практика.

Для независимых членов совета такая административная небрежность выглядела невероятно — и, более того, она заставила подозревать, что прошлые допущенные ошибки могли быть частью намеренной дезинформации. Например, их также не поставили в известность предыдущей осенью, когда OpenAI выпустила ChatGPT. Этот релиз, позиционируемый как «предварительная версия», оказался настоящей сенсацией, изменившей индустрию.

В конце сентября Суцкевер написал Тонер имейл с предложением пообщаться на следующий день. Это было необычно: они почти никогда не обсуждали что‑либо за пределами заседаний совета. По телефону Суцкевер вёл себя уклончиво, но в конце концов выдал ключевую подсказку: «Вам стоит поговорить с Мирой».

Мира Мурати, ставшая техническим директором OpenAI в мае 2022 года, фактически руководила повседневной работой компании с тех пор. Когда Тонер позвонила ей, Мурати описала, как токсичный управленческий стиль Альтмана годами вызывал проблемы и как взаимодействие между Альтманом и Брокманом — который подчинялся ей, но при этом всегда обращался к Альтману, если она пыталась его обуздать, — делало её работу практически невыносимой.

Мурати поднимала большинство этих вопросов перед Альтманом за несколько месяцев до этого. Его ответ был странным: он стал приводить главу отдела кадров на их личные встречи в течение нескольких недель, пока Мурати наконец не заявила ему, что не собирается делиться своим мнением с советом.

Тонер вернулась к Суцкеверу, главному научному «оракулу» компании. Суцкевер дал понять, что потерял доверие к Альтману по множеству причин, включая его склонность сталкивать топ‑менеджеров компании друг с другом. Так, в 2021 году Суцкевер создал и запустил исследовательскую группу для изучения нового направления, однако через несколько месяцев другой исследователь OpenAI, Якуб Пачоцки, начал заниматься чем‑то очень похожим. Команды слились, и Пачоцки взял на себя руководство после того, как Суцкевер сосредоточился на проблемах безопасности ИИ. Позже Альтман повысил Пачоцки до директора исследовательских разработок и пообещал обоим, что они смогут возглавить стратегию исследований компании, что в итоге привело к утрате нескольких месяцев продуктивной работы.

Суцкевер выжидал момента, когда ситуация в совете позволит заменить Альтмана на посту генерального директора.

Действуя с максимальной осторожностью, опасаясь разоблачения со стороны Альтмана, Мурати и Суцкевер начали общаться с каждым из независимых членов совета в течение последующих недель. Только благодаря их регулярным контактам независимым директорам удалось поймать Альтмана на особенно вопиющей лжи.

Слева направо: Сэм Альтман, Грег Брокман, Илья Суцкевер, Адам д»Анджело, Хелен Тонер, Таша Маколи
Выступление Миры Мурати, технического директора OpenAI, на конференции Tech Live, организованной The Wall Street Journal в октябре 2023 года

В октябре Тонер опубликовала научную статью, в которой снова прозвучали критические замечания в адрес подхода OpenAI к вопросам безопасности. Альтман пришёл в ярость. Он заявил Суцкеверу, что Маколи якобы сказала, что Тонер явно должна покинуть совет из‑за этой публикации. Маколи пришла в замешательство, услышав это от Суцкевера, — она точно знала, что ничего подобного не говорила.

Суцкевер и Мурати продолжали собирать доказательства, и теперь Суцкевер был готов их обнародовать. Он отправил Тонер, Маколи и д»Анджело два длинных PDF‑документа через самоуничтожающуюся почту Gmail.

Один файл касался Альтмана, другой — Брокмана. В документе, посвящённом Альтману, содержались десятки случаев предполагаемой лжи и другого токсичного поведения, подтверждённые в основном скриншотами из Slack‑канала Мурати. В одном из них говорилось, что Альтман заявил Мурати, будто юридический департамент компании утверждает: ChatGPT-4-Turbo нет необходимости проходить проверку через совместный комитет по безопасности. Когда Мурати уточнила это у главного юриста компании, тот сказал, что ничего подобного не утверждал. Документ о Брокмане сосредотачивался главным образом на обвинениях в его грубом и деспотичном поведении.

Если они собирались действовать, предупредил Суцкевер, они должны были делать это быстро.

И вот, днём в четверг, 16 ноября 2023 года, Суцкевер и трое независимых членов совета директоров подключились к видеозвонку и проголосовали за увольнение Альтмана. Понимая, что Мурати, скорее всего, не согласится стать временным генеральным директором, если ей придётся подчиняться Брокману, они также проголосовали за его исключение из совета. После голосования независимые члены совета сообщили Суцкеверу, что опасались, будто он был засланный шпион, проверяющий их лояльность.


В ту ночь Мурати находилась на конференции, когда четверо членов совета директоров позвонили ей, чтобы сообщить, что на следующий день они уволят Альтмана, и предложить ей стать временным генеральным директором. Она согласилась. Когда она спросила, по какой причине его увольняют, они отказались объяснить.

— Вы сообщили об этом Сатье? — спросила Мурати, зная, насколько важна для компании поддержка генерального директора Microsoft Сатьи Наделлы. Те ответили, что не сообщили. Было решено, что Мурати свяжется с Microsoft непосредственно перед тем, как новость появится на сайте OpenAI.

Неожиданное увольнение Альтмана мгновенно стало сенсацией по всему миру.

Но у совета директоров не нашлось никаких объяснений ни для сотрудников, ни для широкой общественности, кроме того, что Альтман якобы «не был достаточно откровенен» с советом.

В пятницу вечером совет директоров OpenAI и исполнительная команда провели серию всё более напряжённых заседаний. Мурати всё сильнее беспокоилась, что действия совета ставят OpenAI под угрозу из‑за отсутствия подготовки к последствиям увольнения Альтмана. В какой‑то момент она и остальные члены руководящей команды дали совету ультиматум: в течение 30 минут либо они объясняют, почему уволили Альтмана, либо подают в отставку — иначе вся исполнительная команда уйдёт в полном составе.

Совет директоров считал, что они не могут раскрыть тот факт, что именно Мурати предоставила им наиболее подробные доказательства управленческих недостатков Альтмана; они полагались на то, что Мурати поможет успокоить сотрудников, пока они ищут нового генерального директора. Вместо этого она возглавила революцию своих коллег против совета.

Среди союзников Альтмана начала распространяться версия, что всё это был «переворот», организованный Суцкевером, вызванный его гневом из‑за повышения Пачоцки, и подогретый недовольством Тонер, которую Альтман якобы пытался вытеснить из совета.

Суцкевер был ошеломлён. Он ожидал, что сотрудники OpenAI с радостью поддержат их действия.

К утру понедельника почти все сотрудники подписали письмо с угрозой уволиться, если Альтмана не восстановят в его должности. Среди подписавших были сама Мурати и Суцкевер. Стало очевидно, что единственный способ спасти компанию от краха — вернуть Альтмана.

Выступление Миры Мурати, технического директора OpenAI, на конференции Tech Live, организованной The Wall Street Journal в октябре 2023 года
Альтман и Мурати выступают на сцене вместе в октябре 2023 года

Адаптировано из книги «Оптимист: Сэм Альтман, OpenAI и гонка за созданием будущего» Китча Хэги, которая выйдет 20 мая 2025 года в издательстве W.W. Norton.

* Facebook — проект компании Meta Platforms Inc., деятельность которой запрещена на территории Российской Федерации.

Теги:
Хабы:
+1
Комментарии1

Публикации

Информация

Сайт
bothub.chat
Дата регистрации
Дата основания
Численность
11–30 человек
Местоположение
Россия