Сооснователь OpenAI Илья Суцкевер размышлял и мечтал об ИИ с детства. Но когда приблизился к своей мечте, то осознал, как на самом деле она опасна. Страх перед собственным творением сподвиг его на отчаянный, но провалившийся бунт. Разочаровавшись в OpenAI и порвав с ней, сегодня Суцкевер строит собственный проект. Рассказываем биографию этого талантливого и благородного ученого, который уже изменил мир, и, возможно, сделает это еще раз.
От детских инсайтов к первым открытиям
О ранних годах Ильи Суцкевера известно немного. Родился он в советском Горьком (Нижний Новгород) в 1986 году в семье советского инженера-электроника Ефима Суцкевера. Правда, с Россией его связывает очень немногое — когда Илье было всего пять лет, его семья переехала в Израиль.
Суцкевер не раз говорил, что с самого детства интересовался математикой, компьютерами и искусственным интеллектом, а также вопросами о том, как устроено сознание.
В одном выступлении Илья описывал, как впервые задумался об ИИ.
«В раннем детстве, может быть в пять или шесть лет, меня очень поразил мой собственный опыт сознания. Тот факт, что я — это я, и что вещи откладываются в моем опыте. Что когда я смотрю на вещи, я их вижу <...>
Но это чувство, что я — это я, что ты — это ты, я нашел его очень странным и почти тревожным. И поэтому, когда я узнал об искусственном интеллекте, я подумал: «Ого, если бы мы могли построить компьютер, который был бы разумным, возможно, мы бы узнали что-то о себе, о нашем собственном сознании».
Психологи, наверное, назвали бы этот момент манифестацией я-концепции. У многих детей происходят такие внезапные и яркие осознания собственной самости, которые могут очень удивить и обескуражить. Для Суцкевера этот детский инсайт предопределил карьеру и судьбу.
Семья всегда поощряла его увлечения и интересы. В 2000 году восьмиклассник Илья даже поступил на бакалаврскую программу Открытого университета Израиля по компьютерным наукам (этот вуз принимает любых студентов, независимо от того, получили ли они уже школьный аттестат или нет).
Но уже в 2002 году Суцкеверы переезжают в Канаду. Илья поступает в Университет Торонто, где получает бакалаврскую и магистерскую степени, а в 2013 году — PhD по математике.
Когда Илья поступал в Университет Торонто, он уже очень хорошо знал, чего хочет. Своим научным руководителем он выбрал Джеффри Хинтона — ученого, которому мы обязаны самой концепцией современных нейронных сетей, и которого называют «крестным отцом ИИ».
Хинтон вспоминал, что увидел талант и целеустремленность Ильи, когда тот за полдня выполнил задание по кодированию, на которое студентам давалась неделя. Хинтон и Суцкевер сотрудничали более 10 лет.
В 2010 году Суцкевера впервые заметила пресса. Тогда он представил нейросеть, которая была обучена на массивах английских статей Википедии, и могла продолжить фразу, генерируя дальнейшие слова. Технически ее задачей было предугадать следующий символ последовательности, и она генерировала прогноз. Чаще всего получалась относительно согласованная с точки зрения грамматики бессмыслица:
«Akkerma’s Alcesia Minor (including) of Hawaiian State Rites of Cassio. Other parish schools were established in 1825, but were relieved on March 3, 1850».
Конечно, такие тексты неприменимы в жизни и бесконечно далеки от возможностей современных нейросетей. Тем не менее, согласованность вывода показывала, что нейросеть поняла концепцию слов и грамматики. Вряд ли даже сам Суцкевер мог тогда представить, что это — начало пути к ChatGPT, инструменту, вклад которого в экономику составит многие миллиарды долларов.
Первый звездный час Суцкевера случился в 2012 году, когда под руководством Хинтона он и его коллега аспирант Алекс Крижевски разработали AlexNet — новаторскую по тем временам архитектуру сверточной нейронной сети глубиной в восемь слоев, пять сверточных и три полносвязных. Ее применяли для компьютерного зрения, но само открытие было фундаментальным, и применимым во всех направлениях развития ИИ. AlexNet показал огромные, немыслимые по тем временам перспективы глубокого обучения в понимании смыслов человеческого мира.
В 2012 году Хинтон, Суцкевер и Крижевский основали стартап DNNresearch, который всего через год купил Google. Первым продуктом на базе разработок группы Хинтона стал поиск по картинкам в Google+, где использовалось компьютерное зрение. По тем временам этот алгоритм поиска был невероятно продвинутым. Это один из первых продуктов, где компьютер не просто перебирал ярлыки и метки фотографий, но понимал, что изображено на них.
Суцкевер в OpenAI
В 2015 году Сэм Альтман, тогда еще президент знаменитого стартап-акселератора Y Combinator, пригласил Суцкевера, Илона Маска и основателя стартапа Stripe Грега Брокмана на деловой ужин. Результатом встречи стало основание OpenAI — изначально некоммерческой исследовательской компании (направление, позволяющее получать прибыль, появилось лишь в 2019 году).
Стартап провозгласил своей целью создание безопасного AGI — общего искусственного интеллекта на благо человечества. Он сразу стал единорогом, получив $1 млрд инвестиций. В OpenAI Суцкевер занял должность Research Director, а затем — Chief Scientist.
До запуска первых публичных продуктов OpenAI — генератора изображений DALL-E в 2021 году и ChatGPT в 2022 году, о деятельности Суцкевера в компании известно не так уж много. Во многом дело в крайней скрытности самого OpenAI на этом этапе развития. К примеру, сотрудникам строго запрещалось общаться с прессой без позволения PR-команды. А Суцкевер не входил в число руководителей, через которых компания коммуницировала с широкой публикой.
Мы точно знаем, что именно Суцкеверу принадлежит идея стратегической ставки OpenAI на постоянное увеличение размера моделей. В то время, как многие ученые и разработчики полагали, что глубокого обучения принципиально недостаточно для AGI, и в этой области необходима новая революционная идея, OpenAI постоянно масштабировало и улучшало свои разработки глубокого обучения, что в итоге и привело его к успеху.
Суцкевер всегда был озабочен рисками ИИ в целом и AGI в особенности — таких сегодня зовут ИИ-думерами. Судя по всему, во время работы в OpenAI его опасения на этот счет достигли апогея. После релиза ChatGPT он стал чаще появляться на публике — и почти в каждом своем выступлении говорил как о возможностях, так и о рисках искусственного интеллекта, и о том, как важно обеспечить его безопасность.
Порой он рисовал красноречивые и жуткие сценарии, в которых ИИ используется для порабощения людей в новых тоталитарных режимах и создает новые страшные болезни. Вероятно, если бы на месте Суцкевера был кто-то другой, мировая общественность задумывалась о потенциальных рисках развитого ИИ гораздо реже.
Суцкевера от большинства коллег по цеху отличает вера в то, что развиваясь, ИИ все глубже понимает нашу реальность — а вовсе не учится имитировать это понимание все более искусно. Еще в феврале 2022 года он написал тогда еще в Twitter: «возможно, сегодня большие нейронные сети немного сознательны» — другие ИИ-эксперты высмеяли это высказывание.
В июне 2023 года, уже в эпоху ChatGPT-4, Суцкевер возглавил стратегическую инициативу OpenAI по «супервыравниванию». Выравнивание — это приведение деятельности ИИ в соответствие с человеческими намерениями, ценностями и целями. А супервыравнивание должно обеспечить безопасность AGI и поставить его под полный контроль человеческих намерений еще до того, как он появится.
На этот проект OpenAI выделило 20% своих вычислительных мощностей. Впрочем, результатов этого проекта под руководством Суцкевера мы так и не увидели — скоро все перевернулось верх дном.
От путча в OpenAI до собственного суперинтеллекта
Широкие массы заметили Суцкевера лишь в прошлом году, после неудачного путча в OpenAI. 17 ноября 2023 года совет директоров OpenAI внезапно и без внятных публичных объяснений отстранил Альтмана от должности CEO.
По-видимому, главную роль в этом сыграл именно Суцкевер, который на тот момент контролировал совет директоров компании. По одной из версий, тот обвинил Альтмана в том, что он развивает компанию слишком по-коммерчески, и игнорирует ее миссию — разрабатывать ИИ на благо человечества.
Человек, которого предложили назначить CEO — Эммет Шир, выступает за замедление темпов разработки ИИ по соображениям безопасности.
Впрочем, по другой версии совет директоров уволил Альтмана не столько из-за безопасности разработок, а скорее из-за того, что его деятельность была крайне непрозрачной. Так, по словам бывшего члена совета директоров Хелен Тонер, в ноябре 2022 года члены совета узнали о релизе ChatGPT из соцсетей — лично их никто не предупредил. Порой Альтман врал, фальсифицируя сведения. В этой версии вопрос безопасности ИИ тоже появляется — она была одной из главных тем для укрывательства и лжи Альтмана. Однако в фокусе были именно повадки CEO в целом.
Уже 20 ноября Суцкевер отрекся от своих слов и заявил, что не хотел вредить OpenAI, а 22 ноября под давлением подавляющего большинства сотрудников OpenAI, которые выступили в поддержку Альтмана, а также Microsoft, главного инвестора и партнера компании, CEO восстановили в должности.
После этого поражения дни Суцкевера в OpenAI оказались сочтены. Полгода он не появлялся на публике, а фраза «Где Илья?» стала мемом в ИИ-сообществе. И вот в мае 2024 года он официально ушел из компании.
Через три дня после официального ухода Ильи, OpenAI представила ChatGPT-4o — новую версию своей мультимодальной нейросети, способную работать как полноценный голосовой ассистент. Стилистика этой версии сильно отличается — если раньше ChatGPT был предельно нейтральным и даже суховатым в формулировках, то теперь начал шутить, и даже заигрывать.
ChatGPT при Суцкевере пока не умел разговаривать — но по тону его текстовых ответов он походил на профессиональных и несколько отстраненных андроидов вроде C-3PO из «Звездных войн» или андроида Дэйту из «Звездного пути». Но когда уже без Суцкевера ChatGPT наконец заговорил, то оказался похожим на голос искусственного интеллекта из фильма «Она» Спайка Джонса, влюбляющего в себя героя Хоакина Феникса.
А уже в июне Суцкевер объявил о создании собственного стартапа под названием Safe Superintelligence. Его партнерами стали Даниэль Леви, бывший топ-менеджер OpenAI, который ранее работал с Суцкевером в Google, и Даниель Гросс, который был директором по ИИ в Apple.
Стартап нацелен на создание чисто исследовательского суперинтеллекта (гипотетическая концепция ИИ, который многократно превосходит возможности человеческого сознания) без намерения коммерциализировать его в краткосрочной перспективе. Суцкевер говорит, что компания должна быть изолирована ото всех внешних факторов, которые могут повлиять на ее работу. Причем инвесторов и суммы финансирования стартап не раскрыл.
О том, чем на самом деле займется новая компания Суцкевера, судить пока рано. Возможно, вместо того, чтобы стать реальной этической альтернативной OpenAI, она станет его коммерческим клоном — как, стала Anthropic, так же основанная бывшими сотрудниками OpenAI. Но упорная приверженность Ильи идее безопасного ИИ дает надежду на то, что его собственная команда не будет ставить генерацию прибыли выше интересов человечества. Плюс Суцкевер не Альтман.
Полезное от Онлайн Патент:
Какие выгоды можно получит от регистрации программы для ЭВМ?
Не только айтишники: какие компании могут внести свои программы в Реестр отечественного ПО?
Больше контента о сфере интеллектуальной собственности в нашем Telegram-канале
