«Анекдот, характеризующий наш промышленный подход: если индусу поставить задачу через месяц что‑то сделать, то через месяц он принесет идиотскую программу, которая будет плохо работать. А если русскому математику поставить аналогичную задачу — через месяц сделать программу, примерно через 25 дней он пришлет сообщение, что задача поставлена неправильно и ее надо ставить совершенно по‑другому». О чем это мы? Через призму юмора и науки говорим о нейронных сетях, искусственном интеллекте, приводя лишь отрывок из нового выпуска подкаста «Синий экран смерти». В программе принял участие Владимир Львович Арлазаров — советский и российский ученый, доктор технических наук, член‑корреспондент РАН, директор по науке Smart Engines.
В ходе беседы пионер в области искусственного интеллекта в СССР и мире рассказал о работе над программой «Каисса», которая 50 лет назад победила на первом чемпионате мира среди компьютерных программ, поделился мнением о научном обмене и высказал теории о будущем искусственного интеллекта.
Содержание:
0:00 Начало
0:57 Вступительное слово
1:14 Представление гостя подкаста
2:10 Про шахматную программу Каисса
4:30 Имел ли Александр Кронрод отношение к программе Каисса
5:32 Про письмо «девяносто девяти» и увольнение Кронрода
7:38 Почему реакция власти была такой суровой?
8:42 Сколько времени заняло портирование программы на новую машину?
10:08 Каисса была написана на Ассемблере?
11:15 Кто именно является автором Каиссы?
13:25 Другие — не менее важные программы
14:43 Занимала ли шахматная программа существенную часть жизни В. Арлазарова?
16:33 Победа Каиссы на Чемпионате мира по шахматам среди компьютерных программ
18:19 Научный обмен между СССР и Западом в 70-е
19:42 Применялся ли «Алгоритм четырёх русских» в Каиссе
20:34 Реализация психологических качеств в шахматных программах
21:45 Доступ более к мощным машинам того времени
25:03 Влияние переборных алгоритмов на современную науку
26:36 Про авторов AVL‑tree
27:19 Про Михаила Ботвинника, работавшего параллельно над шахматной программой (проект Пионер)
30:14 Когда поняли, что машина будет играть лучше человека?
31:23 Про целеполагание в человеческом мозгу
31:45 Первая встреча с Кронродом
33:48 Был ли интерес к шахматным программам на протяжении всей жизни?
34:49 Роняет ли развитие ИИ интерес к алгоритмическим играм?
39:54 Задача остаётся творческой до тех пор, пока её не формализовали
41:12 Про отставание СССР от Запада в вычислительной технике
44:10 Возможно ли сегодня преодолеть это отставание?
48:31 Истоки появления сильной математической школы в России?
50:51 Количество женщин в IT сейчас и в СССР
52:24 Правда ли, что наука и образование держатся на кадрах из СССР?
53:33 Главные проблемы в подготовке научных кадров
55:04 Сохраняются ли связи с зарубежными коллегами?
58:06 Есть ли фундаментальные ограничения у текущей модели развития ИИ?
1:01:30 Идея кибернетического бессмертия
1:02:33 Применение современных технологий ИИ на практике
1:04:52 Любимый шахматист гостя
1:05:52 Про предпочтения относительно языков программирования
А для тех, кто все‑таки предпочитает читать, а не смотреть, мы расшифровали беседу.
— Как появилась «Каисса»?
— В этом году исполнится 50 лет победе «Каиссы» на первом чемпионате мира среди компьютерных программ. Разработка ее прообраза началась еще в 60-х годах, в стенах Института теоретической и экспериментальной физики (ИТЭФ). Первый вариант был написан в 1966 г., который тогда еще не назывался «Каиссой». В 1967 г. в товарищеском матче из 4 партий программа ИТЭФ обыграла шахматную программу Стенфордского университета со счетом 3:1.
— Приведу Вашу цитату: «Когда это все закончилось, и мы, и американцы это шоу раскрутили по полной программе. На волне победы советской математической школы мы извлекли из успеха все, что только можно». Я знаком с историей «Каиссы», но как и что вам удалось извлечь? У меня сложилось впечатление, что вам разве что не вставляли дополнительных палок в колеса.
— Нам действительно не вставляли палок в колеса — и это немало. Мы работали в ИТЭФ, и институт, как вы можете догадаться из названия, занимался физикой. В математической лаборатории, в которой работали, мы в основном занимались обсчетом всяческих физических измерений и моделированием разных физических процессов по заказу физиков. Поэтому то, что нам дали возможность достаточно свободно работать в области, очень далекой от физики, это было совсем не мало. И потом, когда мы перешли в Институт проблем управления, это играло важную роль. Потому что никакой институт, в котором я работал в течение первых 20 лет, никаким искусственным интеллектом сам по себе не занимался, а занимался конкретными делами — физикой, автоматикой и т. д.. Потому что никаких денег не было, да они и не нужны были: все, что нам нужно было, это возможность тратить ресурс на эту работу.
— В ИТЭФ Вы работали под руководством известного математика Александра Кронрода, который также являлся вашим научным руководителем. Имел ли отношение Александр Кронрод к разработкам шахматной программы?
— Имел самое прямое, он был главным вдохновителем. Он немножко участвовал, но ужасно не любил быть соавтором работ, в которых не принимал основополагающего участия. Поэтому среди авторов мы его никогда не упоминали, но он был главным вдохновителем и инициатором этого дела. Потому что это была лаборатория искусственного интеллекта, если бы мы сказали современным языком. Но реально игры были с самого начала одним из узелков искусственного интеллекта.
— Через год после победы над программой Стэнфорда случился известный политический скандал. Александр Кронрод был одним из инициаторов так называемого «Письма 99» советских математиков в защиту другого математика Александра Есенина‑Вольпина, внебрачного сына Сергея Есенина, которого отправили в Белые Столбы за диссидентскую деятельность. Правильно ли я понимаю, что в результате Кронрода выгнали из ИТЭФ, а вместе с ним и весь ваш коллектив, занимавшийся шахматной программой тоже попросили покинуть место?
— Кронрод никогда не был инициатором этого письма, он вообще не занимался никакой политической деятельностью и не сильно ею интересовался. Его попросили подписать это письмо, и он не считал возможным для себя от этого отказаться. Он ни в какой момент не был никаким инициатором. Это мне кажется важным, потому что делать из Кронрода политическую фигуру абсолютно неправильно.
После того, как Кронрода уволили, всю эту группу никогда никто не выгонял. Скорее все те, кто работал в ИТЭФ (и не только группа шахматная, но и довольно большой коллектив), не считали возможным работать в стенах института, из которого уволили Кронрода.
Это тоже не было политической акцией, но мы все считали, что это будет неправильно. Меня единственного из всех остальных, кто ушел из ИТЭФ, понизили в должности, потому что я был главным инженером и прямым заместителем Кронрода. Поэтому меня всего лишь понизили в должности, а дальше все разбрелись. Письмо имело бешеный резонанс, потому что там было много крупных ученых и все они пострадали.
— Я прочитал это письмо, оно публичное. Оно было сформулировано вежливо, без агрессии, хамства. Диссидентом был не один Есенин‑Вольпин. Почему реакция власти была такой суровой, ведь Кронрод был ветераном войны, заслуженным ученым? Неужели это письмо тогда имело такой резонанс?
Министру здравоохранения СССР,
Генеральному Прокурору СССР
Копия: Главному психиатру г. Москвы
Нам стало известно, что крупный советский математик, известный специалист в области математической логики Александр Сергеевич Есенин‑Вольпин был насильственно, без предварительного медицинского обследования, без ведома и согласия родных, помещён в психиатрическую больницу № 5 (станция Столбовая, 70 километров от Москвы).
Насильственное помещение в больницу для тяжёлых психических больных талантливого и вполне работоспособного математика, условия, в которые он по самому характеру этой больницы попал, тяжело травмируют его психику, вредят здоровью и унижают человеческое достоинство.
Исходя из гуманных целей нашего законодательства, и тем более здравоохранения, мы считаем этот факт грубым нарушением медицинских и правовых норм.
Мы просим срочно вмешаться и принять меры для того, чтобы наш коллега мог работать в нормальных условиях.подписи, приписка
— Бешеный резонанс: вовлечен был не только Кронрод, но и много других крупных ученых. И почти все они пострадали. А почему — это не ко мне вопрос.
— В результате вся ваша команда перешла работать в Институт проблем и управления (ИПУ), но уже без Кронрода, потому что вернуть его так и не удалось. Он, правда, устроился впоследствии работать в институт, занимающийся патентами: запрета на профессию не было. На основе имеющихся текстов программа была переписана под новую машину, которая была в вашем распоряжении в ИПУ. Это была британская ICL System 4–70 (4-разрядный процессор, память — 24 000 байт, быстродействие — 900 000 инструкций/с и анализировал 200 позиций/с). Вы в ИТЭФ разрабатывали программу на советской M20. Сколько времени и сил у вас отняло портирование программы под новую VME, как я понимаю, с другой архитектурой?
— Наш коллектив был и остается на протяжении всех шестидесяти с лишним лет коллективом профессиональных программистов. Поэтому переход на новую машину не был для нас супер задачей.
Мы в институте проблем управления занимались, в частности, поддержкой этой машины, поэтому с точки зрения ICL 4–70 особенных проблем не было. Хотя переписать программу с кодов машины на ассемблер с совершенно с другой архитектурой — это, конечно, некоторое время и не очень простая задача. Но она техническая в любом случае. Суть состояла в том, что в процессе этой работы мы очень многое изменили. То, что называлось «Каиссой», оно очень сильно отличалась от того, что было до нее.
— К 1971 г. была выпущена программа, которую уже называли «Каиссой». По одним сведениям «Каисса» была разработана на ассемблере, по другим — был использован более высокоуровневый язык, речь шла о макросах, но их можно делать и на ассемблере.
‑ Все было на ассемблере. Я думаю, это было правильно, потому что сегодня, по прошествии 50 лет, если автоматически транслируемая на C++ программа выглядит не сильно хуже, чем если ее написал квалифицированный человек, а то и лучше. А тогда были трансляторы с таких языков как Fortran, и работа с ними сопровождалась огромными потерями времени. Поэтому то, что мы писали на ассемблере, я считаю, это было правильное и единственно верное решение.
— Чаще всего в качестве авторов «Каиссы» указывают вас, Михаила Владимировича Донского и Георгия Максимовича Адельсона‑Вельского. Также отмечали шахматного мастера Александра Битмана и программистов Животовского и Ускова. В Википедии указаны еще фамилии: А.Бараев, А.Леман и М.Розенфельд. Верно ли будет сказать, что алгоритмы в основном были разработаны вами и Адельсоном‑Вельским, а Донской и остальные члены команды занимались непосредственно реализацией, разработки алгоритмов касались их в меньшей степени?
‑ У нас никогда не было и сегодня нет деления на программистов и алгоритмистов. Человек разрабатывал алгоритм и, соответственно, писал программу. У нас никогда не было, чтобы одни люди разрабатывали алгоритмы, а другие — писали программу. Конечно, иногда алгоритмы были такие, что их было не под силу одному человеку реализовать.
Авторами были Адельсон, Усков, Животовский и потом Битман — это авторы ИТЭФовской программы. А когда мы делали программу в Институте проблем управления, наоборот, Животовского не было практически вообще, Усков занимался очень важными, но другими делами, а появившийся и закончивший университет Донской стал одним из ключевых, с точки зрения чистого программирования главным действующим лицом в этой программе. Программа была большая, поэтому участвовало большое количество народу.
Когда мы говорим о нашей работа в ИТЭФ над шахматами как об одной из лабораторий искусственного интеллекта, то речь шла не только о «Каиссе». Мы делали очень много программ, которые на мой вкус имели совершенно не менее важное значение для наших научных представлений, чем «Каисса». Например, мы сделали два эндшпиля: король, ферзь и пешка против короля и ферзя, а также король, ладья и пешка против ладьи. Эндшпили игрались абсолютно верно, они были точно сделаны, там не было никаких эвристик. Там были точно сделанные алгоритмы, но алгоритмы эти имеют и сейчас важное значение.
Поэтому многие люди не писали «Каиссу» непосредственно, но работали над шахматной программой по периметру. Поэтому действительно много народу участвовало, работало, и я считаю их вклад очень серьезным.
— В одном из интервью вы рассказывали: «В ИТЭФ никто нам не мешал работать над шахматными программами. Директор только ворчал иногда». Скажите, пожалуйста, сколько процентов вашей лаборатории занималось автоматизацией, а сколько шахматами? Не стали ли шахматы занимать существенную часть вашей жизни в рабочее и нерабочее время?
— Они всегда занимали существенную часть моей жизни. В ИПУ было две лаборатории, другой руководил Игорь Александрович Фараджев. В этих двух лабораториях было человек 70, и, конечно, шахматы в них занимали не очень большое место. ИПУ разрабатывал тогда аналого‑цифровой комплекс. Сейчас они, кстати, опять начали вдруг появляться. Одно время считали, что аналоговое — сплошная глупость.
Что касается первого аналого‑цифрового комплекса, там основные трансляторы были за нами, и мы их делали. В том числе занимались архитектурой самой этой машины. Во‑вторых, там были очень интересные различные работы. Наконец, в‑третьих, я хочу отметить, что мы занимались не только шахматами, но и интересными задачами, связанными с теорией графов, с потоковыми алгоритмами мировой известности, которые вошли потом во все учебники. Шахматы занимали заметную долю, но я был во главе коллектива 70 человек, у меня даже не было физической возможности посвящать большее время шахматам.
— В 1972 г. был проведен матч из двух партий между «Каиссой» и читателями КП. Тогда читатели победили со счетом 1,5:0,5. «Каисса» тогда не в полную силу играла и к чемпионату мира среди программ в 1974 г. в Стокгольме «Каисса» была улучшена, имела дебютную книгу на 10 000 ходов, использовала новый алгоритм альфа‑бета отсечения позиции и впервые использовала побитовое представление доски. Также она могла производить анализ во время хода соперника, использовала эвристику нулевого хода, сложные алгоритмы для управления временем и так далее. Когда вы победили на чемпионате мира, было ощущение крупного достижения?
— Побеждать приятно. Мы понимали, что это достижение, которое мы сможем представить как достижение советской науки. Все, конечно, были рады, но так же, как в ИТЭФ, это был скорее научный обмен тогда еще, чем прямое соревнование. Все, кто тогда работал, с удовольствием обменивались рассказами об алгоритмах, как это все сделано. Само по себе мероприятие тогда еще и, кажется, чуть ли не в последний раз носило научный характер, а не, как потом стало, научным соревнованием.
В целом это был научный момент, уже к 80-му году это полностью пропало, ничего такого не стало. Каждый сидел в своем углу и хотел победить, и больше ничего. Так что в 1974 г. это имело гораздо более научный характер, да это и делалось в рамках конгресса ИФИП (Международной федерации по обработке информации). Тогда это была самая крупная федерация информатики.
— Интересно, что при тех отношениях между Советским Союзом и Западом это было возможно. Необычно, наверное, для того времени.
— Вообще говоря, научный обмен тогда был другим. Потому что выехать на конференцию было непросто, но те, кто уже был на конференции, общались по крайней мере на научные темы абсолютно свободно. Научный обмен Советского Союза с Западом был налажен, был целый институт ВИНИТИ, который реферировал все основные научные западные журналы. Были просто рефераты почти всех работ, сейчас в век Интернета ничего похожего нет.
И меня один раз не пустили за всю мою жизнь на конференцию в Японию с формулировкой «участие советских ученых нежелательно», в остальное время мы ездили на все крупные конференции. Доклады Академии Наук переводились на английский язык и рассылались по всем университетам.
— Тот самый алгоритм четырех русских, соавтором которого вы являетесь, оптимизировал некоторые операции на матрицах. Был ли он уже в «Каиссе» использован?
‑ Он к «Каиссе» имел очень косвенное отношение. Мы занимались многими задачами, связанными с графами. Этот алгоритм связан с построением транзитивного замыкания, это была математическая работа. Она имела алгоритмическую составляющую, которую мы использовали, но она не была сделана для «Каиссы» ни в какой степени.
— А алгоритм назван так, потому что его изобрели четверо русских?
— Михаил Кронрод, сын Александра Семеновича Кронрода, был там, по‑моему, самым русским. Но для Запада мы были и остаемся русскими всегда.
— Какой подход использовали при реализации «Каиссы?» Какие человеческие качества было труднее всего реализовать?
— Эти работы в «Каиссу» не входили. У нас были экспериментальные работы про то, как использовать в этом месте психологию. Мы и в шахматах пытались их использовать, не очень интенсивно, но в других задачах они более интересны. Потому что есть задачи, о о которых известно, что при оптимальной игре они ничейные. Тем не менее, если в них начать играть — один из игроков выигрывает. Однако алгоритмы — как играть, чтобы была ничья — все знают. Но никому же не хочется ничьи, поэтому начинаются психологические вещи, и мы ими занимались. Так что такие задачи есть, они интересные и, на мой взгляд, важные.
— В последующих чемпионатах мира «Каисса» не могла состязаться с западными программами, потому она работала не на том железе, а западные — на более мощном. Алгоритмически не получалось сравняться с быстродействием других машин. Были ли шансы у «Каиссы», если бы их запускали на БЭСМ-6?
— Работали мы в Канаде на очень мощной машине — в 80-м году следующий был конгресс и последний, в котором мы участвовали. Там был очень мощный компьютер, он был мощнее, чем БЭСМ-6. Но к тому времени наш интерес к этой деятельности сильно угас, и угас не потому, что мы соревноваться не можем на мощной машине. А потому что машины, на которых мы работали и эти алгоритмы создавали и делали, были недостаточно мощными.
И вторая причина, которую я уже назвал: работа над шахматными программами перестала быть научным общением, а стала чистым соревнованием. Это стало сильно сложнее — и не от того, что мы могли на самих соревнованиях их использовать, нам давали любые машины, которые мы просили. А надо было все менять. Мы и сейчас этим занимаемся, ситуация примерно такая же: мы и сейчас на наших отечественных компьютерах выжимаем из этих компьютеров результаты не худшие, чем получаются на гораздо более мощных западных. Этим мы занимались тогда, этим мы занимаемся сейчас. Но это если порядок, а если этих порядков два или три — это соревнование становится бессмысленным.
Я представляю, как можно машину, которая в 10 раз или в 15–20 более мощная, можно победить или с ней соревноваться на более слабой технике за счет алгоритмов. Но если это в 100 раз или в 1000 раз — это бессмысленно.
— Да, алгоритм на такой коэффициент не сдвинуть.
— И все, кто про это говорят, недооценивают одно обстоятельство: мы все ученые и мы все свои результаты публикуем. Поэтому то, что мы сегодня придумали, завтра знают все. Иначе какие мы ученые? Соревнования — это динамика. Вы не можете придумать что‑то и долго на это жить. Вы обязаны, если вы что‑то придумали, рассказать об этом всему миру. Иначе какие вы ученые?
— Можно ли сказать, что алгоритмические инновации, заложенные тогда и по периметру нашли свое продолжение в разных отраслях науки и по сути заложено в различных программах сегодня?
С 60-х годов прошло уже 60 лет. Только в последние лет 20, скажем, перебор перестал быть главным действующим алгоритмом в искусственном интеллекте и его место заняли нейронные сети.
До того все, что связано с перебором, и сегодня тоже играет фундаментальную роль в работах, исследованиях, новых алгоритмах. Многие вещи вошли в языки. И сегодня переборный алгоритм можно запрограммировать за 5 минут, поскольку в языках заложен соответствующий алгоритм. Алгоритмы над графами и сегодня используются широко. Это все свою роль играло и играет в какой‑то мере сейчас. Просто говорить, что изобретенное 60 лет назад, играет роль и сейчас — смешно, оно вошло просто в базис того, что учат студенты и заложено алгоритмами.
— В частности, Георгий Максимович Адельсон‑Вельский — соавтор структур данных, которые вы используете — AVL — tree.
— Оно же AVL почему? Адельсон‑Вельский и Ландис. Теперь все по‑английски пишут. Оно уже вошло в сокровищницу, уже преодолено. Есть алгоритмы более простые, на этом же принципе основанные.
— Известно, что параллельно в вашей группе работала группа Михаила Моисеевича Ботвинника — чемпиона мира по шахматам, ученого и программиста. Насколько я понимаю, что‑то у них все время шло не так. Можете осветить это?
— Михаил Моисеевич был крупнейшим шахматистом и был ученым шахматистом. Он умел думать в отличие от многих других шахматистов над тем, как это все делается. И он был доктором технических наук, кроме всего прочего. Он понимал, что все то, что он делает и знает про шахматы, имеет прямое отношение к работам над компьютерными шахматами. Но алгоритмического мышления у него не было — в математическом смысле, не шахматном, конечно. Но главное — он был жутко упрямым. Если бы не это, то мы, может быть, вместе сделали какую‑то замечательную работу.
Но мы же должны программировать, мы какое‑то время пытались договориться, но ничего из этого не произошло. Он нас опекал, чтобы нас правильно принимали. У нас были очень хорошие отношения до самого конца. Но в какой‑то момент он сказал, что мы ничего не понимаем, добился того, чтобы ему дали несколько человек — хороших программистов — для того, чтобы он сделал свою программу.
Но для нас это было неинтересно, потому что я очень хорошо знал, какой это объем работы. Так что Ботвинник, может, ни в чем не виноват, потому что это — тогда во всяком случае — была не работа для двух человек.
Битовая кодировка шахмат у нас присутствовала с самого начала. В ИТЭФе мы пробовали сделать специальные программы для работами с 64-битными ячейками, чтобы можно было основные операции: умножение, сложение производить, прямо в M-20 такое поместили. Но мы покинули место раньше, чем могли это использовать.
— Насколько я понимаю, отношения у вас были дружественные?
— Да, насколько они могли быть между людьми с разницей в возрасте в 25 лет.
— Когда поняли, что победа машины над человеком — вопрос времени?
— Понимали мы это всегда. И Кронрод при первой встрече говорил, что машину можно построить и с город Тулу (микроэлектроники тогда не было). Но главное — какие в ней заложены алгоритмы.
В том, что машина будет играть лучше человека, у нас никогда не было никаких сомнений. Более того, мы полагали, что это произойдет вдвое раньше, чем это реально произошло. Когда мы начинали — думали, что лет через 20 мы добьемся этого. Я и сейчас не сомневаюсь, что любую конкретную задачу — если ее перед нами поставят — мы сделаем так, что компьютер сможет решать ее лучше, чем человек. Чуть быстрее или чуть медленнее. Мне кажется, любую конкретную задачу, чего пока в искусственном интеллекте было на нуле и в принципе осталось.
Если работу мозга можно представить как вычислительную машину, то процесс целеполагания у человека абсолютно другой, там химия, совсем не электроника.
— Вы упомянули первую встречу с Кронродом, что вы имели в виду, говоря о картине маслом?
‑ На пятом курсе университета у нас была практика производства, и тогда Толя Усков сказал: «А ты знаешь, что у меня есть дальний родственник? Я у него работал до университета, поехали, я тебя познакомлю с ним?» Это был Кронрод, он нас принял, поговорил с нами и начал рассказывать просто сказки про то, что такое вычислительная техника — мне это не понравилось. Но человек был очень интересный и договорились, что примет нас на практику. Тогда перешли в ИТЭФ на практику. Тут же (тогда еще не было M-20, работали в ИНЭУМ‑е на M-2) он попросил программу, смешную и ужасную по сегодняшним временам, запрограммировать «король с пешкой против короля». Тем не менее, это надо было сделать и так, чтобы она играла правильно. Она должна была иметь все компоненты. Мы написали эту программу на бланках, показали Кронроду, он произнес слова, которые сегодняшней публике будут, скорее всего, непонятны: «Как хорошо, что бланки на мягкой бумаге». Выкинул и преподал нам первый урок структурного программирования.
— Вы продолжали следить за развитием программ на протяжении всей жизни или в какой‑то момент потеряли интерес?
‑ Сейчас никто ведь не рассказывает про детали алгоритмов. Я не потерял интерес, просто общее представление имею, а уж очень туда погружаться, не имея информации, не так актуально, они же не публикуются.
«Король с пешкой против короля» — сегодня такую программу сделает любой студент, просто играющий в шахматы, в течение дня. Сейчас уровень, на котором это все делается, абсолютно другой.
— Наносит ли удар по игре развитие программы, которая начинает в пыль стирать белковых игроков? Пропадает ли интерес у людей играть в те программы, где уничтожают человека?
— Я думаю, что все закончится, станет просто глупым развлечением. Может быть, это было бы сегодня так, если создатели сегодняшних настоящих программ публиковали больше. Сейчас активно развивается направление нейронных сетей с объяснением, в которых заложены механизмы объяснения, почему именно так должно быть. Это особенно важно для медицинских приложений, где никто не согласен просто ориентироваться на то, что какая‑то нейронная сеть что‑то сказала, обязательно нужна доказательная база. Когда достигнет это направление определенного уровня, игра станет обычной игрой и больше ничем.
— С помощью компьютера сегодня в шахматах можно проанализировать до любого хода все дебюты. Гроссмейстеры первые 30 ходов делают по памяти, а дальше начинают сражаться, как правило, в абсолютно равных позициях. И у этого есть две импликации: первая — сокращение временного контроля, когда играл Ботвинник, по два часа у каждого было на 40 ходов, затем по часу добавляли, сегодня на чемпионате мира — это уже полтора часа, и сами шахматисты говорят, что это слишком много, и нужно сокращать. Вторая — шахматисты сегодня стараются играть кривые дебюты, которые практически никто не смотрит. Начинают они с глупых ходов и пытаются завести соперника туда, где нет анализа у него в голове, чтобы начать играть в шахматы, а не играть против машины. Поэтому интерес пропадает. Недавно его подогрел новый американский сериал про шахматистку и AlphaGo.
— Это очень важная веха. То, что его победили, это, с моей точки зрения, очень важная веха, потому что гораздо более сложно в комбинаторном плане. Практически для меня это будет означать, что задача соревнования человека с машиной в такого рода играх полностью решена. А в какой момент это все раскроется и станет наблюдаемым — это вопрос времени, больше ничего.
— [демонстрируется отрывок интервью с Георгием Адельсон‑Вельским, 2002]«Можно заметить забавную вещь: очень часто задача кажется творческой, пока не нашли способы ее решить. Как только мы нашли способ ее решить, она перестала быть творческой. В этом случае искусственный интеллект неисчерпаем, никогда. Как только мы решим некоторую задачу искусственного интеллекта, она перестанет быть задачей искусственного интеллекта». Здесь может быть противоречие: покрыли алгоритмами шахматы, они что, перестали быть творческой деятельностью?
У меня ощущение, что это филологического уровня спор. Творческой деятельностью можно назвать все, что угодно, но интеллектуальной она от этого не сразу становится. Пока эти алгоритмы людьми не осмыслены, а когда будут, ничего не останется.
— Проясните, пожалуйста, ситуацию с отставанием Советского Союза в развитии ЭВМ от Запада. Распространено мнение, что Советский Союз под конец 70–80-х сильно отстал от западных технологий. В то же время я нашел одну лекцию, в которой говорилось обратное: можно сравнить PDP-8, PDP-11 с ДВК-2 и обнаружить, что разница была несущественной и проблема преувеличена, а реальное отставание началось только после развала Советского Союза.
‑ Все были копии западных образцов. Как всякая копия, они отставали лет на 10. Как минимум! Промышленность так устроена, что любое серьезное промышленное изделие имеет минимум 10-летний срок. Даже сегодня, когда скорости стали несусветными. Поэтому наши отставания были 10–15 лет по любому направлению — хоть по ЕС ЭВМ, хоть по СМ ЭВМ. Все это было отставание минимум в 15 лет, и добились мы его ровно в тот момент, когда начали копировать западные образцы. Ну просто естественным образом. Не то, что мы там плохо их копировали, просто это требует времени такого. БЭСМ-6 была последней машиной, которая была оригинальна и по своим характеристикам отставала, но не на 15 лет, а, может быть, 3–5, в общем, на разумный срок.
Что касается того, что произошло, когда развалился Советский Союз, то я могу сказать. В тот момент, когда разрешили покупать западные машины, больше ни одна нормальная организация никакой советской техники не купила. Покупать технику с 15-летним отставанием никому не было нужно. Мы стали отставать после этого еще больше — это правда. Если бы Советский Союз не развалился, можно было это 15-летнее отставание сохранить. Кстати, сегодня оно не больше. Но не развал Советского Союза привел к отставанию, а то, что в результате развала Советского Союза вычислительная техника больших машин исчезла.
— Причина отставания, как вы упомянули, — копирование западных технологий. Спустя полвека мы наблюдали странную ситуацию, когда компания «Ангстрем», которая оборудование купила в Германии, а потом оно застряло там несколько лет без движения. Затем — строительство завода в Зеленограде, который мог делать пластины с тех процессором — 65–45 нм. Смысл в том, что западные технологии пока это все строили, ушли вперед. Поясните, можно ли сказать, что мы отстали навсегда?
— Что значит «отстали навсегда»? Японцы после войны показали, что это значит. Они выработали некую стратегию и в течение буквально одного десятилетия стали крупнейшей индустриальной державой, хотя [сильно] отставали. В принципе сказать, что отстали навсегда — это глупость, потому что ничего навсегда не бывает. Я не специалист в области микроэлектроники, поэтому комментировать конкретные вещи опасаюсь. Но я понимаю, что здесь задача такая же, как в ИИ, такая же, как еще во многих других вещах. Если мы хотим достичь индустриального уровня западных стран — условно говоря, высшего уровня, то должна быть поставлена конкретная задача. Такой задачи никто никому не ставит. И это одна из главных проблем российской науки, не имеющая отношения к ИИ, микроэлектронике и так далее. Все это — ИИ, микроэлектроника и еще куча вещей — устроено одинаково, нет задачи, которая поставлена. Как задача взять послать в космос человека — может быть, она дурацкая, может, она никому не нужна. Но она конкретная. Если бы сегодня была поставлена такая конкретная задача — а она в некоторых областях вдруг начала ставиться — и сразу появляются у нас на мировом уровне разработки. И они появятся, обязательно появятся. У нас глупее люди, что ли? Вопрос в другом. Нет, задача сделать микроэлектронику на высшем уровне, конечно, стоит, на нее выделяют деньги. Но это не задача. Задача сделать атомную бомбу или послать человека в космос — она конкретная. Там, где мы умеем поставить конкретную работу, мы за считанные годы догоняем всех.
— Откуда появилась сильная математическая школа, а затем — школа программистов? Даже в Википедии как древо жизни линии математиков продолжительные. У них много учеников, это ученые с мировым именем.
— Российская и советская математические школы задолго до вычислительной техники имели мировой уровень.
Российская математическая школа была всегда на очень высоком уровне. И поскольку первое время программирование было не то привилегией, не то участью математиков, там был очень сильный состав. Мы отставали по тому, по другому, по пятому, по десятому, но по алгоритмическим способностям и возможностям наших программистов мы были на высочайшем уровне.
— Раньше в IT было гораздо больше женщин, с другой стороны это могло быть обусловлено необходимостью выполнения однотипных операций, где требовалось в основном внимание, а не какие‑то специальные навыки, как это было связано со спецификой обслуживания машин. Как обстояла ситуация на самом деле?
— С одной стороны, это верно, что операторы ЭВМ, перфораторщицы, которые печатали программы. Они аккуратнее, их не так раздражает монотонная работа. У нас на M-20 было подразделение, которое чинило ячейки (они все время ломались). И там были только женщины. То есть были целые области, где работали только женщины. Среди ученых их было тоже, наверное, порядочно. Мне кажется, их и сейчас не так мало, 25–30% точно.
— Правда ли, что наука и образование держатся на кадрах, подготовленных в СССР?
‑ СССР кончился много лет назад. Талантливые люди рождались, рождаются и будут рождаться. И никакая идиотская система образования, которая у нас насаждается, их не испортит. Они все равно выучатся, и все равно у нас будут талантливые физики, талантливые математики, талантливые программисты. Все эти люди никуда не денутся. Другой вопрос — как готовить кадры для промышленности.
— Какие главные проблемы существуют в российском образовании?
‑ В образовании в целом не могу сказать. Касаемо подготовки ученых — в какой‑то момент возобладало мнение, что ученых готовить не нужно, что инженерные вузы готовить ученых не должны, а должны готовить людей, которые умеют пользоваться чужими программами. Куча всяких вещей стала подстраиваться под это. Сама по себе эта идея сомнительная — и не уверен, что она вообще имеет право на существенное развитие, но для подготовки научных кадров она убийственная. Потому что от человека требуется не углубление в материал, а умение правильно манипулировать. А это разные умения. Поэтому эта идеология, которая у нас возобладала — и до сих пор не преодолена нисколечко, — для науки убийственная.
— Вы упоминали, что в советское время неплохо были налажены связи между учеными разных стран. Что можете сказать о состоянии этих связей сегодня?
‑ Как всякие связи между людьми, никуда они не деваются — ни от какой политики, ни от чего‑либо такого. Конечно, они сохраняются, но при этом тормозятся всеми силами со всех сторон.
— Можно говорить о какой‑то изоляции сегодня?
‑ Мало того, что это изоляция. Она со всех рук поддерживается, в том числе и нами. Сегодня ученого оценивают по квартилям (Q), которые влияют на зарплату, положение в науке, на участие в разных грантах. Получается, что мы сегодня, когда Запад пытается нас полностью изолировать, ставим для себя критерий, полностью зависящий от Запада. Второе — нас научили заменять науку наукометрией. Западные журналы нам, в Smart Engines, присылают работы на рецензии, и на основании наших рецензий размещают статьи в другие издания.
— В последние несколько лет мы видим бурное развитие искусственного интеллекта, в частности, языковых моделей, нейронных сетей, которые генерируют все подряд. Верно ли сказать, что у этого всего есть фундаментальные ограничения у текущих моделей? Они не отличают истину от лжи. Если дать ChatGPT интенцию, он будет генерировать случайные числа. Я правильно понимаю, что нам нужно ждать новых сдвигов, чтобы создать новый, так называемый, сильный искусственный интеллект? Что вы ожидаете от развития искусственного интеллекта?
— ChatGPT — это прорыв. В том смысле, что есть тест Тьюринга — человек общается с компьютером, не видя его. И вопрос в том, может ли он догадаться, что он разговаривает с компьютером, а не с человеком. ChatGPT эту проблему преодолел — с ним можно общаться, и если человек заранее ничем не подготовлен, то он и не поймет, что общается с компьютером. Это есть фундаментальный прорыв в текстовой обработке. Но это всего лишь один из тестов. Важный, но говорить, что ChatGPT это искусственный интеллект — просто смешно. Он никаких творческих интеллектуальных задач не решает. Он может с тобой поговорить, написать тебе текст, но это лишь одна из задач. Основные сферы научной, производственной или творческой деятельности никакому ChatGPT не только недоступны, но и даже поставить их толком нельзя.
— У ChatGPT есть интересная импликация. На новый уровень выходит идея кибернетического бессмертия: долго обучать нейронную сеть и загрузить себя туда?
‑ Человек не сводится к интеллектуальной деятельности головного мозга. Там даже кибернетика не главная наука. Что это означает — «его мозг будет загрузится»? Мы читали это в фантастике.
— Вы применяете современные технологии искусственного интеллекта на практике?
— Мы занимаемся распознаванием разного: сцен, документов. Мы делаем системы распознавания документов, они [системы] у нас стоят по всему миру: в аэропортах, кассах, ж/д. Технология сводится к следующему: вот бумага, надо понять, что в этой бумаге есть. И это сложнейшая технология. Задача выглядит тривиальной, но требует высочайшего уровня квалификации. Заметьте, что в банках, когда вы приходите, подаете свой паспорт, его долго‑долго рассматривают. Только понять, настоящий паспорт или нет, уже непросто. А если говорить об аэропортах, где необходимо распознавать паспорта 200 с лишним стран мира, тем более сложно. Это крупица того, чем мы занимаемся. Основная тематика — распознавание образа. У нас все связано с искусственным интеллектом.
Другой вопрос — что называть искусственным интеллектом в технологическом смысле. Это все алгоритмы, которые позволяют решать задачи, которые умеет решать только человек.
— А у вас есть любимый шахматист?
‑ Да я уже давно не слежу за этим. Когда‑то в детстве я любил Пауля Кереса, эстонского шахматиста. Мне он очень нравился. Хотя, может быть, Фишер.
— Есть пристрастия к какому‑то языку программирования?
— Когда я строил новую структуру, она всегда состояла из профессиональных программистов. Это для меня лично означало то, что если задача требует, чтобы ее решали конкретно на каком‑то языке, то ровно две недели требуется программисту освоить этот язык. Мы очень много программировали на ассемблере, сейчас базовый наш язык программирования — C++. Если программист работает на одном языке, хоть на алголе (один из первых языков высокого уровня), — это не профессия. Человек садится за руль машины, и ему требуется от 10 до 30 минут, чтобы освоиться за ним, и он начинает на ней ехать. Это означает, что человек умеет водить машину. А если он умеет водить только эту машину, то это не означает, что он умеет водить.
— Наверное, сегодня отношение к этому поменялось, люди могут называть себя программистами, даже ничего не смысля в алгоритмах. Где лежит сегодня сфера ваших интересов?
— Smart Engines.
Благодарим за прочтение и просмотр видео! Приглашаем почитать и посмотреть более раннее интервью с участием Владимира Львовича.
