Comments 22
При этом доля ИИ в мировом ВВП выросла в десятки раз.
Безосновательное утверждение.
Появились новые машины от Apple и IBM
Убийцами лисп машин были скорее юниксовые рабочие станции от Sun, HP и прочих.
Спасибо за такую подробную историю)
Спасибо за статью.
В ней, на мой взгляд, есть, конечно, здравое зерно, хайп AGI сейчас явно имеет место быть. Но настораживает и некоторое число передёргиваний, например
Снова и снова оказывается, что невозможно достичь 100% точности от машины
Очевидно, что 100% точности невозможно достичь и от человека, вопрос лишь в том, каково соотношение в проценте ошибок.
Новая зима ИИ вполне возможна, но вспомним крах дот комов в 2000 году. На сколько он задержал развитие IT отросли? По моей субъективной оценке, не более, чем пару лет, вряд ли и сейчас она будет продолжительнее. Короче, я всё же оптимист.)
Спасибо за отзыв.
Мой посыл как раз в том, что от машин не стоит ждать недостижимых 100% точности — ровно так же, как и от людей. Выделанная цитата была про необходимость управлять собственными ожиданиями. Мне регулярно приходится объяснять бизнесу, что даже очень хорошие модели неизбежно ошибаются, и важно смотреть на баланс качества, стоимости ошибок и пользы от продукта.
Сквозная идея статьи как раз в конфликте между завышенными ожиданиями и реальными возможностями технологий: ошибки моделей — это нормально. И в финале я специально акцентирую, что даже без сверхразума текущие модели уже приносят ощутимую пользу. Как с доткомами, они будут развиваться дальше независимо от возможной «ИИ-зимы» — она скорее охладит хайп, чем остановит прогресс.
Не статья, а целая монография по ретроспективе ИИ получилась.
С автором можно основательно поспорить по его отдельным субъективным выводам и прогнозам, но в комментарии это сделать получится по размерам статьи.
Поэтому остановлюсь только на очень значимых акцентах.
Во первых, надо учитывать исторический временной аспект развития вычислительной техники от середины 50'х XX- ого века до начала 2-ой четверти XXI-ого. В начале эпохи ЭВМ использовались исключительно для математических расчетов (Алгол, Фортран) до простых экономических расчетов (Кобол, PL/I) даже без СУБД в нашем понимании. Интерактивный текстовый диалог с помощью печатающей машинки (input-output) с начала 70'х считался проявлением ИИ-способности ЭВМ не говоря о первых шахматных программах. Только с появлением в начале 80'х персональных ЭВМ стал возможным человеко-машинный интерфейс. А без него имитация ИИ невозможна в принципе. Поэтому вывод "Первая зима ИИ (1974-1980) просто ошибочен.
Во-вторых, в целом ошибочен вывод о возможностях экспертных систем. Ошибка была у японцев, когда на эйфории языка предикатов Prolog они начали проект "ЭВМ 5-ого поколения" и надселись. Изначально было ясно, что это ложный путь. Экспертные системы как раз эффективный инструмент для моделирования интеллектуальных возможностей при решении КОНКРЕТНЫХ прикладных задач, ибо их технология позволяет строить по базе знаний логические выводы и обосновывать выдаваемый результат (решение). Сдерживание широкого использования ЭС обусловливалось не размерами БЗ (как утверждает автор), а инструментальными средствами разработки экспертных систем. Классические языки 70'х типа Prolog'а, Сlip'a и подобных не годятся. Они ориентированы на локальное программирование когда БЗ зашивается в код программы. Основным инструментом была (и пока остаётся) система G2 корпорации Gensym для управления техпроцесса и в реальном времени. Также разработки типа ExSys, но они ориентированы на локальное приложение. А ЭС должна быть компонентом (интеллектуальной подсистемой) информационной системы для поддержки принятия решений. Так что экспертные системы ещё не сказали своего последнего слова.
По современному хайпу ИИ связанному с LLM. Принципиальным здесь является то, что построенная по такой технологии модель в отличие от человека НЕ оперирует понятиями предметной области, а строит свои выводы с помощью зависимостей между словами (токенами) в тексте. Человек когда думает и принимает решение, он не оперирует словами, а оценивает имеющиеся факты и по ним (используя свои знания и интуицию) строит логические выводы. В этом принципиальное отличие человеческого интеллекта от машинного. Вот на основание этого и можно сделать вывод тупиковый ли путь к современных технологий по имитации человеческого интеллекта.
Только с появлением в начале 80'х персональных ЭВМ стал возможным человеко-машинный интерфейс.
Чего не хватает в терминалах мейнфреймов?
Операционные системы больших ЭВМ не расчитаны на массового пользователя и не имели с ним диалогового интерфейса.
То есть вопрос только в массовом доступе, а не в самом железе. Так то исследователи и студенты на тех машинах вполне могли работать интерактивно, в том числе и с графикой. Можно, скажем, посмотреть на сеанс работы SHRDLU - как раз таки пример ИИ первой волны (конец 60х - начало 70х).
Не забывайте их выч.характеристики и стоимость машинного времени измеряемого за час в долларах того времени. А насчёт упражнений, так мне при освоении микро-ЭВМ Наири-2 ещё в 1973г. через ее пишущую машинку пришлось написать программу для игры в крестики+нолики и не более того.
Не забывайте их выч.характеристики
Не хуже чем у персоналок начала 80х
и стоимость машинного времени измеряемого за час в долларах того времени
В периоды расцвета (до очередной "зимы") ИИ достаточно щедро финансировалось.
так мне при освоении микро-ЭВМ Наири-2 ещё в 1973г. через ее пишущую машинку
Кое где ещё в конце 80х перфокарты были в ходу. Но при этом у пионеров ИИ был нормальный интерактивный доступ в 60е. Если про игры - то вот что писали студенты в Иллинойсе в середине 70х на университетской большой машине.
Понятие AI (ИИ) того времени было примитивным. Если машина вела текстовый диалог, то это и принималось за ИИ. На счёт массовой доступности к терминалам Мэйн-Фреймов конца 70'х, так это, уважаемый, от лукавого. Повторяю, оно измерялось в десятках долларов за час машинного времени. О чем говорите, так это единичные студенты университета Стэнфорда или MTI где проводились основные исследования по AI. Именно с появлением в 70'х мини-ЭВМ типа серии PDP и IBM-PC пошли разработки по человеко-машинного интерфейсу которые дали импульс исследованиям по ИИ и в частности по разработке экспертных систем.
Если машина вела текстовый диалог, то это и принималось за ИИ.
Современная LLM делает примерно то же самое, и в качестве интерфейса вполне достаточно телетайпа.
О чем говорите, так это единичные студенты университета Стэнфорда или MTI где проводились основные исследования по AI.
Именно так, ни про какой массовый доступ я не говорил.
разработки по человеко-машинного интерфейсу которые дали импульс исследованиям по ИИ и в частности по разработке экспертных систем.
Я бы не смешивал эти вещи. Экспертная система должна была в первую очередь решать конкретную задачу (скажем, определять болезнь по симптомам или наиболее вероятное место для разработки полезных ископаемых), интерфейс вторичен.
Спасибо, что прочитали статью и написали подробный отзыв!
Судя по комментарию, вы оцениваете ИИ ретроспективно — с позиции того, что мы сегодня считаем интеллектом. Отсюда ваш вывод, что без человеко-машинного интерфейса в персональных ЭВМ ИИ невозможен. Но в 60-х годах ИИ называли саму симуляцию элементов человеческого мышления. Исследователи обещали результаты (например, проект GPS) при имевшемся железе на тот момент — и не смогли их дать. Зима наступила не потому, что не было ПК, а потому, что деньги кончились после невыполненных обещаний.
Я не утверждал, что экспертные системы бесполезны — элементы их подхода возвращаются сегодня системы, где LLM комбинируется с формальными правилами. В блоке про вторую ИИ-зиму проанализированы причины экспертных систем взлёта и падения. Одна из причин (не единственная) — сложность поддержки базы знаний, что подтверждается отчётами исследователей XCON [1], [2]. За несколько лет число правил выросло с 250 до 6200, при этом не всегда было понятно, кто добавил то или иное правило, а удаление или изменение требовало долгого цикла согласований.
Про LLM согласен — в статье я пишу, что они предсказывают токены, а не оперируют понятиями. Это порождает галлюцинации и ставит вопрос о пределах текущего подхода.
Добро. Я не утверждал, что без персональных ЭВМ не было исследований по ИИ. Очевидным является факт, что вслед за историческим прогрессом в развитии выч.техники (как аппаратуры) развивается и совершенствуется ее программное обеспечение коим и является имитация человеческого интеллекта: без прогресса 1-ого не могло быть и 2-ого. Сами понимаете, что на оперативной памяти больших ЭВМ начала 70-х в 256 - 512 КБ хороший ИИ не разработать. Исследования по ИИ в 70-х носили научный характер основанный как на алгоритмическом подходе, например, известная серия книг Нельсона посвященные алгоритмам поиска, так и на подходе попытки моделирования понятийных рассуждений, например, работы Минского. Но на технических возможностях выч.технике того периода своей практической реализации объективно получить не могли. Поэтому, как таковой "зимы ИИ" 70'х и не было и сводить все к причине отсутствия финансирования просто не корректно. Ставить причиной падения интереса к экспертным системам большой объем базы знаний (при продукционной подходе правил) тоже не корректно. ЭС разрабатывались как интеллектуальные помощники человеку для решения конкретных задач в предметных областях с устоявшимися по времени знаниями, а НЕ как универсальный инструмент на "все случаи жизни" и обновлении БЗ при "каждом новом чихе". Повторюсь, что одной из главных причин (тут термин зима уместен и она продолжается по сей день) их забытия является отсутствие инструментальных средств разработки, которые не являются тривиальными. Есть и другие причины, но это тема отдельного разговора.
.
Соглашусь, что проблема с отсутствием инструментальных средств разработки действительно была. Точнее, сейчас этих средств в разы больше, чем в то время, и это значительно ускоряет процессы.
Здесь у нас разное понимание термина «зима». В статье я использую устоявшуюся в англоязычной литературе периодизацию, где первой зимой называют период 1974–1980. Вы правы, что на тот момент железо объективно не позволяло создать ИИ в нашем понимании — но зима в данной статье определяется не качеством технологии, а резким падением финансирования и интереса. На тот момент это была исследовательская область, и отсутствие финансирования исключало шансы на дальнейшее развитие теми же темпами.
По проблеме с базой знаний я привёл ссылки — там довольно подробно расписано, почему это было проблемой. Объективно, мы сталкиваемся с этим и сейчас. Казалось бы, железнодорожная структура должна быть относительно стабильной по процессу. Мы разработали подобие экспертной системы для автоматизации решений по ремонту вагонов для ПГК(есть статья в профиле) и столкнулись с тем, что систему требуется постоянно докручивать именно в контексте экспертных правил. Не потому, что это хотелки бизнеса, а потому что на железной дороге каждый месяц возникают новые требования или особенности работы с подрядчиками. И путь согласования этих изменений долгий и неоднозначный. У нас этих правил десятки. В проекте XCON, про который я писал, подобных правил стало 6 тысяч. Это действительно оказалось проблемой, в том числе из-за отсутствия нормальных технических инструментов, о которых вы упоминаете, для поддержания их связанными и непротиворечащими.
Другой вопрос про «хороший ИИ». Вы пишете, что на тот момент не было средств, чтобы сделать хороший ИИ. А какие критерии "хорошести"? Сейчас ИИ хороший или нет?
Добро. Начну с последнего. Если ИИ является помощником человека, помогает ему с пользой то он НЕ может быть плохим. Другое дело, что человек НЕ должен полностью полагаться на ИИ там, где цена ошибки велика. Вместе с тем, ИИ может стать и хорошей защитой от "дурака" при попытках принятия человеком (сознательно или нет) неверных (опасных) решений ведущих к тяжёлым последствиям.
Принципиальным моментом интеллектуальности программной системы (думаю что тут не только мое мнение) является ее способность осмысленно вести диалог и обосновывать получение своего результата (действие). Не важно как это обоснование формируется внутри самой системы, главное чтобы оно было понятным и убедительным и при необходимости со ссылками на подтверждающие источники. Информация диалога (ответа) может быть как в текстовой форме с приложением необходимой графической информации, так и в формате аудио или видео.
Без обоснования результата (действия), например, только одну классификацию или обработку изображений, систему относить к интеллектуальной НЕ корректно.
В приведенной вами примерах ЭС с большим кол-во продукционных правил (в несколько тысяч ?), могу только сказать, что разработчики такой системы планировали ее применение "на все случаи жизни", а не на решение какой-то одной конкретной задачи где объем необходимых для ее работы данных имел бы разумные пределы для их поддержки в актуальном состоянии. Поэтому НЕ верно считать это недостатком ЭС, а правильнее говорить о НЕ качественном проектировании ЭС.
В примере ЭС для ИС ЖД ситуация скорее всего похожая. Возможно было рассмотреть более простой (конечно относительно) подход хранения вариантов принятия решений в форме, например, таблиц решений, которые прекрасно представляются в реляционной модели базы данных и спроектировать простой механизм их корректировки. Но, повторяю, это НЕ корректно относить к минусам ЭС.
Инструментальных средств для разработки ЭС в их классическом понимании в разы НЕ стало больше, тут как раз с конца 80'х стоит полная "зима". Другое дело, что ЭС можно разрабатывать с помощью современных технологий построенных на моделях с LLM. Но тут также должна быть разумность в ограничениях объема используемых данных и, главное, их тщательная верификация.
В приведенной вами примерах ЭС с большим кол-во продукционных правил (в несколько тысяч ?), могу только сказать, что разработчики такой системы планировали ее применение "на все случаи жизни",
В этом и есть главный урок этого проекта: его задача была одна — автоматически собирать электронные компоненты для заказов. И 250 правил было достаточно в начале, но потом, с ростом продуктивности, выросли и многообразие компонентной базы, и требования к обработке исключительных случаев. Правил стало несколько тысяч. Так что цель не менялась, но условия изменились критически.
Ещё раз доброе время !
Взглянул на вашу статью о проекте по ПГК и, как говорится, снимаю шляпу. Задачи планирования и ремонта безусловно относятся к категории очень сложных задач обусловленных спецификой конкретной предметной области, в данном случае грузовых жд-перевозок. Как правило, все сводится к много-критериальной оптимизации и без математических методов тут просто не обойтись. Важно, что правильно спланированный ремонт и обслуживание подвижного состава это минимизация транспортных происшествий и повышение безопасности жд-перевозок. Основной информацией для принятия решения по конкретному вагону является его текущее состояние, история ремонтов и рекомендации специалистов после последнего ремонта или регламентного обслуживания. Тут, как говорится, я не специалист. Применительно же к нашей дискуссии по ИИ, то могу сказать только одно: полностью полагаться здесь во всем на ИИ это по меньшей мере НЕ профессионально, а по большей просто безответственно.
При выработке конкретных решений могут использоваться отдельные интеллектуальные модули в форме ЭС работающие в реальном времени и интегрированные в саму информационную систему. Например, оценка состояния вагона (если в БД для принятия решения достаточно информации) и выработка рекомендации. Размерность напрямую зависит от кол-ва параметров по которым проводится такая оценка. Не думаю что их сотни, скорее она в пределах 10 - 20 максимум, что вполне практически реально для представления способа выбора решения в виде продукционных правил или таблиц решений. Понятно, что эти правила (условия) статичны по времени и не должны меняться "каждую неделю". Так что база правил (условий) должна иметь вполне разумные размеры для ее поддержки в актуальном состоянии.
Очень важно, что вы сделали разработку своей отечественной информационной системы имеющей стратегическое значение. Успехов !
Спасибо за положительную оценку!
Применительно же к нашей дискуссии по ИИ, то могу сказать только одно: полностью полагаться здесь во всем на ИИ это по меньшей мере НЕ профессионально, а по большей просто безответственно.
Согласен, полностью полагаться на ИИ нельзя — именно поэтому наш инструмент реализован как помощник диспетчера, а окончательное решение всегда принимает человек. Мы отдельно анализируем случаи, когда рекомендации системы не совпадают с фактическими решениями, и при необходимости корректируем логику формирования рекомендаций. Кроме того, можно в любой момент восстановить весь процесс расчёта, поэтому это не «чёрный ящик», а прозрачный механизм с понятной логикой работы.
Искусственный интеллект: 70 лет провалов, надежд и революций