Comments 8
Но нейросети действительно опасны, потому что не понятно, как они работают. Возможно, можно найти какой-то компромисс между безопасностью и эффективностью, если сочетать формальную логику и нейросети. Например, нейросеть обнаруживает объект, его идентичность оценивается по правилам формальной логики, потом по правилам формальной логики вырабатываются варианты действия с объектом, а потом нейросеть решает, какое действие выбрать, и придаёт поведению нюансы. При этом, правила формальной логики также могут формироваться нейросетью автоматически, но после этого верифицироваться людьми.
Но нейросети действительно опасны, потому что не понятно, как они работают
Все верно. Но люди так же опасны, ибо ещё более непонятно как и что они думают. Но мы ведь как-то терпим людей?
Какой Киану Ривз на фотке молоденький)
История прекрасная. Жаль только, что местами это история в смысле storytelling, а не history.
Основной ход событий узнаваем, но автор регулярно усиливает факты до красивой легенды.
Самый заметный пример — Минский, Пейперт и «первая зима ИИ». Да, книга Perceptrons действительно сильно ударила по интересу к однослойным перцептронам. Но схема «Минский с Пейпертом написали про XOR → DARPA прочитало → финансирование нейросетей исчезло» слишком аккуратная, чтобы быть правдой. Причин у первой AI winter было сильно больше, и резали тогда финансирование не только нейросетчикам.
Фраза, что следующие пятнадцать лет символисты «не знали отказа», с этим вообще плохо сочетается: 1970-е как раз и называются первой зимой ИИ из-за сокращения денег и разочарования в результатах всей области.
Ещё сильнее выглядит утверждение, что статьи со словом neural в заголовке перестали принимать на ведущих конференциях. Скепсис к connectionism действительно был очень сильным, известны конкретные случаи отклонения таких работ, но всеобщий запрет на слово neural — уже совсем другое утверждение, и источник на него хотелось бы увидеть.
С Cyc та же история. 25 миллионов утверждений — число похоже на реальное. А вот «музейный экспонат» и «никому не нужны» — уже авторская оценка. Cyc и сейчас существует как коммерческая система, нравится нам результат этого многолетнего проекта или нет.
И наконец The Bitter Lesson. Саттон действительно пишет, что универсальные методы, использующие рост вычислений, исторически в итоге выигрывают у подходов, куда человек вручную зашивает предметные знания. Но автор превращает это в «всегда. Без исключений». Это уже не цитата и даже не аккуратный пересказ, а усиленная версия тезиса Саттона.
В результате фактический каркас у статьи в основном нормальный. Проблема появляется именно в переходах между фактами: там возникают мысли исторических персонажей, простые причины сложных событий и слишком красивые последствия.
Для научпопа читается отлично. Для статьи, которая претендует именно на историю ИИ, источников и осторожности с причинно-следственными связями хотелось бы заметно больше.
Пятьдесят лет священной войны