Книга «Гид по Computer Science для каждого программиста»

  • Tutorial
image Привет, Хаброжители! Колосс на глиняных ногах — так можно назвать программиста без подготовки в области Computer Science. Уверенное владение основами позволяет «не изобретать велосипеды» и закладывать в архитектуру программ эффективные решения. Все это избавляет от ошибок и чрезмерных затрат на тестирование и рефакторинг.

Не беда, если вы чувствуете себя не у дел, когда другие программисты обсуждают аппроксимативный предел. Даже специалисты с опытом допускают ошибки из-за того, что подзабыли Computer Science.

Зачем нужна эта книга


Многие из моих(автора) знакомых разработчиков пришли в профессию из самых разных областей. У одних — высшее образование в области Computer Science; другие изучали фотографию, математику или даже не окончили университет.

В последние годы я заметил, что программисты все чаще стремятся изучить Computer Science по ряду причин:

  • чтобы стать хорошими программистами;
  • чтобы на собеседованиях отвечать на вопросы про алгоритмы;
  • чтобы удовлетворить свое любопытство в области Computer Science или наконец перестать сожалеть о том, что в свое время у них не было возможности освоить этот предмет.
    Эта книга для всех вас.

Многие найдут здесь темы, интересные сами по себе. Я попытался показать, в каких реальных (неакадемических) ситуациях эти знания будут полезны. Хочу, чтобы, прочитав эту книгу, вы получили такие же знания, как после изучения базового курса по Computer Science, а также научились их применять.

Проще говоря, цель этой книги — помочь вам стать более квалифицированным и опытным программистом благодаря лучшему пониманию Computer Science. Мне не под силу втиснуть в одну книгу 20-летний стаж преподавания в колледже и профессиональный опыт… однако я постараюсь сделать максимум того, на что способен. Надеюсь, что вы найдете здесь хотя бы одну тему, о которой сможете сказать: «Да, теперь мне это понятно», — и применить знания в своей работе.

Чего вы не найдете в издании


Смысл книги состоит в том, чтобы читатель смог лучше понимать Computer Science и применять знания на практике, а вовсе не в том, чтобы полностью заменить четыре года обучения.

В частности, это не книга с доказательствами. Действительно, во втором томе книги рассмотрены методы доказательства, однако стандартные алгоритмы обычно приводятся здесь без доказательств. Идея в том, чтобы читатель узнал о существовании этих алгоритмов и научился их использовать, не вникая в подробности. В качестве книги с доказательствами, написанной для студентов и аспирантов, я настоятельно рекомендую Introduction to Algorithms («Алгоритмы. Вводный курс») Кормена (Cormen), Лейзерсона (Leiserson), Ривеста (Rivest) и Стейна (Stein) (авторов обычно объединяют под аббревиатурой CLRS).

Это и не книга по программированию: вы не найдете здесь рекомендаций, когда использовать числа типа int, а когда — double, или объяснений, что такое цикл. Предполагается, что читатель сможет разобраться в листингах на псевдокоде, используемых для описания алгоритмов (все программы в этой книге написаны на псевдокоде на основе языка С.). Цель книги — связать концепции Computer Science с уже знакомыми читателю методами программирования.

10. Динамическое программирование
10.1. Задача недостающих полей


Предположим, у нас есть шахматная доска размером n × n, на которой недостает нескольких полей. Как найти наибольший участок доски размером k × k без недостающих полей?
Если вы раньше не сталкивались с такой задачей, потратьте несколько минут на то, чтобы написать решение и определить время выполнения вашего алгоритма.

Столкнувшись с этой задачей, я рассуждал следующим образом. Каждое поле шахматной доски может принадлежать ко многим наибольшим участкам, но только в одном из них оно может быть верхним левым углом. Если я помечу каждое поле размером наибольшего неповрежденного участка, верхним левым углом которого он является, то поле с наибольшей такой меткой будет соответствовать искомому участку.

Предположим, что доска представлена в виде матрицы n × n, в которой каждая ячейка содержит 1, если соответствующее поле присутствует, и 0, если оно пропущено. Если текущее значение ячейки равно 0, то соответствующее поле отсутствует и не может быть частью непрерывного участка, поэтому его не нужно изменять. Если же значение равно 1, то мы можем заменить его числом, которое на единицу больше, чем минимальное значение из трех ячеек, расположенных ниже и справа.

Мы изменяем каждую ячейку матрицы один раз, включая проверку, равно ли значение ячейки нулю, проверку значений еще максимум трех ячеек и запись нового значения ячейки. Каждая из этих операций занимает время O(1), поэтому время, необходимое для обработки всей шахматной доски, составляет image

Обратите внимание, что это линейное, а не квадратичное время выполнения алгоритма — на шахматной доске n (мы считаем, что n — это общее количество полей, и придерживаемся обычного соглашения о том, что n — это объем входных данных) полей (некоторые из них отсутствуют), поэтому общее время, затрачиваемое алгоритмом, пропорционально количеству полей. Если более точно обозначить размер шахматной доски как √ n × √ n, то получим n полей и общее время выполнения O(n).

10.2. Работа с перекрывающимися подзадачами


Подход, использованный в этом разделе, называется динамическим программированием. Он применяется, когда задачу можно разделить на несколько подзадач, решение каждой из которых будет использовано несколько раз. Этот подход отличается от принципа «разделяй и властвуй», когда задачу разделяют на подзадачи, которые решаются независимо друг от друга. В задаче с шахматной доской каждая подзадача зависела от решений трех других задач, а решения всех подзадач сохранялись для дальнейшего использования.

Динамическое программирование обычно выполняется путем построения таблиц, как показано выше. Это означает решение задачи методом «снизу вверх», когда мы начинаем с решения наименьших подзадач и продвигаемся вверх до тех пор, пока не придем к ответу. Другой метод — это мемоизация, при которой мы идем сверху вниз, решая подзадачи по мере необходимости и кэшируя результаты для повторного использования. Построение таблиц — предпочтительный вариант, когда нужно решить каждую подзадачу (в моем примере с шахматной доской нужно было найти наибольший неповрежденный участок для каждого поля доски), поскольку затраты у этого метода меньше, чем при мемоизации. Если некоторые подзадачи из области решения не обязательно решать, то мемоизация позволяет решать только те подзадачи, которые действительно необходимы.

image

Ключевой момент

Там, где метод «разделяй и властвуй» подразумевает разделение задачи на несколько независимых подзадач, динамическое программирование подразумевает разделение задачи на несколько перекрывающихся подзадач. Решение каждой подзадачи кэшируется для последующего повторного использования.

10.3. Динамическое программирование и кратчайшие пути


Рассмотрим задачу поиска кратчайшего пути: для заданного графа со взвешенными ребрами нужно найти такой путь из одного узла в другой, который имеет наименьшую стоимость.
Определение

Граф со взвешенными ребрами — это граф, в котором каждое ребро имеет свой вес (стоимость). Стоимость пути из одного узла в другой определяется суммой стоимости всех пройденных ребер.

Предположим, что мы нашли путь между узлами s и t, который содержит третий узел v. Тогда путь из s в t должен содержать кратчайший путь из s в v, поскольку в противном случае мы могли бы заменить этот участок более коротким путем и уменьшить длину кратчайшего пути из s в t, что противоречит начальному условию (это принцип оптимальности Беллмана).
Ключевой момент

Динамическое программирование (и жадные алгоритмы) полезно для решения задач, имеющих оптимальную подструктуру. Это означает, что оптимальное решение задачи может быть эффективно построено из оптимальных решений ее подзадач. Если самый короткий путь из Мэдисона в Денвер проходит через Омаху, то этот маршрут также должен содержать самый короткий путь из Мэдисона в Омаху и из Омахи в Денвер.

Если задача имеет и оптимальную подструктуру, и перекрывающиеся подзадачи, то она становится кандидатом на решение методом динамического программирования.

Задачи поиска кратчайшего пути представляют собой яркие примеры динамического программирования, поскольку оптимальное свойство подструктуры интуитивно понятно — очевидно, что самый быстрый способ перехода из точки А в точку С через точку В — это также самый быстрый способ перехода из точки А в точку В и из точки В в точку С. В число алгоритмов, основанных на этом принципе, входит метод Беллмана — Форда, который находит кратчайший путь из исходной точки в любую вершину графа (или от любой вершины графа до конечной точки) и метод Флойда — Уоршелла — с его помощью вычисляется кратчайший путь между каждой парой вершин графа. В обоих случаях идея состоит в том, чтобы начать с небольшого подмножества узлов, близких к интересующим нас узлам, и постепенно расширять это множество, используя уже найденные узлы для вычисления новых расстояний.

image

10.4. Примеры практического применения
10.4.1. Git merge


Еще одна задача, на примере которой обычно демонстрируют возможности динамического программирования, — поиск наибольшей общей подпоследовательности (Longest Common Subsequence). Задача состоит в том, чтобы для двух заданных строк A и B найти самую длинную последовательность, которая встречается в обеих строках с сохранением последовательности символов. Символы в строках не обязательно должны стоять подряд; например, если A = {acdbef} и B = {babdef}, то {adef} будет их общей подпоследовательностью.

При слиянии изменений в Git (merge) выполняется поиск наибольшей общей подпоследовательности для master и рабочей веток. Символы, присутствующие в master, но отсутствующие в наибольшей общей подпоследовательности, удаляются; символы, которые есть в рабочей ветке, но отсутствуют в этой подпоследовательности, добавляются в master.

10.4.2. LATEX


Систему подготовки документов LATEX часто используют для создания технических документов. Одна из задач системы набора текста — выравнивание текста одновременно по правому и левому краю; для этого интервалы между словами и символами растягиваются или сжимаются таким образом, чтобы все строки имели одинаковую длину. Другой способ выровнять текст состоит в переносе последнего слова, так что часть слова оказывается в следующей строке. LATEX (С технической точки зрения практически всю работу выполняет система ввода текста TEX; LATEX построена на основе TEX. Здесь я использую LATEX из соображений простоты) пытается найти оптимальные точки разрыва строки, чтобы текст выглядел красиво. Если это сделать не удастся, то несколько строк подряд будут заканчиваться переносом слова или же расстояние между словами в разных строках будет различаться. В LATEX существует набор правил для оценки «неудачности» выравнивания. Программа стремится найти «наименее плохой» вариант.

Если в абзаце есть n возможных точек разрыва строки, то существует image возможных вариантов разбиения текста. «Неудачность» выбора для каждой точки разрыва зависит от того, какие точки разрыва были выбраны до нее. Следовательно, у нас снова есть перекрывающиеся подзадачи. Использование методов динамического программирования сокращает время выполнения до image которое может быть улучшено с помощью дополнительных методов.

» Более подробно с книгой можно ознакомиться на сайте издательства
» Оглавление
» Отрывок

Для Хаброжителей скидка 25% по купону — Computer Science

По факту оплаты бумажной версии книги на e-mail высылается электронная книга.

Комментарии 9

    0
    Алгоритмы — не самая важная часть CS. Название вводит в заблуждение, что вся CS к ним сводится.
      +1
      Ну, довольно значительная. А для именно программистов так и одна из самых важнейших.
        +1
        Разве что для прохождений собеседований. Основные алгоритмы давно реализованы в библиотеках, в реальности программисту достаточно уметь отличать C(n*log(n)) от O(N^2) и больше.
        А вот умения (и даже понимания полезности) доказывать корректность программы и понимание способов композиции кода современным программистам (точнее пользователям их программ, программисты про это просто не думают) остро не хватает.
          0
          То что вы перечисляете (не считая доказательства корректности, но не уверен что вы имеете в виду всякие языки с верификацией, завтипами и т.п.) относится к software engineering а не computer science. Из computer science обычным программистам как раз практически только алгоритмы и нужны.
          +1

          Не хочу влезать, но алгоритмы действительно не самая важная часть CS, а по факту, в CS настолько много разделов, что алгоритмы и структуры данных далеко не самый крупный раздел. О таких темах, как компиляторы, операционные системы, сети и т.д. написано не один десяток книг. В большей части все это опирается на математику (дискретная математика, реляционная алгебра, асимптотический анализ, теория типов, теория категорий, теория языков, автоматы, теория сложности вычислений, линейная алгебра, вычислительная геометрия, линейная алгебра и т.д.).
          Просто сейчас стало модно проводить так называемые алгоритмические собеседования. В большинстве случаев это обусловлено тем, что если кандидат знает оптимальный алгоритм или достаточно находчив, чтобы найти такой самостоятельно, то в дальнейшем он сможет быстро и эффективно решать любые поставленные задачи. С другой стороны хватает собесов, где тебя оценивают по практическим навыкам (знания конкретного языка\фреймворка\инструментария, реальный опыт работы и т.д.).

            0
            Все таки computer science в первую очередь, про вычисления. Алгоритмы как раз в т.ч. про это. ОС и прочее конечно элементы computer science используют, но это прикладное применение. Естественно имхо. А теории типов, и прочие математики для прикладных программистов не очень нужны.
        0

        Впервые столкнулся с английским изданием этой книги в начале года. Думал, что здесь будет если не полное погружение в CS (такая книга заняла бы не одну тысячу страниц), то хотя бы систематический обзор фундаментальных концепций и направлений в CS с ссылками для дальнейшего погружения (например, Кормен/Седжвик — Алгоритмы и структуры данных, Ахо и Ульман — Компиляторы, Таненбаум — Сети и ОС, и т.д.). Оказалось, что эта книжка вообще ни о чем. Здесь нет систематического подхода ни к одной из представленных тем. Автор ожидает, что читатель уже знаком с CS и просто набрасывает темы а ля динамическое программирования и жадные алгоритмы, не утруждаясь нормально объяснить «что это». Подбор тем условный и произвольный. То, что есть, скомкано и не дает минимума общего представления темы. Для опытного разработчика эта книга станет пустой тратой времени. Для начинающего — только больше запутает и создаст кашу в голове.
        Никого не зазываю, но я бы не стал рекомендовать эту книгу для погружения в профессию. Никогда.

          0
          Если ли в планах публикация четвёртого тома: www.amazon.com/Algorithms-Illuminated-Part-NP-Hard-Problems/dp/0999282964/ref=tmm_pap_swatch_0?_encoding=UTF8&qid=&sr=?

        Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

        Самое читаемое