Занимаясь прогнозированием временных рядов, часто сталкиваюсь с идеей: «Вот бы реализовать такую модель прогнозирования, которая бы все-все учитывала и давала самый точный на свете прогноз». Утопия ли это? В ответе на этот вопрос окунулась в историю одного из самых сложных вопросов прогнозирования — прогнозирование погоды.
![Прогноз погоды](https://habrastorage.org/r/w780q1/getpro/habr/post_images/af0/83d/e14/af083de14ff157dacfcb78fe1faec004.jpg)
Весьма вероятно, что прогноз погоды стал первым прогнозом, который заинтересовал людей еще в глубокой древности, когда стремились угадать благоприятные условия для посева и взращивания сельскохозяйственных структур. Из таких бытовых наблюдений за погодой выросли многочисленные народные приметы. Одна Википедия предлагает нам десятки примет о погоде. В частности указано, что примета есть «сохраняющиеся в народе и передаваемые из поколения в поколение сведения о различных признаках, указывающих на предстоящие явления погоды». То есть народ за погодой наблюдал, какие-то свои наблюдения складывал в простейшие закономерности, на которых самый простой прогноз и строил.
Еще в средние века в период развития мореплаваний и географических открытий не только навигация, но и прогноз погоды интересовал моряков. Одна из первых организаций, которая должна была заниматься прогнозированием погоды, был Метеорологический департамент, учрежденный в 1854 году Торговым советом Английского королевского общества с целью оценки состояний морских путей. Его возглавил знаменитый офицер Великобританского флота, генерал-губернатор Новой Зеландии Роберт Фицрой. Он стал одним из первых метеорологов и знаменит тем, что первый стал предоставлять прогнозы широкой публике. Первый в истории прогноз погоды был опубликован 1 августа 1860 года в «Times», его автором являлся Роберт Фицрой. Дата публикации в английской версии указана 1860, в русской — 1861. Однако скоро, 30 апреля 1865 года по причине финансовых обязательств Фицрой перерезал свое горло бритвой. Одной из версий его самоубийства, впрочем маловероятной, считают неточность его собственного прогнозирования погоды.
На том этапе моделирование погоды оставалось за чертой возможного, однако проводилась комплексная работа по организации сбора сведений о текущем состоянии атмосферы. В частности, были организованы 24 метеостанции по всей Европе, которые обменивались данными при помощи телеграфа Морзе. Кроме того, прогнозисты погоды научились делать погодные карты, на которых точки с одинаковым значением давлений соединялись линией. Таким образом, были сформированы первые «шаблоны» циклонов и антициклонов.
![Погодная карта](https://habrastorage.org/r/w780q1/getpro/habr/post_images/4e0/ec4/ae4/4e0ec4ae4498e84c89ecfcc6d8b16e21.jpg)
В XIX веке состоялось бурное развитие термодинамики и гидродинамики. Как следствие, прогнозирование погоды также перешло на новый математический уровень понимания проблемы.
Пионером в этой области стал американский метеоролог Кливленд Эббе (Cleveland Abbe), первые работы которого в области метеорологии относятся к 1873 году. В своей основной работе «The physical basis of long-range weather forecasting», опубликованной в 1901 (*) году, он впервые привлек математику для решения задачи прогнозирования погоды: «Метеорология является приложением к атмосфере законов гидродинамики и термодинамики». Моделей для прогнозирования еще не было, но первый шаг в этом направлении был сделан. Эббе призывал своих коллег: «Посмотрите на задачу прогнозирования серьезно и разрабатывайте графические, аналитические и численные методы ее решения».
* Даты публикаций и другие детали взяты из статьи Питера Линча (Peter Lynch) «The origins of computer weather prediction and climate modeling», научно-популярный перевод на русский язык «История развития моделей прогнозирования погоды». Детали во многих случаях расходятся со сведениями Википедии.
Сразу после, а именно в 1904 году была опубликована работа норвежского метеоролога Вильгельма Бьеркнеса (http://en.wikipedia.org/wiki/Vilhelm_Bjerknes) «The problem of weather forecasting as a problem in mechanics and physics». В своей работе норвежец пошел дальше своего предшественника и сделал точную постановку задачи прогнозирования погоды, разделив ее на два шага.
Беркенс был первым, кто выделил 7 основных переменных, описывающих состояние атмосферы: давление, температура, плотность, влажность и три компонента скорости воздушных потоков. Он же разработал и первую систему уравнений, решение которой дает прогноз погоды. Система включала одно уравнение для каждой зависимой переменной, описывающей атмосферу: три гидродинамических уравнения движения, уравнение непрерывности, уравнение состояния, уравнения, выражающие первый и второй закон термодинамики.
Действительным новатором и вдохновителем всех последующих поколений метеорологов стал Льюис Фрай Ричардсон, который первый применил численные методы для интегрирования системы уравнений Беркенса. Он подробно описал свой опыт метеорологических исследований в работе «Weather Prediction by Numerical Process», опубликованной в 1922 году.
Парадоксально, но и главной заслугой, и главной ошибкой Ричардсона стал один единственный численный расчет прогноза изменения давления в конкретной точке Европы, который он привел в своей книге. С одной стороны данный пример стал первым математическим примером расчета прогноза погоды. С другой — этот пример расчета имел совершенно абсурдный результат. По расчетам ученого изменение давления через 6 часов должно было составлять 14.5 кПа, что является абсурдной величиной.
Расчет его был верен, ошибка состояла в некорректности начальных условий. Последовавший через годы пересчет начальных условий показал, что предложенный Ричардсоном алгоритм является корректным.
Этот знаменитый пример привлек на его сторону амбициозных математиков, и он же оттолкнул от его работ всех сомневающихся. Понадобились десятилетия, прежде чем произошла первая комплексная реализация математической модели Ричардсона.
Наиболее часто цитируемым абзацем его работы является описание «Фабрики прогнозов» (Richardson’s Forecast factory).
![Фабрика прогнозов Ричардсона](https://habrastorage.org/r/w780q1/getpro/habr/post_images/694/6e5/789/6946e578952b8e2ece0f140a879e669e.jpg)
После достижений науки в области численных методов, изобретений первых электронных вычислителей (компьютеров), а также изобретения радиозонда к идеям Ричардсона вернулись. Вернулся к ним знаменитый математик Джон фон Нейман вместе с Джулом Чарни в рамках проекта Electronic Computer Project на базе Принстонского университета в 1946 году.
В рамках проекта одной из решаемых задач стала задача прогнозирования погоды, которой руководил Джул Чарни. В результате работ, выполненных по заказу ВМФ США был разработан Electronic Numerical Integrator and Computer (ENIAC). На этой-то машине и осуществился первый математический прогноз погоды в 1950 году.
В рамках реализации модели Ричардсона возникли, конечно, сложности и дополнительные ограничения, однако группа специалистов под руководством Чарни сумела преодолеть математические сложности и добиться от новой системы адекватных результатов. Результаты работ Чарни публиковались с 1947 по 1955 год и стали основой для дальнейшего развития математического моделирования состояния атмосферы.
Вслед за успехами принстонской группы немецкие метеорологи включились в научные исследования. В частности 1951 году Карл-Хайнс Хинкельманн опубликовал работу «Ein numerisches Experiment mit den primitiven Gleichungen», в которой подробно разбирал те ограничения, которые обнаружил Чарни, и нашел эффективное решение при помощи интеграции, так называемых, примитивных уравнений. Успешное внедрение результатов его работы было осуществлено на базе Метеорологической службы Германии в 1966 году.
Далее, в 1956 году вышла работа Филлипса, посвященная глобальным циркуляционным моделям атмосферы. В этих моделях вся поверхность земли делилась на прямоугольники (горизонтальная сетка) и имела вертикальный размер, чаще всего задаваемый абсолютным или относительным давлением. Все расчеты в этой модели базировались на модели Ричардсона.
![Модель атмосферы](https://habrastorage.org/r/w780q1/getpro/habr/post_images/7f0/0e9/b81/7f00e9b81f4e743b32aeb5c0faf5d580.jpg)
Разработанные Филлипсом циркуляционные модели стали громадным этапом в развитии метеорологии. С тех пор такого рода модели многократно усложнились и увеличились. На сегодняшний день они являются основой для формирования как краткосрочного, так и долгосрочного прогноза погоды.
Сегодня лидером в области разработки и усовершенствования моделей прогнозирования погоды является European Centre for medium-range weather forecasts (ECMWF).
ECMWF использует самую современную циркуляционную модель со сложнейшим толкованием физических процессов. Разрешение модели 25 на 25 км, она имеет 91 уровень по вертикали. Начальные условия для расчета готовит четырех размерная схема ассимиляция, использующая данные со спутников. Все данные приведены на 2007 год.
ECMWF делает следующие прогнозы: прогноз погоды на 10 дней вперед, прогноз на месяц вперед, сезонный прогноз более 6 месяцев вперед. Аппаратная часть ECMWF предоставлена компанией IBM и называется High Performance Computing Facility (HPCF). HPCF включает два одинаковых кластера p690+. Каждый кластер состоит из 68 серверов, каждый из которых имеет 32 CPU с частотой 1.9 GHz. Пиковая производительность составляет 16.5 терафлопс на каждый кластер.
«Фабрика прогнозов» Ричардсона по оценке автора смогла бы соревноваться по скорости с атмосферой при занятости в ней 64 000 человек, то есть за 24 часа делать прогноз на 24 часа вперед. Сегодняшняя система прогнозирования ECMWF примерно в 10 млрд. раз производительней Фабрики прогнозов Ричардсона.
Прогноз погоды людей интересовал веками, лишь 150 лет назад к этой задаче подошли комплексно. Только 110 лет назад эта задача впервые получила математическое описание. За прошедший век развитие систем прогнозирования и моделирования атмосферы стало революционным. Однако эта революция потребовала громадных усилий самых талантливых математиков XX века, а также неисчерпаемых инвестиций в аппаратно-программное обеспечение.
На графике ниже видно, как с годами совершенствовалось качество прогноза погоды: он из года в год, от модели к модели становится точнее. К сегодняшнему дню проделана такая громадная работа в области моделирования атмосферы, что дух захватывает. И эта работа ежедневно продолжается.
![Модель атмосферы](https://habrastorage.org/r/w780q1/getpro/habr/post_images/a5f/30f/7a2/a5f30f7a2fa3087a83f4759247ec6ed0.jpg)
То, что моделируется нынче повсеместно, а именно экономические системы, — системы гораздо более простые, чем атмосфера, ибо, как говорил мой начальник, «первое создано человеком, в то время как второй создано богом». Однако и эти системы уже выросли и усложнились настолько, что подобрать к ним ключ в кратчайшие сроки невозможно.
Можно ли построить систему, в которой бы все можно было учесть и прогнозировать очень точно? Опыт разработки математических моделей атмосферы показывает, что можно. И только постоянная научно-исследовательская работа, сопряженная с постоянной практикой, на протяжении десятилетий способна повышать качество прогноза за счет применения все усовершенствованных моделей.
К сожалению, мой опыт общения на эту тему показывает, что прогноз нужен очень точный, сейчас же, без промедления, а инвестиции как временные, так и финансовые в область развития моделей прогнозирования многие считают бесполезной тратой денег.
![Прогноз погоды](https://habrastorage.org/getpro/habr/post_images/af0/83d/e14/af083de14ff157dacfcb78fe1faec004.jpg)
Первые прогнозы
Весьма вероятно, что прогноз погоды стал первым прогнозом, который заинтересовал людей еще в глубокой древности, когда стремились угадать благоприятные условия для посева и взращивания сельскохозяйственных структур. Из таких бытовых наблюдений за погодой выросли многочисленные народные приметы. Одна Википедия предлагает нам десятки примет о погоде. В частности указано, что примета есть «сохраняющиеся в народе и передаваемые из поколения в поколение сведения о различных признаках, указывающих на предстоящие явления погоды». То есть народ за погодой наблюдал, какие-то свои наблюдения складывал в простейшие закономерности, на которых самый простой прогноз и строил.
Прогнозы мореплавателей
Еще в средние века в период развития мореплаваний и географических открытий не только навигация, но и прогноз погоды интересовал моряков. Одна из первых организаций, которая должна была заниматься прогнозированием погоды, был Метеорологический департамент, учрежденный в 1854 году Торговым советом Английского королевского общества с целью оценки состояний морских путей. Его возглавил знаменитый офицер Великобританского флота, генерал-губернатор Новой Зеландии Роберт Фицрой. Он стал одним из первых метеорологов и знаменит тем, что первый стал предоставлять прогнозы широкой публике. Первый в истории прогноз погоды был опубликован 1 августа 1860 года в «Times», его автором являлся Роберт Фицрой. Дата публикации в английской версии указана 1860, в русской — 1861. Однако скоро, 30 апреля 1865 года по причине финансовых обязательств Фицрой перерезал свое горло бритвой. Одной из версий его самоубийства, впрочем маловероятной, считают неточность его собственного прогнозирования погоды.
На том этапе моделирование погоды оставалось за чертой возможного, однако проводилась комплексная работа по организации сбора сведений о текущем состоянии атмосферы. В частности, были организованы 24 метеостанции по всей Европе, которые обменивались данными при помощи телеграфа Морзе. Кроме того, прогнозисты погоды научились делать погодные карты, на которых точки с одинаковым значением давлений соединялись линией. Таким образом, были сформированы первые «шаблоны» циклонов и антициклонов.
![Погодная карта](https://habrastorage.org/getpro/habr/post_images/4e0/ec4/ae4/4e0ec4ae4498e84c89ecfcc6d8b16e21.jpg)
Первые математические подходы к прогнозированию погоды
В XIX веке состоялось бурное развитие термодинамики и гидродинамики. Как следствие, прогнозирование погоды также перешло на новый математический уровень понимания проблемы.
Пионером в этой области стал американский метеоролог Кливленд Эббе (Cleveland Abbe), первые работы которого в области метеорологии относятся к 1873 году. В своей основной работе «The physical basis of long-range weather forecasting», опубликованной в 1901 (*) году, он впервые привлек математику для решения задачи прогнозирования погоды: «Метеорология является приложением к атмосфере законов гидродинамики и термодинамики». Моделей для прогнозирования еще не было, но первый шаг в этом направлении был сделан. Эббе призывал своих коллег: «Посмотрите на задачу прогнозирования серьезно и разрабатывайте графические, аналитические и численные методы ее решения».
* Даты публикаций и другие детали взяты из статьи Питера Линча (Peter Lynch) «The origins of computer weather prediction and climate modeling», научно-популярный перевод на русский язык «История развития моделей прогнозирования погоды». Детали во многих случаях расходятся со сведениями Википедии.
Сразу после, а именно в 1904 году была опубликована работа норвежского метеоролога Вильгельма Бьеркнеса (http://en.wikipedia.org/wiki/Vilhelm_Bjerknes) «The problem of weather forecasting as a problem in mechanics and physics». В своей работе норвежец пошел дальше своего предшественника и сделал точную постановку задачи прогнозирования погоды, разделив ее на два шага.
- Шаг диагностирования текущего состояния погоды.
- Шаг прогнозирования погоды на интервал времени вперед.
Беркенс был первым, кто выделил 7 основных переменных, описывающих состояние атмосферы: давление, температура, плотность, влажность и три компонента скорости воздушных потоков. Он же разработал и первую систему уравнений, решение которой дает прогноз погоды. Система включала одно уравнение для каждой зависимой переменной, описывающей атмосферу: три гидродинамических уравнения движения, уравнение непрерывности, уравнение состояния, уравнения, выражающие первый и второй закон термодинамики.
Идея Ричардсона о прогнозе погоды
Действительным новатором и вдохновителем всех последующих поколений метеорологов стал Льюис Фрай Ричардсон, который первый применил численные методы для интегрирования системы уравнений Беркенса. Он подробно описал свой опыт метеорологических исследований в работе «Weather Prediction by Numerical Process», опубликованной в 1922 году.
Парадоксально, но и главной заслугой, и главной ошибкой Ричардсона стал один единственный численный расчет прогноза изменения давления в конкретной точке Европы, который он привел в своей книге. С одной стороны данный пример стал первым математическим примером расчета прогноза погоды. С другой — этот пример расчета имел совершенно абсурдный результат. По расчетам ученого изменение давления через 6 часов должно было составлять 14.5 кПа, что является абсурдной величиной.
Расчет его был верен, ошибка состояла в некорректности начальных условий. Последовавший через годы пересчет начальных условий показал, что предложенный Ричардсоном алгоритм является корректным.
Этот знаменитый пример привлек на его сторону амбициозных математиков, и он же оттолкнул от его работ всех сомневающихся. Понадобились десятилетия, прежде чем произошла первая комплексная реализация математической модели Ричардсона.
Наиболее часто цитируемым абзацем его работы является описание «Фабрики прогнозов» (Richardson’s Forecast factory).
Представьте большой зал, похожий на зрительный зал театра, однако ложи бенуара и амфитеатр идут точно по кругу и занимают то место, где обычно расположена сцена. Стены этого зала расписаны таким образом, чтобы представлять поверхность земли. Потолок представляет Северный полюс, Великобритания на галерке, тропики в бельэтаже, Австралия в районе нижнего гардероба, а Антарктика на полу. Над расчетом погоды на каждой точкой земли трудятся мириады вычислителей («computer» в те годы означал человек-расчетчик), однако каждый вычислитель решает только одно уравнение или даже часть уравнения. Работа целого региона координируется официальным лицом высокого ранга. Многочисленные индикаторы (night signs) непрерывно отражают результаты вычислений таким образом, чтобы соседние компьютеры могли использовать их. Так последовательно выполняется полный расчет от севера к югу. На полу стоит громадная колонна, по вышине в половину всего зала, на ее вершине расположена кафедра. На этой кафедре восседает человек, который руководит всем театром, он окружен многочисленными помощниками и посланниками. Главная его обязанность состоит в том, чтобы поддержать скорость расчетов постоянной. Он очень похож на дирижера, однако вместо музыкантов он руководит многочисленными вычислительными машинами. И место палочки дирижера у него в руках лучевой указатель: он светит розовым на то, что должно быть посчитано прямо сейчас, и голубым на то, что будет посчитано сразу после.
![Фабрика прогнозов Ричардсона](https://habrastorage.org/getpro/habr/post_images/694/6e5/789/6946e578952b8e2ece0f140a879e669e.jpg)
Развитие моделей прогнозирования в середине XX века
После достижений науки в области численных методов, изобретений первых электронных вычислителей (компьютеров), а также изобретения радиозонда к идеям Ричардсона вернулись. Вернулся к ним знаменитый математик Джон фон Нейман вместе с Джулом Чарни в рамках проекта Electronic Computer Project на базе Принстонского университета в 1946 году.
В рамках проекта одной из решаемых задач стала задача прогнозирования погоды, которой руководил Джул Чарни. В результате работ, выполненных по заказу ВМФ США был разработан Electronic Numerical Integrator and Computer (ENIAC). На этой-то машине и осуществился первый математический прогноз погоды в 1950 году.
В рамках реализации модели Ричардсона возникли, конечно, сложности и дополнительные ограничения, однако группа специалистов под руководством Чарни сумела преодолеть математические сложности и добиться от новой системы адекватных результатов. Результаты работ Чарни публиковались с 1947 по 1955 год и стали основой для дальнейшего развития математического моделирования состояния атмосферы.
Вслед за успехами принстонской группы немецкие метеорологи включились в научные исследования. В частности 1951 году Карл-Хайнс Хинкельманн опубликовал работу «Ein numerisches Experiment mit den primitiven Gleichungen», в которой подробно разбирал те ограничения, которые обнаружил Чарни, и нашел эффективное решение при помощи интеграции, так называемых, примитивных уравнений. Успешное внедрение результатов его работы было осуществлено на базе Метеорологической службы Германии в 1966 году.
Далее, в 1956 году вышла работа Филлипса, посвященная глобальным циркуляционным моделям атмосферы. В этих моделях вся поверхность земли делилась на прямоугольники (горизонтальная сетка) и имела вертикальный размер, чаще всего задаваемый абсолютным или относительным давлением. Все расчеты в этой модели базировались на модели Ричардсона.
![Модель атмосферы](https://habrastorage.org/getpro/habr/post_images/7f0/0e9/b81/7f00e9b81f4e743b32aeb5c0faf5d580.jpg)
Разработанные Филлипсом циркуляционные модели стали громадным этапом в развитии метеорологии. С тех пор такого рода модели многократно усложнились и увеличились. На сегодняшний день они являются основой для формирования как краткосрочного, так и долгосрочного прогноза погоды.
Современные системы прогнозирования погоды
Сегодня лидером в области разработки и усовершенствования моделей прогнозирования погоды является European Centre for medium-range weather forecasts (ECMWF).
ECMWF использует самую современную циркуляционную модель со сложнейшим толкованием физических процессов. Разрешение модели 25 на 25 км, она имеет 91 уровень по вертикали. Начальные условия для расчета готовит четырех размерная схема ассимиляция, использующая данные со спутников. Все данные приведены на 2007 год.
ECMWF делает следующие прогнозы: прогноз погоды на 10 дней вперед, прогноз на месяц вперед, сезонный прогноз более 6 месяцев вперед. Аппаратная часть ECMWF предоставлена компанией IBM и называется High Performance Computing Facility (HPCF). HPCF включает два одинаковых кластера p690+. Каждый кластер состоит из 68 серверов, каждый из которых имеет 32 CPU с частотой 1.9 GHz. Пиковая производительность составляет 16.5 терафлопс на каждый кластер.
«Фабрика прогнозов» Ричардсона по оценке автора смогла бы соревноваться по скорости с атмосферой при занятости в ней 64 000 человек, то есть за 24 часа делать прогноз на 24 часа вперед. Сегодняшняя система прогнозирования ECMWF примерно в 10 млрд. раз производительней Фабрики прогнозов Ричардсона.
Заключение
Прогноз погоды людей интересовал веками, лишь 150 лет назад к этой задаче подошли комплексно. Только 110 лет назад эта задача впервые получила математическое описание. За прошедший век развитие систем прогнозирования и моделирования атмосферы стало революционным. Однако эта революция потребовала громадных усилий самых талантливых математиков XX века, а также неисчерпаемых инвестиций в аппаратно-программное обеспечение.
На графике ниже видно, как с годами совершенствовалось качество прогноза погоды: он из года в год, от модели к модели становится точнее. К сегодняшнему дню проделана такая громадная работа в области моделирования атмосферы, что дух захватывает. И эта работа ежедневно продолжается.
![Модель атмосферы](https://habrastorage.org/getpro/habr/post_images/a5f/30f/7a2/a5f30f7a2fa3087a83f4759247ec6ed0.jpg)
То, что моделируется нынче повсеместно, а именно экономические системы, — системы гораздо более простые, чем атмосфера, ибо, как говорил мой начальник, «первое создано человеком, в то время как второй создано богом». Однако и эти системы уже выросли и усложнились настолько, что подобрать к ним ключ в кратчайшие сроки невозможно.
Можно ли построить систему, в которой бы все можно было учесть и прогнозировать очень точно? Опыт разработки математических моделей атмосферы показывает, что можно. И только постоянная научно-исследовательская работа, сопряженная с постоянной практикой, на протяжении десятилетий способна повышать качество прогноза за счет применения все усовершенствованных моделей.
К сожалению, мой опыт общения на эту тему показывает, что прогноз нужен очень точный, сейчас же, без промедления, а инвестиции как временные, так и финансовые в область развития моделей прогнозирования многие считают бесполезной тратой денег.