11 февраля 1991 года Patriot Project Office получил израильские данные о дефекте в ракетной системе Patriot. Они нашли, что если система работает 8 часов, она начинает мазать на 20%. Они прикинули, что после 20 часов работы система начинает промахиваться настолько, что перестанет быть способной захватывать, отслеживать и поражать баллистические ракеты. Американские военные не приняли во внимание всю важность открытия, заявив, что система предназначена для портативных и краткосрочных защитных операций и что никто никогда не будет использовать систему больше 8 часов.
16 февраля был выпущен Bug Fix, но чтобы его внедрить во все единицы боевой техники, требовалось время, ибо война.
21 февраля военные выпускают указание, что система не должна работать «долго». Военные не уточнили сколько длится «долго».
25 февраля в Дахране (Саудовская Аравия) в казарму в гости к американцам прилетела баллистичекая ракета "керосинка" (она же Р-17, она же Scud). 28 убито 96 ранено, потому что ЗРК «Патриот» промахнулся из-за программной ошибки.
26 февраля Bug Fix был доставлен в Дахран.
![](https://habrastorage.org/r/w780q1/files/853/04a/1dc/85304a1dc1b6499d94d5394436e42faf.jpg)
![](https://habrastorage.org/r/w780q1/files/d5b/a87/27d/d5ba8727d878468aaf50e892ed08a83d.jpg)
Р-17 (по классификации МО США и НАТО — SS-1c Scud B, экспортное обозначение R-300, неофициально — «керосинка») — советская жидкостная одноступенчатая баллистическая ракета на долгохранимых компонентах топлива.
MIM-104 «Патриот» (англ. MIM-104 Patriot, перевод с английского — Патриот) — американский зенитный ракетный комплекс (ЗРК), используемый армией США и их союзниками.
В программном обеспечении, отвечающем за ведение цели, присутствовал баг, из-за которого со временем внутренние часы постепенно отходили от истинного значения времени.
Системное время хранилось как integer в 24-битном регистре с точностью до одной десятой секунды. Поэтому на каждом такте по 0.1 сек «терялась» часть времени. При рассчете данные переводились в real numbers.
[источник]
Число 1/10 равно 1/24+1/25+1/28+1/29+1/212+1/213+… Другими словами, бинарное разложение 1/10 = 0.0001100110011001100110011001100… Поэтому 24 bit регистр в системе Patriot хранил вместо этого 0.00011001100110011001100 внося ошибку равную 0.0000000000000000000000011001100… в двоичном исчислении, или примерно 0.000000095 в десятичном. За сто часов работы набегает 0.000000095×100×60×60×10=0.34 секунды
«Керосинка» летит со скоростью 1676 метров в секунду, и проходит за 0.34 секунды больше полукилометра. Этого больше чем достаточно, чтоб прошмыгнуть радиус поражения Патриотов. Забавно, что кривое вычисление времени пофиксили в некоторых частях программы, но не во всех.
Софт был написан на ассемблере 15-20 лет назад и с тех пор несколько раз модифицировался различными командами программистов.
Несколько слайдов из отчета, где выявляется проблемы с системой Patriot:
![](https://habrastorage.org/r/w780q1/files/03c/743/f44/03c743f44fd4460180b1c33e986b8804.jpg)
![](https://habrastorage.org/r/w780q1/files/ba1/159/66a/ba115966a97f4a36a1078b92c5825307.jpg)
![](https://habrastorage.org/r/w780q1/files/1f8/18e/30d/1f818e30d47e4ef1aa80bb5384d42b0c.jpg)
Статья от PVS: Почему все-таки мы получаем разный результат в 32-битном и 64-битном коде?
Статья от хабраавтора (229 комментов): Фатальные ошибки двоичной арифметики при работе с числами с плавающей точкой.
Мы хотим привлечь внимание людей к проблемам надежности программного обеспечения. Программы — это давно не только странные непонятные расчёты ученых на Fortran или компьютерные игры. Это то, что давно и повсеместно нас окружает.
Раньше серьезные баги наносили вред в узких специфичных областях — ракетостроение мирное (Ariane 5) и военное (Patriot). Сейчас же с ошибкой в программе вы можете столкнуться не только сидя за компьютером, но и сидя в автомобиле (Toyota) или посещая больницу (Therac-25). Мы одни из тех, кто сражается на стороне программистов против багов. Нами разработан статический анализатор кода PVS-Studio, позволяющий выявлять ещё на этапе кодирования многие ошибки в программах на языке С, С++ и С#. И пользуясь случаем, хочу напомнить, что с 25 октября 2016 года будет доступна не только Windows, но и Linux версия этого анализатора.
16 февраля был выпущен Bug Fix, но чтобы его внедрить во все единицы боевой техники, требовалось время, ибо война.
21 февраля военные выпускают указание, что система не должна работать «долго». Военные не уточнили сколько длится «долго».
25 февраля в Дахране (Саудовская Аравия) в казарму в гости к американцам прилетела баллистичекая ракета "керосинка" (она же Р-17, она же Scud). 28 убито 96 ранено, потому что ЗРК «Патриот» промахнулся из-за программной ошибки.
26 февраля Bug Fix был доставлен в Дахран.
![](https://habrastorage.org/files/853/04a/1dc/85304a1dc1b6499d94d5394436e42faf.jpg)
![](https://habrastorage.org/files/d5b/a87/27d/d5ba8727d878468aaf50e892ed08a83d.jpg)
Р-17 (по классификации МО США и НАТО — SS-1c Scud B, экспортное обозначение R-300, неофициально — «керосинка») — советская жидкостная одноступенчатая баллистическая ракета на долгохранимых компонентах топлива.
фотки Р-17![](https://habrastorage.org/r/w780q1/getpro/habr/post_images/9f1/bc7/70c/9f1bc770c1918e4cb1294bb47356a2da.jpg)
![](https://habrastorage.org/r/w780q1/getpro/habr/post_images/ada/0a4/b26/ada0a4b266fbb962eefe6e6c2cdea032.jpg)
Военные осматривают ракету типа Р-17 сбитую в пустыне ЗРК MIM-104 «Патриот» во время операции Desert Storm
![](https://habrastorage.org/getpro/habr/post_images/9f1/bc7/70c/9f1bc770c1918e4cb1294bb47356a2da.jpg)
![](https://habrastorage.org/getpro/habr/post_images/ada/0a4/b26/ada0a4b266fbb962eefe6e6c2cdea032.jpg)
Военные осматривают ракету типа Р-17 сбитую в пустыне ЗРК MIM-104 «Патриот» во время операции Desert Storm
MIM-104 «Патриот» (англ. MIM-104 Patriot, перевод с английского — Патриот) — американский зенитный ракетный комплекс (ЗРК), используемый армией США и их союзниками.
фотки Patriot![](https://habrastorage.org/getpro/habr/post_images/4ee/01e/745/4ee01e74545fdd8e8c13cd21ff700c20.gif)
![](https://habrastorage.org/r/w780q1/getpro/habr/post_images/f07/dde/4fb/f07dde4fbdb36898e08ba71f57386341.jpg)
![](https://habrastorage.org/r/w780q1/getpro/habr/post_images/8e4/f7d/90e/8e4f7d90e801fd9e4d623ea34fe2e4c7.jpg)
A detailed view of an AN/MPQ-53 radar set. The circular pattern on the front of the vertical component is the system's main phased array, consisting of over 5,000 individual elements, each about 39 millimeters (1.535 in) diameter.
![](https://habrastorage.org/r/w780q1/getpro/habr/post_images/48f/aa2/c90/48faa2c905b0f4abc8f11c71c86186f5.jpg)
PAC-3 missile launcher, note four missiles in each canister
![](https://habrastorage.org/getpro/habr/post_images/4ee/01e/745/4ee01e74545fdd8e8c13cd21ff700c20.gif)
![](https://habrastorage.org/getpro/habr/post_images/f07/dde/4fb/f07dde4fbdb36898e08ba71f57386341.jpg)
![](https://habrastorage.org/getpro/habr/post_images/8e4/f7d/90e/8e4f7d90e801fd9e4d623ea34fe2e4c7.jpg)
A detailed view of an AN/MPQ-53 radar set. The circular pattern on the front of the vertical component is the system's main phased array, consisting of over 5,000 individual elements, each about 39 millimeters (1.535 in) diameter.
![](https://habrastorage.org/getpro/habr/post_images/48f/aa2/c90/48faa2c905b0f4abc8f11c71c86186f5.jpg)
PAC-3 missile launcher, note four missiles in each canister
В программном обеспечении, отвечающем за ведение цели, присутствовал баг, из-за которого со временем внутренние часы постепенно отходили от истинного значения времени.
Системное время хранилось как integer в 24-битном регистре с точностью до одной десятой секунды. Поэтому на каждом такте по 0.1 сек «терялась» часть времени. При рассчете данные переводились в real numbers.
[источник]
Число 1/10 равно 1/24+1/25+1/28+1/29+1/212+1/213+… Другими словами, бинарное разложение 1/10 = 0.0001100110011001100110011001100… Поэтому 24 bit регистр в системе Patriot хранил вместо этого 0.00011001100110011001100 внося ошибку равную 0.0000000000000000000000011001100… в двоичном исчислении, или примерно 0.000000095 в десятичном. За сто часов работы набегает 0.000000095×100×60×60×10=0.34 секунды
«Керосинка» летит со скоростью 1676 метров в секунду, и проходит за 0.34 секунды больше полукилометра. Этого больше чем достаточно, чтоб прошмыгнуть радиус поражения Патриотов. Забавно, что кривое вычисление времени пофиксили в некоторых частях программы, но не во всех.
Софт был написан на ассемблере 15-20 лет назад и с тех пор несколько раз модифицировался различными командами программистов.
Несколько слайдов из отчета, где выявляется проблемы с системой Patriot:
![](https://habrastorage.org/files/03c/743/f44/03c743f44fd4460180b1c33e986b8804.jpg)
![](https://habrastorage.org/files/ba1/159/66a/ba115966a97f4a36a1078b92c5825307.jpg)
![](https://habrastorage.org/files/1f8/18e/30d/1f818e30d47e4ef1aa80bb5384d42b0c.jpg)
Золотые правила
- Правильно подбирайте размер. Всегда тщательно перепроверяйте, сколько бит вам требуется для хранения каждой переменной выбрать (long, int, double, float, и пр) в конкретном языке и конкретной операционной системе.
- Используйте целые числа вместо float где только возможно. Храните деньги в центах, а не долларах (а лучше в сатоси). Если все же необходимо использовать float, используйте двойную точность.
- Никогда не используйте float в качестве счетчика цикла.
- Избегайте смешанных типов (signed, unsigned; integer, floating point; single precision, double precision). Тщательно производите конвертацию.
- Проверяйте возможные ситуации переполнения. Проверяйте деление на ноль.
Статья от PVS: Почему все-таки мы получаем разный результат в 32-битном и 64-битном коде?
Статья от хабраавтора (229 комментов): Фатальные ошибки двоичной арифметики при работе с числами с плавающей точкой.
Читать еще про Patriot
- Обсуждение бага на hackernews
- New York Times: AFTER THE WAR; Army Is Blaming Patriot's Computer For Failure to Stop the Dhahran Scud
- Lethal Software Defects: Patriot Missile Failure
- Software Bug Report: Patriot Missile Software Problem
Заключение
Мы хотим привлечь внимание людей к проблемам надежности программного обеспечения. Программы — это давно не только странные непонятные расчёты ученых на Fortran или компьютерные игры. Это то, что давно и повсеместно нас окружает.
Раньше серьезные баги наносили вред в узких специфичных областях — ракетостроение мирное (Ariane 5) и военное (Patriot). Сейчас же с ошибкой в программе вы можете столкнуться не только сидя за компьютером, но и сидя в автомобиле (Toyota) или посещая больницу (Therac-25). Мы одни из тех, кто сражается на стороне программистов против багов. Нами разработан статический анализатор кода PVS-Studio, позволяющий выявлять ещё на этапе кодирования многие ошибки в программах на языке С, С++ и С#. И пользуясь случаем, хочу напомнить, что с 25 октября 2016 года будет доступна не только Windows, но и Linux версия этого анализатора.