Должен признаться: я читаю
ACM Magazine. Это делает меня «ботаником» даже по меркам программистов. Среди прочего, я узнал из этого журнала о «метаморфическом тестировании». Раньше я никогда о нём не слышал, как и все люди, которых я спрашивал. Но научная литература по этой теме на удивление объёмна: есть множество невероятно успешных примеров её применения в совершенно разных областях исследований. Так почему же мы не слышали о нём раньше? Существует только
одна статья для людей вне научных кругов. Пусть теперь их будет две.
Краткая предыстория
В большинстве письменных тестов используются
оракулы. То есть вы знаете ответ и явным образом проверяете, дают ли вычисления правильный ответ.
def test_dist():
p1 = (0, 3)
p2 = (4, 0)
assert dist(p1, p2) == 5
Кроме тестов-оракулов, есть и ручные тесты. Тестер садится за компьютер и сравнивает вводимые данные с результатами. В процессе усложнения систем ручные тесты становятся всё менее полезными. Каждый из них проверяет только одну точку в гораздо большем пространстве состояний, а нам нужно нечто, исследующее всё пространство состояний.
Это приводит нас к
генеративному тестированию (generative testing): написанию тестов, покрывающих случайное множество в пространстве состояний. Самым популярным стилем генеративного тестирования является
property based testing, или PBT. Мы находим «свойство» (property) функции, а затем генерируем входные значения и проверяем, соответствуют ли выходные значения этому свойству.
def test_dist():
p1 = random_point()
p2 = random_point()
assert dist(p1, p2) >= 0
Преимущество PBT заключается в покрытии большего пространства. Его недостаток — утеря специфичности. Это уже
не оракул-тест! Мы не знаем, каким должен быть ответ, и функция может быть ошибочна, но таким образом, что обладает тем же свойством. Здесь мы полагаемся на эвристики.
