Об одной задаче Data Science

    Привет, хабр!



    Как и обещал, продолжаю публикацию статей, в которой описываю свой опыт после прохождения обучения по Data Science от ребят из MLClass.ru (кстати, кто еще не успел — рекомендую зарегистрироваться). В этот раз мы на примере задачи Digit Recognizer изучим влияние размера обучающей выборки на качество алгоритма машинного обучения. Это один из самых первых и основных вопросов, которые возникают при построении предиктивной модели

    Вступление


    В процессе работы над анализом данных встречаются ситуации, когда размер выборки доступной для исследования является препятствием. С таким примером я встретился при участии в соревновании Digit Recognizer проводимого на сайте Kaggle. В качестве объекта соревнования выбрана база изображений вручную написанных цифр — The MNIST database of handwritten digits. Изображения были отцентрованы и приведены к одинаковому размеру. В качестве обучающей выборки предлагается выборка состоящая из 42000 таких цифр. Каждая цифра разложена в строку из 784 признаков, значение в каждом является его яркостью.

    Для начала, загрузим полную тренировочную выборку в R

    library(readr)
    require(magrittr)
    require(dplyr)
    require(caret)
    data_train <- read_csv("train.csv")
    

    Теперь, для получения представления о предоставленных данных, изобразим цифры в привычном для человеческого глаза виде.

    colors<-c('white','black')
    cus_col<-colorRampPalette(colors=colors)
    
    default_par <- par()
    par(mfrow=c(6,6),pty='s',mar=c(1,1,1,1),xaxt='n',yaxt='n')
    
    for(i in 1:36)
    {
            z<-array(as.matrix(data_train)[i,-1],dim=c(28,28))
            z<-z[,28:1] 
            image(1:28,1:28,z,main=data_train[i,1],col=cus_col(256))
    }
    
    par(default_par)
    




    Дальше можно было бы приступить к построению различных моделей, выбору параметров и т.д. Но, давайте посмотрим на данные. 42000 объектов и 784 признака. При попытке построения более комплексных моделей, таких как Random Forest или Support Vector Machine я получил ошибку о нехватке памяти, а обучение даже на небольшой части от полной выборки уже происходит далеко не минуты. Один из вариантов борьбы с этим — это использование существенно более мощной машины для вычисления, либо создание кластеров из нескольких компьтеров. Но в данной работе я решил исследовать, как влияет на качество модели использование для обучение части от всех предоставленных данных.

    Теория обучающей кривой


    В качестве инструмента для исследования я использую Learning Curve или обучающую кривую, которая представляет собой график, состоящий из зависимости средней ошибки модели на данных использованных для обучения и зависимости средней ошибки на тестовых данных. В теории существуют два основных варианта, которые получатся при построении данного графика.



    Первый вариант — когда модель недообучена или имеет высокое смещение (High bias). Основной признак такой ситуации — это высокая средняя ошибка как для тренировочных данных так и для тестовых. В этом случае привлечение дополнительных данных не улучшит качество модели. Второй вариант — когда модель переобучена или имеет большую вариативность (High variance). Визуально можно определить по наличию большого разрыва между тестовой и тренировочной кривыми и низкой тренировочной ошибкой. Тут наоборот больше данных может привести к улучшению тестовой ошибки и, соответственно, к улучшению модели.

    Обработка данных


    Разобъём выборку на тренировочную и тестовую в соотношении 60/40

    data_train$label <- as.factor(data_train$label)
    set.seed(111)
    split <- createDataPartition(data_train$label, p = 0.6, list = FALSE)
    train <- slice(data_train, split)
    test <- slice(data_train, -split)
    

    Если посмотреть на изображения цифр, приведённые выше, то можно увидеть, что, т.к. они отцентрованы, то по краям много пространства, на котором никогда не бывает самой цифры. То есть, в данных эта особенность будет выражена в признаках, которые имеют постоянное значение для всех объектов. Во-первых, такие признаки не несут никакой информации для модели и, во-вторых, для многих моделей, за исключением основанных на деревьях, могут приводить к ошибкам при обучении. Поэтому, можно удалить эти признаки из данных.

    zero_var_col <- nearZeroVar(train, saveMetrics = T)
    sum(zero_var_col$nzv)
    
    ## [1] 532
    
    train_nzv <- train[, !zero_var_col$nzv]
    test_nzv <- test[, !zero_var_col$nzv]
    

    Таких признаков оказалось 532 из 784. Чтобы проверить как повлияло это существенное изменение на качество моделей, проведём обучение простой CART модели (на которую не должно отрицательно влиять наличие постоянных признаков) на данных до изменения и после. В качестве оценки приведено средний процент ошибки на тестовых данных.

    library(rpart)
    model_tree <- rpart(label ~ ., data = train, method="class" )
    predict_data_test <- predict(model_tree, newdata = test, type = "class")
    sum(test$label != predict_data_test)/nrow(test)
    
    ## [1] 0.383507
    
    model_tree_nzv <- rpart(label ~ ., data = train_nzv, method="class" )
    predict_data_test_nzv <- predict(model_tree_nzv, newdata = test_nzv, type = "class")
    sum(test_nzv$label != predict_data_test_nzv)/nrow(test_nzv)
    
    ## [1] 0.3838642
    

    Т.к. изменения затронули сотую часть процента, то можно в дальнейшем использовать данные с удалёнными признаками

    train <- train[, !zero_var_col$nzv]
    test <- test[, !zero_var_col$nzv]
    

    CART


    Построим, наконец, саму обучающую кривую. Была применена простая CART модель без изменения параметров по умолчанию. Для получения статистически значимых результатов, каждая оценка проводилась на каждом значении размера выборки пять раз.

    learn_curve_data <- data.frame(integer(),
                                   double(),
                                   double())
    for (n in 1:5 )
    {
            for (i in seq(1, 2000, by = 200))
            {
                    train_learn <- train[sample(nrow(train), size = i),]
                    test_learn <- test[sample(nrow(test), size = i),]
                    model_tree_learn <- rpart(label ~ ., data = train_learn, method="class" )
                    predict_train_learn <- predict(model_tree_learn, type = "class")
                    error_rate_train_rpart <- sum(train_learn$label != predict_train_learn)/i
                    predict_test_learn <- predict(model_tree_learn, newdata = test_learn, type = "class")
                    error_rate_test_rpart <- sum(test_learn$label != predict_test_learn)/i
                    learn_curve_data <- rbind(learn_curve_data, c(i, error_rate_train_rpart, error_rate_test_rpart))
            }
    }
    


    Усреднение проводилось при помощи модели GAM

    colnames(learn_curve_data) <- c("Size", "Train_Error_Rate", "Test_Error_Rate")
    library(reshape2)
    library(ggplot2)
    learn_curve_data_long <- melt(learn_curve_data, id = "Size")
    ggplot(data=learn_curve_data_long, aes(x=Size, y=value, colour=variable)) + 
            geom_point() + stat_smooth(method = "gam", formula = y ~ s(x), size = 1)
    




    Что же мы видим?

    • Изменение среднего процента ошибки происходит монотонно, начиная с 500 объектов в выборке.
    • Ошибка как для тренировочных, так и для тестовых данных достаточно высока.
    • Разрыв между тестовыми и тренировочными данными мал.
    • Тестовая ошибка не уменьшается.

    Если суммировать — то CART модель явно недообучена, т.е. имеет постоянное высокое смещение. Увеличение выборки для обучения не приведёт к улучшению качества предсказания на тестовых данных. Для того, чтобу улучшить результаты этой модели необходимо улучшать саму модель, например вводом дополнительных значимых признаков.

    Random Forest


    Теперь, проведём оценку Random Forest модели. Опять же модель применялась «как есть», никакие параметры не изменялись. Начальный размер выборки изменён на 100, т.к. модель не может быть построена, если признаков существенно больше, чем объектов.

    library(randomForest)
    learn_curve_data <- data.frame(integer(),
                                   double(),
                                   double())
    for (n in 1:5 )
    {
            for (i in seq(100, 5100, by = 1000))
            {
                    train_learn <- train[sample(nrow(train), size = i),]
                    test_learn <- test[sample(nrow(test), size = i),]
                    model_learn <- randomForest(label ~ ., data = train_learn)
                    predict_train_learn <- predict(model_learn)
                    error_rate_train <- sum(train_learn$label != predict_train_learn)/i
                    predict_test_learn <- predict(model_learn, newdata = test_learn)
                    error_rate_test <- sum(test_learn$label != predict_test_learn)/i
                    learn_curve_data <- rbind(learn_curve_data, c(i, error_rate_train, error_rate_test))
            }
    }
    
    colnames(learn_curve_data) <- c("Size", "Train_Error_Rate", "Test_Error_Rate")
    learn_curve_data_long <- melt(learn_curve_data, id = "Size")
    ggplot(data=learn_curve_data_long, aes(x=Size, y=value, colour=variable)) + 
            geom_point() + stat_smooth()
    




    Тут мы видим другую ситуацию.

    • Изменение среднего процента ошибки также происходит монотонно.
    • Тестовая и тренировочная ошибка малы и продолжают уменьшаться.
    • Разрыв между тестовыми и тренировочными данными мал.


    Я считаю, что данный график показывает возможный третий вариант, т.е. здесь нет переобучения, т.к. нет разрыва между кривыми, но и нет явного недообучения. Я бы сказал, что при увеличенни выборки будет происходить постепенное снижение тестовой и тренировочной ошибки, пока они не достигнут ограничении внутренне свойственных модели и улучшение не прекратится. В этом случае график будет похож на недообученную. Поэтому, я думаю, что увеличение размера выборки должно привести, пусть к небольшому, но улучшению качества модели и, соответственно, имеет смысл.

    Support Vector Machine


    Прежде чем приступить к исследованию третьей модели — Support Vector Machine, необходимо ещё раз обработать данные. Проведём их стандартизацию, т.к. это необходимо для «сходимости» алгоритма.

    library("e1071")
    scale_model <- preProcess(train[, -1], method = c("center", "scale"))
    train_scale <- predict(scale_model, train[, -1])
    train_scale <- cbind(train[, 1], train_scale)
    test_scale <- predict(scale_model, test[, -1])
    test_scale <- cbind(test[, 1], test_scale)
    

    Теперь построим график.

    learn_curve_data <- data.frame(integer(),
                                   double(),
                                   double())
    for (n in 1:5 )
    {
            for (i in seq(10, 2010, by = 100))
            {
                    train_learn <- train_scale[sample(nrow(train_scale), size = i),]
                    test_learn <- test_scale[sample(nrow(test_scale), size = i),]
                    model_learn <- svm(label ~ ., data = train_learn, kernel = "radial", scale = F)
                    predict_train_learn <- predict(model_learn)
                    error_rate_train <- sum(train_learn$label != predict_train_learn)/i
                    predict_test_learn <- predict(model_learn, newdata = test_learn)
                    error_rate_test <- sum(test_learn$label != predict_test_learn)/i
                    learn_curve_data <- rbind(learn_curve_data, c(i, error_rate_train, error_rate_test))
            }
    }
    colnames(learn_curve_data) <- c("Size", "Train_Error_Rate", "Test_Error_Rate")
    learn_curve_data_long <- melt(learn_curve_data, id = "Size")
    ggplot(data=learn_curve_data_long, aes(x=Size, y=value, colour=variable)) + 
            geom_point() + stat_smooth(method = "gam", formula = y ~ s(x), size = 1)
    




    • Тренировочная ошибка очень мала.
    • Наблюдается существенный разрыв между тестовой и тренировочной кривой, который монотонно уменьшается.
    • Тестовая ошибка достаточно мала и продолжает уменьшаться.


    Я думаю, что перед нами, как раз, второй вариант из теории, т.е. модель переобучена или имеет высокую вариативность. Исходя их этого вывода, можно уверенно сказать, что увеличение размера обучающей выборки приведёт к существенному улучшению качества модели.

    Выводы


    Данная работа показала, что обучающая кривая (Learning Curve) является хорошим инструментом в арсенале исследователя данных как для оценки используемых моделей, так и для оценки необходимости в увеличении выборки используемых данных.

    В следующей раз я расскажу о применении метода главных компонент (PCA) к данной задаче.
    Оставатесь на связи!)
    MLClass
    Компания

    Похожие публикации

    AdBlock похитил этот баннер, но баннеры не зубы — отрастут

    Подробнее
    Реклама

    Комментарии 7

      0
      увеличение размера обучающей выборки приведёт к существенному улучшению качества модели

      В отношении SVM такое утверждение не всегда верно: машина опорных векторов не очень хорошо масштабируется — особенно при большом количестве переменных. Другими словами, эмпирически можно подобрать более-менее оптимальное соотношение n.rows/n.features для SVM, но не по принципу «чем больше — тем лучше».
        0
        Выводы, которые я делаю исходя из получившегося графика обучающей кривой, относятся к конкретному рассматриваемому случаю и я считаю, что будет неверно обобщать их на применяемые модели в целом. А, если говорить про SVM в общем, то полностью согласен с тем, что увеличение обучающей выборки далеко не всегда приведёт к улучшению результатов.
        0
        Как правило, заранее нельзя предсказать, какой алгоритм будет работать лучше в данной задаче. Но есть исключения. Одно из них — классификация изображений.

        Для этой задачи можно заранее попытаться предсказать, что конволюционные нейронные сети будут рвать всех «на британский флаг». На том же кагле — море примеров. Я не знаю, ни одного соревнования, где в задаче распознавания изображений в топе было что-то иное.

        Это я к чему. Прямо из коробки, на этом соревновании однойслойная сеть выдаёт точность 96%, двуслойная нейроная сеть, с dropout уровнем между ними выдаёт точность 97%. Простая конволюционная сеть выдаёт 99%. Дойдут руки, напишу batchIterator, который будет слегка крутить и двигать цифры, отражать 0, 1 и 8 случайным образом во время тренировки модели, возможно, (пока я не проверил на практике — это лишь теоретическая идея) и подкручу параметры модели — точность подскочит ещё выше.

        (Клятвенно обещаю, как найду работу, напишу пост на тему этого соревнования, нейронных сетей и их 99% предсказания)

        Это я к тому, что различные задачи лучше решаются различными алгоритмами и, на мой взгляд, SVM или Decision Tree для MNIST dataset (Это я не к тому, что эти алгоритмы хуже, я знаю примеры, когда SVM был лучше всех или когда, RF был вне конкуренции), — это не самый правильный выбор, как минимум в силу того, тёмные пиксели образуют компактное подмножество и хотелось бы это как-то учитывать, чего SVM или RF не делают.

        (Желание глазами взглянуть на то, как ошибка зависит от числа итераций — это очень, очень правильно, и находит в моей душе сильный отклик. Многие этого не делают. Часто народ запускает GirdSearch для поиска гиперпараметров, и смотрит только на mean(score), std(score), не пытаясь понять, что, где и почему)

        Я уверен, что, в принципе, можно и линейную регрессию использовать и она выдаст что-то внятное (Дискретизация предсказаний линейной регресси — это отдельная тема.), но зачем?

        Вы не могли бы указать, точность, которую удаётся получить на Public LeaderBoard используя RF и SVM?
          0
          А есть у вас примеры, когда машина опорных векторов показала заметно лучшие результаты, чем RF/NN?
            0
            В этом соревновании у меня SVM запросто обходила RF/NN.

            www.kaggle.com/c/crowdflower-search-relevance

            Хотя те, кто выиграл это соревнование сказали, что у них лучшее предсказание было получено используя xgboost. Но они данные по-другому обрабатывали. С их решением ещё надо будет разбираться.

            0
            Наилучшую точность, которую мне удалось получить с помощь RF — 0.93286, а SVM — 0.97786.

            Целиком и полностью согласен, с тем, что используя нейронные сети можно получить почти 100% результат, но в данной статье у меня не стояла задача добиться высокого места в Leaderbord. Я хотел показать на примере известного датасета, что происходит внутри модели при обучении и как, используя полученные знания, можно планировать свою дальнейшую работу.

            P.S. Спасибо за столь развёрнутый ответ! А пост про нейронные сети на примере данного соревнования буду с нетерпением ждать.
            0
            Смещение — это устоявшийся перевод для High Bias и Low Bias?

            Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

            Самое читаемое