1 Introduction

인사이트 = 데이터의 분석 + 경험과 지식의 해석

인사이트의 두 가지 조건 중 첫 번째 조건을 충족하기 위해 캐글을 시작한다.

우선은 필사로 시작하며, 몇 번의 필사를 거친 후에 스스로 커널을 작성할 예정이다.

https://www.kaggle.com/redhorse93/r-titanic-data

이번 필사는 상기 커널이며, ‘Competiton’중 ‘Titanic’에 대한 분석 과정을 담은 것이다.

2 사전 준비

2.1 Package

# Data input, assement: 데이터 로드, 확인
library(tidyverse)     # R의 통합 패키지로 여기서는 'readr'패키지를 쓰기 위함이다.
library(descr)         # descr::CrossTable() - 범주별 빈도수, 비율 수치로 확인

# Visualization
library(VIM)           #Missing values assement use by VIM::aggr()
#library(ggplot2)      #Used in almost visualzation 원문에선 따로 패키지를 부르지만, 
                       #tidyverse내에 포함된 패키지로 여기선 주석으로 처리한다.
library(RColorBrewer)  # plot의 color 설정
library(scales)        # plot setting - x, y 축 설정

# Feature Engineering, Data Pre-processing
#library(tidyverse)    # 아래 패키지는 모두 포함하기에 주석 처리한다.
#library(dplyr)        # Feature Engineering & Data Pre-processing
#library(purrr)        # Check missing values
#library(tidyr)        # tidyr::gather()

# Model generation
library(randomForest)  # For Random Forest Modeling

# Model validation :   원문 커널에선 생략된 내용이다.
#library(caret)        # caret::confusionMatrix()
#library(ROCR)         # Plotting ROC Curve

multiplot() function generation

한 화면에 여러개 ‘plot’들을 표기하기 위해 ‘multiplot()’ 함수를 사용한다.

하지만 원문의 필자는 어떤 문제가 생겨 ‘multiplot()’함수를 사용할 수 없어,

‘CRAN’을 참고하여 ‘multiplot()’함수를 생성해서 사용했다.

# Multiple plot function
#
# ggplot objects can be passed in ..., or to plotlist (as a list of ggplot objects)
# - cols:   Number of columns in layout
# - layout: A matrix specifying the layout. If present, 'cols' is ignored.
#
# If the layout is something like matrix(c(1,2,3,3), nrow=2, byrow=TRUE),
# then plot 1 will go in the upper left, 2 will go in the upper right, and
# 3 will go all the way across the bottom.

multiplot <- function(..., plotlist = NULL, file, cols = 1, layout = NULL) {
  library(grid)
  
  # Make a list from the... arguments and plotlist
  plots <- c(list(...), plotlist)
  
  numPlots = length(plots)
  
  # If layout is NULL< then use 'cols' to determine layout
  if (is.null(layout)) {
    # Make the panel
    # ncol: number of columns of plots
    # nrow: Number of rows needed, calculated from # of cols
    layout <- matrix(seq(1, cols * ceiling(numPlots/cols)),
                     ncol = cols, nrow = ceiling(numPlots/cols))
  }
  
  if (numPlots==1) {
    print(plots[[1]])
    
  } else {
    # Set up the page
    grid.newpage()
    pushViewport(viewport(layout = grid.layout(nrow(layout), ncol(layout))))
    
    # Make each plot, in the correct location
    for (i in 1:numPlots) {
      # Get the i, j matrix positions of the regions that contain this subplot
      matchidx <- as.data.frame(which(layout == i, arr.ind = TRUE))
      
      print(plots[[i]], vp = viewport(layout.pos.row = matchidx$row,
                                      layout.pos.col = matchidx$col))
    }
  }
 }

2.2 Raw data import : 데이터 원본 로드

‘Model’을 생성하는데 쓰는 ‘train’ data와 실제 예측에 쓰는 ‘test’ data가 분리되어 있다.

2개 data를 로드한 후에 묶을 예정이다.

분리된 data를 묶는 이유는 모델링에 사용되는 입력 변수들을 Feature Engineering,

Pre-processing 할 때 동일하게 작업하기 위해서이다.

train <- readr::read_csv("./input/train.csv")

test  <- readr::read_csv("./input/test.csv")

full  <- dplyr::bind_rows(train, test)

‘read_csv()’가 ‘read.csv’보다 로딩 속도가 조금 더 빠르기에 이 함수를 사용한다.

주의점은 문자열(‘Character’)와 요인 변수(‘Factor’)를 구별하지 않고 모두 ‘Chr’로 저장된다.

데이터를 ‘full’로 묶으면서 ‘rbind()’대신 ‘bind_rows()’를 쓴 이유는 ‘test’에는

‘Titanic competition’의 종속변수(타겟변수, Y)인 ‘Survived’가 없어서 데이터의

차원(‘dimention’)이 맞지 않다. 그래서 ‘rbind()’로는 병합되지 않기에 후자를 썻다.

‘bind_rows()’는 ‘test’의 ‘Survived’를 ‘NA’로 처리하면서 하나로 병합이 가능하다.

2.3 변수 의미 설명

각 변수의 의미와 지정한 속성은 아래 표와 같다.

표보다 더 상세한 정보는 나무위키의 타이타닉 관련 링크를 참조 바란다.

링크

full <- full %>% 
  dplyr::mutate(Survived = factor(Survived),
                Pclass = factor(Pclass, ordered = T),
                Name = factor(Name),
                Sex = factor(Sex),
                Ticket = factor(Ticket),
                Cabin = factor(Cabin),
                Embarked = factor(Embarked))

3 탐색적 데이터 분석(EDA : Exploratory Data Analysis)

결측치, 이상치 외 data 확인 작업 과정

여러 함수와 시각화를 사용하여 확인

3.1 수치값을 활용한 data 확인

‘head()’와 ‘summary()’로 data 확인

3.1.1 head()

head(full, 10)

결과를 보면 ‘Age’에 결측치가 있다.

‘Age’외 다른 변수들엔 결측치가 없는지는 추후에 확인한다.

3.1.2 str()

str(full)

data는 12열(변수) 1309행(관측치.train: 891, test: 418)이다.

그 외 각 변수의 속성과 ‘factor’ 속성의 변수들에 범주가 몇 개 인지도 확인 가능하다.

‘head()’ 결과 ‘Age’외 ‘Cabin’ 에도 결측치가 있음을 알 수 있다.

3.1.3 summary()

summary(full)

‘summary()’는 많은 것을 알 수 있다.

수량형(Integer, Numeric) 변수들의 대표값, 범주형(Factor) 변수들의 범주 갯수,

범주별 관측치 갯수까지 확인이 가능하다.

아래 사항들은 변수에 대한 간략 설명이다.

1. Survived : 이번 competition의 타겟 변수이며 418개의 결측치는 Test data 때문이다.

2. Pclass : 1등급, 2등급, 3등급으로 범주가 세 개인데 3등급 승객이 가장 많다.

3. Name : 이름이 비슷한 사람들이 있다. 따라서 혼자 탄 승객도 있지만 가족들과 같이 탑승한 승객도 있음을 알 수 있다.

4. Sex : 남성이 여성보다 2배 가까이 더 많다.

5. Age : 0.17부터 80세까지 있는데 0.17을 잘못 기입한 이상치 인건지 확인이 필요해보이며, 263개의 결측치가 존재한다.

6. SibSp : 0부터 8까지 있는데 3분위수가 1이므로 부부 혹은 형제와 함께 Titanic호에 탑승했음을 알 수 있다.

7. Parch : 0부터 9까지 있지만 3분위수가 0인 것을 통해서 부모, 자녀들과 함께 탄 승객들이 거의 없음을 알 수 있다.

SibSp와 Parch는 모두 가족관계를 나타내는 변수들이다. 이를 활용하여 가족 중 누가 탔는지는 모르지만 동승한 인원이 총 몇 명인지 구하고, 그것을 바탕으로 가족의 규모를 나타내는 FamilySized 라는 범주형 파생변수도 만들 것이다.

1. Ticket : 3.1.2 str()의 결과와 같이보면 완전히 동일한 티켓을 가진 승객들도 있고, 티켓이 일정 부분만 겹치는 승객들도 있고 아예 다른 티켓을 가진 승객이 있음을 알 수 있다. 이것을 이용해서 ticket.size라는 파생변수를 만들 것이다.

2. Fare : 0부터 512까지 있고 1개의 결측치가 있다. 3분위수가 31.275이지만 최댓값이 512라 갭이 너무 커서 확인해 봐야겠다.

3. Cabin : 총 12개 Feature들 중에서 가장 많은(1014개) 결측치를 갖고 있다. 배의 구역을 나타내는 변수인데 활용할 방법이 없다면 버려야 될 것 같다.

4. Embarked : 총 3개 범주로 구성이 되어있고 S가 가장 많으며 2개의 결측치가 있다.

데이터를 탐색하기 전에 ‘summary()’, ‘str()’ 같은 관측 함수들로 기본 정보를 확인하면 좋다.

3.2 Missing value

변수의 결측치 여부와 있을 시 얼마나 존재하는지 확인하는 과정.

‘dplyr’, ‘ggplot2’,’ VIM’ 패키지들로 수치를 확인 후 시각화로 나타낼 예정이다.

3.2.1 VIM packages

VIM::aggr(full, prop = FALSE, combined = TRUE, numbers = TRUE, 
          sortVars = TRUE, sortCombs = TRUE)

3.2.2 tidyverse packages

‘VIM’ 패키지가 아닌, ‘tidyverse’로도 결측치를 확인할 수 있다.

‘dplyr’로 변수별 결측치 비율을 알아본다.

full %>% 
  dplyr::summarise_all(funs(sum(is.na(.))/n()))

확인 결과 ‘Age’,’Cabin’외 ‘Survived’, ‘Fare’,’Embarked’에도 결측치가 있음을 알 수 있다.

결측치는 비율로 확인하는 방법도 있지만, 시각화를 통해 확인할 수도 있다.

# 각 feature의 결측치 비율 계산 -> Data Frame 속성 but 1행 12열 구조로 되어있다.
missing_values <- full %>% 
  dplyr::summarise_all(funs(sum(is.na(.))/n()))

# 위에서 구한 missing_values를 12x2 data frame으로 생성
missing_values <- tidyr::gather(missing_values,
                                key = 'feature', value = 'missing_pct')

# missing_values를 활용한 시각화
missing_values %>% 
  # Aesthetic setting: missing_pct 내림차순으로 정렬
  ggplot(aes(x = reorder(feature, missing_pct), y = missing_pct)) +
  # Bar plot
  geom_bar(stat = 'identity', fill = 'red') +
  # Title generation
  ggtitle('Rate of missing values in each features') +
  # Title detail setting
  theme(plot.title = element_text(face = 'bold',    #글씨체
                                  hjust = 0.5,       # Horizon(가로비율) 
                                  size = 15, 
                                  color = 'darkblue')) +
  # x, y axis label setting
  labs(x = 'Feature names', y = 'Rate') + 
  # Plot의 x, y 축 변환
  coord_flip()

확인 결과 12개 변수중 총 5개에 결측치가 존재하며, ‘Cabin’,’Age’,’Embarked’,’Fare’

순으로 결측치가 많음을 알 수 있다.(‘Survived’는 test data결합시 생긴 값으로 제외)

시각화로 ‘feature’를 분석, 탐색해 보자.

3.3 Age

age.p1 <- full %>% 
  ggplot(aes(Age)) +
  # 히스토그램 작성, 설정
  geom_histogram(breaks = seq(0, 80, by = 1), #간격 설정
                 col = 'red',     # 막대 경계선 색깔
                 fill = 'green',  # 막대 채우기 색깔
                 alpha = .5) +     # 막대 투명도 50%
  # Plot title
  ggtitle('All Titanic passengers age histogram') +
  theme(plot.title = element_text(face = 'bold',   #글씨체
                                    hjust = 0.5,  #Horizon(가로비율)
                                    size = 15,
                                    color = 'darkblue'))
  
age.p2 <- full %>% 
  # test data set의 Survived == NA 인 값들 제외
  filter(!is.na(Survived)) %>% 
  ggplot(aes(Age, fill = Survived)) +
  geom_density(alpha = .5) +
  ggtitle('Titanic passengers age density plot') +
  theme(plot.title = element_text(face = 'bold', hjust = 0.5,
                                  size = 15, color = 'darkblue'))
  
  # multiplot layout 형식 지정
  multi.layout = matrix(c(1, 1, 2, 2), 2, 2, byrow = T)
  
  # 위에서 생성한 2개의 그래프를 한 화면에 축력
  multiplot(age.p1, age.p2, layout = multi.layout)

3.4 Pclass

각 ‘Pclass’에 해당하는 탑승객의 빈도수 시각화.

‘dplyr’패키지 활용하여 ‘Pclass’ 별로 그룹핑,

범주별 빈도수를 나타내는 ‘data frame’ 생성한 후 ‘ggplot’으로 시각화

full %>% 
  # dplyr::group_by(), summarize() 를 이용해서 Pclass 빈도수 구하기
  group_by(Pclass) %>% 
  summarize(N = n()) %>% 
  # Aesthetic setting
  ggplot(aes(Pclass, N)) +
  geom_col() +
  # Pclass 빈도수 plot에 출력
  geom_text(aes(label = N),  #Plot의 y에 해당하는 N(빈도수) 매핑
            size = 5,   #글씨 크기
            vjust = 1.2,  #Vertical(가로) 위치 설정
            color = '#FFFFFF') +   #글씨 색깔 : 흰색
  # Plot title
  ggtitle("Number of each Pclass's passenger") +
  # Title setting
  theme(plot.title = element_text(face = 'bold', hjust = 0.5, size = 15)) +
  # x, y axis name change
  labs(x = 'Pclass', y = 'Count')

3등급 객실에 탑승한 승객이 가장 많이 사망.

객실 등급과 생존율간의 연관성은 ‘chapter5’에서 다룰 예정

3.5 Fare

티켓값 ‘Fare’ 시각화, histogram & boxplot으로 표현

  # Histogram
  Fare.p1 <- full %>% 
    ggplot(aes(Fare)) +
    geom_histogram(col = 'yellow',
                   fill = 'blue',
                   alpha = .5) +
  ggtitle('Histogram of passengers Fare') +
  theme(plot.title = element_text(face = 'bold', hjust = 0.5, size = 15))

  # Boxplot
  Fare.p2 <- full %>% 
    filter(!is.na(Survived)) %>% 
    ggplot(aes(Survived, Fare)) +
    # 관측치는 회색점, 중복되는 부분은 흩뿌려서 나타냄
    geom_jitter(col='gray') +
    # boxplot : xnaudeh 50%
    geom_boxplot(alpha = .5) +
    ggtitle('Boxplot of passengers Fare') +
    theme(plot.title = element_text(face = 'bold', hjust = 0.5, size= 15))
  
  # multiplot layout 형식 지정
  mulit.layout = matrix(c(1, 1, 2, 2), 2, 2)
  
  # 위에서 생성한 2개 그래프를 한 화면에 출력
  multiplot(Fare.p1, Fare.p2, layout = multi.layout)

생존자들이 사망한 승객들보다 ‘Fare’가 더 높지만 그렇게 큰 차이는 아님을 알 수 있다.

3.6 Sex

성별간 생존율 차이의 시각화

sex.p1 <- full %>% 
  dplyr::group_by(Sex) %>% 
  summarize(N = n()) %>% 
  ggplot(aes(Sex, N)) +
  geom_col() +
  geom_text(aes(label = N), size = 5, vjust = 1.2, color = "#FFFFFF") + 
  ggtitle("Bar plot of Sex") +
  labs(x = "Sex", y = "Count")

sex.p2 <- full[1:891, ] %>% # 892행 이후부터는 'test' data로 생존율이 NA값임.
  ggplot(aes(Sex, fill = Survived)) +
  geom_bar(position = 'fill') +
  scale_fill_brewer(palette = "Set1") +
  scale_y_continuous(labels = percent) +
  ggtitle('Survival Rate by Sex') +
  labs(x = 'Sex', y = 'Rate')

multi.layout = matrix(rep(c(1, 2), times = 2), 2, 2, byrow = T)

multiplot(sex.p1, sex.p2, layout = multi.layout)

mosaicplot(Survived ~ Sex,
           data = full[1:891, ], col = TRUE,
           main = 'Survival rate by passengers gender')

그래프를 보면, 인원은 남성이 더 많지만, 생존율은 여성이 더 높음을 알 수 있다.

4 Feature Engineering & Data Pre-processing

‘Chapter 3 EDA’의 내용을 바탕으로 결측치를 채우고, 파생변수를 생성하는 과정

4.1 Age -> Age.Group

full <- full %>%
  # 결측치 제외한 값들의 평균으로 결측치를 채움
  mutate(Age = ifelse(is.na(Age), mean(full$Age, na.rm = TRUE), Age),
         # Age 값에 따라 범주형 파생 변수 Age.Group 생성)
         Age.Group = case_when(Age < 13 ~ 'Age.0012',
                               Age >= 13 & Age < 18 ~ 'Age.1317',
                               Age >= 18 & Age < 60 ~ 'Age.1859',
                               Age >= 60 ~ 'Age.60inf'),
         # Chr 속성을 Factor로 변환
         Age.Group = factor(Age.Group))

4.2 SibSp & Parch -> FamilySized

full <- full %>% 
  # SibSp, Parch와 1(본인)을 더해서 FamilySize라는 파생변수를 먼저 생성
  mutate(FamilySize = .$SibSp + .$Parch + 1,
         # FamilySize 의 값에 따라서 범주형 파생 변수 FamilySized를 생성
         FamilySized = dplyr::case_when(FamilySize == 1 ~ "Single",
                                        FamilySize >= 2 & FamilySize < 5 ~ "Small",
                                        FamilySize >= 5 ~ "Big"),
         # Chr 속성인 FamilySized를 factor로 변환
         # 집단 규모 크기에 따라 levels를 새로 지정
         FamilySized = factor(FamilySized, levels = c("Single", "Small", "Big")))

‘SibSp’, ‘Parch’를 이용해서 ‘FamilySized’를 생성 두 개의 변수를 하나로 줄이면 모델이 단순화가 되어 파악이 용이 (ex. 키 & 체중으로 BMI 지수 산출)

4.3 Name & Sex -> title

‘Chapter 3.6 Sex’의 결과를 봤을 때 여성의 생존율이 남성보다 높음을 알 수 있다. 따라서 ‘Name’에서 ‘성별과 관련된 이름만을 추출해서 범주화 시키면 쓸모 있지 않을까?’ 는 생각이 들어 그렇게 함수 생성 ‘full’ data에서 ‘Name’ 열만 추출하여 ‘title’로 저장

# Name 열 추출
title <- full$Name

# 정규표현식과 gsub()을 이요해서 성별과 관련성이 높은 이름만 추출해서 title 벡터로 저장
title <- gsub("^.*, (.*?)\\..*$", "\\1", title)

# 위에서 저장한 title 벡터를 full에 파생변수로 저장
full$title <- title

‘Unique’한(고유한) ‘title’에는 어떤 것들이 있는지 확인

unique(full$title)

총 18개의 범주가 확인됨. 이대로 쓸 경우 모델의 복잡도가 높아지기에(특히 Tree based model) 범주를 줄일 예정. 그 전에 ‘descr’ 패키지를 이용해서 각 범주별 빈도수와 비율을 확인.

# 범주별 빈도수, 비율 확인
descr::CrossTable(full$title)

18개나 되는 범주들의 빈도수와 비율이 너무 제각각. 총 5개 범주로 단순화

# 5개 범주로 단순화
full <- full %>% 
  # '%in%' 대신 '=='을 쓸 시 Recycling Rule 때문에 원하는대로 되지 않음.
  mutate(title = ifelse(title %in% c('Mlle', 'Ms', 'Lady', 'Dona'), 'Miss', title),
         title = ifelse(title == 'Mme', 'Mrs', title),
         title = ifelse(title %in% c('Capt', "col",'Major', 'Dr', 'Rev', 'Don',
                                     'Sir', "the Countess", 'Jonkheer'), "officer", title),
         title = factor(title))

# 파생변수 생성 후 각 범주별 빈도수, 비율 확인
descr::CrossTable(full$title)

4.4 Ticket -> ticket.size

‘Chapter 3.1.3 Summary()’ 확인 결과 승객은(‘train’, ‘test’합쳐서 모두) 1309명이다. 하지만 티켓은 모두 달라야 하지만 그렇지 않다. ‘summary()’와 ‘unique()’ 결과값을 확인하자

# 'unique'한 범주의 갯수만 파악하려고 length()를 사용
length(unique(full$Ticket))

# 모두 출력하면 지저분하니 10개만 출력
head(summary(full$Ticket), 10)

결측치가 없는 ‘feature’인데 unique한 티켓이 929개 뿐이다. ‘CA. 2343’인 티켓은 11명이나 같다. 어떤 승객들인지 확인해보자.

full %>% 
  # 티켓이 일치하는 11명의 승객들 필터링
  filter(Ticket == 'CA. 2343') %>% 
  # 몇 가지 변수 확인
  select(Pclass, Name, Age, FamilySized)

이 티켓의 11명은 모두 같은 가족 & 형제인 것을 알 수 있다. 티켓이 완전히 동일한 승객들이 있는 반면 일부분만 일치하는 승객들도 있다. 티켓의 Unique 넘버 갯수를 나타내는 ‘ticket.unique’ 파생변수를 만들고, ‘ticket.unique’를 바탕으로 3개 범주를 갖는 ‘ticket.size’ 파생변수도 만든다.

# ticket.unique가 모두 0이라고 저장
ticket.unique <- rep(0, nrow(full))

# Ticket Feature에서 unique한 것들만 추출해서 tickets 벡터에 저장
tickets <- unique(full$Ticket)

# 반복문을 중첩 활용해서 티켓이 같은 승객들만 선별 후, 각 티켓의 길이를 추출하여 저장
for (i in 1:length(tickets)) {
  current.ticket <- tickets[i]
  party.indexes <- which(full$Ticket == current.ticket)
    # For loop 중첩
    for (k in 1:length(party.indexes)) {
      ticket.unique[party.indexes[k]] <- length(party.indexes)
    }
  }

# 위에서 계산한 ticket.unique를 파생변수로 저장
full$ticket.unique <- ticket.unique

# ticket.unique에 따라 세가지 범주로 나눠서 ticket.size 변수 생성
full <- full %>% 
  mutate(ticket.size = case_when(ticket.unique == 1 ~ 'Single',
                                 ticket.unique < 5 & ticket.unique >= 2 ~ 'Small',
                                 ticket.unique >= 5 ~ 'Big'),
         ticket.size = factor(ticket.size, 
                              levels = c('Single','Small','Big')))

4.5 Embarked

결측치가 2개 있던 ‘feature’임 ‘Embarked’의 경우 3개 범주 중에서 가장 최반값인 ‘S’로 치환

full$Embarked <- replace(full$Embarked,               # 치환할 Data$feature 지정
                         which(is.na(full$Embarked)), # 결측치 찾기
                         'S')                         # 치환할 값 지정

4.6 Fare

‘Fare’의 경우 결측치가 유일하게 1개임 ‘Chapter 3.5 Fare’를 바탕으로 결측치를 0으로 치환

full$Fare <- replace(full$Fare, which(is.na(full$Fare)), 0)

– 데이터 전처리 완료– 이후, 지금까지 만든 파생변수들을 탐색하며 모델 생성에 사용할 변수 선별 ‘Feature selection’

5 Relationship to target feature ‘Survived’ & Feature selection

각 변수와 생존율간 연관성 파악. ‘test’는 생존.사망이 NA기 때문에 제외하고, 생존과 사망 여부를 알 수 있는 ‘train’ data set만 사용함

5.0 Data set split

전처리 끝난 ‘full’ data를 ‘train’, ‘test’로 분할

# feature selection 전이므로 모든 변수들을 선택
train <- full[1:891, ]

test <- full[892:1309, ]

5.1 Pclass

train %>% 
  ggplot(aes(Pclass, fill = Survived)) +
  geom_bar(position = 'fill') +
  # plot 테마 설정 : 조금 더 선명한 색깔로 변환
  scale_fill_brewer(palette = 'Set1')  +
  # Y axis setting
  scale_y_continuous(labels = percent) +
  # x, y 축 이름과 plot의 main title, sub title 설정
  labs(x = 'Pclass', y = "Rate",
       title = "Bar plot", subtitle = 'How many people survived in each Pclass?')

5.2 Sex

** ‘Chapter 3.6 Sex와 동일’ **

mosaicplot(Survived ~ Sex,
           data = train, col = TRUE,
           main = 'Survival rate by passengers gender')

5.3 Embarked

train %>% 
  ggplot(aes(Embarked, fill = Survived)) +
  geom_bar(position = 'fill') +
  scale_fill_brewer(palette = 'Set1') +
  scale_y_continuous(labels = percent) +
  labs(x = 'Embarked', y = 'Rate',
       title = 'Bar plot', subtitle = 'How many people survied in each Embarked?')

5.4 FamilySized

train %>% 
  ggplot(aes(FamilySized, fill = Survived)) + 
  geom_bar(position = 'fill') +
  scale_fill_brewer(palette = 'Set1') +
  scale_y_continuous(labels = percent) +
  labs(x = "FamilySized", y = 'Rate',
       title = 'Bar plot', subtitle = 'Survival rate by FamilySized')

동승한 인원수에 따라 생존율에 차이가 있고, ‘FamilySized’와 ‘Survived’는 비선형 관계임을 알 수 있다.

5.5 Age.Group

train %>% 
  ggplot(aes(Age.Group, fill = Survived)) +
  geom_bar(position = 'fill') +
  scale_fill_brewer(palette = 'Set1') +
  scale_y_continuous(labels = percent) +
  labs(x = 'Age group', y = 'Rate',
       title = 'Bar plot', subtitle = 'Survivla rate by Age group')

5.6 title

train %>% 
  ggplot(aes(title, fill = Survived)) +
  geom_bar(position = 'fill') +
  scale_fill_brewer(palette = 'Set1') +
  scale_y_continuous(labels = percent) + 
  labs(x = 'title', y = 'Rate',
       title = 'Bar plot', subtitle = 'Survival rate by passengers title')

5.7 ticket.size

train %>% 
  ggplot(aes(ticket.size, fill = Survived)) +
  geom_bar(position = 'fill') + 
  scale_fill_brewer(palette = 'Set1') + 
  scale_y_continuous(labels = percent) +
  labs(x = 'ticket.size', y = 'Rate',
       title = 'Bar plot', subtitle = 'Survival rate by ticket.size')

5.8 Description of actual used features

생성한 파생변수들의 유효성을 확인했으니, 실제로 사용할 변수들만 선별해서 저장. 실제 선택한 변수들에 대한 간단한 설명

# Id number 제외하고 실제로 사용할 7개 입력 변수와 1개 타겟 변수를 선택, 저장
train <- train %>% 
  select('Pclass', 'Sex', 'Embarked', 'FamilySized', 'Age.Group', 'title',
         'ticket.size', 'Survived')

# Submit을 위해 Id 열 추출하여 ID에 저장
ID <- test$PassengerId

# Id와 Survived를 제외한 나머지 6개 변수 선택, 저장
test <- test %>% 
  select('Pclass', 'Sex', 'Embarked', 'FamilySized', 'Age.Group','title','ticket.size')

6 Machine learning model generation

‘train’ data set으로 기계학습 ‘train’, ‘validation’, ‘test’로 교차검증(‘Cv’)으로 선택을 하는게 맞지만,여기서는 ‘RandomForest’만을 생성하여 ‘test’ data를 예측하고 ‘Submit’용 data까지만 생성.

6.1 Random Forest model generation

# 재현성을 위해 seed number를 설정
set.seed(1901)

titanic.rf <- randomForest(Survived ~ ., data = train, importance = T, ntree = 2000)

6.2 Feature importance check

importance(titanic.rf)

varImpPlot(titanic.rf)

6.3 Predict test data and create submit data

# Prediction
pred.rf <- predict(object = titanic.rf, newdata = test, type = "class")

# Data frame generation
submit <-  data.frame(PassengerID = ID, Survived = pred.rf)

# Write the submit data frame to file: setwd()로 지정해놓은 폴더에 csv로 생성됨.
write.csv(submit, file = './titanic_submit.csv', row.names = F)

– 완 –

7 Reference : 참고문헌

1. ‘Megan Risdal’ titanic kernel

2. ‘Heads or Tails’ titanic kernel

3. Hitesh palamada - Head Start for Data Scientist

4. 나무위키 - RMS 타이타닉

5. R을 활용한 데이터 과학(인사이트), Garrett Grolemund, Hadley Wickham 지음, 김설기, 최혜민 옮김, 978-89-6626-235-9 : tidyverse를 이해하기 가장 좋은 책

6. tidyr::gather() - Software Carpentry

7. 머신러닝 탐구생활(비제이퍼블릭), 정권우 지음, 979-11-86697-69-6 : Data 분석 노트(표) 작성하는데 많은 도움을 받았습니다.

8. 원저자 원문 링크

8. 캐글 필사 커널 링크

[캐글 링크] (https://www.kaggle.com/maestroyi/kako-titanic-data-0312)