R에서 elbow 방법을 사용하여 최적의 클러스터를 찾는 방법

기계 학습 에서 가장 일반적으로 사용되는 클러스터링 알고리즘 중 하나는 k-평균 클러스터링 으로 알려져 있습니다.

K-평균 클러스터링은 데이터 세트의 각 관측치를 K 클러스터 중 하나에 배치하는 기술입니다.

최종 목표는 각 클러스터 내의 관측치가 서로 매우 유사한 반면 다른 클러스터의 관측치는 서로 상당히 다른 K 개의 클러스터를 갖는 것입니다.

k-평균 군집화를 수행할 때 첫 번째 단계는 관측값을 배치하려는 군집 수인 K 값을 선택하는 것입니다.

K 값을 선택하는 가장 일반적인 방법 중 하나는 엘보우 방법(elbow method) 으로, x축에 클러스터 수를, y축에 제곱합의 합계를 사용하여 플롯을 만든 다음 다음을 식별합니다. 플롯에 “무릎” 또는 회전이 나타나는 곳입니다.

“무릎”이 발생하는 x축 지점은 k-평균 클러스터링 알고리즘에 사용할 최적의 클러스터 수를 알려줍니다.

다음 예제에서는 R에서 팔꿈치 방법을 사용하는 방법을 보여줍니다.

예: R에서 팔꿈치 방법 사용

이 예에서는 R에 내장된 USArrests 데이터세트를 사용합니다. 이 데이터세트에는 1973년 미국 각 주에서 100,000명당 살인, 폭행, 강간으로 체포된 건수와 각 주의 도시 인구 비율이 포함되어 있습니다. 지역. , 어반팝.

다음 코드는 데이터세트를 로드하고, 누락된 값이 있는 행을 제거하고, 평균이 0이고 표준편차가 1이 되도록 데이터세트의 각 변수를 조정하는 방법을 보여줍니다.

 #load data
df <-USArrests

#remove rows with missing values
df <- na. omitted (df)

#scale each variable to have a mean of 0 and sd of 1
df <- scale(df)

#view first six rows of dataset
head(df)

               Murder Assault UrbanPop Rape
Alabama 1.24256408 0.7828393 -0.5209066 -0.003416473
Alaska 0.50786248 1.1068225 -1.2117642 2.484202941
Arizona 0.07163341 1.4788032 0.9989801 1.042878388
Arkansas 0.23234938 0.2308680 -1.0735927 -0.184916602
California 0.27826823 1.2628144 1.7589234 2.067820292
Colorado 0.02571456 0.3988593 0.8608085 1.864967207

k-평균 알고리즘에 사용할 최적의 클러스터 수를 찾기 위해 Factoextra 패키지의 fviz_nbclust() 함수를 사용하여 클러스터 수 대 제곱합의 총계에 대한 플롯을 만듭니다.

 library (cluster)
library (factoextra)

#create plot of number of clusters vs total within sum of squares
fviz_nbclust(df, kmeans, method = “ wss ”) 

이 그래프에서는 k = 4개의 클러스터에 “무릎” 또는 꼬임이 있는 것으로 나타납니다. 이 지점은 제곱합의 합계가 안정화되기 시작하는 지점입니다.

이는 k-평균 알고리즘에 사용할 최적의 클러스터 수가 4임을 알려줍니다.

참고 : 더 많은 클러스터를 사용하면 제곱합에서 더 낮은 총계를 얻을 수 있지만 훈련 데이터에 과적합될 가능성이 높 으므로 k-평균 알고리즘이 테스트 데이터에서 잘 작동하지 않습니다.

클러스터 패키지의 kmeans() 함수를 사용하면 k /4에 대한 최적 값을 사용하여 데이터세트에서 k-평균 클러스터링을 수행할 수 있습니다.

 #make this example reproducible
set. seeds (1)

#perform k-means clustering with k = 4 clusters
km <- kmeans(df, centers = 4, nstart = 25)

#view results
km

K-means clustering with 4 clusters of sizes 16, 13, 13, 8

Cluster means:
      Murder Assault UrbanPop Rape
1 -0.4894375 -0.3826001 0.5758298 -0.26165379
2 -0.9615407 -1.1066010 -0.9301069 -0.96676331
3 0.6950701 1.0394414 0.7226370 1.27693964
4 1.4118898 0.8743346 -0.8145211 0.01927104

Vector clustering:
       Alabama Alaska Arizona Arkansas California Colorado 
             4 3 3 4 3 3 
   Connecticut Delaware Florida Georgia Hawaii Idaho 
             1 1 3 4 1 2 
      Illinois Indiana Iowa Kansas Kentucky Louisiana 
             3 1 2 1 2 4 
         Maine Maryland Massachusetts Michigan Minnesota Mississippi 
             2 3 1 3 2 4 
      Missouri Montana Nebraska Nevada New Hampshire New Jersey 
             3 2 2 3 2 1 
    New Mexico New York North Carolina North Dakota Ohio Oklahoma 
             3 3 4 2 1 1 
        Oregon Pennsylvania Rhode Island South Carolina South Dakota Tennessee 
             1 1 1 4 2 4 
         Texas Utah Vermont Virginia Washington West Virginia 
             3 1 2 1 1 2 
     Wisconsin Wyoming 
             2 1 

Within cluster sum of squares by cluster:
[1] 16.212213 11.952463 19.922437 8.316061
 (between_SS / total_SS = 71.2%)

Available components:

[1] "cluster" "centers" "totss" "withinss" "tot.withinss" "betweenss"   
[7] "size" "iter" "ifault"         

결과에서 우리는 다음을 알 수 있습니다.

• 16개 주가 첫 번째 클러스터에 할당되었습니다.
• 두 번째 클러스터에는 13 개 주가 할당되었습니다.
• 세 번째 클러스터에는 13 개 주가 할당되었습니다.
• 8 개 주가 네 번째 클러스터에 할당되었습니다.

각 주의 클러스터 할당을 원본 데이터세트에 추가할 수도 있습니다.

 #add cluster assignment to original data
final_data <- cbind(USArrests, cluster = km$cluster)

#view final data
head(final_data)

	Murder Assault UrbanPop Rape cluster
				
Alabama 13.2 236 58 21.2 4
Alaska 10.0 263 48 44.5 2
Arizona 8.1 294 80 31.0 2
Arkansas 8.8 190 50 19.5 4
California 9.0 276 91 40.6 2
Colorado 7.9 204 78 38.7 2

원본 데이터베이스의 각 관찰은 네 그룹 중 하나에 배치되었습니다.

추가 리소스

다음 튜토리얼은 R에서 다양한 클러스터링 알고리즘을 실행하는 방법에 대한 단계별 예제를 제공합니다.

R의 K-평균 군집화: 단계별 예
R의 K-Medoids 클러스터링: 단계별 예
R의 계층적 클러스터링: 단계별 예