세이프모드 풀기.

cmd 창에서 

 hadoop dfsadmin -safemode leave


라고 하면 해제된다.



하둡이 갑자기 종료되거나, 불안정하게 꺼지면 세이프모드로 자동으로 들어간다고 한다.

[ CASE 1 ]

테이블을 만들면서 기존 HDFS에 있는 파일을 가져다가 한번에 데이터까지 넣은 명령어

create external table testdb(

key int,

value string)

ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'

LOCATION '/';     <-- 기본 위치



create external table testdb(

key int,

value string)

ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'

LOCATION '/folderName/';





[ CASE 2 ]

하이브에서 테이블을 먼저 만들고, 테이블에 기존에 있는 정보를 연결시킨다. 

근데 

이거 drop table '테이블명' 

으로 삭제하면, 연결시켜 놓은 데이터 까지 삭제된다. 

create table testdb1(

key int,

value string)

ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'           <-- 데이터가 어떤 방식으로 구분자가 지어져 있는지 알려준다.


load data inpath 'HDFS경로' into table testdb1


load data local inpath 'FS경로' into table testdb1





하둡 명령어 


hadoop  fs  -put  localfile  /user/hadoop/hadoopfile


hadoop fs  : 하둡 명령어 시작 알림

-put          : 파일을 hdfs에 저장하는 명령어

localfile      : 넣을 파일

/user/hadoop/hadoopfile  : 파일을 둘 위치


hadoop  fs  -put  test.txt  /

나같은 경우는 txt 파일을 기본 경로에 두고 싶었음.

회귀



회귀 함수란 어떤 특정 값(독립변수)을 넣어서 결과 값(종속변수)을 얻는 것이다. 하나의 독립변수(설명변수)에 기반한 경우헤는 단순 선형 회귀라 하고 둘 이상의 복수의 독립변수(설명변수)에 기반한 경우에는 다중 선형 회귀라고 한다.

선형 회귀의 실사용 사례는 다음과 같다. 

-만약 목표가 예측일 경우, 선형 회귀를 통해 y와 x로 이루어진 집합을 만들기 위한 예측 모델을 개발한다. 개발된 모델은 차후 y가 없는 x값이 입력 되었을 때, 해당 x에 대한 y를 예측하기 위해서 사용된다.

-여려 x가 존재할 경우, y와 x간의 관계를 수량화하여 어느 x가 y와 별로 관계가 없는지 알아낸다. 

예를 들면 아들과 아버지의 키들의 값을 전부 넣어서 그 관계를 어떤 함수로 생성한다고 하자. 그리고 새로운 값 즉, 어떤 사람의 키를 넣었을때, 그 자녀의 키를 예상해 주는 것이다. (함수에 따라서 반대의 경우도 가능)

다른 예로는 은행이 대출 요청자의 나이, 수입, 직업, 부양가족수, 신용도에 근거하여 대출 요청자의 위험도를 판단하는데 쓰이기도 한다.

다양한 회귀 기술에 대한 모습들을 살펴볼텐데, 선형회귀분석을 살펴보고 그다음에 로지스틱 회귀분석을 살펴보겠다. 또한 마지막으로 GLM(generalized linear model) 을 살펴보겠다.


1. 선형 회귀

선형 회귀는 설명변수를 넣은 함수를 가지고 결과(반응값)을 예측하는 것이다. 함수의 일반적은 모형은 아래와 같다. 

여기서 x1, x2, ... xk는 독립변수고이고, y는 종속 변수이다. 

여기서는 2008-2010년의 호주의 소비자불가지수를 이용하여, 회귀함수 lm()을 적용해 보겠다.


year <- rep(2008:2010, each=4)            # 2008년~2010년까지 각각 4번씩 반복한 값을 저장

quarter <- rep(1:4, 3)                            # 위와 비슷함

cpi <- c(162.2, 164.6, 166.5, 166.0, 166.2, 167.0, 168.6, 169.5, 171.0, 172.1, 173.3, 174.0)        # 변수에 수치 입력

plot(cpi, xaxt="n", ylab="CPI", xlab="")            # cpi 를 y축에 넣음, x축의 값을 제거, y축 이름, x축 이름

axis(1, labels=paste(year,quarter,sep="Q"), at=1:12, las=3)        # 축번호, 라벨 이름들, 텍스트를 수직으로 만들어줌(las) 


위의 그래프를 보면, 시간의 흐름과 물가지수는 일정한 상관관계가 있음을 알수 있다. 이러한 상관관계를 느낌으로만 아니라 수치로도 표현할수 있는데 그것이 cor()함수이다. 이함수를 통해서 두 변수의 상관계수를 알수 있다. 상관계수가 1에 가까울수록 상호 연관 정도가 큰 것이고, 0에 가까울수록 없는것이다. 음수의 경우에는 한쪽이 커지면 작아지는 음수적 관계를 표현한다. 

cor(year,cpi)                            #상관 정도 확인

cor(quarter,cpi)

fit <- lm(cpi ~ year + quarter)    # 회귀함수 만들기 

fit                                            # 회귀함수의 계수(위 수식에서 c0, c1 부분)  확인 

attributes(fit)                            # 회귀함수의 특성들 확인

fit$coefficients                        # 그중에서 계수 확인

residuals(fit)                            # 잔차(각 점들이 회귀함수에서 얼마나 떨어져 있는지) 확인


위의 상관 정보를 보면, year와 cpi는 0.909 정도로 상관관계가 높다는 것을 알수 있고, quarter와 cpi간의 계수는 0.37정도로 상관관계가 낮다는 것을 알수 있다. fit$coefficients를 치면 상관 계수들이 나온다. year의 계수는 3.887이고, quarter의 계수는 1.167이다. 다시 말하면 아래 수식에서 c1= 3.887이고 c2가 1.167인 것이다. 물가는 상대적으로 year에 값에 영향을 많이 받고, quarter의 값에 영향을 적게 받는 다는 것을 알수 있다. 



또한 3d 형대로도 출력할수 있다. 아래의 패키지를 설치하고 다운받아서 


library(scatterplot3d)                # 패키지 로딩하기

s3d <- scatterplot3d(year, quarter, cpi, highlight.3d=T, type="h", lab=c(2,3))            # x,,y,z축  등 기타 설정

s3d$plane3d(fit)        # 점선으로 그려진 판모양 그리기



##모델을 사용해서 예측해보기

data2011 <- data.frame(year=2011, quarter=1:4)            # 정보를 data.frame 형식에 담기

cpi2011 <- predict(fit, newdata=data2011)                    # predict 함수를 이용해 다음해인 2011년 회귀의 결과 예측하기 

style <- c(rep(1,12), rep(2,4))                                    # 1을 12번 , 2을 4번 있는 벡터

plot(c(cpi, cpi2011), xaxt="n", ylab="CPI", xlab="", pch=style, col=style)        # 그래프 그리기, 

axis(1, at=1:16, las=3, labels=c(paste(year,quarter,sep="Q"), "2011Q1", "2011Q2", "2011Q3", "2011Q4"))    # 축에 그려넣기


마지막에 보면 빨간색 삼각형으로 4개의 결과가 예측값이다. 


2) 로지스틱 회귀


로지스틱 회귀는 어떤 사건의 발생의 가능성을 예측하는데 사용된다. 로지스틱 회귀 모델은 다음의 등식에 따라서 만들어지게 된다. 



x1, x2,,,, xk의 값들은 모두 예측자들이다. y는 예측될 값이다. 그리고 logit(y) = ln(y / (1-y) ) 이다. 그래서 위의 등호는 아래와 같이 다시 쓰여질수 있다. 



로지스틱 회귀는 family 설정을 binomial(link="logit")으로 하고, 함수 glm()을 사용하면 만들수 있다. 

참고 : http://www.ats.ucla.edu/stat/r/dae/logit.htm



3) Generalized Linear Regression 

GLM(generalized linear model)은 선형 모델이 종속변수에 링크 함수를 통해서 대응하도록 하고, 각 측정 변수의 크기를 예측된 값의 함수에 대응되도록 함으로써 선형 회귀를 만들수 있다. 이것은 선형 회귀, 로지스틱 회귀, 그리고 푸아송 회귀를 포함하는 다양한 통계적 모델을 통합했다. 함수 glm()은 주어진 선형 예측변수와 오류 분포를 살펴보고, glm(일반화된 선형 모델)을 적용하는데 사용된다. 


## 데이터 생성하기

data("bodyfat", package="mboost")                # 데이터 생성

myFormula <- DEXfat ~ age + waistcirc + hipcirc + elbowbreadth + kneebreadth        # DEXfat 기준으로 다른 정보들을 회귀분석함.

bodyfat.glm <- glm(myFormula, family = gaussian("log"), data = bodyfat)        # 함수에 적용

summary(bodyfat.glm)                                # 얻은 정보 요약하기

잔차, 계수, 등등 정보가 출력된다. 


Call:
glm(formula = myFormula, family = gaussian("log"), data = bodyfat)

Deviance Residuals: 
     Min        1Q    Median        3Q       Max  
-11.5688   -3.0065    0.1266    2.8310   10.0966  


Coefficients:

             Estimate Std. Error t value Pr(>|t|)    

(Intercept)  0.734293   0.308949   2.377  0.02042 *  

age          0.002129   0.001446   1.473  0.14560    

waistcirc    0.010489   0.002479   4.231 7.44e-05 ***

hipcirc      0.009702   0.003231   3.003  0.00379 ** 

elbowbreadth 0.002355   0.045686   0.052  0.95905    

kneebreadth  0.063188   0.028193   2.241  0.02843 *  

---

Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1


(Dispersion parameter for gaussian family taken to be 20.31433)


    Null deviance: 8536.0  on 70  degrees of freedom

Residual deviance: 1320.4  on 65  degrees of freedom

AIC: 423.02


Number of Fisher Scoring iterations: 5



## 예측과 그래프 그리기

pred <- predict(bodyfat.glm, type="response")            # 예측함수 적용하기

plot(bodyfat$DEXfat, pred, xlab="Observed Values", ylab="Predicted Values")        # 값을 적용하기

abline(a=0, b=1)                                                        # 기준 함수를 그려넣기

도움이 되셨나요?^^



  1. 찹쌀도우너츠 2015.05.26 09:59 신고

    R... 어렵네요...

  2. 맛스타 2016.09.13 16:30

    R어렵지만, 제가 원하는 내용이 많아 많은 도움이 되었습니다. 감사합니다.

클러스터링이란? (군집화)

- 분할기법(Partitioning methods)
n개의 객체 혹은 튜플이 주어졌을 때, 분할기법은 k가 n보다 작거나 같은 군집을 나타내는 데이터 분할을 k개 만든다. 즉, 데이터를 다음 두가지 조건을 만족하도록 k개의 그룹으로 구분짓는 것이다. 

1) 각 그룹은 적어도 하나의 객체를 가져야 함.
2) 각 객체는 정확히 1개의 그룹에 속함. 

다음에 설명할 처음의 두 클러스터링인 k-Mean, k-Medoids의 클러스터링 방식이 분할기법을 잘 보여준다. 



1> k-Mean 클러스터링   
-각 군집이 군집에 있는 객체의 평균값으로 대표되는 k-means 알고리즘을 이용함. 

> iris2 <- iris                    # 새로운 변수를 설정
> iris2$Species <- NULL   # 5번째 컬럼의 종을 제거; 실제로 클러스터링이 잘 작동하는지 확인하기 위해서
> (kmeans.result <- kmeans(iris2, 3))            # kmeans 알고리즘으로 클러스터링 3개를 만드는 것을 수행함. 양끝에 괄호가 있어서 바로 수행 결과를 확인 가능

> table(iris$Species, kmeans.result$cluster)  # 실제로 클러스터링 결과를 비교해보고자 테이블을 생성하여 비교 - 


plot(iris2[c("Sepal.Length", "Sepal.Width")], col = kmeans.result$cluster)   # 

# plot cluster centers - 아래수식은 각 클러스터의 중심을 점으로 그리는 것이다. centers는 각 클러스터별로 각 컬럼의 평균값을 나타낸 것이다. 이것에서 우리가 원하는 컬럼값 2개를 선정하였다. col은 색, pch은 모양, cex은 크기를 의미 한다. 

> points(kmeans.result$centers[,c("Sepal.Length", "Sepal.Width")], col= 1:3, pch=8, cex=2)


2> k-Medoids 클러스터링

각 군집이 군집의 중앙(중앙값)에 가장 가깝게 위치해 있는 객체 중 하나로 대표될 때, k-medoids 알고리즘을 적용. 이 함수는 앞서본 k-Means 알고리즘보다 특이값이 대해서 안정적인 결과를 얻게 해준다. 하지만 이것을 구현한 PAM함수는 큰 데이터의 경우에 비효율적이라서, 큰 데이터의 샘플을 가져와서 각 샘플에 PAM (Partitioning Around Medoids) 함수를 적용해 최선의 결과를 반환하는 CLARA 알고리즘이 유용하다. 

pam(), clara()함수는 cluster 패키지에 포함됨. pamk()는 fpc패키지에 포함됨. 

코드를 통해서 pam() 함수와 pamk() 함수의 차이를 알아보겠다.


> install.packages("fpc")        # 패키지 인스톨

> library(fpc)                            # 인스톨한 패키지를 불러오기

> pamk.result <- pamk(iris2)        # pamk함수에 데이터를 넣어서 분류하고 결과를 pamk.result 변수에 저장하기

# number of clusters               

> pamk.result$nc                        # 얻을 결과중에서 클러스터의 개수 확인하기(the number of clusters)

클러스터의 개수가 2개로 나왔다. 아래 코드를 실행시키면 실제 데이터와 비교하여 어떻게 클러스터링이 되었는지 테이블 형식으로 확일 할수 있다.

#check clustering against actual species

> table(pamk.result$pamobject$clustering, iris$Species)    # 테이블을 보자. 

> layout(matrix(c(1,2), 1, 2))  # 한 화면에 두개의 그래프가 나오도록 설정.

> plot(pamk.result$pamobject)     # plot을 그리기.

> layout(matrix(1)) # 한 화면에 한그림만 나오도록(원래대로) 재설정 



위 그림의 좌측은, iris 데이터를 2개의 클러스터로 나눈것을 보여준다. 가운데 있는 선은 두 클러스터간의 거리를 눈으로 보여준다. iris 데이터의 실루엣(silhouette)을 보여준다. 각 군집은 3가지로 설명되어 있다. 위쪽을 기준으로 설명해보자. 1은 클러스터의 이름이다.(첫번째 클러스터라는 의미) 51은 이 클러스터에 속해있는 점들의 개수이다. 뒷자리의 0.81은 이 클러스터가 잘 모여 있는지 알려준다. 1에 가까울수록 잘 클러스터화 되어 있는것이고 0 주변은 두 군집 사이에 놓여 있는 점을 말하며, 음수로 나타나면 잘못된 클러스터에 속해 있을 가능성이 높다. 실제로 오늘쪽 그래프의 맨 아래쪽 바를 보면 0보다 작은 값으로 막대그래프가 향하고 있음을 발견할 수 있다. 

이제는 pam()함수를 사용해보자. 

> pam.result <- pam(iris2, 3)          # pam 함수를 적용

> table(pam.result$clustering, iris$Species)        # 테이블로 실제로 클러스터가 각 점이 배치된것을 확인


> layout(matrix(c(1,2), 1,2))            # 한 화면에 두개의 그래프가 나오도록 설정.

> plot(pam.result)                        # 그래프 그리기

> layout(matrix(1)) # change back to one graph per page

pam() 함수는 앞서 말한것 처럼 내가 몇개의 클러스터를 만들것인지 정할수 있다. 

앞선 두 함수중에서 어떤 함수가 더 낫다고 말하기는 어렵다. 해결코자 하는 문제와 해당분야 지식과 경험에 따라서 다르기 때문이다. 앞선 경우에는 우리가 임의로 3개로 클러스터를 정한 것이 더 나은 결과를 얻을 수 있었다. 다시말하면 pam()가 편리하지만 항상 최고의 결과를 보장해주지는 않는다. 


3> Hierarchical 클러스터링 (계층화)

계층화를 하는 방식에는 2가지 방식이 있다. 

1) agglomerative(집괴적) : 상향식 : 각 객체들 모여서 그룹을 형성함부터 점점 커짐

2) divisive(분할적)        : 하향식 : 덜 비슷한것들끼리 분할해 나간다. 


우리가 볼 함수는 hclust이다. 이번에도 iris 데이터를 이용하지만, 150개는 너무양이 많은 관계로 40개만 이용해 보려고 한다. 그리고 역시 종(Species)를 제거하고, 함수를 이용해 계층화 한 것이 실제와 어떻게 같거나 다른지 살펴본다.

> idx <- sample(1:dim(iris)[1], 40)        # 1~150사이의 샘플 40개를 임의로 추출

> irisSample <- iris[idx,]                        # 대응하는 숫자의 iris값을 추출

> irisSample$Species <- NULL                # 종을 제거

> hc <- hclust(dist(irisSample), method="ave")        # hc라는 변수에 dist함수를 통해서 각 row들간의 거리를 구한 값(결국 얼마나 차이가 있는가)을 hclust 함수에 넣어서 보여준다. 

> plot(hc, hang=-1, labels=iris$Species[idx])            # 그래프를 그린다. hang은 마지막 내리는 선의 길이를 표현한다. 

# cut tree into 3 clusters                

> rect.hclust(hc, k=3)                        #그려진 모양에 맞춰서 빨간색으로 클러스터를 표현합니다. k=3 이면 3개의 클러스터로 표현합니다.

> groups <- cutree(hc, k=3)            # 그룹들은 3개의 클러스터로 표현합니다.


위 그림을 보면, 우리는 세 클러스터로 데이터가 나뉘어 졌음을 알수 있다. 왼쪽은 세토사가 들어있고, 가운데는 versicolor 가 있고, 오른쪽에는 versicolor와 virginica가 섞여 있음을 알수 있다. 
이 그래프의 장점은, 만약 내가 4개나 5개등 다른 갯수의 그룹으로 나누고 싶다면 어떻게 나뉘어질지 예측할 수 있다는 것이다. 

4> Density-based 클러스터링

주어진 클러스터 내에서 각 데이터 포인드들이 주어진 반경 근처에 최소한의 개수는 가지도록 한다. 즉, 근처(neighborhood)의 밀도가 어느 한계점을 능가할 때까지 커진다. 밀도기반 클러스터링은 객체간의 거리에 기초한 대부분의 분할 기법과 다른다. 분할 기법은 보통 구형의 군집만을 찾기때문에 임의의 형태의 군집을 찾는데 어려움이 있다. (예)s자 모양의 군집등. 따라서 임의의 군집을 찾기 위해 밀도기반의 군집화 기법이 발전하였다.   

밀도기반 알고리즘은 DBSCAN을 사용하는데 fpc 패키지에 들어있다. DBSCAN에는 두가지 파라미터들이 들어있다. 

eps : 도달 가능한 거리. 이것은 이웃들의 크기를 정의한다. 

MinPts: 거리내에 있어야만 하는 최소 점들의 개수. 


> library(fpc)                # 라이브러리 불러오기

> iris2 <- iris[-5]         # 태그 삭제하기

> ds <- dbscan(iris2, eps=0.42, MinPts=5)

# compare clusters with original class labels

> table(ds$cluster, iris$Species)        # 실제로 어떻게 분할 되었는지 살피기

그런데 여기서 클러스터 0의 의미는 좀 색다르다. 어떠한 특정 군을 이야기 하는 것이 아니고 아무곳에도 할당되지 않는 것을 검정 동그라미에 할당하였다. 

> plot(ds, iris2)                        # 그래프 그리기. 각 열을 한꺼번에 비교    

> plot(ds, iris2[c(1,4)])               # 위 그래프에서 1째 컬럼, 4번째 행렬을 가져옴 


> plotcluster(iris2, ds$cluster)        #  plotcluster 함수(fpc 패키지에서 가져옴). 


위 그림에서 3개의 클러스터로 구분했음에도 0이 있는 이유는 이것들은 위3개의 클러스터 중, 어느 곳에서 할당되어 있지 않기 때문이다. 

새로운 데이터가 들어왔을때 어느 클러스터에 속하는지 한번 보겠다. 

# create a new dataset for labeling

> set.seed(435)                                # 랜덤을 고정시킴
idx <- sample(1:nrow(iris), 10)        # 1-150중 10개 뽑기 
newData <- iris[idx, -5]                # 종(species) 제거
newData <- newData+matrix(runif(10*4, min=0, max=0.2), nrow=10, ncol=4)       # 랜덤 값을 만들어서 삽입함

#label new data

> myPred <- predict(ds, iris2, newData)        # 라이브러리(class)을 추가해야 함. 

# plot result    

> plot(iris2[c(1,4)], col=1+ds$cluster)            # 그래프로 그리기. 클러스터가 0이 있어서 +1을 함.
points(newData[c(1,4)], pch="*", col=1+myPred, cex=3)        # 새로운 데이터가 어느 군집에 포함되는지 *모양으로 표시해줌

# check cluster labels

> table(myPred, iris$Species[idx])                # 새로운 군집은 어떠한 테이블을 가지고 있는지 알려줌


위 그림처럼 새롭게 들어온 데이터는 근처에 속한 클러스터의 색에 따라서 할당되어 같은 클러스터로 배정되는 것을 볼수 있다.

도움이 되셨나요?^^


  1. Shane 2016.02.21 00:44

    큰 도움 받고 갑니다! 감사합니다.

  2. DONG 2016.04.14 16:32

    정말 감사합니다!! 자세히 설명해주셔서 정말 큰 도움이 됬습니다.

  3. 우경 2016.04.29 12:18

    감사.
    많은 도움이 되었습니다^^

  4. Boo 2016.11.25 13:20

    pamk 함수를 쓸때 x,y 차원이 component1 ,component2 로 쓰여있는데 이값은 무엇을 나타내는 건가요?

  5. 사용자 보이머 2016.11.25 13:42 신고

    제가 옛날일이라 잘 기억이 안납니다...ㅠ

  6. Boo 2016.11.25 13:49

    넵 감사합니다 ㅎㅎ

  7. 리씨 2016.11.30 03:06

    정보 감사합니다.
    k-means에 관한 부분을 수업 발표때 인용해도 괜찮을까요?
    출처는 밝히겠습니 ㅎㅎ

  8. 라이오니 2016.12.03 15:41

    정말 감사합니다! 아주 쉽게 정리해주셨네요!

  9. ML 2019.10.14 17:29

    감사합니다. 일목요연하게 잘 정리되어 있어 쉽게 이해가 되네요. 정말 똑똑하신 분 같습니다.

+ Recent posts