'반복실험'에 해당되는 글 1건

  1. 2015.11.18 R (2) 이원분산분석(two-way ANOVA) - 관측값이 두개 이상일 경우 (16)

2개의 모집단에 대한 평균을 비교, 분석하는 통계적 기법으로 t-Test를 활용하였다면, 비교하고자 하는 집단이 3개 이상일 경우에는 분산분석 (ANOVA : Analysis Of Variance)를 이용합니다. 

 

설명변수는 범주형 자료(categorical data)이어야 하며, 종속변수는 연속형 자료(continuous data) 일 때 3개 이상 집단 간 평균 비교분석에 분산분석(ANOVA) 을 사용하게 됩니다.

 

분산분석(ANOVA)은 기본적으로 분산의 개념을 이용하여 분석하는 방법으로서, 분산을 계산할 때처럼 편차의 각각의 제곱합을 해당 자유도로 나누어서 얻게 되는 값을 이용하여 수준평균들간의 차이가 존재하는 지를 판단하게 됩니다. 

 

지난번 포스팅에서 이원분산분석(two-way ANOVA) 중에서 (1) 관측값이 하나일 경우 (one observation in each cell)의 이원분산분석 에 대해서 알아보았다면, 이번 포스팅에서는 (2) 관측값이 두개 이상일 경우(more than 2 observations in each cell)의 이원분산분석에 대해서 알아보겠습니다.  단, 이때 각 집단 내 관측값의 개수는 동일합니다.

 

관측값이 두개 이상일 경우의 이원분산분석에서는 두 개의 요인 수준별 주 효과(main effect)와 더불어 두 요인이 서로 상호간에 영향을 주고 받으면서 나타나는 반응효과인 교호작용 효과(interaction effect)를 추가로 분석하는 것이 관측값이 하나인 경우와의 차이점입니다.

 

 

[ 관측값의 개수에 따른 이원분산분석의 분석 대상 ]

 

 

 

 

요인 A의 i번째 수준과 요인 B의 j번째 수준에서 측정된 k번째 관측값을 Yijk라고 할 때 데이터셋의 형태는 아래와 같습니다. 

 

 

[ 이원분산분석 - 데이터 형태 ]

(dataset for two-way ANOVA, factor A & B, factor levels a & b, observations k)]

 

 

 

 

요인 A의 i번째 수준과 요인 B의 j번째 수준에서 측정된 k번째 관측값을 Yijk는 요인 A와 B의 주 효과(main effect)와 함께 두 요인의 교호작용 효과(interaction effect)이 존재하게 되며, 편차 Yijk - Y^... 는 아래와 같이 4개의 성분합으로 나타낼 수 있습니다.

 

 

[ 편차의 4개 성분합으로의 분해 ]

 

 

 

위의 식의 양변을 제곱하여 모든 관측값에 대하여 더한 후에 정리를 하면

 

SST = SSA + SSB + SSAB + SSE 

 

의 관계식을 얻게 됩니다.

 

이를 요인과 교호작용별로 제곱합, 자유도, 평균제곱, F통계량을 알기 쉽도록 정리한 이원분산분석표는 아래와 같습니다.

 

[ 이원분산분석표 (two-way ANOVA table) ]

 

 요인

제곱합

(squared sum)

자유도

(degrees of freedom) 

평균제곱

(mean squared) 

F statistics 

 요인 A

(factor A)

 SSA

a-1

MSA

MSA/MSE

 요인 B

(factor B)

 SSB

b-1

MSB

MSB/MSE

 교호작용

(interaction effect of A, B)

 SSAB

 (a-1)(b-1)

MSAB

MSAB/MSE 

 오차

(error)

 SSE

ab(n-1)

MSE

 

 계

(total)

 SST

 nab-1

 

 

 * SST : Total Sum of Squares,  SSE : Error Sum of Squares

 

 

검정통계량으로는 F 통계량(요인A 효과 검정 = MSA/MSE, 요인B 효과 검정 = MSB/MSE, 교호작용 효과 검정 = MSAB/MSE)을 사용하며, 요인 A의 효과와 요인 B, 교호작용 효과에 대한 검정 절차 및 방법은 아래와 같습니다.

 

 

[ 관측값이 두개 이상인 경우의 이원분산분석 절차 (procedure of two-way ANOVA when there are more than 2 observations in each cell) ]

 

 

 

[ 이원분산분석 검정 방법 ]

 

 

(1) 교호작용 효과 (interaction effect)

   - 귀무가설 H0 : (αβ)ij = 0

   - 대립가설 H1 : 모든 (αβ)ij는 0이 아니다

   - 검정통계량 : F0 = MSAB/MSE

   - 판정 : P-value가 유의수준(α)보다 작으면 귀무가설 H0를 기각하고, 대립가설 H1을 채택

 

 

(2) 요인 A의 주 효과 (main effect of factor A)

   - 귀무가설 H0 : α1 = ... = αa = 0

   - 대립가설 H1 : 모든 αi 는 0이 아니다

   - 검정통계량 : F0 = MSA/MSE

   - 판정 : P-value가 유의수준(α)보다 작으면 귀무가설 H0를 기각하고, 대립가설 H1을 채택

 

 

(3) 요인 B의 주 효과 (main effect of factor B)

   - 귀무가설 H0 : α1 = ... = αb = 0

   - 대립가설 H1 : 모든 αj 는 0이 아니다

   - 검정통계량 : F0 = MSB/MSE

   - 판정 : P-value가 유의수준(α)보다 작으면 귀무가설 H0를 기각하고, 대립가설 H1을 채택

 

 

 

 

 

그럼, 아래 예제에 대해서 R의 aov() 함수를 활용해서 문제를 풀어보도록 하겠습니다.

 

 

(문제)  학급과 성별에 따른 통계학 성적이 아래와 같다고 할 때(각 cell 별 3명의 학생 성적 측정), 유의수준 α = 0.05 에서 학급과 성별 요인의 주효과와 교호작용효과에 대해 검정하시오.

 

[학급과 성별에 따른 통계학 점수표]

 

         Factor B (class)

 

Factor A (gender)

Class 1 

Class 2 

Class 3 

Mean 

남성 (M) 

 71, 77, 78

76, 77, 78 

71, 70, 69 

 75.33

 여성 (F)

 76, 76, 80

79, 78, 77

71, 71, 70 

 74.11

 Mean

76.33 

77.50 

70.33 

74.72 

 

 

 

아래에 요약통계량과 교호작용 여부를 가늠해볼 수 있는 그래프 생성 R 함수도 일부 추가하였습니다. 만약 교호작용효과 그래프(Interaction Effect Plot) 가 서로 교차를 하면 교호작용이 있다고 보면 되며, 서로 평행선을 이룬다면 교호작용이 없다고 해석하면 되겠습니다.  (교호작용도는 엑셀로 치면 "꺽은선형 차트"가 되겠습니다)

 

 

[ R aov() 함수 사용 방법 ]

 

 
> # (2) two-way ANOVA when there are more than one observation per cell (different treatment groups)
> #     (the number of observations in each cell must be equal)
> 
> gender.fac <- as.factor(c(rep("M", 9), rep("F", 9)))
> gender.fac
 [1] M M M M M M M M M F F F F F F F F F
Levels: F M
> 
> class <- c("class_1", "class_1", "class_1", "class_2", "class_2", "class_2", "class_3", "class_3", "class_3")
> class.fac <- as.factor(c(rep(class, 2)))
> class.fac
 [1] class_1 class_1 class_1 class_2 class_2 class_2 class_3 class_3 class_3 class_1 class_1
[12] class_1 class_2 class_2 class_2 class_3 class_3 class_3
Levels: class_1 class_2 class_3
> 
> score_stats <- c(71, 77, 78, 76, 77, 78, 71, 70, 69, 80, 76, 80, 79, 78, 77, 73, 71, 70)
> 
> 
> # summary statistics
> score.df <- data.frame(gender.fac, class.fac, score_stats)
> score.df
   gender.fac class.fac score_stats
1           M   class_1          71
2           M   class_1          77
3           M   class_1          78
4           M   class_2          76
5           M   class_2          77
6           M   class_2          78
7           M   class_3          71
8           M   class_3          70
9           M   class_3          69
10          F   class_1          80
11          F   class_1          76
12          F   class_1          80
13          F   class_2          79
14          F   class_2          78
15          F   class_2          77
16          F   class_3          73
17          F   class_3          71
18          F   class_3          70
> 
> install.packages("doBy")

Installing package into ‘C:/Users/user/Documents/R/win-library/3.2’
(as ‘lib’ is unspecified)
trying URL 'http://cran.rstudio.com/bin/windows/contrib/3.2/doBy_4.5-13.zip'
Content type 'application/zip' length 3431466 bytes (3.3 MB)
downloaded 3.3 MB

package ‘doBy’ successfully unpacked and MD5 sums checked

The downloaded binary packages are in
	C:\Users\user\AppData\Local\Temp\RtmpWOKfji\downloaded_packages

 

 

> library(doBy)
> summaryBy(score_stats ~ gender.fac, data=score.df, FUN = c(mean, sd, min, max))
  gender.fac score_stats.mean score_stats.sd score_stats.min score_stats.max
1          F         76.00000       3.807887              70              80
2          M         74.11111       3.756476              69              78
> summaryBy(score_stats ~ class.fac, data=score.df, FUN = c(mean, sd, min, max))
  class.fac score_stats.mean score_stats.sd score_stats.min score_stats.max
1   class_1         77.00000       3.346640              71              80
2   class_2         77.50000       1.048809              76              79
3   class_3         70.66667       1.366260              69              73
> summary(score_stats, data=score.df)
   Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
  69.00   71.00   76.50   75.06   78.00   80.00 
> 
 
> # box plot and interaction plot
> par(mfrow = c(2, 2))
> plot(score_stats ~ gender.fac, main="box plot by gender")
> plot(score_stats ~ class.fac, main="box plot by class")
> interaction.plot(gender.fac, class.fac, score_stats, bty='l', main="interaction effect plot")
> interaction.plot(class.fac, gender.fac, score_stats, bty='l', main="interaction effect plot")
> 

 


> 
> # two-way ANOVA : aov()
> # replicates, interaction effect
> aov_model = aov(score_stats ~ gender.fac + class.fac + gender.fac:class.fac)
> summary(aov_model)
                     Df Sum Sq Mean Sq F value   Pr(>F)    
gender.fac            1  16.06   16.06   3.853 0.073249 .  
class.fac             2 174.11   87.06  20.893 0.000123 ***
gender.fac:class.fac  2   4.78    2.39   0.573 0.578354    
Residuals            12  50.00    4.17                     
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

 

 

 

R 분석 결과 중에서 제일 아래에 있는 이원분산분석표를 가지고 해석을 해보겠습니다.  먼저 (1) 교호작용이 있는지를 살펴보면, 성별과 학급별에 따른 교호작용효과에 대한 P-value가 0.578354로서 유의수준 α 0.05보다 크므로 귀무가설 H0를 채택하여 "성별과 학급의 교호작용에 의한 효과는 없다"고 판단할 수 있습니다.

 

두번째로 (2) 성별 요인(factor A levels of "M", "F")에 대한 P-value는 0.073249로서 유의수준 α 0.05 보다 크므로 귀무가설 H0를 채택하게 되어 "성별에 따른 통계학 성적 차이는 없다"고 판단할 수 있습니다.

 

세번째로 (3) 학급 요인(factor B levels of "class_1", "class_2", "class_3")에 따른 P-value는 0.000123으로서 유의수준 α 0.05보다 작으므로 귀무가설 H0를 기각하고 대립가설 H1을 채택하여 "학급에 따른 통계학 성적의 차이가 있다"고 판단할 수 있습니다.

 

 

학급 요인에 대해서는 유의수준 α 0.05에서 차이가 있다고 나왔으므로, 어떤 학급 간에 차이가 있는지를 알아보고 싶다면, 사후 쌍을 이룬 다중 비교 분석(post-hoc pair-wise multiple comparison)을 하면 됩니다.  이에 대한 자세한 설명은 아래의 링크를 참조하시기 바랍니다.

  • 쌍을 이룬 집단 간 평균 다중비교 (multiple comparison)

Tukey's HSD(honestly significant difference) test 참조

Duncan's LSR(least significant range) test 참고

 

 

  • 대비 (contrast)

샤페 검정법 (scheffe test) 참고

 

 

많은 도움이 되었기를 바랍니다. 

 

이번 포스팅이 도움이 되었다면 아래의 '공감 ~♡'를 꾸욱 눌러주세요. ^^

 

Posted by R Friend R_Friend

댓글을 달아 주세요

  1. Kwon 2016.04.06 00:47  댓글주소  수정/삭제  댓글쓰기

    R 과 관련된 포스팅 지난주부터 쭉 정독해서 보고 있습니다. 제게 큰 도움이 된 것 같습니다. 정말 감사합니다 ^^

    혹시, 비모수 일원분산분석 / 비모수 이원분산분석 / 회귀분석 등과 관련한 포스팅 도 해주실 수 있으신지요 ?

    • R Friend R_Friend 2016.04.06 06:38 신고  댓글주소  수정/삭제

      좋게 봐주셔서 감사합니다. ^^ 비모수분석쪽은 포스팅 몇개 써놓은게 있으니 참고하시구요, 회귀분석은 앞으로 쓰긴 할텐데요...일단 요즘 연재하고 있는 선형대수 먼저 끝내고 쓰려고 합니다. 직장인이다보니 주말에만 글쓰곤 해서 시간이 오래 걸리네요

  2. 2016.05.22 18:17  댓글주소  수정/삭제  댓글쓰기

    rm anova라고 하려면, 한 개체에 대해 반복적으로 측정하는 변수가 있어야 합니다. 예를 들자면 환자 한명에 대해 매달 1회씩 5달에 거쳐 측정을 한다면 시간이란 변수가 반복측정변수가 됩니다.. 여하간에 잘못된 포스팅으로 보입니다

  3. 통계병아리 2016.10.25 14:52  댓글주소  수정/삭제  댓글쓰기

    Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
    분산분석 시행시 결과 출력물 맨 아래에 이 문장이 뜨는데, 이것을 어떻게 분석하면 되나요? 아니면 분석할 필요가 없는 단순한 index 인가요?

    그리고, class <- c("class_1", "class_1", "class_1", "class_2", "class_2", "class_2", "class_3", "class_3", "class_3")를
    class <- c(rep("class_1",3),rep("class_2",3),rep("class_3",3)) 으로 나타내서 풀어보았는데
    factor화 하니 숫자로 나오더군요, 왜 이러한 결과가 나오는 걸까요?

    • R Friend R_Friend 2016.10.25 17:24 신고  댓글주소  수정/삭제

      1) Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
      는 분석결과를 해석할 때 보기에 편하라고 매 분석때마다 동일하게 나타나는 안내문입니다. 회귀분석을 해보면 각 x변수별로 p-value 가 0.001 보다 작으면 별이 3개(***), p-value가 0.001~0.01 이면 별이 2개(**), p-value가 0.01~0.05 이면 별이 1개(*), p-value가 0.05보다 크면 별이 없게 보여줍니다. p-value 숫자를 일일이 안봐도 별 개수만 보면 빠르고 편하게 해석할 수 있습니다.

      2) 두번째 질문은 저도 왜 그런지 모르겠네요. rep() 함수를 사용해서 해도 결과가 동일할텐데요... character 를 factor로 변환하는거라 에러가 끼어들 여지가 없어보이는데요... 왜 그런지 저도 모르겠습니다. ^^;

    • 통계병아리 2016.10.25 21:45  댓글주소  수정/삭제

      아하, 그런 것이었군요. 이제 이해가 되네요.
      rep 함수 문제는 한 번 다시 해봐야겠네요, 감사합니다.

  4. 통계왕 2017.01.26 18:05  댓글주소  수정/삭제  댓글쓰기

    R을 이용한 글 정말정말 잘보고있습니다.!!!
    제가 궁금한건 aov를 적용할때 + 와 * 의 차이를 여쭤보고 싶습니다.
    +만을 쓸 경우 교호작용이 출력되지 않고(trt:trt를 쓰지 않는다는 가정에서)
    *를 쓰게되면 교호작용이 함께 출력되는데 이 차이 말고는 똑같은건가요 ?
    그럼 굳이 trt:trt 이런방법을 쓰지 않아도 되지 않는가 궁금합니다.!!
    그리고 anova의 자유도에 대해서도 궁금합니다 ㅜ ㅜ (사실 이게 더 궁금합니다....)
    교호작용여부를 출력하고 싶은데 "Estimated effects may be unbalanced" 이러한
    문구와 함께 p value 가 출력되지 않는 경우가 있습니다. 구글링을 해보면 자유도의 문제라고
    하는것 같은데 정확한 해답을 얻지 못했습니다..ㅠ

    새해 복 많이 받으시고 앞으로도 좋은 R 글 기대하겠습니다. !!

    • R Friend R_Friend 2017.01.26 18:29 신고  댓글주소  수정/삭제

      통계왕님, 반갑습니다.

      (1) R에서 'x*y' notation은 'x', 'y', 'x와 y의 교호작용변수' 의 3개를 모두 포함한다는 뜻입니다.

      반면 'x:y' notation 은 'x와 y의 교호작용변수' 만을 뜻합니다.

      본문에서 x + y + x:y 라고 쓴 것은 x변수 주효과, y변수 주효과, x와 y변수의 교호작용효과 각 각을 직접 하나씩 명기해줬다고 보시면 됩니다.

      (2) 'Estimated effects may be unbalanced' 메시지는 ANOVA 분석 대상 cell 의 관측치 개수가 동일하지 않을 때 뜹니다.

      이원분산분석은 "각 cell의 관측치 개수가 동일"할 때 사용합니다. 본문의 예에서는 각 cell 별로 3개씩의 동일한 관측치가 들어가 있습니다.

      cell 관측치 개수 확인해보시기 바랍니다.

    • 통계왕 2017.01.26 19:34  댓글주소  수정/삭제

      아 그럼.. 단순히 데이터프레임의 오류인건가요??? 자유도와는 상관없는 내용인건가요,,,?!

  5. SMA 2017.08.10 14:33  댓글주소  수정/삭제  댓글쓰기

    안녕하세요
    R 공부 하며서 정말 큰 도움을 받고 있어요. 감사합니다. ^-----^

    이 포스팅을 읽고

    RM ANOVA 로 분석을 하고 자 할때는
    aov를 어떻게 적용해야할 지에 대해 여쭤보고 싶어서 댓글드려요

    감사합니다. ~~

    • R Friend R_Friend 2017.08.10 15:34 신고  댓글주소  수정/삭제

      안녕하세요 .
      Repeated Measure 데이터도 포스팅 R 예제와 동일한 장식으로 anova 분석하시면 됩니다.

      데이터 형태가 똑같습니다.

    • SMA 2017.08.13 16:41  댓글주소  수정/삭제

      답변 감사합니다. ^----^

      전 '객' 님의 댓글에 대한 답변글을 보고
      '바로 잡았다'고 하는 부분이 헷갈렸어요

      궁금한 부분을 좀더 자세히 말한다면
      다음과 같아요

      저는 특정 치료를 받은 군과 치료를 받지 않은 군으로 나누었고, 특정 test를 '실험전, 실험중간, 실험후'에 반복측정하여 이 데이터를 RM ANOVA로 돌려
      치료여부효과, 시간효과 , 치료와 시간의 교호작용을 보려했어요


      위의 포스터에서 예제로 올려주신 데이터는 한개체에서 시간에 따른 반복측정을 한 것이 아니어서
      동일하게 적용해도 오류가 없을까 의문이 들었어요

      ( 예를 들면 위의 예제
      성별*class의 데이터 값 각각이 아무런 연관성이 없지만

      치료*시간의 데이터 값 즉
      한사람에서 시간에 따라 3번 측정한 데이터 값은 처음 데이터 값이 두번째, 마지막에 측정한 데이터 값에 영향을 미쳐서요.)


      답변처럼 동일하게 aov를 적용해도 될것 같기도 하고, 오류가 있을 것 같기도 해서 한번 더 질문드려요 ^^

      감사합니다.

  6. 2018.05.03 09:21  댓글주소  수정/삭제  댓글쓰기

    비밀댓글입니다

  7. 임카터 2018.05.03 09:23  댓글주소  수정/삭제  댓글쓰기

    의학 관련 댓글 남겼는데 혹시 댓글 보는 방법을 몰라서 혹시라도 보셨더라면, carter.lim09@gmail.com 이쪽으로 한번만 확인 해주시면 진짜 감사하겠습니다. ㅠㅠ !!

    좋은 하루 보내세요! 오늘은 날씨가 제 마음과 같네요. ㅎㅎ

  8. 닥터케빈 2018.10.23 11:21  댓글주소  수정/삭제  댓글쓰기

    안녕하세요? 항상 유익한 포스팅으로 공부 잘하고 있습니다.
    한가지 궁금한 것이 있는데요. 편차의 분해에서 교호작용과 오차 부분이 조금 이상한 것 같습니다.
    제 생각에는 교호작용 부분은 y_ij.의 평균 - y_i..의 평균 - y_.j.의 평균 + y_...의 평균이 될 것 같고,
    오차는 y_ijk - y_ij.의 평균될 것 같습니다.