7-2 표본오차의 평가와 통계적 효율성
확률적 요인(chance)은 모집단으로부터 추출되는 표본의 구성과 개별 구성원에 대한 측정에서 오차를 야기시키는데, 표본조사의 신뢰성(reliability)이란 표본오차의 크기로 평가된 표본조사의 품질을 의미하며, 표본조사의 타당성(validity)이란 표본자료가 수학적 계산과정이나 여타의 외생적 요인으로부터 영향을 받지 않는 정도를 의미한다.
그러나 표본오차는 단순히 표본추출과 연관된 우연의 결과이므로 확률 법칙을 이용하여 모집단의 '진정한 값'을 중심으로 한 통계량의 분포로 평가될 수 있다. 즉 무작위로 추출된 표본으로부터 자료를 수집한다면 표본오차의 범위(E)를 확률적으로 상술할 수 있다. 물론 집락표본과 층화표본의 경우에 있어서도 표본오차를 평가할 수 있으나, 여기서는 단순 무작위표본에 있어서 표본오차의 평가와 신뢰구간의 문제만을 다루기로 한다.
1. 평균값에 있어서 표본오차의 평가와 신뢰구간
제품의 가계당 평균 소비량이나 총매출액 등은 표본자료로부터 추정될 수 있는 가장 보편적인 형태의 모수인데, 하나의 표본평균을 이용하여 모집단의 평균을 추정하는 데 있어서 나타날 수 있는 표본오차의 크기는 표본평균의 표준오차를 근거로 하여 상술된다. 즉 조사자는 적절한 z-값에 표본평균의 표준오차를 곱하여 표본자료에서 나타날 수 있는 표본오차의 크기(E)를 계산하는데, 조사자가 원하는 신뢰수준에 해당하는 z-값은 표준정규분포표(z-분포표)를 참조하여 쉽게 구할 수 있다.
| 표본오차의 크기(E) = 신뢰수준에 해당하는 z-값 x 표본평균의 표준오차 |
이 때 '표본평균 ± E'를 모집단 평균의 신뢰구간(confidence interval)이라고 한다. 즉 확률표본을 이용한 조사에서 상표 A에 대한 (표본의) 평균수요가 3500단위이고 특정한 신뢰수준(예컨대, 95%)에서 E가 400 단위라면 상표 A에 대한 '진정한'(모집단의) 수요가 3100내지 3900단위내에 들어갈 확률이 95%임을 의미한다.
그러나 모집단의 분산이 알려져 있지 않은 상태에서 모수를 추정하기 위해 사용된 표본의 크기가 30보다 적다면(n<30) z-값 대신에 t-값을 사용해야 하는데, 그것은 표본의 크기가 작을수록 표본평균의 표준오차가 커지므로 표준정규분포(z-분포)보다 넓은 t-분포가 소표본에 적합하기 때문이다. 물론 t-값은 t-분포표를 참조하여 구할 수 있다.
이제 표본오차의 크기(E)를 계산하여 모집단 평균의 신뢰구간을 결정하기 위한 절차를 예시를 통해 자세히 살펴보기로 하자.
한 낙농회사가 2000가계로 구성되어 있는 지역시장의 가계당 하루 우유소비량을 조사한다고 가정하자. 2000가계에 대한 전수조사에는 비용과 시간이 지나치게 많이 소요될 것이므로 그러한 모집단으로부터 50가계를 무작위로 추출하여 표본조사를 실시하였는데, 그 결과는 다음과 같다.
| 표본의 크기 = 50(가계) 가계당 평균우유 소비량 = 2.5(리터) 가계당 우유소비량의 편차제곱의 합 = 39.7(리터) |
여기서 표본통계량인 표본의 평균은 모집단모수인 진정한 모집단평균에 대해 불편성과 일치성을 모두 갖춘 추정량(추정의 근거가 되는 통계량)이므로, 예시에서 모집단의 평균 우유소비량은 가계당 2.5리터이며 모집단인 지역시장에서의 전체 우유소비량은 하루에 5000리터(2.5 x 2000)라고 할 수 있다.
그러나 이러한 수치는 모집단에 있어서 우유소비량의 '진정한 값'에 대한 추정치를 표본조사를 통해 구한 것이므로 표본오차를 포함한다. 따라서 조사자는 그러한 표본오차의 크기(E)를 계산하여 고려해야 하는데, 표본오차의 크기는 z-값에 표본평균의 표준오차를 곱하여 구할 수 있다.
이미 설명한 바와 같이 표본평균의 표준오차는 모집단의 표준편차/표본크기의 제곱근으로 구할 수 있으나, 불행하게도 예시에서는 모집단의 표준편차를 알 수 없기 때문에 우선 모집단의 표준편차를 추정해야 한다.
즉 모집단 표준편차는 표본의 표준편차 x 표본크기/(표본크기-1)의 제곱근으로 구할 수 있으며, 만일 표본의 크기가 크다면(n>30) 표본의 표준편차를 그대로 사용할 수 있다.
| 모집단 표준편차의 불편추정량 = 표본의 표준편차 x 표본크기/(표본크기-1)의
제곱근 = 표본의 표준편차(단, n>30경우에만 대체가능) |
우선 표본의 표준편차는 편차제곱의 합/표본크기의 제곱근이므로 예시에서는 0.891이 되며, 모집단 표준편차에 대한 불편추정량은 0.9가 된다. 물론 예시에서는 대표본이므로 표본의 표준편차인 .891을 그대로 모집단 표준편차의 불편추정량으로 사용할 수 있다.
따라서 표본평균의 표준오차는 모집단의 표준편차에 해당하는 표본의 표준편차/표본크기의 제곱근이므로 0.126으로 계산된다.
그 다음 조사자는 표준정규분포표(z-분포표)로부터 원하는 신뢰수준(예컨대, 95%)에 해당하는 z-값을 찾아야 하는데, 결국 z-값은 하나의 표본평균이 표본평균들의 평균으로부터 표준오차의 몇배만큼 떨어져 있는가를 나타낸다(표준화 공식). 표준정규분포표(z-분포표)에서 ± 1의 z-값은 표본평균들의 68%, ± 2의 z-값은 표본평균들의 95%, ± 3의 z-값은 표본평균들의 99%를 포괄하며 평본평균들은 그들의 평균(결국 모집단의 진정한 평균 )을 중심으로 1.96배의 표준오차 범위 내에 95%가 포함되어 있는 셈이다.
따라서 표본오차의 크기(E)는 0.25(=1.96 x 0.126)로 계산된다.
즉 z-값에 표준오차를 곱하면 하나의 표본평균이 표본평균들의 평균인 모집단의 평균으로부터 어느 정도 멀리 떨어져 있는지를 나타내 준다(표본오차의 계산공식). 즉 모집단평균 ± 한 배의 표준오차는 68%, 모집단평균 ± 두 배의 표준오차는 95%, 모집단평균 ± 세 배의 표준오차는 99%의 표본평균들을 포괄하고 있으므로 모집단평균 ± 1.96배의 표준오차는 95%의 표본평균들을 포괄한다. 이는 하나의 표본평균이 모집단평균 ± 1.96배의 표준오차 범위내에 포함될 확률이 95%라는 것을 의미하며, 다시 말하면 모집단의 '진정한' 평균이 표본평균 ± 1.96배의 표준오차에 포함될 확률이 95%라는 뜻이다.
이제 조사자는 95%의 신뢰수준에서 모집단 평균의 진정한 값의 범위(신뢰구간)를 다음과 같이 상술할 수 있다.
표본평균 - 표본오차의 크기
< 모집단평균 < 표본평균 + 표본오차의 크기 |
그러므로 모집단에서 가계당 평균 우유소비량의 진정한 값은 95%의 확률로 하루 2.25 내지 2.75리터가 된다. 또한 지역시장 전체의 우유소비량에 대한 신뢰구간은 단순히 모집단 평균소비량에 대한 신뢰구간 x 모집단의 크기로서 구할 수 있으므로, 95%의 신뢰수준에서 전체 우유소비량은 4500내지 5500리터라는 결론을 얻을 수 있다.
2.25(리터) <모집단평균 <
2.75(리터) |
여기서 만일 조사자가 보다 높은 신뢰수준을 원한다면 분석절차는 동일하지만 z-값이 커질 것이므로 표본오차의 크기(E)도 커지고 신뢰구간이 넓게 된다. 예를 들어, 신뢰수준 99%에서 z-값은 2.58이므로 모집단평균은 2.17 내지 2.83리터가 되며 전체 모집단에 대하여 4340 내지 5600리터가 된다. 만일 기업의 지역시장 점유율이 30%라면 하루에 1302 내지 1698리터가 판매될 것이라는 예상을 99% 확신할 수 있게 된다.
내지 2.83리터가 되며 전체 모집단의 소비량은 4340 내지 5660리터가 된다. 만일 기업의 지역시장 점유율이 30%라면 하루에 1302 내지 1698리터가 판매될 것이라는 예상을 99% 확신할 수 있게 된다.
또한 표본평균의 표준오차는 표본의 크기가 클수록 적어지므로 특정한 신뢰수준을 고집하면서 신뢰구간을 좁히기 위해서는 표본의 크기를 증대시켜야 한다.
| 표본평균의 표준오차는 모집단의
표준편차/표본크기의 제곱근으로
계산되지만 모집단의 표준편차를 모를 때에는 표본의
표준편차로부터 모집단 표준편차에 대한 불편추정량을 구하여
사용해야 한다. 이와 같이 모집단의 표준편차를 모르기 때문에 불평추정량을 사용할 때에는 원칙적으로 z-분포가 아니라 t-분포를 사용해야 하며, 따라서 표본평균이 모집단평균으로부터 표준오차의 몇배만큼 떨어져 있는가도 z-값이 아니라 t-값으로 나타낸다. 단지, n>30일 때에는 t-분포가 z-분포에 접근하므로 실제에 있어서는 모집단의 표준편차를 모르며 동시에 표본의 크기가 작을 때에만 t-분포를 사용한다. |
2. 비율값에 있어서 표본오차의 평가와 신뢰구간
모집단의 평균을 표본의 평균으로부터 추정하는 경우와 동일한 절차에 따라 조사자는 표본비율을 근거로 하여 모집단의 비율을 추정할 수 있는데, 이러한 비율값은 일정한 특성을 갖는 구성원(들)의 모집단 비율을 다루는 연구에 적합하다. 즉 모집단 비율값에 대한 추정치의 표본오차는 평균값 추정치의 표본오차와 같은 방법으로 규정되며 유일한 차이는 표본평균의 표준오차 대신에 표본비율의 표준오차를 사용한다는 점이다.
예시를 위해 우유소비에 관한 표본조사에서 선호되는 우유의 종류를 알아본 결과, 표본구성원 50명중에서 20명이 딸기우유를 선호하는 것으로 밝혀졌다고 가정하자. 표본비율은 모집단 비율에 대해 불편성과 일치성을 모두 갖춘 추정량이므로, 예시에서 딸기 우유를 선호하는 모집단 비율은 표본비율과 동일한 40%로 추정될 수 있다.
그러나 이러한 수치는 모집단에 딸기우유를 선호하는 '진정한' 비율에 대한 추정치를 표본조사를 통해 구한 것이므로 표본오차를 포함한다. 따라서 조사자는 그러한 표본오차의 크기(Ep)를 계산하여 고려해야 하는데, 이미 설명한 바와 같이 표본오차의 크기는 z-값에 표본비율의 표준오차를 곱하여 구할 수 있다.
표본비율의 표준오차는 표본비율x(1-표본비율)/표본크기의 제곱근으로 구한다. 물론 표본비율의 표준오차를 계산하기 위해 모집단 비율 대신에 표본비율을 사용하는 일은 다소의 오차를 수반할 것이지만 이러한 오차는 편의성을 갖지 않는 것으로 간주될 수 있으며, 특히 표본비율이 0 또는 1에 아주 가까운 값이 아니며 표본의 크기가 커질수록(n>30) 무시할 수 있다(또는 표본크기 x 표본비율과 표본크기 x (1-표본비율) > 10)
따라서 예시에서 표본비율의 표준오차는 0.069(=0.4x0.6/50의 제곱근)가 된다.
한편 95%의 신뢰수준에 해당하는 z-값은 1.96이므로 그러한 신뢰수준에서 표본오차의 크기는 0.135(1.96x0.069)가 된다. 따라서 95%의 신뢰수준에서 모집단 비율은 25.6% 내지 53.5%이며, 만일 조사자가 이러한 신뢰수준을 고집하면서 신뢰구간을 좁히기를 원한다면 표본의 크기를 증대시켜야 한다.
표본비율 - 표본오차의 크기
< 모집단비율 < 표본비율 + 표본오차의 크기 |
3. 표본의 크기와 통계적 효율성
3-1. 표본오차의 통제
조사자는 일정한 신뢰수준에서 표본의 크기를 조정함으로써 표본오차의 크기를 통제할 수 있는데, 표본의 크기가 증가함에 따라서 표본평균들은 모집단 평균 주위에 가깝게 분포되며 그 결과 표준오차도 감소한다.
그러나 표본의 크기가 증가함에 따라 표준오차(따라서 표본오차)는 감소하지만 자료을 수집하고 처리하는 비용이 증가할 것이므로 조사자는 표본조사결과의 정밀성과 조사비용을 호환적으로 선택해야 한다. 더욱이 표본의 크기가 갖는 한계효과(marginal effect)는 표본이 점차 커감에 따라 감소한다. 다시 말해 작은 표본에 수개의 구성원을 추가로 포함시키는 것은 큰 표본에 같은 수의 구성원을 추가시키는 경우보다 신뢰구간의 폭을 더 많이 좁혀 줄 수 있음에 유의해야 한다.
한편 표준오차는 표본크기의 증대와 비례적으로 감소하지는 않으며, 표준오차를 구하는 식에서 알 수 있듯이 표준오차(따라서 표본오차)의 크기를 반으로 줄이기 위하여는 표본의 크기(n)가 네 배로 증대되어야 한다.
3-2. 표본크기의 결정
표본의 크기로 결정하기 위한 첫 번째 절차는 원하는 신뢰수준과 신뢰구간의 폭을 결정하는 일인데, 이러한 의사결정은 수용할 수 있는 불확실성의 크기, 불확실성을 감소시키기 위해 수반되는 비용, 오류가 야기시키는 비용에 관련된다. 마케팅 조사는 그릇된 마케팅 의사결정으로부터 야기되는 손실에 대해 의사결정자가 갖는 유일한 대응이므로 마케팅 조사의 비용은 그릇된 의사결정의 위험을 감소시키기 위한 투자로 인식되어야 하며, 신뢰수준과 신뢰구간의 폭을 결정하는 데 있어서 가장 중요한 요소로 작용한다.
이론적으로는 표본조사의 한계비용이 조사결과의 정밀성에서 기대되는 한계이익과 같아지는 표본의 크기를 선택해야 하지만, 직관적으로는 마케팅 의사결정이 많은 위험을 내포하고 그릇된 의사결정의 비용이 클수록 신뢰수준을 높이고 신뢰구간을 좁히기 위해 표본의 크기를 증대시킨다. 마케팅 의사결정에서는 대체로 95%의 신뢰수준이 사용되는데, 이는 진정한 모집단의 모수가 신뢰구간에 의해 규정한 범위를 벗어날 확률이 5% 미만임을 나타내는 것이다.
그러나 모집단 모수를 추정하는 데 있어서 표본오차의 크기를 결정하는 일은 조사자가 모집단의 모수 자체에 관한 정보를 갖고 있지 않기 때문에 대단히 어려우며, 더욱이 추정된 모수의 값이 의사결정의 기준치와 유사할 때 민감한 문제를 야기시킨다. 예를 들어, 선반기계의 손익분기점이 100단위일 때 표본조사를 통해 예측된 수요가 이러한 값과 유사하다면 단지 10단위의 오차라도 기업의 흥망을 좌우하므로 다소의 조사비용을 감수하더라도 표본의 크기를 증대시켜 신뢰구간의 폭을 좁혀야 할 것이다.
이러한 딜레마에 대응하기 위한 한 가지 방법은 축차적 표본추출법(sequential sampling)인데, 조사자는 우선 작은 표본을 사용하여 모집단의 모수를 추정하여 만일 그값이 의사결정의 기준치에 유사한 경우라면 표본의 크기를 증대시켜 다시 모수를 추정할 수 있다. 물론 표본의 크기를 증대시켜 추정한 모수가 처음 추정한 모수와 별다른 차이를 보이지 않을 수 있지만, 표본의 크기가 증대되었으므로 그러한 모수의 신뢰구간은 좁혀질 것이다. 조사자는 신뢰구간이 바람직한 폭으로 축소될 때까지 이러한 과정을 반복할 수 있다.
3-2-1. 모집단 평균을 추정하기 위한 표본의 크기
일정한 신뢰수준에서 수용할 수 있는 표본오차의 크기를 결정하였을 때 모집단 평균을 추정하기 위해 필요한 표본의 크기는 다음 식에 의해 계산된다.
| ｛(z-값 x 모집단의 표준편차)/표본오차의 크기｝의 제곱 |
상기 식에서 신뢰수준에 해당하는 z-값과 표본오차의 크기는 조사자(또는 정보이용자)가 사전에 정한 값이며 모집단의 표준편차는 네 가지 방법으로 구할 수 있다. 첫째, 유사한 시장 또는 동일한 시장의 유사한 제품에 관한 과거의 조사결과로부터 원용할 수 있으며 둘째, 그러한 자료를 얻을 수 없는 경우에는 임의로 적절한 값을 결정할 수도 있다. 셋째, 대체로 표본자료의 범위(range)를 6으로 나눈 값은 모집단 표준편차에 대한 보수적인 추정치로 사용할 수 있는데 예를 들어, 낙농기업의 예시에서 우유소비량이 가계당 0로부터 4.8리터 사이의 값을 취한다면 6분의 1의 법칙(one-sixth rule)을 사용하여 모집단의 표준편차를 0.8리터로 추정할 수 있다. 넷째, 모집단으로부터 소규모의 시험표본 (pilot sample)을 추출하여 추정할 수도 있다.
이제 낙농기업의 예시를 확장하여 표본의 크기를 결정하는 절차를 살펴보자. 조사자가 모집단의 진정한 평균이 표본평균 ± 0.1리터(E=0.1)의 범위내에 들어올 확률이 99%(신뢰수준=0.99)이기를 원한다면, 그것은 다시 말해 지역시장에서 전체 우유소비량의 추정치가 오차에 있어서 ± 200리터를 넘지 않는 것을 의미한다. 표준정규분포표(z-분포표)로부터 99%의 신뢰수준에서 z-값이 2.58임을 알 수 있고, 모집단 평균의 추정치에 있어서 표본오차의 크기(E)는 이미 0.1로 규정되었다. 만일 유사한 조사결과를 참조하여 모집단의 표준편차에 대한 현실적인 추정치가 0.8이었다면 필요한 표본의 크기는 426이 될 것이다.
따라서 조사자가 설정한 신뢰수준과 표본오차의 범위 내에서 조사가 수행되려면 426개의 가계를 포함하는 표본이 모집단으로부터 무작위로 추출되어야 한다. 그러나 조사자가 표본오차의 크기를 0.2리터로 할 것에 동의한다면(전체 우유소비량에 대한 추정치에 있어서 오차의 범위를 ±400리터 이내로 한다면) 표본의 크기는 106가구로 감소되는데, 이로써 표본조사의 비용은 훨씬 절감될 수 있다.
조사의 시간과 비용을 절감하는 다른 대안은 표본오차의 크기(E=0.1)를 유지하면서 신뢰수준을 0.95로 낮추는 일인데, 이것도 필요한 표본의 크기를 426가구에서 246가구로 감소시킨다.
3-2-2. 모집단 비율을 추정하기 위한 표본의 크기
일정한 신뢰수준에서 수용할 수 있는 표본오차의 크기를 결정하였을 때 모집단 비율을 추정하기 위해 필요한 표본의 크기는 다음 식에 의해 계산된다.
| ｛(z-값 /표본오차의 크기｝의 제곱 x (표본비율) x (1-표본비율) |
예시를 위해 조사자가 모집단의 어느 정도의 비율이 토요일에 장보기를 좋아하는지 알고자 하며, 이 값에 대한 추정치가 99%의 신뢰수준에서 5%(Ep=0.05)내로 정밀하기를 기대한다고 가정하자. 이 때 표본비율이 70%라면 필요한 표본의 크기는 559가계로 계산된다.
그러나 모집단 비율을 추정하기 위해 필요한 표본의 크기는 불행하게도 모집단 비율에 대한 추정치로 사용되는 표본비율값에 대단히 민감하며, 모집단 비율은 바로 표본조사를 통해 추정하려는 것이다. 이러한 딜레마에 대응하는 가장 보수적인 방법은 최악의 경우(최대의 표본크기를 필요로 하는 경우)를 상정하여 표본비율값을 50%로 정하는 것인데, 이러한 일은 예시에서 필요한 표본의 크기를 666으로 만든다. 또 다른 대응방법은 이미 설명한 축차적 표본추출법을 사용하는 것인데, 조사자는 우선 적당한 크기의 표본을 추출하여 표본비율을 계산하였을 때 원하는 신뢰수준에서 신뢰구간의 폭이 너무 넓다면 점진적으로 표본을 증대시킬 수 있다. 물론 이러한 과정은 전체표본이 일정한 신뢰수준에서 수용가능한 신뢰구간을 산출할 때까지 계속된다.
3-3. 표본의 통계적 효율성
확률표본을 대체할 수 있는 다른 표본들이 갖는 통계적 효율성은 각 표본이 산출하는 추정치의 상대적 정밀도(relative precision)에 의해 평가될 수 있다. 즉 동일한 크기의 표본을 추출했을 때 더 정밀한(보다 적은 표준오차를 갖는) 추정치를 산출할수록 그 표본추출방법이 효율적인 것이다. 따라서 효율적인 표본추출방법이란 보다 작은 표본을 가지고 다른 방법과 동등한 수준의 정밀한 결과를 산출하는 것이다.
효율성이란 상대적이므로 효율성의 측정치는 당연히 비교를 수반하는데, 일반적으로 통계적 효율성(statistical efficiency)이란 동일한 표본크기를 전제로 할 때 하나의 표본추출방법에 의해 산출되는 표준오차에 대해 완전무작위 표본(단순 무작위표본)이 산출하는 표준오차의 비율로 나타낸다. 여기서 모집단 평균과 모집단 비율중 어느 것에 대한 표준오차를 사용할 것인지는 조사자가 어떤 모수에 관심을 갖고 있는지에 달려 있으므로 예를 들어, 조사자가 평균에 관심을 갖고 있다면 두 표본 사이에서 표본평균의 표준오차들이 비교될 것이다.
한편 조사자가 표본추출방법에 관계없이 필요한 정밀도를 규정할 경우, 통계적 효율성은 필요한 표본의 상대적 크기로서 정의될 수 있다. 즉 하나의 표본추출방법에서 필요한 표본크기에 대해 완전무작위 표본(단순 무작위표본)에서 필요한 표본크기의 비율로 나타낸다.
따라서 두 경우 모두에서 통계적 효율성이 100%보다 큰 표본추출방법이란 동일한 표본크기에서 완전무작위표본보다 적은 표준오차를 산출하거나 동일한 표준오차를 전제로 할 때 완전무작위 표본보다 적은 표본크기가 필요한 경우이다.
