통계학 입문 4주 스터디 노트 — 32개 질문으로 익히는 통계적 사고

Q1. 통계학이란 무엇이고 왜 중요한가?

데이터로 불확실한 세상을 요약하고, 일부를 보고 전체를 추론하는 방법이에요. 감이나 일화가 아니라 근거로 판단하게 해 주고, 그 판단이 얼마나 틀릴 수 있는지까지 말해 준다는 점이 중요해요.

Q2. 모집단과 표본의 차이는? 왜 샘플링을 하는가?

모집단은 결론을 내리고 싶은 전체, 표본은 실제로 관찰한 일부예요. 전수조사가 너무 비싸거나 느리거나 아예 불가능해서 표본을 써요. 대신 표본이 모집단을 대표하도록 뽑는 것이 핵심이고, 무작위 추출이 그 출발점이에요.

Q3. 정량 변수와 정성 변수의 차이와 특징은?

정량 변수는 더하고 평균 낼 수 있는 숫자예요. 정성 변수는 범주를 나타내며, 성별을 0/1로 적어도 그 숫자의 크기에는 의미가 없어요. 분석 방법이 달라지므로(평균 vs 비율) 처음에 구분해 두어야 해요.

Q4. 인과관계와 상관관계의 차이는?

상관은 "함께 움직인다", 인과는 "하나가 다른 하나를 일으킨다"예요. 아이스크림 판매량과 물놀이 사고가 같이 늘어도, 실제 원인은 둘 다를 끌어올리는 기온(교란 변수)이에요. 인과를 주장하려면 시간 순서, 다른 요인 통제, 가능하면 무작위 실험이 필요해요.

Q5. 설문조사는 왜 불완전할 수 있는가?

누가 응답하느냐(표본 편향), 무엇을 어떻게 묻느냐(문항·척도·순서 효과), 응답자가 솔직하냐(사회적 바람직성)에 따라 결과가 흔들리기 때문이에요. 중립적인 문항, 충분한 응답률, 무작위 표본으로 보완해요.

Q6. 데이터 시각화는 왜 필요한가?

숫자 표로는 안 보이는 분포 모양, 추세, 이상치가 한눈에 보여요. 같은 평균·분산이라도 모양이 전혀 다른 데이터가 있어서(앤스콤의 사중주), 요약 통계만 믿기 전에 그려 봐야 해요.

Q7. 평균, 중앙값, 최빈값, 분산이란?

• 평균: 모든 값을 더해 개수로 나눈 값. 극단값에 끌려가요.
• 중앙값: 정렬했을 때 가운데 값. 소득처럼 한쪽으로 긴 분포에서 더 대표적이에요.
• 최빈값: 가장 자주 나온 값. 범주형 데이터에도 쓸 수 있어요.
• 분산: 평균에서 떨어진 정도(편차)를 제곱해 평균 낸 값. 표본 분산은 n−1로 나눠요. 제곱근을 씌우면 원래 단위의 표준편차가 돼요.

Q8. 통계적 사고란 무엇인가?

"이게 우연일까?"를 먼저 묻는 습관이에요. 하나의 사례보다 분포를 보고, 차이가 보이면 그 크기가 우연한 흔들림을 넘는지 확인하고, 결론에 불확실성을 함께 붙여요. 나이팅게일이 야전병원 사망 원인을 기록·시각화해 위생 개선을 이끈 것이 고전적인 예예요.

Q1. 랜덤 프로세스란? 예를 들어 설명하라.

결과를 하나하나는 예측할 수 없지만, 여러 번 반복하면 규칙적인 분포를 보이는 과정이에요. 동전 던지기를 열 번 하면 앞면 비율이 크게 흔들리지만 만 번 하면 1/2 가까이 모여요(큰 수의 법칙).

Q2. 앞면 확률이 1/2인 동전을 5번 던져 앞면 4번, 뒷면 1번이 나왔다. 다음에 앞면이 나올 확률은?

1/2이에요. 각 던지기는 독립이라 동전은 앞의 결과를 기억하지 않아요. "이번엔 뒷면 차례"라고 느끼는 것이 도박사의 오류예요.

Q3. 배반사건과 여사건의 차이는?

배반사건은 겹치지 않는 두 사건이면 돼요(주사위 1과 짝수). 여사건은 "A가 아닌 모든 것"이라 겹치지 않으면서 합치면 전체가 돼요(짝수와 홀수). 그래서 여사건은 항상 배반이지만, 배반이라고 여사건은 아니에요. 여사건끼리는 확률의 합이 반드시 1이에요.

Q4. 독립 사건이란?

한 사건이 일어났다는 정보가 다른 사건의 확률을 바꾸지 않는 경우예요. 주사위에서 "2의 배수"(1/2)와 "3의 배수"(1/3)는 동시에 일어날 확률이 1/6 = 1/2 × 1/3이므로 독립이에요. 배반과 헷갈리기 쉬운데, 확률이 0보다 큰 두 사건이 배반이면 오히려 독립이 아니에요(하나가 일어나면 다른 하나의 확률은 0이 되니까).

Q5. 조건부 확률이란?

조건을 건 하위 집단 안에서의 비율이에요. 흔한 함정은 P(A|B)와 P(B|A)를 바꿔 읽는 거예요. "사고 사망자의 60%가 안전띠를 맸다"는 P(안전띠|사망)이고, 안전띠가 위험한지 알려면 P(사망|안전띠)와 P(사망|미착용)를 비교해야 해요. 대부분이 안전띠를 매는 세상에서는 사망자 중에도 착용자가 많을 수밖에 없어요(기저율).

Q6. 교차표에서 조건부 확률 읽기

행이 "객관적 계층", 열이 "주관적 계층 인식"인 교차표가 있다면, P(주관=중산층 | 객관=노동계층)은 노동계층 행의 합계를 분모로, 그 행에서 중산층 칸을 분자로 놓아요. 전체 합계를 분모로 쓰면 결합확률 P(A 그리고 B)가 되어 틀려요.

Q7. 빈도주의와 베이즈 접근은 각각 언제 더 효과적인가?

빈도주의는 확률을 "무한히 반복했을 때의 빈도"로 보고, 모수는 고정된 미지의 값으로 둬요. 가설검정·신뢰구간처럼 절차가 정해져 있어 데이터가 충분하고 사전 정보가 없을 때 깔끔해요. 베이즈는 확률을 "믿음의 정도"로 보고, 사전 분포를 데이터로 갱신해요. 시즌 초 10타수 무안타 타자의 타율을 0%라고 보지 않고 리그 평균 같은 사전 정보와 섞어 추정하듯, 데이터가 적거나 계속 들어오는 상황에서 강해요.

Q8. 정규분포는 왜 많이 쓰이나?

키, 측정 오차처럼 작은 요인이 많이 더해진 값은 정규분포에 가까워지고(중심극한정리), 표본평균의 분포도 표본이 커지면 정규분포에 가까워져요. 평균과 표준편차만 알면 "상위 몇 %인지"를 Z값으로 바로 계산할 수 있어 편해요. 예: 평균 45, 표준편차 3.2일 때 50 이상은 Z ≈ 1.56, 약 6%.

Q1. 통계적 추정을 하는 이유는?

모집단 전체를 볼 수 없으니 표본 통계량(표본평균 등)으로 모수(모평균 등)를 추정해요. 그리고 그 추정이 얼마나 흔들릴 수 있는지(표준오차)를 함께 말하기 위해서예요.

Q2. 점추정과 구간추정의 차이는?

점추정은 "평균 키는 172cm"처럼 한 값으로 말해요. 구간추정은 "95% 신뢰구간 170~174cm"처럼 범위와 신뢰수준을 함께 말해요. 신뢰수준을 높이면 구간이 넓어지고, 표본을 키우면 같은 신뢰수준에서 구간이 좁아져요.

Q3. 독립변수와 종속변수를 예로 설명하라.

광고비가 매출에 주는 영향을 본다면 광고비가 독립변수(설명 변수), 매출이 종속변수(결과 변수)예요. 아버지 키로 자녀 키를 설명한다면 아버지 키가 X, 자녀 키가 Y예요.

Q4. 최소자승법의 원리는?

실제 값과 회귀식이 예측한 값의 차이(잔차)를 제곱해 모두 더한 값이 가장 작아지도록 기울기와 절편을 골라요. 그냥 더하면 +와 −가 상쇄되니 제곱하고, 제곱은 큰 오차에 더 큰 벌점을 줘요.

Q5. 회귀모형의 설명력(R²)이란?

Y의 전체 변동 중 회귀식이 설명하는 비율(SSR/SST)로 0~1 사이예요. 변수를 추가하면 R²는 줄지 않으므로, 변수 수를 감안한 조정된 R²로 모형을 비교해요. 몇이면 좋은지는 분야마다 달라요(사람 행동을 다루는 분야는 낮아도 의미 있는 경우가 많음).

Q6. 가설 검정에서 p-value가 0.05라는 의미는?

"효과가 없다(H0)"가 사실이라면, 지금만큼 또는 더 극단적인 데이터가 나올 확률이 5%라는 뜻이에요. 유의수준 0.05를 기준으로 삼았다면 경계선에 있는 셈이라, 결론을 단정하기보다 효과 크기와 신뢰구간을 함께 봐야 해요.

Q7. 각 독립변수의 계수와 p-value의 의미는?

계수는 다른 변수가 같을 때 그 변수가 1단위 늘면 Y가 평균적으로 얼마나 변하는지(방향과 크기)예요. p-value는 "그 계수가 사실은 0인데 우연히 이만큼 나왔을 가능성"을 판단하는 근거예요. p가 작으면 그 변수가 Y를 설명하는 데 의미 있다고 봐요.

Q8. 단순회귀와 다중회귀의 차이는?

독립변수가 하나면 단순회귀(광고비 → 매출), 둘 이상이면 다중회귀(광고비·할인율·계절 → 매출)예요. 다중회귀는 다른 변수를 통제한 상태에서 각 변수의 순수한 영향을 볼 수 있어, 단순회귀에서 생기는 교란을 줄여 줘요.

Q1. 웹사이트라면 무료 툴로 전수 데이터를 다 볼 수 있는데, 굳이 샘플링이 필요할까?

로그를 다 모아도 그건 지금까지 온 방문자라는 표본일 뿐, 앞으로 올 고객이라는 모집단은 아니에요. 게다가 A/B 테스트처럼 "이 차이가 우연인가"를 묻는 순간, 데이터가 전부 있어도 추론 통계가 필요해요.

Q2. 표본이 정확한지는 어떻게 알 수 있나?

표준오차와 신뢰구간이 그 답이에요. 표본 크기가 커질수록 표준오차는 √n에 반비례해 줄어들어요. 다만 크기는 편향을 고쳐 주지 않아요. 잘못 뽑은 표본은 아무리 커도 틀려요.

Q3. 100% 인과관계라는 게 존재할까?

현실 데이터에서 한 변수가 다른 변수를 100% 설명하는 일은 거의 없어요. 통계가 말하는 인과는 "다른 조건이 같을 때 평균적으로 이만큼 바뀐다"이고, 이를 가장 깔끔하게 보여 주는 방법이 무작위 실험이에요.

Q4. 빅데이터면 무조건 양을 늘려야 하나?

아니에요. 쓸모 있는 것은 질문에 맞는 데이터이고, 편향된 데이터를 늘리면 틀린 답에 더 확신하게 될 뿐이에요.

Q5. 조건부 확률에서 왜 P(남자)로 나누나?

"남자 중에서"라는 조건을 걸면 세계가 남자로 좁아져요. 그래서 분모가 전체가 아니라 남자 수(비율로는 P(남자))가 돼요. 남자 7명 중 대학생 3명이면 3/7이에요. 확률로 쓰면 (3/10) ÷ (7/10)이고, 같은 계산이에요.

Q6. 가설검정은 복잡하기만 하고, ICE 점수로 실험을 빨리 돌리는 그로스해킹이 더 낫지 않나?

둘은 경쟁 관계가 아니에요. ICE는 무엇을 먼저 실험할지 고르는 우선순위 도구이고, 가설검정은 실험 결과가 우연인지 판단하는 도구예요. 실험을 빨리 많이 돌릴수록 우연한 "승리"도 많이 나오기 때문에, 검정 없이는 잘못된 결론을 빠르게 쌓게 돼요.

Q7. 데이터가 "왜"를 알려줄 수 있나?

관찰 데이터만으로는 한계가 있어요. 다중회귀로 다른 요인을 통제하고, 가능하면 실험으로 원인을 직접 조작해야 "왜"에 가까워져요. 숫자로 패턴을 찾고 정성 조사로 이유를 확인하는 순서가 효율적이에요.

Q8. 평균·분산을 알면 점수를 표준화할 수 있는데, 이걸 기여도 평가나 어트리뷰션에 쓸 수 있지 않을까?

쓸 수 있어요. 채널별 성과를 Z점수로 표준화하면 규모가 다른 채널을 같은 잣대로 비교할 수 있어요. 다만 어트리뷰션의 핵심 질문(이 광고가 없었어도 샀을까?)은 결국 인과의 문제라서, 증분(incrementality) 실험과 함께 보는 것이 좋아요.