계량경제학 강의3-1(한치록)
Updated:
3. 단순회귀 모형의 추정
- 추정(estimation): 모수에 대응하는 숫자를 표본으로 부터 구하는 것
- 추정량(estimator): 주어진 자료로부터 어떠한 방식으로 숫자를 구하겠다는 공식
- 추정값(estimate): 공식을 자료에 적용하여 실제 자료에 적용하여 값을 구한 것
- 표본 내 구성원들의 임금 평균을 구할 때,
- 추정량: 표본 평균을 나타내는 공식
- 추정값: 표본 평균 값
3.1 자료
- 우리가 무엇을 하든 최종 관심사는 결국 모형으로 나타내고자 하는 모집단
3.2 직선 그리기
- $ 재정자립도 = \beta_0+\beta_1공무원비율 + u $ 라고 할 때, $\beta_0, \beta_1을 추정하는 방법은 $
- 산포도 상 점들에 가능한 ‘가깝게’ 직선이 관통하도록 그리는 것
- 다음과 같은 질문 가능
- ‘왜’ 가능한 가깝게 그려야 하는가?
- 가깝다는 ‘의미’는 무엇인가?
- ‘어떻게’하면 가깝게 만들 수 있는가?
3.3 최소제곱법
- 최소제곱법: 각 점들로부터 직선에 이르는 수직방향거리를 제곱하여 합한 값을 가장 작게 만들도록 절편과 기울기 결정
- 프랑스 수학자 르장드르가 1805년 발표
- 물론, ‘가깝다’는 것이 반드시 ‘수직방향 거리의 제곱합이 작다’는 것을 의미해야 하는 것은 아니다. (예: 최소절대편차법도 존재)
왜 최소제곱법을 사용하는가?
- 왜 수직방향 거리인가?
- 우리의 목적은 수평축(X)로써 수직축(Y)을 설명하는 것
- 따라서 Y가 얼마만큼 설명되지 않았는가를 나타내는 수직방향 거리가 중요
- 왜 수직방향 거리를 제곱하는가?
- 쉽고 좋은 추정값이 나오기 때문.
- 예를 들어 최소절대편차법은 계산이 복잡
- 왜 최소화해야 하는가?
- 직선을 점들에 가깝게 그리려면 거리를 작게 만들수록 당연히 좋다
- 어떻게 최소화하는가?
- 위 식에서 $ \beta_0, \beta_1$이 모집단의 성질을 나타내는 파라미터(모수)라면,
- $\hat{\beta_0}, \hat{\beta_1}$은 주어진 표본으로부터 최소제곱법에 따라 직선을 그려서 나오는 절편과 기울기(추정값)이다.
- 이 둘은 완전히 다른 존재로 전자는 ‘모수’이고, 후자는 통계값이다.
- $\hat{\beta_0}, \hat{\beta_1}$은 아래 두식을 만족해야 한다
- $\sum_{i=1}^{n}{y_i-\hat{\beta_0}-\hat{\beta_1x_i}}=0$
- $\sum_{i=1}^{n}{x_i(y_i-\hat{\beta_0}-\hat{\beta_1x_i})}=0$
- 위 2개 식은 매우 중요한 방정식으로서 직교방정식이라는 이름이 붙여져 있다..
- 위 2개 식은 표본 내 설명변수들이 모두 동일할 때 성립하지 않는다. (특이성(singularity)) * 해가 무수히 많아짐