딥러닝 수학 통계 - 선형회귀

선형 회귀법

- 독립 변수 x를 사용해 종속 변수 y의 움직임을 설명하고 예측하는 작업

- 가장 적절한 예측선을 그려내는 과정. 즉, 최적의 기울기(a), 절편(b) 찾는 과정

- 모든 점들로부터의 오차가 최소인 지점에 가장 적절한 예측선을 그림

 

기울기와 절편 찾는 방법

최소 제곱법 - 1차함수용  독립변수 x가 1개일때 사용

경사 하강법 - 다차함수용 독립변수 x가 2개 이상인 경우

 

 

최소 제곱법 (method of least squares)

             기울기 = {(x- x평균)(y-y평균)의 합}/{(x-x평균)^2의 합}

 

시간	기온	예측값
0	16
3	14
6	17
9	19
12	22
15	26
18	23
21	19
평균	19.5

 

 

 

평균 제곱 오차 (mean square error, MSE)

오차의 합 = {(y-y평균)^2}의 합/{총 변량 갯수)       ....  머신러닝 딥러닝에서 중요.

 

 

 

선형회귀란 임의의 직선을 그려 이에 대한 평균 제곱 오차를 구하고, 이 값을 최소로 만드는 기울기(a)와 절편(b)를 찾는 과정.

이 최소값을 찾기위해서 반복계산이 필요함