02 LinearRegression

👩🏻‍🏭 선형 회귀 (Linear Regression)

- input과 output 간의 관계가 선형적

 

 

✔ 기본 식

- x : 입력 변수

- y^ : 추정하는 함수로터 출력된 값

- β : 회귀계수

 

📍 y와 y^의 차이 : 실제 y / 함수가 추정한 y^

 

---

1️⃣ basis function

- 모형의 대략적인 구조를 세움

- 함수가 가정하고 있는 바에 따라서 대략적인 함수의 형태를 컴퓨터에게 알려주는 과정

 

2️⃣ 손실함수 (loss function)

✔ MSE (Mean Squared Error)

- yi : 실제값

- yi^ : 모형 출력 값

 

- Training error : 실제 값과 예측 값의 차이 == 오차

- 오차의 제곱의 평균

- Loss ≠ 0

 

📍 제곱을 하는 이유

    - 제곱을 하지 않고 모든 오차를 더할 경우 플러스, 마이너스 관계들이 다 상쇄 되어 의미 없는 오차가 됨

 

3️⃣ 최적화 (Optimization)

- 오차(loss function)를 가장 최소화로 해주는 베타를 찾는 과정