단순 선형 회귀 — 직선 하나로 예측하기

선형 회귀는 머신러닝에서 가장 기본이 되는 지도 학습 알고리즘입니다.

핵심 아이디어는 간단합니다, 데이터를 가장 잘 설명하는 직선 하나를 찾는 거예요.

수식으로 쓰면 와이 햇 이퀄 더블유 엑스 플러스 비, 이게 전부입니다.

왼쪽 산점도를 보세요, 빨간 점들이 실제 데이터입니다.

파란 직선이 우리 모델의 예측이에요.

각 점에서 직선까지 수직 거리가 바로 잔차, 레지듀얼이라고 합니다.

주황 점선이 잔차를 나타내고 있죠.

오른쪽 상단 박스를 보시면 핵심 파라미터가 두 개입니다.

더블유는 기울기로, 엑스가 1 증가할 때 와이가 얼마나 변하는지를 의미합니다.

비는 와이 절편으로, 엑스가 0일 때의 기본값이에요.

예를 들어 공부 시간이 0이면 기본 점수가 42점인 셈입니다.

그럼 목표는 무엇일까요? 오른쪽 하단 초록 박스를 보세요.

모든 잔차의 제곱합을 최소화하는 게 학습의 핵심입니다.

이걸 엠에스이, 평균 제곱 오차라고 부릅니다.

엠에스이를 최소화하는 방법은 크게 두 가지예요.

정규 방정식으로 한 번에 풀거나, 경사하강법으로 반복적으로 접근합니다.

이 두 방법은 이어지는 블록에서 자세히 배워볼게요.

선형 리그레션은 단순하지만 통계학과 딥러닝의 출발점입니다.

이번 레슨에서 직선 하나가 어떻게 예측을 만드는지 완전히 이해해 봅시다.

자, 다음으로 최소제곱법의 원리를 살펴보겠습니다.