데이터 모델 학습 파라미터 손실함수 최적화

데이터

데이터는 Label(Y)과 Feature(X)로 구성되어 있다.

데이터의 종류는 총 3가지이다. 1’ Training 데이터 2’ Validation(또는 Evaluation) 데이터 3’ Test(또는 Inference) 데이터

손실함수Loss Function

모델의 예측값과 실제값의 차이를 측정하는 함수이다. 당연히 측정방법이 여러가지겠지? ex) RSS(잔차제곱합)

Task

AI 시스템이 수행해야 하는 특정한 작업이나 문제를 의미. ex) Regression, Classification

Hyper Parameter

파라미터와는 달리, 사용자가 정해놓고, 학습 과정에서 업데이트 되지 않는 불변량. 예컨대 배치 사이즈 같은게 있다.

이것은 y = mx + b 의 손실함수 그래프 예시이다.