Seonglae ChoEvaluation Data, Dev set
- Determine Hyperparameter
- Loss 추세 보고 train 어느정도 epoch 할지 결정
- validation loss가 train loss 랑 큰 차이 없도록 Overfitting 방지
Data Validation Methods
[ML] 교차검증 (CV, Cross Validation) 이란?
교차 검증이란? 보통은 train set 으로 모델을 훈련, test set으로 모델을 검증한다. 여기에는 한 가지 약점이 존재한다. 고정된 test set을 통해 모델의 성능을 검증하고 수정하는 과정을 반복하면, 결국 내가 만든 모델은 test set 에만 잘 동작하는 모델이 된다. 즉, test set에 과적합(overfitting)하게 되므로, 다른 실제 데이터를 가져와 예측을 수행하면 엉망인 결과가 나와버리게 된다. 이를 해결하고자 하는 것이 바로 교차 검증(cross validation)이다. 교차 검증은 train set을 train set + validation set으로 분리한 뒤, validation set을 사용해 검증하는 방식이다. 교차 검증의 장점과 단점 장점 모든 데이터셋을 훈련에..
![[ML] 교차검증 (CV, Cross Validation) 이란?](https://www.notion.so/image/https%3A%2F%2Fwooono.tistory.com%2Ffavicon.ico?table=block&id=6909a95d-913a-4506-b665-3a58ea5b3c00&cache=v2){kind=small}
https://wooono.tistory.com/105
![[ML] 교차검증 (CV, Cross Validation) 이란?](https://www.notion.so/image/https%3A%2F%2Fimg1.daumcdn.net%2Fthumb%2FR800x0%2F%3Fscode%3Dmtistory2%26fname%3Dhttps%253A%252F%252Fblog.kakaocdn.net%252Fdn%252FCpyxn%252FbtqGDPqChML%252FcmbZTHsrhj4XzcgPjpKS61%252Fimg.png?table=block&id=6909a95d-913a-4506-b665-3a58ea5b3c00&cache=v2)
Machine Learning에서 validation set을 사용하는 이유
validation set은 machine learning 또는 통계에서 기본적인 개념 중 하나입니다. 하지만 실무를 할때 귀찮은 부분 중 하나이며 간과되기도 합니다. 그냥 training set으로 training을 하고 test만 하면 되지 왜 귀찮게 validation set을 나누는 것일까요? validation set을 사용하는 이유는 간단합니다. 바로 "모델의 성능을 평가하기 위해서" 입니다. training을 한 후에 만들어진 모형이 잘 예측을 하는지 그 성능을 평가하기 위해서 사용합니다. training set의 일부를 모델의 성능을 평가하기 위해서 희생하는 것입니다. 하지만 이 희생을 감수하지 못할만큼 data set의 크기가 작다면 cross-validation이라는 방법을 쓰기도 합니..
https://3months.tistory.com/118
