통계공부합니다

* ChatGPT를 이용한 논문 해석입니다.  1. Abstract논문의 초록은 불균형 시계열 분류 문제에 대해 다루고 있습니다.특히, 이 논문에서는 정확성보다는 클래스별 최소 재현율(minimum recall)을 최대화하는 시계열 분류기를 학습하는 방법을 제안합니다. 이를 통해 모든 클래스에 동일한 중요성을 부여하는 분류기를 얻을 수 있습니다. 최소 재현율은 미분 가능한 함수가 아니기 때문에 일반적인 그래디언트 기반 학습 방법을 사용할 수 없습니다. 따라서 우리는 최소 재현율 함수의 여러 부드러운 근사치(smooth approximations)를 적용하고 평가합니다. 철저한 실험적 평가를 통해 우리의 접근 방식이 불균형 시계열 분류에서 사용되는 최첨단 방법들의 성능을 개선하고, 정확성의 약간의 손실만으..

2024.04.05 - [Programming/Python] - [Python] PyTorch에서 신경망 모델 정의 [Python] PyTorch에서 신경망 모델 정의PyTorch에서 신경망 모델 정의 오늘은 파이토치(PyTorch)에서 모델을 정의하는 방법에 대해 알아볼거에요. 모델 정의에 필요한 개념인 계층(Layer), 모듈(Module), 모델(Model)에 대해 먼저 알아볼게요. 계meowstudylog.tistory.com 이전 포스팅에서 파이토치(PyTorch)를 활용해서 신경망 모델을 정의하는 방법에 대해 알아보았다.이번 포스팅에서는 신경망 모델 파라미터인 손실함수(Loss function), 옵티마이저(Optimizer), 학습률 스케줄러(Learning rate scheduler), 지..

1. 손실함수 (Loss function)머신러닝에서 모델을 학습한다는 말은 예측값과 실제값의 오차를 최소화하는 모델 파라미터를 찾는 것이라고 할 수 있다. 여기서 말하는 오차(Error)를 손실(Loss) 또는 비용(Cost)이라고도 하고,오차를 정의한 함수를 손실함수(Loss function) 또는 비용함수(Cost function)이라고 한다. 대표적인 손실함수로는 MSE, RMSE 등이 있는데 일반적인 선형 회귀의 성능 지표로 잘 알려져있다.이진크로스엔트로피(binary cross entropy)도 분류 문제에서 일반적으로 사용되는 손실함수이고, 그 밖에도 오차를 정의하는 여러 함수들이 존재한다. MSE, Mean Square Error$$\frac{1}{n}\sum^{n}_{i=1}(y_i=\h..

이번 포스팅에서는 회귀모형 성능 평가 지표로 사용되는 손실함수(loss function)인 MAE, RMSE, MSE에 대해 알보겠다. 각각의 특징과 차이점에 대해 알아보고자 한다.1. MAE (Mean Absoluted Error) 예측값과 실제값의 차이의 절대값의 평균이다. $$MAE = \frac{1}{n}\sum^{n}_{i=1}|y_i=\hat{y_i}|$$ MSE, RMSE에 비해 이상치의 영향을 크게 받지 않는다. (모든 오차에 동일한 가중치를 부여)오차가 0인 지점에서 뾰족한 형태(첨점)를 띄며 미분 불가능하다. 2. MSE (Mean Squared Error)예측값과 실제값의 차이의 제곱의 평균이다. $$MSE = \frac{1}{n}\sum^{n}_{i=1}(y_i-\hat{y_i})^..