Zzong's Notes

Home

❯

machine_learning

❯

underfitting

underfitting

2026년 6월 14일0 min read


링크된 언급

1
bias

...하는 경향을 말한다. 어떤 모델을 학습시켰을 경우, 그 모델이 예측한 값과 실제 정답이 얼마나 멀리있는지를 나타내는가 생각해보면 된다. 너무 멀리있으면 (오답이 크면) high bias(underfitting), 가까이 있으면 (예측이 정확하면) low bias 이다. B) Solution for High Bias

함께 보면 좋은 글

bias

Bias bias 는 데이터 내에 있는 모든 정보를 고려하지 않음으로 인해, 지속적으로 잘못된 것들을 학습하는 경향을 말한다. 어떤 모델을 학습시켰을 경우, 그 모델이 예측한 값과 실제 정답이 얼마나 멀리있는지를 나타내는가 생각해보면 된다.

overfitting

Overfitting 이란 모델이 특정 데이터 셋에 과도하게 적합된 것을 의미 B) Overfitting 문제를 완화하기 위한 접근들 더 많은 training data Data Augmentation regularization dropout Early Stopping C) Related D) References.

Surrogate Model

ridge regression

convolution

Bayesian Optimization

.

binary logistic regression

p(y\mid\boldsymbol{x};\boldsymbol{\theta})=\operatorname{Ber}\left(y\mid\boldsymbol{\sigma}\left(\boldsymbol{w}^{\top}\boldsymbol{x}+b\right)\right) .

Lazy learning

Lazy Learning Training data 전체를 메모리상에 보관하면서 test 데이터가 새로 들어왔을 때 바로 학습하는 방법 A.1) 장점 추가적인 학습 시간 없이, 곧바로 학습 결과를 얻을 수 있다.

sampling

Sampling 데이터가 불균형한 분포를 가지는 경우, 모델의 학습이 제대로 이루어지지 않을 확률이 높습니다. 이 문제를 해결하기 위해 나온 개념이 언더 섬플링 (Undersampling) 과 오버 샘플링 (Oversampling) 입니다.

downsampling

Downsampling 데이터를 줄여서 샘플링하는 방법이다.