Restricted Boltzmann Machine
RBMs are a variant of Boltzmann machines, with the restriction that their neurons must form a bipartite graph
1 min read
Machine Learning deep Learning 과 달리 structured data 가 필요한 학습 모델 2.
Mean Squared Error MSE of the estimates \begin{aligned}\operatorname{MSE}&=\mathbb{E}\left[\left(\hat{\theta}...
CatBoost vs. LightGBM vs. XGBoost 여러 gradient boosting 알고리즘들이 있는데 이 중에서 뭘 선택해야 하는가? 아래는 CatBoost, LightGBM, XGBoost 이 세개의 알고리즘을 비교한 테이블이다. 2.
Elastic Net ridge 과 lasso regression 을 합친 하이브리드 선형 모델 \mathcal{L}\left(\boldsymbol{w}, \lambda {1}, \lambda {2}\right)=\|\boldsymbol{y}-\mathbf{X} \boldsymbol{w}\|^{2}+\lambda...
Clustering B) 다차원에서의 클러스터링 다차원 (high dimensional) 데이터를 이용한 클러스터링은 의미없을 수 있다 (may be meaningless).
Weighted Least Squares variance 가 input 마다 다른 것 p(\boldsymbol{y}\mid\boldsymbol{x};\boldsymbol{\theta})=\mathcal{N}\left(\boldsymbol{y}\mid\mathbf{X}\boldsymbol{w},\boldsymbol{\...
Gradient Boosting Machine Gradient Boosting Algorithm (GBM) 은 regression 또는 classification 을 수행할 수 있는 예측모형이며 예측모형의 ensemble 방법론 중 boosting 계열에 속하는 알고리즘 여러개의 weak models 을 조합해서...
Overfitting 이란 모델이 특정 데이터 셋에 과도하게 적합된 것을 의미 B) Overfitting 문제를 완화하기 위한 접근들 더 많은 training data Data Augmentation regularization dropout Early Stopping C) Related D) References.
Joint Training Joint-training consists of training together multiple networks with different learning objectives in order to benefit from the synergy of the learning.
Decision Boundary Decision boundary 는 label 값 y 가 0 인지 1 인지 결정하는 영역을 나누는 선이다.