Optimization Problem

최적화 문제 (Optimization problems) 란 여러개의 선택가능한 후보 중에서 최적의 해 (Optimal value) 또는 최적의 해에 근접한 값을 찾는 문제를 일컫는다.

일반적으로 machine learning 분야에서는 비용함수 (Cost function) 를 최소화 또는 최대화 시키는 모델의 파라미터 (parameter) 를 구하게 되는데, 이것은 최적화 문제로 정의될 수 있다.

B) 수학적 표현

$$\begin{array}{ll}{\min }_{x\in D}& f(x)\\ \text{ subject to }& g_i(x)\le 0,i=1,\dots m\\ & h_j(x)=0,j=1,\dots r\end{array}$$

C) Related

D) References

• 모두를 위한 컨벡스 최적화