Lagrange Multiplier (라그랑주 승수법)

Lagarage multipler

: contrain 된 상황에서 f(x,y) 의 mix, man 구하기

Find max or min for $f(x,y)$ when $g(x,y) = C$.

예시

$xy = 3$ 을 만족할 때 원점과 가장 가까운 거리 구하기.

즉 $f(x,y) = x^2 + y^2$ 의 min 을 구하면 되고, contrained 된 함수 $g$ 는 다음과 같다.

$g(x,y) = 3$ where $g(x,y) = xy$

주의

• min 인지 max 인지는 모름. 직접 넣어봐야 알 수 있다. 혹은 min 인지 max 인지 적절한 knowledge를 갖고있으면 판단 가능. 예를들어 그림을 그려봤더니.. 등등
• second derivative method 사용 불가.
• 어떤 함수던지 항상 사용가능한가? 궁금. constrained 가 부등호일때 어떤일 일어나는지 조사필요.

Support Vector Machine 과의 관계

Loss function의 minimum 을 구할 때 constrained 된 상황임. Loss 를 f로 생각.

참고 링크

• LEC 13, MIT 18.02 Multivariable Calculus, Fall 2007