[Control] Augmented Lagrangian Multiplier
·
Control
Augmented Lagrangian Multiplier는 제약 조건이 있는 최적화 문제를 푸는 대표적인 방법 중 하나입니다!ALM은 고전적인 라그랑지 승수법(Lagrange Multipliers)에 벌점 항(Penalty Term)을 추가하여, 비선형이거나 수렴이 어려운 문제에서도 안정적으로 해를 찾을 수 있도록 도와줍니다.특히 최적 제어, 강화학습, 딥러닝 등에서도 아주 널리 쓰이는 핵심 기법입니다. 1. ALM이란ALM은 아래와 같은 제약 조건이 있는 최적화 문제를 다룹니다.$$\min_{x\in \mathbb{R}^n} f(\mathbf{x}) \\ \text{subject to}\quad h_i(\mathbf{x})=0 \quad (i=1,\cdots,m)$$$f(\mathbb{x})$ : 최..