좌표 하강 기반 LMI 알고리즘의 한계와 강력한 수렴성을 갖는 최적화 대안

본 논문은 시스템·제어 분야에서 비볼록 최적화 문제를 해결하기 위해 널리 사용되는 좌표 하강형 반복 LMI(CDILMI) 알고리즘의 근본적인 한계를 짚고, 보다 강력한 수렴성을 제공하는 대안을 제시한다. 1. **문제 제기와 CDILMI의 구조** - 비볼록 문제를 BMI 형태로 모델링하고, 변수들을 두 서브셋으로 나눈 뒤 교대로 고정하고 LMI 최적화를 수행하는 전형적인 CDILMI 절차를 설명한다. - 이 방식은 목표 함수값이 단조 비증가한다는 약한 보장만 제공하며, 각 서브셋에 대해서는 최적이지만 전체 변수 공간에서는 부분 최적에 머무르는 “partial optimal” 현상이 발생한다. - 특히 BMI의 비선형성 때문에 알고리즘이 feasible set의 경계에 고정되는 경우가 빈번하며, 이는 전역·국소 최적해와는 거리가 먼 해를 초래한다. 2. **수렴성을 보장하는 대안 1: 비매끄러운 그래디언트 기반 방법** - **HIFOO**: 초기 단계에서 BFGS(준-2차) 방법을 사용하고, 이후 무작위 그래디언트 샘플링과 번들 기법을 결합해 Clarke 서브미분을 활용한다. 함수가 거의 모든 점에서 미분 가능하다는 가정 하에 수렴을 보장한다. - **hinfstruct**: Clarke 서브미분의 확장 집합을 이용해 현재 점에서 2차 접선 모델을 구성하고, 이를 기반으로 효율적인 라인 서치를 수행한다. 비매끄러운 H∞ 노름, 스펙트럴 어브시시 등에서 이론적 수렴성을 제공한다. - 두 방법 모두 비매끄러운 목적함수에 대해 지역 최적해를 찾는 데 강력하며, 구현이 비교적 간단하고 MATLAB 환경에서 바로 사용할 수 있다. 3. **수렴성을 보장하는 대안 2: 파생‑프리 최적화(DFO)** - **다방향 탐색(MDS)**와 **메쉬 적응 직접 탐색(MADS)** 등 최신 DFO 기법을 소개한다. - 문헌(Torczon, Audet‑Dennis 등)에서 제시된 수렴 이론에 따라, 비매끄럽고 제한조건이 있는 경우에도 Clarke 방향 미분이 비음이 되는 점을 점근적으로 밀집시켜 수렴을 보장한다. - 특히 MADS는 제한조건이 있는 비매끄러운 문제에 대해 전역적인 탐색 능력을 유지하면서도 이론적 수렴을 제공한다. 4. **실험적 검증** -