Convex-optimization-weierstrass-theorem

凸最適化-ワイエルシュトラスの定理

Sを$ \ mathbb \ {R} ^ n $の非空の閉じた境界付きセット（コンパクトセットとも呼ばれます）とし、$ f：S \ rightarrow \ mathbb \ {R} $をSの連続関数とします。次に、問題min $ \ left \\ {f \ left（x \ right）：x \ in S \ right \} $が最小になります。

証明

Sは空ではなく境界があるため、下限が存在します。

$ \ alpha = Inf \ left \\ {f \ left（x \ right）：x \ in S \ right \} $

$ S_j = \ left \\ {x \ in S：\ alpha \ leq f \ left（x \ right）\ leq \ alpha + \ delta ^ j \ right \} \ forall j = 1,2、.. 。$および$ \ delta \ in \ left（0,1 \ right）$

infimiumの定義により、$ S_j $は各$ j $に対して空ではありません。

S_j $の$ x_jを選択して、$ j = 1,2、…​ $のシーケンス$ \ left \\ {x_j \ right \} $を取得します

Sは有界なので、シーケンスも有界であり、収束サブシーケンス$ \ left \\ {y_j \ right \} $があり、これは$ \ hat \ {x} $に収束します。 したがって、$ \ hat \ {x} $は限界点であり、Sは閉じているため、$ \ hat \ {x} \ in S $です。 fは連続なので、$ f \ left（y_i \ right）\ rightarrow f \ left（\ hat \ {x} \ right）$

$ \ alpha \ leq f \ left（y_i \ right）\ leq \ alpha + \ delta ^ kなので、\ alpha = \ displaystyle \ lim _ \ {k \ rightarrow \ infty} f \ left（y_i \ right）= f \ left （\ hat \ {x} \ right）$

したがって、$ \ hat \ {x} $は最小化ソリューションです。

備考

ワイエルシュトラスの定理が成り立つには、2つの重要な必要条件があります。 これらは次のとおりです-

• *ステップ1 *-セットSは有界セットでなければなりません。 +関数f \ left（x \ right）= x $を考えます。 +これは無制限のセットであり、そのドメインの任意のポイントに最小値があります。 +したがって、最小値を取得するには、Sを制限する必要があります。
• *ステップ2 *-セットSを閉じる必要があります。 +ドメイン\ left（0,1 \ right）の関数$ f \ left（x \ right）= \ frac \ {1} \ {x} $を考えます。 +この関数は指定されたドメインで閉じられておらず、その最小値も存在しません。 +したがって、最小値を取得するには、Sを閉じる必要があります。