Convex-optimization-programming-problem
凸最適化-プログラミング問題
凸プログラミング問題の4種類があります-
- ステップ1 *-$ min \：f \ left（x \ right）$、ここで$ x \ in S $とSは$ \ mathbb \ {R} ^ n $と$ f \の空でない凸集合left（x \ right）$は凸関数です。
- ステップ2 *-$ min \：f \ left（x \ right）、x \ in \ mathbb \ {R} ^ n $
$ g_i \ left（x \ right）\ geq 0、1 \ leq m_1 $および$ g_i \ left（x \ right）$は凸関数です。
$ g_i \ left（x \ right）\ leq 0、m_1 + 1 \ leq m_2 $および$ g_i \ left（x \ right）$は凹関数です。
$ g_i \ left（x \ right）= 0、m_2 + 1 \ leq m $および$ g_i \ left（x \ right）$は線形関数です。
ここで、$ f \ left（x \ right）$は凸関数です。
- ステップ3 *-$ max \：f \ left（x \ right）$ $ x \ in S $およびSは、$ \ mathbb \ {R} ^ n $および$ f \ leftの空でない凸集合（x \ right）$は凹関数です。
- ステップ4 *-$ min \：f \ left（x \ right）$、ここで$ x \ in \ mathbb \ {R} ^ n $は
$ g_i \ left（x \ right）\ geq 0、1 \ leq m_1 $および$ g_i \ left（x \ right）$は凸関数です。
$ g_i \ left（x \ right）\ leq 0、m_1 + 1 \ leq m_2 $および$ g_i \ left（x \ right）$は凹関数です。
$ g_i \ left（x \ right）= 0、m_2 + 1 \ leq m $および$ g_i \ left（x \ right）$は線形関数です。
ここで、$ f \ left（x \ right）$は凹関数です。
実現可能な方向の円錐
Sを$ \ mathbb \ {R} ^ n $の空ではないセットとし、$ \ hat \ {x}を\ in \：Closure \ left（S \ right）$とし、Sの実行可能な方向の円錐Dで示される$ \ hat \ {x} $は、$ D = \ left \\ {d：d \ neq 0、\ hat \ {x} + \ lambda d \ in S、\ lambda \ inとして定義されます。 \ left（0、\ delta \ right）、\ delta> 0 \ right \} $
ゼロ以外の各ベクトル$ d \ in D $は、実行可能方向と呼ばれます。
与えられた関数$ f：\ mathbb \ {R} ^ n \ Rightarrow \ mathbb \ {R} $に対して、$ \ hat \ {x} $での方向を改善する円錐はFで示され、
F = \ left \\ {d：f \ left（\ hat \ {x} + \ lambda d \ right）\ leq f \ left（\ hat \ {x} \ right）、\ forall \ lambda \ in \ left（0、\ delta \ right）、\ delta> 0 \ right \}
$ d \ in F $の各方向は、$ \ hat \ {x} $でのfの改善方向または下降方向と呼ばれます。
定理
必要条件
Sが$ \ mathbb \ {R} ^ n $の空でないセットである$ x \ in S $のような問題$ min f \ left（x \ right）$を考えます。 fがS $の$ \ hat \ {x} \ in点で微分可能であると仮定します。 $ \ hat \ {x} $がローカル最適解である場合、$ F_0 \ cap D = \ phi $ここで、$ F_0 = \ left \\ {d：\ bigtriangledown f \ left（\ hat \ {x} \ right ）^ T d <0 \ right \} $およびDは実行可能な方向の円錐です。
十分な条件
$ F_0 \ cap D = \ phi $ fが$ \ hat \ {x} $で擬似凸関数であり、$ \ hat \ {x}、N_ \ varepsilon \ left（\ hat \ {x}の近傍が存在する場合\ right）、\ varepsilon> 0 $（$ xの$ d = x- \ hat \ {x} \ in D $ \ in S \ cap N_ \ varepsilon \ left（\ hat \ {x} \ right） $、次に$ \ hat \ {x} $がローカル最適ソリューションです。
証明
必要条件
$ F_0 \ cap D \ neq \ phi $、つまり、$ d \ in F_0 \ cap D $が存在し、$ d \ in F_0 $および$ d \ in D $が存在するとします。
したがって、$ d \ in D $なので、$ \ hat \ {x} + \ lambda d \ in S、\ lambda \ in \ left（0、\ delta_1 \ right）などの$ \ delta_1> 0 $が存在します。
$ dがF_0 $なので、したがって$ \ bigtriangledown f \ left（\ hat \ {x} \ right）^ T d <0 $
したがって、$ f \ left（\ hat \ {x} + \ lambda d \ right）<f \ left（\ hat \ {x} \ right）、\ forall \ lambda \となる$ \ delta_2> 0 $が存在しますin f \ left（0、\ delta_2 \ right）$
$ \ delta = min \ left \\ {\ delta_1、\ delta_2 \ right \} $とする
次に、$ \ hat \ {x} + \ lambda d \ in S、f \ left（\ hat \ {x} + \ lambda d \ right）<f \ left（\ hat \ {x} \ right）、\ forall \ lambda \ in f \ left（0、\ delta \ right）$
ただし、$ \ hat \ {x} $はローカル最適ソリューションです。
したがって、それは矛盾です。
したがって、$ F_0 \ cap D = \ phi $
十分な条件
$ F_0 \ cap D \ neq \ phi $ ndをfを擬似凸関数とする。
$ d = x- \ hat \ {x}、\ forall xとなるような$ \ hat \ {x}、N _ \ {\ varepsilon} \ left（\ hat \ {x} \ right）$の近傍が存在するとしよう\ in S \ cap N_ \ varepsilon \ left（\ hat \ {x} \ right）$
$ \ hat \ {x} $が局所的な最適解ではないとします。
したがって、$ \ bar \ {x} \ in S \ cap N_ \ varepsilon \ left（\ hat \ {x} \ right）$が存在し、$ f \ left（\ bar \ {x} \ right）<f \ left（\ hat \ {x} \ right）$
$ Sの仮定により\ cap N_ \ varepsilon \ left（\ hat \ {x} \ right）、d = \ left（\ bar \ {x}-\ hat \ {x} \ right）\ in D $
fの擬似凸により、
f \ left（\ hat \ {x} \ right）> f \ left（\ bar \ {x} \ right）\ Rightarrow \ bigtriangledown f \ left（\ hat \ {x} \ right）^ T \ left （\ bar \ {x}-\ hat \ {x} \ right）<0
$ \ Rightarrow \ bigtriangledown f \ left（\ hat \ {x} \ right）^ T d <0 $
$ \ Rightarrow d \ in F_0 $
したがって、$ F_0 \ cap D \ neq \ phi $
これは矛盾です。
したがって、$ \ hat \ {x} $はローカル最適ソリューションです。
次の問題を考慮してください：$ min \：f \ left（x \ right）$ $ x \ in X $など$ g_x \ left（x \ right）\ leq 0、i = 1,2、…、 m $
$ f：X \ rightarrow \ mathbb \ {R}、g_i：X \ rightarrow \ mathbb \ {R} ^ n $およびXは$ \ mathbb \ {R} ^ n $のオープンセット
$ S = \ left \\ {x：g_i \ left（x \ right）\ leq 0、\ forall i \ right \} $とする
$ \ hat \ {x}をX $に、次に$ M = \ left \\ {1,2、…、m \ right \} $とする
$ I = \ left \\ {i：g_i \ left（\ hat \ {x} \ right）= 0、i \ in M \ right \} $とする\ {x} $
$ J = \ left \\ {i：g_i \ left（\ hat \ {x} \ right）<0、i \ in M \ right \} $とする\ {x} $。
$ F_0 = \ left \\ {d \ in \ mathbb \ {R} ^ m：\ bigtriangledown f \ left（\ hat \ {x} \ right）^ T d <0 \ right \} $
$ G_0 = \ left \\ {d \ in \ mathbb \ {R} ^ m：\ bigtriangledown gI \ left（\ hat \ {x} \ right）^ T d <0 \ right \} $
または$ G_0 = \ left \\ {d \ in \ mathbb \ {R} ^ m：\ bigtriangledown gi \ left（\ hat \ {x} \ right）^ T d <0、\ forall i \ in I \ right \} $
補題
$ S = \ left \\ {x \ in X：g_i \ left（x \ right）\ leq 0、\ forall i \ in I \ right \} $で、Xが$ \ mathbb \の空でないオープンセットの場合{R} ^ n $。 $ \ hat \ {x} \ in S $と$ g_i $が$ \ hat \ {x}で異なり、i \ in I $で、$ i \ in J $が$ \ hatで連続する$ g_i $とします\ {x} $、次に$ G_0 \ subseteq D $。
証明
G_0 $に$ dを入れる
$ \ hat \ {x} \ in X $およびXはオープンセットであるため、$ \ lambda \の$ \ hat \ {x} + \ lambda d \ in X $となる$ \ delta_1> 0 $が存在します。 \ left（0、\ delta_1 \ right）$
また、$ g_ \ hat \ {x} <0 $および$ g_i $は$ \ hat \ {x}、\ forall i \ J $で連続しているため、$ \ delta_2> 0 $、$ g_i \ left（ \ hat \ {x} + \ lambda d \ right）<0、\ lambda \ in \ left（0、\ delta_2 \ right）$
$ d \ in G_0 $なので、したがって$ \ bigtriangledown g_i \ left（\ hat \ {x} \ right）^ T d <0、\ forall i \ in I $なので、$ \ delta_3> 0、g_i \が存在しますleft（\ hat \ {x} + \ lambda d \ right）<g_i \ left（\ hat \ {x} \ right）= 0 $、for $ \ lambda \ in \ left（0、\ delta_3 \ right）i \ in J $
$ \ delta = min \ left \\ {\ delta_1、\ delta_2、\ delta_3 \ right \} $
したがって、$ \ hat \ {x} + \ lambda d \ in X、g_i \ left（\ hat \ {x} + \ lambda d \ right）<0、i \ in M $
$ \ Rightarrow \ hat \ {x} + \ lambda d \ in S $
$ \右矢印d \ in D $
$ \ Rightarrow G_0 \ subseteq D $
したがって、実証済み。
定理
必要条件
$ f $と$ g_i、i \ in I $は、$ \ hat \ {x} \ in Sで異なり、$ g_j $は$ \ hat \ {x} \ in S $で連続しているとします。 $ \ hat \ {x} $が$ S $のローカル最小値である場合、$ F_0 \ cap G_0 = \ phi $です。
十分な条件
$ F_0 \ cap G_0 = \ phi $かつfが$ \ left（\ hat \ {x}、g_i 9x \ right）の擬似凸関数である場合、i \ in I $はいくつかの$ \ varepsilon $上の厳密な擬似凸関数です- $ \ hat \ {x} $の近傍、\ hat \ {x} $は局所的な最適解です。
備考
- $ \ hat \ {x} $を、$ \ bigtriangledown f \ left（\ hat \ {x} \ right）= 0 $、次に$ F_0 = \ phi $のような実行可能な点とします。 したがって、$ F_0 \ cap G_0 = \ phi $ですが、$ \ hat \ {x} $は最適なソリューションではありません
- ただし、$ \ bigtriangledown g \ left（\ hat \ {x} \ right）= 0 $の場合、$ G_0 = \ phi $、したがって$ F_0 \ cap G_0 = \ phi $
- 問題を考えてみましょう：$ g \ left（x \ right）= 0 $となるような最小$ f \ left（x \ right）$。 + $ g \ left（x \ right）= 0 $なので、$ g_1 \ left（x \ right）= g \ left（x \ right）<0 $および$ g_2 \ left（x \ right）=-g \ left（x \ right）\ leq 0 $。 + $ \ hat \ {x} \ S $にした後、$ g_1 \ left（\ hat \ {x} \ right）= 0 $および$ g_2 \ left（\ hat \ {x} \ right）= 0 $とする。 +しかし、$ \ bigtriangledown g_1 \ left（\ hat \ {x} \ right）=-\ bigtriangledown g_2 \ left（\ hat \ {x} \ right）$ +したがって、$ G_0 = \ phi $および$ F_0 \ cap G_0 = \ phi $。
