Convex-optimization-differentiable-quasiconvex-function

提供:Dev Guides
移動先:案内検索

微分可能な準凸関数

定理

Sを$ \ mathbb \ {R} ^ n $の非空の凸集合とし、$ f:S \ rightarrow \ mathbb \ {R} $をSで微分可能にし、任意の$ x_1の場合に限りfを準凸にします。 、x_2 \ in S $および$ f \ left(x_1 \ right)\ leq f \ left(x_2 \ right)$、$ \ bigtriangledown f \ left(x_2 \ right)^ T \ left(x_2-x_1 \右)\ leq 0 $

証明

fを準凸関数とする。

$ x_1、x_2 \ in S $を$ f \ left(x_1 \ right)\ leq f \ left(x_2 \ right)$とする

$ x_2でのfの微分可能性により、\ lambda \ in \ left(0、1 \ right)$

$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)= f \ left(x_2 + \ lambda \ left(x_1-x_2 \ right)\ right)= f \ left(x_2 \ right )+ \ bigtriangledown f \ left(x_2 \ right)^ T \ left(x_1-x_2 \ right)$

$ + \ lambda \ left \ | x_1-x_2 \ right \ | \ alpha \ left(x_2、\ lambda \ left(x_1-x_2 \ right)\ right)$

$ \ Rightarrow f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)-f \ left(x_2 \ right)-f \ left(x_2 \ right)= \ bigtriangledown f \ left(x_2 \ right)^ T \ left(x_1-x_2 \ right)$

$ + \ lambda \ left \ | x_1-x_2 \ right \ | \ alpha \ left(x2、\ lambda \ left(x_1-x_2 \ right)\ right)$

ただし、fは準凸であるため、$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq f \ left(x_2 \ right)$

$ \ bigtriangledown f \ left(x_2 \ right)^ T \ left(x_1-x_2 \ right)+ \ lambda \ left \ | x_1-x_2 \ right \ | \ alpha \ left(x_2、\ lambda \ left(x_1、x_2 \ right)\ right)\ leq 0 $

しかし、$ \ alpha \ left(x_2、\ lambda \ left(x_1、x_2 \ right)\ right)\ rightarrow 0 $ as $ \ lambda \ rightarrow 0 $

したがって、$ \ bigtriangledown f \ left(x_2 \ right)^ T \ left(x_1-x_2 \ right)\ leq 0 $

$ x_1、x_2 \ in S $および$ f \ left(x_1 \ right)\ leq f \ left(x_2 \ right)$、$ \ bigtriangledown f \ left(x_2 \ right)^ T \ left(x_1、 x_2 \ right)\ leq 0 $

fが準凸であることを示すために、つまり$ f \ left(\ lambda x_1 + \ left(1- \ lambda \ right)x_2 \ right)\ leq f \ left(x_2 \ right)$

矛盾による証明

ある$ \ lambda \ inに対して$ f_left(x_2 \ right)<f \ left(x_3 \ right)$となる$ x_3 = \ lambda x_1 + \ left(1- \ lambda \ right)x_2 $が存在すると仮定\ left(0、1 \ right)$

$ x_2 $および$ x_3の場合、\ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_2-x_3 \ right)\ leq 0 $

$ \ Rightarrow-\ lambda \ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_2-x_3 \ right)\ leq 0 $

$ \ Rightarrow \ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_1-x_2 \ right)\ geq 0 $

$ x_1 $および$ x_3、\ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_1-x_3 \ right)\ leq 0 $の場合

$ \ Rightarrow \ left(1- \ lambda \ right)\ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_1-x_2 \ right)\ leq 0 $

$ \ Rightarrow \ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_1-x_2 \ right)\ leq 0 $

したがって、上記の方程式から、$ \ bigtriangledown f \ left(x_3 \ right)^ T \ left(x_1-x_2 \ right)= 0 $

定義$ U = \ left \\ {x:f \ left(x \ right)\ leq f \ left(x_2 \ right)、x = \ mu x_2 + \ left(1- \ mu \ right)x_3、\ mu \ in \ left(0,1 \ right)\ right \} $

したがって、$ x_0 = \ mu_0 x_2 = \ mu x_2 + \ left(1- \ mu \ right)x_3 $が$ \ mu _0 \ in \ left(0,1 \ rightとなるような$ x_0 \ in U $を見つけることができます。 )$ x_3 $および$ \ hat \ {x}に最も近い\ in \ left(x_0、x_1 \ right)$平均値定理により、

\ frac \ {f \ left(x_3 \ right)-f \ left(x_0 \ right)} \ {x_3-x_0} = \ bigtriangledown f \ left(\ hat \ {x} \ right)

\ Rightarrow f \ left(x_3 \ right)= f \ left(x_0 \ right)+ \ bigtriangledown f \ left(\ hat \ {x} \ right)^ T \ left(x_3-x_0 \ right)

\ Rightarrow f \ left(x_3 \ right)= f \ left(x_0 \ right)+ \ mu_0 \ lambda f \ left(\ hat \ {x} \ right)^ T \ left(x_1-x_2 \ right)

$ x_0 $は$ x_1 $と$ x_2 $と$ f \ left(x_2 \ right)<f \ left(\ hat \ {x} \ right)$の組み合わせであるため

開始手順を繰り返すことにより、$ \ bigtriangledown f \ left(\ hat \ {x} \ right)^ T \ left(x_1-x_2 \ right)= 0 $

したがって、上記の方程式を組み合わせると、次のようになります。

f \ left(x_3 \ right)= f \ left(x_0 \ right)\ leq f \ left(x_2 \ right)

\右矢印f \ left(x_3 \ right)\ leq f \ left(x_2 \ right)

したがって、それは矛盾です。

  • ステップ1 *-$ f \ left(x \ right)= X ^ 3 $

$ Let f \ left(x_1 \ right)\ leq f \ left(x_2 \ right)$

$ \ Rightarrow x _ \ {1} ^ \ {3} \ leq x _ \ {2} ^ \ {3} \ Rightarrow x_1 \ leq x_2 $

$ \ bigtriangledown f \ left(x_2 \ right)\ left(x_1-x_2 \ right)= 3x _ \ {2} ^ \ {2} \ left(x_1-x_2 \ right)\ leq 0 $

したがって、$ f \ left(x \ right)$は準凸です。

  • ステップ2 *-$ f \ left(x \ right)= x _ \ {1} ^ \ {3} + x _ \ {2} ^ \ {3} $

$ \ hat \ {x_1} = \ left(2、-2 \ right)$および$ \ hat \ {x_2} = \ left(1、0 \ right)$とする

したがって、$ f \ left(\ hat \ {x_1} \ right)= 0、f \ left(\ hat \ {x_2} \ right)= 1 \ Rightarrow f \ left(\ hat \ {x_1} \ right)\ setminus <f \ left(\ hat \ {x_2} \ right)$

したがって、$ \ bigtriangledown f \ left(\ hat \ {x_2} \ right)^ T \ left(\ hat \ {x_1}-\ hat \ {x_2} \ right)= \ left(3、0 \ right)^ T \ left(1、-2 \ right)= 3> 0 $

したがって、$ f \ left(x \ right)$は準凸ではありません。