要同时满足以下三个条件：
可行域：
为什么要求 g i ( x ) ≤ 0 g_i(x)\le0 gi(x)≤0: 表示水平集都是凸集合，凸函数的水平集交集，仍是凸函数
还要强调 h i ( x ) = 0 h_i(x) = 0 hi(x)=0，-> a T x + b = 0 a^Tx+b = 0 aTx+b=0 ->这是超平面，超平面也是凸集合
以上 可行域 是凸集合
以下是凸优化问题吗？
m
i
n
f
0
(
x
)
=
x
1
2
+
x
2
2
s
.
t
.
g
1
(
x
)
=
x
1
/
(
1
+
x
2
2
)
≤
0
h
1
(
x
)
=
(
x
1
+
x
2
)
2
=
0
目标函数 海瑟矩阵正定，说明是凸函数：
∇
2
f
0
(
x
)
=
[
2
0
0
2
]
\nabla ^2 f_0(x) = \left[
不等式约束中的约束函数：
g
1
(
x
)
=
x
1
1
+
x
2
2
≤
0
始终大于
0
，等价于
g
1
(
x
)
=
x
1
≤
0
g_1(x) = \frac{x_1}{1+x_2^2} \le 0\\ 始终大于0，等价于\\ g_1(x) = x_1 \le 0\\
g1(x)=1+x22x1≤0始终大于0，等价于g1(x)=x1≤0
等式约束中的约束函数：
h
1
(
x
)
=
(
x
1
+
x
2
)
2
=
0
等价于
h
1
(
x
)
=
x
1
+
x
2
=
0
h_1(x) = (x_1 + x_2)^2 = 0 \\ 等价于 \\ h_1(x) = x_1 + x_2 = 0
h1(x)=(x1+x2)2=0等价于h1(x)=x1+x2=0
所以以上为凸优化问题。
x ∗ ∈ S 是最优解： ⇔ ∇ f ( x ∗ ) T ( x − x ∗ ) ≥ 0 , ∀ x ∈ S . ⇔ − ∇ f ( x ∗ ) T x ∗ ≥ − ∇ f ( x ∗ ) T x , ∀ x ∈ S . ⇔ α T x ∗ ≥ α T x , ∀ x ∈ S . x^* \in S 是最优解：\\ \Leftrightarrow \nabla f(x^*)^T(x-x^*) \ge 0, \forall x \in S.\\ \Leftrightarrow -\nabla f(x^*)^Tx^* \ge -\nabla f(x^*)^Tx, \forall x \in S. \\ \Leftrightarrow \alpha^T x^* \ge \alpha^Tx, \forall x \in S. \\ x∗∈S是最优解：⇔∇f(x∗)T(x−x∗)≥0,∀x∈S.⇔−∇f(x∗)Tx∗≥−∇f(x∗)Tx,∀x∈S.⇔αTx∗≥αTx,∀x∈S.
∇ f ( x ∗ ) \nabla f(x^*) ∇f(x∗)是梯度方向
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-JDtUfLR3-1660658596888)(4.凸优化问题.assets/image-20220816212749074.png)]
无约束凸优化
m
i
n
f
(
x
)
o
v
e
r
R
n
min f(x) over R^n
minf(x)overRn :
x
∗
x^*
x∗ 最优
⇔
∇
f
(
x
∗
)
=
0
\Leftrightarrow \nabla f(x^*) = 0
⇔∇f(x∗)=0
∇
f
(
x
∗
)
T
(
x
−
x
∗
)
≥
0
梯度向量和任意向量乘积大于等于
0
，梯度向量只能等于
0
\nabla f(x^*)^T(x-x^*) \ge 0\\ 梯度向量和任意向量 乘积大于等于0， 梯度向量只能等于0
∇f(x∗)T(x−x∗)≥0梯度向量和任意向量乘积大于等于0，梯度向量只能等于0
等式约束凸优化问题：
$$
min {f(x)| Ax = b}: x^*最优\
\Leftrightarrow \exists \mu \nabla f(x^*) + A^T
$$