08-凸分析

H.1 凸集与锥

定义 H.1. 集合 称为凸集，如果对任意 和 ，都有

凸集的外观很直观，就是一个“向外凸”的集合。上述定义的含义是： 中任意两点之间的整条线段都落在 中。参见图 H.1 和图 H.2。

图 H.1（凸集）. 图中是一个实心圆形区域，内部任取两点 ，连接它们的整条线段都包含在该区域内。

例 H.2. 设 是一个非零的 向量，。闭半空间

以及开半空间

还有超平面

都是凸集。用 或 中的例子来观察会更方便。

图 H.2（非凸集）. 图中区域有一个向内凹陷的缺口。虽然 都在区域中，但连接它们的线段有一部分落在区域外，所以该集合不是凸集。

定理 H.3. 任意一族凸集的交集仍是凸集。

定理 H.4. 一个闭凸集等于所有包含它的闭半空间之交。

参见图 H.3。

图 H.3. 图中用一个粉色闭凸区域表示原集合，周围多条绿色直线表示包含该集合的闭半空间的边界；这些闭半空间的交恰好恢复该凸集。

定义 H.5.

1. 集合 称为锥，如果它对正数标量乘法封闭，即当 、 时，

2. 既是锥又是凸集的集合称为凸锥。

例 H.6. 利用图形观察更符合直觉，参见图 H.4 和图 H.5。

图 H.4（凸锥）. 图中绿色扇形区域从原点向外延伸；它对正数倍缩放封闭，并且任意两点间的线段仍在区域中。

图 H.5（锥，但不是凸锥）. 图中有两个从原点向外延伸、彼此分离的黄色扇形区域。该集合对正数倍缩放封闭，但连接不同扇形中两点的线段会离开集合，所以它不是凸集。

定理 H.7. 任意一族凸锥的交集仍是凸锥。

H.2 凸函数

设 是 中的凸集。

定义 H.8.

1. 若函数 的上图集

是 中的凸集，则称 为凸函数。
2. 若 是凸函数，则称 为凹函数。
3. 上一个处处有限、既凸又凹的函数称为仿射函数。

请注意，这里考虑的值域是 ，而不是

若采用后一个值域，下面的一些性质会有所不同。

定理 H.9. 下列陈述等价：

1. 是凸函数。
2. 对所有 和 ，

3. 对所有

都有

第二条性质就是通常所见的凸函数定义，可以用图 H.6 来理解。

定理 H.10. 若 ，且 是凸函数，则：

1. 在 上连续；
2. 除至多可数个点以外处处可微。

也就是说，除了可数多个点之外，其他点均可微。

定理 H.11.

1. 设 二阶连续可微。则 是凸函数，当且仅当对所有 ，

图 H.6. 图中画出一条凸曲线 。在 两点对应的曲线点之间作弦；横坐标 处，弦上的高度为

而曲线高度为

图示关系为

2. 设 二阶连续可微。则 是凸函数，当且仅当它的海森矩阵

其中

对每个 都是半正定矩阵。

注 H.12. 矩阵

称为半正定矩阵，如果对所有

都有

快速检验法是检查各阶顺序主子式：

依此类推。

最后还要检查

H.3 凸函数的构造

如何利用已有的凸函数或凸集构造一个新的凸函数，是本节的主要目标。最简单的想法是把凸函数相加。

尝试 1. 若 都是凸函数， 是否凸？

答案是肯定的，由定理 H.9 可得。

尝试 2. 若 是凸函数， 是常数， 是否凸？

当 时，答案是肯定的。

尝试 3. 若 都是凸函数，乘积 是否凸？

一般并非如此。例如可取

尝试 4. 若 都是正值凸函数，乘积 是否凸？

一般也不是。原文随后写

但接下来的计算转而考察复合函数

这两处记号彼此不一致；以下按原文保留其计算：

并且

所以，如果只采用上述简单条件，结论是错误的。

定理 H.13. 设

都是凸函数，则 和 （）都是凸函数。

定理 H.14. 设 是凸函数， 是递增凸函数，则 是凸函数。

证明. 因为 是凸函数，所以对所有 和 ，

于是

因此 是凸函数。

定理 H.15. 设 是 中的凸集，并令

那么 是 上的凸函数。

原文如此表述；不过上式中的自变量 属于 ，所以“定义域为 ”与公式本身存在维数上的不一致。

这个定理看起来或许有些复杂，但从图形上理解会简单许多。

例 H.16. 参见图 H.7、图 H.8 和图 H.9。

图 H.7. 图中画出凸函数 的曲线，并将曲线上方的整个区域着色；这个上图集是凸集，因而 是凸函数。

图 H.8. 图中画出一个凸集 ，以及它在横轴上的投影区间 。集合 的下边界给出函数 。由定理 H.15 构造的函数满足

定理 H.17. 设

都是凸函数。令

那么 是 上的凸函数。

图 H.9. 图中集合在每个横坐标处都向下无限延伸，因此

例 H.18.

1. 令

在约束 下，

最小值在

处取得。因此

2. 考虑

则

定理 H.19. (H.1) 中的函数 称为下确界卷积，它与“积分卷积”相类似。