凸优化笔记4:凸函数
发布网友
发布时间:2024-10-14 12:02
我来回答
共1个回答
热心网友
时间:2024-11-13 11:42
凸优化笔记4:凸函数的深入探讨
1. 凸函数的基本概念
当函数 f 的定义域为凸集,并且其扩展函数 [公式] 对于所有点 (x) 都满足 [公式] 的条件时,f 被称为凸函数。扩展函数是对原函数定义域的扩充,便于对凸性进行分析。
2. 凸函数的判定方法
“降维打击”法指出,如果函数 [公式] 在所有方向上的*都是凸的,则 f 是凸函数。例如,对于函数 [公式],其映射 [公式] 的* g(t) 为凹函数,导致 f 本身是凹函数。
一阶条件表明,如果 [公式],则 f 是凸函数。二阶条件则要求海森矩阵 [公式] 对所有点满足正定性,以此验证凸性。例如,对于可微函数,如果 [公式],则 f 是凸的。
3. 凸函数的几何特性
下水平集 [公式] 是凸集,但并非所有凸集都能表示为下水平集。例如,欧几里得球是凸集,其定义为欧几里得范数的水平集 [公式]。
Epigraph,即函数 [formula] 的上方区域,其凸性与 f 的凸性一致。其几何特性可通过支撑超平面的法向量 [formula] 描述,如函数 [formula] 在 [formula] 上凸性由线性矩阵不等式体现。
4. 凸函数的不等式性质
凸函数 f 满足著名的詹森不等式:[公式]。证明可以通过离散和连续情况下的分析进行。值得注意的是,凸函数在大多数点上是可微的,但如 ReLU 函数这样的特殊点可能不可微。