Norm

对于几何向量，即从原点开始的有向线段，直观地说，它的长度是有向线段的“终点”到原点的距离。下面，我们将用范数来讨论向量长度这一概念。

定义 3.1 范数

向量空间 的范数是一个指定每个向量 的长度的函数

并且对于任何 以及 ,以下成立

• 绝对一次齐次性(Absolutely homogeneous):

• 三角不等式(Triangle inequality):

• 正定性(Positive definite): and

在几何中，三角形不等式指出，对于任何三角形，任意两条边的长度之和必须大于或等于另一条边的长度；如图3.2。

图 3.2 三角不等式

定义3.1是关于一般的向量空间 (2.4节)，但在本书中我们只考虑有限维向量空间。 对于向量 , 我们用下标表示向量的元素， 也就是说， 是 的第 个元素。

图3.3 红线表示两种不同范数为1的向量集合。左：曼哈顿范数；右：欧氏距离。

例 3.1 曼哈顿范数(Manhattan Norm)

的曼哈顿范数定义为：

表示绝对值,图3.3左边的图展示了所有的向量 ，曼哈顿范数也称为 范数。

例 3.2 欧几里得范数(Euclidean Norm)

的欧几里得范数定义为：

它计算 与原点的欧几里得距离(Euclidean distance)。

图3.3右边的图展示了所有 的向量 ，欧几里得范数也称为 范数。

备注： 下文中，如果没有另外说明，我们将使默认用欧几里德范数。