拓扑流形与黎曼几何
局部来看,任何光滑的n维流形 (Manifold) 都类似于欧几里得空间 R^n。但全局拓扑结构可能截然不同(如球面、环面)。在流形上,我们需要引入黎曼度量张量 g_ij 来定义局部距离和角度。这推广了欧几里得内积,使得在非平坦空间中也能应用微积分。广义相对论中,时空被视为4维伪黎曼流形。
向量空间与线性变换
n维空间 本质是一个向量空间。线性变换(如旋转、缩放、剪切)可以用矩阵表示。特征值和特征向量描述了变换的“主轴”和“缩放比例”。在PCA中,我们寻找协方差矩阵的特征向量,它们构成了数据方差最大的新坐标轴。
高维几何的直觉陷阱
在高维空间中,许多直觉失效。例如,在高维球体中,绝大部分体积集中在表面附近,而不是中心。两个随机向量在高维空间中几乎正交。这些现象对机器学习中的正则化和初始化策略有重要影响。