小游戏大全网站网站如何做营销

小游戏大全网站,网站如何做营销,南通通州区网站制作,怎么建公众号人工智能之数学基础 线性代数 第二章 向量空间 文章目录人工智能之数学基础 线性代数前言一、向量空间#xff08;Vector Space#xff09;定义二、子空间#xff08;Subspace#xff09;三、线性相关与线性无关四、基#xff08;Basis#xff09;与维度#xff08;Dim…人工智能之数学基础 线性代数第二章 向量空间文章目录人工智能之数学基础 线性代数前言一、向量空间Vector Space定义二、子空间Subspace三、线性相关与线性无关四、基Basis与维度Dimension1. 基Basis2. 维度DimensionPython 实现判断线性无关 求秩维度五、正交性Orthogonality1. 正交向量2. 正交集与标准正交基Orthonormal Basis3. Gram-Schmidt 正交化Python 实现使用 QR 分解六、投影Projection1. 向量到向量的投影2. 向量到子空间的投影Python 实现七、综合示例构造子空间、求基、正交化、投影八、关键概念总结表九、应用场景后续资料关注前言向量空间Vector Space是线性代数的核心概念之一它为理解线性变换、特征值、最小二乘法、主成分分析PCA等高级主题提供了理论基础。本文将系统介绍向量空间中的关键概念维度、基、正交性、投影并提供配套的 PythonNumPy/SciPy代码实现。一、向量空间Vector Space定义一个向量空间$ V $ 是一个非空集合其元素称为向量满足以下公理对实数域R \mathbb{R}R上的向量空间加法封闭性若 $\mathbf{u}, \mathbf{v} \in V $则 $ \mathbf{u} \mathbf{v} \in V $标量乘法封闭性若 $ \mathbf{v} \in V c \in \mathbb{R}则 则则c\mathbf{v} \in V $加法交换律、结合律存在零向量每个向量有加法逆元标量乘法与域运算兼容分配律、结合律等最常见的向量空间R n \mathbb{R}^nRn—— 所有n nn维实向量的集合。二、子空间Subspace定义向量空间V VV的子集W WW若本身也构成向量空间对加法和标量乘法封闭则称W WW为V VV的子空间。例子平面中过原点的直线是R 2 \mathbb{R}^2R2的子空间矩阵A AA的列空间Column Space是R m \mathbb{R}^mRm的子空间三、线性相关与线性无关线性组合向量v 1 , … , v k \mathbf{v}_1, \dots, \mathbf{v}_kv1​,…,vk​的线性组合为c 1 v 1 c 2 v 2 ⋯ c k v k c_1 \mathbf{v}_1 c_2 \mathbf{v}_2 \cdots c_k \mathbf{v}_kc1​v1​c2​v2​⋯ck​vk​线性相关若存在不全为零的系数c i c_ici​使得线性组合为零向量则这些向量线性相关。线性无关只有当所有c i 0 c_i 0ci​0时组合才为零向量。线性无关是构成“基”的前提。四、基Basis与维度Dimension1. 基Basis定义向量空间V VV的一组向量{ b 1 , … , b k } \{\mathbf{b}_1, \dots, \mathbf{b}_k\}{b1​,…,bk​}称为V VV的基如果它们线性无关它们能张成span整个空间V VV即V VV中任意向量都可表示为它们的线性组合例如R 3 \mathbb{R}^3R3的标准基为e 1 [ 1 0 0 ] , e 2 [ 0 1 0 ] , e 3 [ 0 0 1 ] \mathbf{e}_1 \begin{bmatrix}1\\0\\0\end{bmatrix}, \mathbf{e}_2 \begin{bmatrix}0\\1\\0\end{bmatrix}, \mathbf{e}_3 \begin{bmatrix}0\\0\\1\end{bmatrix}e1​​100​​,e2​​010​​,e3​​001​​2. 维度Dimension向量空间V VV的维度dim ⁡ ( V ) \dim(V)dim(V)是其任意一组基中向量的个数。所有基的大小相同定理。例R n \mathbb{R}^nRn的维度为n nn平面中过原点的直线维度为 1。Python 实现判断线性无关 求秩维度importnumpyasnpfromscipy.linalgimportqr# 构造矩阵每列为一个向量Vnp.array([[1,2,3],[4,5,6],[7,8,9]],dtypefloat)# 注意这组向量线性相关# 方法1通过矩阵秩判断ranknp.linalg.matrix_rank(V)print(矩阵秩即列空间维度:,rank)# 方法2QR分解Q的列是正交基Q,Rqr(V)# 非零对角元个数 秩nonzero_diagnp.sum(np.abs(np.diag(R))1e-10)print(QR分解得到的秩:,nonzero_diag)# 若 rank 列数 → 线性无关ifrankV.shape[1]:print(向量组线性无关)else:print(向量组线性相关)五、正交性Orthogonality1. 正交向量两个向量u , v \mathbf{u}, \mathbf{v}u,v正交orthogonal当且仅当它们的点积为零u ⋅ v u T v 0 \mathbf{u} \cdot \mathbf{v} \mathbf{u}^T \mathbf{v} 0u⋅vuTv02. 正交集与标准正交基Orthonormal Basis正交集集合中任意两个不同向量都正交。标准正交基正交集 每个向量长度为 1单位向量。优点在标准正交基下坐标计算简单投影公式简洁。3. Gram-Schmidt 正交化将一组线性无关向量转化为正交或标准正交基的过程。Python 实现使用 QR 分解importnumpyasnpfromscipy.linalgimportqr# 原始线性无关向量每列为一个向量Anp.array([[1,1],[1,0],[0,1]],dtypefloat)# QR 分解A Q R其中 Q 的列是标准正交基Q,Rqr(A,modeeconomic)# economic: Q 形状与 A 相同print(原始向量列:\n,A)print(标准正交基 Q:\n,Q)print(验证 Q^T Q I:\n,np.round(Q.T Q,decimals10))qr函数内部实现了改进的 Gram-Schmidt 或 Householder 反射数值更稳定。六、投影Projection1. 向量到向量的投影将向量b \mathbf{b}b投影到非零向量a \mathbf{a}a上proj a b a T b a T a a \text{proj}_{\mathbf{a}} \mathbf{b} \frac{\mathbf{a}^T \mathbf{b}}{\mathbf{a}^T \mathbf{a}} \mathbf{a}proja​baTaaTb​a2. 向量到子空间的投影设子空间W Col ( A ) W \text{Col}(A)WCol(A)由矩阵A AA的列张成则b \mathbf{b}b在W WW上的投影b ^ \hat{\mathbf{b}}b^满足b ^ A x , 其中 x 是 A T A x A T b 的解 \hat{\mathbf{b}} A \mathbf{x}, \quad \text{其中 } \mathbf{x} \text{ 是 } A^T A \mathbf{x} A^T \mathbf{b} \text{ 的解}b^Ax,其中x是ATAxATb的解这就是最小二乘解投影误差b − b ^ \mathbf{b} - \hat{\mathbf{b}}b−b^与子空间正交。Python 实现importnumpyasnp# 子空间由 A 的列张成Anp.array([[1,1],[1,0],[0,1]],dtypefloat)bnp.array([2,1,3],dtypefloat)# 方法1使用正规方程 (Normal Equation)xnp.linalg.solve(A.T A,A.T b)proj_bA x# 方法2使用 lstsq更稳定x2,residuals,rank,snp.linalg.lstsq(A,b,rcondNone)proj_b2A x2print(原始向量 b:,b)print(投影到 Col(A):,proj_b)print(误差向量 (应与 A 的列正交):,b-proj_b)print(验证正交性 A^T (b - proj_b) ≈ 0:,np.round(A.T (b-proj_b),decimals10))七、综合示例构造子空间、求基、正交化、投影importnumpyasnpfromscipy.linalgimportqr# 1. 定义一组生成子空间的向量可能线性相关Vnp.array([[1,2,3],[2,4,6],# 第二行是第一行的2倍 → 相关[1,0,1]],dtypefloat)# 2. 提取线性无关列作为基ranknp.linalg.matrix_rank(V)print(f子空间维度:{rank})# 使用 SVD 或 QR 找基Q,R,Pqr(V,pivotingTrue)# pivoting 返回列置换basis_indicesP[:rank]basisV[:,basis_indices]print(选出的基线性无关列:\n,basis)# 3. 对基进行标准正交化Q_basis,_qr(basis,modeeconomic)print(标准正交基:\n,Q_basis)# 4. 投影一个新向量到该子空间bnp.array([5,6,7],dtypefloat)projQ_basis (Q_basis.T b)# 因为 Q 是标准正交基投影公式简化为 Q Q^T bprint(b ,b)print(投影到子空间 ,proj)print(投影误差 ,b-proj)print(验证误差与子空间正交:,np.round(Q_basis.T (b-proj),decimals10))八、关键概念总结表概念数学描述Python 工具向量空间对加法和标量乘法封闭的集合—子空间向量空间的子集自身也是向量空间列空间np.linalg.matrix_rank(A)基线性无关且张成空间的向量组QR 分解、SVD维度基中向量的个数np.linalg.matrix_rank正交性u T v 0 \mathbf{u}^T \mathbf{v} 0uTv0np.dot(u, v)标准正交基正交 单位长度scipy.linalg.qr投影到子空间b ^ A ( A T A ) − 1 A T b \hat{\mathbf{b}} A(A^T A)^{-1} A^T \mathbf{b}b^A(ATA)−1ATbnp.linalg.lstsq或Q (Q.T b)九、应用场景机器学习PCA 使用标准正交基降维计算机图形学投影用于 3D → 2D 渲染信号处理将信号投影到傅里叶基上数值分析最小二乘拟合本质是投影掌握向量空间的结构基、维度、正交性与投影是理解现代数据科学与工程算法的基石。建议结合几何直观如R 2 , R 3 \mathbb{R}^2, \mathbb{R}^3R2,R3中的平面、直线加深理解并多用代码验证理论。后续python过渡项目部分代码已经上传至gitee后续会逐步更新。资料关注公众号咚咚王giteehttps://gitee.com/wy18585051844/ai_learning《Python编程从入门到实践》《利用Python进行数据分析》《算法导论中文第三版》《概率论与数理统计第四版 (盛骤) 》《程序员的数学》《线性代数应该这样学第3版》《微积分和数学分析引论》《西瓜书周志华-机器学习》《TensorFlow机器学习实战指南》《Sklearn与TensorFlow机器学习实用指南》《模式识别第四版》《深度学习 deep learning》伊恩·古德费洛著 花书《Python深度学习第二版(中文版)【纯文本】 (登封大数据 (Francois Choliet)) (Z-Library)》《深入浅出神经网络与深度学习(迈克尔·尼尔森MichaelNielsen》《自然语言处理综论 第2版》《Natural-Language-Processing-with-PyTorch》《计算机视觉-算法与应用(中文版)》《Learning OpenCV 4》《AIGC智能创作时代》杜雨张孜铭《AIGC原理与实践零基础学大语言模型、扩散模型和多模态模型》《从零构建大语言模型中文版》《实战AI大模型》《AI 3.0》