kui的世界

本征值问题

akuiro — Thu, 09 Jul 2026 09:19:26 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Eigenvalue-problem

📑 目录

引言：本征值问题的物理意义
预备知识：相似变换与正交矩阵
Jacobi 方法 —— 逐个消灭非对角元
Householder 变换 —— 批量消元成三对角
QR 算法 —— 二十世纪十大算法之一
Power 方法（幂法）与反幂法
奇异值分解（SVD）
Krylov 子空间方法
Lanczos 迭代
Arnoldi 迭代
Schrödinger 方程的对角化求解
DMRG：密度矩阵重整化群
算法对比与总结

本质上主线就是把物理问题变成矩阵的本征值问题，然后利用正交变换把矩阵“变得简单但保证其本征值不变”，再利用迭代法吧本征值计算出来！

1. 引言：本征值问题的物理意义

1.1 什么是本征值问题？

在量子力学中，任何可以实验测量的物理量都对应一个算符，该算符的本征值就是测量可能得到的结果。薛定谔方程本质上是一个本征值问题：

$$ H|\psi\rangle = E|\psi\rangle $$ 说人话：给定一个矩阵 $H$（哈密顿量），要找那些满足「矩阵作用上去等于标量相乘」的向量 $|\psi\rangle$ 和对应的数 $E$。

1.2 量子多体问题中本征值问题的来源

如果系统里不是一个粒子，而是很多粒子互相作用，比如：

原子里的多个电子
原子核里的多个核子
量子多体凝聚态系统

那就没法直接写成一个简单单粒子问题了。通常会走这样一条路：

先做一个平均场近似，得到单粒子基
用这些单粒子基构造多体基态/激发态
把总波函数展开成很多个组态的线性组合
把哈密顿量写成这个基下的矩阵
解这个矩阵的本征值问题

也就是：

|\Psi\rangle = \sumI cI |\Phi_I\rangle

$$ 代入 $H|\Psi\rangle = E|\Psi\rangle$，得到

$$ \sumJ H{IJ} cJ = E cI $$ 即矩阵形式：

$$ H\mathbf{c} = E\mathbf{c} $$ 这里 $H{IJ}=\langle \PhiI|H|\Phi_J\rangle$。

描述量子物理和计算化学中一个经典的套路：如果利用计算机去求解有多个粒子互相影响的复杂系统 （比如原子里的多个电子，或者原子核里的多个质子与中子）

“组态相互作用”（Configuration Interaction）或者精确对角化法

独立粒子图像    → 残余相互作用  → 组态混合    → 对角化
(Mean Field)    (Residual)    (CI)        (Diagonalization)

核心链条：

步骤	物理含义	数学操作
① 平均场近似	每个粒子独立运动在平均势场中	得到单粒子基
② 组态空间构建	多体波函数 = Slater 行列式（组态）的线性组合	Fock 空间展开
③ 哈密顿量矩阵	在组态基下写出 $H$ 的矩阵表示	$H{ij} = \langle \Phii	H	\Phi_j\rangle$
④ 对角化	求本征值和本征矢	这就是本征值问题！

💡 物理直觉：组态空间（Fock 空间）是不同粒子数 Hilbert 空间的直和。组态混合（Configuration Mixing）——多体关联/纠缠——最终都归结为「在一个巨大矩阵中求本征值」。排列组合使得组态空间极其巨大，例如 $N$ 个粒子分布在 $M$ 个轨道上，组态数呈指数增长。

1.3 本征值问题的数学本质

对于 $n \times n$ 矩阵 $A$，求标量 $\lambda$ 和非零向量 $\mathbf{x}$ 使得：

$$A\mathbf{x} = \lambda\mathbf{x}$$

等价于解特征方程：

$$\det(A - \lambda I) = 0$$

数值例子（2×2 矩阵）：

$$ A = \begin{bmatrix} 3 & 2 \ 2 & 3 \end{bmatrix} $$

$$\det\begin{bmatrix} 3-\lambda & 2 \ 2 & 3-\lambda \end{bmatrix} = (3-\lambda)^2 - 4 = \lambda^2 - 6\lambda + 5 = 0$$

得 $\lambda1 = 5,\ \lambda2 = 1$。

💡 但是！对于 $n > 4$，直接展开行列式求根是数值灾难——这就是我们需要各种迭代算法的原因。

特征多项式数值上非常不划算！

多项式系数会涉及大量相消，高次根对于系数变化非常敏感，直接展开很不稳定，对大矩阵完全不现实！！！

2. 预备知识：相似变换与正交矩阵

2.1 相似变换保持本征值不变

如果 $B = S^{-1}AS$，则 $A$ 和 $B$ 有相同的本征值。

说人话：用矩阵 $S$ 对 $A$ 做「换个坐标系」的操作，本征值不变，只是本征矢跟着变。

验证（数值例子）：

$$ A = \begin{bmatrix} 4 & 1 \ 2 & 3 \end{bmatrix},\quad S = \begin{bmatrix} 1 & 1 \ 0 & 1 \end{bmatrix},\quad S^{-1} = \begin{bmatrix} 1 & -1 \ 0 & 1 \end{bmatrix} $$

$$ B = S^{-1}AS = \begin{bmatrix} 1 & -1 \ 0 & 1 \end{bmatrix} \begin{bmatrix} 4 & 1 \ 2 & 3 \end{bmatrix} \begin{bmatrix} 1 & 1 \ 0 & 1 \end{bmatrix} = \begin{bmatrix} 2 & 0 \ 2 & 5 \end{bmatrix} $$

$A$ 的本征值：$\det(A-\lambda I) = (4-\lambda)(3-\lambda)-2=0 \Rightarrow \lambda=2,5$ $B$ 的本征值：对角元即为 $2, 5$（上三角矩阵的本征值就是对对角元）。✓

2.2 实对称矩阵 → 实正交相似对角化

如果 A 是实对称矩阵，那么有谱定理：

本征值都是实数借助定义直接去证明
不同本征值对应的本征矢正交利用对称矩阵 $A=A^T$的性质，在内积运算中“转移”矩阵 A 的作用
存在正交矩阵 Q ，使得

$$ Q^{T} A Q = \Lambda $$ 其中这个 $\Lambda$ 是对角矩阵，对角元就是本征值！

证明：使用数学归纳法，每次找一个特征向量，把空间降维，并保证降维后的子矩阵依然对称

为什么 PCA（主成分分析）、图神经网络（GNN）、量子力学、流形学习等算法都死死抱住实对称矩阵不放？

物理/几何意义明确：对称矩阵代表二次型 $x^TAx$（如能量、方差）。谱定理告诉我们，总可以通过旋转坐标系（正交矩阵 Q ），消除交叉项，找到事物的“主成分”（对角元 $Λ$）。
计算极其稳定：一般矩阵对角化 $A=PΛP^{−1}$ 中，P可能是病态的（条件数很大），求逆会放大误差。而对称矩阵的 Q是正交矩阵，$Q^{−1}=Q^T$，转置计算不仅没有误差，而且速度极快。
降维与截断：在算法中，我们常常只取前 k 个最大的特征值（因为对称矩阵的特征值是实数，可以比大小！）。由于特征向量正交，这前 k个方向保留了数据中最大的“能量”或“信息量”，且彼此不相关。

简而言之，实对称矩阵的谱定理保证了：复杂的世界（一般矩阵）可以通过旋转（正交变换），被拆解为几个相互独立、互不干扰的简单方向（对角矩阵）。 这就是它在科学计算中拥有统治地位的原因。

关键定理：若 $A$ 是实对称矩阵，则存在实正交矩阵 $S$（即 $S^T S = I$），使得 $S^T A S$ 为对角矩阵，对角元就是本征值。

矩阵类型	对角化形式	变换矩阵性质
A一般方阵	$S^{-1}AS = \Lambda$	$S$ 可逆
A实对称	$S^T AS = \Lambda$	$S$ 正交 $(S^T = S^{-1})$
A为Hermite	$U^\dagger A U = \Lambda$	$U$ 酉矩阵

3. Jacobi 方法 —— 逐个消灭非对角元

3.1 核心思想

一次干掉一个最大的非对角元素，用 Givens 旋转矩阵做相似变换。迭代到所有非对角元都接近零。

最直观的对称矩阵对角化的方法！

每次只处理一个非对角元 $a_{pq}$ 借助一个平面旋转将其消掉，如果把矩阵看成一个房间， Jacobi 就像每次只把一个歪掉的方向修正！

人话版：就像拧魔方，每次只转一个面，转完检查还有哪里不对，再转下一面，直到六面全对齐。

3.2 Givens 旋转矩阵

Givens 旋转 $P(p,q,\theta)$ 只在第 $p,q$ 行/列上做旋转，其他位置保持单位矩阵：

$$ P = \begin{bmatrix} 1 & & & & \ & \ddots & & & \ & & \cos\theta & \cdots & -\sin\theta \ & & \vdots & 1 & \vdots \ & & \sin\theta & \cdots & \cos\theta \ & & & & & \ddots & \ & & & & & & 1 \end{bmatrix} \quad \text{——} \quad P{pp}=P{qq}=\cos\theta,\ P{pq}=-P{qp}=-\sin\theta $$

$P$ 是正交矩阵（$P^T P = I$）

对称矩阵做这样的相似变换：

$$ A' = P^{T} A P $$ 可以保持对称性和本征值不变！！！

3.3 消灭非对角元 $a_{pq}$

对于对称矩阵 $A$，做相似变换 $A' = P^T A P$：

变换后对应的非对角项 $a'{pq} = a'{qp}$ 变为（选 $\theta$ 使得这个位置 = 0）：

$$ \tan 2\theta = \frac{2a{pq}}{a{pp} - a_{qq}} $$ 选择较小的根确保 $|\theta| \leq \pi/4$。

具体数值例子： $$ A = \begin{bmatrix} 3 & 1 \ 1 & 3 \end{bmatrix},\quad a{pq}=1,\ a{pp}=a_{qq}=3 $$

$$ \tan 2\theta = \frac{2 \times 1}{3-3} = \infty \quad\Rightarrow\quad 2\theta = \frac{\pi}{2},\ \theta = \frac{\pi}{4} $$

$$ \cos\theta = \sin\theta = \frac{1}{\sqrt{2}},\quad P = \begin{bmatrix} 1/\sqrt{2} & -1/\sqrt{2} \ 1/\sqrt{2} & 1/\sqrt{2} \end{bmatrix} $$

$$ A' = P^T A P = \begin{bmatrix} 4 & 0 \ 0 & 2 \end{bmatrix} $$

一次旋转直接对角化！本征值 $4, 2$。

3.4 算法流程

找一个大的非对角元 $a_{pq}$
算旋转角 $\theta$
构造旋转矩阵 $P$
做 $A \leftarrow P^TAP$
重复，直到所有非对角元都足够小

最后对角元就是本征值。

1. 找到 |a_pq| 最大的非对角元 (p≠q)
2. 计算旋转角 θ：tan(2θ) = 2a_pq / (a_pp - a_qq)
3. 构造 Givens 旋转矩阵 P
4. 做相似变换：A ← P^T A P
5. 重复直到 max|非对角元| < ε
6. 对角元即为本征值

3.5 Jacobi的优缺点

优点：思路直观对称矩阵上作用很稳定适合进行并行运算

缺点：每次只能消去一个非对角元，效率并不高！对大矩阵不如QR快

适合 较小规模稠密矩阵，或者需要进行并行化的场景

3.6 并行 Jacobi 方法

怎么变？ 用旋转（Rotation）。想象你在二维平面上旋转坐标轴。比如你选中第1行和第2行交叉的那个数 a12，做一次旋转，就能把这个 a12 精准地变成0。

但是，当你把(1,2)位置变成0后，刚才已经消成0的(1,3)位置可能又变成非0了（牵一发而动全身）。所以你得不停地扫荡整个矩阵，反复消。

既然要消很多次，那我同时消 a12a12 和 a34a34 行不行？答案是：可以，但有严格条件。

并行加速，我们必须把所有的旋转操作分组。同一组里的旋转，涉及的行号列号必须完全不重叠（不然会冲突，比如想要同时消去 12和13位置，都涉及到了第一行，改第一行的时候，会影响另一个操作的数据；如果是12和34，完全不重叠，互不影响，可以同时消去）

标准结论是：对 $n$ 个变量的完全配对，可以分成大约 $n-1$ 轮，每轮里有若干个互不冲突的旋转，能并行执行。

对于一个 n阶矩阵，总共有 n(n−1)/2个非对角元素需要消（也就是所有配对）。

因为每次并行旋转需要 n/2 对（比如8个变量，一次并行做4对，正好把1~8全用上）。
总对数 ÷ 每轮并行对数 = n-1 轮。

所以，标准结论是 n−1 轮。

对于 $n=2m$，可以分出 $2m-1$ 个选择集，每个集有 $m$ 个互不冲突的旋转（即旋转指标全不同），可以并行分配。

$n=8$ 的分组示例（7 组，每组 4 个旋转，可分配给 4 个处理器）：

组	旋转对
1	(1,2), (3,4), (5,6), (7,8)
2	(1,3), (2,4), (5,7), (6,8)
...	...
7	(1,8), (2,7), (3,6), (4,5)

💡 算法特点：简单直观，但每次只消一个元素，收敛较慢。

收敛较慢主要是只消一个非对角，同时之前消去的还可能会被再次污染回来，相比之下，现在的算法（分而治之，QR算法）都是一次性处理大块数据！

适合小型稠密矩阵。Jacobi 天然适合并行！极其稳定计算量完全可以预测

4. Householder 变换 —— 批量消元成三对角

4.1 核心思想

我们知道理论上实对称矩阵一定是可以被正交对角化的但直接一步求出来用于对角化的正交矩阵Q是很难，所以数值算法通常选择线借助 Householder变换将原本实对称矩阵A变成 T（三对角矩阵）然后再利用 QR算法算出来A

三对角：只保留了主对角线和上下两条次对角线！！！

元素数量从 $O(n^{2}) -> O(n)$ 后续的迭代算法会快很多！

用一个正交反射变换 一次消灭一整列的非对角元，把对称矩阵变成三对角形式。

对比 Jacobi：

	Jacobi	Householder
每次消灭	1 个非对角元	一整列非对角元
结果	对角矩阵	三对角矩阵
适用	小矩阵	中大型矩阵
是否直接得到本征值	是（对角元）	否（需进一步对角化三对角矩阵）

4.2 Householder 反射矩阵

给定单位向量 $\mathbf{w}$（$\mathbf{w}^T\mathbf{w}=1$），构造反射矩阵：

$$ P = I - 2\mathbf{w}\mathbf{w}^T $$

展开为矩阵元形式（设 $\mathbf{w} = (w1, w2, \ldots, w_n)^T$）：

$$ P{ij} = \delta{ij} - 2wi wj = \begin{cases} 1 - 2wi^2, & i=j \ -2wi w_j, & i \neq j \end{cases} $$

几何意义：$P$ 将任意向量 $\mathbf{v}$ 变成它关于超平面（法向量为 $\mathbf{w}$）的镜像反射

任意向量 $v$ 可以分解成两部分：

$$ v=v\parallel+v\perp. $$ 其中 $v_\parallel$ 是沿 $w$ 方向的分量：

$$ v_\parallel=w(w^Tv), $$ 而垂直于 $w$ 的部分是：

$$ v_\perp=v-w(w^Tv). $$ Householder 作用在 $v$ 上：

$$ Pv=(I-2ww^T)v=v-2w(w^Tv). $$ 代入分解：

$$ v=v\parallel+v\perp, $$ 且

$$ v_\parallel=w(w^Tv), $$ 所以

$$ Pv=v\parallel+v\perp-2v\parallel =v\perp-v_\parallel. $$ 也就是说：

垂直于 $w$ 的分量保持不变；
沿 $w$ 的分量反号。

这正是关于法向量为 $w$ 的超平面的镜像反射。

$$ P\mathbf{v} = \mathbf{v} - 2\mathbf{w}(\mathbf{w}^T\mathbf{v}) $$

性质：$P$ 是对称的、正交的（$P = P^T = P^{-1}$）

4.3 构造 $\mathbf{w}$ 的方法

目标：给定向量 $\mathbf{v}$，找一个反射矩阵 $P$ 使 $P\mathbf{v} = \alpha\mathbf{e}_1$（即 $P\mathbf{v}$ 只有第一个分量非零）

构造步骤：

首先就是 P 是正交矩阵，所以它保持了向量长度！ $$ \alpha = \pm|\mathbf{v}| = \pm\sqrt{v1^2 + v2^2 + \cdots + v_n^2} $$

符号选取：取 $\alpha$ 与 $v_1$ 反号，避免相近数相减导致精度损失。
构造 Householder 向量时，会用到：

$$ u=v-\alpha e1. $$ 如果 $\alpha$ 与 $v1$ 同号，且 $|\alpha|\approx |v_1|$，那么第一个分量

$$ v_1-\alpha $$ 会发生相近数相减，造成严重精度损失。
所以数值上通常选：

$$ \alpha=-\operatorname{sign}(v1)|v|. $$ 如果 $v1>0$，取

$$ \alpha=-|v|. $$ 如果 $v_1<0$，取

$$ \alpha=+|v|. $$ 这样

$$ v_1-\alpha $$ 的绝对值会变大，数值更稳定。

推导 $\omega$ 的公式

令

$$ u=v-\alpha e_1. $$ 然后令

$$ w=\frac{u}{|u|}. $$ 于是

$$ P=I-2ww^T. $$ 我们要证明：

$$ Pv=\alpha e_1. $$ 先计算

$$ u^Tv=(v-\alpha e_1)^Tv. $$ 展开：

$$ u^Tv=v^Tv-\alpha e_1^Tv. $$ 其中

$$ v^Tv=|v|^2=\alpha^2, $$ 因为 $|\alpha|=|v|$，而

$$ e1^Tv=v1. $$ 所以

$$ u^Tv=\alpha^2-\alpha v_1. $$ 再计算

$$ u^Tu=(v-\alpha e1)^T(v-\alpha e1). $$ 展开：

$$ u^Tu=v^Tv-2\alpha e1^Tv+\alpha^2 e1^Te_1. $$ 即

$$ u^Tu=\alpha^2-2\alpha v_1+\alpha^2. $$ 所以

$$ u^Tu=2(\alpha^2-\alpha v_1). $$ 因此

$$ |u|=\sqrt{2(\alpha^2-\alpha v_1)}. $$ 于是

$$ w=\frac{v-\alpha e1}{\sqrt{2(\alpha^2-\alpha v1)}}. $$ 可以验证 $\mathbf{w}^T\mathbf{w} = 1$，且 $P = I - 2\mathbf{w}\mathbf{w}^T$ 满足 $P\mathbf{v} = \alpha\mathbf{e}_1$。

数值例子：设 $\mathbf{v} = (2, 2, 1)^T$

$|\mathbf{v}| = \sqrt{4+4+1} = 3$
$v1 = 2 > 0$，取 $\alpha = -3$（与 $v1$ 反号）
$\mathbf{v} - \alpha\mathbf{e}_1 = (2, 2, 1)^T - (-3, 0, 0)^T = (5, 2, 1)^T$
$\mathbf{w}^T\mathbf{v} = \frac{v_1 - \alpha}{2} = \frac{2 - (-3)}{2} = 2.5$
$\mathbf{w} = \frac{(5, 2, 1)^T}{\sqrt{2 \times (-3)^2 - \cdots}}$（具体计算略）
最终 $P\mathbf{v} = (-3, 0, 0)^T$ ✓

4.4 Householder 三对角化算法

现在考虑一个 $n\times n$ 实对称矩阵：

$$ A=A^T. $$ 我们希望通过一系列正交相似变换：

$$ A^{(k+1)}=Hk^TA^{(k)}Hk, $$ 把它变成三对角矩阵。

因为 $H_k$ 正交，所以本征值不变。

对 $n \times n$ 对称矩阵 $A$，经过 $n-2$ 次 Householder 变换：

for k = 1 to n-2:
    取 A 的第 k 列第 k+1 到 n 行作为向量 v
    构造 Householder 矩阵 P_k（大小为 n-k）
    用 P_k 对 A 做相似变换（扩充为 n×n 的块对角形式）
end

效果：对称 $A$ → 三对角矩阵 $T$

$$ T = \begin{bmatrix} \alpha1 & \beta1 & & & \ \beta1 & \alpha2 & \beta2 & & \ & \beta2 & \alpha3 & \ddots & \ & & \ddots & \ddots & \beta{n-1} \ & & & \beta{n-1} & \alphan \end{bmatrix} $$

💡 如果 $A$ 不对称，则变换成 上 Hessenberg 矩阵（下三角除次对角线外全为零）

详细展开过程

设

$$ A= \begin{bmatrix} a{11} & a{12} & a{13} & \cdots & a{1n}\ a{21} & a{22} & a{23} & \cdots & a{2n}\ a{31} & a{32} & a{33} & \cdots & a{3n}\ \vdots & \vdots & \vdots & \ddots & \vdots\ a{n1} & a{n2} & a{n3} & \cdots & a{nn} \end{bmatrix}. $$ 因为 $A$ 对称，所以第一列下面是：

$$ \begin{bmatrix} a{21}\a{31}\ \vdots\a{n1} \end{bmatrix}. $$ 我们希望保留 $a{21}$，把 $a{31},\ldots,a{n1}$ 全部消掉，使第一列变成：

$$ \begin{bmatrix} a{11}\ \beta1\ 0\ \vdots\ 0 \end{bmatrix}. $$ 取子向量：

$$ v= \begin{bmatrix} a{21}\a{31}\ \vdots\a{n1} \end{bmatrix}. $$ 构造一个 $(n-1)\times(n-1)$ 的 Householder 矩阵 $P1$，使得：

$$ P1v= \begin{bmatrix} \beta1\0\ \vdots\0 \end{bmatrix}. $$ 然后把它扩展成 $n\times n$ 矩阵：

$$ H1= \begin{bmatrix} 1&0\ 0&P1 \end{bmatrix}. $$ 做相似变换： $$ A^{(2)}=H1^TAH1. $$ 由于 $H1=H1^T$，也可写成： $$ A^{(2)}=H1AH1. $$ 这会把第一列的第 3 到第 $n$ 个元素消掉。

由于变换是对称相似变换，矩阵仍然对称，因此第一行对应的第 3 到第 $n$ 个元素也同时为 0。

于是第一行/列已经满足三对角结构。

4.14 第二步及以后

第二步不再动第一行第一列。

我们取第 2 列从第 3 行到第 $n$ 行的子向量：

$$ v= \begin{bmatrix} a{32}^{(2)}\ a{42}^{(2)}\ \vdots\ a{n2}^{(2)} \end{bmatrix}. $$ 构造 $(n-2)\times(n-2)$ 的 Householder 矩阵 $P2$，扩展为：

$$ H2= \begin{bmatrix} I2&0\ 0&P_2 \end{bmatrix}. $$ 然后做：

$$ A^{(3)}=H2^TA^{(2)}H2. $$ 这样第 2 列中第 4 行以下的元素都被消掉。

继续这个过程，直到第 $n-2$ 步。

n-2是因为每k列只需要消掉第k+2行以下的元素

当 k = n - 2的时候，最后两列已经自然满足三对角

还有核心就是后边的变换并不会破坏前面的0，就是每次构造矩阵的时候，我们把左上角构造成单元矩阵得以保证已经做好的三对角零结构不会被破坏！

4.5 三对角矩阵的求解

如果某个 $\beta_i = 0$，矩阵可以分裂成两个更小的独立块分别对角化
然后用 Jacobi 或 QR 算法对角化三对角矩阵
计算量：Householder 三对角化 ≈ $2n^3/3$（不含本征矢）或 $4n^3/3$（含本征矢）

5. QR 算法 —— 二十世纪十大算法之一

核心：QR分解

QR分解就是把一个矩阵写成

$$ A = QR $$ Q：正交矩阵

R：上三角矩阵

如果 A 是 n ✖️ n 非奇异矩阵则通常可以得到完整的 QR分解

5.1 核心迭代格式

QR 算法是计算矩阵全部本征值的最重要算法。

基本迭代：

从

$$ A^{(0)}=A $$ 开始，每一步做 QR 分解：

$$ A^{(k)}=Q^{(k)}R^{(k)}. $$ 然后反过来相乘：

$$ A^{(k+1)}=R^{(k)}Q^{(k)}. $$ 看起来只是把乘法顺序反过来，但关键是它等价于一个正交相似变换。

因为

$$ A^{(k)}=Q^{(k)}R^{(k)}, $$ 左乘 $(Q^{(k)})^T$：

$$ (Q^{(k)})^TA^{(k)}=R^{(k)}. $$ 所以

$$ A^{(k+1)} = R^{(k)}Q^{(k)} = (Q^{(k)})^TA^{(k)}Q^{(k)}. $$ 因此

$$ A^{(k+1)} $$ 和

$$ A^{(k)} $$ 相似，且由于 $Q^{(k)}$ 正交，所以是正交相似。

因此每一步都不改变本征值。

收敛性：

$A^{(k)}$ 趋于上三角矩阵（Schur 形式），对角元就是本征值。

严格证明比较长，但核心直觉可以从幂迭代理解。

设矩阵可以对角化：

$$ A=X\Lambda X^{-1}, $$ 其中

$$ \Lambda=\operatorname{diag}(\lambda1,\ldots,\lambdan), $$ 并假设本征值大小满足：

$$ 幂法中：

$$ A^k=X\Lambda^kX^{-1}. $$ 因为

$$ \Lambda^k=\operatorname{diag}(\lambda1^k,\ldots,\lambdan^k), $$ 所以高次幂会越来越强调最大本征值对应的方向。

QR 迭代可以理解成一种“同时幂法”：

幂法追踪一个向量；
QR 迭代追踪一组正交基；
每一步 QR 分解相当于对这组基重新正交化。

在不断迭代中，正交基逐渐对齐到不变子空间，因此矩阵在这组基下逐渐变成上三角形式，也就是 Schur 形式。

对于实对称矩阵，上三角 Schur 形式进一步退化为对角矩阵，因为实对称矩阵被正交相似变换后仍然对称，而一个既对称又上三角的矩阵只能是对角矩阵。

人话版：

把矩阵拆成「正交×上三角」
把乘积顺序反过来再乘一次
重复，矩阵就自动趋近对角形

5.2 QR 分解 —— Givens 旋转法

用 $n-1$ 次 Givens 旋转把矩阵消成上三角：

第 $k$ 次旋转：选 $Pk$ 使 $(Pk A_{k-1}^{(1)})$ 的第 $(k, k-1)$ 位置为 0。

$$\cos\theta{k+1} = c{k+1},\quad \sin\theta{k+1} = s{k+1}$$

取 $\cos\theta, \sin\theta$ 满足：

$$ \begin{bmatrix} c & s \ -s & c \end{bmatrix} \begin{bmatrix} a{k,k} \ a{k+1,k} \end{bmatrix} = \begin{bmatrix} r_{k,k} \ 0 \end{bmatrix} $$

给定一个向量的两个分量： $$ \begin{bmatrix} a\b \end{bmatrix}, $$ 我们想构造旋转矩阵： $$ G= \begin{bmatrix} c&s\ -s&c \end{bmatrix}, $$ 使得： $$ G \begin{bmatrix} a\b \end{bmatrix} = \begin{bmatrix} r\0 \end{bmatrix}. $$

推导 $c,s$

计算： $$ \begin{bmatrix} c&s\ -s&c \end{bmatrix} \begin{bmatrix} a\b \end{bmatrix} = \begin{bmatrix} ca+sb\ -sa+cb \end{bmatrix}. $$ 我们希望第二个分量为 0： $$ -sa+cb=0. $$ 即 $$ cb=sa. $$ 一个自然选择是： $$ c=\frac{a}{r},\qquad s=\frac{b}{r}, $$ 其中 $$ r=\sqrt{a^2+b^2}. $$ 验证第二个分量： $$ -sa+cb = -\frac{b}{r}a+\frac{a}{r}b = 0. $$ 第一个分量： $$ ca+sb = \frac{a}{r}a+\frac{b}{r}b = \frac{a^2+b^2}{r} = r. $$ 所以 $$ G \begin{bmatrix} a\b \end{bmatrix} = \begin{bmatrix} r\0 \end{bmatrix}. $$

数值例子（消去 $a_{21}$）：

$$ A = \begin{bmatrix} 3 & 2 \ 4 & 1 \end{bmatrix} $$

第一列 $(3, 4)^T$，构造 Givens 旋转消去第 2 个分量：

$$ r = \sqrt{3^2+4^2} = 5,\quad c = \frac{3}{5} = 0.6,\quad s = \frac{4}{5} = 0.8 $$

$$ P1 = \begin{bmatrix} 0.6 & 0.8 \ -0.8 & 0.6 \end{bmatrix},\quad R = P1 A = \begin{bmatrix} 5 & 2 \ 0 & 1.4 \end{bmatrix} $$

$n-1$ 次旋转后得到 $R$，所有旋转矩阵的转置之积为 $Q$：

$$ Q = P1^T P2^T \cdots P_{n-1}^T $$

因为

$$ R=PA $$ 所以

$$ A=P^TR $$ 因此 $$ Q=P^T $$ 与 Jacobi 旋转的区别：QR 分解中的 Givens 旋转换不是相似变换（$Pk A$ 而非 $Pk^T A P_k$），目的是消成上三角而非对角化。

5.3 Householder 做 QR 分解

Givens 每次只消一个元素。Householder 每次可以消掉一整列下方的元素。

给定矩阵 $A$，第一步取第一列：

$$ x=A{1:n,1}. $$ 构造 Householder 矩阵 $P1$，使得：

$$ P_1x= \begin{bmatrix} \alpha\0\ \vdots\0 \end{bmatrix}. $$ 于是

$$ P_1A $$ 的第一列下面全部为零。

第二步只处理右下角子矩阵，构造：

$$ \begin{bmatrix} 1&0\ 0&P_2 \end{bmatrix}. $$ 继续做，最终得到：

$$ P{n-1}\cdots P2P1A=R. $$ 因为每个 $Pi$ 都正交，所以它们乘积也正交。

令

$$ Q=P1P2\cdots P_{n-1}, $$ 则

$$ A=QR. $$ Householder QR 对稠密矩阵通常比 Givens 更高效，因为它每一步消一整列，而不是一个元素一个元素消。

用 $n-1$ 次 Householder 反射做 QR 分解：

$$ Q = P1 P2 \cdots P{n-1},\quad R = P{n-1} \cdots P2 P1 A,\quad A=QR $$ 💡 Householder 做 QR 分解比 Givens 旋转效率更高。

5.4 加速收敛：Shifted QR（带位移的 QR）

基础 QR 迭代：

$$ Ak=QkR_k, $$ 如果本征值很接近，收敛很慢。

于是引入位移 $\sigma_k$：

$$ Ak-\sigmak I=QkRk, $$ 然后

$$ A{k+1}=RkQk+\sigmak I. $$ 由

$$ Ak-\sigmak I=QkRk $$ 得：

$$ Rk=Qk^T(Ak-\sigmak I). $$ 于是

$$ A{k+1} = RkQk+\sigmak I = Qk^T(Ak-\sigmak I)Qk+\sigma_k I. $$ 展开：

$$ A{k+1} = Qk^TAkQk-\sigmak Qk^TIQk+\sigmak I. $$ 因为

$$ Qk^TIQk=I, $$ 所以

$$ A{k+1} = Qk^TAkQk-\sigmak I+\sigmak I = Qk^TAkQ_k. $$ 因此带位移 QR 仍然是正交相似变换，本征值不变。

设某个本征值 $\lambda_j$ 是我们想让它快速收敛出来的对象。

对

$$ A-\sigma I $$ 而言，本征值变成：

$$ \lambdai-\sigma. $$ 如果 $\sigma$ 接近某个本征值 $\lambdaj$，那么

|\lambda_j-\sigma|

$$ 会很小。

QR 迭代里，某些次对角元的衰减速度与本征值间隔有关。选择好的 $\sigma$ 可以把某个方向迅速分离出来，使矩阵右下角的次对角元素快速趋近 0。

一旦某个次对角元满足：

|a_{i+1,i}|\approx 0,

$$ 矩阵就近似分裂成：

$$ \begin{bmatrix} A1&*\ 0&A2 \end{bmatrix}. $$ 如果矩阵是对称三对角，则更干净地分裂成两个独立块：

$$ \begin{bmatrix} T1&0\ 0&T2 \end{bmatrix}. $$ 这叫 deflation。

Wilkinson shift

对于对称三对角矩阵，常取右下角 $2\times2$ 子块： $$ \begin{bmatrix} a&b\ b&d \end{bmatrix}. $$ 它的本征值为： $$ \mu_{\pm} = \frac{a+d}{2} \pm \sqrt{\left(\frac{a-d}{2}\right)^2+b^2}. $$ Wilkinson shift 取其中更接近 $d$ 的那个。

一种数值稳定写法是： $$ \delta=\frac{a-d}{2}, $$ 这个公式避免了相近数相减。

选 $\sigma$ 的策略：取 $A^{(k)}$ 右下角 $2 \times 2$ 子矩阵的本征值中靠近 $A_{nn}$ 的那个。

数值例子：

右下角 $2\times2$ 子矩阵： $$\begin{bmatrix} a{n-1,n-1}^{(k)} & a{n-1,n}^{(k)} \ a{n,n-1}^{(k)} & a{n,n}^{(k)} \end{bmatrix}$$

设其本征值为 $\mu1, \mu2$（例如 $1/2 \pm \sqrt{3}/2$），选 $\sigma = \mu$ 中更接近 $a_{nn}$ 的那个。

5.5 Schur 分解

对任意 $n \times n$ 方阵复 $A$，存在酉矩阵 $Q$ 和上三角矩阵 $U$ 使得：

$$ A = Q U Q^{\dagger} $$ $U$ 的对角元就是 $A$ 的全部本征值。

$Q^\dagger Q = Q Q^\dagger = I$。

💡 QR 算法本质上就是在计算 Schur 分解。对于不对称矩阵也可以使用。

任何复矩阵A，都可以通过“旋转坐标轴” （酉变换），变成一个“上三角矩阵”（对角线是特征值，对角线下面全是0）

证明思路用数学归纳法。

对于任意复矩阵 $A$，至少存在一个本征值 $\lambda1$ 和对应单位本征向量 $q1$：

$$ Aq1=\lambda1 q1. $$ 把 $q1$ 扩充成一组标准正交基，需要n个相互垂直的单位向量，把这一堆列向量拼成矩阵 Q1。因为每一列都是单位长且互相垂直，所以 Q1 是酉矩阵（Unitary），也就是 $Q1^{†}Q1=I$（旋转坐标轴不改变长度）：

$$ Q1=[q1,q2,\ldots,qn] $$ 因为 $Q_1$ 酉：

$$ Q1^\dagger Q1=I $$ 考察：

$$ Q1^\dagger A Q1 $$ 它的第一列是：

$$ Q1^\dagger A q1 = Q1^\dagger \lambda1 q1 = \lambda1 Q1^\dagger q1 = \lambda1 e1. $$ 1、矩阵乘法看列：$Q1^{\dagger}A Q1$ 这个矩阵，乘上第一列标准基 $e_1$ 就等于取出其第一列，而Q1e1其实就是 Q1矩阵的第一列，就是q1！

2、带入特征方程

3、核心就是 $Q1^{\dagger}q1$ 等于多少？

展开来写就是

$$ Q1^{\dagger}q1 = \begin{bmatrix}q1^{\dagger} \q1^{\dagger} \q2^{\dagger} \\vdots \q_n^{\dagger}

\end{bmatrix} \cdot q1 = \begin{bmatrix}q1^{\dagger}q1 \q1^{\dagger}q1 \q2^{\dagger}q1 \\vdots \qn^{\dagger}q_1

\end{bmatrix} $$ 进一步，利用标准正交基的性质，得到上述式子其实就是 e1

于是新矩阵 $Q1^\dagger A Q1$ 的第一列，就是 $\lambda_1$ 开头，下边都是0！

所以矩阵形状为：

$$ Q1^\dagger A Q1 = \begin{bmatrix} \lambda1 & *\ 0 & A2 \end{bmatrix}. $$ 然后对右下角 $A_2$ 继续做同样操作。归纳下去，最终得到上三角矩阵。

QR 算法本质上就是在数值逼近这个 Schur 分解。

5.6 广义本征值问题

广义本征值问题是：

$$ Ax=\lambda Bx. $$ 假设：

$$ A=A^T,\qquad B=B^T,\qquad B>0. $$ 因为 $B$ 对称正定，可以做 Cholesky 分解：

$$ B=LL^T. $$ 原方程：

$$ Ax=\lambda LL^Tx. $$ 令

$$ y=L^Tx. $$ 则

$$ x=L^{-T}y. $$ 代回：

$$ A L^{-T}y=\lambda L y. $$ 左乘 $L^{-1}$：

$$ L^{-1}AL^{-T}y=\lambda y. $$ 定义

$$ C=L^{-1}AL^{-T}. $$ 则：

$$ Cy=\lambda y. $$ 而且 $C$ 是对称的：

$$ C^T=(L^{-1}AL^{-T})^T = L^{-1}A^TL^{-T} = L^{-1}AL^{-T} = C. $$ 因此广义对称本征值问题被化成了标准对称本征值问题。

求出 $y$ 后，原问题的本征向量是： $$ x=L^{-T}y. $$ 求解 $A\mathbf{x} = \lambda B\mathbf{x}$，其中 $A, B$ 对称且 $B$ 正定。

处理方法：做 Cholesky 分解 $B = LL^T$，化为标准本征值问题：

$$ C = L^{-1} A (L^{-1})^T $$ $C$ 是对称矩阵，其本征值即原问题的本征值，但本征矢需要回代：

$$ \mathbf{y} = (L^{-1})^T \mathbf{x} $$

💡 $B^{-1}A$ 不对称，不能直接做。通过 Cholesky 变换保对称性。

6. Power 方法（幂法）与反幂法

6.1 幂法 —— 求最大本征值

核心思想：设本征值排列 $|\lambda1| > |\lambda2| \geq \cdots \geq |\lambda_n|$，任意初始向量 $\mathbf{x}^{(0)}$ 在本征矢基下展开：

$$ \mathbf{x}^{(0)} = c1\mathbf{v}1 + c2\mathbf{v}2 + \cdots + cn\mathbf{v}n $$

反复左乘 $A$：

$$ \mathbf{x}^{(k)} = A^k \mathbf{x}^{(0)} = c1\lambda1^k \mathbf{v}1 + c2\lambda2^k \mathbf{v}2 + \cdots $$ 当 $k$ 很大时，$\lambda1^k$ 主导（假设 $c1 \neq 0$）：

$$ \mathbf{x}^{(k)} \approx c1\lambda1^k \mathbf{v}_1 $$ 说人话：不断被矩阵乘，向量方向会被拽到「最大本征值对应的本征矢方向」上。

6.2 算法步骤（带归一化）

如果 $|\lambda_1|>1$，那么

$$ |A^kx^{(0)}| $$ 会指数增长，导致数值溢出。

如果 $|\lambda_1|<1$，则会指数衰减，导致下溢。

所以每步都做归一化：

$$ y^{(k)}=Ax^{(k-1)}, \ \space \ x^{(k)} = \frac{y^{(k)}}{||y^{(k)}||} $$

x_0 = 任意非零向量
for k = 1, 2, ...:
    y_k = A x_{k-1}           ← 矩阵乘向量
    λ_k = max(|y_k|) 的分量   ← 近似最大本征值
    x_k = y_k / λ_k           ← 归一化，防止溢出
end

数值例子（3×3 矩阵）：

$$ A = \begin{bmatrix} 2 & 1 & 0 \ 1 & 2 & 1 \ 0 & 1 & 2 \end{bmatrix},\quad \mathbf{x}^{(0)} = \begin{bmatrix} 1 \ 0 \ 0 \end{bmatrix} $$

迭代	$\mathbf{y}$	$\lambda$	$\mathbf{x}$
0	—	—	$(1, 0, 0)^T$
1	$(2, 1, 0)^T$	2	$(1, 0.5, 0)^T$
2	$(2.5, 2, 0.5)^T$	2.5	$(1, 0.8, 0.2)^T$
3	$(2.8, 2.8, 1)^T$	2.8	$(1, 1, 0.357)^T$
...	...	...	→ 趋近最大本征矢

精确最大本征值：$\lambda_{\max} = 2 + \sqrt{2} \approx 3.414$。

6.3 对称矩阵的幂法

对于归一化向量 $x$，常用 Rayleigh 商：

$$ \rho(x)=\frac{x^TAx}{x^Tx}. $$ 如果 $x$ 已归一化，则

$$ \rho(x)=x^TAx. $$ 如果 $x=v_i$，则

$$ \rho(vi)=\frac{vi^TAvi}{vi^Tv_i}. $$ 因为

$$ Avi=\lambdai v_i, $$ 所以

$$ \rho(vi)=\frac{vi^T\lambdai vi}{vi^Tvi} = \lambda_i. $$ 所以当 $x^{(k)}$ 越接近本征向量时，Rayleigh 商越接近对应本征值。

对实对称矩阵，幂法的收敛速度快得多——类似于变分法求基态能量：

$$ \lambda_{\max} \approx \frac{\mathbf{x}^T A \mathbf{x}}{\mathbf{x}^T\mathbf{x}} \quad\text{（Rayleigh 商）} $$

当 $\lambda2/\lambda1$ 很小时收敛极快。

设 $A$ 对称，有标准正交本征向量：

$$ q1,q2,\ldots,q_n. $$ 令当前归一化向量为：

$$ x=c1q1+c2q2+\cdots+cnqn. $$ 且

$$ \sumi ci^2=1. $$ Rayleigh 商：

$$ \rho(x)=x^TAx. $$ 代入：

$$ Ax=\sumi ci\lambdai qi. $$ 于是：

$$ x^TAx= \left(\sumi ciqi\right)^T \left(\sumj cj\lambdajq_j\right). $$ 由于正交归一：

$$ qi^Tqj=\delta_{ij}, $$ 所以：

$$ \rho(x)=\sumi ci^2\lambdai. $$ 与 $\lambda1$ 的误差：

$$ \rho(x)-\lambda1 = \sumi ci^2\lambdai-\lambda1\sumi c_i^2. $$ 因为

$$ \sumi ci^2=1, $$ 所以：

$$ \rho(x)-\lambda1 = \sumi ci^2(\lambdai-\lambda_1). $$ 其中 $i=1$ 项为 0，因此：

$$ \rho(x)-\lambda1 = \sum{i\geq2}ci^2(\lambdai-\lambda1). $$ 注意误差由 $ci^2$ 控制。

而幂法中：

$$ ci^{(k)}\sim \left(\frac{\lambdai}{\lambda_1}\right)^k. $$ 所以 Rayleigh 商误差大致是：

$$ O\left(\left|\frac{\lambda2}{\lambda1}\right|^{2k}\right). $$ 这就是对称矩阵下本征值估计更快的原因。

$$ \text{收敛速度} \propto \left(\frac{\lambda2}{\lambda1}\right)^{2k} \quad \text{（对称矩阵）} $$

$$ \text{收敛速度} \propto \left(\frac{\lambda2}{\lambda1}\right)^{k} \quad \text{（一般矩阵）} $$

幂法失败的情形

1、如果说 c1 = 0 ，初始向量没有最大本征方向分量！

2、如果最大本征值出现重，就是 1和2本征值相同，没有唯一的主导方向

3、如果最大本征值是小于0的，那么向量可能是正负交替的（分奇偶）

4、如果 $\frac{\lambda1}{\lambda2} \sim 1$ 会出现收敛很慢的情况！

5、幂法只自然给出最大模本征值，而不是全部本征值！

6.4 反幂法（Inverse Power Method）—— 求指定本征值

如果想求接近某值 $q$ 的本征值：

对 $(A - qI)^{-1}$ 做幂法
$(A - qI)^{-1}$ 的最大本征值 = $(\lambda_{\text{最接近}q} - q)^{-1}$

如果我们想找离某个数 $q$ 最近的本征值，考虑矩阵：

$$ (A-qI)^{-1}. $$ 如果

$$ Avi=\lambdai v_i, $$ 那么

$$ (A-qI)vi=(\lambdai-q)v_i. $$ 所以

$$ (A-qI)^{-1}vi=\frac1{\lambdai-q}v_i. $$ 也就是说，$(A-qI)^{-1}$ 的本征值是：

$$ \mui=\frac1{\lambdai-q}. $$ 如果 $\lambda_i$ 离 $q$ 最近，则

|\lambda_i-q|

$$ 最小，于是

$$ \left|\frac1{\lambda_i-q}\right| $$ 最大。

所以对 $(A-qI)^{-1}$ 做幂法，会收敛到原矩阵中最靠近 $q$ 的本征值。

反幂法迭代：

$$ \mathbf{x}^{(k)} = (A - qI)^{-1} \mathbf{x}^{(k-1)} $$ 实际计算中解线性方程组

$$ (A - qI)\mathbf{y} = \mathbf{x}^{(k-1)} $$ 然后进行归一化，本征值仍利用 Rayleigh商进行估计！！！

如果每一步把 shift 取为当前 Rayleigh 商：

$$ q_k=\frac{(x^{(k)})^TAx^{(k)}}{(x^{(k)})^Tx^{(k)}}, $$ 然后解：

$$ (A-q_kI)y^{(k+1)}=x^{(k)}, $$ 再归一化：

$$ x^{(k+1)}=\frac{y^{(k+1)}}{|y^{(k+1)}|}, $$ 这就是 Rayleigh 商迭代。

对实对称矩阵，它在接近本征向量后通常有三次收敛速度，非常快。

💡 加速技巧：如果 $q$ 很接近本征值，收敛极快。实际应用中常结合位移 QR 法的思想。

6.5 带位移的幂法（Shifted Power Method）

本征矢不变，改变收敛目标：

$$ (A - \sigma I)\mathbf{x}^{(k-1)} = \mathbf{y}^{(k)} $$ 收敛到离 $\sigma$ 最近的本征值。

6.6 Wielandt 收缩法 —— 求次大本征值

假设已知最大本征对：

$$ Av1=\lambda1v1. $$ 对于对称矩阵，且 $v1$ 已归一化：

$$ v1^Tv1=1. $$ 定义：

$$ B=A-\lambda1v1v1^T. $$ 看它对 $v1$ 的作用：

$$ Bv1=Av1-\lambda1v1v1^Tv1. $$ 因为

$$ Av1=\lambda1v1,\qquad v1^Tv_1=1, $$ 所以

$$ Bv1=\lambda1v1-\lambda1v1=0. $$ 也就是说，原来 $\lambda1$ 被压成了 0。

对于其他正交本征向量 $v_i$，$i\geq2$：

$$ v1^Tvi=0. $$ 于是

$$ Bvi=Avi-\lambda1v1v1^Tvi = \lambdaivi-0 = \lambdaivi. $$ 所以 $B$ 的本征值为：

$$ 0,\lambda2,\lambda3,\ldots,\lambda_n. $$ 这样可以继续对 $B$ 做幂法，求次大本征值。

$B'$ 的本征值为 $\lambda2, \lambda3, \ldots, \lambda_n$，可以继续用幂法求 $\lambda_2$。

💡 类似量子计算中 VQD（Variational Quantum Deflation）算法求激发态的思路。

6.7 三种 Power 方法对比

方法	目标	关键操作	收敛速度
幂法	最大 $	\lambda	$	$A\mathbf{x}$	$(\lambda2/\lambda1)^k$
反幂法	最接近 $q$ 的 $\lambda$	$(A-qI)^{-1}\mathbf{x}$	极快（若 $q$ 接近）
位移幂法	最接近 $\sigma$ 的 $\lambda$	$(A-\sigma I)\mathbf{x}$	中等

⚠️ Power 方法的局限：只求一个本征值，而且当 $|\lambda2/\lambda1|$ 接近 1 时收敛极慢

7. 奇异值分解（SVD）

7.1 定义

对 $m \times n$ 矩阵 $A$，存在分解：

$$A = U S V^T$$

$U$：$m \times m$ 正交矩阵，列是「左奇异向量」
$V$：$n \times n$ 正交矩阵，列是「右奇异向量」
$S$：$m \times n$ 对角矩阵，对角元 $\sigma_i \geq 0$ 是奇异值

矩阵形式（$m=3, n=2$ 的例子）：

$$ A = \underbrace{\begin{bmatrix} | & | & | \ \mathbf{u}1 & \mathbf{u}2 & \mathbf{u}3 \ | & | & | \end{bmatrix}}{U} \underbrace{\begin{bmatrix} \sigma1 & 0 \ 0 & \sigma2 \ 0 & 0 \end{bmatrix}}{S} \underbrace{\begin{bmatrix} — & \mathbf{v}1^T & — \ — & \mathbf{v}2^T & — \end{bmatrix}}{V^T} $$

Proof

考察：

$$ A^TA. $$ 它是 $n\times n$ 对称矩阵：

$$ (A^TA)^T=A^TA. $$ 并且半正定，因为对任意 $x$：

$$ x^TA^TAx=(Ax)^T(Ax)=|Ax|^2\geq0. $$ 所以 $A^TA$ 可以正交对角化：

$$ A^TA=V\Lambda V^T. $$ 其中

$$ \Lambda=\operatorname{diag}(\lambda1,\ldots,\lambdan), $$ 且

$$ \lambda_i\geq0. $$ 定义奇异值：

$$ \sigmai=\sqrt{\lambdai}. $$ 于是：

$$ A^TAvi=\sigmai^2vi. $$ 这里 $vi$ 是 $V$ 的第 $i$ 列，称为右奇异向量。

构造左奇异向量

当 $\sigma_i>0$ 时，定义：

$$ ui=\frac{1}{\sigmai}Avi. $$ 现在证明 $ui$ 正交归一。

计算：

$$ ui^Tuj = \frac1{\sigmai\sigmaj}(Avi)^T(Avj). $$ 即：

$$ ui^Tuj = \frac1{\sigmai\sigmaj}vi^TA^TAvj. $$ 因为

$$ A^TAvj=\sigmaj^2v_j, $$

所以：

$$ ui^Tuj = \frac{\sigmaj^2}{\sigmai\sigmaj}vi^Tvj = \frac{\sigmaj}{\sigmai}\delta{ij}. $$ 当 $i=j$ 时：

$$ ui^Tui=1. $$ 当 $i\neq j$ 时：

$$ ui^Tuj=0. $$ 因此这些 $u_i$ 是标准正交的。

得到 $Avi=\sigmai u_i$

由定义：

$$ ui=\frac1{\sigmai}Av_i, $$ 所以

$$ Avi=\sigmai ui. $$ 把所有 $vi$ 合起来：

$$ AV=U\Sigma. $$ 右乘 $V^T$：

$$ A=U\Sigma V^T. $$ 这就是 SVD。

如果某些 $\sigmai=0$，则 $Avi=0$，这些方向属于零空间。对应的 $u_i$ 可以通过补全正交基得到。

进一步的

同样可以证明：

$$ AA^Tui=\sigmai^2u_i. $$ 因为：

$$ Avi=\sigmai u_i. $$ 左乘 $A^T$ 得：

$$ A^Tui=\sigmai v_i. $$ 再左乘 $A$：

$$ AA^Tui=\sigmai Avi=\sigmai^2u_i. $$ 所以：

$A^TA$ 的本征向量是右奇异向量；
$AA^T$ 的本征向量是左奇异向量；
二者的非零本征值相同，都是 $\sigma_i^2$。

7.2 SVD 与 $A^T A$ 的关系

$A^T A$ 是 $n \times n$ 对称半正定矩阵，其本征值为 $\sigmai^2$，本征矢为 $\mathbf{v}i$：

$$ A^T A \mathbf{v}i = \sigmai^2 \mathbf{v}_i $$ 计算 SVD 的步骤：

1. 求 A^T A 的本征值 σ_i^2 和本征矢 v_i
2. 奇异值 σ_i = sqrt(σ_i^2)
3. 构造 V = [v_1, v_2, ..., v_n]
4. U 的前 k 列：u_i = (1/σ_i) A v_i  (i=1,...,k, k=rank(A))
5. U 的剩余 m-k 列：补充线性无关向量，用 Gram-Schmidt 正交化

7.3 SVD与本征值

💡 如果 $A$ 是对称正定矩阵，则奇异值 = 本征值。一般情况下 $\sigmai \neq |\lambdai|$。

如果 $A$ 是对称正定矩阵，则： $$ A=Q\Lambda Q^T, $$ 且 $\lambdai>0$。这时： $$ A^TA=A^2=Q\Lambda^2Q^T, $$ 所以： $$ \sigmai=\lambdai. $$ 如果 $A$ 是对称但不正定，则： $$ \sigmai=|\lambda_i|. $$ 如果 $A$ 是一般矩阵，奇异值通常不等于本征值绝对值。

7.4 SVD 的图像压缩应用

低秩近似

SVD 可以写成外积和：

$$ A=\sum{i=1}^r\sigmai uivi^T, $$ 其中 $r=\operatorname{rank}(A)$。

如果只保留前 $k$ 个最大奇异值：

$$ Ak=\sum{i=1}^k\sigmai uiv_i^T. $$ 这就是最好的秩 $k$ 近似，称为 Eckart–Young 定理：

$$ |A-Ak|F = \min{\operatorname{rank}(B)\leq k}|A-B|F. $$ 误差为：

$$ |A-Ak|F^2 = \sum{i=k+1}^r\sigmai^2. $$ 这就是图像压缩的数学基础。

每个像素对应矩阵的一个元素。取前 $k$ 个最大奇异值（$k \ll N$）：

$$A \approx \sum{i=1}^{k} \sigmai \mathbf{u}i \mathbf{v}i^T$$

存储量对比：

	完整存储	SVD 压缩 ($k$ 项)
要存的数	$N^2$	$k(2N+1)$
压缩比	1	$\frac{k(2N+1)}{N^2}$
例：$N=1000, k=50$	1,000,000	100,050 ≈ 10× 压缩

8. Krylov 子空间方法

8.1 Krylov 子空间的定义

给定矩阵 $A$ 和初始向量 $\mathbf{q}_1$，$m$ 阶 Krylov 子空间为：

$$ \mathcal{K}m(A, \mathbf{q}1) = \text{span}{\mathbf{q}1, A\mathbf{q}1, A^2\mathbf{q}1, \ldots, A^{m-1}\mathbf{q}1} $$ 说人话：不断用矩阵 $A$ 去乘初始向量，每次乘出来的新向量构成一个子空间的基。这个子空间自动包含了对解最有用的方向。

8.2 为什么 Krylov 子空间有效？

幂法只看：

$$ q1,Aq1,A^2q_1,\ldots $$ 的最后一个方向。

Krylov 方法则把这些向量张成的整个空间都利用起来。

也就是说，它不是只取一个向量，而是在空间：

$$ \mathcal Km(A,q1) $$ 里面寻找最佳近似本征向量。

幂法本质上就是在 $\mathcal{K}_1$ 中找最优近似
Krylov 子空间方法用 $\mathcal{K}_m$（$m$ 维），信息量大得多
$m$ 维 Krylov 子空间能捕获前 $m$ 个主导本征矢的信息

8.3 Krylov 基的性质

8.3.1 多项式滤波视角

Krylov 子空间中的任意向量都可以写成：

$$ y=p{m-1}(A)q1, $$ 其中 $p_{m-1}$ 是次数不超过 $m-1$ 的多项式。

如果因为 $\mathbf{v}i$ 是本征矢，满足 $A\mathbf{v}i = \lambdai \mathbf{v}i$，所以 $A^2\mathbf{v}i = \lambdai^2 \mathbf{v}_i$。同理，多项式作用上去就会变成：

$$ q1=\sumi civi, $$ 则

$$ p(A)q1=\sumi cip(\lambdai)vi. $$ 你想得到系统最低能量（基态本征值 $\lambda1$）对应的本征矢 $\mathbf{v}1$。你可以设计（或者让算法自动寻找）一个多项式 $p(x)$。这个多项式在 $x = \lambda1$ 处的值非常大，而在其他本征值处的值都接近 $0$（就像一个滤波器）。这样，在求和项 $\sum ci p(\lambdai) \mathbf{v}i$ 中，非目标项都被压制到了几乎为 0，只有 $c1 p(\lambda1)\mathbf{v}1$ 这一项脱颖而出！

所以 Krylov 方法本质上是在构造多项式 $p$，使得：

目标本征值对应的 $p(\lambda_i)$ 大；
非目标本征值对应的 $p(\lambda_i)$ 小。

这就是“自动筛选重要方向”的原因。

8.3.2 Krylov 投影思想

直接解超级大矩阵 $A\mathbf{x} = \lambda \mathbf{x}$ 是不可能的。既然如此，我们能不能只在 $m$ 维的 Krylov 子空间里找近似解？（通常 $m$ 很小，比如 $m=30$ 或 $50$）

我们把这个小空间里的一组正交基按列排好，拼成一个大矩阵 $Qm = [\mathbf{q}1, \mathbf{q}2, \dots, \mathbf{q}m]$（尺寸是 $n \times m$）。因为基向量是正交归一的，所以满足 $Qm^T Qm = I_m$（$m \times m$ 的单位阵）

我们不直接在 $n$ 维大空间里解：

$$ Ax=\lambda x. $$ 而是在 $m$ 维子空间中近似（我们假设真实的本征矢 $\mathbf{x}$ 可以由这个小空间的基线性组合得到），这里y是一个只有m维的小向量：

$$ x\approx Qmy, $$ 其中 $Qm$ 的列是 Krylov 子空间的一组正交基。

要求残差（近似解和精确解的差距）：

$$ r=AQmy-\theta Qmy $$ 利用伽辽金条件（Golerkin Condition）：我们不能让残差等于 0（因为空间不够大，不可能完全精确），但我们可以要求残差 $\mathbf{r}$ 与我们这个小空间 $Q_m$ 垂直。意思是，误差不能在我们关心的空间里露头。即要求与子空间正交：

$$ Q_m^Tr=0. $$ 代入：

$$ Qm^T(AQmy-\theta Q_my)=0. $$ 得到：

$$ Qm^TAQmy-\theta Qm^TQmy=0. $$ 因为

$$ Qm^TQm=I, $$ 所以：

$$ (Qm^TAQm)y=\theta y. $$ 定义小矩阵 m ✖️ m的小矩阵：

$$ Hm=Qm^TAQ_m. $$ 于是只需解小规模本征值问题：

$$ Hmy=\theta y. $$ $\theta$ 称为 Ritz 值，$Qmy$ 称为 Ritz 向量。

我们把一个 $10^{10} \times 10^{10}$ 的巨无霸本征值问题，通过投影，变成了一个 $50 \times 50$ 的微型本征值问题。我们用前几章介绍的常规方法（如 QR 算法）轻松对角化 $Hm$，求出本征值 $\theta$（称为 Ritz 值）和本征矢 $\mathbf{y}$。然后通过 $\mathbf{x} \approx Qm \mathbf{y}$，就能非常精准地还原出原大矩阵的本征矢（称为 Ritz 向量）。

在 krylov子空间中， A的投影矩阵是上 Hessenberg形式（即除了主对角线、紧挨着的下一条次对角线以外，下三角其余元素全是0）

Krylov基生成过程

这个基的生成过程（也就是著名的 Arnoldi 迭代算法）一步一步彻底拆解。

首先，我们要明白为什么不直接用 ${ \mathbf{b}, A\mathbf{b}, A^2\mathbf{b}, \ldots }$ 做基？ 因为当 $k$ 稍微变大一点，根据幂法的原理，$A^k\mathbf{b}$ 会迅速向最大本征值对应的本征矢靠拢。这就导致这几个向量几乎指向同一个方向（也就是几乎共线），数学上叫“高度线性相关”。用它们做基，矩阵极其病态，计算机稍微一算就全是舍入误差。

所以，我们需要一边用 $A$ 乘，一边做正交化。这个完美的结合，就是 Arnoldi 过程。

第一步：准备启动（Step 0）

我们有一个初始向量 $\mathbf{b}$。

计算它的模长：$\beta = |\mathbf{b}|$。
把它归一化，得到我们第一根正交基向量 $\mathbf{q}1$： $$\mathbf{q}1 = \frac{\mathbf{b}}{\beta}$$ 此时，我们的基里面只有一根向量：${\mathbf{q}_1}$。

第二步：生成第二根基向量 $\mathbf{q}_2$（Step 1）

现在我们想通过 $A$ 作用到已有的基上来扩展空间。

用 $A$ 乘已有的最新基向量： $$\mathbf{v} = A\mathbf{q}_1$$
正交化（剔除在 $\mathbf{q}_1$ 方向上的投影）：计算 $\mathbf{v}$ 与 $\mathbf{q}1$ 的内积，记为 $h{11}$： $$h{11} = \mathbf{q}1^T \mathbf{v}$$ 然后从 $\mathbf{v}$ 中减去 $\mathbf{q}1$ 方向的分量，得到一个纯净的、与 $\mathbf{q}1$ 垂直的新方向向量 $\mathbf{r}$： $$\mathbf{r} = \mathbf{v} - h{11}\mathbf{q}1$$
归一化：计算这根新向量的模长，记为 $h{21}$： $$h{21} = |\mathbf{r}|$$ 如果 $h{21} \neq 0$，归一化得到第二根基向量 $\mathbf{q}2$： $$\mathbf{q}2 = \frac{\mathbf{r}}{h{21}}$$ 此时，我们的基向量组变成了：${\mathbf{q}1, \mathbf{q}2}$。它们彼此正交且长度为 1。

第三步：生成第三根基向量 $\mathbf{q}_3$（Step 2）

重复这个思路：

用 $A$ 乘上一步新生成的基向量 $\mathbf{q}_2$： $$\mathbf{v} = A\mathbf{q}_2$$
正交化（剔除在已有的 $\mathbf{q}1$ 和 $\mathbf{q}2$ 上的所有投影）：
- 剔除 $\mathbf{q}1$ 方向：$h{12} = \mathbf{q}_1^T \mathbf{v}$
- 剔除 $\mathbf{q}2$ 方向：$h{22} = \mathbf{q}2^T \mathbf{v}$ 从 $\mathbf{v}$ 中把这两份投影全部扣掉： $$\mathbf{r} = \mathbf{v} - h{12}\mathbf{q}1 - h{22}\mathbf{q}_2$$
归一化：计算模长：$h{32} = |\mathbf{r}|$，得到第三根基向量： $$\mathbf{q}3 = \frac{\mathbf{r}}{h{32}}$$ 此时，基向量组变成了：${\mathbf{q}1, \mathbf{q}2, \mathbf{q}3}$。

归纳：第 $j$ 步的通用公式（Step $j$）

已知前 $j$ 个已经相互正交归一的基 ${\mathbf{q}1, \mathbf{q}2, \ldots, \mathbf{q}_j}$。我们要生出第 $j+1$ 个：

作用算符： $$\mathbf{v} = A\mathbf{q}_j$$
扣除前 $j$ 个方向的投影（施密特正交化）：对于每一个 $i = 1, 2, \ldots, j$： $$h{ij} = \mathbf{q}i^T \mathbf{v}$$ 扣除投影后的残差向量： $$\mathbf{r} = \mathbf{v} - \sum{i=1}^{j} h{ij}\mathbf{q}_i$$
归一化： $$h{j+1, j} = |\mathbf{r}|$$ $$\mathbf{q}{j+1} = \frac{\mathbf{r}}{h_{j+1, j}}$$

这就是完整的 Krylov 基生成过程（Arnoldi 迭代）。

💡 为什么这样会自然产生“上 Hessenberg 矩阵”？

我们把第 $j$ 步归一化公式 $\mathbf{q}{j+1} = \frac{\mathbf{r}}{h{j+1, j}}$ 变形一下（乘以分母）： $$\mathbf{r} = h{j+1, j} \mathbf{q}{j+1}$$

再把第二步正交化公式代入这个式子： $$\mathbf{v} - \sum{i=1}^{j} h{ij}\mathbf{q}i = h{j+1, j} \mathbf{q}_{j+1}$$

因为 $\mathbf{v} = A\mathbf{q}j$，我们移项整理得到： $$A\mathbf{q}j = h{1j}\mathbf{q}1 + h{2j}\mathbf{q}2 + \ldots + h{jj}\mathbf{q}j + h{j+1, j}\mathbf{q}{j+1}$$

这个式子的物理意义非常震撼：当你用大矩阵 $A$ 作用到第 $j$ 个基向量上时，产生的新向量最多只能投影到第 $j+1$ 个基向量上！它跟再后面的基向量（例如 $\mathbf{q}{j+2}, \mathbf{q}{j+3}$）绝对是垂直的（内积为0）。

这就意味着，如果把所有系数 $h{ij}$ 排成一个矩阵： $$ H = \begin{bmatrix} h{11} & h{12} & h{13} & \cdots \ h{21} & h{22} & h{23} & \cdots \ 0 & h{32} & h{33} & \cdots \ 0 & 0 & h{43} & \cdots \ \vdots & \vdots & \vdots & \ddots \end{bmatrix} $$ 由于对于所有 $i > j+1$ 的位置，其系数 $h_{ij} = 0$，所以主对角线下方的第二条线开始，全部都是 0！这正是上 Hessenberg 矩阵！

所以，Arnoldi 算法妙就妙在：它在用施密特正交化建立空间基底的同时，顺手就把在这个空间里投影的大矩阵 $A$，记录成了一个极其简单、几乎是对角阵的 Hessenberg 小矩阵 $H$！接下来对这个 $H$ 做对角化，就能轻松拿到我们想要的本征值。

直观解释：

回忆一下 Krylov 基的生成过程：

$\mathbf{q}2$ 是由 $A\mathbf{q}1$ 正交化得到的；
$\mathbf{q}3$ 是由 $A\mathbf{q}2$ 正交化得到的；
一般地， $A \mathbf{q}j$ 只能跟前面的 $\mathbf{q}1, \dots, \mathbf{q}j, \mathbf{q}{j+1}$ 发生关联（投影不为 0）。对于比 $j+1$ 更靠后的基向量（如 $\mathbf{q}{j+2}$ 甚至更远），由于生成顺序的关系，它们和 $A \mathbf{q}j$ 必然是正交的：

$$ \mathbf{q}i^T A \mathbf{q}j = 0 \quad (\text{当 } i > j+1) $$

而 $H{ij} = \mathbf{q}i^T A \mathbf{q}j$ 正是矩阵 $Hm$ 的矩阵元！这说明，只要行数 $i$ 大于列数 $j+1$，对应的矩阵元就全部为 0。

写出来就是： $$ Hm = \begin{bmatrix} h{11} & h{12} & h{13} & \cdots \ h{21} & h{22} & h{23} & \cdots \ 0 & h{32} & h{33} & \cdots \ 0 & 0 & h{43} & \cdots \ \end{bmatrix} $$ 这正是上 Hessenberg 矩阵！这种矩阵不仅容易存储，而且极易使用 QR 算法进行对角化。Krylov 方法之所以如此高效，秘密全在于此！

💡 这正是 Krylov 子空间方法的核心：在 Krylov 子空间中，$A$ 的投影矩阵是上 Hessenberg 形式——比原矩阵更容易对角化。

9. Lanczos 迭代

9.1 核心思想

对对称矩阵 $A$，在 Krylov 子空间中构造一组正交基（Lanczos 基），使得 $A$ 在这组基下的投影是三对角矩阵。

9.2 Lanczos 三对角化

初始化：

$$ q0=0,\qquad \beta0=0. $$ 给定归一化 $q_1$。

第 $i$ 步：

$$ u=Aqi-\beta{i-1}q_{i-1}. $$ 计算对角元：

$$ \alphai=qi^Tu. $$ 去掉当前方向：

$$ u=u-\alphaiqi. $$ 计算次对角元：

$$ \beta_i=|u|. $$ 如果

$$ \beta_i=0, $$ 说明 Krylov 子空间已经不再扩展，算法终止。

否则：

$$ q{i+1}=\frac{u}{\betai}. $$ 于是得到三项关系：

$$ Aqi=\beta{i-1}q{i-1}+\alphaiqi+\betaiq_{i+1}. $$ 矩阵形式

把列向量合成： $$ Qm=[q1,q2,\ldots,qm]. $$ 则： $$ AQm=QmTm+\betamq{m+1}em^T. $$ 其中： $$ Tm= \begin{bmatrix} \alpha1&\beta1\ \beta1&\alpha2&\beta2\ &\beta2&\alpha3&\ddots\ &&\ddots&\ddots&\beta{m-1}\ &&&\beta{m-1}&\alpham \end{bmatrix}. $$ 如果忽略最后残差项，就是： $$ Qm^TAQm=Tm. $$ 所以 Lanczos 把大矩阵 $A$ 投影成小三对角矩阵 $T_m$。

给定对称矩阵 $A$ 和初始归一化向量 $\mathbf{q}1$（$\mathbf{q}0 = \mathbf{0}$, $\beta_0 = 0$）：

Lanczos 迭代：

for i = 1, 2, ..., m:
    u = A q_i - β_{i-1} q_{i-1}       ← 矩阵乘 + 减去上一步贡献
    α_i = q_i^T u                      ← 对角元
    u = u - α_i q_i                    ← 再减当前方向
    β_i = ||u||                        ← 次对角元
    if β_i ≈ 0: break
    q_{i+1} = u / β_i                  ← 归一化得到下一个基向量
end

每次迭代只需要3 个向量（$\mathbf{q}{i-1}, \mathbf{q}i, \mathbf{q}_{i+1}$），内存效率极高！

9.3 得到的结构

$m$ 步后得到三对角矩阵 $T_m$：

$$Tm = \begin{bmatrix} \alpha1 & \beta1 & & \ \beta1 & \alpha2 & \beta2 & \ & \beta2 & \ddots & \ddots \ & & \ddots & \ddots & \beta{m-1} \ & & & \beta{m-1} & \alpham \end{bmatrix}$$

且 $A Qm = Qm Tm + \betam \mathbf{q}{m+1} \mathbf{e}m^T$

9.4 数值例子

$$ A = \begin{bmatrix} 3 & 2 & 5 \ 2 & 3 & 5 \ 5 & 5 & 0 \end{bmatrix},\quad \mathbf{q}_1 = \begin{bmatrix} 1 \ 0 \ 0 \end{bmatrix} $$

精确本征值：$10,\ -5,\ 1$

$m=2$ 步 Lanczos：

$$ \mathbf{q}2 = \frac{A\mathbf{q}1 - \alpha1\mathbf{q}1}{\beta_1} = \text{计算得} \begin{bmatrix} 0 \ 0.371 \ 0.928 \end{bmatrix} $$

得到 $2\times2$ 三对角矩阵：

$$T_2 = \begin{bmatrix} 3 & \sqrt{29} \ \sqrt{29} & 29/29 \approx 1 \end{bmatrix}$$

对角化 $T_2$ 得到近似本征值 $8.83$ 和 $-1.97$。仅 2 步就找到了"极端本征值"（最大和最小）的近似！

完整 $m=3$（$m=n$，全矩阵） 则严格恢复本征值 $[10, 1, -5]$。

9.5 Lanczos 的收敛特性

设

$$ T_my=\theta y. $$ 则近似本征向量为：

$$ x=Q_my. $$ 残差：

$$ r=Ax-\theta x. $$ 代入：

$$ r=AQmy-\theta Qmy. $$ 利用 Lanczos 关系：

$$ AQm=QmTm+\betamq{m+1}em^T. $$ 所以：

$$ r=(QmTm+\betamq{m+1}em^T)y-\theta Qmy. $$ 因为

$$ T_my=\theta y, $$ 所以前两项抵消：

$$ QmTmy-\theta Q_my=0. $$ 剩下：

$$ r=\betamq{m+1}e_m^Ty. $$ 因此残差范数：

$$ |r|=|\betam|\cdot |em^Ty|. $$ 这提供了一个非常方便的收敛判据。 $$ \text{极端本征值（最大/最小）收敛快} \quad > \quad \text{中间本征值收敛慢} $$

数值验证（$A = B^T B$，$B \in \mathbb{R}^{10\times10}$ 正定对称，$m$ 取 2~10）：

Krylov 维度 $m$	收敛的本征值
2	最大 + 最小（极端值）
4~5	前几个极端值
10（满秩）	全部严格本征值

💡 Lanczos = 在 Krylov 子空间中对对称矩阵做截断对角化。截断类似于 SVD 图像压缩——保留最重要的信息、丢弃细节。极端本征值对应"最重要成分"。

9.6 Lanczos 的优势

特性	说明
内存	只需存 3 个向量（$\mathbf{q}{i-1}, \mathbf{q}i, \mathbf{q}_{i+1}$）
主要操作	矩阵-向量乘（$A\mathbf{q}_i$），适合稀疏矩阵
适用规模	$10^9 \sim 10^{10}$ 维基矢！
最佳场景	稀疏、短程相互作用的哈密顿量

理论上 Lanczos 向量彼此正交：

$$ qi^Tqj=0,\qquad i\neq j. $$ 但浮点运算中，由于舍入误差，正交性会逐渐丢失。

后果是：

已经收敛的本征值可能重复出现；
出现 ghost eigenvalues；
Ritz 值稳定性变差。

解决办法包括：

full reorthogonalization；
selective reorthogonalization；
partial reorthogonalization；
restarted Lanczos。

10. Arnoldi 迭代

10.1 动机

Lanczos 要求矩阵对称（或 Hermite）。对于不对称矩阵，需要 Arnoldi 迭代。

10.2 Arnoldi 算法

给定不对称矩阵 $A$ 和初始归一化向量 $\mathbf{q}_1$：

for k = 1, 2, ..., m:
    v = A q_k
    for j = 1 to k:                    ← 与前面所有 q_j 正交化
        h_{j,k} = q_j^T v              ← 内积（投影系数）
        v = v - h_{j,k} q_j
    end
    h_{k+1,k} = ||v||                   ← 次对角元
    if h_{k+1,k} ≈ 0: break
    q_{k+1} = v / h_{k+1,k}
end

关键区别：Lanczos 只需与 $\mathbf{q}{k-1}$ 和 $\mathbf{q}k$ 正交化（利用对称性），Arnoldi 需要与所有已生成的 $\mathbf{q}1, \ldots, \mathbf{q}k$ 正交化。

10.3 结果：上 Hessenberg 矩阵

$m$ 步 Arnoldi 得到 $m \times m$ 上 Hessenberg 矩阵 $H_m$：

$$Hm = \begin{bmatrix} h{1,1} & h{1,2} & h{1,3} & \cdots & h{1,m} \ h{2,1} & h{2,2} & h{2,3} & \cdots & h{2,m} \ 0 & h{3,2} & h{3,3} & \cdots & h{3,m} \ \vdots & \ddots & \ddots & \ddots & \vdots \ 0 & \cdots & 0 & h{m,m-1} & h{m,m} \end{bmatrix}$$

（如果 $A$ 对称，则 $H_m$ 退化为三对角 = 回到 Lanczos）

10.4 Arnoldi vs Lanczos 对比

	Lanczos	Arnoldi
适用矩阵	对称 / Hermite	任意方阵
正交化	只需 2 个旧向量	需所有旧向量
结果矩阵	三对角	上 Hessenberg
计算量/步	$O(n)$	$O(n \cdot k)$（逐渐增加）
代表软件	—	ARPACK

💡 ARPACK 是 Arnoldi Package 的缩写，是求解大型稀疏矩阵本征值问题的主流软件包。当 $\mathbf{q}_k$ 接近零向量时算法自然终止（精确不变子空间已找到）。

11. Schrödinger 方程的对角化求解

11.1 问题提法

径向 Schrödinger 方程是一个本征值问题：

$$H|\psi\rangle = E|\psi\rangle$$

其中 $H$ 是实对称矩阵，$\psi$ 是波函数，$E$ 是能级。

11.2 求解策略流程

                    ┌─────────────────────────────┐
                    │   哈密顿量矩阵 H (实对称)     │
                    └────────────┬────────────────┘
                                 │
                ┌────────────────┼────────────────┐
                ▼                ▼                ▼
        ┌───────────────┐ ┌───────────┐  ┌─────────────────┐
        │ 直接法 (稠密)   │ │ 幂法       │  │ Lanczos (稀疏)   │
        │ Householder   │ │ (最大E)    │  │ (极端本征值)     │
        │ → QR对角化     │ │ 反幂法     ｜  │ 3向量内存        │
        │ 全部本征值     │ │ (指定E)   │   │ 10^9~10^10基     │
        └───────────────┘ └───────────┘ └─────────────────┘

11.3 具体方案对比

方案	适用场景	计算量	特点
Householder → QR	$H$ 稠密，需全部本征态	$\sim 2n^3/3$（不含本征矢）	完整精确
Power method	只需基态能量	$O(n^2)$/步	简单但收敛慢
Lanczos	$H$ 稀疏/短程，需极端本征值	$O(n)$/步（稀疏）	内存极省

12. DMRG：密度矩阵重整化群

12.1 问题背景

严格对角化计算量随系统尺寸指数增长（$2^L$），无法处理大系统。

12.2 NRG（数值重整化群, Wilson 1974）

K. Wilson 因重整化群在临界现象和 Kondo 效应中的应用获 1982 年诺贝尔物理学奖。

NRG 步骤：

① 初始块 A (长度 L)，Hilbert 空间维数 M
     ↓
② 形成复合块 AA (长度 2L)，哈密顿量 H_AA (维数 M²)
     ↓
③ 用 Lanczos 对角化 H_AA，取 M 个最低本征态
     ↓
④ 将 H_AA 投影到截断空间 → H_AA-tr
     ↓
⑤ 令 2L→L, AA→A, H_AA-tr→H_A，回到步骤②
     ↓  重复直到达到目标系统尺寸

12.3 NRG 的局限 → DMRG 的革新

	NRG	DMRG
截断依据	能量（取最低 M 个本征态）	量子熵（密度矩阵本征值）
环境处理	不考虑	保留环境效应
最佳场景	杂质问题（很有限）	低纠缠系统（极为广泛）

💡 DMRG 的关键创新：不按能量截断，而按约化密度矩阵的奇异值（SVD）截断——本质是在量子纠缠熵中做截断。

12.4 DMRG 算法流程

Warm-up 阶段：

1. Lanczos 求基态
2. 构造 A' 和 B' 块
3. 构造约化密度矩阵
4. 对角化约化密度矩阵
5. 将 H_A 变换到密度矩阵本征基，截断
6. 重复

Sweeping 阶段：通过多轮左右扫描优化波函数，直到收敛。

12.5 DMRG 的应用范围

自旋链、量子点、原子核、量子化学、量子信息……DMRG 已成为处理一维/准一维多体系统的黄金标准方法。

13. 算法对比与总结

13.1 本征值问题与量子多体问题

量子多体系统 → 组态混合 → 大型矩阵对角化 → 本征值问题的数值方法

13.2 所有算法一览

算法	类别	求几个本征值	矩阵要求	计算量	内存需求	适用规模
Jacobi	直接迭代	全部	对称	$O(n^3)$	$O(n^2)$	小（$n<100$）
Householder	直接变换	全部	对称	$\sim 2n^3/3$	$O(n^2)$	中等
QR（基本）	迭代	全部	任意	$O(n^3)$/步	$O(n^2)$	中等
Shifted QR	迭代	全部	任意	$O(n^2)$（三对角后）	$O(n^2)$	中等
幂法	迭代	1 个（最大）	任意	$O(n^2)$/步	$O(n)$	任意
反幂法	迭代	1 个（指定）	任意	$O(n^2)$+求解	$O(n)$	任意
Lanczos	子空间迭代	极端值	对称	$O(n)$/步（稀疏）	$O(n)$	超大（$10^9$+）
Arnoldi	子空间迭代	部分	任意	$O(nk)$/步	$O(nk)$	大
SVD	分解	全部奇异值	任意	$O(n^3)$	$O(n^2)$	中等
DMRG	重整化群	基态	对称/Hermite	多项式	可控	大（$10^2$ 格点）

13.3 选择算法的决策树

需要求全部本征值？
├── 是 → 矩阵是否稠密？
│        ├── 是 → Householder + QR 算法
│        └── 否 → 能否做三对角化？
│                 └── 是 → Householder + QR（三对角矩阵）
│
└── 否 → 需要几个本征值？
         ├── 1 个（最大）→ 幂法
         ├── 1 个（指定位置）→ 反幂法
         └── 多个极端值 → 矩阵是否对称？
              ├── 是 → Lanczos
              └── 否 → Arnoldi

13.4 算法背后的数学思想

思想	代表算法	核心操作
旋转消元	Jacobi, Givens QR	逐个/逐列消去非对角元
反射消元	Householder	批量整列消元
子空间投影	Lanczos, Arnoldi	在 Krylov 子空间做近似
迭代收敛	Power, QR	反复作用使主导方向浮现
低秩近似	SVD, DMRG	保留最大奇异值/最大纠缠
重整化	NRG, DMRG	通过截断控制 Hilbert 空间维度

13.5 二十世纪十大算法（与本课程相关的两个）

QR 算法 —— 计算矩阵全部本征值的标准方法
Krylov 子空间方法 —— 大型稀疏矩阵本征值问题的革命性方法

13.6 关键公式速查

公式	名称	含义
$A\mathbf{x} = \lambda\mathbf{x}$	本征值方程	矩阵作用 = 标量拉伸
$P = I - 2\mathbf{w}\mathbf{w}^T$	Householder 矩阵	反射变换矩阵
$\tan 2\theta = \frac{2a{pq}}{a{pp}-a_{qq}}$	Jacobi 旋转角	消去非对角元 $a_{pq}$
$A^{(k+1)} = R^{(k)}Q^{(k)}$	QR 迭代	反向乘积累
$A^{(k)} - \sigma I = QR$	Shifted QR	加速收敛的位移
$A = USV^T$	SVD	奇异值分解
$\mathcal{K}m = \text{span}{\mathbf{q}1, A\mathbf{q}1, \ldots, A^{m-1}\mathbf{q}1}$	Krylov 子空间	子空间基的生成
$Tm = Qm^T A Q_m$（三对角）	Lanczos 分解	对称情况的简化
$H_m$（上 Hessenberg）	Arnoldi 分解	非对称情况的投影
$\tilde{\rho}A = \text{Tr}B	\psi\rangle\langle\psi	$	约化密度矩阵	DMRG 的截断依据

Akuiro 整理补充· 2026-07-08

看完了？说点什么呢

蒙特卡洛方法初步

akuiro — Sun, 05 Jul 2026 13:25:52 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Monte-Carlo

1. 蒙特卡洛方法概述

📖 核心思想

通过统计采样（随机抽样）解决传统方法难以处理的数学/物理问题——积分、优化、多自由度系统模拟等。

🕰 历史起源

时间	人物	贡献
1946	Ulam, von Neumann, Metropolis	曼哈顿计划中发明，分析中子输运
后	各领域	统计物理、分子模拟、量子多体、粒子物理…

💡 物理直觉

中子与原子核作用受量子力学制约——只能知道发生概率，无法精确获得位置、速度、方向。用随机抽样模拟大量中子的统计行为，就能推知宏观传输性质。大量随机→确定结论。

🔄 方法流程

产生随机数 → 按概率分布采样 → 模拟/计算 → 统计平均 → 结果

2. 概率统计基础

2.1 概率密度函数（PDF）

概念	记号	说人话
概率密度函数	$p(x)$	随机变量取某值的"相对可能性"
累积分布函数	$P(x) = \int_{-\infty}^{x} p(t) dt$	从 $-\infty$ 积分到 $x$ 的累计概率
期望值	$\langle f\rangle = \int f(x)p(x)dx$	按概率加权平均
$n$ 阶中心矩	$\mu_n = \langle(x-\langle x\rangle)^n\rangle$	描述分布形状（2阶=方差）

💡 数值例子

某物理量 $x$ 服从 $p(x) = 2x, ; x\in[0,1]$（归一化）：

$\langle x\rangle = \int0^1 x \cdot 2x , dx = \int0^1 2x^2 dx = \frac{2}{3} \approx 0.667$
$\sigma^2 = \langle x^2\rangle - \langle x\rangle^2 = \int_0^1 2x^3 dx - (\frac{2}{3})^2 = \frac{1}{2} - \frac{4}{9} = \frac{1}{18} \approx 0.056$

2.2 中心极限定理 ⭐

不管原分布 $p(x)$ 长什么样，$m$ 个独立样本的均值 $\bar{x}$ 的分布 → 正态分布。

$$ \bar{x} \sim \mathcal{N}!\left(\mu,; \frac{\sigma^2}{m}\right) $$

$\mu$：原分布的均值
$\sigma^2/m$：均值的方差 → 样本越多，精度越高

💡 说人话

你测量某个物理量 100 次求平均，这个"平均值"的误差是单次测量误差的 $1/\sqrt{100}=1/10$。样本量翻 4 倍，精度翻 2 倍。

3. 随机数生成

3.1 伪随机数要求

要求	说明
均匀性	在 $[0,1]$ 上均匀分布
去关联	相邻随机数之间相关性可忽略
长周期	重复之前能产生的序列尽可能长
速度快	算法效率高

💡 实践建议：使用系统自带随机数生成器（如 numpy.random），不自己造轮子。

3.2 高斯分布采样：Box-Muller 法

把两个在（0，1）上独立均匀分布的随机数（u1， u2），通过极坐标变换，变成两个独立的标准正态分布随机数！

因为电脑自带的随机数生成器/编程中，只能生成均匀分布的随机数，每个数字出现的概率一样大。但我们这里Guass想要得到的是标准正态分布的随机数，假设为 X和Y，有已知的pdf公式。

假设我们要同时生成两个独立的正态分布随机数 $X$ 和 $Y$。把它们的概率公式乘起来，看看它们作为一个整体（在二维平面上的一个点 $(X,Y)$）的概率是多少：

$$ f(x, y) = f(x) \times f(y) = \frac{1}{2\pi} e^{-\frac{x^2 + y^2}{2}} $$ 有平方和，自然想到极坐标来表示可能会简化这个事情

$$ \frac{1}{2\pi} e^{-\frac{x^2 + y^2}{2}} dx dy = \frac{1}{2\pi} e^{-\frac{r^2}{2}} r dr d \theta $$

$$ f(\theta) = \frac{1}{2\pi} ,\space \theta \in (0, 2\pi) \ \space \ f(r) = r e^{-\frac{r^2}{2}} , \space r \in (0, +\infty) $$ 二维分布被拆解成了两个完全独立的部分可以尝试用两个独立的均匀分布随机数 u1，u2 来生成它们

选择用 “逆变换采样法” 生成 $\theta$ 和 r

逆变换采样法的原理：如果知道一个随机变量的累积分布函数 CDF为 F（x），那么令 $F(x) = u$（其中 $u$ 是 $(0,1)$ 的均匀分布随机数），反解出 $x = F^{-1}(u)$，就能得到符合该分布的随机数。

就是说：假设你要生成的随机变量为 X，其CDF为 F（x）（严格单调递增）

逆变换法说：令 U = F（x），那么 U 一定服从（0， 1）上的均匀分布！

proof：

对于任意 $u∈(0,1)$，看 U 的累积分布函数：

$$ P(U≤u)=P(F(X)≤u) $$ 因为 F 是单调递增函数，不等式 $F(X)≤u$两边同时作用反函数 $F^{-1}$，等价于：

$$ P(X≤F−1(u)) $$ 根据分布函数 F的定义，

$$ P(X≤F^{−1}(u))=F(F^{−1}(u))=u $$

结论出来了：

P(U≤u)=u

这正是 (0,1)均匀分布的累积分布函数！

既然 U=F(X) 服从均匀分布，那么反过来： 如果我从均匀分布中取一个随机数 u，令 $x=F^{-1}(u)$，那么 x的分布函数一定就是 F(x)。

因为：

$$ P(X≤x)=P(F^{−1}(U)≤x)=P(U≤F(x))=F(x) $$

第一部分：角度 $\theta$ 在 $0$ 到 $2\pi$ （即 360 度）之间是完全均匀分布的。那怎么用均匀随机数 $u_2$ 来生成角度呢？很简单，直接按比例放大：

它的概率密度是 $f(\theta) = \frac{1}{2\pi}$。求累积分布函数（CDF）：

$$ F(\theta) = \int{0}^{\theta} \frac{1}{2\pi} dt = \frac{\theta}{2\pi} $$ 令 $F(\theta) = u2$：

$$ \frac{\theta}{2\pi} = u2 \implies \theta = 2\pi u2 $$ 第二部分：距离中心的半径 $R$ 点落在距离圆心为 $R$ 的圆环上的概率，经过微积分推导，满足一个叫做“指数分布”的规律。数学上有一个很成熟的方法（叫做逆变换采样），把均匀随机数 $u_1$ 变成指数分布。

它的概率密度是 $f(r) = r e^{-\frac{r^2}{2}}$。求累积分布函数（CDF）：

$$ F(r) = \int_{0}^{r} s e^{-\frac{s^2}{2}} ds $$ 为了积这个分，我们令 $v = \frac{s^2}{2}$，那么 $dv = s ds$：

$$ F(r) = \int{0}^{\frac{r^2}{2}} e^{-v} dv = \left[ -e^{-v} \right]{0}^{\frac{r^2}{2}} = 1 - e^{-\frac{r^2}{2}} $$ 令 $F(r)$ 等于一个均匀随机数。这里有个小技巧：如果 $u1$ 在 $(0,1)$ 上均匀分布，那么 $1 - u1$ 同样在 $(0,1)$ 上均匀分布。为了方便，我们直接令 $1 - e^{-\frac{r^2}{2}} = 1 - u1$（相当于令 $e^{-\frac{r^2}{2}} = u1$）：

$$ e^{-\frac{r^2}{2}} = u_1 $$ 两边取自然对数：

$$ -\frac{r^2}{2} = \ln(u1) \ \space \ r = \sqrt{-2 \ln(u{1})} $$ 现在我们已经用 $u1$ 和 $u2$ 求出了 $r$ 和 $\theta$，最后一步就是用极坐标定义把它塞回最初的 $X$ 和 $Y$ 里：

$$ X = r \cos\theta = \sqrt{-2 \ln(u1)} \cos(2\pi u2) \ \space \ Y = r \sin\theta = \sqrt{-2 \ln(u1)} \sin(2\pi u2) $$ 推导完成。通过这套严密的微积分坐标变换和积分反解，我们证明了只要输入两个均匀分布的 $u1$ 和 $u2$，输出的 $X$ 和 $Y$ 就必定是严格独立的标准正态分布。

import numpy as np

def box_muller(n):
    """产生 n 个标准正态分布随机数"""
    u1 = np.random.uniform(0, 1, n)
    u2 = np.random.uniform(0, 1, n)
    r = np.sqrt(-2 * np.log(u1))
    theta = 2 * np.pi * u2
    return r * np.cos(theta)  # 另一组为 r * np.sin(theta)

💡 直观验证

对生成的 $10^4$ 个随机数：均值 ≈ 0，标准差 ≈ 1。画直方图应呈钟形曲线。

4. 蒙特卡洛积分

核心：把积分写成期望值，再用随机样本平均来估计期望值！！！

4.1 空间随机投点法（打靶法）

计算 $\displaystyle I = \int_a^b f(x)dx$，用矩形区域包住函数曲线，然后"撒点"。
假设有 f(x) 是正定的，且大于0的同时有最大值 fmax
其积分就是曲线下方的面积！！！

用矩阵包住曲线，于是有 $\text{矩形面积}=(b-a)f_{\max}$

在矩形中随机撒点：

$$ xi\sim U(a,b) \ \space \ yi\sim U(0,f_{\max}) $$ 如果：

$$ yi\le f(xi) $$ 说明点落在曲线下方。

设总点数 $N$，落在曲线下方点数 $n$，则：

$$ \frac{n}{N} \approx \frac{\text{曲线下面积}}{\text{矩形面积}} $$ 所以：

$$ \frac{n}{N} \approx \frac{I}{(b-a)f_{\max}} $$ 因此：

$$ \boxed{ I\approx \frac{n}{N}(b-a)f_{\max} } $$ 此估计是无偏估计！！！

┌─────────────────────┐
│    ○  ×  ○           │  f_max ↑
│  ○  ×  ×  ○  ×      │
│○  ×  ×  ○  ×  ×  ○ │          f(x) 曲线
│  ×  ×  ×  ○  ×  ×    │
│○  ×  ×  ○  ×  ×  ○ │
└─────────────────────┘
   a                  b

缺点在于如果f（x）大部分区域很小，而 fmax很大，那么会造成随机撒的点中，很多点都浪费了，虽然这个方法很直观，但是效率通常是不如期望值法！

4.2 期望值法 ⭐

$$ I = \inta^b f(x)dx \approx \frac{b-a}{N} \sum{i=1}^{N} f(xi), \quad xi \in [a,b] \text{ 均匀采样} $$

方差估计

定义：

$$ \bar f = \frac1N\sum{i=1}^N f(xi) $$ 估计量：

$$ I_N=(b-a)\bar f $$ 假设样本独立同分布，则：

$$ \operatorname{Var}(\bar f) = \frac{\operatorname{Var}(f)}{N} $$ 其中：

$$ \operatorname{Var}(f) = \langle f^2\rangle-\langle f\rangle^2 $$ 所以：

$$ \operatorname{Var}(I_N) = (b-a)^2\operatorname{Var}(\bar f) $$ 其中：

$$ \sigmaf^2 = \frac1N\sum{i=1}^N f(xi)^2 - \left( \frac1N\sum{i=1}^N f(x_i) \right)^2 $$ 误差：

$$ \boxed{ \sigmaI = (b-a)\frac{\sigmaf}{\sqrt N} } $$ 蒙特卡洛误差的核心结论：

误差与 N的平方根成反比！！！

🔢 MC 算 π 例子

import numpy as np

N = 100000
x = np.random.uniform(-1, 1, N)
y = np.random.uniform(-1, 1, N)
inside = (x**2 + y**2 <= 1).sum()
pi_est = 4 * inside / N
sigma = np.sqrt(pi_est * (4 - pi_est) / N)  # 二项式方差

print(f"π ≈ {pi_est:.5f} ± {sigma:.5f}")
# 典型输出: π ≈ 3.14159 ± 0.00518

4.3 多维积分

MC 积分的精度与维度无关——这是最大的优势！

考虑 $d$ 维积分：

$$ I= \int_\Omega f(\mathbf x),d^d x $$ 若区域体积是：

$$ V_\Omega $$ 均匀采样：

$$ \mathbf x_i\sim U(\Omega) $$ 则：

$$ I = V_\Omega \langle f\rangle $$ 估计：

$$ \boxed{ IN= \frac{V\Omega}{N} \sum{i=1}^N f(\mathbf xi) } $$ 方差：

$$ \boxed{ \sigmaI^2 = \frac{V\Omega^2}{N} \left( \langle f^2\rangle-\langle f\rangle^2 \right) } $$ 关键是：

$$ \sigma_I\propto \frac1{\sqrt N} $$ 这个 $1/\sqrt N$ 不显式依赖维度 $d$。

定积分方法	误差 vs 维度
梯形法/辛普森法	误差 ∝ $N^{-k/d}$（$d$=维度，指数衰减！）
蒙特卡洛法	误差 ∝ $1/\sqrt{N}$（与 $d$ 无关）

💡 说人话

算 100 维积分时，网格法需要天文数字的网格点，因为维度d越大，收敛越慢。
MC 只需要足够多样本——维度灾难的克星。

5. 重要性采样（Importance Sampling）

5.1 动机

均匀采样低效——被积函数 $f(x)$ 在大部分区域接近零时，大量采样点"浪费"了。
在大的地方多采样，在小的地方少采样！！！

5.2 原理

引入与 $f(x)$ 形状相似的采样函数 $F(x)$，要求$F(x)$ 在 $f(x)\ne0$ 的地方不能为0：

$$ I = \int \frac{f(x)}{F(x)} \cdot F(x) dx = \left\langle \frac{f}{F} \right\rangle_F $$

离散形式 ：

$$ I \approx \frac{1}{N}\sum{i=1}^{N} \frac{f(xi)}{F(xi)}, \quad xi \sim F(x) $$

估计量 p就是上文中的F：

$$ Y(x)=\frac{f(x)}{p(x)} $$ 那么：

$$ IN=\frac1N\sumi Y(x_i) $$ 方差：

$$ \operatorname{Var}(IN) = \frac1N \left[ \langle Y^2\ranglep-\langle Y\rangle_p^2 \right] $$ 其中：

$$ \langle Y\rangle_p=I $$ 而：

$$ \langle Y^2\rangle_p = \int \left( \frac{f(x)}{p(x)} \right)^2p(x),dx $$ 因此：

$$ \boxed{ \operatorname{Var}(I_N) = \frac1N \left[ \int\frac{f(x)^2}{p(x)}dx - I^2 \right] } $$ 这个公式告诉我们：

如果 $p(x)$ 在 $f(x)$ 大的地方也大，那么 $\frac{f^2}{p}$ 不会太大，方差就小。

最优重要性分布

如果 $f(x)\ge 0$，理论最优选择是：

$$ p_{\text{opt}}(x)=\frac{f(x)}{\int f(x)dx} $$ 因为此时：

$$ \frac{f(x)}{p_{\text{opt}}(x)} = \int f(x)dx = I $$ 每个样本都给出同样结果，方差为 0。

但问题是：

$$ p_{\text{opt}} $$ 需要知道 $I$，而 $I$ 正是我们要求的。

所以实际中选择一个和 $f(x)$ 形状相似、但容易采样的 $p(x)$。

💡 说人话

把"平均撒点"改成"在 $f(x)$ 大的地方多撒、小的地方少撒"——花同样的计算量，精度更高。

🔢 数值示例

求 $\displaystyle I = \int_0^3 x^2 e^{-x} dx$，已知 5 个 $[0,1]$ 随机数：0.033, 0.45, 0.51, 0.83, 0.95。

方法一：均匀采样

$xi = a + (b-a)ti = 3t_i$

$t_i$	$x_i$	$f(xi) = xi^2 e^{-x_i}$
0.033	0.099	0.009
0.450	1.350	0.472
0.510	1.530	0.508
0.830	2.490	0.514
0.950	2.850	0.470

$$I \approx \frac{3}{5}(0.009+0.472+0.508+0.514+0.470) = \frac{3}{5} \times 1.973 = 1.184$$

$$\sigma_f^2 = \langle f^2\rangle - \langle f\rangle^2 \approx 0.298 - 0.156 = 0.142$$

$$\sigmaI = (b-a)\sqrt{\frac{\sigmaf^2}{N}} = 3\sqrt{\frac{0.142}{5}} \approx 0.506$$

可以看出这个值本身接近精确值，但是误差估计很大因为样本量太少了！

方法二：重要性采样选取 $p(x) \propto e^{-x}$

因为被积分函数有类似 e的负x的形式分布，所以自然的为重要性采样选取

$$ p(x) = C e^{-x} , x \in [0,3] \ \space \ 归一化后，可以求的 \space C = \frac{1}{1-e^{-3}} $$

现在：

$$ \frac{f(x)}{p(x)} = \frac{x^2e^{-x}}{e^{-x}/(1-e^{-3})} $$ 所以估计量变成：

$$ \boxed{ IN= \frac1N \sum{i=1}^N (1-e^{-3})x_i^2 } $$ 其中：

$$ x_i\sim p(x)=\frac{e^{-x}}{1-e^{-3}} $$ 这比直接算 $x^2e^{-x}$ 波动小很多。

如何从 $p(x)\propto e^{-x}$ 抽样？

CDF：

$$ F(x)=\int_0^x\frac{e^{-t}}{1-e^{-3}}dt $$ 令：

$$ u=F(x) $$ 即：

$$ u= \frac{1-e^{-x}}{1-e^{-3}} $$ 于是：

$$ u(1-e^{-3})=1-e^{-x} $$ 取负对数：

$$ \boxed{ x= -\ln\left[ 1-u(1-e^{-3}) \right] } $$ 这才是标准的反函数采样公式, u是[0,1]的均匀随机分布！

📊 对比

方法	$N$	估值	方差 $\sigma_I$	精度
均匀采样	5	1.184	0.506	低
重要性采样	5	≈ 1.155	远小于均匀	高

6. 随机行走与马尔可夫链

6.1 一维随机行走

每一步以概率 $R$ 向右、$L$ 向左，步长 $\Delta x = l$ , R + L = 1

第 $k$ 步的随机变量：$\xi_k = \begin{cases} +l & \text{概率 } R \ -l & \text{概率 } L \end{cases}$
$n$ 步后位置：$Xn = \sum{k=1}^{n} \xi_k$

$$ \langle X_n\rangle = n \cdot [R \cdot l + L \cdot (-l)] = nl(R-L) $$

$$ \sigma^2(X_n) = 4nRL \cdot l^2 $$

特殊的，如果 R = L = 0.5

标准差：

$$ \sigma(X_n)=l\sqrt n $$ 这就是随机行走的典型结论：

位移平均可能为 0，但扩散宽度随 $\sqrt n$ 增长。

💡 物理直觉

设每步时间为：

$$ \tau $$ 则：

$$ t=n\tau $$ 无偏随机行走方差：

$$ \langle X^2\rangle=nl^2 $$ 写成时间：

$$ \langle X^2\rangle=\frac{t}{\tau}l^2 $$ 扩散方程中一维均方位移：

$$ \langle X^2\rangle=2Dt $$ 比较：

$$ 2Dt=\frac{l^2}{\tau}t $$ 所以：

$$ \boxed{ D=\frac{l^2}{2\tau} } $$ 这就是扩散系数。

如果有偏随机行走，还会出现漂移速度：

$$ v=\frac{l(R-L)}{\tau} $$

大量粒子独立随机行走 → 粒子分布演化为扩散方程： $$\frac{\partial P(x,t)}{\partial t} = D\frac{\partial^2 P(x,t)}{\partial x^2}$$

其中扩散系数 $D = \dfrac{l^2}{2\tau}$，$\tau$ 为每步时间。

6.2 马尔可夫过程

定义：下一步只取决于当前状态，与历史无关。行走路径 = 马尔可夫链。

马尔可夫过程的定义：

$$ P(X{n+1}=j|Xn=i,X{n-1},\dots,X0) = P(X{n+1}=j|Xn=i) $$ 意思是：

下一步只依赖当前状态，不依赖过去历史。

随机行走就是典型马尔可夫链。

转移概率矩阵

设状态概率向量： $$ \mathbf w(t)= \begin{pmatrix} w1(t)\ w2(t)\ w3(t)\ w4(t) \end{pmatrix} $$ 其中： $$ wi(t)=P(\text{系统在状态 }i) $$ 转移矩阵 $W$ 定义为： $$ W{ij}=P(j\to i) $$ 注意你的讲义采用的是：

第 $j$ 列表示从状态 $j$ 出发，转移到各状态的概率。

因此每列之和为 1： $$ \sumi W{ij}=1 $$

$$ W = \begin{pmatrix} 1-R & L & 0 & 0 \ R & 0 & L & 0 \ 0 & R & 0 & L \ 0 & 0 & R & 1-L \end{pmatrix} $$

$W_{ij}$：从状态 $j$ 转移到状态 $i$ 的概率
每列之和 = 1（归一化）

时间演化（矩阵形式）

$$ \mathbf{w}(t+\Delta t) = W \cdot \mathbf{w}(t) $$

$$ \mathbf{w}(n\Delta t) = W^n \cdot \mathbf{w}(0) $$

🔢 数值例子

4 状态系统，$L=R=0.5$，初始 $\mathbf{w}(0) = (1,0,0,0)^T$：

t=0: [1.000, 0.000, 0.000, 0.000]
t=1: [0.500, 0.500, 0.000, 0.000]
t=2: [0.500, 0.250, 0.250, 0.000]
t=3: [0.500, 0.125, 0.250, 0.125]
...
平衡: (4/15, 8/15, 1/5) ≈ (0.267, 0.533, 0.200)  (3态例)

💡 自然结论

如果经过很久后分布不再变化：

$$ \mathbf w* = W\mathbf w $$ 这说明 $\mathbf w_$ 是 $W$ 的本征矢量，对应本征值：

$$ \lambda=1 $$ 所以：

$$ \boxed{ W\mathbf w*=\mathbf w* } $$ 这就是平衡分布。

Perron-Frobenius 定理告诉我们，在合适条件下：

转移矩阵非负；
马尔可夫链不可约；
非周期；

则长期分布会收敛到唯一平衡分布。

马尔可夫链演化到最后,分布 $\mathbf{w}(t)$ 收敛到转移矩阵 $W$ 的最大本征值对应的本征矢量（Perron-Frobenius 定理）。

7. Metropolis 算法与 MCMC

7.1 平衡态与细致平衡

目标：从 Boltzmann 分布 $p(E) \propto e^{-\beta E}$ 采样。

我们想从某个复杂分布采样：

$$ p_i $$ 在统计物理中最常见的是 Boltzmann 分布：

$$ pi=\frac{e^{-\beta Ei}}{Z} $$ 其中：

$$ Z=\sumi e^{-\beta Ei} $$ 是配分函数。

问题：

$Z$ 很难算，但 Metropolis 只需要概率比值。

因为：

$$ \frac{pj}{pi} = \frac{e^{-\beta Ej}/Z}{e^{-\beta Ei}/Z} \ \space \ = e^{-\beta(Ej-Ei)} \ \space \ = e^{-\beta\Delta E} $$ 配分函数 $Z$ 抵消了。

系统趋于平衡态的条件——细致平衡（Detailed Balance）： $$ W{i\to j}, pi = W{j\to i}, pj $$

意思是：$i \to j$ 的流量 = $j \to i$ 的流量 → 分布不再变化。

总流入状态 $j$ 的概率：

$$ pj'=\sumi pi W{i\to j} $$ 如果细致平衡成立：

$$ piW{i\to j}=pjW{j\to i} $$ 所以：

$$ pj' = \sumi pj W{j\to i} $$ 从状态 $j$ 出发到所有状态的概率和为 1：

$$ \sumi W{j\to i}=1 $$ 所以：

$$ pj'=pj $$ 因此分布稳定。

💡 说人话

好比教室里的座位：有人从 A 换到 B，有人从 B 换到 C ……当每个方向的人流相等时，座位分布稳定了。这就是"热平衡"的统计图像。

7.2 Metropolis 算法 ⭐（20世纪十大算法之一）

转移概率可以写成：

$$ W{i\to j}=T{i\to j}A_{i\to j} $$ 其中：

$T_{i\to j}$：提议概率；
$A_{i\to j}$：接受概率。

标准 Metropolis 假设提议对称：

$$ T{i\to j}=T{j\to i} $$ 细致平衡要求：

$$ piT{i\to j}A{i\to j} = pjT{j\to i}A{j\to i} $$ 提议概率抵消：

$$ piA{i\to j}=pjA{j\to i} $$ 所以：

$$ \frac{A{i\to j}}{A{j\to i}} = \frac{pj}{pi} $$ Metropolis 选择，在上述中选择接受概率最大的那个，因为接受概率越大，链的“惰性”越小，随机游走探索的越快，收敛效率最高！概率的上线又是1，所以就把一个方向的概率顶到天花板1！

$$ \boxed{ A{i\to j} = \min\left(1,\frac{pj}{p_i}\right) } $$ 这就是在满足物理约束下，最高效的走法！并不是“随便取的”，而是最优解

对于 Boltzmann 分布：

$$ \frac{pj}{pi}=e^{-\beta(Ej-Ei)} =e^{-\beta\Delta E} $$ 所以：

$$ \boxed{ A_{i\to j} = \min(1,e^{-\beta\Delta E}) } $$ 如果：

$$ \Delta E=Ej-Ei\le 0 $$ 说明新状态能量更低。

那么：

$$ e^{-\beta\Delta E}\ge 1 $$ 所以：

$$ A=1 $$ 总是接受。

如果：

$$ \Delta E>0 $$ 说明能量升高。

那么：

$$ A=e^{-\beta\Delta E}<1 $$ 以一定概率接受。

温度越高，$\beta=1/k_BT$ 越小，接受升能态概率越大。

算法：Metropolis 采样

1. 从当前构型 i，试探一个新构型 j（对称提议 T(i→j) = T(j→i)）
2. 计算能量差 ΔE = Ej - Ei
3. 接受概率：
   A(i→j) = min(1, e^{-β·ΔE})

   即：
   - 若 ΔE ≤ 0（能量降低）→ 总是接受
   - 若 ΔE > 0（能量升高）→ 以概率 e^{-β·ΔE} 接受

4. 生成 [0,1] 均匀随机数 r：
   - 若 r ≤ e^{-β·ΔE} → 接受
   - 否则 → 拒绝，保留旧构型

5. 回到步骤 1

取 min：是因为我们要让算法跑得最快（接受率最大化），同时必须遵守详细平衡。

接受升能态：是为了让链能翻越势垒，不困在局部最优，从而获得正确的物理分布。

消掉 Z：是让这个算法在超大规模组合空间中变得可行（这是它横扫各个学科的根本原因）。

🔢 数值例子

设 $\beta=1$，当前能量 $Ei = 2$，试探态 $Ej = 3$：

$\Delta E = 3 - 2 = +1 > 0$
接受概率 $A = e^{-1} \approx 0.368$ 这个是接受去到新的试探态的概率上界因为比这个小的代表能量差值会更大
生成随机数 $r = 0.5$ → 拒绝（$0.5 > 0.368$）
生成随机数 $r = 0.2$ → 接受（$0.2 \leq 0.368$）

7.3 Metropolis-Hastings 算法

推广到非对称提议分布：

$$ A(i\to j) = \min!\left(1,; \frac{pj \cdot T(i|j)}{pi \cdot T(j|i)}\right) $$

$T(j|i)$：提议从 $i$ 产生 $j$ 的概率
当 $T$ 对称时，退化为标准 Metropolis

7.4 MCMC 积分

一次完整的 MCMC 期望值估计大概是这样展开的：先随便选一个初始构型 $x0$，用 Metropolis（或其他满足细致平衡的规则）反复更新,产生 $x1,x2,\dots$；观察能量等量随步数的曲线 , 找到大致的热化拐点，将拐点之前的 $n{\text{equil}}$ 步全部丢弃；对剩下的样本 $x{n{\text{equil}}+1},\dots,xN$，计算感兴趣物理量的自相关函数 $C(t)$，从中拟合出 $\tau{\text{int}}$；用剩余样本算出 $\langle A\rangle\approx\frac1N\sum A(xi)$作为最佳估计,并用 $\sigma{\bar A}\approx\sqrt{2\tau{\text{int}}\operatorname{Var}(A)/N}$给出这个估计值的误差范围；如果发现 $\tau{\text{int}}$太大（比如在相变点附近，系统会出现"临界慢化"，关联时间急剧变长），说明要么增加总步数 $N$，要么换用效率更高的算法（比如针对伊辛模型专门设计的 cluster algorithm，它能大幅缩短关联时间）。

MCMC 估计期望值

如果马尔可夫链收敛到目标分布 $p(x)$，那么样本： $$ x1,x2,\dots,xN $$ 虽然不是独立的，但长时间平均仍然可以估计： $$ \langle A\ranglep=\int A(x)p(x)dx $$ 即： $$ \boxed{ \langle A\rangle \approx \frac1N\sum{i=1}^N A(xi) } $$

MCMC 的两个重要问题

1. Burn-in 平衡段

一开始链还没到平衡分布，需要扔掉前面一段： $$ n_{\text{equil}} $$ 这叫 thermalization 或 burn-in。

2. 样本相关性

MCMC 样本不是独立的。

如果当前状态是 $xi$，下一个状态 $x{i+1}$ 通常和它很像。

所以有效样本数小于总样本数。

误差估计应考虑自相关时间： $$ N{\text{eff}}\approx \frac{N}{2\tau{\text{int}}} $$ 误差大约： $$ \sigma{\bar A} \approx \sqrt{ \frac{\operatorname{Var}(A)}{N{\text{eff}}} } $$

# 伪代码：MCMC 积分框架

def mcmc_integral(target_pdf, proposal, n_equil, n_samples):
    """
    target_pdf: 目标分布 p(x)
    proposal: 提议函数，给定 x 产生 x'
    n_equil: 平衡步数（扔掉）
    n_samples: 有效采样步数
    """
    x = initial_state()
    samples = []

    for t in range(n_equil + n_samples):
        x_new = proposal(x)
        # Metropolis 接受/拒绝
        A = min(1, target_pdf(x_new) / target_pdf(x) * proposal_ratio)
        if np.random.uniform() < A:
            x = x_new
        if t >= n_equil:
            samples.append(x)

    return np.mean(samples), np.std(samples) / np.sqrt(n_samples)

📊 三类采样方法对比

特性	直接采样	传统MC积分	MCMC
采样点是否独立	✅ 独立	✅ 独立	❌ 关联
能处理的分布	简单分布	均匀/简单加权	几乎任意分布
关键需求	已知采样算法	计算 $f(x)$	知道分布比例
收敛速度	快	中等	慢（需平衡+关联）

💡 物理直觉

MCMC 的核心矛盾：牺牲"样本独立"换取"能处理任意分布"。就像你没法直接生成复杂波函数，但可以让体系按 Boltzmann 概率自己"游走"到各个态。

8. 二维 Ising 模型

8.1 模型定义

    ↑       ↑
    ↓   ↑   ↓   ← 自旋 σ_i = ±1
    ↑   ↓   ↑
        ↑

L × L 格点，总自旋数 N = L²

能量（最近邻相互作用）：

$$ E = -J \sum{\langle i,j\rangle} \sigmai \sigma_j $$

$J>0$：铁磁耦合（邻居同向 → 能量低）同向，贡献 -J ；反向，贡献 +J 。因此同向更低，因此低温下系统倾向于全部向上或全部向下
构型总数：$2^N$（指数级！必须 MC）总自旋数为 L的平方，其中每个自旋有两种取值，所以总构型数为 $2^{N}$，如果 L为20，那么最后构型数为 $2^{400}$ 天文数字，必须用 Monte Carlo采样！！！

观测量：

物理量	公式
磁化强度	$M = \frac{1}{N}\sumi \sigmai$
能量	$E = -J\sum{\langle i,j\rangle} \sigmai \sigma_j$
比热	$CV = \frac{1}{kB T^2}(\langle E^2\rangle - \langle E\rangle^2)$
磁化率	$\chi = \frac{1}{k_B T}(\langle M^2\rangle - \langle M\rangle^2)$

8.2 Metropolis Ising 算法

一次 sweep 通常指尝试更新 $N=L^2$ 次。

算法：

1、初始化自旋：

$$ \sigma_{ij}=\pm 1 $$ 2、随机选择一个格点 $(i,j)$。

3、计算它四个邻居和：

$$ S=\sigma{i+1,j}+\sigma{i-1,j}+\sigma{i,j+1}+\sigma{i,j-1} $$ 4、计算：

$$ \Delta E=2J\sigma_{ij} $$

5、接受规则：

若 $\Delta E\le 0$，接受；
若 $\Delta E>0$，以概率 $e^{-\beta\Delta E}$ 接受。

6、重复。

为了减少边界效应，常用周期边界： $$ \sigma{i+L,j}=\sigma{i,j} $$ 也就是格子左右相连，上下相连，拓扑上像一个环面。

代码中常用模运算：

Python

up = spins[(i+1) % L, j]

down = spins[(i-1) % L, j]

right = spins[i, (j+1) % L]

left = spins[i, (j-1) % L]

Metropolis MC for 2D Ising Model:

Parameters: L (格点大小), T (温度), β = 1/(k_B T), J (耦合常数)

1. 随机初始化 L×L 格点自旋 σ[i][j] = ±1

2. FOR mc_cycle = 1 to n_cycles:
     FOR 每个格点 (随机顺序遍历一次 = 1 sweep):
       a. 翻转该自旋，计算能量变化 ΔE
       b. 2D Ising 中 ΔE 只有 5 种可能：
          ΔE ∈ { -8J, -4J, 0, +4J, +8J }
       c. 若 ΔE ≤ 0 → 接受翻转
          若 ΔE > 0 → 以 p = e^{-β·ΔE} 接受
     ENDFOR
     记录 E, M 等观测量

3. 输出 ⟨E⟩, ⟨M⟩, C_V, χ 及其统计误差

💡 为什么 ΔE 只有 5 种值？

Metropolis 算法中，每次尝试翻转一个自旋：

$$ \sigmak\to -\sigmak $$ 只有与这个自旋相关的能量项会变化。

原来和邻居的相互作用能：

$$ E{\text{old}} = -J\sigmak\sum{\text{nn}}\sigmaj $$ 翻转后：

$$ \sigmak'=-\sigmak $$ 所以：

$$ E{\text{new}} = -J(-\sigmak)\sum{\text{nn}}\sigmaj $$ 能量变化：

$$ \Delta E = E{\text{new}}-E{\text{old}} $$ 所以：

$$ \boxed{ \Delta E = 2J\sigmak \sum{\text{邻居}}\sigma_j } $$ 二维正方格子每个格点有 4 个邻居。

邻居和可能是：

$$ -4,-2,0,2,4 $$ 因此：

$$ \Delta E = 2J\sigma_k (-4,-2,0,2,4) $$ 所以只可能是：

$$ \boxed{ \Delta E\in{-8J,-4J,0,4J,8J} } $$

2D 正方格子中每个自旋有 4 个邻居（上下左右）。翻转一个 $\sigmak \to -\sigmak$：
$$\Delta E = 2J \sigmak \sum{\text{邻居}} \sigma_{\text{邻居}}$$
4 个邻居的和只能是 $-4, -2, 0, 2, 4$ → $\Delta E = -8J, -4J, 0, 4J, 8J$（5 种）。

🔢 典型结果

二维 Ising 模型有精确临界温度：

$$ \boxed{ kBTc = \frac{2J}{\ln(1+\sqrt2)} } $$ 数值：

$$ \boxed{ Tc\approx 2.269\frac{J}{kB} } $$ 现象：

$T：铁磁相，自发磁化；
$T>T_c$：顺磁相，平均磁化为 0；
$T=T_c$：涨落最大，比热和磁化率出现临界行为。

物理现象	说明
一维 Ising	无相变（$T_c=0$）
二维 Ising	二级相变，$Tc \approx 2.269 J/kB$
低于 $T_c$	自发磁化 $M \neq 0$
高于 $T_c$	$M=0$，顺磁态

8.3 KT 相变（2016 诺贝尔物理奖）

二维 XY 模型自旋不是 $\pm1$，而是角度：

$$ \mathbf Si=(\cos\thetai,\sin\theta_i) $$ 低温下会出现涡旋-反涡旋束缚对。

高温时涡旋对解离。

这就是 Kosterlitz-Thouless 相变。

特点：

没有普通意义上的长程磁化；
是拓扑缺陷驱动的相变；
2016 年诺贝尔物理奖相关。

二维 XY 模型中的 Kosterlitz-Thouless 相变：低温下涡旋-反涡旋成对束缚 → 高温下解耦 → 拓扑相变（无自发磁化，但有超流/超导性质的突变）。

9. 量子蒙特卡洛（QMC）

💡 为什么需要 QMC？

主要用于量子多体问题！！！

量子多体波函数 $\Psi(R1, \ldots, RN)$ 不是简单概率分布，维度是3N。如果N很大，直接网格法解析求解几乎不可能，所以用Monte Carlo在高维构型空间采样。QMC 是唯一能精确计算大体系的方法。

9.1 变分量子蒙特卡洛（VMC）

能量期望：

$$ ET = \frac{ \int \PsiT^*(R)\hat H\PsiT(R),dR } { \int |\PsiT(R)|^2dR } $$ 假设波函数实数，写成：

$$ ET = \frac{ \int |\PsiT(R)|^2 \frac{\hat H\PsiT(R)}{\PsiT(R)} dR } { \int |\Psi_T(R)|^2dR } $$ 定义概率分布：

$$ P(R)= \frac{|\PsiT(R)|^2} { \int |\PsiT(R)|^2dR } $$ 定义局域能量：

$$ \boxed{ EL(R)= \frac{\hat H\PsiT(R)}{\Psi_T(R)} } $$ 于是：

$$ \boxed{ ET= \int P(R)EL(R)dR } $$ 用 MC 估计：

$$ \boxed{ ET\approx \frac1N\sum{i=1}^N EL(Ri) } $$ 其中：

$$ Ri\sim |\PsiT(R)|^2 $$

框架

构造试探波函数 $\Psi_T(R; \alpha)$，含变分参数 $\alpha$
用 Metropolis 从 $P(R)\propto |\Psi_T(R;\alpha)|^2$ 采样空间构型 $R$
对每个样本计算局域能量：

$$ EL(R) = \frac{\hat{H}\PsiT(R)}{\Psi_T(R)} $$

求能量期望值：

$$ \langle E{L} \rangle = \frac{\int |\PsiT|^2 EL dR}{\int |\PsiT|^2 dR} \approx \frac{1}{N}\sum{i=1}^{N} EL(R_i) = E(\alpha) $$

优化 $\alpha$ 使 $E(\alpha)$ 最小

💡 说人话

VMC = 聪明的猜谜：猜一个波函数形状，MC 采样→算能量→调参数让能量尽可能低。如果 $E_L$ 不随构型变化，说明波函数就是精确的！

为什么局域能量恒定说明是精确本征态？

如果：

$$ \Psi_T $$ 正好是 Hamiltonian 的本征态：

$$ \hat H\PsiT=E\PsiT $$ 那么：

$$ EL(R)= \frac{\hat H\PsiT(R)}{\PsiT(R)} = \frac{E\PsiT(R)}{\Psi_T(R)} = E $$ 它不依赖 $R$。

所以局域能量方差为零。

这就是 VMC 中常说的：

精确波函数的局域能量没有涨落。

🔢 谐振子 VMC 例子

试探波函数：$\Psi_T(x) = e^{-\alpha x^2/2}$

哈密顿量：$\hat{H} = -\frac{1}{2}\frac{d^2}{dx^2} + \frac{1}{2}x^2$

局域能量： $$ EL(x) = \frac{\hat{H}\PsiT}{\Psi_T} = \frac{\alpha}{2} + \frac{1-\alpha^{2}}{2} x^{2} $$

$\alpha=1$ 时：$E_L = 1/2$（与 $x$ 无关！）= 精确解标准一维谐振子基态能量！
对 $\alpha=1$ 做 VMC：$\langle E\rangle \to 1$，方差 $\to 0$

import numpy as np

def vmc_harmonic_oscillator(alpha, N_mc=100000):
    """VMC for 1D harmonic oscillator"""
    # Metropolis 从 |psi|^2 ∝ exp(-alpha*x^2) 采样
    x = 0.0
    delta = 1.0 / np.sqrt(alpha)
    samples = []

    for i in range(N_mc):
        x_new = x + delta * np.random.uniform(-1, 1)
        # 接受率 = |psi(x_new)/psi(x)|^2
        ratio = np.exp(-alpha * (x_new**2 - x**2))
        if np.random.uniform() < min(1, ratio):
            x = x_new
        samples.append(x)

    # 局域能量
    x_arr = np.array(samples[N_mc//2:])  # 扔掉平衡段
    e_local = alpha**2 + x_arr**2 * (1 - alpha**4)

    return np.mean(e_local), np.std(e_local)/np.sqrt(len(x_arr))

E, err = vmc_harmonic_oscillator(alpha=1.0)
print(f" = {E:.4f} ± {err:.4f}")  # 应接近 1.0

9.2 扩散蒙特卡洛（DMC）

DMC 的思想来自虚时间 Schrödinger 方程。

真实时间 Schrödinger 方程：

$$ i\frac{\partial \Psi}{\partial t} = \hat H\Psi $$ 做虚时间变换：

$$ t=-i\tau $$ 则方程变成类似：

$$ -\frac{\partial \Psi}{\partial \tau} = (\hat H-E_T)\Psi $$ 或者：

$$ \frac{\partial \Psi}{\partial \tau} = -(\hat H-E_T)\Psi $$ 设：

$$ \hat H= -\frac12\nabla^2+V(R) $$ 则：

$$ \frac{\partial \Psi}{\partial \tau} = \frac12\nabla^2\Psi - [V(R)-E_T]\Psi $$ 这有两部分：

扩散项：

$$ \frac12\nabla^2\Psi $$
生灭项：

$$ -[V(R)-E_T]\Psi $$

为什么虚时间会投影到基态？

把初始波函数按本征态展开：

$$ \Psi(R,0)=\sumn cn\phi_n(R) $$ 其中：

$$ \hat H\phin=En\phi_n $$ 虚时间演化：

$$ \Psi(R,\tau) = e^{-(\hat H-ET)\tau}\Psi(R,0) $$ 如果取 $ET$ 接近基态能量，那么高能态：

$$ En>E0 $$ 会衰减得更快。

当：

$$ \tau\to\infty $$ 只剩基态：

$$ \Psi(R,\tau)\propto \phi_0(R) $$ 所以 DMC 可以投影出基态。

DMC 的 walker 图像

用一群 walkers 表示波函数分布。

每个 walker 做两件事：

1. 扩散

$$ R\to R+\sqrt{\Delta\tau},\eta $$ 其中 $\eta$ 是高斯随机数。

2. 分支 branching

根据势能决定 walker 生灭。

如果：

$$ V(R)

如果：

$$ V(R)>E_T $$ 该区域权重小，walker 死亡。

最后 walker 分布趋向基态波函数相关分布。

DMC的难点：费米子符号问题

玻色子基态可以取正，DMC 比较自然。

但费米子波函数反对称，会有正负号：

$$ \Psi(...,ri,...,rj,...) = -\Psi(...,rj,...,ri,...) $$ 概率解释困难，正负 walker 会相互抵消，噪声指数增长。

这就是 sign problem。

常用近似是 fixed-node approximation：用试探波函数的节点面固定符号结构。

对比	VMC	DMC
原理	变分原理 + Metropolis 采样	虚时间 Schrödinger 方程演化
波函数	需要好的试探函数	可以精确得到基态（给定节点）
实现	随机行走在坐标空间	walkers 的扩散 + 分支过程
难点	试探波函数选择	费米子符号问题（Sign Problem）

💡 DMC 物理直觉

把 Schrödinger 方程的 $t \to -i\tau$（虚时间），它就变成了扩散方程 + 势能项。Walkers（采样粒子）像布朗粒子一样扩散，同时在高势能区域"死亡"、低势能区域"增殖"。最终 walker 分布 → 基态波函数。

9.3 路径积分蒙特卡洛（PIMC）

PIMC 用于有限温度量子系统。

目标是计算配分函数：

$$ Z=\operatorname{Tr}(e^{-\beta \hat H}) $$ 把：

$$ \beta $$ 分成 $M$ 个小片：

$$ \Delta\tau=\frac{\beta}{M} $$ 则：

$$ e^{-\beta H} = \left(e^{-\Delta\tau H}\right)^M $$ 插入 $M$ 次完备坐标基：

$$ I=\int dR |R\rangle\langle R| $$ 得到路径积分形式。

物理图像：

一个量子粒子在有限温度下等价于一条闭合的虚时间路径。多粒子系统变成很多“聚合物环”的统计采样。

PIMC 适合：

有限温度；
玻色体系；
超流；
量子液体；
量子晶体。

但费米子仍有严重 sign problem。

对多个虚时间路径采样，可直接计算配分函数 $Z = \text{Tr}(e^{-\beta H})$，适用于有限温度量子体系。

10. 总结对比表

📊 蒙特卡洛方法族谱

方法	核心思想	适用场景	关键技巧
MC 积分	均匀/加权随机采样	高维积分、算 π	投点法、期望值法
重要性采样	在函数大值区多采样	$f(x)$ 有尖峰	选择好的 $F(x)\approx f(x)$
MCMC	马尔可夫链趋于平衡分布	任意复杂分布	Metropolis-Hastings
Metropolis	能量差决定接受概率	统计物理、Boltzmann 分布	$A=\min(1,e^{-\beta\Delta E})$
VMC	$	\Psi_T	^2$ 采样 + 变分优化	量子多体基态	试探波函数是关键
DMC	虚时间扩散 + 分支	精确基态能量	克服符号问题
PIMC	虚时间路径积分采样	有限温度量子体系	配分函数计算

🧠 核心要点速记

概念	一句话
中心极限定理	$m$ 个样本均值 ~ 正态分布，方差为 $\sigma^2/m$
MC 积分的优势	误差与维度无关（高维积分的王牌）
细致平衡	$W{ij} pi = W{ji} pj$ — 平衡态的充分条件
Metropolis 接受率	$A = \min(1, e^{-\beta\Delta E})$ — 无比简洁
MCMC 核心矛盾	牺牲独立性 ↔ 换取任意分布的采样能力
VMC 变分原理	$\langle E\rangle \geq E_0$（永远不低于真实基态能）
DMC 符号问题	费米子交换 → 负概率 → 计算困难

Akuiro 整理补充 2026-07-05

看完了？说点什么呢

偏微分方程计算方法初步

akuiro — Thu, 02 Jul 2026 13:46:49 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Partial-differential-equation

核心主题：有限差分法、基矢展开法（含 DVR）、B-样条、小波分析、有限元法、复杂边界条件处理

第一章：偏微分方程的有限差分法
第二章：二维 Poisson 方程 — 五点差分与矩阵形式
第三章：边界条件的三类处理
第四章：傅里叶微分算符与 FFT
第五章：基矢展开法求微分方程
第六章：离散变量表示 DVR
第七章：B-样条展开法
第八章：小波分析与多小波展开
第九章：有限元方法 FEM
第十章：边界条件进阶 — 多极展开、周期性、Twisted
第十一章：Jacobi 松弛迭代法
总结与对比

第一章：偏微分方程的有限差分法

💡 物理直觉

偏微分方程（PDE）在物理中无处不在——Poisson 方程描述静电势、引力势；Schrödinger 方程描述量子系统的波函数；扩散方程描述热传导和物质输运。它们共同的特点是多变量 (x, y, z) 通过函数耦合在一起。

说人话：解一维问题就像走钢丝，解二维三维问题就像走钢丝网——你必须同时照顾好所有方向的"约束力"。

从一维到二维的推广

一维有限差分中，二阶导数离散化为：

$$ u''(xi) \approx \frac{u{i+1} - 2ui + u{i-1}}{h^2} $$

在二维网格上，点 $(xi, yj)$ 的 Laplace 算子 $\nabla^2 = \frac{\partial^2}{\partial x^2} + \frac{\partial^2}{\partial y^2}$ 变成五点差分：

$$ \nabla^2 u\big|{i,j} \approx \frac{u{i+1,j} + u{i-1,j} + u{i,j+1} + u{i,j-1} - 4u{i,j}}{h^2} $$

五点查分的具体推导：

二维 Laplace 算子是：

$$ \nabla^2 u = \frac{\partial^2 u}{\partial x^2} + \frac{\partial^2 u}{\partial y^2} $$ 在均匀网格上：

$$ xi=x0+ih,\qquad yj=y0+jh $$ 函数值记为：

$$ u{i,j}=u(xi,y_j) $$ 对 $x$ 方向二阶导：

$$ \frac{\partial^2 u}{\partial x^2}\bigg|{i,j} \approx \frac{u{i+1,j}-2u{i,j}+u{i-1,j}}{h^2} $$ 对 $y$ 方向二阶导：

$$ \frac{\partial^2 u}{\partial y^2}\bigg|{i,j} \approx \frac{u{i,j+1}-2u{i,j}+u{i,j-1}}{h^2} $$ 两者相加：

$$ \nabla^2 u\big|{i,j} \approx \frac{ u{i+1,j} +u{i-1,j} +u{i,j+1} +u{i,j-1} -4u{i,j} }{h^2} $$ 这就是二维五点差分格式。

如果 x,y 方向上网格间距不同

若：

$$ hx\neq hy $$ 则：

$$ \nabla^2 u\big|{i,j} \approx \frac{u{i+1,j}-2u{i,j}+u{i-1,j}}{hx^2} + \frac{u{i,j+1}-2u{i,j}+u{i,j-1}}{h_y^2} $$ 整理：

$$ \nabla^2 u\big|{i,j} \approx \frac{u{i+1,j}+u{i-1,j}}{hx^2} + \frac{u{i,j+1}+u{i,j-1}}{hy^2} - 2\left( \frac{1}{hx^2} + \frac{1}{hy^2} \right)u{i,j} $$ 如果 $hx=hy=h$，就退化为五点公式。

📐 直观理解：一个点要"看"四个邻居

五点公式：

$$ \nabla^{2}u{i,j} \approx \frac{u{i+1,j}+u{i-1,j}+u{i,j+1}+u{i,j-1}-4u{i,j}}{h^{2}} $$ 可以写成：

$$ \nabla^{2}u{i,j} \approx \frac{4}{h^2}\left(\frac{u{i+1,j}+u{i-1,j}+u{i,j+1}+u{i,j-1}}{4} -u{i,j}\right) $$

也就是说约等于邻居的平均值减去自身就是 $\nabla^{2}$

所以：

如果 $u_{i,j}$ 大于周围平均值，Laplace 值偏负；
如果 $u_{i,j}$ 小于周围平均值，Laplace 值偏正；
如果 $u_{i,j}$ 等于周围平均值，Laplace 值为零。

            u[i, j+1]
               ↑
u[i-1, j] ← u[i, j] → u[i+1, j]
               ↓
            u[i, j-1]

说人话：在格点上算二阶导数，就是拿上下左右四个邻居的值减去4倍自己，再除以格距平方。这本质上是在问："我和邻居们的平均值差了多少？"

以此，可以解释调和函数可以导出的平均值性质：

$$ \nabla^{2}u = 0 \Longrightarrow u{i,j} = \frac{u{i+1,j}+u{i-1,j}+u{i,j+1}+u_{i,j-1}}{4} $$ 即，没有源的时候，一个点的值等于周围“邻居” 的平均值

同理可以推广到三维时候的七点差分（就是看一共六个“邻居”）

第二章：二维 Poisson 方程 — 五点差分与矩阵形式

💡 物理直觉

泊松方程 $\nabla^2 u = -f$ 的物理意义：给定一个"源"分布 $f$（如电荷密度），求它产生的"势" $u$（如电势）。五点差分把这个连续问题转化为一个巨大的线性方程组。

$$ 4u{i,j} -u{i+1,j} -u{i-1,j} -u{i,j+1} -u{i,j-1} = h^2 f{i,j} $$

重要提醒：两种矩阵约定

这里有一个非常容易混乱的地方。

约定 A：矩阵里面保留 $1/h^2$

写成：

$$ A=\frac{1}{h^2}A0 $$ 其中 $A0$ 的主对角是 $4$，邻居位置是 $-1$。

此时右端应该是：

$$ b=f+\frac{\text{边界贡献}}{h^2} $$

约定 B：整体乘以 $h^2$

写成： $$ A_0\mathbf u=\mathbf b $$ 此时右端是： $$ b=h^2f+\text{边界贡献} $$ 你给的伪代码：

Python

b[k] = f[i][j] * h**2

b[k] += boundary_value

对应的是第二种约定，也就是矩阵中不带 $1/h^2$。

如果矩阵写成： $$ A=\frac1{h^2}A_0 $$ 那么 RHS 就不该写 $f h^2$，而应该写 $f$。

具体数值例子：3×3 内部格点

设求解区域内部有 3×3 = 9 个未知格点，边界值已知（Dirichlet 条件）。

步骤 1：把 2D 格点"拉直"成一维向量

设未知函数在格点 $(i,j)$ 处的值为 $u_{i,j}$。按行（或列）排列：

$$ \mathbf{u} = [u{1,1}, u{1,2}, u{1,3}, u{2,1}, u{2,2}, u{2,3}, u{3,1}, u{3,2}, u_{3,3}]^T $$

这就是投影转为一维的核心思想——多维问题的本质就是把高维指标压扁成一个长向量。

步骤 2：构建微分算符矩阵 A

$A = \frac{1}{h^2} A_{0}$

对内部 3×3 网格，离散 Laplace 算子对应的矩阵为 9×9 分块三对角形式。取 $h=1$ 简化说明：

$$ A = \frac{1}{h^2} \begin{bmatrix} 4 & -1 & 0 & -1 & 0 & 0 & 0 & 0 & 0 \ -1 & 4 & -1 & 0 & -1 & 0 & 0 & 0 & 0 \ 0 & -1 & 4 & 0 & 0 & -1 & 0 & 0 & 0 \ -1 & 0 & 0 & 4 & -1 & 0 & -1 & 0 & 0 \ 0 & -1 & 0 & -1 & 4 & -1 & 0 & -1 & 0 \ 0 & 0 & -1 & 0 & -1 & 4 & 0 & 0 & -1 \ 0 & 0 & 0 & -1 & 0 & 0 & 4 & -1 & 0 \ 0 & 0 & 0 & 0 & -1 & 0 & -1 & 4 & -1 \ 0 & 0 & 0 & 0 & 0 & -1 & 0 & -1 & 4 \end{bmatrix} $$

说人话：矩阵每行最多 5 个非零元——主对角线是 4（自己），周围的 -1 对应上下左右四个邻居。矩阵是稀疏的、对称的、正定的。这种结构在工程中叫"块三对角"（block tridiagonal）。

步骤 3：边界条件进入右端向量

以左下角附近的内部点 $u_{1,1}$ 为例。

离散方程：

$$ 4u{1,1} -u{2,1} -u{0,1} -u{1,2} -u{1,0} = h^2f{1,1} $$ 其中：

$u{2,1}$、$u{1,2}$ 是内部未知量；
$u{0,1}$、$u{1,0}$ 是边界已知量。

把边界已知量移到右端：

$$ 4u{1,1} -u{2,1} -u{1,2} = h^2f{1,1} + u{0,1} + u{1,0} $$ 所以边界值是以正号加到 RHS 上的。

一般规律：

$$ b{i,j} = h^2f{i,j} + \sum{\text{邻居为边界}} u{\text{boundary}} $$ 这是在矩阵不带 $1/h^2$ 的约定下。

# 伪代码：构建右端向量并加入边界贡献
for i in range(1, Nx-1):
    for j in range(1, Ny-1):
        k = idx(i, j)  # 2D→1D 映射
        b[k] = f[i][j] * h**2  # 源项
        # 边界贡献
        if i == 1:     b[k] += u[0][j]       # 下边界
        if i == Nx-2:  b[k] += u[Nx-1][j]    # 上边界
        if j == 1:     b[k] += u[i][0]       # 左边界
        if j == Ny-2:  b[k] += u[i][Ny-1]    # 右边界

步骤 4：求解线性方程组 $$ A_{0}\mathbf{u} = \mathbf{b} $$

用 SciPy 稀疏求解器一行搞定：

from scipy.sparse import lil_matrix
from scipy.sparse.linalg import spsolve

# A 为稀疏矩阵，b 为右端向量
u_1d = spsolve(A, b)
u_2d = u_1d.reshape(Nx, Ny)  # 还原为二维

用Kronecker积写二维的Laplace矩阵！

二维矩阵其实可以用一维矩阵拼出来。

一维二阶差分矩阵： $$ TN= \begin{bmatrix} 2 & -1 & 0 & \cdots & 0\ -1 & 2 & -1 & \cdots & 0\ 0 & -1 & 2 & \cdots & 0\ \vdots & \vdots & \vdots & \ddots & -1\ 0 & 0 & 0 & -1 & 2 \end{bmatrix} $$ 对于二维 Poisson： $$ -\nabla^2 = -\partial{xx} -\partial{yy} $$ 离散矩阵可以写成： $$ A= \frac1{h^2} \left( Iy\otimes Tx + Ty\otimes Ix \right) $$ 如果 $Nx=N_y=3$，就会得到你写的 $9\times 9$ 块三对角矩阵。

这说明二维 Laplace 算子本质上是两个方向一维 Laplace 算子的张量和。

矩阵性质

对于 Dirichlet 边界条件，二维 Poisson 矩阵满足：

稀疏：每行最多 5 个非零元；

对称：

$$ A^T=A $$ 正定：

$$ \mathbf u^T A\mathbf u>0 $$ 只要 $\mathbf u\neq 0$。

正定性来自物理能量：

$$ \int |\nabla u|^2,d\Omega>0 $$ 离散后对应：

$$ \mathbf u^TA\mathbf u \sim \sum{\langle i,j\rangle}(ui-u_j)^2 $$ 所以这个矩阵适合用共轭梯度法 CG

📊 矩阵规模与计算代价

网格大小	内部格点数	矩阵维度	非零元素
5×5	3×3=9	9×9	~45
10×10	8×8=64	64×64	~320
100×100	98×98=9604	9604×9604	~48000
N×N	(N-2)²	(N-2)²×(N-2)²	≈5(N-2)²

⚠️ 关键认识：矩阵维数 = (格点数)²，二维问题的计算量随格点数增长极快。这就是为什么三维问题经常让人绝望——矩阵维度 = (格点数)³ 的平方！

💡 算法思路：高阶差分与精度权衡

可以采用第三章学过的拉格朗日插值法构造更高阶的差分公式（如5点、7点格式）。但在边界处只能退化为低阶格式，否则会用到界外的不存在的格点。

核心矛盾：格点间距越小精度越高，但二维三维很难取很小的间距（存储和计算都爆炸）。因此需要考虑：

✨ 对称性降维：利用宇称对称性可以减少一半计算空间
✨ 好量子数：量子力学中利用好量子数进行变量分离（如角动量投影）
⚠️ 一旦对称性破缺，计算量增加几个量级

第三章：边界条件的三类处理

PDE 的定解问题 = 控制方程 + 边界条件。

边界条件就是"物理系统在边界上被怎么约束"。不给定边界条件，解就不唯一——就像做菜不告诉我锅的温度，我咋知道该用多大火力？

否则解通常不唯一

三类边界条件对比

类型	数学形式	物理含义	数值处理	典型例子
Dirichlet	$u\big	_{\partial\Omega} = g$	边界值固定已知	直接代入已知值，减少未知数转移到RHS	导体表面电势固定
Neumann	$\frac{\partial u}{\partial n}\big	_{\partial\Omega} = g$	边界法向导数固定	需对边界点额外离散，增加方程	绝热边界、对称边界、给定通量边界
Mixed/Robin	$\alpha u + \beta \frac{\partial u}{\partial n} = g$	线性组合指定	同时处理	对流换热边界

Neumann 边界条件的数值处理

Neumann 条件不像 Dirichlet 那样可以直接"削掉"边界格点——因为边界值本身是未知的。要引入额外的差分方程。

例如引入虚格点（ghost point）：在边界外对称放一个辅助点，利用中心差分 $\frac{u{i+1} - u{i-1}}{2h} = g$ 来消去虚点。

一维 Neumann 的虚格点推导

考虑一维 Poisson：

$$ -u''(x)=f(x),\qquad x\in[0,L] $$ 左边界给 Neumann：

$$ u'(0)=g $$ 在 $x=0$ 处引入虚点：

$$ x_{-1}=-h $$ 中心差分近似一阶导数：

$$ u'(0) \approx \frac{u1-u{-1}}{2h} $$ 令它等于 $g$：

$$ \frac{u1-u{-1}}{2h}=g $$ 解出虚点：

$$ u{-1}=u1-2hg $$ 现在在边界点 $x_0$ 上离散 PDE：

$$ -u''(0)=f_0 $$ 二阶导：

$$ u''(0) \approx \frac{u1-2u0+u_{-1}}{h^2} $$ 所以：

$$ -\frac{u1-2u0+u{-1}}{h^2}=f0 $$ 代入：

$$ u{-1}=u1-2hg $$ 得到：

$$ -\frac{u1-2u0+u1-2hg}{h^2}=f0 $$ 整理：

$$ -\frac{2u1-2u0-2hg}{h^2}=f_0 $$ 因此：

$$ \frac{2u0-2u1}{h^2} = f_0-\frac{2g}{h} $$ 这就是 Neumann 边界点对应的离散方程。

如果 $g=0$，即对称边界：

$$ u'(0)=0 $$ 则：

$$ u{-1}=u1 $$ 这意味着边界外的虚点是边界内点的镜像。

二维 Neumann 边界

假设左边界 $x=0$ 给：

$$ \frac{\partial u}{\partial x}(0,yj)=gj $$ 引入虚点 $u_{-1,j}$，有：

$$ \frac{u{1,j}-u{-1,j}}{2h}=g_j $$ 所以：

$$ u{-1,j}=u{1,j}-2hgj $$ 如果边界点本身也是未知量 $u{0,j}$，则在边界处的 Laplace 方程：

$$ -\nabla^2u=f $$ 写成：

$$ -\frac{ u{1,j}+u{-1,j}+u{0,j+1}+u{0,j-1}-4u{0,j} }{h^2} = f{0,j} $$ 代入虚点：

$$ u{-1,j}=u{1,j}-2hg_j $$ 得到：

$$ -\frac{ 2u{1,j} -2hgj +u{0,j+1} +u{0,j-1} -4u{0,j} }{h^2} = f{0,j} $$ 这就把虚点消掉了。

Robin 边界条件

Robin 条件：

$$ \alpha u+\beta\frac{\partial u}{\partial n}=g $$ 例如一维左边界：

$$ \alpha u_0+\beta u'(0)=g $$ 用中心差分：

$$ u'(0)\approx \frac{u1-u{-1}}{2h} $$ 代入：

$$ \alpha u0 + \beta\frac{u1-u_{-1}}{2h} = g $$ 解出虚点：

$$ u{-1} = u1-\frac{2h}{\beta}(g-\alpha u_0) $$ 即：

$$ u{-1} = u1-\frac{2hg}{\beta} + \frac{2h\alpha}{\beta}u_0 $$ 然后再代回 PDE 的差分方程。

纯Neumann问题的特殊性

如果整个边界都是 Neumann 条件，例如：

$$ -\nabla^2u=f \ \space \ \frac{\partial u}{\partial n} = g , on \space \partial \Omega $$ 则解只确定到一个常数。

因为如果 $u$ 是解，那么：

$$ u+C $$ 也是解。

所以矩阵会有零特征值，不是严格正定。

还需要兼容条件。

由散度定理：

$$ \int\Omega -\nabla^2u,d\Omega = -\int{\partial\Omega} \frac{\partial u}{\partial n} ,dS $$ 因为：

$$ -\nabla^2u=f $$ 所以：

$$ \int\Omega f,d\Omega = -\int{\partial\Omega}g,dS $$ 如果这个条件不满足，纯 Neumann 问题无解。

如果满足，解存在但差一个常数，需要额外固定： $$ \int\Omega u,d\Omega=0 $$ 或指定某一点： $$ u(x0)=0 $$

说人话：Dirichlet 就是"墙的温度给我定死了"，Neumann 就是"墙的热流给我定死了"。前者简单（少解几个方程），后者麻烦（多解几个方程）。

第四章：傅里叶微分算符与 FFT

💡 物理直觉

有限差分就是在实空间中用邻居差值近似导数

Fourier方法是在频率/动量空间利用：

$$ \frac{d}{dx} e^{ikx} = ik e^{ikx} $$ 在格点空间做微分的"近邻相减"，在动量空间就是简单的乘法！

这是所有谱方法的精髓（微分变成乘法）

离散 Fourier变换 DFT

在周期区间：

$$ x_j=jh,\qquad j=0,1,\dots,N-1 $$ 离散 Fourier 展开：

$$ uj = \sum{m=0}^{N-1} \tilde um e^{ikm x_j} $$ 其中波数：

$$ k_m=\frac{2\pi}{L}m $$ 但是 DFT 的频率顺序通常是：

$$ m=0,1,\dots,\frac N2,-\frac N2+1,\dots,-1 $$ 在 NumPy 中：

Python
k = 2*np.pi*np.fft.fftfreq(N, d=h)

会自动给出正确频率。

在动量空间，一阶微分就是乘 $ik$，二阶微分就是乘 $-k^2$：

$$ \partialx \leftrightarrow ik, \qquad \partialx^2 \leftrightarrow -k^2 $$

再逆变换回来，就得到了格点上的微分近似。

Fourier 微分矩阵

令 DFT 矩阵为 $F$，则：

$$ \tilde{\mathbf u}=F\mathbf u $$ 反变换：

$$ \mathbf u=F^{-1}\tilde{\mathbf u} $$ 一阶导数在 Fourier 空间是乘 $ik$，所以：

$$ \widetilde{\mathbf u'} = \operatorname{diag}(ik_m)\tilde{\mathbf u} $$ 回到实空间：

$$ \mathbf u' = F^{-1}\operatorname{diag}(ik_m)F\mathbf u $$ 因此一阶微分矩阵是：

$$ D^{(1)} = F^{-1}\operatorname{diag}(ik_m)F $$ 二阶微分矩阵：

$$ D^{(2)} = F^{-1}\operatorname{diag}(-k_m^2)F $$ 因为：

$$ (ikm)^2=-km^2 $$ 所以：

$$ D^{(2)} = D^{(1)}D^{(1)} $$ 注意：这个关系在 Fourier 谱方法里严格成立。

但普通有限差分中，中心差分的一阶矩阵平方，不一定等于常用的二阶差分矩阵。

一阶和二阶微分算符矩阵的关系

Fourier 方法的优雅之处：一阶矩阵 $D^{(1)}$ 和二阶矩阵 $D^{(2)}$ 是完全一致的——$D^{(2)} = D^{(1)}D^{(1)}$，即微分和积分互逆。

FFT 的计算效率

上一轮我们推导的傅里叶微分矩阵 $D=F^{-1}diag(ik)F$ ，在数学上完美无瑕，但如果直接按这个公式去编程，你的电脑会卡死。这段文字就是在告诉你：FFT 是专门来拯救这个困局的“救世主”

FFT发现了一个极其简单但有效的规律：偶数项和奇数项可以分开算

一个 NN 点的大变换，可以拆成 两个 N/2点的小变换（一个只负责偶数位置，一个只负责奇数位置）。
而这两个 N/2N/2 点的小变换，又可以继续拆成 四个 N/4 点的更小变换……
直到拆成单个点（单个点的傅里叶变换就是它自己）。

这就是“分治（Divide and Conquer）”。通过这种层层拆分，原本需要把每个格点和每个频率都配对的 N2N2 次运算，变成了只需在每一层（共 log⁡NlogN 层）把结果合并起来（合并时只涉及少量运算）的 Nlog⁡NNlogN 次运算。

方法	时间复杂度	N=1024 时	N=10⁶ 时
DFT 直接求	$O(N^2)$	~10⁶ 次运算	~10¹² 次运算
FFT	$O(N\log N)$	~10⁴ 次运算	~2×10⁷ 次运算

说人话：FFT 把"每个格点和每个动量分量两两配对"的暴力算法，变成了精巧的分治算法。原来 N² 的事现在 N log N 就办完了——当 N 很大时，这个差距是天壤之别。
理论上的 Fourier微分矩阵虽然是稠密的（计算量巨大）但实际我们从来不显式地去构建这个矩阵。我们直接用FFT代替矩阵乘法，把计算复杂度从“平方级”降为“线性对数级”，从而使得谱方法能够处理百万级网格的工程问题

🔬 二维 Fourier 微分

二维周期函数：

$$ u(x,y) = \sum{kx,ky} \tilde u{kx,ky} e^{i(kxx+kyy)} $$ 则：

$$ \nabla^2u = \frac{\partial^2u}{\partial x^2} + \frac{\partial^2u}{\partial y^2} $$ 在 Fourier 空间变成：

$$ \widehat{\nabla^2u} = -(kx^2+ky^2)\tilde u $$ 所以算法是：

对 $u$ 做二维 FFT；
每个 Fourier 分量乘上 $-(kx^2+ky^2)$；
做逆 FFT。

二维情况使用张量积形式：依次对每行、每列做一维变换。

import numpy as np

def fourier_laplacian_2d(u, hx, hy=None):
    """
    用 FFT 计算二维 Laplace 算子。
    要求周期边界条件。
    """
    if hy is None:
        hy = hx

    Nx, Ny = u.shape

    kx = 2*np.pi*np.fft.fftfreq(Nx, d=hx)
    ky = 2*np.pi*np.fft.fftfreq(Ny, d=hy)

    KX, KY = np.meshgrid(kx, ky, indexing='ij')

    multiplier = -(KX**2 + KY**2)

    u_hat = np.fft.fft2(u)
    lap_hat = multiplier * u_hat

    return np.fft.ifft2(lap_hat).real

🎯 FFT 的应用拓展

Fourier方法默认周期边界条件！！！

也就是说：

$$ u(0)=u(L) $$ 如果函数不周期，强行用 Fourier 会导致边界跳跃，从而产生 Gibbs 现象。

对于非周期边界，可以用：

sine transform：适合 Dirichlet；
cosine transform：适合 Neumann；
Chebyshev 谱方法：适合有限区间非周期问题。

具体应用：

图像处理：二维 FFT 是 JPEG 压缩、卷积神经网络的基础
信号处理：去噪（低通滤波）、边缘检测（高通滤波）
零填充（zero-padding）：平滑处理
共振态展宽：$A(t) = A e^{i\omega t} e^{-\Gamma t/2}$ → 傅里叶变换得到 Lorentz 线形，展宽 $\Gamma$ 对应寿命 $\tau = 1/\Gamma$

用 FFT 解 Poisson 方程

考虑周期边界下：

$$ -\nabla^2u=f $$ Fourier 空间：

$$ -\widehat{\nabla^2u} = (kx^2+ky^2)\hat u = \hat f $$ 所以：

$$ \hat u = \frac{\hat f}{kx^2+ky^2} $$ 但当：

$$ kx=ky=0 $$ 分母为零。

这是因为周期 Poisson 方程的解只确定到一个常数。

必须要求：

$$ \int f,d\Omega=0 $$ 也就是：

$$ \hat f_{0,0}=0 $$ 然后可以人为设定：

$$ \hat u_{0,0}=0 $$ 即选择零平均势。

FFT 与共振展宽

如果一个信号：

$$ A(t)=A0e^{-i\omega0t}e^{-\Gamma t/2} $$ 它的 Fourier 变换近似为：

$$ \tilde A(\omega) = \int0^\infty A0e^{-i\omega_0t}e^{-\Gamma t/2}e^{i\omega t},dt $$ 整理指数：

$$ \tilde A(\omega) = A0 \int0^\infty e^{-\left(\frac{\Gamma}{2}+i(\omega_0-\omega)\right)t} ,dt $$ 积分：

$$ \tilde A(\omega) = \frac{A0} { \frac{\Gamma}{2}+i(\omega0-\omega) } $$ 谱强度：

|\tilde A(\omega)|^2

= \frac{|A0|^2} { (\omega-\omega0)^2+\left(\frac{\Gamma}{2}\right)^2 } $$ 这就是 Lorentz 线形。

$$ \Gamma $$ 越大，谱线越宽，寿命越短：

$$ \tau\sim \frac1{\Gamma} $$ 若带 $\hbar$，则：

$$ \tau\sim \frac{\hbar}{\Gamma} $$

第五章：基矢展开法求微分方程

💡 物理直觉

量子力学课上学过：波函数可以在任意一组完备基下展开。计算物理中我们就用这个思路——不是直接在格点上离散，而是把解写成一组合适基函数的线性组合，然后把 PDE 转化为矩阵本征值问题。

基本公式推导

将波函数展开为基矢 $\phi_j$ 的线性组合：

$$ \psii = \sumj c{ij} \phij $$

代入本征方程 $H\psi = E\psi$：

$$ \summ H \phim , c{im} = E \sumj c{ij} \phij $$

左乘 $\phi_k^*$ 并积分（投影）：

$$ \summ \langle \phik | H | \phim \rangle , c{im} = E , c_{ik} $$

写成矩阵形式：

$$ \begin{bmatrix} H{11} & H{12} & \cdots & H{1N} \ H{21} & H{22} & \cdots & H{2N} \ \vdots & \vdots & \ddots & \vdots \ H{N1} & H{N2} & \cdots & H{NN} \end{bmatrix} \begin{bmatrix} c1 \ c2 \ \vdots \ cN \end{bmatrix} = E \begin{bmatrix} c1 \ c2 \ \vdots \ c_N \end{bmatrix} $$

说人话：本来是一个微分方程，经过"选定基函数→展开→投影→积分"这一套，变成了一个矩阵对角化问题。这就是Ritz 变分法的数值实现。

对于基态能量，有限基截断给出的能量通常是上界：

$$ E0^{(N)}\ge E0 $$ 随着基函数数目增大：

$$ E0^{(N)}\to E0 $$

实际应用：三维谐振子基矢

3D 笛卡尔谐振子基

三维笛卡尔谐振子基：

$$ \phi{nxnynz}(x,y,z) = \phi{nx}(x) \phi{ny}(y) \phi{nz}(z) $$ 其中一维谐振子基函数：

$$ \phin(x) = Nn Hn(\xi)e^{-\xi^2/2} $$ $Hn$ 是 Hermite 多项式，$b$ 是振子长度参数。

总壳层量子数：

$$ N=nx+ny+n_z $$ 如果截断到：

$$ N\le N_{\max} $$ 则基函数数目是：

$$ \sum{N=0}^{N{\max}} \frac{(N+1)(N+2)}{2} = \frac{(N{\max}+1)(N{\max}+2)(N{\max}+3)}{6} $$ 这个数目随着 $N{\max}$ 迅速增长。

轴对称体系（柱坐标）

对于轴对称系统，通常用柱坐标：

$$ (\rho,\varphi,z) $$ 基函数可以分离为：

$$ \Phi(\rho,\varphi,z,\sigma) = R{nr}^{|m|}(\rho) e^{im\varphi} Z{nz}(z) \chi_\sigma $$ 其中：

$Z{nz}(z)$：Hermite 基；
$R{nr}^{|m|}(\rho)$：associated Laguerre 基；
$e^{im\varphi}$：角向部分；
$\chi_\sigma$：自旋部分。

常用截断：

$$ N=2nr+nz+|m| $$ 保留：

$$ N\le N_{\max} $$

好量子数为什么能降维？

如果 Hamiltonian 和某个算符对易： $$ [H,\hat Q]=0 $$ 那么 $\hat Q$ 的本征值就是好量子数。

例如轴对称情况下，角动量 $z$ 分量 $m$ 可能守恒。

于是不同 $m$ 的态不会耦合。

Hamiltonian 矩阵可以分块： $$ H= \begin{bmatrix} H{m=0} & 0 & 0\ 0 & H{m=1} & 0\ 0 & 0 & H_{m=2} \end{bmatrix} $$ 原来需要对角化一个巨大矩阵，现在可以分别对角化很多小矩阵。

这就是利用对称性降维的核心。

一旦对称性破缺，原本的块之间开始耦合，矩阵规模会暴涨。

💡 关键认识

基函数自带边界条件：不像有限差分需要显式处理边界，基函的选择就已隐含了边界行为（如谐振子基在无穷远处指数衰减）
微分可解析计算：谐振子基的微分有解析表达式，不需要数值近似
截断误差：基函数个数 N 有限，所以是近似方法。N 越大越精确
适用场景：形状规则的束缚态问题效果极好；复杂形状或连续谱则不够精确

流程对比

都是把无限维问题最后变成有限维问题

有限差分法：  格点离散 → 差分近似微分 → 矩阵方程求解 （在格点上表示函数）
基矢展开法：  选基函数 → 计算矩阵元 → 矩阵对角化 （用系数表示函数）

对比维度	基空间（基矢展开）	格点空间（有限差分）
灵活性	高，可选最优基	低，受网格限制
计算效率	高，矩阵小	低，矩阵巨大
精度	对特定问题优秀	普适性强
边界处理	隐式（基函数自带）	显式（需额外处理）
实施难度	需选择合适的基	相对简单直接

第六章：离散变量表示 DVR

💡 物理直觉

DVR（Discrete Variable Representation）是一种同时兼具基空间和格点空间优点的表示方法。它让你"吃着碗里的看着锅里的"——基函数保证了完备性，而格点表示让矩阵元计算极其简单。

核心：动能像基空间一样可以精确/解析处理，势能像格点空间一样近似对角。

DVR 的核心思想

给定一组正交基函数 $\phin(x)$ 和高斯积分点（gauge points）${x\alpha}$：

用这组基构造投影算符 P
在格点 ${x\alpha}$ 上定义 DVR 基函数：$f\alpha(x)$，满足 $f\alpha(x\beta) = \delta_{\alpha\beta}$（在自家格点为 1，别家格点为 0）
关键性质：
- 动能矩阵元：有解析表达式，计算简单
- 势能矩阵元：对角！$V{\alpha\beta} \approx V(x\alpha)\delta_{\alpha\beta}$

例子

均匀格点上常用 sinc-DVR。

假设区间长度为 $L$，格点数为 $N$，格距：

$$ \Delta x=\frac{L}{N} $$ 对于无限 sinc-DVR，常见二阶导数矩阵是：

$$ \left(\frac{d^2}{dx^2}\right)_{ij} = \begin{cases} -\dfrac{\pi^2}{3\Delta x^2}, & i=j\[8pt] -\dfrac{2(-1)^{i-j}}{\Delta x^2(i-j)^2}, & i\neq j \end{cases} $$ 于是动能：

$$ T=-\frac{\hbar^2}{2m}\frac{d^2}{dx^2} $$ 对应：

$$ T_{ij} = \frac{\hbar^2}{2m} \begin{cases} \dfrac{\pi^2}{3\Delta x^2}, & i=j\[8pt] \dfrac{2(-1)^{i-j}}{\Delta x^2(i-j)^2}, & i\neq j \end{cases} $$ 周期 sinc-DVR 或 Fourier-DVR 的公式会略有不同，比如会出现：

$$ \sin^2\left(\frac{\pi(i-j)}{N}\right) $$ 这正是你代码里的结构。

需要注意：

不同文献里 $T$、$-d^2/dx^2$、$-\frac12d^2/dx^2$ 的定义可能不同，所以符号和系数要仔细核对。

# DVR 动能矩阵元的典型计算框架
# 以 sinc-DVR 为例（均匀格点）
def dvr_kinetic_1d(N, L):
    """一维 sinc-DVR 动能矩阵，区间 [-L/2, L/2]"""
    dx = L / N
    T = np.zeros((N, N))
    for i in range(N):
        for j in range(N):
            if i == j:
                T[i, j] = np.pi**2 / (6 * dx**2) * (1 + 2/N**2)
            else:
                d = i - j
                T[i, j] = (-1)**d / (dx**2 * np.sin(np.pi * d / N)**2)
    return T

从 FBR（有限基表示）到 DVR

给定正交基函数：

$$ \phi_n(x),\qquad n=0,1,\dots,N-1 $$ 定义投影算符：

$$ P=\sum{n=0}^{N-1}|\phin\rangle\langle \phi_n| $$ 这个投影算符的意思是：我们只在这 $N$ 个基函数张成的有限维空间里面近似真实波函数。

选择高斯积分点和权重

选一组积分点：

$$ x_\alpha,\qquad \alpha=0,1,\dots,N-1 $$ 以及对应权重：

$$ w_\alpha $$ 满足高斯积分近似：

$$ \int f(x),dx \approx \sum{\alpha=0}^{N-1} w\alpha f(x_\alpha) $$ 你讲义里写的是 gauge points，更准确地说一般叫：

$$ \text{quadrature points} $$ 或者：

$$ \text{DVR grid points} $$ 如果这组点和权重选得好，那么对于基函数乘积：

$$ \int \phim^*(x)\phin(x),dx $$ 可以用求和精确或高精度表示：

$$ \int \phim^*(x)\phin(x),dx \approx \sum{\alpha=0}^{N-1} w\alpha \phim^*(x\alpha)\phin(x\alpha) = \delta_{mn} $$

DVR 变换矩阵

定义矩阵：

$$ U{n\alpha}=\sqrt{w\alpha}\phin(x\alpha) $$ 这里：

$n$：基函数指标；
$\alpha$：格点指标。

因为：

$$ \sum\alpha w\alpha \phim^*(x\alpha)\phin(x\alpha) \approx \delta_{mn} $$ 所以：

$$ \sum\alpha U{m\alpha}^*U{n\alpha} = \delta{mn} $$ 也就是：

$$ UU^\dagger \approx I $$ 在理想情况下，$U$ 是酉矩阵或正交矩阵。

DVR 基函数的构造

DVR 基函数定义为：

|\chi_\alpha\rangle

= \sum{n=0}^{N-1} U{n\alpha}^*

|\phi_n\rangle

$$ 如果基函数都是实函数，可以省略复共轭：

|\chi_\alpha\rangle

= \sum{n=0}^{N-1} U{n\alpha}

|\phi_n\rangle

写成坐标形式：

$$ \chi\alpha(x) = \sum{n=0}^{N-1} \sqrt{w\alpha}\phin(x\alpha)\phin(x) $$ 这个 $\chi_\alpha(x)$ 就是 DVR 基函数。

DVR 基函数为什么具有“插值性”？

我们希望它满足类似：

$$ f\alpha(x\beta)=\delta_{\alpha\beta} $$ 也就是：

在自己的格点上为 1；
在别人的格点上为 0。

来推导。

在格点 $x_\beta$ 处：

$$ \chi\alpha(x\beta) = \sumn \sqrt{w\alpha} \phin(x\alpha) \phin(x\beta) $$ 利用矩阵 $U$ 的正交性：

$$ \sumn U{n\alpha}U{n\beta} = \delta{\alpha\beta} $$ 代入：

$$ U{n\alpha} = \sqrt{w\alpha}\phin(x\alpha) $$ 所以：

$$ \sumn \sqrt{w\alpha}\phin(x\alpha) \sqrt{w\beta}\phin(x\beta) = \delta{\alpha\beta} $$ 两边除以 $\sqrt{w_\beta}$：

$$ \sumn \sqrt{w\alpha}\phin(x\alpha) \phin(x\beta) = \frac{\delta{\alpha\beta}}{\sqrt{w\beta}} $$ 左边正是 $\chi\alpha(x\beta)$。

因此：

$$ \chi\alpha(x\beta) = \frac{\delta{\alpha\beta}}{\sqrt{w\beta}} $$ 如果重新定义归一化后的 DVR cardinal 函数：

$$ f\alpha(x)=\sqrt{w\alpha}\chi_\alpha(x) $$ 那么：

$$ f\alpha(x\beta) = \sqrt{w\alpha} \frac{\delta{\alpha\beta}}{\sqrt{w_\beta}} $$ 当 $\alpha=\beta$ 时：

$$ f\alpha(x\alpha)=1 $$ 当 $\alpha\neq\beta$ 时：

$$ f\alpha(x\beta)=0 $$ 所以：

$$ \boxed{ f\alpha(x\beta)=\delta_{\alpha\beta} } $$ 这就是 DVR 的核心插值性质。

势能矩阵为什么近似对角？

考虑势能矩阵：

$$ V{\alpha\beta}^{\text{DVR}} = \langle \chi\alpha|V|\chi_\beta\rangle $$ 写成积分：

$$ V{\alpha\beta} = \int \chi\alpha^*(x)V(x)\chi_\beta(x),dx $$ 用高斯积分近似：

$$ V{\alpha\beta} \approx \sum\gamma w\gamma \chi\alpha^*(x\gamma) V(x\gamma) \chi\beta(x\gamma) $$ 利用：

$$ \chi\alpha(x\gamma) = \frac{\delta{\alpha\gamma}}{\sqrt{w\gamma}} $$ 以及：

$$ \chi\beta(x\gamma) = \frac{\delta{\beta\gamma}}{\sqrt{w\gamma}} $$ 代入：

$$ V{\alpha\beta} \approx \sum\gamma w\gamma \left( \frac{\delta{\alpha\gamma}}{\sqrt{w\gamma}} \right) V(x\gamma) \left( \frac{\delta{\beta\gamma}}{\sqrt{w\gamma}} \right) $$ 整理：

$$ V{\alpha\beta} \approx \sum\gamma \delta{\alpha\gamma}\delta{\beta\gamma} V(x_\gamma) $$ 只有当：

$$ \alpha=\beta=\gamma $$ 时有贡献。

所以：

$$ \boxed{ V{\alpha\beta}^{\text{DVR}} \approx V(x\alpha)\delta_{\alpha\beta} } $$ 这就是 DVR 最重要的结果。

势能矩阵不需要做复杂积分，直接取格点上的势能值。

动能矩阵如何处理？

动能算符为：

$$ T=-\frac{\hbar^2}{2m}\frac{d^2}{dx^2} $$ 在 FBR 中，动能矩阵是：

$$ T{mn}^{\text{FBR}} = \left\langle \phim \left| -\frac{\hbar^2}{2m}\frac{d^2}{dx^2} \right| \phi_n \right\rangle $$ 这通常可以解析算出，或者用高精度积分算出。

然后用变换矩阵 $U$ 变到 DVR：

$$ T^{\text{DVR}} = U^\dagger T^{\text{FBR}}U $$ 即：

$$ T{\alpha\beta}^{\text{DVR}} = \sum{m,n} U{m\alpha}^* T{mn}^{\text{FBR}} U_{n\beta} $$ 所以 Hamiltonian 矩阵变成：

$$ H{\alpha\beta}^{\text{DVR}} = T{\alpha\beta}^{\text{DVR}} + V(x\alpha)\delta{\alpha\beta} $$ 最终求解：

$$ \boxed{ H\mathbf \psi=E\mathbf \psi } $$

DVR 的优势

特性	传统基展开	DVR
动能矩阵	需积分	解析公式/积分
势能矩阵	需积分	对角（格点上的值）
收敛性	一般	优秀（指数收敛）
推广到多维	计算量大	自然推广

📚 代表性工作

A. Bulgac and M.M. Forbes, Phys. Rev. C 87, 051301(R) (2013) — DVR 方法在核物理中的应用典范。

第七章：B-样条展开法

💡 物理直觉

有限差分用均匀格点，但有些地方（如原子核附近）波函数剧烈变化，有些地方（远离核）变化平缓。为什么不能"哪里变化快就多放格点，哪里变化慢就少放格点"？B-样条就是用来干这个的——它支持非均匀格点。

B-样条的定义

M 阶 B-样条 $Bi^M(x)$ 是在节点序列 ${xi, x{i+1}, \dots, x{i+M}}$ 上由递推关系构造的分段多项式。在计算物理中常用的性质：

紧支撑：只在 M 个区间上非零
构成完备基
微分有解析递推公式
节点可以任意分布（边界加密！）

$M$：B-样条的阶数；

多项式次数为：

$$ p=M-1 $$ 例如：

$M=1$：分段常数；
$M=2$：分段线性；
$M=3$：分段二次；
$M=4$：分段三次 cubic spline。

一阶 B-样条定义为：

$$ Bi^1(x) = \begin{cases} 1, & ti\le x

$$ Bi^M(x) = \frac{x-ti}{t{i+M-1}-ti}Bi^{M-1}(x) + \frac{t{i+M}-x}{t{i+M}-t{i+1}}B_{i+1}^{M-1}(x) $$ 如果分母为零，则对应项定义为零。

由递推关系可以看出：

$$ B_i^M(x) $$ 只在区间：

$$ [ti,t{i+M}] $$ 上非零。

所以它是紧支撑的。

紧支撑意味着矩阵是稀疏/带状的。

如果两个 B-样条支撑区间不重叠，那么：

$$ \int Bi^M(x)Bj^M(x),dx=0 $$ 因此重叠矩阵和 Hamiltonian 矩阵都是带状矩阵。

用 B-样条求解一维 Schrödinger 方程

考虑一维定态 Schrödinger 方程：

$$ \left[ -\frac{\hbar^2}{2m}\frac{d^2}{dx^2} + V(x) \right]\psi(x) = E\psi(x) $$ 将波函数展开：

$$ \psi(x) = \sumj cj B_j^M(x) $$ 代入方程：

$$ \left[ -\frac{\hbar^2}{2m}\frac{d^2}{dx^2} + V(x) \right] \sumj cjBj^M(x) = E\sumj cjBj^M(x) $$ 利用线性性：

$$ \sumj cj \left[ -\frac{\hbar^2}{2m}\frac{d^2Bj^M}{dx^2} + V(x)Bj^M(x) \right] = E\sumjcjBj^M(x) $$ 左乘测试函数 $Bi^M(x)$，并积分：

$$ \int Bi^M(x) \sumj cj \left[ -\frac{\hbar^2}{2m}\frac{d^2Bj^M}{dx^2} + V(x)Bj^M(x) \right]dx = E \int Bi^M(x) \sumjcjB_j^M(x)dx $$ 交换求和与积分：

$$ \sumjcj \int Bi^M \left[ -\frac{\hbar^2}{2m}\frac{d^2Bj^M}{dx^2} + V Bj^M \right]dx = E\sumjcj \int Bi^M B_j^M dx $$ 定义：

$$ H{ij} = \int Bi^M \left[ -\frac{\hbar^2}{2m}\frac{d^2}{dx^2} + V \right] B_j^M dx $$ 以及重叠矩阵：

$$ S{ij}= \int Bi^M(x)B_j^M(x),dx $$ 于是：

$$ \boxed{ H\mathbf c=ES\mathbf c } $$ 这是广义本征值问题。

动能矩阵的更稳定写法

直接算：

$$ \int Bi\left(-\frac{d^2Bj}{dx^2}\right)dx $$ 有时候不如分部积分稳定。

考虑动能项：

$$ T{ij} = -\frac{\hbar^2}{2m} \int Bi(x)B_j''(x),dx $$ 分部积分：

$$ \int Bi Bj''dx = \left[BiBj'\right]{\text{boundary}} - \int Bi'B_j'dx $$ 如果 Dirichlet 边界下基函数或波函数边界为零，边界项消失：

$$ \left[BiBj'\right]_{\text{boundary}}=0 $$ 所以：

$$ T{ij} = \frac{\hbar^2}{2m} \int Bi'(x)B_j'(x),dx $$ 因此：

$$ \boxed{ H{ij} = \frac{\hbar^2}{2m}\int Bi'Bj'dx + \int Bi V B_j dx } $$ 这是实际计算中常用的弱形式。

为什么出现重叠矩阵 $S$？

普通正交基满足：

$$ \int \phii\phijdx=\delta_{ij} $$ 所以本征方程是：

$$ H\mathbf c=E\mathbf c $$ 但 B-样条通常不是正交基：

$$ \int BiBjdx\neq \delta_{ij} $$ 所以右边出现：

$$ S\mathbf c $$ 即：

$$ H\mathbf c=ES\mathbf c $$

不建议显式求 $S^{-1}$

讲义里写：

$$ (S^{-1}H)\mathbf c=E\mathbf c $$ 数学上可以这样写，但数值上不推荐显式求逆。

因为：

$S^{-1}H$ 可能破坏对称性；
显式求逆误差大；
矩阵可能变稠密。

更好的做法是直接解广义本征值问题：

Python

from scipy.linalg import eigh

eigvals, eigvecs = eigh(H, S)

如果一定要转成标准形式，可以做 Cholesky 分解：

$$ S=LL^T $$ 令：

$$ \mathbf c=L^{-T}\mathbf y $$ 代入：

$$ H L^{-T}\mathbf y = E S L^{-T}\mathbf y $$ 因为：

$$ S=L L^T $$ 所以：

$$ S L^{-T}=L $$ 左乘 $L^{-1}$：

$$ L^{-1}H L^{-T}\mathbf y=E\mathbf y $$ 得到标准对称本征值问题：

$$ \boxed{ \tilde H\mathbf y=E\mathbf y } $$ 其中：

$$ \tilde H=L^{-1}HL^{-T} $$

转换为标准本征值问题需要求 $B^{-1}$（最直观）

$$ (B^{-1} H) \mathbf{c} = E \mathbf{c} $$

说人话：B-样条和基矢展开法类似，但基函数不是解析多项式，而是分段拼接的函数段。矩阵方程中多了一个重叠矩阵 B，需要求逆转换。

B-样条节点怎么选？

常见节点分布：

1. 均匀节点

$$ ti=t0+ih $$ 适合变化均匀的问题。

2. 指数加密节点

原点附近密，远处稀：

$$ ti=t{\min} + \frac{e^{ai}-1}{e^{aN}-1} (t{\max}-t{\min}) $$ 适合原子、核、束缚态径向问题。

3. 分段节点

某些区域加密，其他区域粗化。

📊 精度与阶数的关系

随着 B-样条阶数 M 增大，精度单调改善。但需要注意 Nyquist 准则：格点间距不能太大，否则无法分辨波函数的振荡细节。

# 伪代码：B-样条展开法求解一维 Schrödinger 方程
# 1. 构造节点序列（边界加密）
knots = make_knots(x_min, x_max, n_basis, order=M)
# 2. 计算重叠矩阵 B 和 Hamiltonian 矩阵 H
B = overlap_matrix(knots, M)
H = hamiltonian_matrix(knots, M, potential_func)
# 3. 广义本征值问题 → 标准本征值问题
from scipy.linalg import eigh
B_inv = np.linalg.inv(B)
eigvals, eigvecs = eigh(B_inv @ H)

🔬 应用实例：形变体系的能级分布

在核物理中，B-样条被广泛用于求解轴对称形变势阱中的单粒子能级。利用对称性（角动量投影）可以极大降低矩阵维度。思考：对称性破缺后好量子数如何变化？

第八章：小波分析与多小波展开

💡 物理直觉

小波分析是一种多分辨率表示方法——对于波函数中振荡剧烈的区域，自动用精细的基来描述；对于平缓的区域，用粗糙的基来描述。这就像地图：城市用1:10000，沙漠用1:100000。

核心

Fourier 基函数是全局的：

$$ e^{ikx} $$ 它知道频率，但不知道这个频率出现在空间哪里。

小波基函数是局域的：

$$ \psi_{jk}(x) = 2^{j/2}\psi(2^jx-k) $$ 它同时有：

空间位置；
分辨率尺度。

其中：

$j$：尺度，也叫 level；
$k$：位置；
$2^j$：缩放因子。
$2^{j/2}$ 归一化因子

小波的两种表示方式

小波基具有两个核心操作：

平移 (Translation)：移动基函数的中心位置
伸缩 (Dilation)：缩放基函数的宽度

基函数族：$\psi_{jk}(x) = 2^{j/2} \psi(2^j x - k)$

其中 j 控制分辨率级别（level），k 控制中心位置。

多小波展开的核心思想

在 n-level 空间上展开波函数：

$$ f(x) = \sumi si^n \phii^n(x) + \sum{l=0}^{n-1} \sumi di^l \psi_i^l(x) $$

其中：

$s_i^n$ 是 n-level 的平滑系数（大尺度信息）
$d_i^l$ 是各 level 的细节系数（逐级精细信息）
系数较小的 $d_i^l$ 可以截断 → 非均匀格点自动加密

核心：大尺度轮廓 + 各层细节修正

多小波是什么？

普通小波每个格子上通常一个 scaling function。

多小波 multiwavelet 在每个区间上使用多个基函数，比如 Legendre 多项式：

$$ \phi0(x),\phi1(x),\dots,\phi_{p-1}(x) $$ 这样每个单元内部不是只用一个常数，而是用高阶多项式。

优点：

高阶精度；
局部支撑；
自适应；
正交性好；
适合并行。

系数如何计算？

如果基函数正交，则：

$$ si^0=\langle \phii^0|f\rangle = \int \phi_i^0(x)f(x),dx $$ 如果某些细节系数很小：

|d_i^l|<\epsilon

$$ 就可以丢掉。

这就是自适应压缩。

🚀 算法创新

如果某个区域函数平滑，那么高层小波系数很小。

因为高层小波描述局部细节，而平滑区域没有多少局部细节。

所以： $$ d_i^l\approx 0 $$ 这些系数可以删掉。

如果某个区域函数剧烈变化，高层小波系数大，必须保留。

因此：

小波展开自动在变化快的地方保留更多自由度，在变化慢的地方保留更少自由度。

小波方法的核心创新：将微分方程转化为积分方程，迭代求解。这是代表性工作 MADNESS —— green方法啥的（G.I. Fann 等，ORNL）的核心思想。

说人话：小波方法=图像压缩算法的数学推广。JPEG 压缩扔掉高频细节，小波方法也扔掉小的展开系数，结果就是"波函数振荡的地方格点自动加密，平缓的地方格点自动稀疏"——无需人工干预！

流程类比

┌─────────────────────────────────────────────┐
│  输入: 微分方程 + 边界条件                     │
│    ↓                                        │
│  转换为积分方程                               │
│    ↓                                        │
│  多小波基展开 (n-level)                       │
│    ↓                                        │
│  截断小系数 → 自适应非均匀格点                  │
│    ↓                                        │
│  迭代求解 (如 GMRES)                          │
│    ↓                                        │
│  输出: 数值解 + 误差估计                       │
└─────────────────────────────────────────────┘

高性能实现

TBB（Threading Building Blocks）：多线程并行
Elemental：全局矩阵的分块分布式计算

第九章：有限元方法 FEM

💡 物理直觉

有限差分法在处理不规则形状边界时非常痛苦——网格线总不能完美贴合复杂边界。有限元法（FEM）的解决方案："把复杂蛋糕切成简单小块，在每一块上做简单近似，最后拼起来。"

有限差分法的想法是：

在规则网格上，用上下左右差分近似导数。

但 FEM 的想法完全不同：

不一定用规则网格，而是把区域切成很多小块。每个小块里用简单函数近似 $u$。最后把所有小块拼成一个整体。

FEM 不直接用差分近似二阶导数。

FEM 会说：

我不知道真实解 $u(x)$，但我可以用一堆简单函数拼出来。

令：

$$ uh(x)=\sumj Uj Nj(x) $$ 其中：

$u_h(x)$：数值近似解；
$U_j$：第 $j$ 个节点的未知值；
$N_j(x)$：第 $j$ 个节点对应的基函数，也叫形函数 shape function。

它满足：

$$ N1(x1)=1 $$ 也就是说：

$N_1$ 在自己的节点为 1，在相邻节点为 0。

类似地：

$$ Ni(xj)=\delta_{ij} $$ 这跟 DVR 里面的 cardinal property 有点像。

原方程是：

$$ -u''=f $$ 如果直接代入：

$$ uh=\sumj UjNj $$ 会出现二阶导数 $N_j''$。

但一维线性帽子函数是分段线性的，它的一阶导数是分段常数，二阶导数在节点处会有奇异性。

所以 FEM 不喜欢直接处理二阶导数。

于是它使用一个技巧：

把方程乘以测试函数，再积分，通过分部积分把二阶导数降成一阶导数。

这就叫 弱形式 weak form。

原方程：

$$ -u''(x)=f(x) $$ 取一个测试函数 $v(x)$，两边乘以 $v(x)$：

$$ -u''(x)v(x)=f(x)v(x) $$ 在整个区间积分：

$$ \int0^L -u''(x)v(x),dx = \int0^L f(x)v(x),dx $$ 所以：

$$ -\int0^L u''v,dx = -\left[u'v\right]0^L + \int_0^L u'v',dx $$ 因此：

$$ \int0^L u'v',dx - \left[u'v\right]0^L = \int_0^L fv,dx $$ 如果是 Dirichlet 边界：

$$ u(0)=0,\qquad u(L)=0 $$ 测试函数也取边界为零：

$$ v(0)=0,\qquad v(L)=0 $$ 于是边界项：

$$ \left[u'v\right]_0^L=0 $$ 所以得到：

$$ \boxed{ \int0^L u'(x)v'(x),dx = \int0^L f(x)v(x),dx } $$ 这就是弱形式。

只要求一阶导数存在所以 FEM可以用分段线形函数

弱形式把“点点都严格满足微分方程”变成“整体积分意义上满足方程”

Galerkin 方法：测试函数也选形函数

近似解：

$$ uh(x)=\sumj UjNj(x) $$ 弱形式：

$$ \int u_h'v',dx=\int fv,dx $$ FEM/Galerkin 方法选择：

$$ v=N_i $$ 也就是说，用每个形函数当测试函数。

代入：

$$ \int \left( \sumj UjNj' \right) Ni',dx = \int fN_i,dx $$ 把求和拿出来：

$$ \sumj Uj \int Nj'Ni',dx = \int fN_i,dx $$ 定义矩阵：

$$ K{ij} = \int Ni'N_j',dx $$ 定义右端：

$$ Fi = \int fNi,dx $$ 于是得到：

$$ \boxed{ K\mathbf U=\mathbf F } $$ 这就是 FEM 的矩阵方程。

K就是刚度矩阵对于局部就是局部的刚度矩阵

组装就是：每个小单元算出一个局部矩阵，然后按节点编号加到全局矩阵的对应位置。

二维就用更高级的三角形

FEM 的基本步骤

剖分区域：将求解域分割成大量小单元（二维用三角形，三维用四面体）
选择插值函数：在每个单元内用多项式插值近似场量
弱形式：将 PDE 乘以检验函数并分部积分，降低微分阶数
组装与求解：叠加所有单元的贡献，得到线性方程组

例子

考虑：

$$ -\nabla^2\phi=f $$ 区域：

$$ \Omega $$ 边界：

$$ \partial\Omega $$ 假设 Dirichlet 边界：

$$ \phi=g \quad \text{on }\partial\Omega $$ 选一个测试函数 $v$，满足在 Dirichlet 边界上：

$$ v=0 $$ 将 PDE 乘以 $v$，积分：

$$ \int\Omega (-\nabla^2\phi)v,d\Omega = \int\Omega fv,d\Omega $$ 对左边分部积分。

利用恒等式：

$$ \nabla\cdot(v\nabla\phi) = \nabla v\cdot\nabla\phi + v\nabla^2\phi $$ 所以：

$$ v\nabla^2\phi = \nabla\cdot(v\nabla\phi) - \nabla v\cdot\nabla\phi $$ 因此：

$$ -\int\Omega v\nabla^2\phi,d\Omega = -\int\Omega \nabla\cdot(v\nabla\phi)d\Omega + \int_\Omega \nabla v\cdot\nabla\phi,d\Omega $$ 用散度定理：

$$ \int\Omega\nabla\cdot(v\nabla\phi)d\Omega = \int{\partial\Omega}v\frac{\partial\phi}{\partial n}dS $$ 所以：

$$ -\int\Omega v\nabla^2\phi,d\Omega = \int\Omega\nabla v\cdot\nabla\phi,d\Omega - \int_{\partial\Omega} v\frac{\partial\phi}{\partial n}dS $$ 对于 Dirichlet 边界，测试函数 $v=0$，边界项消失。

于是弱形式为：

$$ \boxed{ \int\Omega\nabla v\cdot\nabla\phi,d\Omega = \int\Omega fv,d\Omega } $$ 此为 FEM的基础降低微分阶数 —— 因为有限元形函数通常是分片多项式，只要求一阶导存在即可！

Delaunay 三角剖分

有限元法中网格质量直接影响精度。Delaunay 三角剖分是最常用的剖分策略：

✅ 最大化所有三角形的最小角（避免"银针三角形"）
✅ 所有三角形的并集 = 点集的凸包
✅ 最近邻点必然由一条边相连

Poisson 方程 Dirichlet 问题的 FEM 推导

在三角形单元内，场量 $\phi$ 用三个顶点值插值：

$$ \phi(x,y) = Na(x,y),\phia + Nb(x,y),\phib + Nc(x,y),\phic $$

其中 $Na, Nb, N_c$ 是形函数（shape functions）。

通过变分法最小化能量泛函，得到局部刚度矩阵：

$$ k{ab} = \int\Delta \nabla Na \cdot \nabla Nb , dA $$

组装所有单元的局部刚度矩阵得到全局方程：

$$ K\phi = r $$

其中 $K$ 是对称矩阵，$r$ 是右端向量。

每个单元的局部刚度矩阵（具体形式）

设三角形三个顶点坐标为 $(xa, ya), (xb, yb), (xc, yc)$：

def local_stiffness(verts):
    """计算单个三角形单元的局部刚度矩阵"""
    xa, ya = verts[0]
    xb, yb = verts[1]
    xc, yc = verts[2]
    # 面积的两倍
    J = (xb - xa)*(yc - ya) - (xc - xa)*(yb - ya)
    # 形函数梯度分量
    bx = (yb - yc) / J  # ∂Na/∂x
    cx = (xc - xb) / J  # ∂Na/∂y → 对应 Na
    # ... 轮换得到其他顶点的分量
    # 局部刚度矩阵 3×3
    k = np.zeros((3, 3))
    k[0, 0] = (bx*bx + cx*cx) * J / 2  # 依此类推
    return k

回顾展开推导

三角形线性单元

设一个三角形单元 $\Delta$ 有三个顶点：

$$ a,b,c $$ 坐标分别为：

$$ (xa,ya),\quad (xb,yb),\quad (xc,yc) $$ 在这个三角形内部，用线性插值：

$$ \phi(x,y) = Na(x,y)\phia + Nb(x,y)\phib + Nc(x,y)\phic $$ 其中 $Na,Nb,N_c$ 是形函数。

它们满足：

$$ Na(a)=1,\quad Na(b)=0,\quad N_a(c)=0 $$ 类似地：

$$ Nb(b)=1,\quad Nc(c)=1 $$ 并且：

$$ Na+Nb+N_c=1 $$

线性三角形形函数具体形式

形函数可以写成：

$$ Ni(x,y) = \frac{ai+bix+ciy}{2A} $$ 其中 $A$ 是三角形面积。

对顶点 $a$：

$$ aa=xbyc-xcy_b $$ 对顶点 $b$：

$$ ab=xcya-xay_c $$ 对顶点 $c$：

$$ ac=xayb-xby_a $$ 面积满足：

$$ 2A = \begin{vmatrix} 1&xa&ya\ 1&xb&yb\ 1&xc&yc \end{vmatrix} $$ 也就是：

$$ 2A = (xb-xa)(yc-ya) - (xc-xa)(yb-ya) $$ 通常取绝对值保证面积为正。

形函数梯度

因为 $N_i$ 是线性的，所以梯度是常数：

$$ \nabla Ni = \left( \frac{\partial Ni}{\partial x}, \frac{\partial Ni}{\partial y} \right) = \left( \frac{bi}{2A}, \frac{c_i}{2A} \right) $$

局部刚度矩阵推导

弱形式对应的局部刚度矩阵为：

$$ k{ij}^{(e)} = \int{\Deltae} \nabla Ni\cdot\nabla Nj,dA $$ 由于 $\nabla Ni$ 和 $\nabla N_j$ 在三角形内是常数：

$$ k{ij}^{(e)} = \left( \nabla Ni\cdot\nabla Nj \right) \int{\Delta_e}dA $$ 所以：

$$ \boxed{ k{ij}^{(e)} = \frac{bibj+cic_j}{4A} } $$ 这就是线性三角形单元的局部刚度矩阵。

局部载荷向量

右端：

$$ ri^{(e)} = \int{\Deltae} f Ni,dA $$ 如果 $f$ 在单元内近似为常数，可以取三角形重心处值：

$$ fe=f(x{\text{centroid}},y_{\text{centroid}}) $$ 则：

$$ ri^{(e)} \approx fe\int{\Deltae}N_i,dA $$ 线性三角形中：

$$ \int{\Deltae}N_i,dA=\frac{A}{3} $$ 所以：

$$ \boxed{ ri^{(e)} \approx \frac{A}{3}fe } $$

组装全局矩阵

每个单元有一个 $3\times 3$ 局部刚度矩阵：

$$ k^{(e)} $$ 假设该单元三个局部节点对应全局编号：

$$ Ia,Ib,I_c $$ 那么把局部矩阵加到全局矩阵：

$$ K{Ip Iq} \mathrel{+}= k{pq}^{(e)} $$ 右端同理：

$$ r{Ip}\mathrel{+}=r_p^{(e)} $$ 最后得到：

$$ \boxed{ K\boldsymbol\phi=\mathbf r } $$

Dirichlet 边界怎么处理？

如果某个边界点已知：

$$ \phii=gi $$ 常见处理方式：

把该自由度从未知量中删除；
或者修改矩阵第 $i$ 行：

$$ K{ii}=1,\quad K{ij}=0\ (j\neq i) $$ 右端设为：

$$ ri=gi $$ 为了保持对称性，通常还要同时修改列。

Neumann 边界在 FEM 中很自然

如果边界给：

$$ \frac{\partial\phi}{\partial n}=q $$ 弱形式中边界项不会消失：

$$ -\int_{\partial\Omega} v\frac{\partial\phi}{\partial n}dS $$ 根据方程符号约定，它会进入右端。

所以 FEM 里 Neumann 条件是自然边界条件。

FEM 本征值问题中的质量矩阵

如果求 Schrödinger 方程：

$$ H\psi=E\psi $$ FEM 展开：

$$ \psi=\sumi ciN_i $$ 投影后得到：

$$ H\mathbf c=E M\mathbf c $$ 这里 $M$ 是质量矩阵：

$$ M{ij} = \int NiN_j,d\Omega $$ 对线性三角形，局部质量矩阵为：

$$ M^{(e)} = \frac{A}{12} \begin{pmatrix} 2&1&1\ 1&2&1\ 1&1&2 \end{pmatrix} $$ 这和 B-样条里的重叠矩阵 $S$ 是同一个角色。

FEM vs 有限差分法

维度	有限差分法	有限元法 FEM
网格	规则矩形网格	任意三角形/四面体
边界拟合	困难	自然
数学基础	Taylor 展开	变分法 / 弱形式
精度控制	加密网格	加密网格+提高插值阶数
编程复杂度	简单	复杂
典型应用	学术计算	工程仿真（ANSYS, COMSOL）

第十章：边界条件进阶 — 多极展开、周期性、Twisted

💡 物理直觉

前面讨论的是"给定边界值"的简单情况。实际科研中，边界条件本身就是个难题。比如 Coulomb 势在无穷远处衰减极慢（~1/r），怎么截断？

1. Coulomb 势边界条件 — 多极展开法

对于长程 Coulomb 势，在边界外面还有贡献。处理方法：

步骤：将边界上的源 $\rho_b$ 分离出来：

$$ \nabla^2\phi = -4\pi\rho $$

在边界上的贡献用多极展开（Spherical Harmonics $Y_{\ell m}$）解析计算：

$$ \phi{\text{boundary}} = \sum{\ell,m} \frac{Q{\ell m}}{r^{\ell+1}} Y{\ell m}(\theta, \phi) $$

其中 $Q{\ell m} = \int r^\ell Y{\ell m}^*(\theta, \phi) ,\rho(\mathbf{r}), d^3r$ 是多极矩。

然后用有限差分法求解内部：$\nabla^2\phi = -4\pi(\rho - \rho_b)$（减去边界源的贡献）。

说人话：把长程部分用球谐函数解析算了，剩下的短程部分用差分法。分而治之！

2. 周期性边界条件 PBC

傅里叶微分算符天然处理周期性边界：$\phi(x+L) = \phi(x)$。

在固体物理、晶格 QCD 中，PBC 是标配。

但有一个问题：有限盒子的假量子化效应——本该连续的谱被离散化了。

3. Twisted 边界条件 TBC

Twisted 边界条件是对 PBC 的推广：

$$ \phi(x+L) = e^{i\theta} \phi(x) $$

物理动机：通过变化 twist 角 $\theta$ 来恢复连续谱
实现：修改傅里叶动量 $k = (2\pi n + \theta)/L$
应用：晶格 QCD、量子 Monte Carlo、凝聚态物理、中子星壳层 Pasta 结构

4. 吸收边界条件 ABC

对于散射态/连续谱问题，不让波函数在边界反射回来：

入射波 → 计算区域 → 透射（吸收）
           ↛ 反射回来！

三种边界条件对比

类型	条件	适用场景
PBC	$\phi(x+L) = \phi(x)$	晶体、周期结构
TBC	$\phi(x+L) = e^{i\theta}\phi(x)$	有限系统连续谱恢复
ABC	吸收出射波	散射态、连续谱

第十一章：Jacobi 松弛迭代法

💡 物理直觉

对于 Poisson 方程 $\nabla^2 u = -f$，离散化后得到 $A\mathbf{u} = \mathbf{b}$。直接求逆对大规模矩阵不现实（O(N³)）。Jacobi 迭代的一条思路："方程两边同时加回主对角项，变成不动点迭代。"

先乱猜一个解，然后反复使用“邻居平均值”进行修正，直到整体平均平衡！！！

Jacobi 迭代公式推导

从五点差分公式出发：

$$ \frac{u{i+1,j} + u{i-1,j} + u{i,j+1} + u{i,j-1} - 4u{i,j}}{h^2} = -f{i,j} $$

移项，解出 $u_{i,j}$：

$$ u{i,j}^{\text{(new)}} = \frac{1}{4} \left[ u{i+1,j}^{\text{(old)}} + u{i-1,j}^{\text{(old)}} + u{i,j+1}^{\text{(old)}} + u{i,j-1}^{\text{(old)}} + h^2 f{i,j} \right] $$

说人话：每个格点的新值 = 四个邻居旧值的平均值 + 源项修正。不断重复直到收敛。本质上，这就是让势函数慢慢"松弛"到平衡态！它会慢慢把不平衡的势函数抹平，直到满足平衡条件。

数值实现

import numpy as np

def jacobi_poisson_2d(u, f, h, tol=1e-6, max_iter=10000):
    u_old = u.copy()
    u_new = u.copy()

    for it in range(max_iter):
        u_old[:, :] = u_new

        u_new[1:-1, 1:-1] = 0.25 * (
            u_old[2:, 1:-1]
            + u_old[:-2, 1:-1]
            + u_old[1:-1, 2:]
            + u_old[1:-1, :-2]
            + h**2 * f[1:-1, 1:-1]
        )

        diff = np.max(np.abs(u_new - u_old))

        if diff < tol:
            print("Jacobi 收敛步数:", it)
            break

    return u_new

加速技巧

Gauss-Seidel 迭代：使用最新值而非旧值（Jacobian→Gauss-Seidel，收敛翻倍）
超松弛 SOR：加一个加速因子 $\omega$（$1 < \omega < 2$）
多重网格法：粗网格上快速收敛低频分量，细网格上打磨高频分量

总结与对比

核心思想归纳

多维 PDE 的密钥 → 投影转换为一维：矩阵形式的本质就是把 2D/3D 格点压扁成一个大向量
不同算法的精度关键 → 微分算符：如何逼近导数决定了方法的上限
两大流派：基空间（灵活高效）vs 格点空间（精确但计算量大）

七种方法终极对比表

方法	微分算符	边界处理	精度	计算量	适用场景	格点要求
有限差分	局部差分公式	显式修改	~O(h²)	大（稀疏矩阵）	规则区域	均匀
FFT 谱方法	乘 ik（精确）	周期边界	指数收敛	$O(N\log N)$	光滑周期问题	均匀
基矢展开	解析积分	基函数自带	高（基完备）	中	束缚态	无网格
DVR	解析+对角势	基函数自带	极高	中	本征值问题	高斯积分点
B-样条	解析递推	需处理边界	高	中	非均匀网格	非均匀
小波/多小波	迭代积分	自然的	自适应	中-高	多尺度问题	自适应
有限元 FEM	弱形式+变分	自然拟合任意形状	高（h&p 自适应）	大	工程仿真、复杂边界	任意三角形

📊 方法选择决策树

遇到 PDE 问题
├── 规则区域 + 周期边界 → FFT 谱方法（最快）
├── 规则区域 + 一般边界 → 有限差分法（最直接）
├── 束缚态本征值问题
│   ├── 基函数合适 → 基矢展开法（最高效）
│   ├── 需要高精度 → DVR（最优收敛）
│   └── 需要非均匀网格 → B-样条（最灵活）
├── 多尺度 / 自适应需求 → 多小波分析（最智能）
├── 不规则复杂边界 → 有限元法（最通用）
└── 超大规模稀疏 → Jacobi / 多重网格迭代

🔗 PDE 方法与物理问题的对应

物理方程	类型	推荐方法	注意事项
Poisson 方程 ∇²u = −ρ	椭圆型	五点差分 + 迭代	稀疏矩阵，迭代收敛快
Schrödinger 方程 Hψ = Eψ	本征值型	DVR / B-样条	精度要求高，边界条件关键
扩散方程 ∂u/∂t = D∇²u	抛物型	有限差分 + 时间步进	稳定性条件 Δt ≤ h²/2D
波动方程 ∂²u/∂t² = c²∇²u	双曲型	FFT 谱方法	无耗散，适合周期性结构

💡 课程金句备忘

"多维问题的关键是投影转换为一维"
"不同算法的精度关键是微分算符"
"基空间灵活高效，格点空间精确但计算量大"
"利用对称性和好量子数可以降维，打破对称性则计算量增加几个量级"
"Nyquist 准则：格点间距不能大于最小波长的 1/2，否则信息丢失"

笔记结束 · 2026-06-07

看完了？说点什么呢

微分方程计算方法初步

akuiro — Wed, 01 Jul 2026 13:45:17 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Differential-equation

1. 微分方程数值解概览

两大问题类型

类型	给定条件	物理例子	主要方法
初值问题 (IVP)	已知 $y(t_0)$, 求后续	行星轨道、电路暂态	Euler, RK, Adams
边值问题 (BVP)	已知两边界条件	量子束缚态、热传导稳态	打靶法, 有限差分

Not support render this content in RSS render

💡 物理直觉：初值问题是"知道现在，推演未来"（动力学），边值问题是"知道两端，反推中间"（稳态分布）。

2. Euler 法与 Taylor 展开法

2.1 Euler 法 — 最朴素的一阶方法

核心思想：用切线近似曲线。

对于一阶 ODE：

$$\frac{dy}{dt} = f(t, y), \quad y(t0) = y0$$

等间距离散化：取步长 $h$，定义 $ti = t0 + i \cdot h$，$i = 0,1,2,...,N$

Euler 递推公式：

$$y{i+1} = yi + h \cdot f(ti, yi)$$

说人话：下一步 = 当前值 + 步长 × 当前斜率。就像盲人走路，每步朝着当前方向走固定距离，完全不看前面弯不弯。

📐 数值例子： $y' = -2y + 1,\ y(0)=1$

精确解： $y(t) = 0.5 + 0.5e^{-2t}$

# Euler 法手算演示，h=0.2
import numpy as np

def f(t, y): return -2*y + 1
y0, h = 1.0, 0.2
t_vals = np.arange(0, 1.01, h)
y_euler = [y0]

for i in range(len(t_vals)-1):
    y_next = y_euler[-1] + h * f(t_vals[i], y_euler[-1])
    y_euler.append(y_next)

观察：Euler 法在 $t=1.0$ 时误差约 12%。步长太大！

2.2 高阶 Taylor 展开法

递推公式：

$$y{i+1} = yi + h y'i + \frac{h^2}{2!}y''i + \frac{h^3}{3!}y'''_i + \cdots$$

局部截断误差 (Local Truncation Error)：

Euler 法（1阶 Taylor）： $O(h^2)$ 每步
$k$ 阶 Taylor： $O(h^{k+1})$ 每步

对 $y'=-2y+1$ 用二阶 Taylor

$$ y'' = -2y' = -2(-2y+1) = 4y-2 $$

# 二阶 Taylor，同一步长 h=0.2
y_taylor2 = [y0]
for i in range(len(t_vals)-1):
    y = y_taylor2[-1]
    yp = -2*y + 1          # y'
    ypp = 4*y - 2          # y''
    y_next = y + h*yp + h**2/2 * ypp
    y_taylor2.append(y_next)

# t=1.0: y≈0.559592 → 误差从 12% 降到约 1.4%！

$t$	精确解	Euler (h=0.2)	二阶 Taylor (h=0.2)	Euler (h=0.1)
0.4	0.7247	0.7200	0.7244	0.7568
0.8	0.6009	0.5968	0.6003	0.6334
1.0	0.5677	0.4982	0.5596	0.5838

💡 结论：提高阶数比缩小步长更有效！二阶 Taylor 用 $h=0.2$ 的精度已经超过 Euler 用 $h=0.1$。

3. Runge-Kutta 方法族

在科学计算、航空航天轨道计算、乃至游戏物理引擎中，90% 以上的常微分方程初值问题，其底层默认的算法都是龙格-库塔法。

3.1 核心思想

Taylor 展开法需要手动求各阶导数

（麻烦！ + 阶数越高手动求偏导的项数呈现指数级爆炸 —— 工程上不可以承受的 + 导数无具体解析解需要数值手段）

Runge-Kutta 的巧思：

能否不求导，仅仅是通过在当前步长的不同位置多算几次斜率，然后将其“加权平均”，来拼凑出来和Taylor一样的高阶精度效果

用多点函数值的组合来模拟高阶导数效果，无需显式求导。我们无需去求那些复杂的偏导数，我们只需要在区间 $[t{i}, t{i+1}]$ 之间，多选取

一般形式：

$$ y{i+1} = yi + h \sum{j=1}^{s} bj k_j $$

其中 k就是我们在这一步里，通过不同位置的“试探”得到的斜率。每一个k，都依赖于前面已经算出来的斜率

$$ kj = f\left(ti + cj h,\ yi + h \sum{l=1}^{j-1} a{jl} kl\right) $$ 这些系数 $a{jl}$、 $bj$ 和 $cj$ 是通过与泰勒级数展开进行复杂的代数比对（Taylor matching）强行解出来

3.2 二阶 Runge-Kutta：中点法与改进 Euler 法

🔹 中点法 (Midpoint Method) 先探路再迈步

$$ k1 = f(ti, yi) \ \space \ k2 = f\left(ti + \frac{h}{2},\ yi + \frac{h}{2}k1\right) \ \space \ y{i+1} = yi + h \cdot k2 $$

说人话：先用半步走到的中点斜率，再拿这个斜率走一整步。比直接走精度高了一阶。

k1就是起点的斜率， k2就是中点处预测的斜率

你蒙着眼睛在一座山上往下走。如果直接用起点斜率 $k1$ 走一整步（欧拉法），由于山坡在弯曲，你很容易偏离轨道。中点法的策略是：我先用起点的斜率 $k1$ 试探着走半步（ $\frac{h}{2}$），到达“中点”。我测出中点处的斜率 $k2$，然后我回到起点，**手持这个中点斜率 $k2$ 跨出完整的一整步**。由于中点斜率代表了这一小段路程的“平均趋势”，这样跨出的一步，精度直接从一阶跃升到了二阶（全局误差 $O(h^2)$）！

🔹 改进 Euler 法 (Modified Euler / Heun's Method)

$$ k1 = f(ti, yi) \ \space \ k2 = f(ti + h,\ yi + h k1) \ \space \ y{i+1} = yi + \frac{h}{2}(k1 + k_2) $$

说人话：取"起点斜率"和"用 Euler 走到终点的斜率"的平均。相当于预测-校正。

中点法是去中间探路而改进的欧拉法则是两头兼顾

可以先用起点的斜率 k1 算一个“预期的终点”，接着我们测量这个预期终点处斜率k2，最后将起点与终点的斜率进行算术平均得出最终迈步的依据 —— 预测-校正

Predictor- Corrector 思想！！！

3.3 四阶 Runge-Kutta (RK4) — 工业标准

公式（经典 RK4）：

$\begin{aligned} k1 &= f(ti, yi) \ \space \ k2 &= f\left(ti + \frac{h}{2},\ yi + \frac{h}{2}k1\right) \ \space \ k3 &= f\left(ti + \frac{h}{2},\ yi + \frac{h}{2}k2\right) \ \space \ k4 &= f(ti + h,\ yi + h k3) \ \space \ y{i+1} &= yi + \frac{h}{6}(k1 + 2k2 + 2k3 + k_4) \end{aligned}$

本质上其代数逻辑与 Simpson 积分惊人的相似！！！

与数值积分里的 Simpson 公式权重（ $\frac{1}{6}, \frac{4}{6}, \frac{1}{6}$）极其相似！

$k_1$（起点斜率）权重为 $1/6$；

$k2, k3$（两个在中点不同试探方式得到的斜率）权重合起来是 $4/6$；

$k_4$（终点斜率）权重为 $1/6$。

本质

是常微分方程数值解和数值积分在深层代数逻辑上合流的必然结果

一、终极源头：将 ODE 降维成“纯积分”

要理解为什么它们会发生碰撞，我们先做一个数学实验：假设我们有一个一阶常微分方程：

$$ \frac{dy}{dt} = f(t, y), \quad y(ti) = yi $$

如果我们对两边在区间 $[ti, ti + h]$ 上进行精确求导积分，由微积分基本定理可以得到：

$$ y(ti + h) - y(ti) = \int{ti}^{t_i+h} f(t, y(t)) dt $$

所以，下一步的精确值一定是：

$y{i+1} = yi + \int{ti}^{t_i+h} f(t, y(t)) dt$

这是一个无法直接计算的积分，因为被积函数里的 $y(t)$ 本身就是我们正在求解的未知数！

降维假设：如果斜率不依赖于 $y$

现在，我们假设一种最简单、最特殊的物理场景：斜率 $f(t, y)$ 仅仅与时间 $t$ 有关，与 $y$ 无关。比如，一个物体的加速度只随时间变化： $\frac{dy}{dt} = f(t)$。

此时，上面的方程直接变成了一个纯积分问题：

$y{i+1} = yi + \int{ti}^{t_i+h} f(t) dt$

二、辛普森公式（Simpson's Rule）是如何处理这个积分的？

如果要计算 $\int{ti}^{ti+h} f(t) dt$，辛普森公式的思路是：在区间 $[ti, t_i+h]$ 里，取三个等距点来做二次抛物线插值：

左端点： $ti$，对应的函数值为 $f(ti)$；
中点： $ti + \frac{h}{2}$，对应的函数值为 $f(ti + \frac{h}{2})$；
右端点： $ti + h$，对应的函数值为 $f(ti + h)$。

根据辛普森公式的求积权重（$1:4:1$ 比例），这个积分的近似值为：

$\int{ti}^{ti+h} f(t) dt \approx \frac{h}{6} \left[ f(ti) + 4 f\left(ti + \frac{h}{2}\right) + f(ti + h) \right]$

因此，我们得到下一步的预测值为：

$y{i+1} \approx yi + \frac{h}{6} \left[ f(ti) + 4 f\left(ti + \frac{h}{2}\right) + f(t_i + h) \right]$

三、经典 RK4 此时在干什么？

现在，我们把相同的“降维假设”（$f$ 不依赖于 $y$）代入到经典 RK4 的公式里，看看它会退化成什么样：

计算 $k_1$（起点斜率）： $k1 = f(ti, yi) \implies k1 = f(t_i)$
计算 $k_2$（中点试探斜率 1）： $k2 = f\left(ti + \frac{h}{2},\ yi + \frac{h}{2}k1\right) \implies k2 = f\left(ti + \frac{h}{2}\right)$
计算 $k_3$（中点试探斜率 2）： $k3 = f\left(ti + \frac{h}{2},\ yi + \frac{h}{2}k2\right) \implies k3 = f\left(ti + \frac{h}{2}\right)$
计算 $k_4$（终点试探斜率）： $k4 = f(ti + h,\ yi + h k3) \implies k4 = f(ti + h)$

因为 $f$ 与 $y$ 无关，我们发现：在中点算出来的两个试探斜率 $k2$ 和 $k3$ 居然完全相等了！

$k2 = k3 = f\left(t_i + \frac{h}{2}\right)$

现在，我们把它们代入 RK4 的最后一步加权平均式中： $\begin{aligned} y{i+1} &= yi + \frac{h}{6} (k1 + 2k2 + 2k3 + k4) \ &= yi + \frac{h}{6} \left[ f(ti) + 2f\left(ti + \frac{h}{2}\right) + 2f\left(ti + \frac{h}{2}\right) + f(ti + h) \right] \ &= yi + \frac{h}{6} \left[ f(ti) + 4f\left(ti + \frac{h}{2}\right) + f(t_i + h) \right] \end{aligned}$

两套公式完全合二为一，分毫不差！

四、这个“巧合”背后的深刻含义

1. RK4 是辛普森公式在 ODE 领域的“非线性推广”

辛普森公式：只能处理函数只与时间 $t$ 相关的静态积分。
RK4：当函数不仅与 $t$ 有关，还与当前状态 $y$ 动态耦合时，RK4 通过巧妙的多步迭代预测（用 $k1$ 预测出 $y{i} + \frac{h}{2}k1$，进而算 $k2$；再用 $k2$ 修正出 $y{i} + \frac{h}{2}k2$，进而算 $k3$），在非线性空间里重建了辛普森公式所需要的“中点斜率”（在泰勒展开的代数精度上，RK4 巧妙地通过这两步试探，将非线性耦合带来的高阶误差一项一项全部抵消掉，从而在代数精度上达到了与辛普森公式完全匹配的四阶精度 $O(h^4)$）
因此，RK4 本质上就是“带有动态状态修正的辛普森积分”。

补充

一、核心痛点：辛普森公式需要“真正的中点斜率”

如果我们把 ODE 的精确积分形式写出来： $y{i+1} = yi + \int{ti}^{t_i+h} f(t, y(t)) dt$ 如果我们想用辛普森公式来算这个积分，我们需要知道三个值：

起点斜率： $f(ti, yi)$ —— 已知，就是 $k_1$。
终点斜率： $f(ti + h, y(ti+h))$ —— 未知，因为我们不知道终点的精确状态 $y(t_i+h)$。
中点真正的斜率： $f\left(ti + \frac{h}{2}, y\left(ti + \frac{h}{2}\right)\right)$ —— 未知，因为我们不知道中点精确状态 $y\left(t_i + \frac{h}{2}\right)$。

因为我们不知道中点精确状态 $y\left(t_i + \frac{h}{2}\right)$，所以我们无法直接算出真正的中点斜率。

二、 RK4 是如何用 $k1, k2, k3, k4$ 逐步逼近这个“真中点斜率”的？

RK4 的精妙之处在于，它通过三次接力（预测-校正-再预测），把这个“真正的中点斜率”给强行“套”了出来。

根据泰勒展开，函数 $y(t)$ 在 $t_i$ 处的半步（ $\frac{h}{2}$）展开为：

$y\left(ti + \frac{h}{2}\right) = y(ti) + \left(\frac{h}{2}\right) y'(ti) + \frac{1}{2!} \left(\frac{h}{2}\right)^2 y''(ti) + O(h^3)$

整理一下系数：

$y\left(ti + \frac{h}{2}\right) = yi + \frac{h}{2} y'(ti) + \frac{h^2}{8} y''(ti) + O(h^3) \quad \text{--- (式 A)}$

因为我们的常微分方程是 $y' = f(t, y)$，所以利用全微分（链式法则）求二阶导数 $y''$：

$y''(t) = \frac{d}{dt}[f(t, y(t))] = \frac{\partial f}{\partial t} + \frac{\partial f}{\partial y} \cdot \frac{dy}{dt} = ft + fy f$

（为了书写简洁，我们用偏导数简写 $ft = \frac{\partial f}{\partial t}$， $fy = \frac{\partial f}{\partial y}$，且它们都在 $(ti, yi)$ 处取值）。

把 $y'(ti) = f$ 和 $y''(ti) = ft + fy f$ 代回 (式 A)，得到真正的中点状态的精确展开式：

$y\left(ti + \frac{h}{2}\right) = yi + \frac{h}{2} f + \frac{h^2}{8} (ft + fy f) + O(h^3) \quad \text{--- (式 A-精确版)}$

在 RK4 中，我们第一步用 $k_1$（即 $f$）预测的中点状态为：

$y{\text{mid}, 1} = yi + \frac{h}{2} k1 = yi + \frac{h}{2} f$

我们用它去计算 $k2$： $k2 = f\left(ti + \frac{h}{2}, \ yi + \frac{h}{2} f\right)$

这是一个二元函数 $f(t, y)$。我们将它在点 $(ti, yi)$ 处进行二元泰勒展开。二元泰勒展开公式为： $f(ti + \Delta t, \ yi + \Delta y) = f(ti, yi) + \Delta t \cdot ft + \Delta y \cdot fy + O(\Delta^2)$

在 $k_2$ 的计算中：

时间增量 $\Delta t = \frac{h}{2}$
状态增量 $\Delta y = \frac{h}{2} f$

代入二元泰勒展开式： $k2 = f + \left(\frac{h}{2}\right) ft + \left(\frac{h}{2} f\right) f_y + O(h^2)$ 提取公因子

$$ \frac{h}{2}$ $k2 = f + \frac{h}{2} (ft + f_y f) + O(h^2) \quad \text{--- (式 B)}$$

现在，我们用这个含有更高阶误差信息的 $k2$ 重新代入到第二次中点预测值 $y{\text{mid}, 2}$ 中： $y{\text{mid}, 2} = yi + \frac{h}{2} k_2$

把 (式 B) 的展开式直接代入到 $k_2$ 的位置：

$$ y{\text{mid}, 2} = yi + \frac{h}{2} \left[ f + \frac{h}{2} (ft + fy f) + O(h^2) \right]$$

把括号外面的 $\frac{h}{2}$ 乘进去：

$$ y{\text{mid}, 2} = yi + \frac{h}{2} f + \frac{h^2}{4} (ft + fy f) + O(h^3) \quad \text{--- (式 C)}$$

在 RK4 公式中，第三步是在第二次中点预测状态 $y_{\text{mid}, 2}$ 处计算斜率：

$$ k3 = f\left(ti + \frac{h}{2}, \ y_{\text{mid}, 2}\right)$$

我们将 (式 C) 的结果： $y{\text{mid}, 2} = yi + \frac{h}{2} f + \frac{h^2}{4} (ft + fy f) + O(h^3)$ 代入到 $k_3$ 中：

$$ k3 = f\left(ti + \frac{h}{2}, \ yi + \frac{h}{2} f + \frac{h^2}{4} (ft + f_y f) + O(h^3)\right) $$

此时，我们需要对二元函数 $f(ti + \Delta t, \ yi + \Delta y)$ 进行泰勒展开，其中：

时间增量 $\Delta t = \frac{h}{2}$
状态增量 $\Delta y = \frac{h}{2} f + \frac{h^2}{4} (ft + fy f) + O(h^3)$

为了计算到 $O(h^2)$ 项，我们的二元泰勒展开需要保留到二阶偏导数项：

$$ f(ti + \Delta t, \ yi + \Delta y) = f + \Delta t ft + \Delta y fy + \frac{1}{2} \left[ \Delta t^2 f{tt} + 2 \Delta t \Delta y f{ty} + \Delta y^2 f{yy} \right] + O(h^3)$$ （注：这里所有的偏导数 $ft, fy, f{tt}, f{ty}, f{yy}$ 都在 $(ti, yi)$ 处取值）。

我们分项把它们代入展开：

一阶时间项：

$$ \Delta t ft = \frac{h}{2} ft$$

一阶状态项：

$$ \Delta y fy = \left[ \frac{h}{2} f + \frac{h^2}{4} (ft + fy f) + O(h^3) \right] fy = \frac{h}{2} f fy + \frac{h^2}{4} fy (ft + fy f) + O(h^3)$$

二阶偏导数项（由于我们只需要保留到 $O(h^2)$，所以 $\Delta y$ 里的 $O(h^2)$ 项在平方后会变成 $O(h^3)$ 以上，可以省去）：

$$ \frac{1}{2} \Delta t^2 f{tt} = \frac{1}{2} \left(\frac{h}{2}\right)^2 f{tt} = \frac{h^2}{8} f_{tt}$$

$$ \frac{1}{2} \cdot 2 \Delta t \Delta y f{ty} = \left(\frac{h}{2}\right) \left(\frac{h}{2} f + O(h^2)\right) f{ty} = \frac{h^2}{4} f f_{ty}$$

$$ \frac{1}{2} \Delta y^2 f{yy} = \frac{1}{2} \left(\frac{h}{2} f + O(h^2)\right)^2 f{yy} = \frac{h^2}{8} f^2 f_{yy}$$

在 RK4 中，我们用最新的精细中点斜率 $k3$ 跨出完整的一整步，预测终点的状态 $y{\text{end}}$： $y{\text{end}} = yi + h k_3$

将 上述结果 代入 $y{\text{end}}$ 的计算中： $y{\text{end}} = yi + h \left( f + \frac{h}{2} (ft + f_y f) + O(h^2) \right)$ 把 $h$ 乘进去，得到预测的终点状态：

$$ y{\text{end}} = yi + h f + \frac{h^2}{2} (ft + fy f) + O(h^3) \quad \text{--- (式 E)}$$

现在，我们在终点计算最后一个斜率 $k_4$：

$$ k4 = f(ti + h, \ y{\text{end}}) = f\left(ti + h, \ yi + h f + \frac{h^2}{2} (ft + f_y f) + O(h^3)\right)$$

我们再次对二元函数进行展开，此时：

时间增量 $\Delta t = h$
状态增量 $\Delta y = h f + \frac{h^2}{2} (ft + fy f) + O(h^3)$

代入二元泰勒展开公式： $f(ti + \Delta t, \ yi + \Delta y) = f + \Delta t ft + \Delta y fy + \frac{1}{2} \left[ \Delta t^2 f{tt} + 2 \Delta t \Delta y f{ty} + \Delta y^2 f_{yy} \right] + O(h^3)$

一阶时间项： $\Delta t ft = h ft$
一阶状态项： $\Delta y fy = \left[ h f + \frac{h^2}{2} (ft + fy f) + O(h^3) \right] fy = h f fy + \frac{h^2}{2} fy (ft + fy f) + O(h^3)$
二阶偏导数项（省去 $O(h^3)$ 阶）： $\frac{1}{2} \Delta t^2 f{tt} = \frac{1}{2} h^2 f{tt}$ $\frac{1}{2} \cdot 2 \Delta t \Delta y f{ty} = h (h f + O(h^2)) f{ty} = h^2 f f{ty}$ $\frac{1}{2} \Delta y^2 f{yy} = \frac{1}{2} (h f + O(h^2))^2 f{yy} = \frac{1}{2} h^2 f^2 f{yy}$

$h$ 的一阶项： $h ft + h f fy = h (ft + fy f)$
$h$ 的二阶项： $\frac{h^2}{2} fy (ft + fy f) + \frac{h^2}{2} f{tt} + h^2 f f{ty} + \frac{h^2}{2} f^2 f{yy}$ 我们通分并提取公因子 $\frac{h^2}{2}$： $\frac{h^2}{2} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + fy f) \right]$

因此，我们得到了 $k_4$ 的完整展开式： $k4 = f + h (ft + fy f) + \frac{h^2}{2} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + f_y f) \right] + O(h^3) \quad \text{--- (式 F)}$

现在，四个斜率 $k1$、$k2$、$k3$、$k4$ 已经全部列阵完毕。我们把它们毫无保留地写在一起：

$k_1 = f$
$k2 = f + \frac{h}{2} (ft + fy f) + \frac{h^2}{8} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} \right] + O(h^3)$
$k3 = f + \frac{h}{2} (ft + fy f) + \frac{h^2}{8} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + 2 fy (ft + f_y f) \right] + O(h^3)$
$k4 = f + h (ft + fy f) + \frac{h^2}{2} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + f_y f) \right] + O(h^3)$

现在，我们将它们代入 RK4 最终的加权表达式： $y{i+1} = yi + \frac{h}{6} (k1 + 2k2 + 2k3 + k4)$

为了让你看清楚每一部分是如何抵消和合并的，我们把求和部分 $k1 + 2k2 + 2k3 + k4$ 按 $h$ 的阶数 拆成三部分算：

零阶项（常数 $f$ 的加权）

$\text{零阶项和} = f + 2(f) + 2(f) + f = 6f$ 代回最终公式中，再乘以外面的 $\frac{h}{6}$： $\frac{h}{6} (6f) = \mathbf{h f}$

一阶项（含 $ft + fy f$ 的加权）

$\begin{aligned} \text{一阶项和} &= 0 + 2 \left( \frac{h}{2} (ft + fy f) \right) + 2 \left( \frac{h}{2} (ft + fy f) \right) + h (ft + fy f) \ \space \ &= h (ft + fy f) + h (ft + fy f) + h (ft + fy f) \ \space \ &= 3h (ft + fy f) \end{aligned}$

代回最终公式中，再乘以外面的 $\frac{h}{6}$： $\frac{h}{6} \left[ 3h (ft + fy f) \right] = \mathbf{\frac{h^2}{2} (ft + fy f)}$

二阶项（含 $f{tt}, f{ty}, f{yy}$ 和 $fy(ft+fy f)$ 的加权）

这里是整个代数魔术最核心的高潮。我们把 $2k2$、 $2k3$ 和 $k_4$ 的二阶项展开相加：

对于不含 $fy$ 的偏导数组合 $\left[ f{tt} + 2 f f{ty} + f^2 f{yy} \right]$（我们简记为 $P$）：

$$ \begin{aligned} P \text{ 的系数和} &= 2 \left( \frac{h^2}{8} P \right) + 2 \left( \frac{h^2}{8} P \right) + \frac{h^2}{2} P \ \space \ &= \frac{h^2}{4} P + \frac{h^2}{4} P + \frac{h^2}{2} P \ \space \&= h^2 P \end{aligned}$$

对于带有交叉项 $fy (ft + f_y f)$ 的部分（我们简记为 $Q$）：
- $2k_2$ 里面没有这一项（系数为 0）；
- $2k_3$ 里面含有这一项，系数为 $2 \times \frac{h^2}{8} \times 2 = \frac{h^2}{2}$；
- $k_4$ 里面含有这一项，系数为 $\frac{h^2}{2}$。
$$ \begin{aligned} Q \text{ 的系数和} &= 0 + \frac{h^2}{2} Q + \frac{h^2}{2} Q \ \space \ &= h^2 Q \end{aligned}$$

把 $P$ 和 $Q$ 合并：

$$ \text{二阶项和} = h^2 (P + Q) = h^2 \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + fy f) \right]$$

代回最终公式中，乘以外面的 $\frac{h}{6}$：

$$ \frac{h}{6} \left( h^2 \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + fy f) \right] \right) = \mathbf{\frac{h^3}{6} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + fy f) \right]}$$

现在，我们将上面三个部分的加权计算结果全部拼起来，得到 RK4 计算得到的数值解展开：

$$ y{i+1} = yi + h f + \frac{h^2}{2} (ft + fy f) + \frac{h^3}{6} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + fy f) \right] + O(h^4) \quad \text{--- (RK4 的展开)}$$

接着，我们写出真实的微分方程精确解 $y(t_i+h)$ 展开到 $h^3$ 的真实泰勒展开：

$$ y(ti + h) = yi + h y'(ti) + \frac{h^2}{2} y''(ti) + \frac{h^3}{6} y'''(t_i) + O(h^4)$$

我们用全微分（链式法则）求出精确解的各阶导数：

一阶导数： $y'(t_i) = f$
二阶导数： $y''(ti) = ft + f_y f$
三阶导数：对 $y'' = ft + fy f$ 再次关于时间 $t$ 求导： $\begin{aligned} y'''(ti) &= \frac{d}{dt} \left[ ft(t, y) + fy(t, y) \cdot f(t, y) \right] \ &= (f{tt} + f{ty} y') + (f{yt} + f{yy} y') f + fy (ft + fy f) \ &= f{tt} + f{ty} f + (f{ty} + f{yy} f) f + fy (ft + fy f) \quad (\text{因 } y'=f, f{yt}=f{ty}) \ &= f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + f_y f) \end{aligned}$

把这些精确导数代入精确解的泰勒展开式： $y(ti + h) = yi + h f + \frac{h^2}{2} (ft + fy f) + \frac{h^3}{6} \left[ f{tt} + 2 f f{ty} + f^2 f{yy} + fy (ft + fy f) \right] + O(h^4) \quad \text{--- (精确泰勒展开)}$

🏁 惊人的结论：

现在，请将 (RK4 的展开) 和 (精确泰勒展开) 放在一起进行对比。

它们在 $h$ 的零阶项、一阶项、二阶项、三阶项（甚至包含复杂的交叉偏导数 $f{ty}$ 和 $fy(ft+fy f)$）上，所有的代数项和系数全部一模一样，分毫不差！

这也就意味着，通过这四个斜率的巧妙试探和最终 $1:2:2:1$ 的加权平均：

局部截断误差中的 $h^1, h^2, h^3, h^4$ 阶误差全部被完全消去（抵消）。
残余的第一项误差出现在 $h^5$ 阶，即局部截断误差为 $O(h^5)$ 。
经过区间累积，全局累积误差为 $O(h^4)$。

精度奇迹的代数根源

为什么 RK4 只需要 4 个点就能达到全局四阶精度？

因为它退化后的辛普森公式本身就是一个具有“代数奇迹”的方法：辛普森公式虽然只用了 $3$ 个点（相当于二次多项式插值），但由于对称性抵消，它对任意三次多项式的积分都是绝对精确的！
这种“免费赠送一阶精度”的对称性优势，通过 $k2$ 和 $k3$ 在中点的双重采样，被完美遗传给了 RK4。这使得 RK4 拥有极高的代数稳定性，成为了不需要高阶导数就能运行的性价比之王。

局部截断误差： $O(h^5)$，全局误差 $O(h^4)$

🧮 完整数值示例：用 RK4 解 $y' = -2y+1,\ y(0)=1$

import numpy as np
import matplotlib.pyplot as plt

def f(t, y):
    return -2*y + 1

def rk4_step(f, t, y, h):
    k1 = f(t, y)
    k2 = f(t + h/2, y + h/2 * k1)
    k3 = f(t + h/2, y + h/2 * k2)
    k4 = f(t + h,   y + h * k3)
    return y + h/6 * (k1 + 2*k2 + 2*k3 + k4)

# 参数
y0, h = 1.0, 0.2
t_vals = np.arange(0, 2.01, h)
y_rk4 = [y0]
for i in range(len(t_vals)-1):
    y_rk4.append(rk4_step(f, t_vals[i], y_rk4[-1], h))

# 精确解
y_exact = 0.5 + 0.5 * np.exp(-2 * t_vals)

# 结果对比
print(f"{'t':>6}  {'RK4':>10}  {'Exact':>10}  {'Error':>12}")
for t, yr, ye in zip(t_vals, y_rk4, y_exact):
    print(f"{t:6.2f}  {yr:10.6f}  {ye:10.6f}  {abs(yr-ye):12.2e}")

输出（部分）：

t	RK4	精确解	误差
0.40	0.724665	0.724664	4.5e-07
0.80	0.600896	0.600895	4.8e-07
1.00	0.567669	0.567668	5.0e-07
1.60	0.520423	0.520423	5.7e-07
2.00	0.509158	0.509158	5.9e-07

💡 惊人的精度：RK4 用 $h=0.2$，误差约 $5\times 10^{-7}$。Euler 法要达到同样精度需要步长约 $10^{-7}$ 级别！

3.4 自适应步长：Runge-Kutta-Fehlberg (RKF45)

核心想法：每步同时计算 4 阶和 5 阶结果，利用差值估计误差，自动调整步长。

RKF: 局部截断误差 $O(h^6)$（5阶），可用作误差控制
Runge-Kutta-Verner: 达到 6 阶

伪代码：

while t < t_end:
    计算 RK4 和 RK5 结果 y4, y5
    误差 err = |y5 - y4|
    if err > tolerance:
        h = h/2; 重算
    else if err < tolerance/10:
        h = 2*h  (放大步长)
    接受结果，前进

💡 物理直觉：解变化慢的地方（平坦区）自动放大步长，变化快的地方（陡峭区）自动缩小步长。就像开车——高速路上踩油门，拐弯处踩刹车。

4. Predictor-Corrector 多步法

4.1 与 Runge-Kutta 的对比

RK4 就是在单步内多点探路然后代数消去高阶项达到精度

P-C 预测校正多步法则是通过 “不抛弃历史用插值和积分重构过去与未来” 来实现长距离、高效率的稳定计算！！！

RK4 的思路：为了近似这个积分，在当前区间 $[ti, ti+h]$ 里临时计算 4 个测试点的斜率 $k1, k2, k3, k4$，把旧的信息全部扔掉。这需要每前进一步就重复计算 4 次 $f(t,y)$。

多步法的思路：既然我们在前面已经算过了 $ti, t{i-1}, t_{i-2}$ 等处的斜率，为什么还要在每一步里重复去算新测试点？我们直接利用这些现成的历史斜率，用多项式把 $f(t, y(t))$ 在过去及当下的曲线“描绘（插值）”出来，然后直接对这个多项式进行精确求积分！

特性	Runge-Kutta	多步法 (Adams 族)
步数依赖	单步法（只用上一步）	多步法（用前面多步）
计算量	每步多次函数求值	每步 1-2 次函数求值
起步	自动起步	需 RK4 起步（算前几步）
典型应用	通用	长时间演化（如 TDDFT）

4.2 Adams-Bashforth (显式预测)

三步显式公式：

$$y{i+1} = yi + \frac{h}{12}\left[23f(ti, yi) - 16f(t{i-1}, y{i-1}) + 5f(t{i-2}, y{i-2})\right]$$

具体推导

我们要推导三步显式公式：

$y{i+1} = yi + \frac{h}{12}\left[23f(ti, yi) - 16f(t{i-1}, y{i-1}) + 5f(t{i-2}, y{i-2})\right]$

1. 待定系数法的泰勒展开设定

假设时间步长 $h$ 是恒定的（即 $ti - t{i-1} = h$， $ti - t{i-2} = 2h$）。为了简洁，我们将已知的历史斜率记为：

$fi = f(ti, y_i)$
$f{i-1} = f(t{i-1}, y_{i-1})$
$f{i-2} = f(t{i-2}, y_{i-2})$

我们希望寻找三个系数 $a, b, c$，使得以下线性组合在代数上具有最高精度：

$y(t{i+1}) \approx y(ti) + h \left[ a fi + b f{i-1} + c f_{i-2} \right] \quad \text{--- (式 1)}$

由于 $y'(t) = f(t, y(t))$，我们把这三项写成导数形式：

$fi = y'(ti)$
$f{i-1} = y'(t{i-1})$
$f{i-2} = y'(t{i-2})$

2. 将所有历史点在当下的 $t_i$ 处进行泰勒展开

我们将 $y(t{i+1})$，以及历史导数 $y'(t{i-1})$、 $y'(t{i-2})$ 全部在 $ti$ 处展开到 $h^3$ 阶：

左端点 $y(t{i+1})$ 在 $ti$ 处的展开（向前走一步 $h$）：
$y(t{i+1}) = y(ti) + h y'(ti) + \frac{h^2}{2} y''(ti) + \frac{h^3}{6} y'''(t_i) + O(h^4) \quad \text{--- (式 2)}$
历史一阶导数 $y'(t{i-1})$ 在 $ti$ 处的展开（向后退一步 $-h$）：
$y'(t{i-1}) = y'(ti) - h y''(ti) + \frac{h^2}{2} y'''(ti) + O(h^3) \quad \text{--- (式 3)}$
历史一阶导数 $y'(t{i-2})$ 在 $ti$ 处的展开（向后退两步 $-2h$）：

$y'(t{i-2}) = y'(ti) - (2h) y''(ti) + \frac{(2h)^2}{2} y'''(ti) + O(h^3) = y'(ti) - 2h y''(ti) + 2h^2 y'''(t_i) + O(h^3) \quad \text{--- (式 4)}$

3. 代入待定系数式，合并同类项

现在，我们将 (式 3) 和 (式 4) 代回我们的待定系数公式 (式 1) 的右端项：

$\text{右端项} = y(ti) + h \left[ a y'(ti) + b y'(t{i-1}) + c y'(t{i-2}) \right]$ 将展开式代入：

$$ \text{右端项} = y(ti) + h \left[ a y'(ti) + b \left( y'(ti) - h y''(ti) + \frac{h^2}{2} y'''(ti) \right) + c \left( y'(ti) - 2h y''(ti) + 2h^2 y'''(ti) \right) \right] + O(h^4)$$

我们按 $y'(ti), y''(ti), y'''(t_i)$ 的阶数进行提取与合并：

$$ \text{右端项} = y(ti) + h (a + b + c) y'(ti) + h^2 (-b - 2c) y''(ti) + h^3 \left( \frac{1}{2}b + 2c \right) y'''(ti) + O(h^4) \quad \text{--- (式 5)}$$

4. 对比系数，建立线性方程组

为了让数值公式 (式 5) 与真实的泰勒展开 (式 2) 完美契合，我们强制令它们的前三项系数完全相等：

$h y'(t_i)$ 的系数： $a + b + c = 1 \quad \text{--- (方程 1)}$
$h^2 y''(t_i)$ 的系数： $-b - 2c = \frac{1}{2} \implies b + 2c = -\frac{1}{2} \quad \text{--- (方程 2)}$
$h^3 y'''(t_i)$ 的系数： $\frac{1}{2}b + 2c = \frac{1}{6} \quad \text{--- (方程 3)}$

5. 求解方程组，见证系数的诞生

我们用 (方程 2) 减去 (方程 3)： $(b + 2c) - \left(\frac{1}{2}b + 2c\right) = -\frac{1}{2} - \frac{1}{6}$ $\frac{1}{2}b = -\frac{2}{3} \implies b = -\frac{4}{3} = -\frac{16}{12}$

将 $b = -\frac{4}{3}$ 代回 (方程 2)： $-\frac{4}{3} + 2c = -\frac{1}{2} \implies 2c = \frac{4}{3} - \frac{1}{2} = \frac{5}{6} \implies c = \frac{5}{12}$

将 $b = -\frac{16}{12}$ 和 $c = \frac{5}{12}$ 代入 (方程 1)： $a - \frac{16}{12} + \frac{5}{12} = 1 \implies a - \frac{11}{12} = 1 \implies a = \frac{23}{12}$

6. 最终合成

把求得的 $a = \frac{23}{12}, b = -\frac{16}{12}, c = \frac{5}{12}$ 代回 (式 1)，提取公因子 $\frac{h}{12}$：

$y{i+1} = yi + \frac{h}{12}\left[23 fi - 16 f{i-1} + 5 f_{i-2}\right]$

三步显式 Adams-Bashforth 公式，完美推导完成！

（同理，若将泰勒展开推进到 $O(h^4)$ 阶并引入四个历史点 $fi, f{i-1}, f{i-2}, f{i-3}$，用完全一样的方法即可推导得出四步显式公式的系数： $\frac{55}{24}, -\frac{59}{24}, \frac{37}{24}, -\frac{9}{24}$。

四步显式公式：

$$y{i+1} = yi + \frac{h}{24}\left[55fi - 59f{i-1} + 37f{i-2} - 9f{i-3}\right]$$

4.3 Adams-Moulton (隐式校正)

隐式：在公式中，包含了 $f(t{i+1},y{i+1})$ 这意味着：为了算出下一时刻的状态 $y{i+1}$ 我们必须在等式右边提前知道下一时刻的状态 $y{i+1}$ ！！！这个在非线性方程中是无法直接进行求解的！

三步隐式公式：

$$y{i+1} = yi + \frac{h}{24}\left[9f(t{i+1}, y{i+1}) + 19f(ti, yi) - 5f(t{i-1}, y{i-1}) + f(t{i-2}, y{i-2})\right]$$

代数推导

为了推导它的系数，我们假设：

$$ y(t{i+1}) \approx y(ti) + h \left[ \alpha f(t{i+1}, y(t{i+1})) + \beta fi + \gamma f{i-1} + \delta f_{i-2} \right] \quad \text{--- (式 6)} $$

我们同样把它们写成导数形式，并将所有项在当前点 $ti$ 处展开到 $h^4$ 阶（因为多引入了一个点 $t{i+1}$，精度会再提升一阶）：

左端点 $y(t{i+1})$ 在 $ti$ 处的展开（向前走 $h$）： $y(t{i+1}) = y(ti) + h y'(ti) + \frac{h^2}{2} y''(ti) + \frac{h^3}{6} y'''(ti) + \frac{h^4}{24} y^{(4)}(ti) + O(h^5) \quad \text{--- (式 7)}$
未来一阶导数 $y'(t{i+1})$ 在 $ti$ 处的展开（向前走 $h$）： $y'(t{i+1}) = y'(ti) + h y''(ti) + \frac{h^2}{2} y'''(ti) + \frac{h^3}{6} y^{(4)}(t_i) + O(h^4) \quad \text{--- (式 8)}$
当前一阶导数 $y'(t_i)$： $y'(ti) = y'(ti)$
历史一阶导数 $y'(t{i-1})$ 在 $ti$ 处的展开（向后退 $-h$）： $y'(t{i-1}) = y'(ti) - h y''(ti) + \frac{h^2}{2} y'''(ti) - \frac{h^3}{6} y^{(4)}(t_i) + O(h^4) \quad \text{--- (式 9)}$
历史一阶导数 $y'(t{i-2})$ 在 $ti$ 处的展开（向后退 $-2h$）： $y'(t{i-2}) = y'(ti) - 2h y''(ti) + 2h^2 y'''(ti) - \frac{4h^3}{3} y^{(4)}(t_i) + O(h^4) \quad \text{--- (式 10)}$

代入待定系数式，合并同类项

将 (式 8)、(式 9)、(式 10) 代入 (式 6) 的右侧括号中： $\begin{aligned} \text{右端项} = y(ti) + h \Big[ &\alpha \left( y'(ti) + h y''(ti) + \frac{h^2}{2} y'''(ti) + \frac{h^3}{6} y^{(4)}(ti) \right) \ + &\beta y'(ti) \ + &\gamma \left( y'(ti) - h y''(ti) + \frac{h^2}{2} y'''(ti) - \frac{h^3}{6} y^{(4)}(ti) \right) \ + &\delta \left( y'(ti) - 2h y''(ti) + 2h^2 y'''(ti) - \frac{4h^3}{3} y^{(4)}(ti) \right) \Big] \end{aligned}$

按各阶导数项归类合并： $\begin{aligned} \text{右端项} = y(ti) &+ h (\alpha + \beta + \gamma + \delta) y'(ti) \ &+ h^2 (\alpha - \gamma - 2\delta) y''(ti) \ &+ h^3 \left( \frac{1}{2}\alpha + \frac{1}{2}\gamma + 2\delta \right) y'''(ti) \ &+ h^4 \left( \frac{1}{6}\alpha - \frac{1}{6}\gamma - \frac{4}{3}\delta \right) y^{(4)}(t_i) + O(h^5) \quad \text{--- (式 11)} \end{aligned}$

对比精确展开式 (式 7)，建立方程组

对比 (式 11) 与 (式 7) 的对应系数：

$h y'(t_i)$ 对应项： $\alpha + \beta + \gamma + \delta = 1 \quad \text{--- (方程 I)}$
$h^2 y''(t_i)$ 对应项： $\alpha - \gamma - 2\delta = \frac{1}{2} \quad \text{--- (方程 II)}$
$h^3 y'''(t_i)$ 对应项： $\frac{1}{2}\alpha + \frac{1}{2}\gamma + 2\delta = \frac{1}{6} \implies \alpha + \gamma + 4\delta = \frac{1}{3} \quad \text{--- (方程 III)}$
$h^4 y^{(4)}(t_i)$ 对应项： $\frac{1}{6}\alpha - \frac{1}{6}\gamma - \frac{4}{3}\delta = \frac{1}{24} \implies \alpha - \gamma - 8\delta = \frac{1}{4} \quad \text{--- (方程 IV)}$

求解隐式方程组

用 (方程 II) 减去 (方程 IV)： $(\alpha - \gamma - 2\delta) - (\alpha - \gamma - 8\delta) = \frac{1}{2} - \frac{1}{4}$ $6\delta = \frac{1}{4} \implies \delta = \frac{1}{24}$

将 $\delta = \frac{1}{24}$ 代回 (方程 II)： $\alpha - \gamma - \frac{2}{24} = \frac{1}{2} \implies \alpha - \gamma = \frac{14}{24} \quad \text{--- (方程 A)}$

将 $\delta = \frac{1}{24}$ 代入 (方程 III)： $\alpha + \gamma + \frac{4}{24} = \frac{1}{3} \implies \alpha + \gamma = \frac{4}{24} \quad \text{--- (方程 B)}$

联立 (方程 A) 和 (方程 B) 相加： $2\alpha = \frac{18}{24} \implies \alpha = \frac{9}{24}$

联立 (方程 A) 和 (方程 B) 相减： $2\gamma = -\frac{10}{24} \implies \gamma = -\frac{5}{24}$

将已求得的 $\alpha, \gamma, \delta$ 代入 (方程 I) 求 $\beta$： $\frac{9}{24} + \beta - \frac{5}{24} + \frac{1}{24} = 1 \implies \beta + \frac{5}{24} = 1 \implies \beta = \frac{19}{24}$

我们得到了极其完美的系数： $\alpha = \frac{9}{24}, \quad \beta = \frac{19}{24}, \quad \gamma = -\frac{5}{24}, \quad \delta = \frac{1}{24}$

代回 (式 6) 中：

$y{i+1} = yi + \frac{h}{24}\left[9f(t{i+1}, y{i+1}) + 19f(ti, yi) - 5f(t{i-1}, y{i-1}) + f(t{i-2}, y{i-2})\right]$

三步隐式 Adams-Moulton 公式，完美推导完成！

4.4 PECE 模式（预测-求值-校正-求值）

流程：
1. Predict: 用 Adams-Bashforth (显式) 预测 y_{i+1}^(0)
2. Evaluate: 计算 f(t_{i+1}, y_{i+1}^(0))
3. Correct: 用 Adams-Moulton (隐式) 校正得到 y_{i+1}
4. Evaluate: 重新计算 f(t_{i+1}, y_{i+1})
→ 反复迭代 predictor-corrector 直至收敛

💡 用于 Time-Dependent DFT（含时密度泛函理论）等需要长期稳定积分的高精度计算。

极低的计算开销：RK4 走一步需要计算 4 次极其复杂的 $f(t,y)$。而在 PECE 多步法中，历史斜率都是直接从内存中读取的，走一步通常只需要进行 $1 \sim 2$ 次 $f(t,y)$ 求值（Evaluate 步骤），计算效率比单步法高出 2 到 4 倍。

极强的数值稳定性：隐式方法（Moulton 族）天然具有比显式方法更宽广的绝对稳定域。PECE 通过显式预测和隐式校正的交替，牢牢锁住了非线性长期演化中的能量守恒性，有效防止了长时间积分中的误差发散。

总结

数值分析微分方程中主要的就是两种方法：

1、高阶单步法 RK 纵向延伸不断地k去迭代只要可以一直算下去不断精确消去高阶项

缺点如下

著名的“Butcher障壁”（Butcher's Barrier）：数学家 Butcher 证明了，4 阶 RK 只需要 4步迭代（$k1 \dots k4$）；但如果要达到 5 阶精度，最少需要 6 步迭代；要达到 6 阶精度，需要 7 步或 8 步。阶数越高，性价比（精度提升 / 计算量增加）急剧下降。

公式推导极其恐怖：高阶 RK 的系数推导（即代数消去的过程）极其困难，后续往往需要借助计算机代数系统（如 Maple 或 Mathematica）来推导系数。

经典

RK4：性价比之王（4 步达成 4 阶）。

Dormand-Prince (DP54 / solve_ivp 中的 RK45)：通过 7 步迭代（算到 $k_7$），同时拼凑出一个 4 阶和一个 5 阶的公式，用来自动控制步长。

2、P-C多步法横向时空协作的 “历史借力”

隐式公式（如 Adams-Moulton）：它的精度极高、稳定性极强（能抗住非线性发散），但它需要解非线性方程（未来点 $y_{i+1}$ 在等式两边都有），非常难算（往往需要牛顿迭代，求导数雅可比矩阵）。

显式公式（如 Adams-Bashforth）：它不含未来点，非常好算，但精度和稳定性稍逊。

关键

显式和隐式一结合，显式负责快速给个粗糙的预估，隐式负责精细校正。

最绝的是计算速度：因为在 PECE 模式中，历史的 $f{i-1}, f{i-2}$ 早已在之前的步骤中算过并存在内存里了，这步计算它们不需要任何耗时的函数求值（$O(1)$ 读取）。

在长期演化（如你提到的 TDDFT 含时密度泛函、天体轨道计算、分子动力学）中，算一次 $f(t, y)$ 常常要解一次庞大的薛定谔方程或泊松方程。此时，PECE 相比于 RK4，能直接砍掉一半以上的计算时间，同时保持极高的精度！

5. 微分方程组与 Lorenz 混沌

5.1 向量形式

多个变量： $\mathbf{y} = (y1, y2, \ldots, y_m)$

方程：

$$\frac{d\mathbf{y}}{dt} = \mathbf{f}(t, \mathbf{y})$$

Extended RK4（m 个变量的 RK4）：

for j = 1 to m:   # 每个变量
    k1_j = f_j(t, y_1, y_2, ..., y_m)
    
for j = 1 to m:
    k2_j = f_j(t + h/2, y_1 + h/2·k1_1, ..., y_m + h/2·k1_m)

# 同理计算 k3, k4，然后：
y_j(new) = y_j + h/6 (k1_j + 2k2_j + 2k3_j + k4_j)

在实际写代码时，最容易犯的一个毁灭性错误，就是“一边计算新值，一边覆盖旧值”。

❌ 错误示范：


# 假设我们在算 k2_x, k2_y...

for j in range(m):

    # 危险！当 j=1 (算y) 时，y_mid 需要 x_mid 的预测值。

    # 如果你在这里直接用公式，可能不小心把当前正在被修改的数组当成了输入

    k2[j] = fj [¹](t + h/2, y[0] + h/2 * k1[0], y[1] + h/2 * k1[1], ...)

正确示范：利用临时的“同步状态向量”

在计算 $k2, k3, k4$ 之前，先用上一个阶段完整的斜率向量，生成一个当前阶段专用的、临时的“探路状态”向量 y_temp，然后所有变量统一在这个 `ytemp` 下进行函数求值：

Python
# 1. 算完所有变量的 k1

for j in range(m):

    k1[j] = fj [²](t, y)

# 2. 同步生成中点状态 1

y_temp = y + (h / 2) * k1  # 这是向量加法，保证所有变量同步向前推进半步

# 3. 在这个同步的中点状态上，算完所有变量的 k2

for j in range(m):

    k2[j] = fj [³](t + h / 2, y_temp)

# 4. 同步生成中点状态 2

y_temp = y + (h / 2) * k2

# 5. 算完所有变量的 k3

for j in range(m):

    k3[j] = fj [³](t + h / 2, y_temp)

# 6. 同步生成终点状态

y_temp = y + h * k3

# 7. 算完所有变量的 k4

for j in range(m):

    k4[j] = fj [⁴](t + h, y_temp)


# 8. 最终大合流

y = y + (h / 6) * (k1 + 2 * k2 + 2 * k3 + k4)

💡 注意 $k2$ 依赖所有变量的 $k1$——必须算完所有 $k1$ 再算 $k2$。

处理多元微分方程组的黄金法则是：“同生共死，步调一致”。通过引入一个像 y_temp 这样的中间过渡容器，我们在时空上强行将所有互相纠缠的变量锁定在了同一个时刻（起点、中点、终点）。泰勒展开的代数消去魔术也因此得以在多元空间中完美复现，护送整个混沌系统以高精度、高稳定性安全前行。

5.2 Lorenz 方程 — 混沌的经典

$$\begin{aligned} \frac{dx}{dt} &= \sigma(y - x) \ \frac{dy}{dt} &= x(r - z) - y \ \frac{dz}{dt} &= xy - bz \end{aligned}$$

参数： $\sigma = 10,\ b = 8/3$，当 $r = 28$ 时出现混沌。

import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D
import time

# =============================================
# 1. 定义洛伦兹系统（混沌系统）
# =============================================
def lorenz(t, state, sigma=10, r=28, b=8/3):
    """
    洛伦兹方程 (大气对流简化模型)
    dx/dt = sigma*(y - x)
    dy/dt = x*(r - z) - y
    dz/dt = x*y - b*z
    """
    x, y, z = state
    dx = sigma * (y - x)
    dy = x * (r - z) - y
    dz = x * y - b * z
    return np.array([dx, dy, dz])

# =============================================
# 2. 核心：向量版 RK4 步进函数（通用，支持任意维度的系统）
# =============================================
def rk4_step_vector(f, t, y, h):
    """
    四阶龙格-库塔法 (向量形式)
    参数:
        f: 微分方程函数，返回 np.array
        t: 当前时间 (标量)
        y: 当前状态向量 (np.array)
        h: 步长
    返回:
        下一个时间步的状态向量 (np.array)
    """
    # 四个斜率计算（全为向量运算）
    k1 = f(t, y)
    k2 = f(t + h/2, y + (h/2) * k1)
    k3 = f(t + h/2, y + (h/2) * k2)
    k4 = f(t + h, y + h * k3)
    
    # 加权平均更新状态
    y_next = y + (h/6) * (k1 + 2*k2 + 2*k3 + k4)
    return y_next

# =============================================
# 3. 主程序：求解并保存轨迹
# =============================================
if __name__ == "__main__":
    # 参数设置
    state = np.array([1.0, 1.0, 1.0])  # 初始条件 (x0, y0, z0)
    h = 0.01                           # 步长 (越小精度越高，但计算量越大)
    N = 5000                           # 迭代步数 (总积分时间 T = h*N = 50秒)
    
    # 记录轨迹（为了节省内存，可以预先分配数组，但用列表 append 更直观）
    trajectory = [state.copy()]
    t_current = 0.0
    
    print(f"开始求解洛伦兹系统，步长 h={h}，总步数 N={N}...")
    start_time = time.time()
    
    # 主循环
    for i in range(N):
        state = rk4_step_vector(lorenz, t_current, state, h)
        t_current += h
        trajectory.append(state.copy())  # 注意要 copy，防止后续修改影响历史数据
        
        # 可选：每 500 步打印一次进度
        if (i + 1) % 500 == 0:
            print(f"  已完成 {i+1}/{N} 步，当前时间 t = {t_current:.2f}")
    
    end_time = time.time()
    print(f"计算完成！耗时 {end_time - start_time:.4f} 秒。")
    
    # 将轨迹列表转换为 numpy 数组，方便切片绘图
    traj = np.array(trajectory)
    print(f"轨迹数组形状: {traj.shape}")  # 应为 (N+1, 3)

    # =============================================
    # 4. 可视化：绘制三维相图和二维投影
    # =============================================
    fig = plt.figure(figsize=(15, 5))
    
    # 子图 1: 三维相空间 (经典蝴蝶效应)
    ax1 = fig.add_subplot(131, projection='3d')
    ax1.plot(traj[:, 0], traj[:, 1], traj[:, 2], linewidth=0.8, color='blue')
    ax1.set_xlabel('X')
    ax1.set_ylabel('Y')
    ax1.set_zlabel('Z')
    ax1.set_title('洛伦兹吸引子 (3D)')
    
    # 子图 2: X-Z 投影 (最常见的蝴蝶图)
    ax2 = fig.add_subplot(132)
    ax2.plot(traj[:, 0], traj[:, 2], linewidth=0.6, color='red')
    ax2.set_xlabel('X')
    ax2.set_ylabel('Z')
    ax2.set_title('X-Z 投影')
    ax2.grid(True, linestyle='--', alpha=0.5)
    
    # 子图 3: X-Y 投影
    ax3 = fig.add_subplot(133)
    ax3.plot(traj[:, 0], traj[:, 1], linewidth=0.6, color='green')
    ax3.set_xlabel('X')
    ax3.set_ylabel('Y')
    ax3.set_title('X-Y 投影')
    ax3.grid(True, linestyle='--', alpha=0.5)
    
    plt.tight_layout()
    plt.show()
    
    # =============================================
    # 5. 额外：打印最终状态和简单的统计学检查
    # =============================================
    final_state = traj[-1]
    print(f"\n最终状态 (t={t_current:.2f}): X={final_state[0]:.6f}, Y={final_state[1]:.6f}, Z={final_state[2]:.6f}")
    
    # 检查是否有数值溢出 (洛伦兹系统在参数 28 时是混沌有界的，一般不会溢出)
    if np.any(np.isnan(traj)):
        print("⚠️ 警告：检测到 NaN，请尝试减小步长 h 或检查初始条件！")
    else:
        print("✅ 数值稳定，未出现溢出。")

💡 混沌标志：初始条件的微小差异（如 $x_0 = 1.000$ vs $1.001$）在 $t \approx 15$ 后演化出完全不同的轨迹——蝴蝶效应！

6. 高阶微分方程的降阶处理

6.1 核心技巧：高阶 → 一阶方程组

二阶 ODE： $y'' + p(t)y' + q(t)y = r(t)$

定义新变量降阶：

$$\begin{aligned} u1 &= y \ u2 &= y' \end{aligned} \quad\Rightarrow\quad \begin{cases} u1' = u2 \ u2' = r(t) - p(t)u2 - q(t)u_1 \end{cases}$$

这就是 $m$ 个一阶方程 → 用 Extended RK4 直接求解。

6.2 📐 完整例子：阻尼谐振子

方程： $y'' + 2\gamma y' + \omega0^2 y = 0$，设 $\gamma=0.3,\ \omega0=2$，$y(0)=1,\ y'(0)=0$

降阶为：

$$\begin{cases} u1' = u2 \ u2' = -0.6u2 - 4u_1 \end{cases}$$

def damped_oscillator(t, u):
    u1, u2 = u
    gamma, omega0 = 0.3, 2.0
    du1 = u2
    du2 = -2*gamma*u2 - omega0**2 * u1
    return np.array([du1, du2])

u0 = np.array([1.0, 0.0])  # [y(0), y'(0)]
h = 0.05
t_vals = np.arange(0, 10.0, h)
u_traj = [u0]
for i in range(len(t_vals)-1):
    u_traj.append(rk4_step_vector(damped_oscillator, t_vals[i], u_traj[-1], h))

# 结果：振幅随时间指数衰减，频率略小于 ω₀

💡 通用策略：任意 $n$ 阶 ODE 都可以转化为 $n$ 个一阶方程。这个技巧在计算物理中无处不在。

7. 刚性微分方程（Stiff ODE）

7.1 什么是刚性？

系统中同时存在"快变量"和"慢变量"时，显式方法必须用极小的步长来追踪最快分量，否则发散。

快变量：变化速度极快在瞬间衰减到0

慢变量：真正关心的主导了系统长期演变的变量

刚性的本质：微分方程组的 Jacobi 矩阵特征值 $\lambdai$ 中，$\max|\lambdai| / \min|\lambda_i|$ 很大。

7.2 稳定性对比

致命的痛点：为什么显式方法（如欧拉、RK4）会在这里死掉？

如果你想计算这个系统在 $t = 5$ 秒时的状态。此时弹簧 A 早就静止了，照理说我们应该可以跨大步子（比如步长 $h = 0.1$ 秒）来快速计算弹簧 B 的悠闲运动。

然而，如果你使用显式欧拉法（或者 RK4）：只要你的步长 $h$ 稍稍大于 0.0001 秒（比如你用了 $h = 0.01$），那个早就已经静止的“快变量”就会在数值计算中像疯了一样成倍放大、瞬间发散到无穷大！

显式方法被逼着必须使用 $h = 0.00001$ 秒的超级小步长，去算那毫无意义、早就静止了的快变量，从而在极小的步长上把自己硬生生“耗死”。

绝对稳定性与特征值：数值世界里的“紧箍咒”

为了看清为什么显式方法会发散，而隐式方法不会，我们必须做一次严密的代数推导。

1. 显式欧拉的自我毁灭推导

假设我们面对最简单的一个一阶线性微分方程（代表我们系统里的“快变量”衰减过程）： $\frac{dy}{dt} = \lambda y, \quad (\text{其中 } \lambda < 0 \text{，是一个极大的负数，比如 } \lambda = -1000)$ 它的精确解析解是 $y(t) = C e^{\lambda t} = C e^{-1000 t}$。随着时间推移，它会以极快的速度衰减到 $0$。

现在，我们用显式欧拉法来计算它： $y{i+1} = yi + h f(ti, yi) = yi + h (\lambda yi)$ 提取公因子 $yi$： $y{i+1} = (1 + h\lambda) y_i \quad \text{--- (式 1)}$

致命的死亡条件：

要想让计算出来的 $y$ 像真实物理世界一样不断衰减（不发散），我们必须保证每前进一步，新值都比旧值小。也就是： $|1 + h\lambda| < 1$ 由于 $\lambda = -1000$，我们解这个绝对值不等式： $-1 < 1 - 1000h < 1 \implies 0 < 1000h < 2 \implies h < 0.002$

瞧见了吗？不管你有多想跨大步子，你的步长 $h$ 都被死死地限制在了 $0.002$ 秒以内！ 一旦你的 $h$ 哪怕大了一丁点（比如 $h = 0.003$），系数就会变成 $|1 + h\lambda| = |1 - 3| = 2$。下一步的值就会变成上一步的 2 倍，再下一步是 4 倍、8 倍……瞬间发散崩溃！

这就是表里的： $\text{Explicit: } |1 + h\lambda| < 1$。

隐式梯形法的“降维打击”

现在，我们把相同的方程，用隐式梯形法来算。隐式梯形法的公式为： $y{i+1} = yi + \frac{h}{2} [f(ti, yi) + f(t{i+1}, y{i+1})]$

代入 $f(t,y) = \lambda y$： $y{i+1} = yi + \frac{h}{2} [\lambda yi + \lambda y{i+1}]$

我们将含有未来项 $y{i+1}$ 的项移到等式的左边： $y{i+1} - \frac{h\lambda}{2} y{i+1} = yi + \frac{h\lambda}{2} yi$ 提取并整理： $\left(1 - \frac{h\lambda}{2}\right) y{i+1} = \left(1 + \frac{h\lambda}{2}\right) y_i$

$y{i+1} = \left( \frac{1 + \frac{h\lambda}{2}}{1 - \frac{h\lambda}{2}} \right) yi \quad \text{--- (式 2)}$

🎉 奇迹发生了：

我们要让数值解不发散，同样需要放大系数的绝对值小于 1： $\left| \frac{1 + \frac{h\lambda}{2}}{1 - \frac{h\lambda}{2}} \right| < 1$

由于物理衰减中 $\lambda < 0$（即负实部），所以：

分母 $1 - \frac{h\lambda}{2}$ 一定是一个大于 1 的正数。
分子 $1 + \frac{h\lambda}{2}$ 的绝对值，在 $\lambda < 0$ 时，永远小于分母！

这意味着：无论你的步长 $h$ 取得有多大（哪怕 $h = 10000$ 甚至无穷大），这个放大系数的绝对值都永远小于 1！ 隐式梯形法是无条件稳定的。你可以放心大胆地用巨无霸步长跨过去，那个快变量只会温顺地、迅速地衰减到 0，绝对不会发散。

方法	类型	稳定性	对 Stiff 方程
Euler (显式)	Explicit	$	1+h\lambda	< 1$	❌ 步长受最快分量限制
隐式梯形法	Implicit	无条件稳定（对负实部特征值）	✅
Gear 方法	Implicit	刚性好	✅ 推荐

7.3 隐式梯形法 (Implicit Trapezoidal)

$$y{i+1} = yi + \frac{h}{2}\left[f(ti, yi) + f(t{i+1}, y{i+1})\right]$$

隐式方法虽然好，但是它有一个致命难点：

未来项 $y{i+1}$ 藏在复杂的非线性函数 $f(t{i+1}, y_{i+1})$ 里面，我们该怎么把它解出来？

以隐式梯形法为例，我们定义一个残差函数 $F(y{i+1})$，我们的目标是找到一个 $y{i+1}$ 使得这个函数等于 0： $F(y{i+1}) = y{i+1} - yi - \frac{h}{2} \left[ f(ti, yi) + f(t{i+1}, y_{i+1}) \right] = 0$

因为 $f$ 是非线性的，我们必须在每一步里，都用牛顿迭代法（Newton-Raphson）去把它活生生“猜”出来。

牛顿迭代手算推导：

牛顿迭代法是求解非线性方程 $F(x) = 0$ 最犀利的武器。它的几何直觉极其美妙：

第一步（盲猜）：我们先闭着眼睛对 $y{i+1}$ 猜一个初始值，记为 $y^{(0)}$。
*注：怎么猜？最常用的办法是用最简单的显式欧拉法跨一步： $y^{(0)} = y
i + h f(ti, yi)$，这个粗糙的值作为我们的起点。*
第二步（作切线）：我们画出函数 $F(x)$ 的曲线，找到曲线在 $x = y^{(0)}$ 处的点 $(y^{(0)}, F(y^{(0)}))$。我们在这个点上作一条切线。
第三步（切线求交点）：这条切线的斜率就是导数 $F'(y^{(0)})$。切线与 $x$ 轴（即 $F(x) = 0$ 处）相交的点，就会比我们盲猜的 $y^{(0)}$ 更接近真正的根。我们将这个交点记为下一次的猜测值 $y^{(1)}$。

我们用一次函数（切线方程）来写出这个过程：在点 $x = y^{(k)}$ 处的切线方程为： $y - F(y^{(k)}) = F'(y^{(k)}) (x - y^{(k)})$ 我们要找它与 $x$ 轴的交点，即令 $y = 0$，求解此时的 $x$（即下一次逼近值 $y^{(k+1)}$：

$（0 - F(y^{(k)}) = F'(y^{(k)}) (y^{(k+1)} - y^{(k)})$

移项整理： $y^{(k+1)} - y^{(k)} = -\frac{F(y^{(k)})}{F'(y^{(k)})}$

$y^{(k+1)} = y^{(k)} - \frac{F(y^{(k)})}{F'(y^{(k)})} \quad \text{--- (牛顿迭代核心公式)}$

我们要对 $F(y{i+1})$ 关于 $y{i+1}$ 求导： $F'(y{i+1}) = \frac{\partial}{\partial y{i+1}} \left( y{i+1} - yi - \frac{h}{2} [f(ti, yi) + f(t{i+1}, y{i+1})] \right) = 1 - \frac{h}{2} \frac{\partial f}{\partial y}$ 这里的 $\frac{\partial f}{\partial y}$ 就是一维时的导数，在多元微分方程组里，它就是赫赫有名的雅可比矩阵（Jacobian Matrix） $J$。

因此，牛顿迭代的每一次修正公式为： $y^{(k+1)} = y^{(k)} - \frac{y^{(k)} - yi - \frac{h}{2} [f(ti, yi) + f(t{i+1}, y^{(k)})]}{1 - \frac{h}{2} J}$

$y_{i+1}$ 出现在方程右侧，需用 Newton 迭代求解：

# 伪代码：隐式梯形法一步
def trapezoidal_step(f, t, y, h):
    # 先用 Euler 预测一个初猜
    y_guess = y + h * f(t, y)
    
    # Newton 迭代求解
    for _ in range(max_iter):
        F = y_guess - y - h/2 * (f(t, y) + f(t+h, y_guess))
        if abs(F) < tol: break
        # J = 1 - h/2 * df/dy (对单变量)
        J = 1 - h/2 * jacobian(f, t+h, y_guess)
        y_guess = y_guess - F/J
    
    return y_guess

7.4 Gear 方法 (2阶 / 3阶)

Backward Differentiation Formula

普通多步法（Adams 族）：通过对斜率 $f$ 进行插值，去近似积分。

Gear 方法（BDF 族）：通过对状态 $y$（即当前点和历史点）进行高阶多项式插值，强行对这个多项式求导，以此来逼近未来的斜率。

2 阶 Gear：

$$y{i+1} = \frac{4}{3}yi - \frac{1}{3}y{i-1} + \frac{2h}{3}f(t{i+1}, y_{i+1})$$

它的代数原理极其简单：假设我们在 $t{i+1}, ti, t{i-1}$ 这三个点上，穿过状态值 $y{i+1}, yi, y{i-1}$ 作一条二次抛物线 $P(t)$。通过拉格朗日插值法，我们可以写出这条代表位移的抛物线 $P(t)$ 的表达式。然后，我们强制要求抛物线在未来时刻 $t{i+1}$ 处的导数 $P'(t{i+1})$，必须完美等于物理方程给出的斜率 $f(t{i+1}, y{i+1})$！即： $P'(t{i+1}) = f(t{i+1}, y{i+1})$ 对插值多项式求导并整理后，这一步就会硬生生、分毫不差地凑出： $y{i+1} = \frac{4}{3}yi - \frac{1}{3}y{i-1} + \frac{2h}{3} f(t{i+1}, y{i+1})$

同理，若用 4 个点作三次抛物线，求导后就能推导出 3 阶 Gear：

$y{i+1} = \frac{18}{11}yi - \frac{9}{11}y{i-1} + \frac{2}{11}y{i-2} + \frac{6h}{11}f(t{i+1}, y{i+1})$

3 阶 Gear：

$$y{i+1} = \frac{18}{11}yi - \frac{9}{11}y{i-1} + \frac{2}{11}y{i-2} + \frac{6h}{11}f(t{i+1}, y{i+1})$$

都是隐式方法，每步需 Newton 迭代求解 $y_{i+1}$。

💡 稳定性准则（微分方程组）：

$$\text{Explicit: } |1 + h\lambdai| < 1 \quad \text{vs} \quad \text{Implicit: 无条件稳定（$Re(\lambdai)<0$ 时）}$$

为什么 Gear 方法（BDF）最适合 Stiff 方程？（深入绝对稳定性）

为了彻底看清为什么这套方法能成为刚性（Stiff）微分方程的“降维打击”王牌，我们需要从绝对稳定域的数学本源去剖析它。

1. 测试方程与线性化

为了分析任何一个数值方法的稳定性，数学家都会使用标准线性测试方程：

$$ \frac{dy}{dt} = \lambda y \quad (\text{其中 } \lambda \in \mathbb{C}, \text{ 复数，且其实部 } \text{Re}(\lambda) < 0) $$ 这个方程代表了物理系统中的衰减分量（快变量）。我们定义无量纲参数 $z = h\lambda$。在真实物理世界里，因为实部为负，所以随着 $t \to \infty$，解析解 $y(t) \to 0$。我们要求：数值方法计算出来的序列 $y_n$ 在步数 $n \to \infty$ 时，也必须衰减到 $0$。

2. BDF2 的特征方程与绝对稳定条件

我们将测试方程 $f(t, y) = \lambda y$ 代入刚刚推导出的 BDF2 公式中：

$$ y{i+1} = \frac{4}{3} yi - \frac{1}{3} y{i-1} + \frac{2}{3} z y{i+1} \quad (\text{其中 } z = h\lambda) $$ 我们将所有项移到左侧并整理：

$$ \left( 1 - \frac{2}{3} z \right) y{i+1} - \frac{4}{3} yi + \frac{1}{3} y_{i-1} = 0 $$ 为了去分母，两边乘以 $3$：

$$ (3 - 2z) y{i+1} - 4 yi + y_{i-1} = 0

$$ 这是一个关于序列 $y$ 的二阶常系数线性差分方程。其通解的形式为 $yn = C r^n$，其中 $r$ 是其特征方程的根。我们将 $yn = r^n$ 代入上式，得出其特征方程：

$$ (3 - 2z) r^2 - 4 r + 1 = 0 $$ 根据线性差分方程的稳定性理论，要让数值解 $yn \to 0$ 稳定不发散，**特征方程的两个根 $r1, r_2$ 的模长都必须严格小于 1**（即它们必须落在复平面的单位圆内）：

|r_1| < 1 \quad \text{且} \quad |r_2| < 1

$$ 我们来解出特征根 $r$ 看看它与 $z = h\lambda$ 的关系：

$$ r = \frac{4 \pm \sqrt{16 - 4(3 - 2z)}}{2(3 - 2z)} = \frac{4 \pm \sqrt{4 + 8z}}{2(3 - 2z)} = \frac{2 \pm \sqrt{1 + 2z}}{3 - 2z} $$

🌟 为什么它极其稳定？

假设我们的方程存在极度刚性的快分量，这意味着 $\lambda$ 是一个极大的负实数（例如 $\lambda = -10000$）。如果我们用大步长 $h = 1$ 去跨，那么 $z = h\lambda = -10000$ 就会变成一个极其恐怖的负数。我们来看一下当 $z \to -\infty$ 时，特征根 $r$ 会发生什么：

$$ \lim{z \to -\infty} r = \lim{z \to -\infty} \frac{2 \pm \sqrt{1 + 2z}}{3 - 2z} $$ 由于分母上有 $z$ 的一次项，而分子上只有根号下 $z$（即半次方项）。根据极限法则，分母的增长速度远快于分子：

$$ \lim_{z \to -\infty} r = 0 $$ 这意味着什么？

当面对极强刚性（ $z \to -\infty$）时，BDF2 的特征根 $r$ 直接趋近于 0！特征根趋近于 0，意味着每走一步，误差不仅不会放大，反而会被以近乎 100% 的效率瞬间抹除、强行掐灭！这就是为什么说它是“黑洞一样的结构，能够吞噬快分量误差”的数学解释。

3. 绝对稳定域的对比（显式 vs 隐式）

为了让你更具象地感受，我们画出复平面上的“绝对稳定域”（也就是能让特征根模长小于 1 的所有 $z$ 的集合）：

显式欧拉法：稳定域是复平面上以 $(-1, 0)$ 为圆心、半径为 $1$ 的小圆圈。 $z = h\lambda$ 必须在这个小圆圈内。当 $\lambda = -1000$ 时， $h$ 必须小于 $0.002$ 才能把 $z$ 关进这个圆圈。
隐式梯形法：稳定域是整个复平面的左半平面（A-Stable）。只要 $\text{Re}(\lambda) < 0$，无论 $h$ 有多大， $z$ 都永远在稳定域里。但是当 $z \to -\infty$ 时，其放大系数趋于 $-1$（边界上），误差虽然不发散，但会产生持久的数值振荡。
Gear 方法（BDF2）：不仅是 A-stable 的（整个左半平面几乎全包），而且它拥有极强的 L-稳定性（L-Stable）。也就是说，当 $z \to -\infty$ 时，它的放大系数直接收敛到 0。这相当于对快分量的数值误差实施了“降维打击”——只要你刚性发作得越厉害，它掐死误差的速度就越快。

核心结论：Implicit 的稳定性远优于 Explicit。对 Stiff 问题，宁可用隐式方法多算几步 Newton 迭代，也别用显式方法在极小步长上耗死自己。

为什么 Gear 方法最适合 Stiff 方程？

因为它的左边是纯粹的状态项 $y$，右边只有一项未来的斜率项 $f(t{i+1}, y{i+1})$。在代数合并和牛顿迭代时，这种结构在复平面上的绝对稳定区域极其庞大，能够像黑洞一样，把所有具有极大负实部特征值（也就是死得最快的那些快分量）的误差全部吞噬、彻底压制。

8. 边值问题BVP与打靶法（Shooting）

8.1 问题描述

边值问题：已知 $y(a) = \alpha,\ y(b) = \beta$，求解 $y(x)$。

与初值问题的根本不同——两端都有条件。

核心打靶法就是：

把未知的初始斜率

$$ t = y'(a) $$ 当成一个可调参数，不断试，直到积分到 $b$ 时满足

$$ y(b)=\beta $$ 打靶法核心思路：把边值问题转化为初值问题！

8.2 线性打靶法

优势之处：线性方程满足叠加原理

对线性方程：

$$ y'' + p(x)y' + q(x)y = r(x), \quad y(a)=\alpha,\ y(b)=\beta $$

步骤：

解两个辅助初值问题：

$$\begin{aligned} \text{问题1: } & y1'' + py1' + qy1 = r, \quad y1(a)=\alpha,\ y1'(a)=0 \ \text{问题2: } & y2'' + py2' + qy2 = 0, \quad y2(a)=0,\ y2'(a)=1 \end{aligned}$$

用 RK4 分别求 $y1(b),\ y2(b)$
混合两个解： $y(x) = y1(x) + t \cdot y2(x)$

其中系数 $t$ 由边界条件确定：

$$t = \frac{\beta - y1(b)}{y2(b)}$$

两个解都满足方程（因为是线性叠加），调整混合比例 $t$ 来同时满足两端边界条件。

线性打靶法本质

你可以理解为：

$$ y_1 $$ 是“先打一枪，斜率取 0”的轨迹。

$$ y_2 $$ 是“单位斜率造成的响应”。

然后真正需要的斜率修正量就是：

$$ t=\frac{\text{终点缺口}}{\text{单位斜率带来的终点变化}} $$ 即：

$$ t = \frac{\beta-y1(b)}{y2(b)} $$

注意：什么时候会失败？

如果

$$ y_2(b)=0 $$ 那么公式分母为零。

这说明初始斜率的变化对终点 $y(b)$ 没有影响，或者对应的齐次边值问题存在非零解。

这通常意味着：

问题无解；
或者解不唯一；
或者参数正好落在某个本征值上。

例如 Sturm-Liouville 本征值问题中，齐次解可以同时满足两端边界，这时 Green 函数分母 Wronskian 也会出问题。

8.3 非线性打靶法 + 割线法求 $t$

对于非线性问题：

$$ y''=f(x,y,y') $$ 边界条件：

$$ y(a)=\alpha,\qquad y(b)=\beta $$ 我们仍然设：

$$ t=y'(a) $$ 每给一个 $t$，从 $a$ 积分到 $b$，得到：

$$ y(b;t) $$ 定义残差函数：

$$ F(t)=y(b;t)-\beta $$ 目标：

$$ F(t)=0 $$

割线法推导

假设已经有两个试探斜率：

$$ t{k-1},\qquad tk $$ 对应残差：

$$ F(t{k-1}),\qquad F(tk) $$ 我们用一条直线近似 $F(t)$。

割线斜率是：

$$ \frac{F(tk)-F(t{k-1})}{tk-t{k-1}} $$ 直线方程为：

$$ F(t)\approx F(tk) + \frac{F(tk)-F(t{k-1})}{tk-t{k-1}}(t-tk) $$ 我们希望下一次 $t_{k+1}$ 使得这个线性近似为 0：

$$ 0= F(tk) + \frac{F(tk)-F(t{k-1})}{tk-t{k-1}}(t{k+1}-t_k) $$ 移项：

$$ \frac{F(tk)-F(t{k-1})}{tk-t{k-1}}(t{k+1}-tk) = -F(t_k) $$ 所以

$$ t{k+1}-tk = -F(tk) \frac{tk-t{k-1}}{F(tk)-F(t_{k-1})} $$ 得到：

$$ t{k+1} = tk - F(tk) \frac{tk-t{k-1}}{F(tk)-F(t_{k-1})} $$ 由于

$$ F(t)=y(b;t)-\beta $$ 所以

$$ t{k+1} = tk - \bigl(y(b;tk)-\beta\bigr) \frac{tk-t{k-1}} {y(b;tk)-y(b;t_{k-1})} $$ 这就是你写的公式。

非线性打靶法算法

选两个初始猜测：

$$ t0,\qquad t1 $$

用 RK4 积分：

$$ y(b;t0),\qquad y(b;t1) $$

计算残差：

$$ F(t0)=y(b;t0)-\beta $$

用割线法更新：

$$ t2= t1 - F(t1) \frac{t1-t0}{F(t1)-F(t_0)} $$

重复直到：

|F(t_k)|=|y(b;t_k)-\beta|<\varepsilon

💡 为什么叫"打靶"：你站在 a 点，调整出射角 $t = y'(a)$，"射击"目标是 b 点的边界值。射偏了就调整角度再来一枪，直到命中靶心。

8.4 割线法与牛顿法的选择

如果能算出：

$$ F'(t)=\frac{\partial y(b;t)}{\partial t} $$ 那么可以用牛顿法：

$$ t{k+1} = tk-\frac{F(tk)}{F'(tk)} $$

方法	每步计算	收敛速度	适用
割线法 (Secant)	1 次积分	超线性 (~1.618 阶)	微分难求时
牛顿法	1 次积分 + 微分	二次收敛	微分好求时

对打靶法，$dy(b,t)/dt$ 往往不好求，割线法更实用。

9. Numerov 方法

9.1 专门为二阶 ODE 设计

Numerov 方法针对以下形式的方程（无 $y'$ 项）： $$y'' + k(x)y = F(x)$$

普通二阶方程： $$ y''+p(x)y'+q(x)y=r(x) $$ 包含 $y'$，Numerov 不能直接套。

但有时可以通过变量替换消去一阶导。

令：

$$ y(x)=u(x)e^{-\frac12\int p(x),dx} $$ 设

$$ S(x)=\frac12\int p(x),dx $$ 所以：

$$ y=e^{-S}u $$ 求导：

$$ y'=e^{-S}(u'-S'u) $$ 再求导：

$$ y'' = e^{-S} \left[ u''-2S'u'+(S'^2-S'')u \right] $$ 代入原方程：

$$ y''+p y'+q y=r $$ 得到：

$$ e^{-S} \left[ u''-2S'u'+(S'^2-S'')u \right] + p e^{-S}(u'-S'u) + q e^{-S}u=r $$ 两边乘以 $e^S$：

$$ u''-2S'u'+(S'^2-S'')u + p u'-pS'u+q u = e^S r $$ 因为

$$ S'=\frac p2 $$ 所以一阶导项系数：

$$ -2S'+p=-p+p=0 $$ 一阶导消失。

剩下 $u$ 的系数：

$$ S'^2-S''-pS'+q $$ 代入：

$$ S'^2=\frac{p^2}{4} $$ 所以：

$$ S'^2-S''-pS'+q = \frac{p^2}{4}-\frac{p'}{2}-\frac{p^2}{2}+q $$ 因此变成：

$$ u'' + \left( q-\frac{p'}{2}-\frac{p^2}{4} \right)u = e^S r $$ 这就变成了 Numerov 形式：

$$ u''+K(x)u=\tilde F(x) $$ 其中：

$$ K(x)=q-\frac{p'}{2}-\frac{p^2}{4} $$

9.2 递推公式

我们从 Taylor 展开开始。

在网格：

$$ xi=x0+ih $$ 记：

$$ yi=y(xi),\qquad ki=k(xi),\qquad Fi=F(xi) $$ 方程：

$$ y''+ky=F $$ 也就是：

$$ y''=F-ky $$

第一步：中心差分展开

Taylor 展开：

$$ y{i+1} = yi+h yi' +\frac{h^2}{2}yi'' +\frac{h^3}{6}yi''' +\frac{h^4}{24}yi^{(4)} +\frac{h^5}{120}yi^{(5)} +\frac{h^6}{720}yi^{(6)} +\cdots $$ 相加：

$$ y{i+1}+y{i-1} = 2yi +h^2 yi'' +\frac{h^4}{12}yi^{(4)} +\frac{h^6}{360}yi^{(6)} +\cdots $$ 所以：

$$ y{i+1}-2yi+y{i-1} = h^2yi'' +\frac{h^4}{12}y_i^{(4)} +O(h^6) $$

第二步：用差分近似 $y^{(4)}$

因为：

$$ y^{(4)}=(y'')'' $$ 所以可以用二阶中心差分近似：

$$ yi^{(4)} \approx \frac{y{i+1}''-2yi''+y{i-1}''}{h^2} $$ 代入：

$$ y{i+1}-2yi+y{i-1} = h^2 yi'' + \frac{h^4}{12} \frac{y{i+1}''-2yi''+y_{i-1}''}{h^2} +O(h^6) $$ 整理：

$$ y{i+1}-2yi+y{i-1} = h^2 \left[ yi'' + \frac{1}{12} \left( y{i+1}''-2yi''+y_{i-1}'' \right) \right] +O(h^6) $$ 把括号内合并：

$$ y_i'' + \frac{1}{12}

(y{i+1}''-2yi''+y_{i-1}'') $$ 所以：

$$ y{i+1}-2yi+y{i-1} = \frac{h^2}{12} \left( y{i+1}''+10yi''+y{i-1}'' \right) +O(h^6) $$

第三步：代入微分方程

由：

$$ y''=F-ky $$ 所以：

$$ y{i+1}''=F{i+1}-k{i+1}y{i+1} $$ 代入：

$$ y{i+1}-2yi+y{i-1} = \frac{h^2}{12} \left[ F{i+1}+10Fi+F{i-1} - \left( k{i+1}y{i+1} +10ki yi +k{i-1}y{i-1} \right) \right] $$ 把所有含 $y_{i+1}$ 的项放左边：

$$ y{i+1} + \frac{h^2}{12}k{i+1}y{i+1} = 2yi-y{i-1} + \frac{h^2}{12} (F{i+1}+10Fi+F{i-1}) - \frac{h^2}{12} (10ki yi+k{i-1}y{i-1}) $$ 左边：

$$ \left( 1+\frac{h^2}{12}k_{i+1}

\right)y{i+1} $$ 右边整理 $yi$ 项：

$$ 2yi-\frac{10h^2}{12}ki yi = 2\left(1-\frac{5h^2}{12}ki\right)yi $$ 整理 $y{i-1}$ 项：

$$ -y{i-1}-\frac{h^2}{12}k{i-1}y{i-1} = -\left( 1+\frac{h^2}{12}k{i-1} \right)y_{i-1} $$ 因此：

$$ \left( 1+\frac{h^2}{12}k{i+1} \right)y{i+1} = 2\left(1-\frac{5h^2}{12}ki\right)yi - \left(1+\frac{h^2}{12}k{i-1}\right)y{i-1} + \frac{h^2}{12} (F{i+1}+10Fi+F_{i-1}) $$ 最终得到 Numerov 递推公式：

$$ y{i+1} = \frac{ 2\left(1-\frac{5h^2}{12}ki\right)yi - \left(1+\frac{h^2}{12}k{i-1}\right)y{i-1} + \frac{h^2}{12} (F{i+1}+10Fi+F{i-1}) } { 1+\frac{h^2}{12}k_{i+1} } $$ 齐次情形 $F=0$ 时：

$$ y{i+1} = \frac{ 2\left(1-\frac{5h^2}{12}ki\right)yi - \left(1+\frac{h^2}{12}k{i-1}\right)y{i-1} } { 1+\frac{h^2}{12}k{i+1} } $$ 对二阶方程的 Taylor 展开到 6 阶，巧妙构造消去误差项：

$$y{i+1} = \frac{2\left(1 - \frac{5h^2}{12}ki\right)yi - \left(1 + \frac{h^2}{12}k{i-1}\right)y{i-1} + \frac{h^2}{12}(F{i+1} + 10Fi + F{i-1})}{1 + \frac{h^2}{12}k_{i+1}}$$

💡 局部误差正比于 $h^6$，比 RK4 还高一阶！

9.3 特例：F=0 的齐次形式

当 $F(x) = 0$（齐次方程 $y'' + k(x)y = 0$）：

$$y{i+1} = \frac{2\left(1 - \frac{5h^2}{12}ki\right)yi - \left(1 + \frac{h^2}{12}k{i-1}\right)y{i-1}}{1 + \frac{h^2}{12}k{i+1}}$$

9.4 ⚠️ 注意事项

需要两个起点值 $y(0)$ 和 $y(h)$ 才能启动——不像 RK4 只要一个值是三点递推
通常先知道 $y(0)$ 和 $y'(0)$，需用其他方法（如 Taylor 展开/RK4走一步）先求出 $y(h)$
比 RK4 精度高且计算量小（每步只需一次 $k(x)$ 估值）

10. Schrödinger 方程数值求解

10.1 球对称势的径向方程

$$-\frac{\hbar^2}{2m}\frac{d^2u(r)}{dr^2} + \left[V(r) + \frac{\hbar^2 l(l+1)}{2mr^2}\right]u(r) = E u(r)$$

定义有效势：

$$ V_{\text{eff}}(r) = V(r)+

\frac{\hbar^2l(l+1)}{2mr^2} $$ 径向方程就是：

$$ -\frac{\hbar^2}{2m}u'' + V_{\text{eff}}u = Eu $$ 整理成 Numerov 形式：

$$ u''+ k(r;E)u=0 $$ 其中：

$$ k(r;E) = \frac{2m}{\hbar^2}

\left[ E-V_{\text{eff}}(r) \right] $$ 也就是：

$$ k(r;E) = \frac{2m}{\hbar^2} \left[ E-V(r) \right] - \frac{l(l+1)}{r^2} $$ 所以 Schrödinger 径向方程天然适合 Numerov。

其中 $u(r) = rR(r)$，边界条件：$u(0) = 0,\ u(\infty) \to 0$

正好利用上边学到的Numerov方法！！！

10.2 打靶法求解束缚态

束缚态能量要求离散！！！

单纯从 $r=0$ 往外积分有问题：

如果 $E$ 不准，远处通常指数发散；
即使 $E$ 很准，数值误差也可能激发发散解。

所以常用双向积分。

向外积分 Outward

从小 $r=\epsilon$ 开始，使用原点行为：

$$ u_{\text{out}}(r)\sim r^{l+1} $$ 可以取：

$$ u(\epsilon)=\epsilon^{l+1} $$ 然后用 Taylor 或 RK4/Numerov 得到第二个点，开始向外积分。

向内积分 Inward

在足够大的 $R_{\max}$ 处，束缚态远处衰减。

如果远处势能趋于 0，且束缚态 $E<0$，则：

$$ u''+\frac{2mE}{\hbar^2}u\approx 0 $$ 因为 $E<0$，令：

$$ \kappa=\sqrt{\frac{-2mE}{\hbar^2}} $$ 则：

$$ u''-\kappa^2 u=0 $$ 解为：

$$ u(r)=Ae^{-\kappa r}+Be^{\kappa r} $$ 束缚态要求不发散，所以：

$$ u(r)\sim e^{-\kappa r} $$ 因此在 $R_{\max}$ 取：

$$ u{\text{in}}(R{\max})=e^{-\kappa R{\max}} $$ 然后从 $R{\max}$ 向内积分到匹配点 $r_m$。

匹配条件

因为线性方程的解可以整体乘任意常数，所以不能直接要求：

$$ u{\text{out}}(rm)=u{\text{in}}(rm) $$ 因为振幅可以缩放。

真正关键是形状要一致，也就是对数导数一致：

$$ \frac{u{\text{out}}'(rm)}{u{\text{out}}(rm)} = \frac{u{\text{in}}'(rm)}{u{\text{in}}(rm)} $$ 定义匹配函数：

$$ F(E)= \frac{u{\text{out}}'(rm)}{u{\text{out}}(rm)} - \frac{u{\text{in}}'(rm)}{u{\text{in}}(rm)} $$ 本征能量满足：

$$ F(E)=0 $$ 等价地，可以写成 Wronskian：

$$ W(E) = u{\text{in}}u{\text{out}}' - u{\text{out}}u{\text{in}}' $$ 如果两者对数导数相等，则：

$$ u{\text{in}}u{\text{out}}' = u{\text{out}}u{\text{in}}' $$ 所以：

$$ W(E)=0 $$ 因此求本征能量就是求：

$$ W(E)=0 $$ 或者：

$$ F(E)=0 $$ 可以用：

二分法；
割线法；
牛顿法；
节点数扫描。

寻找束缚态本征解流程：
1. 从 r=0 向外积分 (outward integration)
2. 从 r=R∞ 向内积分 (inward integration)  
3. 在大距离 ρₘ 处匹配 (matching point)
4. 要求两个解的 Wronskian 满足：u_in·u_out' - u_out·u_in' 连续
5. 调节能量 E，重复上述步骤
→ 找到使匹配条件成立的 E = 本征能量

Not support render this content in RSS render

💡 物理直觉：束缚态能量是离散的——就像吉他弦只有特定频率才能共振。向外积分和向内积分只有在正确的能量 $E_n$ 下才能光滑连接。

在一维或径向 Sturm-Liouville 问题中，束缚态有节点定理：

基态没有节点；
第一激发态有一个节点；
第二激发态有两个节点；
依此类推。

所以扫描能量时，可以通过节点数判断你找到的是哪一个本征态。

10.3 散射态与共振态

散射边界条件：$u(r) \sim \sin(kr + \delta)$，提取相移 $\delta$
共振态：能量为复数 $E - i\Gamma/2$，相移突然增加 $\pi/2$
求解方法：复标度法 (Complex-scaling)、稳定化法 (Stabilization)、S-矩阵极点法

11. Green 函数与 Wronskian

11.1 核心问题

Green 函数是线性微分方程的“响应函数”。

考虑：

$$ L[y]=f(x)

$$ 如果能找到 $G(x,\xi)$ 满足：

$$ L_x[G(x,\xi)]=\delta(x-\xi) $$ 并满足同样的边界条件，那么解就是：

$$ y(x)=\int_a^b G(x,\xi)f(\xi),d\xi $$ 设：

$$ L[y]=y''+k(x)y $$ 边界条件：

$$ y(a)=0,\qquad y(b)=0 $$ 我们要构造：

$$ G''(x,\xi)+k(x)G(x,\xi)=\delta(x-\xi) $$ 当 $x\neq \xi$ 时：

$$ \delta(x-\xi)=0 $$ 所以 Green 函数在左右两边都满足齐次方程：

$$ G''+kG=0 $$

11.2 构造左右基本解

令 $u_<(x)$ 是满足左边界条件的齐次解：

$$ u<(a)=0 $$ 令 $u>(x)$ 是满足右边界条件的齐次解：

$$ u_>(b)=0 $$ 于是 Green 函数可以写成：

$$ G(x,\xi) = \begin{cases} A(\xi)u<(x), & x<\xi\ B(\xi)u>(x), & x>\xi \end{cases} $$ 因为：

$x<\xi$ 时要满足左端边界；
$x>\xi$ 时要满足右端边界。

11.3 连续条件

Green 函数本身必须连续。

如果 $G$ 在 $x=\xi$ 处跳跃，那么 $G'$ 会有 delta，$G''$ 会有 delta 的导数 $\delta'$，而方程右边只有 $\delta$，没有 $\delta'$。

所以：

$$ G(\xi^-,\xi)=G(\xi^+,\xi) $$ 即：

$$ A u<(\xi)=B u>(\xi)

11.4 导数跳跃条件

对方程在 $\xi-\epsilon$ 到 $\xi+\epsilon$ 积分：

$$ \int{\xi-\epsilon}^{\xi+\epsilon} \left[ G''+kG \right]dx = \int{\xi-\epsilon}^{\xi+\epsilon} \delta(x-\xi),dx $$ 右边：

$$ 1 $$ 左边第一项：

$$ \int G''dx = G'(\xi^+)-G'(\xi^-) $$ 第二项：

$$ \int kG,dx \to 0 $$ 因为区间长度趋于 0，且 $G$ 有限。

所以：

$$ G'(\xi^+)-G'(\xi^-)=1 $$ 代入左右表达式：

$$ G'(\xi^-)=A u_<'(\xi) $$ 因此：

$$ B u>'(\xi)-A u<'(\xi)=1 $$

11.5 解出 $A,B$

我们有：

$$ A u<(\xi)=B u>(\xi) $$ 所以：

$$ A=\frac{B u>(\xi)}{u<(\xi)} $$ 代入跳跃条件：

$$ B u>'(\xi) - \frac{B u>(\xi)}{u<(\xi)}u<'(\xi) = 1 $$ 提取 $B$：

$$ B \left[ u>'(\xi) - \frac{u>(\xi)u<'(\xi)}{u<(\xi)} \right] = 1 $$ 通分：

$$ B \frac{ u<(\xi)u_>'(\xi) - u>(\xi)u<'(\xi) } {u<(\xi)} = 1 $$ 定义 Wronskian：

$$ W(\xi) = u<(\xi)u_>'(\xi) - u>(\xi)u_<'(\xi) $$ 于是：

$$ B\frac{W(\xi)}{u_<(\xi)}=1 $$ 所以：

$$ B=\frac{u_<(\xi)}{W(\xi)} $$ 再由连续条件：

$$ A=\frac{u_>(\xi)}{W(\xi)} $$ 因此：

$$ G(x,\xi) = \begin{cases} \dfrac{u<(x)u_>(\xi)}{W(\xi)}, & x<\xi\[8pt] \dfrac{u<(\xi)u_>(x)}{W(\xi)}, & x>\xi \end{cases} $$ 如果方程没有一阶导数项，Wronskian 是常数，所以也可以写成：

$$ W $$ 而不写 $W(\xi)$。

11.7 Green 函数和本征值的关系

如果：

$$ W=0 $$ 说明 u{<} 和 u{>} 线性相关。

也就是说存在非零解同时满足左右边界条件。

这正是本征值问题的条件。

所以：

Green 函数的分母 $W$ 在本征值处为零。

这也解释了物理中常说：

Green 函数在能量本征值处有极点。

构造流程（配合 Numerov）：

1. 从 a→b 向外积分齐次方程，得到 u<(x)|满足 a 端边界条件
2. 从 b→a 向内积分齐次方程，得到 u>(x)|满足 b 端边界条件
3. 计算 Wronskian W = u<·u>' - u>·u<'
4. 构造 G(x,ξ)，积分求最终解

💡 物理直觉：Green 函数 = 线性响应函数。$G(x,\xi)$ 是"$\xi$ 处的单位脉冲在 $x$ 处引起多大的响应"，与外场 $f$ 无关。这是整个线性响应理论的数学基础。

12. 有限差分法（Finite Difference）

12.1 基本思想

将导数用差分代替，把微分方程变成代数方程组。

一阶和二阶导数的中心差分近似（精度 $O(h^2)$）：

$u'(x) = \frac{u(x+h)-u(x-h)}{2h} +O(h^2)$

$ui'' \approx \frac{u{i+1}-2ui+u{i-1}}{h^2}$

12.2 📐 数值例子：一维泊松方程

$$-u''(x) = f(x), \quad u(0)=a,\ u(L)=b$$

离散化【$N$ 个内点（未知），$h = L/(N+1)$ 】：

通常写成：

$$ \frac{-u{i-1}+2ui-u{i+1}}{h^2}=fi $$ 其中：

$$ fi=f(xi) $$

内部点方程

对于 $i=1$：

$$ \frac{-u0+2u1-u2}{h^2}=f1 $$ 因为：

$$ u_0=a $$ 所以：

$$ \frac{2u1-u2}{h^2} = f_1+\frac{a}{h^2} $$ 对于中间点 $i=2,\dots,N-1$：

$$ \frac{-u{i-1}+2ui-u{i+1}}{h^2}=fi $$ 对于 $i=N$：

$$ \frac{-u{N-1}+2uN-u{N+1}}{h^2}=fN $$ 因为：

$$ u_{N+1}=b $$ 所以：

$$ \frac{-u{N-1}+2uN}{h^2} = f_N+\frac{b}{h^2} $$

对于内部点转化为线性方程组 $A\mathbf{u} = \mathbf{b}$：

$$ \frac{1}{h^2} \begin{pmatrix} 2 & -1 & 0 & \cdots & 0 \ -1 & 2 & -1 & \cdots & 0 \ 0 & -1 & 2 & \cdots & 0 \ \vdots & \vdots & \vdots & \ddots & -1 \ 0 & 0 & 0 & -1 & 2 \end{pmatrix} \begin{pmatrix} u1 \ u2 \ u3 \ \vdots \ uN \end{pmatrix} = \begin{pmatrix} f1 + a/h^2 \ f2 \ f3 \ \vdots \ fN + b/h^2 \end{pmatrix} $$

说人话：一个二阶 ODE 的边值问题变成了一个三对角线性方程组！用 Thomas 算法 $O(N)$ 秒解，干净利落。

import numpy as np

def solve_poisson_1d(a, b, f, L, N):
    """解 -u'' = f, u(0)=a, u(L)=b"""
    h = L / (N + 1)
    x = np.linspace(0, L, N+2)
    
    # 构造三对角矩阵 + RHS
    diag = 2 * np.ones(N) / h**2
    off_diag = -np.ones(N-1) / h**2
    rhs = f(x[1:-1])
    rhs[0] += a / h**2
    rhs[-1] += b / h**2
    
    # Thomas 算法 (三对角追赶法)
    # 向前消元
    c_prime = np.zeros(N-1)
    d_prime = np.zeros(N)
    c_prime[0] = off_diag[0] / diag[0]
    d_prime[0] = rhs[0] / diag[0]
    for i in range(1, N):
        if i < N-1:
            denom = diag[i] - off_diag[i-1] * c_prime[i-1]
            c_prime[i] = off_diag[i] / denom
        else:
            denom = diag[i] - off_diag[i-1] * c_prime[i-1]
        d_prime[i] = (rhs[i] - off_diag[i-1] * d_prime[i-1]) / denom
    
    # 回代
    u_interior = np.zeros(N)
    u_interior[-1] = d_prime[-1]
    for i in range(N-2, -1, -1):
        u_interior[i] = d_prime[i] - c_prime[i] * u_interior[i+1]
    
    u = np.zeros(N+2)
    u[0], u[-1] = a, b
    u[1:-1] = u_interior
    return x, u

# 示例：f(x)=sin(x), a=0, b=0, L=π
# u_exact(x) = sin(x) → 验证数值解

12.3 有限差分法 vs 打靶法

特性	打靶法 (Shooting)	有限差分法
问题类型	转化为 IVP + 迭代	直接离散为线性系统
精度	继承 RK/Numerov 精度	$O(h^2)$ 或更高阶差分
非线性方程	需牛顿/割线迭代	需解非线性代数方程
收敛依赖	对初始猜测敏感	依赖网格足够细
适合	一维问题	多维问题扩展性好

💡 口诀：

一维光滑问题，打靶法很灵活； 线性边值问题，有限差分很稳； 多维边值/PDE，有限差分、有限元更主流。

13. 应用实例：TOV 方程与中子星

13.1 TOV 方程 (Tolman-Oppenheimer-Volkoff)

广义相对论中描述中子星结构的耦合 ODE 组：

$$\begin{aligned} \frac{dP}{dr} &= -\frac{G}{r^2}\frac{[\rho(r) + P(r)/c^2][m(r) + 4\pi r^3 P(r)/c^2]}{1 - 2Gm(r)/(rc^2)} \ \frac{dm}{dr} &= 4\pi r^2 \rho(r) \end{aligned}$$

13.2 状态方程 (EOS)

核物理提供密度-压强关系。简化多方形式： $$P = K \rho^\gamma$$

典型参数：$\gamma = 2.75$，$K = 1.982 \times 10^{-6}$ [cgs]

13.3 求解策略

初始条件 (r=0):
  ρ(0) 给定（中心密度）
  P(0) = P(ρ(0))  从 EOS 得到
  m(0) = 0

用 RK4 从 r=0 向外积分
→ 每次步进：r → r + dr
  更新 P(r), m(r)（耦合方程组）
→ 直到 P(R) = 0（压力降到零）
→ 此时 R = 中子星半径，M = m(R) = 中子星质量

改变中心密度 ρ(0)，重复 → 得到质量-半径关系
→ 最大质量 ≈ 2-3 倍太阳质量（取决于 EOS）

💡 物理直觉：用 RK4 从恒星中心往外积，密度（因此压力）一路下降。到表面压力为 0 → 这就是星体边界。不同的中心密度 → 不同的总质量 → 找到最大质量（超过此值星体会坍缩为黑洞）。

13.4 前沿研究

Chong-Ji Jiang et al., Chin. Phys. Lett. 2021, 38(5): 052101
中子星物质状态方程仍是核物理前沿
引力波观测 (GW170817) 给 EOS 带来新的约束

14. 总结对比表

14.1 初值问题方法总览

方法	类型	局部误差	步数	每步求值	稳定性	典型用途
Euler	显式	$O(h^2)$	1	1	差	教学演示
Taylor 2阶	显式	$O(h^3)$	1	需手动求导	中等	高精度小系统
Heun (RK2)	显式	$O(h^3)$	1	2	中等	入门级实际计算
RK4	显式	$O(h^5)$	1	4	好	⭐ 工业标准
RKF45	显式-自适应	$O(h^6)$	1	6	好	自适应步长
AB4 (多步)	显式	$O(h^5)$	4	1	中等	长时间演化
AM3 (多步)	隐式	$O(h^5)$	4	1+迭代	好	配合 AB 做 PECE
隐式梯形	隐式	$O(h^3)$	1	迭代	极好	Stiff 方程
Gear	隐式-多步	$O(h^3)$~	多步	迭代	极好	Stiff 方程标准解
Numerov	专用显式	$O(h^6)$	2	1	好	无 $y'$ 的二阶 ODE

14.2 边值问题方法总览

方法	核心思路	精度	计算量	适用
线性打靶法	两解叠加	继承积分器精度	两次积分	线性 BVP
非线性打靶+割线	参数搜索	继承积分器精度	多次积分	非线性 BVP
Green 函数法	脉冲响应分解	取决于积分方法	构造+积分	线性非齐次 BVP
有限差分法	离散→线性方程组	$O(h^2)$ 或更高	解三对角/稀疏矩阵	任意 BVP

14.3 关键联系与口诀

Not support render this content in RSS render

📚 核心记忆卡片

🔑 概念	💭 一句话总结
Euler 法	切线代替曲线，最粗糙但最直观
RK4	四点取样加权平均，性价比之王
多步法	利用历史信息减少函数求值次数
Stiff 方程	快慢分量混杂，显式方法必须小步长
隐式方法	牺牲每步计算量换取大步长稳定性
打靶法	把边值问题转化成带参数搜索的初值问题
Numerov	专攻无 y' 的二阶方程，精度超 RK4
Green 函数	系统的"脉冲响应"，线性理论基石
有限差分	导数变差分，ODE 变矩阵方程
TOV 方程	RK4 积分 + EOS = 中子星质量-半径关系

Akuiro 整理补充 · 2026-07-01

看完了？说点什么呢

数值微分与积分方法

akuiro — Tue, 30 Jun 2026 04:38:33 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Numerical-Differentiation-and-Integration-Methods

用离散点的函数值近似连续的微分/积分，通过多项式插值作为桥梁——先从离散点构造插值多项式，再对多项式求导/积分获得数值微分/积分公式。

📑 目录

1. 插值方法概览
2. 拉格朗日插值
3. 厄密插值
4. 龙格现象与分段插值
5. 三次样条插值
6. Akima 插值
7. 多维插值
8. 分数多项式插值与 Padé 近似
9. 数值微分
10. 牛顿-柯特斯积分
11. 复合积分与变步长积分
12. 理查森外推与龙贝格算法
13. 高斯积分
14. WKB 近似
15. 总结对比表

1. 插值方法概览

                        ┌─────────────────────────┐
                        │      插值方法体系        │
                        └───────────┬─────────────┘
                                    │
          ┌─────────────┬───────────┼───────────┬─────────────┐
          │             │           │           │             │
    全局多项式插值   分段插值    有理插值    多维插值    函数逼近
    ┌───┴───┐    ┌───┴───┐    ┌──┴──┐    ┌──┴──┐    ┌──┴──┐
    │拉格朗日│    │三次样条│    │分数 │    │双线性│    │Taylor│
    │ Hermite│    │ Akima │    │Padé │    │Kriging│   │Cheby │
    └───────┘    └───────┘    └─────┘    └──────┘    └──────┘

插值的本质：已知 N+1 个离散点 (x₀, y₀), (x₁, y₁), ..., (xN, yN)，构造一个"穿过"所有点的光滑函数 P(x)，用 P(x) 来估计任意位置的函数值。

方法	特点	适用场景
拉格朗日插值	N+1 个点给出 N 次多项式	点数少、要求高精度
Hermite 插值	同时用函数值和导数值	已知导数信息时
三次样条插值	分段三次，二阶连续光滑	点数多、避免振荡
Akima 插值	分段三次，无需解方程组	效率要求高
分数多项式插值	有理函数，能处理极点	函数有奇点时
多维插值	推广到二维/三维	网格数据

2. 拉格朗日插值

2.1 核心思想

人话：给 N+1 个点 $(x₀,y₀)...(xN,yN)$，找一个 N 次多项式 P(x) 恰好穿过这些点。做法是构造一组"开关函数" ℓk(x)，每个 ℓk 在自己那个点等于 1，在其他点等于 0。

2.2 插值基函数

第 k 个基函数 $ℓ_k(x)$ 的构造（N+1 个点，k = 0, 1, ..., N）：

$$ ℓk(x) = \frac{(x - x₀)}{(xk - x₀)} · \frac{(x - x1)}{(xk - x1)} · ... · \frac{(x - x{k-1})}{(xk - x{k-1})} · (\frac{(x - x{k+1})}{(xk - x{k+1})} · ... ·\frac{(x - x{N})}{(xk - x{N})} $$

中文解释：分子是 (x - 除了xk以外的所有xi) 连乘，分母是 (xk - 除了xk以外的所有xi) 连乘。当 x=xk 时分子分母完全相同，结果为1；当 x=xi（i≠k）时，分子中有一个因子 (xi - x_i)=0，结果为0。这就是"开关"效果。

2.3 插值多项式

拉格朗日插值多项式 = 各点函数值 × 对应基函数的加权和：

$$ P(x) = y₀·ℓ₀(x) + y₁·ℓ₁(x) + ... + yN·ℓN(x) $$

2.4 具体数值例子

两点插值（直线）：已知 (x₀=1, y₀=2), (x₁=3, y₁=6)

ℓ₀(x) = (x - 3)/(1 - 3) = -(x-3)/2
ℓ₁(x) = (x - 1)/(3 - 1) =  (x-1)/2

P(x) = 2·ℓ₀(x) + 6·ℓ₁(x)
     = 2·(3-x)/2 + 6·(x-1)/2
     = (3-x) + 3(x-1)
     = 3 - x + 3x - 3
     = 2x                          ← 还原为直线 y=2x ✓

三点插值（抛物线）：已知 (x₀=-1, y₀=0), (x₁=0, y₁=1), (x₂=1, y₂=0)

ℓ₀(x) = (x-0)(x-1)/((-1-0)(-1-1)) = x(x-1)/2
ℓ₁(x) = (x+1)(x-1)/((0+1)(0-1))   = -(x+1)(x-1) = 1-x²
ℓ₂(x) = (x+1)(x-0)/((1+1)(1-0))   = x(x+1)/2

P(x) = 0·ℓ₀(x) + 1·ℓ₁(x) + 0·ℓ₂(x)
     = 1 - x²                      ← 还原为抛物线 y=1-x² ✓

💡 物理直觉：拉格朗日插值就像用 N+1 个"开关"拼出一个波形。每个基函数是一个"尖峰"——在自己的点等于1、在别人的点等于0。叠加起来后恰好能穿过所有数据点。

2.5 插值余项（误差）

人话：用 P(x) 代替真实函数 f(x) 的误差有多大？

余项公式（ξ 在 x₀ 和 x_N 之间）：

$$ R(x) = f(x) - P(x) = \frac{f^{N+1}(ξ)}{(N+1)!} · (x-x₀)(x-x₁)...(x-x_N) $$

数值理解：

误差 = 第(N+1)阶导数的值 / (N+1)的阶乘 × 所有距离的乘积
       ↑ 表示函数的弯曲程度      ↑ 表示点之间的距离效应

函数越"弯"（高阶导数大）→ 误差越大
点越多、阶乘越大 → 分母越大 → 误差可能减小
但！龙格现象会破坏这个直觉（见第4节）

3. 厄密插值

3.1 核心思想

人话：拉格朗日只用了函数值 yₖ。如果还知道每一点的导数 y'ₖ，就能做得更精确——用 2N+1 次多项式的精度。

3.2 插值条件

已知 N+1 个点，每个点有 两个信息：

函数值： $f(x{k}) = y{l}$
一阶导数： $f'(x{k}) = y^{'}{k}$

总共 2N+2 个条件 → 可以确定 2N+1 次多项式！

3.3 Hermite 基函数

构造两类基函数：

$hₖ(x)$：在第 k 个点 hₖ(xₖ)=1，且 hₖ'(xₖ)=0；在其他所有点 hₖ(xⱼ)=0, hₖ'(xⱼ)=0
$ĥₖ(x)$：在第 k 个点 ĥₖ(xₖ)=0，且 ĥₖ'(xₖ)=1；在其他所有点 ĥₖ(xⱼ)=0, ĥₖ'(xⱼ)=0

Hermite 插值多项式：

$$ H(x) = \sum y{k} h{k}(x) + \sum y{k}^{'} \hat{h{k}} $$

↑ 函数值贡献 ↑ 导数值贡献

设拉格朗日插值基函数为 Li(x)（它在 xi处为1，在其他节点处为0）。我们定义两组新的基函数：

A_i(x)：负责控制函数值。它保证在 xi处值为1，导数为0；在其他节点处值为0，导数为0。
B_i(x)：负责控制导数值。它保证在 xi处值为0，导数为1；在其他节点处值为0，导数为0。

公式如下（这是你需要记住的黄金公式）：

$$ H(x) = \sum{i = 0}^{n} [yi \cdot A{i}(x) + y{i}^{'} \cdot B_{i}(x)] $$

其中：

$$ Ai (x) = [1 - 2(x-xi)L{i}^{'}(xi)] \cdot [L_{i}(x)]^{2} $$

$$ B{i}(x) = (x- xi) \cdot [L_i(x)]^{2} $$

直观理解： 平方项 [Li(x)]^{2} 保证了在其他节点处函数值和导数值都为0（因为平方让一阶导在节点处也为0）。而前面的线性项 1−2... 则是为了“修正”在 xi 处的导数不为0的缺陷，强行将导数调整为0。

3.4 数值例子：两点 Hermite

已知两个端点 x₀, x₁ 的函数值和导数值：

f(x₀)=y₀, f'(x₀)=m₀
f(x₁)=y₁, f'(x₁)=m₁

间距: h = x₁ - x₀

H(x) = y₀·φ₀(t) + y₁·φ₁(t) + m₀·h·ψ₀(t) + m₁·h·ψ₁(t)

其中 t = (x - x₀)/h ∈ [0,1]

φ₀(t) = 2t³ - 3t² + 1    (t=0时为1, t=1时为0, 导数均为0)
φ₁(t) = -2t³ + 3t²        (t=1时为1, t=0时为0, 导数均为0)
ψ₀(t) = t³ - 2t² + t      (t=0时导数为1, t=1时导数为0, 值均为0)
ψ₁(t) = t³ - t²            (t=1时导数为1, t=0时导数为0, 值均为0)

💡 为什么 Hermite 更精确？ 它利用了"速度"信息，就像已知位置和速度来推轨迹比只知位置更准确。在已知导数的场合（如实验数据附带变化率），Hermite 插值用更少的点达到更高的精度。

即三次插值

具体的推导

两个节点 $x{0} , x{1}$

引入 $t = \frac{x-x{0}}{x1 - x0} , h = x1 - x_0$

借助上述归一化后 Lagrange插值中两个最基本的一次基函数为：

$$ L0(x) = \frac{x-x1}{x0-x1} = \frac{h(t-1)}{-h} = 1-t \ L1(x) = \frac{x-x0}{x1-x0} = t $$ 对于x求导，而非对t求导！！！（回归关于x的等式然后求导即可）

$$ L0^{'}(x) = - \frac{1}{h} \ L1^{'}(x_1) = \frac{1}{h} $$ 带入公式

$$ Ai (x) = [1 - 2(x-xi)L{i}^{'}(xi)] \cdot [L_{i}(x)]^{2} $$

$$ B{i}(x) = (x- xi) \cdot [L_i(x)]^{2} $$

可得到

$$ A1(x) = [1-2(x-x1)L1^{'}(x1)]\cdot [L1(x)]^{2} = -2t^{3}+3t^2 \ \space \ A0(x) = [1-2(x-x0)L0^{'}(x0)]\cdot [L0(x)]^{2} = (1-t)^2 (1+2t) = 2t^3-3t^2+1 \ \space \ B0(x) = (x-x0)\cdot [L0(x)]^2 = h \cdot (t^3 - t^2 + t) \ \space \ b1(t) = h \cdot (t^3 - t^2) $$ 就得到了

$$ H(t) = y0 (2t^3 - 3t^2 +1) + y1 (-2t^3 + 3t^2) + y0^{'}\cdot h(t^3 - 2t^2 +t) + y1^{'}\cdot h(t^3-t^2) $$

4. 龙格现象与分段插值

4.1 龙格现象

人话：虽然插值点越多多项式次数越高，但边缘误差反而爆炸式增长！

龙格函数例子：f(x) = 1/(1 + x²) 在 [-5, 5] 上等距取点：

取5个点 (N=4)：边缘误差 ≈ 0.4
取9个点 (N=8)：边缘误差 ≈ 0.6
取13个点 (N=12)：边缘误差 ≈ 2.5   ← 越加越糟！
取17个点 (N=16)：边缘误差 ≈ 20    ← 爆炸！

误差趋势（概念图）：

 N=4:     误差 ···  0.4  ···
 N=8:     误差 ······ 0.6 ······
 N=12:    误差 ············· 2.5 ·············
 N=16:    误差 ····························· 20 ···
                                    ↑ 边缘剧烈振荡

💡 物理直觉：高次多项式很"硬"——要同时穿过很多点就会在两端剧烈摇摆。真实物理量通常很"光滑"，不需要这么硬的拟合。解决方案：分段——每段用低次多项式！

4.2 分段插值思路

不用：一个14次多项式穿过15个点  →  ❌ 边缘振荡严重

改用：把区间切成14段
      每段两个点 → 14条直线  →  ⚠️ 角点不光滑
      每段三个点 → 7条抛物线 →  ⚠️ 连接处导数不连续
      每段四个点+光滑条件 → 三次样条 ✓

5. 三次样条插值

5.1 核心思想

人话：把整个区间切成 N 段，每段用一个三次多项式。除了要求穿过数据点，还要求相邻段在连接处函数值、一阶导数、二阶导数都相等——这样整条曲线就像一条柔韧的细木条（旧时绘图用的"样条"）自然弯曲。

5.2 构造框架

假设 N+1 个数据点 (x₀,y₀), ..., (xN,yN)，共 N 个小区间。

第 j 段（区间 [xⱼ, xⱼ₊₁]，j=0,...,N-1）：

Sⱼ(x) = aⱼ + bⱼ(x-xⱼ) + cⱼ(x-xⱼ)² + dⱼ(x-xⱼ)³

每段 4 个未知系数，N 段共 4N 个未知数。

5.3 条件清单

条件类型	数量	数学表达式
插值条件：Sⱼ(xⱼ)=yⱼ, Sⱼ(xⱼ₊₁)=yⱼ₊₁	2N	每段必须穿过两个端点
一阶导数连续：S'ⱼ(xⱼ₊₁)=S'ⱼ₊₁(xⱼ₊₁)	N-1	内部连接处斜率连续
二阶导数连续：S''ⱼ(xⱼ₊₁)=S''ⱼ₊₁(xⱼ₊₁)	N-1	内部连接处曲率连续
边界条件	2	两端各一个
合计	4N	恰好确定

5.4 具体推导过程

对于一个均匀间距 h 的例子（3个点：x₀=1, x₁=2, x₂=3；y₀=0, y₁=1, y₂=0）：

步骤1：利用连续性条件消去 dⱼ

   S''ⱼ(xⱼ) = 2cⱼ
   S''ⱼ(xⱼ₊₁) = 2cⱼ + 6dⱼ·h = 2cⱼ₊₁ （二阶导数连续）

→ dⱼ = (cⱼ₊₁ - cⱼ) / (3h)    (j=0,...,N-2)

步骤2：利用一阶导数连续性消去 bⱼ

   S'ⱼ(xⱼ₊₁) = bⱼ + 2cⱼ·h + 3dⱼ·h² = bⱼ₊₁ （一阶导数连续）

→ bⱼ = (yⱼ₊₁ - yⱼ)/h - h·(2cⱼ + cⱼ₊₁)/3

步骤3：得到关于 cⱼ 的三对角方程组

   h·cⱼ₋₁ + 4h·cⱼ + h·cⱼ₊₁ = 3[(yⱼ₊₁ - yⱼ)/h - (yⱼ - yⱼ₋₁)/h]
   
   即 cⱼ₋₁ + 4cⱼ + cⱼ₊₁ = (3/h)·[(yⱼ₊₁-yⱼ)/h - (yⱼ-yⱼ₋₁)/h]

5.5 三对角矩阵形式

对于 N+1 个点（N 个区间），关于 c₁, c₂, ..., c_{N-1} 的方程组：

┌         ┐ ┌    ┐   ┌                                  ┐
│ 4 1 0 0 │ │ c₁ │   │ 3[(y₂-y₁)/h - (y₁-y₀)/h]/h      │
│ 1 4 1 0 │ │ c₂ │   │ 3[(y₃-y₂)/h - (y₂-y₁)/h]/h      │
│ 0 1 4 1 │ │ c₃ │ = │      ...                         │
│ 0 0 1 4 │ │ c₄ │   │ 3[(y₅-y₄)/h - (y₄-y₃)/h]/h      │
└         ┘ └    ┘   └                                  ┘

即：  三对角矩阵 × c向量 = 右端向量（由函数值差分决定）

中文解释：这是一个三对角线性方程组（每行最多3个非零元素），系数矩阵对角线全是 4，上下对角线全是 1，可以用追赶法（Thomas算法）在 O(N) 时间内高效求解。

5.6 边界条件

自然边界条件（最常用）：

S''(x₀) = 2c₀ = 0  →  c₀ = 0
S''(x_N) = 2c_N = 0  →  c_N = 0

这样第一行和最后一行的方程变为：

第一行：4c₁ + c₂ = 右端
最后行：c_{N-2} + 4c_{N-1} = 右端

一次微分边界条件：给定两端的一阶导数值 S'(x₀)=y'₀, S'(xN)=y'N：

2c₀ + c₁ = (3/h)·[(y₁-y₀)/h - y'₀]
c_{N-1} + 2c_N = (3/h)·[y'_N - (y_N-y_{N-1})/h]

💡 物理直觉：自然边界条件相当于说"样条两端可以自由弯曲、不受力矩约束"——就像一根细木条，两端不加拧紧的力。这是物理上最自然的状态，也是默认选择。

5.7 算法流程

输入: N+1 个点 (x₀,y₀)...(x_N,y_N)
输出: 每段的系数 aⱼ,bⱼ,cⱼ,dⱼ

步骤1: 计算间距 hⱼ = xⱼ₊₁ - xⱼ
步骤2: 构造三对角方程组 → 求 c₀,...,c_N
步骤3: 回代求 bⱼ 和 dⱼ
步骤4: aⱼ = yⱼ（直接已知）

伪代码:
for j = 0 to N-1:
    h[j] = x[j+1] - x[j]
    
for j = 1 to N-1:   // 构造右端项
    rhs[j] = 3/h * ( (y[j+1]-y[j])/h - (y[j]-y[j-1])/h )

solve_tridiagonal()  → c[0],...,c[N]

for j = 0 to N-1:
    d[j] = (c[j+1] - c[j]) / (3*h)
    b[j] = (y[j+1]-y[j])/h - h*(2*c[j]+c[j+1])/3
    a[j] = y[j]

6. Akima 插值

6.1 核心思想

人话：也是分段三次插值，但不解方程组！直接用局部数据估算导数，然后用 Hermite 两点插值公式拼出曲线。

Akima 插值的优势：

✅ 计算极快（不需要求解方程组）
✅ 天然局部性——修改一个点只影响相邻几段
✅ 有效避免振荡

6.2 一阶导数的估计

对于点 i，用相邻 4 个点的差分斜率做加权平均得到导数估计：

sᵢ = (yᵢ₊₁ - yᵢ) / (xᵢ₊₁ - xᵢ)     ← 右侧斜率
sᵢ₋₁ = (yᵢ - yᵢ₋₁) / (xᵢ - xᵢ₋₁)   ← 左侧斜率

y'ᵢ = (|sᵢ₊₁ - sᵢ|·sᵢ₋₁ + |sᵢ₋₁ - sᵢ₋₂|·sᵢ) / (|sᵢ₊₁ - sᵢ| + |sᵢ₋₁ - sᵢ₋₂|)

权重逻辑：

导数 = 左侧斜率 × 右侧变化剧烈度 + 右侧斜率 × 左侧变化剧烈度
       ────────────────────────────────────────────────────────
                    左右变化剧烈度之和

- 右侧变化剧烈 → 更多信赖左侧信息
- 左侧变化剧烈 → 更多信赖右侧信息
- 左右都平滑 → 平均

6.3 防止除零

当分母 |sᵢ₊₁ - sᵢ| + |sᵢ₋₁ - sᵢ₋₂| = 0 时（连续三个斜率相同）：

y'ᵢ = (sᵢ₋₁ + sᵢ) / 2     ← 直接取平均

6.4 构造插值

得到每个数据点的一阶导数后，每段 [xᵢ, xᵢ₊₁] 用两点 Hermite 插值公式：

已知: f(xᵢ)=yᵢ, f(xᵢ₊₁)=yᵢ₊₁, f'(xᵢ)=y'ᵢ, f'(xᵢ₊₁)=y'ᵢ₊₁

Sᵢ(x) = yᵢ·φ₀(t) + yᵢ₊₁·φ₁(t) + y'ᵢ·h·ψ₀(t) + y'ᵢ₊₁·h·ψ₁(t)
其中 t = (x-xᵢ)/h, h = xᵢ₊₁-xᵢ
      φ₀,φ₁,ψ₀,ψ₁ 为 Hermite 基函数（与 §3.4 相同）

💡 算法思路：Akima = 局部导数加权估计 + Hermite 分段拼接。省掉了样条插值中解三对角方程组那步，因此计算量从 O(N) 进一步降低——但这个 O(N) 本身就很快了，Akima 真正的优势是局部性：修改一个数据点后不需要重算整条曲线。

6.5 边界处理

在端点处需要额外的数据来估算导数：

左端点：用最左 3 个点的二次外推估计导数
右端点：用最右 3 个点的二次外推估计导数

7. 多维插值

7.1 双线性插值

人话：二维表格数据，先沿 x 方向插值，再沿 y 方向插值（或反过来），结果等价。

场景：已知网格四点 f(x₀,y₀), f(x₁,y₀), f(x₀,y₁), f(x₁,y₁)，求中间点 f(x,y)。

策略1（逐方向插值）：

Step 1: 在 y=y₀ 这行沿 x 插值
        f(x,y₀) = f(x₀,y₀)·(x₁-x)/Δx + f(x₁,y₀)·(x-x₀)/Δx

        在 y=y₁ 这行沿 x 插值
        f(x,y₁) = f(x₀,y₁)·(x₁-x)/Δx + f(x₁,y₁)·(x-x₀)/Δx

Step 2: 用上面两个结果沿 y 插值
        f(x,y) = f(x,y₀)·(y₁-y)/Δy + f(x,y₁)·(y-y₀)/Δy

        Δx = x₁-x₀,  Δy = y₁-y₀

面积权重理解（另一种等价的看法）：

把点 (x,y) 到四个角连成四个小矩形：
f(x,y) = f₁₁·A₁₁ + f₁₀·A₁₀ + f₀₁·A₀₁ + f₀₀·A₀₀

其中 A 是 (x,y) 到对角的矩形面积占整个网格面积的比例
权重之和 = 1（距离归一化到单位1）

7.2 推广到三维

三维插值 = 先做二维插值得到若干平面上的值，再沿第三方向插值。方法可递推。

7.3 散点数据方法

方法	思路	特点
回归分析	最小二乘拟合	全局光滑
Kriging（克里金法）	空间统计插值	地质统计标准方法
Radial Basis Function	径向基函数加权	灵活处理散点

💡 延伸思考：均匀网格的双线性插值在图像缩放中无处不在（cv2.resize 的 INTER_LINEAR 就是它），因为计算极快且效果可接受。

8. 分数多项式插值与 Padé 近似

8.1 有理函数插值

人话：普通多项式遇到函数有极点（分母为零）时会很糟糕。用分子/分母形式的有理函数 R(x) 可以自然描述极点行为——分母的零点就是极点。

形式：

R(x) = P(x)/Q(x)，其中 P 是 u 次多项式，Q 是 v 次多项式

通过 m+1 = u+v+1 个数据点来确定系数。

8.2 Padé 近似

人话：给定函数的 Taylor 展开，找一个分子 u 次 + 分母 v 次的有理函数，使得有理函数展开后的前 u+v 项与 Taylor 展开完全相同。

构造（令 b₀=1）：

函数 f(x) 的 Taylor 级数：
f(x) = a₀ + a₁·x + a₂·x² + a₃·x³ + ...

Padé 近似 R(x) = (p₀ + p₁x + ... + p_u x^u) / (1 + b₁x + ... + b_v x^v)

要求：R(x) 展开后前 u+v+1 项系数与 Taylor 展开一致

系数求解 — 线性方程组：

对于 k ≥ u+1:
a_k + a_{k-1}·b₁ + a_{k-2}·b₂ + ... + a_{k-v}·b_v = 0

这是关于 b₁,b₂,...,b_v 的方程组（v 个方程解 v 个未知数）

解出 b_i 后回代得到 p₀,...,p_u:
p₀ = a₀
p₁ = a₁ + a₀·b₁
p₂ = a₂ + a₁·b₁ + a₀·b₂
...

数值例子：f(x) = eˣ 的 Padé [1,1] 近似

Taylor: eˣ = 1 + x + x²/2 + x³/6 + ...

设 R(x) = (p₀ + p₁x) / (1 + b₁x)

方程（k=2）: a₂ + a₁·b₁ = 0
→ 1/2 + 1·b₁ = 0
→ b₁ = -1/2

回代：p₀ = a₀ = 1
      p₁ = a₁ + a₀·b₁ = 1 + 1·(-1/2) = 1/2

因此 R(x) = (1 + x/2) / (1 - x/2)
         = (2+x)/(2-x)

验证：展开 R(x) = 1 + x + x²/2 + x³/4 + ...
      其中前3项与 eˣ 完全相同！

💡 为什么 Padé 好？ Padé 在极点附近表现远优于 Taylor 截断。例如 1/(1-x) 在 x≈1 附近，Taylor 需要很多项才收敛，而 Padé [0,1] = 1/(1-x) 直接就对了。

9. 数值微分

9.1 核心思想

人话：从拉格朗日插值多项式 P(x) 出发，直接对 P(x) 求导得到数值微分公式。P(x) 是对 f(x) 的近似，所以 P'(x) 就是对 f'(x) 的近似。

9.2 两点公式（前向差分）

从两点插值推导：已知 f(x) 和 f(x+h) 在 $x_0$ 的取值

插值: P(x) = f(x₀)·(x₁-x)/h + f(x₁)·(x-x₀)/h
求导: P'(x) = [-f(x₀) + f(x₁)] / h

f'(x₀) ≈ [f(x₀+h) - f(x₀)] / h     ← 前向差分 (Forward Difference)

误差：O(h) —— 一阶精度

9.3 三点公式

三点中点公式（误差 O(h²)，最常用）：

已知：f(x-h), f(x), f(x+h)

f'(x) ≈ [f(x+h) - f(x-h)] / (2h)       ← 中心差分，O(h²)

三点端点公式（用于边界）：

f'(x₀) ≈ [-3f(x₀) + 4f(x₁) - f(x₂)] / (2h)      ← 左端点，O(h²)
f'(x₂) ≈ [f(x₀) - 4f(x₁) + 3f(x₂)] / (2h)       ← 右端点，O(h²)

数值验证：f(x) = x³，在 x=1 处，h=0.1

真实值: f'(1) = 3

中点公式: [f(1.1) - f(0.9)] / 0.2 = (1.331 - 0.729) / 0.2 = 3.01
                                    误差 ≈ 0.01 = O(h²) ✓

前向差分: [f(1.1) - f(1)] / 0.1 = (1.331 - 1) / 0.1 = 3.31
                                    误差 ≈ 0.31 = O(h) ✓

📊 对比：
前向/后向差分 O(h)：用 2 点，精度一般，适合简单估算
中心差分 O(h²)：用 3 点，精度高一阶，最常用
五点公式 O(h⁴)：用 5 点，精度更高，但需更多数据

9.4 五点公式

五点中点公式：

f'(x₀) ≈ [f(x₀-2h) - 8f(x₀-h) + 8f(x₀+h) - f(x₀+2h)] / (12h)

权重系数：[-1, +8, 0, -8, +1] / (12h)，关于中心点反对称。

五点端点公式：

f'(x₀) ≈ [-25f(x₀) + 48f(x₁) - 36f(x₂) + 16f(x₃) - 3f(x₄)] / (12h)

系数表（对于等距点 x₀, x₀+h, x₀+2h, x₀+3h, x₀+4h）：

位置	系数 × 12h	说明
x₀	-25	最左
x₁	+48
x₂	-36
x₃	+16
x₄	-3	最右
精度	O(h⁴)

9.5 二阶微分

三点公式（从二阶泰勒展开推导）：

f''(x) ≈ [f(x+h) - 2f(x) + f(x-h)] / h²       ← 中心差分，O(h²)

五点二阶微分公式：

f''(x) ≈ [-f(x+2h) + 16f(x+h) - 30f(x) + 16f(x-h) - f(x-2h)] / (12h²)

系数：[-1, +16, -30, +16, -1] / (12h²)，关于中心点对称。

除了从插值多项式求导，还可以先做样条插值 → 对样条函数直接解析求导，这样得到的导数在整个区间连续且光滑。

样条插值微分的优雅解决方案：

全局拟合：我们先用上一节学到的三次样条插值（Cubic Spline），将所有数据点拟合成一条全局光滑的曲线。在每一个区间上，我们都得到了一个极其平滑的解析函数： $Sj(x) = aj + bj(x-xj) + cj(x-xj)^2 + dj(x-xj)^3$
解析求导：因为我们已经求出了所有的系数 $aj, bj, cj, dj$，所以我们可以直接在数学上对这个三次多项式求导，得到一阶和二阶导数： $S'j(x) = bj + 2cj(x-xj) + 3dj(x-xj)^2$ $S''j(x) = 2cj + 6dj(x-xj)$

这样做的巨大优势：

全局一阶连续性：在所有数据点的拼接处，样条插值本身就强制要求了一阶和二阶导数的连续性。因此，你求出来的导数曲线 $S'(x)$ 将是一条完全无缝、平滑的连续曲线，而不会像普通差分法那样在点与点之间出现不连续的跳跃。
天然的去噪抗噪性：样条插值在求解三对角方程组时，相当于把每一个点的变动通过全局约束“平摊”到了整根铁丝上，它具有物理上最小弯曲能量的限制，因此它对局部的噪声点具有极强的过滤作用。求导出来的结果远比直接做差分要稳定得多！

10. 牛顿-柯特斯积分

10.1 核心思想

人话：从拉格朗日插值多项式出发，直接对整个插值多项式求定积分。
∫f(x)dx ≈ ∫P(x)dx。因为多项式积分有解析公式，所以得到的就是加权和形式的数值积分公式。

数值积分！！！工程计算中很核心的广泛应用的领域

News-Cotes Formulas

10.2 通用形式

对于一个复杂的连续函数 f(x) 无法直接求出原函数就利用一个好积分的函数去近似 f(x) 然后对于近似的函数求取积分 —— 好的函数就是多项式（插值前面的方法）

设我们在等距分点 $xk = a + k \cdot h$ (其中步长为 $h = \frac{b-a}{n}$ ) 构造一个 n次的的拉格朗日多项式 $P{n}(x)$

$$ f(x) \sim P{n}(x) = \sum{k = 0}^{n} f(xk) Lk(x) $$ L(x) 就是Lagrange 基函数：

$$ L{k}(x) = \prod{i=0, i \ne k}^{n} \frac{x- xi}{xk - x_i} $$ 现在我们对这个多项式在范围 a 到 b上进行求和积分：

$$ \int{a}^{b} f(x) dx \approx \int{a}^{b} Pn(x) dx = \int{a}^{b} \sum{k=0}^{n} f(xk) L_k(x) dx $$

由于积分是线性算子，我们可以将积分号与求和号对调，把已知的节点值 $f(x_k)$ 提出来：

$$ \int{a}^{b} f(x) dx \approx \sum{k=0}^{n} f(xk) \underbrace{\int{a}^{b} Lk(x) dx}{A_k} $$

此为 N-C通用形式的由来！

积分值完全等价于各个节点值 $f(x_{k})$ 的加权和

权重 $Ak = \int{a}^{b} L_k(x) dx$。

我们对其进行自变量代换，令 $x = a + t \cdot h$（其中 $t \in [0, n]$），则 $dx = h \cdot dt$

$$ Ak = h \cdot \int{0}^{n} \prod{i=0, i \neq k}^{n} \frac{t - i}{k - i} dt = (b-a) \cdot \underbrace{\frac{1}{n} \int{0}^{n} \prod{i=0, i \neq k}^{n} \frac{t - i}{k - i} dt}{C_k^{(n)}} $$

这里，$C_k^{(n)}$ 就是著名的柯特斯系数（Cotes Coefficients）。它满足：

与 $f(x)$ 毫无关系，只与插值阶数 $n$ 以及节点索引 $k$ 有关。
对称性：$Ck^{(n)} = C{n-k}^{(n)}$（这是由基函数关于中心点对称的代数结构决定的）。
归一性：$\sum{k=0}^{n} Ck^{(n)} = 1$（因为如果 $f(x) = 1$，多项式插值是完全精确的，此时积分值为 $(b-a)$，代入上式必然要求系数和为 1）。

10.3 常用低阶公式

(1) 梯形公式（n=1，2点）

步长 $h = b-a$，节点为 $x0 = a, x1 = b$。

拉格朗日基函数为： $L0(x) = \frac{x - x1}{x0 - x1} = \frac{b - x}{b - a}$ $L1(x) = \frac{x - x0}{x1 - x0} = \frac{x - a}{b - a}$

求它们的积分： $A0 = \int{a}^{b} \frac{b - x}{b - a} dx = \frac{1}{b-a} \left[ bx - \frac{1}{2}x^2 \right]{a}^{b} = \frac{(b-a)^2}{2(b-a)} = \frac{b-a}{2}$ 同理，由于对称性， $A1 = \frac{b-a}{2}$。

所以，我们极其自然地得到了梯形公式： $\int_{a}^{b} f(x) dx \approx \frac{b-a}{2} [f(a) + f(b)]$

柯特斯系数为 $[C0^{(1)}, C1^{(1)}] = [\frac{1}{2}, \frac{1}{2}]$

区间 [x₀, x₁]，h = x₁-x₀
积分 ≈ h × [f(x₀) + f(x₁)] / 2
系数: C₀^(1) = C₁^(1) = 1/2

几何意义：用梯形面积代替曲线下面积。

误差：$O(h³·f''(ξ))$，有 1 次代数精度（对一次多项式精确）。

具体数值：∫₀¹ x² dx，h=1

梯形: 1 × [0² + 1²]/2 = 0.5
真实值: 1/3 ≈ 0.333
误差 ≈ 0.167

(2) Simpson 公式（n=2，3点，抛物线法则）

步长 $h = \frac{b-a}{2}$，三个节点分别为：$x0 = a$，$x1 = \frac{a+b}{2}$，$x_2 = b$。

为了简化积分计算，我们做无损平移，让中点 $x1$ 落在原点 $0$ 上。此时，三个节点变为：$-h, 0, h$。我们来写出 $L1(x)$ 的表达式：

$L1(x) = \frac{(x - x0)(x - x2)}{(x1 - x0)(x1 - x_2)} = \frac{(x + h)(x - h)}{(0 + h)(0 - h)} = \frac{h^2 - x^2}{h^2}$

对 $L_1(x)$ 进行在 $[-h, h]$ 上的积分：

$A1 = \int{-h}^{h} \frac{h^2 - x^2}{h^2} dx = \frac{1}{h^2} \left[ h^2 x - \frac{1}{3}x^3 \right]_{-h}^{h} = \frac{1}{h^2} \left( 2h^3 - \frac{2}{3}h^3 \right) = \frac{4}{3}h$

由于总区间长度为 $b-a = 2h$，所以： $A1 = \frac{2}{3}(b-a) \implies C1^{(2)} = \frac{2}{3} = \frac{4}{6}$

由对称性，另外两个系数 $A0 = A2$。又因为所有系数和必须为 $b-a = 2h$，所以： $A0 + A2 = 2h - \frac{4}{3}h = \frac{2}{3}h \implies A0 = A2 = \frac{1}{3}h = \frac{b-a}{6}$ 即 $C0^{(2)} = C2^{(2)} = \frac{1}{6}$。

Simpson 公式诞生：

$$ \int_{a}^{b} f(x) dx \approx \frac{b-a}{6} [f(a) + 4f\left(\frac{a+b}{2}\right) + f(b)] $$

区间 [x₀, x₁, x₂]，h = (b-a)/2
积分 ≈ (b-a)/6 × [f(x₀) + 4f(x₁) + f(x₂)]
系数: C₀^(2) = 1/6, C₁^(2) = 2/3, C₂^(2) = 1/6
等价于: h/3 × [1, 4, 1] · [f₀, f₁, f₂]ᵀ

具体数值：

$\int_{0}^{2} x^{2} dx ，h=1$

三个点: x₀=0, x₁=1, x₂=2
f₀=0, f₁=1, f₂=4

Simpson: 2/6 × [0 + 4×1 + 4] = (2/6)×8 = 8/3 ≈ 2.667
真实值: 8/3 ≈ 2.667  ← 精确！(x²是2次多项式，Simpson有3次精度)

误差： $O(h⁵·f⁽⁴⁾(ξ))$，有 3 次代数精度。

代数精度（Degree of Precision）：

定义：如果一个数值积分公式对于任意次数不超过 $m$ 的多项式都能完全精确地成立，而对于 $m+1$ 次多项式不精确，则称该公式具有 $m$ 次代数精度。

按照常理，我们用 $n$ 次拉格朗日多项式去近似函数并做积分，得到的公式应该刚好能对 $n$ 次多项式精确，即具有 $n$ 次代数精度。

比如梯形公式（$n=1$）对 $f(x)=x$ 精确，代数精度为 $1$。

但是，Simpson公式（$n=2$）创造了一个数学奇迹！ 它使用的是二次插值（抛物线），理论上只能对二次多项式精确。但是，它对任意三次多项式 $f(x) = x^3$ 居然也是完美精确的！ 它的代数精度是 3

为什么会平空多出一阶精度？

我们用泰勒展开在对称中心 $x_1$ 处对误差项进行分析。

由于 Simpson 公式的节点在几何上是完全对称的，当我们把积分误差展开成泰勒级数时，所有奇数阶的误差项会因为正负抵消而彻底消失！

具体来说，对于 $f(x) = x^3$，其三阶导数 $f'''(x)$ 是个常数，其四阶导数 $f^{(4)}(x) = 0$。而 Simpson 公式的截断误差公式为： $R[f] = -\frac{(b-a)^5}{2880} f^{(4)}(\xi)$ 因为 $f^{(4)}(\xi) = 0$，所以对于任何三次多项式，其误差严格为零。

💡 黄金规律：对于等距节点且对称的 Newton-Cotes 公式，当阶数 $n$ 为偶数时，其代数精度总是为 $n+1$。它会无条件向高处赠送一阶精度！
这就是为什么大家极度钟爱偶数点公式（如 Simpson 公式、五点柯特斯公式）的根本原因。

📝 推导练习提示：把拉格朗日 L₂(x) 带入积分 ∫L₂(x)dx，化简即得 Simpson 公式。

(3) 柯特斯公式（n=4，5点）

区间 [x₀, ..., x₄]，h = (b-a)/4
积分 ≈ (b-a)/90 × [7f(x₀) + 32f(x₁) + 12f(x₂) + 32f(x₃) + 7f(x₄)]
系数: ×(b-a): [7/90, 32/90, 12/90, 32/90, 7/90]
       ≈ [0.078, 0.356, 0.133, 0.356, 0.078]

误差：O(h⁷·f⁽⁶⁾(ξ))，有 5 次代数精度。

10.4 牛顿-柯特斯系数表

n	系数 (× 分母)	分母	精度阶
1	[1, 1]	2	1
2	[1, 4, 1]	6	3
3	[1, 3, 3, 1]	8	3
4	[7, 32, 12, 32, 7]	90	5
5	[19, 75, 50, 50, 75, 19]	288	5
6	[41, 216, 27, 272, 27, 216, 41]	840	7

💡 注意：n 越大不一定越好！n≥8 时柯特斯系数出现负数，导致舍入误差放大（与龙格现象类似的原因）。实用中都用复合低阶公式。

在插值法那一章，我们学过龙格现象（Runge's Phenomenon）：在等距节点下，高阶多项式会在边界处产生剧烈的、病态的往复震荡 [9.4, 10.5]。

由于 Newton-Cotes 的权重 $Ak$ 本质上就是对拉格朗日基函数 $Lk(x)$ 的积分：当 $n \ge 8$ 时，由于高阶插值在边界处的急剧震荡，基函数在某些区域的值会变得极大且为负数。这直接导致积分出来的柯特斯系数 $C_k$ 出现了负数 [10.3, 10.5]。

为什么系数出现负数是致命的？

设我们在计算机中进行数值积分，每个点上的函数值都有微小的舍入误差 $\epsilonk$（由计算机双精度浮点数限制产生）。我们实际计算出的加权和为： $I{\text{calc}} = \sum{k=0}^{n} Ak (f(xk) + \epsilonk) = \sum{k=0}^{n} Ak f(xk) + \sum{k=0}^{n} Ak \epsilonk$

根据误差传播理论，最终积分结果的误差方差正比于： $\sum{k=0}^{n} Ak^2$

当所有 $A_k$ 均为正数时（由于 $\sum Ak = b-a$）：所有的 $Ak$ 都比较小，平方和 $\sum A_k^2$ 也会非常小。误差被平摊并受到了抑制。
当某些 $A_k$ 变为负数时：由于所有系数的和必须依然等于 $(b-a)$，这会导致其余正的系数必须变得非常大（例如，有些系数变成 $+10$，有些变成 $-9$，它们加起来还是 $1$）。但在计算平方和时，负号消失了： $(+10)^2 + (-9)^2 = 100 + 81 = 181 \gg 1$ ——> 这意味着，输入数据中哪怕只有 $10^{-16}$ 的极其微小的舍入误差，乘以这些巨大的正负权重后，也会在求和过程中被急剧放大，导致最终的积分结果完全失真！

解决方案：复合低阶公式（Composite Rules）

为了避免高阶公式的灾难，我们在实际中绝不使用单段的高阶 Newton-Cotes 公式。相反，我们会把大区间 $[a, b]$ 劈成 $M$ 个极小的子区间。在每一个子区间上，我们只使用极其稳定、绝对不会产生负系数的低阶公式（如复合梯形公式或复合 Simpson 公式），最后把所有子区间的积分值累加起来。这样既保证了计算的极度稳定，又可以通过增加分点来无限逼近真实积分值。

11. 复合积分与变步长积分

11.1 复合积分思想

一大段区间用高阶公式不如切成很多小段、每段用低阶公式，然后把结果加起来。这就是"复合"求积公式。

11.2 复合 Simpson 公式

代数拼装推导

假设我们将大区间 $[a, b]$ 等分为 $n$ 个小段（注意：因为 Simpson 公式本身需要 $3$ 个点才能构成一个子抛物线，所以小区间数 $n$ 必须是偶数）。步长 $h = \frac{b-a}{n}$。我们把这 $n$ 个区间两两成对地结合起来，一共拼成 $M = n/2$ 个双步长区间：

第 1 对：$[x0, x2]$，它的三个点是 $x0, x1, x_2$。
第 2 对：$[x2, x4]$，它的三个点是 $x2, x3, x_4$。
第 3 对：$[x4, x6]$，它的三个点是 $x4, x5, x_6$。
$\dots$
最后 1 对：$[x{n-2}, xn]$，它的三个点是 $x{n-2}, x{n-1}, x_n$。

在每一对上，我们单独套用一次单步长为 $h$ 的标准 Simpson 公式：

$\int{x0}^{x2} f(x)dx \approx \frac{h}{3} [1 \cdot f(x0) + 4 \cdot f(x1) + 1 \cdot f(x2)]$

$\int{x2}^{x4} f(x)dx \approx \frac{h}{3} [1 \cdot f(x2) + 4 \cdot f(x3) + 1 \cdot f(x4)]$

$\int{x4}^{x6} f(x)dx \approx \frac{h}{3} [1 \cdot f(x4) + 4 \cdot f(x5) + 1 \cdot f(x6)]$

$\dots$

$\int{x{n-2}}^{xn} f(x)dx \approx \frac{h}{3} [1 \cdot f(x{n-2}) + 4 \cdot f(x{n-1}) + 1 \cdot f(xn)]$

最后，我们把这所有的子区间积分全部加起来。 注意看那些相接的边界点（偶数下标点，如 $x2, x4, x_6 \dots$）！

节点 $x_1$ 只有第 1 对区间用到，权重为 $4$。
节点 $x_2$ 既是第 1 对区间的右端点，又是第 2 对区间的左端点。因此，它的权重被加了两次：$1 + 1 = 2$！
同理，所有奇数下标的节点（ $x1, x3, x_5 \dots$）都正好落在各自抛物线段的内部，权重永远保持为 $4$；
所有偶数下标的节点（ $x2, x4, x6 \dots$），除了最首端的 $x0$ 和最末端的 $x_n$ 之外，全部是两个抛物线的交界点，所以权重全部变成 $1+1=2$。

因此，复合 Simpson 的系数形式被无缝地拼接出来：

$$ \inta^b f(x)dx \approx \frac{h}{3} \left[ f0 + fn + 4\sum{\text{奇数 } i} fi + 2\sum{\text{偶数 } i \neq 0,n} f_i \right] $$

将 [a,b] 等分成 n 个子区间（n 为偶数），每个子区间 [x{2k-2}, x{2k}] 用 Simpson 公式：

步长 h = (b-a)/n

∫_a^b f(x)dx ≈ 
h/3 × [ f₀ + f_n + 4(f₁+f₃+...+f_{n-1}) + 2(f₂+f₄+...+f_{n-2}) ]
      首      尾      奇数下标(×4)            偶数下标(×2，除首尾)

系数模式：1 → 4 → 2 → 4 → 2 → ... → 4 → 2 → 4 → 1

具体数值例子： $\int_{0}^{4} x² dx$，分成 4 段 (n=4)，h=1

分点: x₀=0, x₁=1, x₂=2, x₃=3, x₄=4
f值:     0,    1,    4,    9,   16

复合Simpson:
= 1/3 × [0 + 16 + 4×(1+9) + 2×(4)]
= 1/3 × [16 + 40 + 8]
= 1/3 × 64 = 64/3 ≈ 21.333

真实值: 4³/3 = 64/3 ≈ 21.333  ← 精确！

11.3 误差估计

在数值积分中，误差阶通常被写成 $O(h^p)$

公式	误差阶	n加倍后误差缩小
复合梯形	O(h²)	1/4
复合 Simpson	O(h⁴)	1/16
复合柯特斯	O(h⁶)	1/64

假设我们正在用复合 Simpson 求解一个积分。

当我们把划分的段数 $n$ 加倍（意味着网格步长 $h$ 缩小到了原来的一半 $h{\text{new}} = \frac{1}{2}h{\text{old}}$）：

因为复合 Simpson 拥有 $O(h^4)$ 的高精度收敛性，其截断误差中包含一个 $h^4$ 的因子。

$$ \text{Error}{\text{new}} \approx C \cdot \left(\frac{h}{2}\right)^4 = C \cdot \frac{h^4}{16} = \frac{1}{16} \text{Error}{\text{old}} $$ 这意味你只需要付出双倍的计算量，误差就会瞬间暴跌至原来的 $\frac{1}{16}$（大约降低了一个数量级还要多）！这就是高阶复合积分公式在实际工程中展现出的恐怖威力。

11.4 变步长积分

不知道用多大的步长合适，从大步长开始，不断二分，直到相邻两次计算结果足够接近。
不断二分网络通过“新结果”与“旧结果” 的差值，实时自我估算当前的绝对误差！

设原本有 $n$ 段，步长为 $h$。它的复合梯形公式结果为：

$Tn = h \left[ \frac{1}{2}f(a) + f(x1) + f(x2) + \dots + f(x{n-1}) + \frac{1}{2}f(b) \right]$

现在，我们把每一段一分为二，步长变为 $h_{\text{new}} = \frac{h}{2}$，段数变成 $2n$。

新增加的那些中点我们记为 $x{1/2}, x{3/2}, \dots, x_{n-1/2}$（共 $n$ 个新增中点）。

现在我们写出全新的 $T{2n}$（它一共有 $2n+1$ 个点，我们依然把老点和新点在括号里剥离开）： $T{2n} = h{\text{new}} \cdot \left{ \underbrace{\left[ \frac{1}{2}f(a) + f(x1) + \dots + \frac{1}{2}f(b) \right]}{\text{所有老点组成的项}} + \underbrace{\sum f(\text{所有新中点})}{\text{所有新点组成的项}} \right}$

因为 $h{\text{new}} = \frac{1}{2} h$，我们把括号前面的 $h{\text{new}}$ 分配进去：

第一项变成了： $\frac{1}{2} h \cdot \left[ \frac{1}{2}f(a) + f(x1) + \dots + \frac{1}{2}f(b) \right]$ **这正是 $\frac{1}{2}Tn$！ **
第二项保持原样： $h_{\text{new}} \cdot \sum f(\text{所有新中点})$。

于是，我们极其自然地得到了这个递推公式 [11.4]：

$$ T{2n} = \frac{1}{2} Tn + h_{\text{new}} \sum f\left( 新增中点 \right) $$

变步长梯形算法流程：

步骤1: 初始 n=1
    T₁ = (b-a)·[f(a)+f(b)]/2   ← 一个梯形

步骤2: n 翻倍，利用旧结果
    T₂ₙ = Tₙ/2 + h_new × (新增中点的函数值之和)
    新增中点在: a+h/2, a+3h/2, a+5h/2, ...

步骤3: 检查收敛
    如果 |T₂ₙ - Tₙ| < ε  → 停止
    否则 → 回到步骤2

收敛判定：二分后误差 ≈ 原误差 / 4（对梯形法）

$如果 |T₂ₙ - Tₙ| < ε，则近似积分误差 ≈ |T₂ₙ - Tₙ|/3 < ε/3。$

为什么这里平空冒出了一个除以 3？

这个结论叫做理查森外推（Richardson Extrapolation）估算，它的推导极其经典：

我们知道复合梯形公式的真实值 $I$ 与其近似值 $Tn$ 之间的关系可以写成（其中 $C$ 是与步长无关的常数）： $(1) \quad I - Tn = C \cdot h^2 + O(h^4)$

当我们将区间数加倍到 $2n$ 时，新步长变为了 $\frac{h}{2}$。新近似值 $T{2n}$ 与真实值的关系为： $(2) \quad I - T{2n} = C \cdot \left(\frac{h}{2}\right)^2 + O(h^4) = \frac{1}{4} C \cdot h^2 + O(h^4)$

我们现在用方程 $(1)$ 减去方程 $(2)$，以此消去未知积分真实值 $I$： $T{2n} - Tn = \left( C \cdot h^2 \right) - \left( \frac{1}{4} C \cdot h^2 \right) = \frac{3}{4} C \cdot h^2$

由此，我们解出了未知的常量 $C \cdot h^2$： $C \cdot h^2 = \frac{4}{3} (T{2n} - Tn)$

我们把这个解出来的 $C \cdot h^2$ 重新代回到方程 $(2)$ 中，去看看当前最新计算出来的 $T_{2n}$ 距离真实值 $I$ 到底还差多少：

$\text{当前实际误差} = |I - T{2n}| \approx \frac{1}{4} C \cdot h^2 = \frac{1}{4} \cdot \left[ \frac{4}{3} (T{2n} - Tn) \right] = \frac{1}{3} |T{2n} - T_n|$

证毕！ 这个推导简直妙不可言：我们无法得知积分的真实值 $I$，但我们通过两次近似结果的差值 $|T{2n} - Tn|$，就能极其精准地估算出当前的实际截断误差恰好就是差值的 $\frac{1}{3}$！ [11.4]

因此，只要我们在程序里监测到 $|T{2n} - Tn| < \epsilon$（比如 $3 \times 10^{-6}$），我们就能百分之百自信地确信：当前最新的估算值 $T_{2n}$ 的实际误差绝对不会超过 $\frac{\epsilon}{3}$（即 $10^{-6}$）！我们可以立刻安全地终止程序，输出结果。这就是变步长数值积分的精髓所在。

12. 理查森外推与龙贝格算法

12.1 理查森外推思想

人话：一个近似量的误差可以写成 h² 的级数，那么用两个不同步长计算出的结果，可以"消除"最低阶误差项，得到更高精度的近似。

12.2 外推原理

数值微分/积分公式的误差可以写成 h 的偶次幂级数：

D(h) = D_exact + A·h² + B·h⁴ + C·h⁶ + ...
                     ↑ 用两个不同h消掉这项

消去 h² 项：用步长 h 和 h/2 各算一次

D_exact ≈ D(h/2) + [D(h/2) - D(h)] / 3          ← 精度提升两阶！

或者记作: D^(1) = (4·D(h/2) - D(h)) / 3

这就是理查森一阶外推公式！

$$ D^{(1)} = \frac{4 \cdot D\left(\frac{h}{2}\right) - D(h)}{3} = D\left(\frac{h}{2}\right) + \frac{D\left(\frac{h}{2}\right) - D(h)}{3} $$

精度跃升：原来的 $D(h)$ 和 $D(\frac{h}{2})$ 都只有二阶精度 $O(h^2)$。
但通过这个极其简单的线性组合，我们不费吹灰之力，将最低阶误差项 $h^2$ 彻底消灭，得到的 $D^{(1)}$ 精度瞬间暴涨到了 四阶精度 $O(h^4)$ ！

12.3 数值例子（微分外推）

用中心差分计算 f'(1)，f(x)=sin x：

步长 h=0.4:
  D(0.4) = [sin(1.4)-sin(0.6)]/0.8
         = (0.9854-0.5646)/0.8 = 0.5260

步长 h=0.2:
  D(0.2) = [sin(1.2)-sin(0.8)]/0.4
         = (0.9320-0.7174)/0.4 = 0.5365

外推一次: D_exact ≈ D(0.2) + [D(0.2)-D(0.4)]/3
                 = 0.5365 + 0.0105/3 = 0.5400

真实值: cos(1) = 0.5403    ← 外推后精度大幅提升！
原始误差 0.0142 → 0.0003

12.4 Romberg 积分

理查德外推可以将精度提升两阶的好用的东西那么 Romberg积分就是把这一手段无限嵌套、循环使用的终极策略！！！

理查森外推 + 复合梯形公式 = Romberg 积分。
梯形法逐次二分 → 用不同步长的结果外推 → 精度跃升。

Romberg算法的直观理解：

复合梯形公式 $T_0(h)$ 的精度是 $O(h^2)$

如果我们把 $T0(h)$ 和 $T0(\frac{h}{2})$ 进行一次理查森外推，消去 $h^2$ 项，得到的新结果其精度为 $O(h^4)$。在数学上，这个结果恰好等价于复合 Simpson 公式 $T_1(h)$ 的值 ！

同理，既然我们有了好几个不同步长的 Simpson 值 $T1(h)$ 和 $T1(\frac{h}{2})$（精度均为 $O(h^4)$），那我们能不能对它们再做一次外推，消去 $h^4$ 项？可以！外推后，精度再次暴涨两阶，达到 $O(h^6)$，这恰好等价于复合 Cotes 公式 $T_2(h)$。

以此类推，我们对 Cotes 的值再做外推，就能得到拥有 $O(h^8)$ 恐怖精度的 Romberg 值 $T_3(h)$ ！

Romberg 表格（T-表）：

第0列(T₀): 复合梯形     O(h²)
第1列(T₁): Simpson       O(h⁴)   = (4×T₀(h/2) - T₀(h)) / 3
第2列(T₂): Cotes         O(h⁶)   = (16×T₁(h/2) - T₁(h)) / 15
第3列(T₃): Romberg       O(h⁸)   = (64×T₂(h/2) - T₂(h)) / 63

核心递推公式

$$ T{j}^{k} = \frac{4^{j} · T{j-1}^{k+1} - T_{j-1}^{k} }{(4^{j} - 1)} $$ j ：代表列精度阶数也就是外推了多少次

k：代表行区间划分次数即二分了多少次

         j = 0            j = 1            j = 2            j = 3
         梯形列           Simpson列         Cotes列         Romberg列
       (原始计算)        (一阶外推)        (二阶外推)        (三阶外推)
   ─────────────────────────────────────────────────────────────

k = 0 (1段) T_0^(0) ──┐

│

k = 1 (2段) T0^(1) ──┴───→ T1^(0) ──┐

                        │                                        │

k = 2 (4段) T0^(2) ──┴───→ T1^(1) ──┴───→ T_2^(0) ──┐

                        │                                       │                                         │

k = 3 (8段) T0^(3) ──┴───→ T1^(2) ──┴───→ T2^(1) ──┴───→ T3^(0)

现在你再去看这个外推公式： $T{\color{blue}j}^{({\color{red}k})} = \frac{4^j \cdot T{{\color{blue}j-1}}^{({\color{red}k+1})} - T_{{\color{blue}j-1}}^{({\color{red}k})}}{4^j - 1}$

就会发现，要计算一个新位置 $Tj^{(k)}$，它只依赖于它左边那一列（$j-1$）的两个相邻数[3](https://vertexaisearch.cloud.google.com/grounding-api-redirect/AUZIYQHrOdU0IjeJA36OwX-VRqo5zcVhObNFI9sYsP7dO8zlvYwpXn8TIbzrgEnQZbpw4vcrMk3iJxD98WXCWHNL5JnK5w6XkyIHpiBX6tP6jOZy9CgNJYY8WiSWrON-kGn7QGoWG32KmdA-8Q9N314fM4=)：

一个是它左下方的数： $T_{j-1}^{(k+1)}$
一个是它正左方的数： $T_{j-1}^{(k)}$

我们要算 Simpson 列的第一项 $T_1^{(0)}$ ( $j=1, k=0$)：

我们需要它左下方的 $T0^{(1)}$ 和正左方的 $T0^{(0)}$： $T1^{(0)} = \frac{4 \cdot T0^{(1)} - T_0^{(0)}}{3}$

我们要算 Cotes 列的第一项 $T_2^{(0)}$ ( $j=2, k=0$) [12.5]：

我们需要它左下方的 $T1^{(1)}$ 和正左方的 $T1^{(0)}$： $T2^{(0)} = \frac{16 \cdot T1^{(1)} - T_1^{(0)}}{15}$

可以来拆解下不同列就是不同 j 时候的具体的代数形式：

1、j = 1 （k = 0 做一次二分）从梯形外推到 Simpson：

带入数值可以得到

$T{1}^{(k)} = \frac{4\cdot T0(h/2)- T_0(h)}{3}$

用来消去 $h^2$ 项的标准理查森外推公式

当 $j=2$ 时（从 Simpson 外推到 Cotes）：

因为此时我们要消去的是 $h^4$ 项，它的误差变化比例是 $\left(\frac{1}{2}\right)^4 = \frac{1}{16}$。

所以我们要用系数 $16$ 来消元 [12.4]：

$T2^{(k)} = \frac{4^2 \cdot T1^{(k+1)} - T1^{(k)}}{4^2 - 1} = \frac{16 \cdot T1(h/2) - T_1(h)}{15}$

当 $j=3$ 时（从 Cotes 外推到 Romberg）：

消去 $h^6$ 项，误差变化比例是 $\left(\frac{1}{2}\right)^6 = \frac{1}{64}$

$T3^{(k)} = \frac{4^3 \cdot T2^{(k+1)} - T2^{(k)}}{4^3 - 1} = \frac{64 \cdot T2(h/2) - T_2(h)}{63}$

数学的和谐之美在此处展现得淋漓尽致。所有的外推步骤都被优雅地统一在了一个极其简单的公式 $T_j^{(k)}$ 中。在写代码时，只需要两层循环，就能把整张 Romberg 表源源不断地算出来。

12.5 Romberg 完整数值例子

计算 ∫₀¹ 1/(1+x) dx = ln 2 ≈ 0.693147

步骤1 — 逐次二分梯形:

n=1, h=1:
  T₀^(0) = 1·[1 + 1/2]/2 = 0.750000

n=2, h=0.5:
  T₀^(1) = 0.5/2·[1 + 2×(1/1.5) + 1/2]
         = 0.25·[1 + 1.3333 + 0.5] = 0.708333

n=4, h=0.25:
  T₀^(2) = 0.25/2·[1 + 2×(1/1.25+1/1.5+1/1.75) + 1/2]
         = 0.125·[1 + 4.0762 + 0.5] = 0.697024

n=8, h=0.125:
  T₀^(3) = ... = 0.694122

步骤2 — Romberg 外推:

Simpson列:
  T₁^(0) = (4×0.708333 - 0.75)/3 = 0.694444
  T₁^(1) = (4×0.697024 - 0.708333)/3 = 0.693254
  T₁^(2) = (4×0.694122 - 0.697024)/3 = 0.693155

Cotes列:
  T₂^(0) = (16×0.693254 - 0.694444)/15 = 0.693175
  T₂^(1) = (16×0.693155 - 0.693254)/15 = 0.693148

Romberg列:
  T₃^(0) = (64×0.693148 - 0.693175)/63 = 0.693147 ← 精度极高！

Romberg T-表可视化：

k    梯形 O(h²)    Simpson O(h⁴)   Cotes O(h⁶)    Romberg O(h⁸)
0    0.750000
1    0.708333      0.694444
2    0.697024      0.693254        0.693175
3    0.694122      0.693155        0.693148        0.693147

💡 物理直觉：Romberg 就像"梯度下降"逼近真实值——每一步二分梯形只提供 O(h²) 精度，但两次二分结果组合一下就能跃升到 O(h⁴)，再组合到 O(h⁶)...到最后只用梯形公式算 8 段就能达到 O(h⁸) 精度！

13. 高斯积分

13.1 核心思想

牛顿-柯特斯用 n+1 个等距点达到最多 n+1 次代数精度。但如果允许节点位置自由选择，用同样的 n+1 个点可以达到 2n+1 次代数精度！——这就是高斯积分的精髓。

直观对比：

牛顿-柯特斯 (等距点):  n+1 个点 → n+(n的奇偶修正) 次精度
高斯积分 (最优选点):  n+1 个点 → 2n+1 次精度   ← 翻倍！

核心思想：打破等距的限制！

在前面的 N-C公式中都有一个默认的限制：节点 x_i 必须是等距离分布的

如果我们固定使用 n+1 个等距节点，我们最多只能获得 n+1 次代数精度（如果n为偶数，可以利用对称性提升到 n+2 阶精度）

如果我们把这 $n+1$ 个节点 $x0, x1, \dots, x_n$ 的位置也当作可以自由调整的未知数，那么：

我们有 $n+1$ 个可自由移动的节点位置 $x_i$；
我们有 $n+1$ 个对应的求积权重 $A_i$。

一共有 2n+2 自由度理论上可以写出 2n+2 个代数方程从而使得求积公式对所有次数不超过 2n+1 的多项式都达到 绝对精确

13.2 高斯点条件

定理： $x₀,...,xn$ 是高斯点的充要条件——多项式 $ω(x) = (x-x₀)(x-x₁)...(x-xn)$ 与所有不超过 n 次的多项式 P_n(x) 在 [a,b] 上正交。

为什么正交能带来高精度？

这里有一个极其优美的代数证明：对于任意一个最高次数为 $2n+1$ 的多项式 $f(x)$，我们都可以用 $\omega(x)$（它是 $n+1$ 次多项式）去除它。根据多项式带余除法，一定可以写成： $f(x) = q(x)\omega(x) + r(x)$ 其中：

商式 $q(x)$ 的次数最高为 $n$ 次。
余式 $r(x)$ 的次数最高也为 $n$ 次。

现在，我们对 $f(x)$ 求精确积分： $\inta^b f(x)dx = \inta^b q(x)\omega(x)dx + \inta^b r(x)dx$ 如果 $\omega(x)$ 正交于所有不超过 $n$ 次的多项式（而 $q(x)$ 正好不大于 $n$ 次），那么根据正交性的定义，第一项积分直接归零 [13.2, 13.3]： $\inta^b q(x)\omega(x)dx = 0$ 因此，真实积分值完全退化为： $\inta^b f(x)dx = \inta^b r(x)dx$

接下来，我们用高斯公式来计算 $f(x)$ 的近似积分。

由于高斯节点 $x0, \dots, xn$ 正好是 $\omega(x)$ 的零点（即 $\omega(xi) = 0$），所以： $f(xi) = q(xi)\omega(xi) + r(xi) = r(xi)$

因此高斯积分公式给出： $\sum{i=0}^n Ai f(xi) = \sum{i=0}^n Ai r(xi)$

因为 $r(x)$ 只是一个最高 $n$ 次的多项式，而任何包含 $n+1$ 个节点的插值型求积公式对 $n$ 次多项式都是绝对精确的： $\sum{i=0}^n Ai r(xi) = \inta^b r(x)dx$

把这几步串起来：

$$ 高斯近似值 = \sum{i=0}^n Ai f(xi) = \sum{i=0}^n Ai r(xi) = \inta^b r(x)dx = \inta^b f(x)dx = 真实值 $$ 其中 权重 $A_i$：是这些代表所拥有的“投票权大小”（即话语权比重）

我们要算一段区间的积分（也就是求围成的图形面积），高斯积分就是只挑选 $n+1$ 个特定位置的函数值 $f(xi)$ 进行加权求和： $\inta^b f(x) dx \approx A0 f(x0) + A1 f(x1) + \dots + An f(xn)$

证毕！ 这个证明堪称数学史上最优雅的篇章之一。它表明：只要把节点选在正交多项式的零点上，高阶多项式中高于 $n$ 次的部分就会因为正交性被“自动过滤”掉，使公式精度奇迹般地翻倍！

13.3 高斯-勒让德积分

在 [-1,1] 上，取勒让德多项式 $P_{n+1}(x)$ 的零点作为高斯点。

为什么是勒让德？ 勒让德多项式天然在 [-1,1] 上正交！

勒让德多项式

P₀(x) = 1
P₁(x) = x
P₂(x) = (3x² - 1)/2
P₃(x) = (5x³ - 3x)/2
P₄(x) = (35x⁴ - 30x² + 3)/8

递推: (n+1)·P_{n+1}(x) = (2n+1)·x·P_n(x) - n·P_{n-1}(x)
正交性: ∫^{1}_{-1} P_m(x)·P_n(x) dx = 0   (m ≠ n)
归一化: ∫^{1}_{-1} [P_n(x)]² dx = 2/(2n+1)

求节点：以 n=2（3点）为例

3 个高斯点 = P₃(x) 的 3 个零点：

P₃(x) = (5x³ - 3x)/2 = 0
→ x·(5x² - 3) = 0
→ x₀ = -√(3/5) ≈ -0.774597
  x₁ = 0
  x₂ = √(3/5) ≈ +0.774597

求权重：解矩方程

高斯积分公式： $\int_{-1}^{1} f(x)dx ≈ A₀·f(x₀) + A₁·f(x₁) + A₂·f(x₂)$

要求对 $f(x)=1, x, x², x³, x⁴, x⁵$ 都精确（3 点可达 2×3-1=5 次精度）：

对 f(x)=1:  ∫1 dx = 2 = A₀+A₁+A₂
对 f(x)=x:  ∫x dx = 0 = A₀·(-√0.6) + A₁·0 + A₂·(√0.6)
→ A₀ = A₂

对 f(x)=x²: ∫x²dx = 2/3 = A₀·(0.6) + A₁·0 + A₂·(0.6)
→ 2A₀·0.6 = 2/3,  A₀ = 5/9

→ A₀ = A₂ = 5/9,  A₁ = 2 - 10/9 = 8/9

矩阵形式理解（矩方程）：

┌                     ┐ ┌    ┐   ┌               ┐
│  1      1      1    │ │ A₀ │   │  ∫1·x⁰dx = 2  │
│ x₀      x₁     x₂   │ │ A₁ │   │  ∫1·x¹dx = 0  │
│ x₀²     x₁²   x₂²   │ │ A₂ │ = │  ∫1·x²dx =2/3 │
└                     ┘ └    ┘   └               ┘

代入 x₀=-√0.6, x₁=0, x₂=√0.6，解线性方程组得权重

13.4 高斯-勒让德节点与权重表

n	节点 xₖ	权重 Aₖ
1	0	2
2	±1/√3 ≈ ±0.577350	1, 1
3	0, ±√(3/5) ≈ ±0.774597	8/9, 5/9, 5/9
4	±0.339981, ±0.861136	0.652145, 0.347855
5	0, ±0.538469, ±0.906180	0.568889, 0.478629, 0.236927

13.5 积分区间变换

由于勒让德多项式天然正交于区间 $[-1, 1]$ [13.3]，所有标准的高斯点和权重表都是针对 $[-1, 1]$ 设计的 [13.4]。如果实际积分区间是 $[a, b]$，我们必须进行一次线性自变量替换。

令 $x = \alpha t + \beta$。我们希望当 $t = -1$ 时 $x = a$，当 $t = 1$ 时 $x = b$。

代入解方程组： $\begin{cases} -\alpha + \beta = a \ \alpha + \beta = b \end{cases} \implies \alpha = \frac{b-a}{2}, \quad \beta = \frac{a+b}{2}$

由此得到经典的区间映射变换式： $x = \frac{b-a}{2}t + \frac{a+b}{2}$

同时，微分项也需要按比例缩放： $dx = \frac{b-a}{2} dt$ 权重也需要同步缩放！

高斯-勒让德节点在 [-1,1] 上，实际积分区间 [a,b] 需要变换：

∫_a^b f(x)dx = (b-a)/2 × ∫_{-1}^{1} f((a+b)/2 + (b-a)t/2) dt

              ≈ (b-a)/2 × Σ Aₖ·f((a+b)/2 + (b-a)xₖ/2)
                                                 k

通俗转化:
变量替换: x = (a+b)/2 + (b-a)t/2
→ dx = (b-a)/2 · dt
→ t∈[-1,1] 时 x∈[a,b]
权重也缩放: Aₖ' = (b-a)/2 × Aₖ

13.6 数值例子（n=2，3点高斯）

计算 ∫₋₁¹ x⁴ dx = 2/5 = 0.4

节点: x₀=-√0.6, x₁=0, x₂=√0.6
权重: A₀=5/9, A₁=8/9, A₂=5/9

高斯积分 = A₀(x₀)⁴ + A₁(0)⁴ + A₂(x₂)⁴
        = 5/9 × 0.36 + 0 + 5/9 × 0.36
        = 10/9 × 0.36 = 0.4  ← 精确！

而Simpson (3个等距点): 
  = 1/3 × [(-1)⁴ + 4×0⁴ + 1⁴] = 2/3 ≈ 0.667  ← 误差巨大！

原因: Simpson对3次以下精确，x⁴是4次 → 有误差
      3点高斯对5次以下都精确！

13.7 带权高斯积分

解决数值积分中的两个超级痛点：

积分区间是无穷大（ $\infty$）怎么办？
函数在端点会爆炸（奇点， $\frac{1}{0}$）怎么办？

类型	区间	权函数 ρ(x)	正交多项式	用途
Gauss-Legendre	[-1,1]	1	勒让德	标准有限区间积分
Gauss-Laguerre	[0,∞)	e^(-x)	拉盖尔	半无限区间 + 指数衰减
Gauss-Hermite	(-∞,∞)	e^(-x²)	厄米	全无限区间 + 高斯衰减
Gauss-Chebyshev	[-1,1]	1/√(1-x²)	切比雪夫	端点有奇性的积分

公式形式： $∫ ρ(x)·f(x) dx ≈ Σ Aₖ·f(xₖ)$ ，节点 xₖ 是相应正交多项式的零点。

把困难的会爆炸的或者趋于无穷的部分剥离给 $\rho(x)$ 让可以进行 Guass积分处理的部分留在f（x）！

💡 延伸思考：高斯-勒让德是"默认选项"、精度极高，但节点不在积分区间的端点（这对某些问题不方便）。高斯-拉盖尔伽利厄米积分天然处理无穷区间，在量子力学中极其重要——例如 ∫₋∞^∞ e^{-x²} f(x) dx 用 Gauss-Hermite 只需几个点就有高精度。

本质上是“正交多项式家族”针对不同物理舞台的量身定制 ！！！

用最好的计算点数避开所有数学陷阱算出精确的积分！

14. WKB 近似

14.1 物理背景

WKB（Wentzel-Kramers-Brillouin）方法是量子力学中近似处理势垒穿透（tunneling）问题的半经典方法。一个粒子要穿过势垒的概率可以用一个积分来表示。

14.2 WKB 公式

WKB 方法的物理本质，是将量子波函数 $\psi(x)$ 写成关于普朗克常数 $\hbar$ 的渐近展开式

$$ \psi(x) \sim \exp\left( \frac{i}{\hbar} S(x) \right) $$ 其中 $S(x)$ 对应经典力学中的哈密顿-雅可比作用量。

经典极限：当 $\hbar \to 0$ 时，体系的行为完全退化为牛顿经典力学。
量子修正：当 $\hbar$ 有限大时，它保留了波的相位信息，从而能够描述经典粒子绝对无法完成的“穿墙术”——量子隧穿

穿透因子（穿透几率）物理意义：代表粒子穿过势垒 $[b, c]$ 的隧穿几率（即成功率）

$$ W = exp(-2 × ∫_b^c \frac{\sqrt{[2M(q)·(V(q)-E₀)]}}{\hbar } dq) $$

周期因子：

$$ T = 2 ∫_a^b \frac{dq}{\sqrt{\frac{2[(E₀-V(q))]}{M(q)}}} $$

寿命：τ = T / W

14.3 公式含义

          V(q)
          ↑
     E₀ ──├─────┐      ← ┌── 势垒（V > E₀，经典禁戒区）
          │     │         │
          │ a   │ b    c  │
    ──────┘     └─────────└──→ q

   a, b: 经典允许区边界（V(a)=V(b)=E₀）
   b, c: 势垒区（V(q) > E₀，粒子需要隧穿）
   [a,b]: 周期 T 的积分区间 → 粒子在阱中的往返时间
   [b,c]: 穿透因子 W 的积分区间 → 决定穿透概率的指数

14.4 数值实现思路

给定表格形式的 V(q) 和 M(q) 离散数据（形变 q 从 0 到 2.5），计算隧穿寿命 τ：

步骤1: 插值 V(q) 和 M(q)（用三次样条获得光滑曲线）
步骤2: 确定临界点 a, b, c（解方程 V(q)=E₀）
        → 用二分法或牛顿法在插值曲线上找根
步骤3: 用高斯积分计算 ∫_b^c √(M(q)(V(q)-E₀)) dq
步骤4: 计算 W = exp(-2×积分结果)
步骤5: 用高斯积分计算 ∫_a^b dq/√((E₀-V(q))/M(q))
步骤6: T = ℏ × 步骤5的结果
步骤7: τ = T / W

数值细节：

临界点 a, b, c 通过插值后的 V(q) 曲线用二分法或牛顿法找到
在 b 和 c 附近 V(q)≈E₀，被积函数趋于 0 或无穷 → 需小心处理端点奇性
被积函数剧烈变化 → 高斯积分比等距公式更高效

💡 物理直觉：W 是量子力学中的穿透因子——势垒越宽越高，W 越小，穿透越不可能。τ 是经典周期除以穿透概率——只有在势垒内来回反射很多次才会偶尔穿透一次，所以寿命 τ 可以比经典周期长很多数量级。这就是为什么某些放射性核素的半衰期可以长达数十亿年。

15. 总结对比表

15.1 插值方法对比

方法	阶数	节点条件	光滑性	计算量	振荡风险	适用场景
拉格朗日	N 次全局	函数值	C^∞	O(N²)	⚠️ 高（龙格）	点数少
Hermite	2N+1 次	函数值+导数	C^∞	O(N²)	⚠️ 高	已知导数
三次样条	分段 3 次	函数值+C²连续	C²	O(N)	✅ 低	一般光滑数据
Akima	分段 3 次	函数值+C¹连续	C¹	O(N)	✅ 很低	效率/局部性优先

15.2 数值微分公式对比

公式	点数	误差阶	公式
前向差分	2	O(h)	[f(x+h)-f(x)]/h
中心差分	3	O(h²)	[f(x+h)-f(x-h)]/(2h)
五点中点	5	O(h⁴)	[-f(x+2h)+8f(x+h)-8f(x-h)+f(x-2h)]/(12h)
二阶差分	3	O(h²)	[f(x+h)-2f(x)+f(x-h)]/h²

15.3 数值积分方法对比

方法	节点分布	节点数	代数精度	误差阶	特点
梯形 (n=1)	等距	2	1	O(h³)	最简单
Simpson (n=2)	等距	3	3	O(h⁵)	性价比高
柯特斯 (n=4)	等距	5	5	O(h⁷)	高精度等距
复合Simpson	等距×多段	N+1	3	O(h⁴)	稳健实用
Romberg	嵌套二分	2ᵏ+1	随列递增	O(h^(2j+2))	精度可逐次提升
高斯-勒让德	最优分布	n+1	2n+1	—	精度最高/n固定
高斯-拉盖尔	最优分布	n+1	2n+1	—	[0,∞) 半无限区间
高斯-厄米	最优分布	n+1	2n+1	—	(-∞,∞) 全无限区间

15.4 方法选择决策树

需要做什么？
├── 只有离散数据点，需要中间值
│   ├── 点数少（=10）→ 拉格朗日/ Hermite 插值
│   ├── 点数多，要光滑 → 三次样条
│   └── 点数多，要效率 → Akima 插值
│
├── 需要一阶导数
│   ├── 有解析函数 → 中心差分 O(h²)
│   ├── 有离散数据 → 先样条插值再求导
│   └── 边界处 → 三点端点公式
│
├── 需要定积分
│   ├── 被积函数光滑，任意点可求值
│   │   ├── 要绝对高精度 → 高斯积分（n 点有 2n+1 次精度）
│   │   ├── 渐进式提高精度 → Romberg 积分
│   │   └── 简单快速 → 复合 Simpson
│   ├── 只有等距表格数据 → 复合 Simpson/柯特斯
│   ├── 积分区间无限
│   │   ├── [0,∞) 带 e^{-x} 衰减 → Gauss-Laguerre
│   │   └── (-∞,∞) 带 e^{-x²} 衰减 → Gauss-Hermite
│   └── 有奇点或剧烈振荡 → 自适应积分 + 分段
│
└── 需要WKB隧穿计算
    └── 样条插值 + 高斯积分 + 二分法找临界点

15.5 核心概念速记

概念	一句话理解
拉格朗日插值	N+1 个点→N次多项式，"开关函数"加权
龙格现象	多点高次多项式→边缘爆炸振荡
三次样条	分段三次 + C²连续 = 自然弯曲的柔条
牛顿-柯特斯	等距点插值积分 = 固定权重 × 函数值
Simpson 1/3 法则	三点抛物线 = 权重 [1,4,1] × h/3
理查森外推	不同步长的结果组合 → 消掉低阶误差
Romberg 积分	梯形逐次二分 + 理查森外推 → 精度跃升
高斯积分	选最优位置（非等距）→ 精度翻倍
WKB 近似	半经典隧穿：穿透率=指数×积分

Akurio 补充整理笔记结束 · 2026-06-30

看完了？说点什么呢

神经网络与机器学习初步

akuiro — Sun, 28 Jun 2026 13:25:46 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/NNandML

1. 课程概览：机器学习与物理学

1.1 机器学习在物理学中的地位

机器学习已发展成为一种新的科学范式——当物理方程难以描述或求解时，用数据驱动的方法进行推断。物理学中各领域 ML 论文数量爆发式增长：

期刊	ML论文数 (2010-2020)
Phys. Rev. Lett.	2680
Phys. Rev. B	5040
Phys. Rev. E	2037
Phys. Rev. C	991

从1980-1990年仅74篇，到2010-2020年674篇。

💡 核心观点：AI 不会取代科学家，但使用 AI 的科学家会取代不使用 AI 的科学家。

1.2 机器学习 vs. 传统物理方程

方面	传统物理方程	机器学习方法
描述方式	解析公式、普适定律	数据关联、非线性映射
数据类型	理想化、低维	高维、含噪、不完整、异构
适用范围	有明确第一性原理	复杂耦合、多尺度、反问题
可解释性	高（解析形式）	较难（黑箱）
不确定度	由理论自身给出	需专门量化（Bayesian）

💡 物理直觉：ML 不是要取代物理方程，而是补充——当方程不存在、不完整或不可解时，用数据说话。

1.3 ML 在物理中的主要应用

仿真 simulations、优化 optimizations、仿真器 emulators
数据融合 Data Fusion：从异构分散数据中提取更一致准确的信息
数据关联与挖掘：高维关联类比量子多体
反问题 Inverse Problems
粒子识别、模型混合 Model Mixing、模型降阶
无监督学习的科学发现
求解微分方程（PINN）

2. 经典统计基础

2.1 基本概念

样本均值：
x̄ = (1/n) Σ xᵢ

样本标准差（Bessel 校正，分母 n-1）：
s = √[ Σ(xᵢ - x̄)² / (n - 1) ]

💡 说人话：均值是数据的中心，标准差是数据分散程度的量度。分母用 n-1 因为样本均值消耗了一个自由度（Bessel 校正）。

2.2 Pearson 线性相关系数

$$ r = \frac{ \sum (xi - \bar{x})(yi - \bar{y}) }

     { \sqrt{ \sum (x_i - \bar{x})^2 } \cdot \sqrt{ \sum (y_i - \bar{y})^2 } }

r 值	含义
r = +1	完全正相关（所有点在一条上升直线上）
r ≈ 0	无线性关联
r = -1	完全负相关（所有点在一条下降直线上）

数值例子：物理成绩 X=[85, 92, 78, 90, 88]，数学成绩 Y=[80, 95, 75, 88, 85]

x̄=86.6, ȳ=84.6，计算得 r≈0.826 → 强正相关。

2.3 信息熵与 KL 散度

信息熵（衡量分布的不确定度）：

$$ H(P) = - \Sigma \space p{i} \ln(p{i}) $$

单位：1 奈特（nat）≈ 1.44 比特
均匀分布时熵最大（最不确定）

KL 散度（衡量两个分布的差异）：

$$ D{\mathrm{KL}}(P \parallel Q) = \sumi p{i} \ln \left(\frac{pi}{q_i}\right) $$

💡 物理直觉：DKL ≥ 0（非负），等于 0 当且仅当 P=Q。它不是真正的"距离"（不对称）。最小化 DKL 就是让近似分布 Q 逼近真实分布 P。

交叉熵：

$$ H(P, Q) = \sumi pi \ln \left( q_i \right) $$

因为真实世界的分布也就是权重（频率）就是 P 来描述

只不过你用你所估计的编码长度 $\ln q_i$ 来进行计算

简单来讲就是现实世界的数据是由真实的 P 产生的，而不是由你的假设Q来产生的！！！

用一张表格彻底锁定认知

对比维度	前向 KL -DKL(P∥Q)	反向 KL -DKL(Q∥P)
权重是谁？	真实分布 P	近似分布 Q
哪里犯错会死得很惨？	当 P 很大但是 Q很小时（漏掉了真实数据）	当Q很大，但 P 很小时（产生了虚假数据）
工程绰号	覆盖（Coverage） / 广度优先零回避	模式搜索（Mode-seeking） / 深度优先零强迫
面对双峰 P，单峰 Q怎么做？	QQ 被迫“躺平”在两个峰中间，变得很宽很平	QQ 随机选择其中一个峰，变得又尖又窄
在机器学习中代表谁？	最大似然估计（MLE）、模仿学习、VAE 的重构项	变分推断（VI）、强化学习 PPO、VAE 的正则项（KL 惩罚）、GAN

场景 A 选 VAE 或扩散模型（前向 KL 覆盖全面） —— 宁可模糊，不能漏掉病变特征。
场景 B 选 GAN（反向 KL 追求锐利） —— 哪怕模式坍缩，只要生成的那一张够清晰就行。
如今取长补短选择了扩散模型 Stable Diffusion/ DALL-E / Sora ——采用“前向加噪（变模糊）” 与 “反向去噪（变清晰）” 的这种策略
同时在相应的损失函数上加工，扩散模型不直接比较像素避免前向KL的平均化陷阱，而是在高纬的潜在空间 latent Space比较只比较噪声的差异不至于直接平均成灰色 + 引入“引导尺度 CFG Guidance” 人为增加反向KL的权重牺牲一点多样性

KL散度的本质就是所谓 “加权平均惩罚” 权重（即乘在外边的分布决定惩罚的重点在哪里！）

数值例子：P = [0.7, 0.3], Q = [0.6, 0.4]

D_KL = 0.7×ln(0.7/0.6) + 0.3×ln(0.3/0.4) = 0.7×0.154 + 0.3×(-0.288) ≈ 0.022 nat

2.4 协方差与误差传播

协方差矩阵（参数 θ = (θ₁, ..., θₚ)）：

$$ C{ij} = E \left( (\theta{i} - \bar{\theta{i}}) (\theta{j} - \bar{\theta_{j}}) \right) $$

近似计算（从似然 Hessian）：

$$ C \approx 2 \left[ \frac{\partial^{2} \ln{L} }{ \partial\thetai \partial \thetaj} \right]^{-1} $$

（在 MLE 处求值）

误差传播一阶近似：Y = f(X) →

$$ σY² ≈ (\frac{∂f}{∂X})² σX² $$

多变量推广：Y = f(X₁, ..., Xₙ)

$$ σY² ≈ Σ (\frac{\partial f }{\partial Xi})² \sigma ^{2}{Xi} + 2 Σ{ii})(\frac{\partial Y }{\partial X_j}) Cov(Xᵢ,Xⱼ) $$

💡 说人话：导数绝对值越大 → 输入的不确定度被放大越厉害。多变量时还有协方差交叉项的贡献。

2.5 条件概率
$$ P (A | B) = \frac{P(AB)}{P(B)} $$

💡 这是整个 Bayesian 统计的基石：在新信息 B 面前，我们对事件 A 的概率认知如何更新。

3. Bayes 统计
3.1 Bayes 定理
经典形式：P(A|B) = P(B|A)·P(A) / P(B)
机器学习语境（h = 假设/模型, D = 数据）：
后验 = 似然 × 先验 / 证据
P(h|D) = P(D|h)·P(h) / P(D)
符号术语含义癌症检测例子
P(h) 先验 Prior 看数据前对 h 的信念普查:发病率 1%
P(D|h) 似然 Likelihood h 为真观察到数据的概率病人中 80% 阳性
P(D) 证据 Evidence 数据边际概率（归一化）全人群阳性比例
P(h|D) 后验 Posterior 看数据后更新的信念阳性后真患病的概率
💡 核心哲学差异：Bayes 统计视概率为信念的程度（degree of belief）可随证据更新；经典统计视概率为长期频率。Bayes 方法允许融入先验知识。

新的认知 = （证据的支持力度 ✖️ 原有的偏见） / 整体的情况！
3.2 数值例子：癌症检测
已知：P(cancer)=1%, P(+|cancer)=80%, P(+|no cancer)=9.6%
P(cancer|+) = (0.80×0.01) / (0.80×0.01 + 0.096×0.99) = 0.008 / (0.008 + 0.09504) ≈ 0.0776 = 7.8%
💡 直觉冲击：阳性后患病概率仅 7.8%，非 80%。因疾病极罕见（先验仅 1%）而假阳性 9.6% 不算太低。这就是 Bayesian 统计区别于直觉频率思维的核心价值。

3.3 三种 Bayesian 估计方法
方法操作输出计算量适用
MLE（极大似然） max P(D|θ) 单一点估计小大数据、弱先验
MAP（最大后验） max P(D|θ)P(θ) 带先验约束的点估计中小有限数据、强先验
Full Bayes 采样/积分 P(θ|D) 完整参数分布极大需精确不确定度
MAP估计值其实就是 数据均值 和 先验均值 的加权平均！
数据越多，权重越向数据倾斜（MAP 趋近 MLE）。
数据越少，权重越向先验倾斜（MAP 趋近先验）。
MAP 叫“正则化”（Regularization），它惩罚了那些偏离先验太远的极端值。
💡 均匀先验下 MAP = MLE。MAP 在有限数据下用先验信息防止过度自信。MAP 估计会被向先验"拉近"。

3.4 共轭先验（Conjugate Prior）
定义：若后验分布和先验属于同一个分布族，该先验称为共轭先验。
例子：
Beta 分布 → 二项似然的共轭先验
高斯分布 → 高斯似然（均值未知）的共轭先验
💡 意义：共轭先验使后验可用解析公式计算，避免高维数值积分。数据越多 → 后验越窄 → 参数越确定。

4. 线性回归与最大似然估计
4.1 最小二乘法
模型：y = Xβ + ε，ε 为随机噪声。
目标：min S(β) = ‖y - Xβ‖²
正规方程：
$$ \beta = (X^{T} X)^{-1} X^{T} y $$
这里做一个正规化的原因是 X可能本身不能直接求出来逆！
这里是一个伪逆 $XX^{T}$ 是可以保证为方阵～
最小二乘法（Ordinary Least Squares, OLS）的核心思想就是：
既然有误差 ϵ，我就想办法找一组 β，让误差的平方和最小。
目标函数（Loss）：
L(β)=误差的平方和=$\epsilon^{T} \epsilon=(y−Xβ)^{T}(y−Xβ)$=误差的平方和
误差是怎么“没”的？
为了找到让 L(β)L(β) 最小的 ββ，微积分告诉我们：对 β 求导，并让导数等于 0。
(这里省略复杂的矩阵求导过程，直接看结果)
$$ \frac{\partial L}{\partial \beta} = -2 X^{T} (y - X \beta) $$
把式子展开并移项：
$$ X^{T}y=X^{T}Xβ $$

两边同时左乘 (X^{T}X)−1：
有结果（10）式子

截距项（借助矩阵的拼凑）可以保证用一种形式化后的 X 表示所有的均为 Xβ
example：
假设有三个数据点
原本的最基本的 X matrix 只有一列x：
$$ X = \begin{bmatrix}x1 \x2 \x_3 \end{bmatrix} $$

现在我们选择在X的最左边进行强行塞入一列 “1”：
$$ X{new} = \begin{bmatrix}1 &x1 \ 1 & x2 \ 1 & x3 \end{bmatrix} $$

此时我们参数向量 $\beta$ 就变成两个：
$$ \beta = \begin{bmatrix}\beta_0 \ \beta1 \end{bmatrix} $$ 于是我可以对于上述的做矩阵乘法！
$$ X \beta =\begin{bmatrix}1 &x1 \ 1 & x2 \ 1 & x3 \end{bmatrix} \begin{bmatrix}\beta0 \ \beta1 \end{bmatrix} =\begin{bmatrix}\beta1 x1 + \beta0 \\beta1x2 + \beta0 \ \beta1x3 + \beta_0 \end{bmatrix} $$

会惊喜的发现矩阵乘法会自动帮忙把截距加上！！！
永远地融进了特征矩阵 X 的第一列里

X 为 N×(1+p) 设计矩阵，第一列全 1 对应截距项。
X = [1 x₁₁ ... x₁ₚ] [1 x₂₁ ... x₂ₚ] [ : : : : ] [1 xₙ₁ ... xₙₚ]

4.2 数值例子：手算线性回归
数据：(1, 2.1), (2, 3.9), (3, 5.8)，拟合 y = β₀ + β₁x
X = [[1,1], [1,2], [1,3]], y = [2.1, 3.9, 5.8]ᵀ XᵀX = [[3, 6], [6, 14]], Xᵀy = [11.8, 26.3]ᵀ (XᵀX)⁻¹ = [[2.333, -1.0], [-1.0, 0.5]] β = (XᵀX)⁻¹ Xᵀy = [0.267, 1.85]ᵀ

→ 回归直线：y = 0.267 + 1.85x
检验：x=1 → 2.12 | x=2 → 3.97 | x=3 → 5.82（接近真实值）
4.3 MLE 与最小二乘的等价性
关键条件：噪声 ε ~ N(0, σ²)
似然：
$$ L = \prod (1/√(2πσ²)) exp(-\frac{(yᵢ - xᵢᵀβ)²} {2σ²}) $$
对数似然：
$$ ln L = -(n/2)ln(2πσ²) - (1/2σ²) Σ(yᵢ - xᵢᵀβ)² $$
💡 核心洞察：最大化 ln L（关于 β）等价于最小化 Σ(yᵢ - xᵢᵀβ)²。正态噪声假设下，MLE = 最小二乘。

4.4 多项式回归与 SVD 求解
普通的线性回归只能画直线 —— 现实数据关系往往非线性用多项式！（Taylor）

多项式回归：输入 → [1, x, x², ..., xᵖ]，X 矩阵变为
$$ X_{new} = \begin{bmatrix}1,x,x^{2},x^3, x^4 .... ,x^p \end{bmatrix} $$
当 XᵀX 接近奇异时（多重共线性）因为每个 x ， x^2 , x^3 都长的太像了！
高度相关 —— 最小二乘要求 $(XX^{T})^{-1}$ ——高度线形奇异的话会使得无法求逆
Singular Value Decomposition 能把任何一个复杂的病态的矩阵 X，强行拆解成三个性质极好的矩阵：
$$ X = U \cdot S \cdot V^{T} $$ $U, V^{T}$ : orthogonal matrix 完美的坐标系相互垂直性质稳定求逆=转置不会爆炸！
S（Sigma）：对角矩阵 —— 对角线上的数字叫做 “奇异值” 原本矩阵所有 “病态” / 信息量都全部被压缩到这几个数字上

可用 SVD 稳定求解：
U, S, Vt = np.linalg.svd(X, full_matrices=False) beta = Vt.T @ np.diag(1/S) @ U.T @ y

💡 Bayesian 线性回归进一步将 β 视为分布而非固定值，给出预测的不确定度。

5. 高斯过程回归（GPR）
5.1 基本思想
💡 核心直觉：
GPR 不去假设 f(x) 的具体形式（不指定是否线性、指数或多项式），只假设任意有限个点的函数值服从联合高斯分布。
这是一种非参数 Bayesian 回归方法，非常灵活。

从多元Guass 分布来的 —— 每个点都服从均值向量，协方差矩阵
$$ \mathbf{y} = \begin{bmatrix}y1 \ y2 \ y_3 \end{bmatrix} \sim \mathcal{N} ( \boldsymbol{\mu} , \mathbf{K}) $$
假设现在不是再测量3个孤立点而是一条连续的曲线 f(x)
这条曲线在每个位置 x 都有一个函数值把每个位置的 f(x) 都看作是随机变量！
在整个轴上就有无穷多个随机变量！

GP 高斯过程定义：
如果对于定义域内的任意有限个点 ${x1, x2, \dots, xn}$，它们对应的函数值 $\mathbf{f} = [f(x1), f(x2), \dots, f(xn)]^T$ 都服从一个多元高斯分布，那么这个由无穷多个随机变量组成的集合，就叫做高斯过程
记为
$$ f(x) \sim \mathcal{GP} ( m(x) , k(x, x')) $$ m(x) 均值函数通常默认设置为0 （借助平移数据去中心化得到）
k(x, x') 协方差函数（核函数 Kernel）定义空间中任意两个点 x 和 x' 之间的亲密度！

5.2 协方差函数（Kernel）
RBF 最经典的（平方指数）核：
$$ k(xi, xj) = \sigma^{2}{f} \cdot exp(-\frac{(xi - x_j)^{2}}{2 l^{2}}) $$

超参数含义对拟合的影响
l（长度尺度）相关性随距离衰减的快慢 l 小 → 函数"抖动"；l 大 → 平滑
$σ_f$（信号方差）函数的幅度控制预测量级
$σ_n$（噪声方差）观测噪声水平对角项修正，控制拟合忠实度
数值直观：两点距离 = 0 → K = σ_f²（最相关）；距离 ≫ l → K ≈ 0（几乎不相关）。

5.3 预测公式
开始算新的预测点假设已经有：
已知训练数据：输入为 $X = [x1,x2,...... xn]^{T}$ 对应带噪的观测值为 $y = [y1, y2,..... ,yn]^{T}$ 这里假设观测值包含独立的噪音 $y = f(x) + \epsilon$ 其中误差噪声服从 $\epsilon \sim \mathcal{N}(0, \sigma^{2}_{n})$
未知预测点：输入的 $x{*}$ 预测这里的真实高度 $f{*}$
联合分布：
$$ \begin{bmatrix}\mathbf{y} \f{*} \end{bmatrix} \sim \mathcal{N} \left( \mathbf{0},\begin{bmatrix}\mathbf{K(X, X)}+ \sigma{n}^{2} \mathbf{I}&\mathbf{k{*}} \ \mathbf{k{}}^{T} & k(x_{} , x_{*}) \end{bmatrix} \right) $$

这个超大协方差矩阵里的每一块都有着清晰的物理意义5：
$\mathbf{K} = \mathbf{K}(\mathbf{X}, \mathbf{X})$ 是一个 $n \times n$ 的矩阵，记录了所有已知点两两之间的亲密度5。加上 $\sigma_n^2 \mathbf{I}$ 是因为已知点带有测量噪声。
$\mathbf{k}* = [k(x1, x*), k(x2, x*), \dots, k(xn, x)]^T$ 是一个 $n \times 1$ 的向量，记录了*新点 $x$ 与所有旧点之间*的亲密度。
$k(x*, x)$ 是一个标量，记录了*新点与自己**的协方差（对于 RBF 来说，这通常就是 $\sigma_f^2$）
条件化（Conditioning）
既然我们已经知道了 $\mathbf{y}$ 的具体数值（比如已知 3 个点的高度是 2.3, 4.1, 3.5），我们就需要根据已知条件 $\mathbf{y}$，去推导未知数 $f_$ 的*后验概率分布。这在数学上使用的是多元高斯分布的条件分布公式**（Conditional Gaussian Theorem）：
若 $\begin{bmatrix} \mathbf{a} \ \mathbf{b} \end{bmatrix} \sim \mathcal{N} \left( \begin{bmatrix} \boldsymbol{\mu}a \ \boldsymbol{\mu}b \end{bmatrix}, \begin{bmatrix} \mathbf{\Sigma}{aa} & \mathbf{\Sigma}{ab} \ \mathbf{\Sigma}{ba} & \mathbf{\Sigma}{bb} \end{bmatrix} \right)$
则已知 $\mathbf{a}$ 时， $\mathbf{b}$ 的分布为 $\mathbf{b} | \mathbf{a} \sim \mathcal{N}(\hat{\boldsymbol{\mu}}, \hat{\mathbf{\Sigma}})$，其中：
$$ \hat{\boldsymbol{\mu}} = \boldsymbol{\mu}b + \mathbf{\Sigma}{ba} \mathbf{\Sigma}{aa}^{-1} (\mathbf{a} - \boldsymbol{\mu}a) \ \space \ \hat{\mathbf{\Sigma}} = \mathbf{\Sigma}{bb} - \mathbf{\Sigma}{ba} \mathbf{\Sigma}{aa}^{-1} \mathbf{\Sigma}{ab} $$
直接套用这个定理（这里 $\boldsymbol{\mu}a = \mathbf{0}$, $\boldsymbol{\mu}b = 0$），我们就得到了你看到的两个核心预测公式：

预测均值：
$$ \bar{f}* = \mathbf{k}*^T (\mathbf{K} + \sigma_n^2 \mathbf{I})^{-1} \mathbf{y} $$
y：已经知道的高度数据
$(\mathbf{K} + \sigma_n^2 \mathbf{I})^{-1}$ 是在进行全局信息的解耦与去噪算出来已知的数据点之间的内在关联结构与噪音过滤权重
我们可以把公式改写为： $\bar{f}* = \sum{i=1}^n \alphai k(xi, x*)$ 也就是说，GPR 做预测时，实际上是在用一堆“以已知点为中心”的核函数进行叠加。新点离哪个已知点近（ $k(xi, x*)$ 大），那个已知点对应的权重 $\alphai$ 在预测中起的决定性作用就越大

预测方差（不确定度）：
$$ \text{var}(f*) = k(x, x_) - \mathbf{k}*^T (\mathbf{K} + \sigman^2 \mathbf{I})^{-1} \mathbf{k}_* $$

$k(x{*}, x{*})$：新点在完全没有已知信息时，它自身的初始最大不确定度（先验方差，如果是 RBF 就是 $\sigma_f^2$）。
$\mathbf{k}{*}^T (\mathbf{K} + \sigman^2 \mathbf{I})^{-1} \mathbf{k}_{*}$：这是通过已知信息消除掉的信息不确定度。
物理直觉：
情况一（数据密集区）：如果你要预测的点 $x*$ 就夹在好几个已知点中间。此时，它与已知点的亲密度 $\mathbf{k}$ 很大。公式中被减去的那一部分就非常大，导致最终的 $\text{var}(f_)$ 被压得非常低，甚至接近 0。这代表模型非常笃定：“我百分之九十九确定这里的高度是多少！”（置信区间非常窄）
情况二（外推/荒野区）：如果你要预测的点 $x*$ 距离所有的已知点都非常遥远。此时它与任何已知点的亲密度 $\mathbf{k}$ 都趋近于 0。公式中被减去的部分也趋近于 0。最终方差直接退回到最大初始不确定度 $k(x_, x_*)$。这代表模型非常诚实：“这里我啥都不知道，我猜的数值很不靠谱，误差极大！”（置信区间变得极宽）
💡 优势：
1、仅需 3 个超参数（l, σf, σn），不易过拟合
就是GPR是一个非参数的模型其参数量不随着复杂度增加 —— 直接依赖于数据！
需要人为调节的“超参数”极少（极简主义）
2、天然自带误差棒一些高风险决策下 —— “知道自己不知道”比“给出预测”更重要
NNB来预测遇到极度奇异数据还是会猜测一个答案给出来但是 GPR 可以借助 var！
3、在核物理质量外推等场景中 GPR 表现优于 BNN。
这种外推！！！就是从已知较为稳定的核质量（训练集）去预测极度缺乏中子/超重的未知核质量（外推区）
4、总结核心GPR适用就是在小样本 + 需要外推 + 最少的参数 + 保证数学上的绝对严谨 + 计算的稳定性
缺点：只适合处理小数据遇到大数据立马瘫痪 + 严重依赖人的数学直觉
（需要求一个N ✖️ N的矩阵求逆 GPR 几乎无法直接用于大工业界的海量数据场景有人借助稀疏GP 来寻找伪数据点然后近似代替全部数据 + 高度依赖于 Kernel function的选取即先验假设的准确性与预测性 GPR本身没有“悟性学习性” 喂给什么核就只能在那个框架中打转 + 高维度就炸了维度灾难所有点都极其遥远 $k_{}$ 全部趋于0 GPR 极不适合直接处理图像（几十万像素维度）或高维文本特征。它最擅长的是物理参数拟合、空间轨迹预测等输入维度在 *10维以内** 的精细任务

什么是 BNN（贝叶斯神经网络）？
BNN 是试图给神经网络的每一个权重 $w$ 都引入一个概率分布。听起来很完美，但它有致命的缺陷：
计算极其困难：BNN 无法直接求出解析解，必须使用非常复杂的近似算法（如 MCMC 采样、变分推断 VI）。在训练时不仅极慢，而且极难收敛。
超参数过多：BNN 里不仅有成千上万个权重需要估计分布，还需要手动调节每个权重的先验分布参数。稍微调不好，外推结果就一塌糊涂。
GPR 凭什么在外推中胜出？
数学上的精确解（解析解）： GPR 的预测均值和方差公式，是通过矩阵求逆一步算出来的精确解析解，不需要像 BNN 那样进行漫长的随机采样或近似，计算极其稳定，绝不会出现“训练崩了”的情况。
物理先验的完美结合：在核物理中，我们会把已知的物理公式（如“液滴模型（LDM）”）作为 GPR 的背景均值（Mean Function）。GPR 只需要去拟合物理公式与实验值之间的残差（误差）。
在数据密集的已知区，GPR 会精确修正物理公式的偏差。
在外推的荒野区，因为没有数据，GPR 的预测会自动退化、收敛到背景的物理公式，而方差（误差棒）会老老实实地变大。
5.4 伪代码
import numpy as np def rbf_kernel(X1, X2, l=1.0, sigma_f=1.27): sq_dist = np.sum(X1**2, 1).reshape(-1,1) + np.sum(X2**2, 1) \ - 2 * np.dot(X1, X2.T) return sigma_f**2 * np.exp(-0.5 / l**2 * sq_dist) X_train = np.array([[1.0], [3.0], [4.0]]) y_train = np.array([2.0, 4.0, 5.0]) X_test = np.array([[2.0]]) K = rbf_kernel(X_train, X_train) K_s = rbf_kernel(X_train, X_test) K_ss = rbf_kernel(X_test, X_test) sigma_n = 0.1 K_inv = np.linalg.inv(K + sigma_n**2 * np.eye(len(X_train))) mu = K_s.T @ K_inv @ y_train # 预测均值 sigma = K_ss - K_s.T @ K_inv @ K_s # 预测方差

6. 人工神经网络基础 ANN
6.1 生物神经元 vs. 人工神经元
特性生物神经元人工神经元
总数 ~860 亿设计决定
连接 ~100 万亿突触参数决定
信号化学/电，异步并行，二进制触发实数加权求和，同步层间传递
功耗 ~20 W（全脑） GPU ~250 W
容错性极高（冗余存储）一般
发放频率 ~200 次/秒一次前向传播一值
学习突触可塑性（neuroplasticity）梯度下降调整权重
核心是从大脑生物神经元的处罚
【生物神经元直观图】树突 (接收信号) ───┐ 树突 (接收信号) ───┼──> 细胞体 (电位累加) ───> 轴突 (传递信号) ───> 突触 (输出) 树突 (接收信号) ───┘

树突（Dendrites） $\rightarrow$ 输入加权（Weights）：每个树突连接不同的上游神经元。突触有强有弱，有的信号容易通过，有的被抑制。这就是权重 $w_i$。
细胞体（Soma） $\rightarrow$ 累加求和（Summation）：细胞体会收集所有树突传来的微小电信号（静息电位变化），在内部进行代数累加。这就是加权求和 $\sum wi xi$。
轴突（Axon） $\rightarrow$ 激活函数（Activation Function）：当累加电位超过某个“阈值”时，细胞体会突然产生一个电脉冲（动作电位）向下游传递；否则保持静默。这就是激活函数 $f(z)$ 对应的“0或1”或“非线性平滑过渡”。

💡 人脑约 860 亿神经元，超百万亿突触，功耗仅 20W——比人工网络高效数个量级。但人工神经元借鉴了"加权求和 → 阈值判断 → 非线性激活"的思路。
生物的主要是二进制触发采用脉冲神经网络 SNN 足够刺激才放电平时大部分区域在“休眠” ——现在的GPU跑 AI 大部分所有matrix 都要从头到尾高频同步算一遍
人脑学习依靠的是 Hebbian learning 一起激发的神经元连在一起极度局部的化学变化——人工神经网络必须要全局计算梯度并统一用“反向传播（BP）”来更新，这需要巨大的计算开销

6.2 人工神经元数学模型 M-P mode
$$ y = f(\sum w{i} x{i} - \theta) = f(w^{T} x - \theta) $$
其中 xᵢ 为输入信号，wᵢ 为权重，θ 为阈值（bias 的负值令偏置 $b = -\theta$），f 为激活函数。
$y = f(\mathbf{w}^T \mathbf{x} + b)$

直观上的几何理解
假设输入的是二维特征 $\mathbf{x} = [x1, x2]^T$
$\mathbf{w}^T \mathbf{x} + b = 0$（即 $w1 x1 + w2 x2 + b = 0$）：这在二维平面上代表一条直线（在高维空间中代表一个超平面）。这条直线就是决策边界（Decision Boundary）！
偏置 $b$ 的作用：如果没有 $b$，决策边界必须强行穿过坐标原点 $(0,0)$。有了 $b$，这条线就可以在空间中自由平移。
权重 $\mathbf{w}$ 的作用： $\mathbf{w}$ 是决策边界的法向量，决定了边界的倾斜角度（方向）。

要求：f 必须是非线性 + 可导。
1、非线性：如果f是线性的那么无论多少层神经元叠加一起多层线性变换复合依然是线性变换：
$y = w2(w1 x + b1) + b2 = (w1 w2)x + (w2 b1 + b_2) = Wx + B$ ——>
多层网络退化成单层网络 无法拟合复杂的非线性function（如异或XOR问题）
非线性激活函数赋予了神经网络无限逼近任何复杂函数的超能力（通用近似定理）。
2、可导：因为要利用 Gradient Descent 梯度下降算法需要计算损失function 对参数的导数
$\frac{\partial L}{\partial \omega}$ 从而知道往哪个方向去调整参数！如果不可导就无法使用现代高效的反向传播算法！！！

6.3 常用激活函数
函数公式输出范围导数特点
Sigmoid 1/(1+e⁻ᶻ) (0, 1) f(1-f) 经典，收敛慢，两头梯度≈0
会有梯度消失停止训练的问题
Tanh (eᶻ-e⁻ᶻ)/(eᶻ+e⁻ᶻ) (-1, 1) 1-f² 零均值，常优于 Sigmoid
ReLU max(0, z) [0, ∞) 0或1 主流，计算快，缓解梯度消失
ReLU的重要作用！！！
1. 极简网络的数学表达
输入 x ──> [神经元z1] ──> a1 ──> [神经元z2] ──> a2 ──> [神经元z3] ──> y_pred ──> 算出 Loss (L)
假设每一层只有一个神经元，且偏置都为 0（方便计算）：
第一层： $z1 = w1 x$，输出 $a1 = f(z1)$
第二层： $z2 = w2 a1$，输出 $a2 = f(z_2)$
第三层： $z3 = w3 a2$，预测输出 $\hat{y} = f(z3)$
最后算出一个总损失 $L$（Loss）
2. 反向传播：更新第一层的权重 $w_1$
为了通过梯度下降更新第一层的权重 $w1$，我们需要计算 $L$ 对 $w1$ 的偏导数 $\frac{\partial L}{\partial w_1}$。根据高数中的链式法则（Chain Rule），我们要从后往前一步步求导：
$$ \frac{\partial L}{\partial w1} = \frac{\partial L}{\partial \hat{y}} \cdot \frac{\partial \hat{y}}{\partial z3} \cdot \frac{\partial z3}{\partial a2} \cdot \frac{\partial a2}{\partial z2} \cdot \frac{\partial z2}{\partial a1} \cdot \frac{\partial a1}{\partial z1} \cdot \frac{\partial z1}{\partial w1} $$
我们把其中几项算出来：
$\frac{\partial \hat{y}}{\partial z3} = f'(z3)$ （第三层激活函数的导数）
$\frac{\partial z3}{\partial a2} = w_3$
$\frac{\partial a2}{\partial z2} = f'(z_2)$ （第二层激活函数的导数）
$\frac{\partial z2}{\partial a1} = w_2$
$\frac{\partial a1}{\partial z1} = f'(z_1)$ （第一层激活函数的导数）
$\frac{\partial z1}{\partial w1} = x$
把它们拼回去，得到最终的梯度公式：
$$ \frac{\partial L}{\partial w1} = \frac{\partial L}{\partial \hat{y}} \cdot \left[ \mathbf{f'(z3)} \cdot w3 \cdot \mathbf{f'(z2)} \cdot w2 \cdot \mathbf{f'(z1)} \right] \cdot x $$
请注意红框（括号内）里的这一串连乘：$f'(z3) \cdot f'(z2) \cdot f'(z_1)$。
3. 对比：Sigmoid 怎么让梯度消失的？
如果我们使用 Sigmoid 作为激活函数： Sigmoid 的导数公式是 $f'(z) = f(z)(1 - f(z))$。由于 $f(z)$ 的输出范围是 $(0, 1)$，你可以动手算一下，这个导数 $f'(z)$ 的最大值只有 $0.25$（当 $z=0$ 时）。
现在，我们把 $f'(z) \leq 0.25$ 带入我们的梯度连乘里：
在我们的 3 层网络里，这三项乘积最大也就是： $0.25 \times 0.25 \times 0.25 = 0.0156$（已经缩水了 64 倍）。
如果是 100 层 的深层网络，就会有 100 个小于 $0.25$ 的数连乘：
$$ 0.25^{100} \approx 6.2 \times 10^{-61} \approx 0 $$
这个极其微小的梯度传回第一层时，几乎变成了 0！第一层的权重更新公式是：
$w1 = w1 - \eta \frac{\partial L}{\partial w1}$。既然梯度是 0，那么 $w1$ 根本就不会变。
这就是梯度消失：深层网络中，前面的层完全无法更新，整张网废了。
4. 解决：ReLU 为什么能彻底解决它？
如果我们换成 ReLU：
$$ f(z) = \max(0, z) $$
它的导数非常极端：
当 $z > 0$ 时，导数 $f'(z) = 1$
当 $z < 0$ 时，导数 $f'(z) = 0$
如果我们在训练中，确保神经元的输入 $z$ 是大于 0 的，那么：每个神经元的导数 $f'(z)$ 永远是平平整整的 1！
我们再把这个 $1$ 带回 100 层网络的梯度连乘里：
$$ 1 \times 1 \times 1 \times \dots \times 1 = 1 $$
无论网络叠到 100 层、1000 层还是 10000 层，梯度在回传过程中完全没有任何损耗！ 最后一层的误差有多大，就能原封不动地传回给第一层，让第一层完美更新。这就是为什么说 ReLU “拯救”了深度学习。

为什么在一个大的梯度过去后 bias会变小 —— Dead ReLU
第一步：发生了一次意外（遇到巨大的梯度）
在某一次训练中，网络输入了一个非常极端的脏数据，或者由于学习率 $\eta = 0.1$ 设得太大了。导致从后级传回来的误差梯度 $\frac{\partial L}{\partial y}$ 异常巨大，比如：
$$ \frac{\partial L}{\partial y} = 1000 $$
现在我们来计算偏置 $b$ 的梯度 $\frac{\partial L}{\partial b}$：
$$ \frac{\partial L}{\partial b} = \frac{\partial L}{\partial y} \cdot \frac{\partial y}{\partial z} \cdot \frac{\partial z}{\partial b} = 1000 \times 1 \times 1 = 1000 $$
接下来，使用梯度下降更新偏置 $b$：
$$ b{\text{new}} = b{\text{old}} - \eta \cdot \frac{\partial L}{\partial b} $$
看！因为这次极大的梯度冲击，偏置 $b$ 从原本健康的 $0.5$ 骤降到了一个极小的负数 $-99.5$
第二步：噩梦开始，神经元陷入“假死”
现在，训练继续，我们输入下一个正常的数据。假设正常的数据输入 $x = 2.0$，权重 $w = 2.0$。
我们来看看此时这个神经元的净输入 $z$：
$$ z = w x + b_{\text{new}} = 2.0 \times 2.0 + (-99.5) = 4 - 99.5 = -95.5 $$
因为 $-95.5 < 0$，所以：
神经元输出： $y = \max(0, -95.5) = 0$
最致命的：此时激活函数的导数 $f'(z) = 0$。
第三步：无法自救，彻底“死亡”
既然这一轮输入由于 $b$ 太小导致 $z < 0$，我们期望在下一轮反向传播中，把 $b$ 再给更新回来，对吗？
我们来看这一轮反向传播时，怎么更新 $b$。计算 $b$ 的新梯度：
$$ \frac{\partial L}{\partial b} = \frac{\partial L}{\partial y} \cdot \mathbf{f'(z)} \cdot \frac{\partial z}{\partial b} $$
因为此时 $z = -95.5 < 0$，所以 $f'(z) = 0$。代入公式：
$$ \frac{\partial L}{\partial b} = \frac{\partial L}{\partial y} \times 0 \times 1 = 0 $$
偏置 $b$ 的梯度变成了绝对的 0！
我们尝试更新 $b$：
$$ b{\text{newer}} = b{\text{new}} - \eta \cdot \frac{\partial L}{\partial b} = -99.5 - 0.1 \times 0 = -99.5 $$
它根本没有变！依然卡死在 $-99.5$！
同样的道理，你也可以算一下权重 $w$ 的梯度：
$$ \frac{\partial L}{\partial w} = \frac{\partial L}{\partial y} \cdot \mathbf{f'(z)} \cdot x = \frac{\partial L}{\partial y} \times 0 \times 2.0 = 0 $$
$w$ 的梯度也是 0！ $w$ 也无法更新了。
结论：为什么叫“永久死亡”？
一旦 $b$ 变成了一个极小的负数，在以后所有的训练样本输入下， $z = wx + b$ 几乎注定永远小于 0。
只要 $z < 0$：
它的输出永远是 $0$（对网络没有任何贡献）。
它的梯度永远是 $0$（它再也无法通过反向传播来修改自己的 $w$ 和 $b$）。
这个神经元就像是脑死亡了一样，彻底失去了自我修正、自我救赎的能力。这就是著名的 Dead ReLU（神经元死亡） 现象。

ReLU 修正线性单元：现代深度学习的核心！
1、彻底解决正向的梯度消失：只要 z > 0 导数永远是1 ——> 梯度就可以毫无损耗的传回前面的网络这让训练上百层的超深网络成为可能
2、计算快！！！ If-else判断硬件加速效果好
缺点！ DEAD ReLU 神经元死亡：如果一个非常大的梯度流过，把某个神经元的偏置 $b$ 更新得非常小，导致这个神经元在以后的所有输入下 $z$ 都小于 0，那么它的输出和导数将永久为 $0$。这个神经元就“死掉了”，再也无法被激活和更新。

6.4 数值例子：单神经元前向手算
设定：x = [0.5, 1.0, -0.5]，w = [2.0, -1.0, 1.5]，θ = 0.3，Sigmoid 激活
Step 1 — 净输入 v：
v = 2.0×0.5 + (-1.0)×1.0 + 1.5×(-0.5) - 0.3 = 1.0 - 1.0 - 0.75 - 0.3 = -1.05
Step 2 — 激活：
y = 1/(1 + e^(1.05)) = 1/3.857 ≈ 0.259
💡 净输入为负 → 输出接近 0.26（偏向不激活）。若净输入为正且足够大，输出趋近 1。

6.5 神经网络类型总览
网络核心特点典型应用里程碑
Hopfield 网络循环，能量函数极小，联想记忆图像恢复、TSP Hopfield, 1982
Boltzmann 机隐藏层+概率分布特征发现、生成模型 Hinton, 1985
前馈+BP 层间前传、误差反传通用监督学习 1986
CNN 局部关联、参数共享图像/语音识别 1990s
RNN 隐藏层循环连接，记忆前序序列、时序数据 —
Transformer Self-Attention 自注意力 NLP, ChatGPT 2017
GAN 生成器-判别器对抗博弈内容生成 2014
7. BP 误差反向传播算法
7.1 学习问题的数学本质
损失函数（均方误差 Cost Function）：
$$ E = \frac{1}{2} \sumi (tj - y_j)^{2} $$
$t_j$：真实标签（Target）。
$y_j$：网络最后一层的预测输出（Output）。
为什么前面有个 $\frac{1}{2}$？ 这只是为了求导时的数学便利。当我们对 $E$ 关于 $yj$ 求导时，根据复合函数求导法则，平方项的 $2$ 掉下来，正好与前面的 $\frac{1}{2}$ 抵消，使得导数形式更干净： $\frac{\partial E}{\partial yj} = -(tj - yj) = yj - tj$
💡 前面 1/2 是为了求导时消去平方的 2 倍因子。第 4 章讲最小二乘也是一样的思路。
本质区别：这里 f(x,w) 是神经网络而非解析公式。参数可能成千上万 → 高维非线性优化。

在第四章的线性最小二乘中，我们的拟合函数是解析的（如 $y = wx + b$），可以直接通过“令导数为 0 求解矩阵方程”一步算出最优参数。
但在神经网络中，输出 $yj$ 嵌套了多层非线性激活函数。对于一个 $L$ 层的网络，函数关系是： $y = fL(WL f{L-1}(W{L-1} \dots f1(W1 x + b1) \dots + b{L-1}) + bL)$ 此时，损失函数 $E(\mathbf{W}, \mathbf{b})$ 是一个极其复杂的非凸函数（Non-convex Function），空间中充满了无数的局部极小值、鞍点和曲折的“沟壑”。我们无法通过公式一步算出最优解，必须依靠迭代优化算法，一步一步沿着斜坡往下滚。

学习就是通过输出与期望值的比较，不断调整权重 $w_{ij}$
可用的优化方法包括：梯度下降法、准 Newton-BFGS、模拟退火法、随机学习方法等。

7.2 梯度下降 + 动量
基础梯度下降法：
$$ \Delta\omega = - \alpha \frac{\partial E}{\partial \omega} \Longrightarrow w^{t+1} = w^{t} - \alpha \frac{\partial E}{\partial \omega} $$
alpha 是 学习率 ：控制每步迈出的步子有多大
太小会收敛太慢；太大容易子啊谷底左右横跳然后甚至发散！
局限性：优化中有“峡谷”地形在某个方向上坡度极陡另一方向上坡度极缓
基础 gradient 下降会在陡峭方向疯狂震荡导致其在缓和方向（真正想要的前进方向）进展缓慢

带动量（momentum）：
$$ \Delta w^{(t)} = -\alpha \frac{\partial E}{\partial w} + \eta \Delta w^{(t-1)} $$

参数作用典型值
α（学习率）步长 0.01 ~ 0.1
η（动量）惯性项 → 加速收敛 + 平滑震荡 ~0.9
💡 动量直觉：球滚下山——既受当前坡度（梯度）推动，也保留之前的运动方向（惯性）。这帮助越过局部极小值和震荡的"沟壑"。

把更新量展开来看：
在震荡的方向（如 $w_1$）：上一时刻的梯度方向是向上（正），这一时刻的梯度是向下（负）。两者相加时，震荡被互相抵消了，从而平滑了路径。
在持续前进的方向（如 $w_2$）：前几次的梯度方向都一致。由于惯性项 $\eta \Delta w^{(t-1)}$ 的累加，小球在这个方向滚得越来越快（就像有了加速度），从而极大地加速了收敛。
7.3 链式法则：BP 的精髓
上一层输出 yi ──(wij)──> 净输入 vj ──(激活函数 f)──> 输出 yj
$y_i$：上一层（第 $i$ 层）神经元的输出。
$w_{ij}$：从上一层神经元 $i$ 到当前层神经元 $j$ 的连接权重。
$v_j$：当前层神经元 $j$ 的净输入（Net Input），即 $vj = \sum{i} w{ij} yi$。
$y_j$：当前层神经元 $j$ 的输出，即 $yj = f(vj)$。
1、定义：误差敏感度 $\delta_j$
要计算 E 对于任意权重 $w_{ij}$ 的偏导数
$$ \frac{\partial E}{\partial w{ij}} = \frac{\partial E}{\partial vj} \cdot \frac{\partial vj}{\partial w{ij}} $$

因为 $vj = \sum{i} w{ij} yi$，所以它对 $w{ij}$ 求导极简单： $\frac{\partial vj}{\partial w{ij}} = yi$（即上一层的输出）。
所以我们重点关注前半部分将其定义为误差信号（误差敏感度）
$$ \delta{j} = \frac{\partial E}{\partial v{j}} $$
当前神经元的净输入只要变动一点点，对最终总误差的影响有多大
$$ \frac{\partial E }{\partial \omega{ij}} = \deltaj \cdot y_i $$
2、输出层的 $\delta_j$ 推导若j是输出层神经元
j是最后一层其输出 $y_j$ 会直接用来计算E：
因为 $j$ 是最后一层，它的输出 $yj$ 会直接用来算 $E$：根据链式法则，将 $E \rightarrow yj \rightarrow v_j$ 展开：
$$ \deltaj = \frac{\partial E}{\partial vj} = \frac{\partial E}{\partial yj} \cdot \frac{\partial yj}{\partial v_j} $$
由于 $E = \frac{1}{2} \sum{k} (tk - yk)^2$，所以 $\frac{\partial E}{\partial yj} = yj - tj$。
由于 $yj = f(vj)$，所以 $\frac{\partial yj}{\partial vj} = f'(v_j)$。
代入得到输出层的误差信号：
$$ \deltaj = (yj - tj) \cdot f'(vj) $$

3. 隐藏层的 $\delta_j$ 推导（若 $j$ 是隐藏层神经元）
隐藏层神经元 $j$ 的输出 $yj$ 并没有直接连到 Loss $E$。它的输出 $yj$ 会分流传递给下一层（第 $k$ 层）的所有神经元。
Text ┌───> 下一层神经元 k1 (净输入 v_k1, 误差信号 δ_k1) w_jk1 │ 当前隐藏层神经元 j ──────┼───> 下一层神经元 k2 (净输入 v_k2, 误差信号 δ_k2) (输出 y_j, 净输入 v_j) │ w_jkn └───> 下一层神经元 kn (净输入 v_kn, 误差信号 δ_kn)

因此，我们要对下一层的所有接收者进行多元链式法则（Multivariate Chain Rule）求和：
$$ \deltaj = \frac{\partial E}{\partial vj} = \sum{k \in \text{下一层}} \frac{\partial E}{\partial vk} \cdot \frac{\partial vk}{\partial yj} \cdot \frac{\partial yj}{\partial vj} $$
我们逐项拆解：
$\frac{\partial E}{\partial v_k}$：这正好是下一层神经元 $k$ 的误差信号 $\delta_k$！
$\frac{\partial vk}{\partial yj}$：因为下一层的净输入为 $vk = \sum{m} w{mk} ym$，其中包含了一项 $w{jk} yj$。对 $yj$ 求偏导后只剩下权重： $\frac{\partial vk}{\partial yj} = w{jk}$。
$\frac{\partial yj}{\partial vj}$：当前神经元激活函数的导数：$f'(v_j)$。
把这三项代回求和公式，并将不含 $k$ 的公因子 $f'(v_j)$ 提出来：
$$ \deltaj = f'(vj) \cdot \sum{k \in \text{下一层}} w{jk} \cdot \delta_k $$
这就是反向传播的核心秘密： 隐藏层 $j$ 的误差敏感度 $\deltaj$，是由它后面一层的**所有误差敏感度 $\deltak$ 沿着权重 $w{jk}$ “倒灌”回来**，累加后，再乘以它自己的激活函数导数 $f'(vj)$ 得到的。

💡 说人话：输出层误差直接 = (预测-目标)×导数。隐藏层的误差 = 后一层所有神经元误差按连接权重"反传回来" × 自己导数。先算后一层，再算前一层——这就是 Backward Propagation 的由来。

最后要利用计算好的 $\delta$ 和前向传播时输出的 yi 对所有权重进行更新：
$$ \frac{\partial E }{\partial \omega{ij}} = \deltaj \cdot y_i $$
\alpha 学习率！
7.4 BP 算法流程图
1. 前向传播：输入 → 逐层计算所有神经元输出 yⱼ ↓ 2. 输出层误差：δⱼ = (yⱼ - tⱼ) · f'(vⱼ) ↓ 3. 反向传播：对每一隐藏层 δⱼ = f'(vⱼ) · Σ wⱼₖ · δₖ ↓ 4. 权重更新：wᵢⱼ ← wᵢⱼ - α · δⱼ · yᵢ ↓ 5. 重复 1-4 直到收敛

7.5 数值例子：BP 手算（经典教学示例）
网络结构：2 输入 → 1 隐藏层(2 神经元) → 1 输出 激活函数：Sigmoid（f'(z) = f(z)(1-f(z))）
初始参数：
输入→隐藏：w₁₁=0.15, w₁₂=0.20, w₂₁=0.25, w₂₂=0.30
隐藏→输出：w₃₁=0.40, w₃₂=0.45
偏置：b₁=0.35, b₂=0.35, b₃=0.60
输入：x=[0.05, 0.10]，目标：t=0.99
▶ 前向传播：
h1_net = 0.15×0.05 + 0.20×0.10 + 0.35 = 0.3775 h1_out = 1/(1+exp(-0.3775)) ≈ 0.5933 h2_net = 0.25×0.05 + 0.30×0.10 + 0.35 = 0.3925 h2_out = 1/(1+exp(-0.3925)) ≈ 0.5969 o_net = 0.40×0.5933 + 0.45×0.5969 + 0.60 = 1.1059 o_out = 1/(1+exp(-1.1059)) ≈ 0.7514

总误差 E = 0.5×(0.99 - 0.7514)² ≈ 0.0285
▶ 反向传播：
输出层: f'(o_net) = 0.7514×0.2486 ≈ 0.1868 δ_out = (0.7514 - 0.99) × 0.1868 = -0.0445 隐藏层1: f'(h1_net) = 0.5933×0.4067 ≈ 0.2413 δ_h1 = 0.2413 × 0.40 × (-0.0445) ≈ -0.00430 隐藏层2: f'(h2_net) = 0.5969×0.4031 ≈ 0.2406 δ_h2 = 0.2406 × 0.45 × (-0.0445) ≈ -0.00482

▶ 权重更新（α=0.5）：
w₃₁ ← 0.40 - 0.5×(-0.0445)×0.5933 = 0.4132 w₃₂ ← 0.45 - 0.5×(-0.0445)×0.5969 = 0.4633 w₁₁ ← 0.15 - 0.5×(-0.00430)×0.05 = 0.1501 w₁₂ ← 0.20 - 0.5×(-0.00430)×0.10 = 0.2002 w₂₁ ← 0.25 - 0.5×(-0.00482)×0.05 = 0.2501 w₂₂ ← 0.30 - 0.5×(-0.00482)×0.10 = 0.3002

💡 一次迭代权重变化极小（w₃₂ 从 0.45→0.463 算大变化），实际训练需成千上万次迭代。权重变化方向：所有 w 都增大了，因为 δ 为负（输出偏小），增大 w 可提高输出逼近目标 0.99。

7.6 BP 常见问题与改进策略
瓶颈问题物理本质核心自救策略
局部极小值 & 鞍点 优化算法卡在梯度接近 0 的平坦区域，或者卡在非全局最优的山谷中。 Adam 等自适应学习率优化器：它对每个参数单独计算学习率，并且通过二阶动量冲出平坦区和鞍点；此外，使用 SGD（随机梯度下降） 每次只用一个 Batch 算梯度，引入噪声，也能帮助模型“震”出局部极小。
收敛缓慢（梯度消失） 像 Sigmoid、Tanh 等激活函数，当网络变深时，导数连乘使前期的梯度无限趋近于 0。 更换激活函数（改用 ReLU 族）；引入 BatchNorm（批归一化）防止输入落入激活函数的饱和区；使用 ResNet 残差连接。
过拟合（泛化能力差） 神经网络参数太多，强行记住了训练集里的全部细节（甚至噪声），导致新数据上效果极差。 Dropout（训练时随机让一部分神经元“下岗”，逼迫网络不依赖特定通路）；L1/L2 正则化（惩罚过大的权重值）；早停（Early Stopping）。
问题原因改进方法
局部收敛 梯度下降固有缺陷动量法、随机梯度下降(SGD)、模拟退火
收敛缓慢 梯度消失（Sigmoid 两端 d≈0） ReLU 激活、学习率衰减、BatchNorm
过拟合 参数过多 + 数据不足正则化(L1/L2)、Dropout、早停(EarlyStopping)
鞍点高维梯度≈0但非极值准Newton-BFGS、Adam等自适应优化器
8. Bayesian 神经网络（BNN）
8.1 标准 NN vs. Bayesian NN
特性标准神经网络 Bayesian 神经网络
权重固定数值（点估计）概率分布
学习目标 min E(w) max P(w|D) 或完整采样
输出单一预测值预测分布（均值 ± 不确定度）
不确定度量化 无 参数不确定度 + 结构不确定度
计算量 中等极大（高维积分需 MCMC）
过拟合风险 高（需人工正则化）低（先验天然正则化）
优化方法 梯度下降调整权重得 MSE min 最大似然 Likelihood 学习
💡 BNN 的核心价值：不仅告诉"猜多少"，还告诉"有多确定"。
完整预言包括超参数优化和预测分布。对核物理等需要精确误差估算的场景至关重要。

8.2 BNN 数学框架 —— 高维不可积的困难
1、BNN的生成式数学模型
生成式：在概率图模型中生成式模型指的是对数据的联合分布/条件概率分布进行显式建模，并认为观测数据是通过某种“随机物理过程” 产生出来的。
假设真实物理世界（给定输入 x 和 网络参数 \omega ）符合如下关系：
$$ y = f(x, ω) + σ·ε , \space ε \sim \mathcal{N}(0, 1) $$
$f(\mathbf{x}, \mathbf{\omega})$ 是确定性核心：这是我们用神经网络（参数为 $\mathbf{\omega}$）搭建的一个非线性拟合函数。它的输出是模型预测的“物理规律中心”。
$\sigma \cdot \epsilon$ 是随机观测噪声： $\epsilon \sim \mathcal{N}(0, 1)$ 是一个标准高斯分布的随机变量。 $\sigma$ 是噪声的振幅（标准差）。它代表了真实世界中由于仪器精度、环境干扰等产生的、**不可消除的随机噪声（Aleatoric Uncertainty，固有不确定度）。
最终生成的 $y$ 是一个随机变量：因为加入了高斯噪声，所以即使 $\mathbf{x}$ 和 $\mathbf{\omega}$ 完全固定，最终观测到的 $y$ 也不是一个死板的数，而是围绕着确定性预测中心 $f(\mathbf{x}, \mathbf{\omega})$ 抖动的一个分布。
由于 $y = f(\mathbf{x}, \mathbf{\omega}) + \sigma \cdot \epsilon$，且 $\epsilon$ 是高斯分布，我们可以直接推导出，在给定 $\mathbf{x}$ 和 $\mathbf{\omega}$ 的条件下，观测值 $y$ 的条件概率分布（即单点似然函数）
根据高斯分布的线性变换性质：若 $\epsilon \sim \mathcal{N}(0, 1)$，则 $\sigma \cdot \epsilon \sim \mathcal{N}(0, \sigma^2)$。再加上一个常数偏置 $f(\mathbf{x}, \mathbf{\omega})$，该分布的均值变为 $f(\mathbf{x}, \mathbf{\omega})$，方差保持为 $\sigma^2$
$$ p(y | \mathbf{x}, \mathbf{\omega}) = \mathcal{N}\left(y; f(\mathbf{x}, \mathbf{\omega}), \sigma^2\right) $$
分号前是随机变量后边是分布的参数！
2. 什么是参数数量？（手算参数规模）
对 BNN 需要处理的“高维参数空间”有直观感受，拆解笔记中的参数公式。假设一个多层感知机（MLP）有 $L$ 层，每层有 $H$ 个隐藏神经元。输入维度为 $|\mathbf{x}|$，输出维度为 $|\mathbf{y}|$。我们可以将参数分成三部分：
输入层 $\rightarrow$ 第 1 隐藏层：每个隐藏神经元有 $|\mathbf{x}|$ 个权重和 $1$ 个偏置（共 $|\mathbf{x}|+1$ 个）。因为有 $H$ 个隐藏神经元，所以参数个数为： $(1 + |\mathbf{x}|)H$
隐藏层内部（共 $L-1$ 次层间连接）：第 $l$ 层到第 $l+1$ 层（共 $H$ 个输入，$H$ 个输出）。每个输出神经元有 $H$ 个权重和 $1$ 个偏置。因为有 $H$ 个输出神经元，每次连接有 $(H+1)H$ 个参数。总共连接了 $L-1$ 次： $(L - 1)(H + 1)H$
最后一层隐藏层 $\rightarrow$ 输出层：输出层有 $|\mathbf{y}|$ 个神经元，每个神经元连接前一层 $H$ 个节点并拥有 $1$ 个偏置（共 $H+1$ ）。所以参数个数为： $(H + 1)|\mathbf{y}|$
计算参数公式时，输出层神经元个数完全等同于输出维度 $|y|$ 其实就取决于你想利用神经网络去解决什么样的问题！
输出层的神经元，就是神经网络直接暴露给外部世界、用来承载预测结果的物理容器。因为一个容器（神经元）在数学上只能装一个数，所以你需要预测多少个数值，就必须并排提供多少个容器。这就是“输出层神经元个数 = 输出维度”的终极原因。

把它们加起来，就是总参数量： $\text{总参数量} \approx (1 + |\mathbf{x}|)H + (L - 1)(H + 1)H + (H + 1)|\mathbf{y}|$
恐怖之处：在标准 NN 中，这些参数只是一组实数（如 100 万个 float）；而在 BNN 中，我们要为这 100 万个参数的每一个都学习一个概率分布（如高斯分布的均值 $\mu$ 和方差 $\sigma^2$），这意味着参数空间维度瞬间翻倍，且由于参数间的强耦合，形成了一个极度复杂的百万维后验联合分布空间！

3. 贝叶斯后验推断
给定训练数据集 $\mathcal{D} = {(\mathbf{x}i, yi)}_{i=1}^N$。
根据贝叶斯公式，参数的后验分布为： $p(\mathbf{\omega} | \mathcal{D}) = \frac{p(\mathcal{D} | \mathbf{\omega}) \cdot p(\mathbf{\omega})}{p(\mathcal{D})} \propto p(\mathcal{D} | \mathbf{\omega}) \cdot p(\mathbf{\omega})$
$p(\mathbf{\omega})$：先验分布（Prior）。比如我们假设权重在没看数据前，默认服从一个均值为 0 的窄高斯分布（起到了类似 $L_2$ 正则化的作用）。
$p(\mathcal{D} | \mathbf{\omega})$：似然函数（Likelihood）。即如果参数是 $\mathbf{\omega}$，这堆数据出现的概率。
$p(\mathcal{D})$：证据（Evidence）或边际似然。它是对所有可能参数积分得到的归一化常数： $p(\mathcal{D}) = \int p(\mathcal{D} | \mathbf{\omega}) p(\mathbf{\omega}) d\mathbf{\omega}$
4. 预测（不确定度传播的数学形式）
当我们来了一个全新的测试样本 $\mathbf{x}^$，我们要预测其输出 $\mathbf{y}^$ 的分布。我们不能只用某一组“最好”的权重，而是要把
所有可能的权重对应的预测，按照它们成为真实权重的概率（后验概率）进行加权平均（即做积分）
$$ p(y^ | \mathbf{x}^, \mathcal{D}) = \int p(y^ | \mathbf{x}^, \mathbf{\omega}) \cdot p(\mathbf{\omega} | \mathcal{D}) d\mathbf{\omega} $$
为什么说这个积分一般无法解析求解？ 因为神经网络 $f(\mathbf{x}, \mathbf{\omega})$ 高度非线性，我们无法把这个积分写成干净的数学初等函数。在百万维的非凸空间里进行数值数值积分（比如用网格法），在计算上是绝对不可能完成的（维度灾难）。

8.3 三种估计方法对比
方法操作输出适用
MLE max P(D|ω) 点估计（无不确定度）大数据、弱先验
MAP max P(D|ω)P(ω) 带先验约束的点估计有领域先验知识
Full Bayes MCMC 完整积分完整后验分布需精确不确定度
💡 均匀先验下 MAP = MLE。
MAP = "被先验轻轻拉着的极大似然"——既信数据也尊重已知。

深度剖析：为什么 MAP =“被先验轻轻拉着的极大似然”？
在数学上，如果我们假设先验分布 $p(\mathbf{\omega})$ 是一个零均值、各向同性的高斯分布 $\mathcal{N}(0, \sigma_0^2 \mathbf{I})$：
$$ \log p(\mathbf{\omega}) = -\frac{1}{2\sigma0^2} |\mathbf{\omega}|2^2 + \text{const} $$
如果我们带入 MAP 的优化目标：
$$ \mathbf{\omega}{\text{MAP}} = \arg\max{\mathbf{\omega}} \left[ \sum{i=1}^N \log p(yi | \mathbf{x}i, \mathbf{\omega}) - \frac{1}{2\sigma0^2} |\mathbf{\omega}|_2^2 \right] $$

把最大化改成最小化（乘以 $-1$）：
$$ \mathbf{\omega}{\text{MAP}} = \arg\min{\mathbf{\omega}} \left[ -\sum{i=1}^N \log p(yi | \mathbf{x}i, \mathbf{\omega}) + \lambda |\mathbf{\omega}|2^2 \right] $$
其中 $\lambda = \frac{1}{2\sigma_0^2}$。
前半部分就是极大似然（MLE）对应的负对数似然损失（在均方误差下就是 MSE），后半部分恰恰就是我们极其熟悉的 $L_2$ 正则化（权重衰减 Weight Decay）！
当你的先验非常弱（$\sigma_0 \rightarrow \infty$，即先验分布非常宽、非常平坦），$\lambda \rightarrow 0$，此时 MAP 退化为普通的 MLE。
当你的先验非常强（$\sigma_0$ 很小），$\lambda$ 变大，先验就会像一根强力的弹簧，把不断想要迎合噪声数据的参数 $\mathbf{\omega}$ 狠狠地往原点 $0$ 的方向拉。
8.4 SGLD（随机梯度 Langevin 动力学）
既然全贝叶斯积分那么难算，我们要怎么在有限的算力下得到完整的后验分布 $p(\mathbf{\omega} | \mathcal{D})$ 呢？答案就是：MCMC（马尔可夫链蒙特卡洛采样）。我们不在高维空间里做积分，而是根据后验概率分布在参数空间里进行采样。如果我们采出了 1000 套不同的权重参数 ${\mathbf{\omega}^{(s)}}{s=1}^{1000}$，那么预测积分就可以近似为这 1000 套权重预测值的算术平均： $p(y^ | \mathbf{x}^, \mathcal{D}) \approx \frac{1}{1000} \sum{s=1}^{1000} p(y^ | \mathbf{x}^, \mathbf{\omega}^{(s)})$
而在所有采样算法中，SGLD 是一项里程碑式的突破，它创造性地将深度学习的小批量（Mini-batch）梯度下降优化与物理学中的分子热运动（朗之万动力学 Langevin Dynamics）融合在了一起。

知识补充
一、什么是“标准深度学习”？它的优化本质是什么？
在标准深度学习（非贝叶斯深度学习）中，我们认为神经网络的权重 $\mathbf{\omega}$ 是一组未知的、但确定存在的常数（即只有一个唯一的最优解）。
我们的目标是找到这组特定的 $\mathbf{\omega}$，使得网络在训练集上的预测误差最小。
假设我们有训练集 $\mathcal{D} = {(\mathbf{x}i, yi)}{i=1}^N$。我们定义了似然函数 $p(yi | \mathbf{x}_i, \mathbf{\omega})$，根据我们在前文推导的观测假设，它是一个高斯分布：
$$ p(yi | \mathbf{x}i, \mathbf{\omega}) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left( -\frac{\left(yi - f(\mathbf{x}i, \mathbf{\omega})\right)^2}{2\sigma^2} \right) $$
在标准深度学习中，我们通过最大似然估计（Maximum Likelihood Estimation, MLE）来寻找权重。其目标是最大化所有观测数据的联合概率：
$$ \mathbf{\omega}{\text{MLE}} = \arg\max{\mathbf{\omega}} \sum{i=1}^N \log p(yi | \mathbf{x}_i, \mathbf{\omega}) $$
将高斯分布的解析式代入，并去掉与 $\mathbf{\omega}$ 无关的常数项，上述最大化问题等价于最小化均方误差：
$$ \mathbf{\omega}{\text{MLE}} = \arg\min{\mathbf{\omega}} \sum{i=1}^N \left(yi - f(\mathbf{x}_i, \mathbf{\omega})\right)^2 $$
为了找到这个最小点，我们使用梯度下降算法。每一次更新权重的公式为：
$$ \mathbf{\omega}{k+1} = \mathbf{\omega}k + \alpha \sum{i=1}^N \nabla{\mathbf{\omega}} \log p(yi | \mathbf{x}i, \mathbf{\omega}_k) $$
（其中 $\alpha$ 是学习率，$\nabla_{\mathbf{\omega}}$ 是对权重求偏导的梯度算子）。
“拟合数据”的数学本质：梯度 $\nabla{\mathbf{\omega}} \log p(yi | \mathbf{x}i, \mathbf{\omega}k)$ 在几何上指向的是“能使当前样本预测概率增大的方向”。当我们沿着这个梯度方向更新权重时，权重的数值就会发生改变，使得网络预测的均值 $f(\mathbf{x}i, \mathbf{\omega})$ 越来越接近真实观测值 $yi$。这就是“通过调整权重来拟合数据”的数学过程。
二、什么是“正则化”？为什么参数在没有数据支持时会“漂移”？
1. 什么是正则化（Regularization）？
在机器学习中，如果我们完全不加限制地让权重去拟合数据（即只最大化似然），网络会过度迎合训练集中的噪声，导致过拟合。此时得到的权重往往数值极大，且极其不稳定。
为了限制权重的取值范围，我们在损失函数中引入一个惩罚项，这就是正则化。最常用的是 L2 正则化（在深度学习中也叫权重衰减，Weight Decay），它的目标函数为：
$$ L{\text{reg}}(\mathbf{\omega}) = -\sum{i=1}^N \log p(yi | \mathbf{x}i, \mathbf{\omega}) + \frac{\lambda}{2} |\mathbf{\omega}|_2^2 $$
其中 $|\mathbf{\omega}|2^2 = \sumj \omega_j^2$ 是权重的平方和，$\lambda > 0$ 是调节惩罚力度的超参数。
2. 什么是正则化项的梯度？
当我们要最小化 $L_{\text{reg}}(\mathbf{\omega})$ 时，需要对权重求梯度。对第二项（正则化项）求导：
$$ \nabla{\mathbf{\omega}} \left( \frac{\lambda}{2} |\mathbf{\omega}|2^2 \right) = \lambda \mathbf{\omega} $$
这就是正则化项的梯度。
在梯度下降中，这一项的作用非常直观：
$$ \mathbf{\omega}{k+1} = \mathbf{\omega}k - \alpha \left( \text{数据梯度} + \lambda \mathbf{\omega}k \right) = (1 - \alpha\lambda)\mathbf{\omega}k - \alpha \cdot (\text{数据梯度}) $$
由于 $1 - \alpha\lambda < 1$，可以看到，正则化项的梯度在每一次更新时，都会强行把权重往 $0$ 的方向拉回一点。
3. 为什么在没有数据支持的区域参数会“漂移（Drift）”？
假设在参数空间的某一个维度上，我们的训练集没有任何数据落在这个区域（或者说，某些权重对应的特征在数据中极少出现）。
如果没有正则化：因为没有数据，似然函数对该权重的梯度为 $0$。在数值计算中，各种微小的浮点数舍入误差、或者其他相关维度的间接影响，会累积在这些无约束的权重上。这会导致这些权重像“无绳的风筝”一样，在训练过程中随机游走、数值变得极大或极小（即无限制漂移），使得网络在面对未见过的新数据时做出极其荒谬的预测。
如果有正则化（即先验支持）：即使没有数据提供梯度，正则化项的梯度 $\lambda \mathbf{\omega}$ 依然存在。它会像一根橡皮筋一样，强行把这些无约束的权重拉回到 $0$ 附近，从而保证了模型的稳定性和泛化能力。
三、什么是 MAP 点（最大后验估计点）？
在贝叶斯学派的视角下，我们不认为权重 $\mathbf{\omega}$ 是一个死板的常数，而是认为它是一个随机变量。
根据贝叶斯定理，权重的后验概率分布（即在看到数据 $\mathcal{D}$ 之后，权重各个取值的概率）为：
$$ p(\mathbf{\omega} | \mathcal{D}) = \frac{p(\mathcal{D} | \mathbf{\omega}) p(\mathbf{\omega})}{p(\mathcal{D})} $$
其中：
$p(\mathcal{D} | \mathbf{\omega})$ 是似然函数（数据拟合项）。
$p(\mathbf{\omega})$ 是先验分布
如果我们假设权重服从均值为 $0$ 的高斯先验： $p(\mathbf{\omega}) = \mathcal{N}(\mathbf{\omega}; \mathbf{0}, \sigma_0^2 \mathbf{I})$。
$p(\mathcal{D})$ 是归一化常数，与权重 $\mathbf{\omega}$ 无关。
1. MAP 的定义
最大后验估计（Maximum A Posteriori, MAP） 的目标是：寻找一个单一的权重值 $\mathbf{\omega}_{\text{MAP}}$，使得后验概率 $p(\mathbf{\omega} | \mathcal{D})$ 达到最大值（即寻找后验分布曲线的最高峰山顶）。
$$ \mathbf{\omega}{\text{MAP}} = \arg\max{\mathbf{\omega}} \log p(\mathbf{\omega} | \mathcal{D}) = \arg\max_{\mathbf{\omega}} \left[ \log p(\mathcal{D} | \mathbf{\omega}) + \log p(\mathbf{\omega}) \right] $$
2. MAP 与 L2 正则化的等价性（数学证明）
我们将高斯先验的解析式代入 $\log p(\mathbf{\omega})$：
$$ \log p(\mathbf{\omega}) = \log \left( \frac{1}{(2\pi)^{d/2}\sigma0^d} \exp\left(-\frac{|\mathbf{\omega}|2^2}{2\sigma0^2}\right) \right) = -\frac{1}{2\sigma0^2} |\mathbf{\omega}|_2^2 + \text{const} $$
将此代入 MAP 的目标函数中：
$$ \mathbf{\omega}{\text{MAP}} = \arg\max{\mathbf{\omega}} \left[ \sum{i=1}^N \log p(yi | \mathbf{x}i, \mathbf{\omega}) - \frac{1}{2\sigma0^2} |\mathbf{\omega}|_2^2 \right] $$
两边同乘以 $-1$，最大化问题变为最小化问题：
$$ \mathbf{\omega}{\text{MAP}} = \arg\min{\mathbf{\omega}} \left[ -\sum{i=1}^N \log p(yi | \mathbf{x}i, \mathbf{\omega}) + \frac{1}{2\sigma0^2} |\mathbf{\omega}|_2^2 \right] $$
对比第二部分 L2 正则化的公式，只要令 $\lambda = \frac{1}{\sigma_0^2}$，这两者在数学上是完全等价的！
结论：所谓的 MAP 点，就是我们在标准深度学习中，加入了 L2 正则化（权重衰减）后，训练出来的那组最终的、单一的权重 $\mathbf{\omega}$。它仅仅对应了后验概率分布的最大值点（山峰的最高点）。
四、 SGLD 中的噪声注入：为什么要注入噪声？数学原理是什么？
在贝叶斯神经网络（BNN）中，我们的最终目的不是寻找一个单一的最优权重（比如 MAP 点），而是要得到整个后验概率分布 $p(\mathbf{\omega} | \mathcal{D})$ 的形状，从而能够评估预测的不确定性。
但是，高维空间中的后验分布 $p(\mathbf{\omega} | \mathcal{D})$ 极其复杂，无法直接写出解析式。我们只能通过蒙特卡洛采样（Sampling）：让一粒“粒子”在权重空间中漫游，它在某个区域停留的频率，正好等于该区域的概率密度。
1. 为什么常规 SGD 只能找到 MAP，而不能实现采样？
如果我们使用带正则化的 SGD 进行更新：
$$ \mathbf{\omega}{k+1} = \mathbf{\omega}k + \frac{\epsilonk}{2} \left[ \nabla{\mathbf{\omega}} \log p(\mathbf{\omega}k) + \frac{N}{n}\sum{i=1}^n \nabla{\mathbf{\omega}} \log p(y{i} | \mathbf{x}{i}, \mathbf{\omega}k) \right] $$
这里的步长为 $\frac{\epsilon_k}{2}$。因为这是一个纯粹的优化过程，粒子受到梯度的吸引，会一直沿着山坡往上爬，最终无可避免地死死停在山顶（即 MAP 点）上。一旦停下来，我们就只能得到这一个点的信息，无法得知整座山的形状。
2. 噪声注入（SGLD）的数学机理
为了让粒子不在山顶停下，而是在整座山上“漫游”，随机梯度朗之万动力学（SGLD）在更新公式中强行注入了一个高斯噪声 $\mathbf{\eta}_k$：
$$ \mathbf{\omega}{k+1} = \mathbf{\omega}k + \frac{\epsilonk}{2} \left[ \nabla{\mathbf{\omega}} \log p(\mathbf{\omega}k) + \frac{N}{n}\sum{i=1}^n \nabla{\mathbf{\omega}} \log p(y{i} | \mathbf{x}{i}, \mathbf{\omega}k) \right] + \mathbf{\eta}_k $$
其中， $\mathbf{\eta}k \sim \mathcal{N}(\mathbf{0}, \epsilonk \mathbf{I})$。
请极其仔细地观察这两个关键项的抗衡：
确定性梯度项（括号里的项）：它像地心引力一样，始终把粒子拉向概率最高的地方（山顶/MAP 点）。
随机噪声项 $\mathbf{\eta}_k$：它像热涨落一样，无规则地把粒子随机往各个方向推开。
在物理学中，这种由“外力场（引力/梯度）”和“随机碰撞（噪声）”共同作用的过程，被称为朗之万扩散过程（Langevin Diffusion）。
3. 数学定理保障：为什么它能正确采样？
根据随机微分方程理论，当步长 $\epsilonk \to 0$ 且满足一定的衰减条件时（即 $\sum \epsilonk = \infty, \sum \epsilon_k^2 < \infty$），该离散马尔可夫链的平稳分布（Stationary Distribution）在数学上被严格证明收敛于真实的后验分布 $p(\mathbf{\omega} | \mathcal{D})$。
这意味着：
当粒子爬到山顶（MAP点）时，由于噪声 $\mathbf{\eta}_k$ 的存在，它会被随机踢下山。
山陡峭的地方（概率低），引力（梯度）极大，粒子被踢下去后会迅速被拉回来。
山平缓的地方（概率高），粒子可以在这里漫游很长时间。
如果我们把粒子在每一个时间步的物理位置 ${\mathbf{\omega}1, \mathbf{\omega}2, \dots, \mathbf{\omega}_T}$ 记录下来，这些记录下来的权重样本集合，其直方图就会完美逼近真实的后验概率分布 $p(\mathbf{\omega} | \mathcal{D})$ 的曲线。
这就是通过“噪声注入”将一个“寻找单点的优化算法”魔改为“描绘整体分布的采样算法”的完整数学机理。

将梯度优化与 MCMC 采样融合：
$$ w{k+1} = wk + (\frac{\epsilon{k}}{2})·∇log P(wk|D) + ηk\space, \space\etak \sim \mathcal{N}(0 , \epsilon_{k}\mathbf{I}) $$

展开后验梯度：
$$ w{k+1} = wk + (\frac{\epsilon{k}}{2}) [ ∇log P(wk) + (N/n) Σ{i = 1}^{n} ∇log P(yi|xi,wk) ] + ηk , \etak \sim \mathcal{N}(0 , \epsilon_{k}\mathbf{I}) $$

项作用
∇log P(w)（先验梯度）向先验"拉回"，起正则化作用
∇log P(y|x,w)（似然梯度）推动拟合数据，用 mini-batch
η_k ~ N(0, ε)（噪声注入）防止停在 MAP 单点，探索整个后验
似然梯度项（推动拟合数据）： $\frac{N}{n} \sum{i=1}^n \nabla \log p(yi | \mathbf{x}i, \mathbf{\omega}k)$ 在大型数据集（总样本数 $N$）中，计算全量梯度太慢了。我们每次只抽取一个大小为 $n$ 的小批量（Mini-batch）来估算梯度，然后乘以放大系数 $\frac{N}{n}$ 来近似全量梯度。这和标准深度学习中 SGD 的操作完全一致。它负责推动权重去拟合数据。
先验梯度项（向先验“拉回”）： $\nabla \log p(\mathbf{\omega}_k)$ 相当于正则化项的梯度。它防止网络参数在没有数据支持的区域无限制地漂移，把它往先验分布的中心拉。
噪声注入（灵魂所在，防卡死）： $\mathbf{\eta}k \sim \mathcal{N}(0, \epsilonk \mathbf{I})$ 在常规的 SGD 优化中，小球会沿着斜坡滚到某一个局部极小值（MAP 点）然后停下来不动。但是在 SGLD 中，我们故意在每一步更新中注入一个高斯随机噪声 $\mathbf{\eta}_k$。这相当于给这个滚下山的小球不停地施加微小的震动（类似于热力学中的布朗运动）。有了这个噪声，小球永远不会在某个单点停下来，它会在最有可能的参数区域附近欢快地、受控地漫游（Sampling）。它在某个区域停留的时间长短，正好对应了后验概率 $p(\mathbf{\omega} | \mathcal{D})$ 在该区域的高低！

💡 SGLD 核心：用注入噪声在参数空间中"受控漫游"。比纯 MCMC 快，比纯优化提供不确定度。Capture parameter uncertainty！
为什么 SGLD 能够收敛到正确的后验分布？
这里面有一个非常精妙的数学物理机制：随着采样步数 $k$ 的增加，我们的步长（学习率）$\epsilon_k$ 会缓慢衰减（但不能衰减得太快）。
在更新项中，确定性的梯度项的系数是 $\frac{\epsilonk}{2}$，其衰减速度是 $\mathcal{O}(\epsilonk)$。
而注入的随机噪声 $\mathbf{\eta}k$ 的标准差是 $\sqrt{\epsilonk}$，其衰减速度是 $\mathcal{O}(\sqrt{\epsilon_k})$。
随着步长 $\epsilon_k$ 越来越小，梯度带来的确定性漂移会逐渐被随机噪声（布朗运动）所主导。在数学上可以证明，当步长衰减满足特定的“Robbins-Monro 条件”时，这种受控的随机漫游轨迹产生的样本，会严格且完美地收敛到参数的真实后验概率分布 $p(\mathbf{\omega} | \mathcal{D})$！
9. 正则化与奥卡姆剃刀
9.1 L2 权重衰减正则化
在损失函数中加入惩罚大权重的项（L2正则化）：
$$ E{reg}(\omega) = E(\omega) + (\frac{\alpha}{2 \beta}) \sum \omega^{2}{i} $$ $\alpha$ 是正则化强度
Bayesian 视角：等价于给权重施加高斯先验
P(w) ∝ exp(-α/2 · Σwᵢ²)
贝叶斯视角下的概率本质
在上一节我们证明了，寻找使后验概率最大的点（MAP 点）其公式为： $\mathbf{\omega}{\text{MAP}} = \arg\max{\mathbf{\omega}} \left[ \log p(\mathcal{D} | \mathbf{\omega}) + \log p(\mathbf{\omega}) \right]$
现在我们给定具体的先验和似然分布：
先验 $p(\mathbf{\omega})$：假设我们认为权重应该在 $0$ 附近，服从一个独立同分布的高斯先验（Gaussian Prior）： $p(\mathbf{\omega}) = \left(\frac{\alpha}{2\pi}\right)^{M/2} \exp\left( -\frac{\alpha}{2} \sum{i=1}^M \omegai^2 \right)$ 这里，参数 $\alpha$ 实际上代表了先验分布的精度（Precision），即方差的倒数：$\alpha = 1/\sigma_0^2$。它的数值越大，高斯先验分布的曲线就越陡峭、越窄，说明我们越有信心认为“权重应该等于 $0$”。
似然 $p(\mathcal{D} | \mathbf{\omega})$：假设观测数据带有方差为 $\sigma^2$ 的高斯噪声，定义噪声精度为 $\beta = 1/\sigma^2$，则似然为： $p(\mathcal{D} | \mathbf{\omega}) \propto \exp\left( -\frac{\beta}{2} \sum{n=1}^N (yn - f(\mathbf{x}_n, \mathbf{\omega}))^2 \right)$
数学等价性证明
将这两项取对数相加： $\log p(\mathbf{\omega} | \mathcal{D}) \propto \log p(\mathcal{D} | \mathbf{\omega}) + \log p(\mathbf{\omega})$ $\log p(\mathbf{\omega} | \mathcal{D}) \propto -\frac{\beta}{2} \sum{n=1}^N (yn - f(\mathbf{x}n, \mathbf{\omega}))^2 - \frac{\alpha}{2} \sum{i=1}^M \omega_i^2 + \text{const}$
为了让公式最简化，我们将两边同时除以 $-\beta$（这不改变最大化问题求极值点的位置），并令总损失 $E(\mathbf{\omega}) = \frac{1}{2} \sum (yn - f(\mathbf{x}n, \mathbf{\omega}))^2$（即均方误差的一半）：
$\text{Target} = E(\mathbf{\omega}) + \frac{\alpha / \beta}{2} \sum{i=1}^M \omegai^2$
这就是 L2 权重衰减公式的概率本质：它完美等价于高斯先验下的 MAP 估计。
$\beta$（噪声精度）越大（数据噪声越小），我们越信赖数据，惩罚项相对变小。
$\alpha$（先验精度）越大，我们越保守，惩罚项变大，强迫权重不能偏离 0 太远。
超参数含义效果
α（大）强正则化模型更简单，可能欠拟合
α（小）弱正则化贴近数据，可能过拟合
β（噪声精度） 1/σ² 控制数据拟合 vs 正则化的权重
大权重 → 模型过分关注特定噪声模式 → 记住噪声 → 过拟合。
惩罚大权重 = 强迫模型简约。

9.2 奥卡姆剃刀（Occam's Razor）
哲学原则：能解释数据的模型中，最简单者最佳。
数学表达（Bayesian 模型比较）——边际似然 Evidence
EVIDENCE
当我们有多个候选模型 $M1, M2, \dots$（比如 $M1$ 是 1 次多项式，$M2$ 是 3 次多项式，$M3$ 是 10 次多项式）。我们想知道：在看到数据 $\mathcal{D}$ 后，哪个模型最合理？ 根据贝叶斯公式，模型自身的后验概率为： $p(Mi | \mathcal{D}) \propto p(\mathcal{D} | Mi) \cdot p(Mi)$ 如果我们假设每个模型的先验概率 $p(Mi)$ 是一样的，那么**决定哪个模型胜出的唯一标准就是 $p(\mathcal{D} | Mi)$（Evidence，边际似然）**2。
它的计算方法是对该模型下所有可能参数进行积分（积分消去权重）3 1： $P(\mathcal{D} | M) = \int P(\mathcal{D} | \mathbf{\omega}, M) \cdot P(\mathbf{\omega} | M) d\mathbf{\omega}$
关注 evidence可以自动执行奥卡姆剃刀的原则！
由于概率是需要归一化的，因此对于任何模型 $M$，其在所有可能的数据空间 $\mathcal{D}$ 上的 Evidence 积分必须为 1： $\int P(\mathcal{D} | M) d\mathcal{D} = 1$
这导致了不同复杂度的模型在数据空间中分配其“概率预算”的方式截然不同：
简单模型 $M_1$：它的参数空间很小，只能生成非常简单的数据。如果我们的观测数据 $\mathcal{D}{\text{obs}}$ 稍微复杂一点（比如带有一定的非线性）， $M1$ 根本拟合不了，因此其似然函数 $P(\mathcal{D}{\text{obs}} | \mathbf{\omega}, M1)$ 在任何参数下都极小。最终积分得出的 Evidence 极小。
极度复杂模型 $M_3$（拥有成千上万个参数）：它可以解释世界上的任意数据（拟合能力极强）。但是，因为它的参数空间巨大（比如上百万维），它的先验分布 $P(\mathbf{\omega} | M_3)$ 会把概率密度稀释、平摊到极其庞大的参数范围里3 2。在做高维积分 $\int P(\mathcal{D}{\text{obs}} | \mathbf{\omega}, M3) P(\mathbf{\omega} | M3) d\mathbf{\omega}$ 时，虽然第一项似然可以很大（能拟合），但第二项先验概率在整个参数空间里小得可怜3[2](https://vertexaisearch.cloud.google.com/grounding-api-redirect/AUZIYQHq9OQgpg5wD1Yi2u8W0HNA-Gdmpy2AHebkcN50LXt5xv5VtnX2Bo21ILDYqynYhP8hu9v777U3vetd5fPxDM4XZWBuR2d-aaldlRPTZC8rqlOmr_EWUlL)。这导致在积分后，Evidence 依然很小。 (这就是笔记里“大厨”的比喻：满汉全席大厨可以做1万道菜，你让他只做一道煎蛋，他把这道煎蛋做出来的概率，只是他那一万道菜谱中渺小的 1/10000。他被自己的“多才多艺（高复杂度）”给惩罚了。)
适中模型 $M_2$：它的复杂度刚好能解释 $\mathcal{D}_{\text{obs}}$，它的参数空间没有被无端放大，因此概率分布没有被严重稀释。最终它的 Evidence 最大
模型复杂度 Evidence 原因
M₁（简单）低小拟合数据不好 → 似然低
M₂（适中）中最大 ✓ 能拟合又不浪费参数
M₃（复杂）高小能拟合但概率"平摊"到太多可能
💡 说人话：复杂模型像满汉全席大厨——你只叫他煎蛋，他的本事被"浪费"，分摊到每个可能菜单的概率都低。中等复杂度刚好够用 Evidence 最大。

9.3 Evidence 的两项竞争平衡
随参数数 M 增加：
第一项（拟合）：总更好（或不变差）
第二项（复杂度惩罚）：变差
两者平衡处 = 最优 M
9.4 课程实例：核物理模型比较
GPR（仅 3 个超参数）在核质量外推中表现优于 BNN（参数太多可能 unstable）。
这完美体现奥卡姆剃刀——当数据有限时，简单模型往往更可靠。
💡 BNN 虽然理论上更强大（提供参数分布），但其大量参数在有限数据下可能不稳定。GPR 以极少的超参数提供优秀的泛化能力，成为核物理外推的首选。

10. 置信区间与不确定度传播
10.1 经典 CI vs. Bayesian CI
方面经典 CI Bayesian CI
定义重复抽样∞次，95%的区间包含真值 给定数据，真值在区间内概率=95%
解释频率论（关于方法）概率论（关于参数本身）
依赖仅依赖抽样分布 依赖先验 + 数据
💡 不能说"真值有 95% 概率在这个区间内"——这是频率论者的致命诱惑式错误。
但 Bayesian CI 可以这么说。

Bayesian CI 公式：
$$ ∫{ωl}^{ω_h} P(ω|D) dω = CI $$

10.2 不确定度量化的道德要求
课程引用 Nazarewicz（Phys. Rev. C 98, 034318, 2018）的著名论断：
情况问题性质评价
CI 过窄 虚假精确：声称比实际更准不诚实
CI 过宽（远>95%） 虚假谦虚：浪费精度也是不诚实
不给误差无法判断可靠性 "不给出误差的理论就是耍流氓"
💡 核物理领域对不确定度的要求近乎"道德"层面——过窄过宽都不行，必须有真实的误差评估。

10.3 Bayesian 不确定度传播链
数据不确定度 → 参数后验分布 P(ω|D) → 预测分布 P(y*|x*,D)

整个链条是概率分布的传播。Bayesian 框架天然支持端到端的不确定度量化和传播。
11. 物理信息机器学习
11.1 纯数据驱动 ML 的困境
缺乏物理先验知识
数据量不足时泛化差
核反应数据：误差大、不完整、各数据库间有分歧
核结构数据：精度较高，但有强量子效应（壳结构、奇偶效应、闯入态、轨道反转...）
11.2 四种物理信息融入方式
方法具体做法核物理例子
物理特征量输入 将已知物理量作为输入特征壳修正、奇偶效应、分离能
物理约束 Loss Loss 加入物理约束项归一化、非负值、守恒律
模型残差学习 学习物理模型的残差 Model Mixing 从核模型出发 ML 修正残差
物理嵌入先验 用物理模型构造 Bayesian 先验迁移学习 → 物理模型 → 先验
💡 优势：综合物理信息（守恒律、对称性、量子效应等），即使数据少也能学好。

11.3 PINN（物理信息神经网络）
用于求解微分方程，将微分算符嵌入 Loss 函数：
Loss = MSEdata + λ · MSEPDE
其中 MSE_PDE 惩罚网络输出不满足偏微分方程的程度。
应用领域：流体力学、热传导、量子力学中的微分方程求解。
参考文献：G.E. Karniadakis, Nature Reviews Physics 3, 422 (2021)
11.4 迁移学习策略
物理模型/已训练网络参数初始化 → 作为 Bayesian 先验 → 新数据上微调。
核物理实例：裂变产额评价（Pei 组 PRL 123, 122501 (2019)）——累积产额与独立产额间的矩阵转换关系约束嵌入先验。
12. 其他经典机器学习方法
12.1 CNN（卷积神经网络）
输入图像 (32×32×3 像素) ← 3=RGB 通道 ↓ 卷积核 5×5 特征图 (28×28×N channels) ← 卷积提取特征 ↓ 池化 Pooling 降采样特征图 ← 减小尺寸保留关键信息 ↓ 全连接 FC 分类输出

两大核心思想：
局部关联（Local Correlation）：每个神经元只看一小块（感受野）
参数共享（Parameter Sharing）：同一个卷积核全图滑动，大幅减少参数
💡 仿生学设计：模仿生物视觉皮层的感受野（receptive field）机制。

12.2 RNN（循环神经网络）
隐藏层节点之间有循环连接 → 网络"记住"之前输入的上下文信息。
适用场景：序列相关数据——时间序列、自然语言、音频信号。
💡 与 Transformer 区别：RNN 逐字顺序处理；Transformer 通过自注意力机制并行处理整个序列。

12.3 Transformer 与 ChatGPT 技术栈
组件功能
Self-Attention 对输入不同部分差异化加权（关注重要部分）
Encoder 将输入编码为上下文表示
Decoder 从编码生成输出序列
💡 ChatGPT = GPT（Generative Pre-trained Transformer）：在大量无标注文本上预训练，通过人类反馈（RLHF）微调，生成类人文本。

12.4 GAN（生成对抗网络）
生成器 G → 生成假样本 → 判别器 D → 真假判断 ↑ 真实样本

博弈过程：G 试图骗过 D，D 试图不被骗 → 两者共同进化 → G 学会生成逼真样本。属于无监督学习。
12.5 各方法速览对比
方法类型核心思路监督方式
SVM 分类 Kernel映射→高维→最大间隔超平面监督
随机森林 分类/回归多棵决策树投票/平均监督
XGBoost/LightGBM 分类/回归梯度提升树，逐棵修正前树残差监督
CNN 图像/语音卷积+池化+全连接监督
RNN 序列数据循环连接的记忆机制监督
Transformer/GPT 文本生成自注意力+Encoder-Decoder 自监督预训练
GAN 内容生成生成器vs判别器对抗博弈无监督
Deep Learning 通用多隐藏层(>2)，需大数据监督/强化
KAN 通用 Kolmogorov-Arnold网络，可解释高监督
12.6 AlphaGo 里程碑
技术栈：深度卷积神经网络 + 蒙特卡洛树搜索（MCTS）
💡 2016 年 AlphaGo 击败李世石——AI 发展史上的标志性事件，证明深度学习在复杂策略游戏中的能力。

13. Bayesian 优化
13.1 动机
当目标函数 f(x) 计算代价极高且解析形式不可知时，需要高效地找到最小值。
机器学习超参数调优（每次训练代价高）
实验设计优化（每次实验成本大）
核物理中模型参数校准
13.2 算法四步循环
┌──────────────────────────────────────────────────┐ │ 1. 建立先验：用 GP 对 f(x) 建立概率信念 │ │ p(f) = GP(f; μ, K) │ │ ↓ │ │ 2. 加入观测数据 D = [(x₁,f₁), (x₂,f₂), ..., (xₙ,fₙ)] │ │ ↓ │ │ 3. 更新后验：p(f|D) = GP(f; μ_{f|D}, K_{f|D}) │ │ ↓ │ │ 4. 采集函数选下一个采样点 xₙ₊₁ │ │ 平衡 Exploitation(利用) 与 Exploration(探索) │ │ ↓ │ │ 回到步骤 2，扩充 D → D∪{(xₙ₊₁,fₙ₊₁)} │ └──────────────────────────────────────────────────┘

13.3 核心机制：Exploration vs Exploitation
策略做法风险
Exploitation（利用） 在当前最优点附近采样精炼已知最优
Exploration（探索） 在高不确定度区域采样可能发现更优
💡 物理直觉：Bayesian 优化如在黑暗中摸索——既深挖已知"好方向"（利用），又不敢错过未知中可能的"金矿"（探索）。采集函数 Acquisition Function 就是这只"导航手"。

14. 总结与对比表
14.1 课程知识体系全景
计算物理中的机器学习 │ ├── 统计基础 │ ├── 描述统计：均值, 方差, 相关系数 │ ├── 信息论：熵, KL 散度, 条件熵 │ ├── 误差分析：协方差矩阵, 误差传播 │ └── Bayesian 定理：先验 → 似然 → 后验 → 证据 │ ├── 回归方法 │ ├── 线性回归: β=(XᵀX)⁻¹Xᵀy, MLE=最小二乘 │ ├── 多项式回归 + SVD 求解 │ ├── GPR: 非参数, f~GP(μ,K), 天然误差棒 │ └── Bayesian 线性回归: 参数即分布 │ ├── 神经网络 │ ├── 前馈 NN + BP 算法（梯度下降+动量） │ ├── BNN: 权重为分布, MCMC/SGLD 训练 │ ├── 正则化 (L2 = 高斯先验) │ └── 奥卡姆剃刀 (Evidence 框架模型选择) │ ├── 物理信息融合 │ ├── 特征输入, Loss 约束, Model Mixing │ ├── 迁移学习 + 先验嵌入 │ └── PINN: 微分算符嵌入 Loss │ └── 先进方法 ├── CNN, RNN, Transformer/GPT, GAN ├── SVM, 随机森林, XGBoost ├── Deep Learning (AlphaGo) └── Bayesian Optimization

14.2 核心方法总对比
方法输出类型不确定度参数可解释性最佳场景
线性回归点估计+CI 解析CI 少极高简单趋势
GPR 预测分布 天然自带 3个高 数据少需不确定度
标准 NN 点估计无大量低大数据分类/回归
BNN 预测分布 完整后验 大量低需参数+结构不确定度
CNN 点估计无大量低图像/语音
Transformer 概率分布 softmax 海量注意力 NLP/ChatGPT
SVM 分类决策距离度量中中中小数据分类
随机森林投票/均值方差可估中高结构化数据
Bayesian Opt 最优点 GP后验少高昂贵函数优化
14.3 方法选择决策树
需要不确定度？ ├── 是 → 数据多？ │ ├── 是 → BNN（完整分布）或 GP（快速） │ └── 否 → GPR（3个参数优于BNN多参数） └── 否 → 数据类型？ ├── 图像/语音 → CNN ├── 序列数据 → RNN/Transformer └── 结构化数据 → 随机森林/XGBoost 或标准NN 有物理先验知识？→ Physics-Informed ML（嵌入特征/约束/Loss/先验）

14.4 六大核心理念
理念具体内涵
Bayesian 思维 概率 = 信念程度；先验+数据→后验；持续更新
不确定度量化 预测必附误差；"不给出误差的理论就是耍流氓"
奥卡姆剃刀 适度模型适度学习；少则不及多则过
物理融合 纯数据驱动不足 → 物理信息嵌入是正道
新科学范式 方程不可解/不存在时 → 数据驱动+物理约束
实用主义 按问题选方法：权衡数据量、不确定度、可解释性
💡 最终结论：机器学习不是物理学的敌人，而是强大补充。Bayesian 框架为数据驱动的科学发现提供了系统性的不确定度量化和模型选择方案。"AI for Science"已是不可逆转的趋势。

Akuiro整理补充笔记结束 · 2026-06-08

看完了？说点什么呢

影视文化与批评期中论文

akuiro — Sun, 28 Jun 2026 07:51:14 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Midterm-Assignment-on-Film-and-Television-Culture-and-Criticism
我的一天
22:38，北京家中的床上，父亲掏出纸笔，床边倚着母亲，我在桌边的椅子上，和堂弟尽力回想今天在老家遇到的那一张张面容，尽力和父亲所讲并一点点勾画出来的家谱所对应上，窗外依旧是北京的车水马龙，但小小的屋内，充斥着一代与下一代记忆的传递……
在床上睡意朦胧之时，我又闪过了这一天，又闪过了父亲给我介绍的家谱。我们的家族血脉清晰，以“我”和堂哥明明、堂弟康康所属的“振”字辈为当前主体。我们的父辈是亲兄弟三人：明明父亲（乳名双成）是老大，我的父亲付成排行老二，康康的父亲喜成是老三。再向上追溯至祖辈，我的爷爷在家中兄弟中排行老二，他的大哥膝下有四个男孩，其中一大爷的两个儿子庆峰和庆坡，庆峰哥是我们这一辈中年龄最长的一位，而一大爷的二弟、三弟、四弟也都有各自的子女。我的爷爷还有一位三弟，膝下并无儿女。继续向上，我的老爷爷（即爷爷的父亲）有一位兄弟，这位兄弟有一位儿子，在我爷爷那辈分中排行最大，都叫他“大爷爷”，大爷爷有一位与我父亲同辈且年纪最长的大爷，他膝下有两个孩子，分别叫镇江和镇海。至此，这些便是与我血缘最为亲近的家族成员。
凌晨 · 闷热的老家
4点，我在华北平原邯郸大名吴六店村的大炕上，被老家闷热潮湿的天气直接热醒，汗水浸透了背心，我难耐起身奔向大堂屋，那里有一台吱呀吱呀转动的大风扇，吹干身上的汗后，又跑出门接了半杯水，咕咚咕咚一口气喝完后，才感觉整个人好多了，掏出手机看了看信息，并没有什么很重要的事情因为昨天早睡没有回，于是整个人再度回到闷热的火炉中沉沉睡去。
再度清醒过来时，父亲拉我直接起身，身边的堂弟也在穿衣服。父亲急匆匆地催促我道：“赶紧收拾衣服，咱都去晚了要！”我猛地清醒——大爷爷一周年祭，我们要到晚了。
我抓紧穿衣抹了把脸，便脚步虚浮地踩在泥土地上，跟着父亲往大爷爷家走去。依旧是眼熟的低矮的土砖墙。小小的道路两边，已经站着不少因为此事回来的亲戚和老家的街坊邻居，在相互唠嗑搭话。
这里的大多数人，我是真不认得，我老家回的次数少，小时候还没记事就跟着父母出去了，随后的十来年中，即使是每年基本都回来，但是因为见的亲戚也少，呆的时间也少，除了最近的一脉亲戚家里人认得很全，其余只能算得上是脸熟，基本都是遇到人就求助于父亲或者母亲，他们会很快就认出来来人是谁，以及我该叫来人是姨姑大娘大爷叔叔等等的哪一个，一般只需要我乖巧地笑着叫完后，就是安安静静地回答一些问题或者听长辈们的聊天。但是这回不一样，父亲在回来的车程上告诉我：“已经成年了，该回老家认认亲戚了，不然以后会越来越远了就，不能光混脸熟，要分得清人，会叫人。”
但是我上来就露了怯，遇到一位大娘我上来就是大姑好，当场只能尴尬地笑，父亲也在旁边絮絮叨叨地给我介绍，但是我还是一头雾水，但是屋内催，开始叫：“付成来了没？准备开始了！”父亲的乳名是付成，于是便放下话闸子，急匆匆地走了进去。
周年祭 · 跪拜与传承
院子中间的过道很宽，两侧是大爷爷生前种的蔬菜地。现在这些菜地由大爷每天打理，垄沟里的青菜、豆角和茄子长势整齐。过道地面铺着白色塑料布，从院门口一直延伸到供桌前。右边靠菜地的位置铺着两块毯子，颜色已经被泥土地染黄，几位大爷和叔叔已经在毯子上跪下准备开始接祭奠。塑料布尽头摆着彩纸扎的灵屋，约半人高。灵屋前放着一张条桌，桌面上摆着大爷爷的相框，旁边有酒壶、香炉和几盘供品。供品里有苹果、桃酥、煮熟的鸡鸭，还有叠成方块的纸钱。条桌右侧放着烧纸用的铁皮火盆，盆底积着黑灰，火盆边还堆着几捆备用纸钱。
这幅场景，小时候是如何，现在依旧是如何，不同的是，父亲与我讲，那个永远直挺挺地跪在最前面的大爷爷走了，那个永远讲着自己的道理与规矩的大爷爷走了。
这次老家的白事和周年祭奠，是我成年后首次切身经历。第一次，我作为晚辈，不再是被父亲、姑姑和大爷们用“年龄还小”为由挡在仪礼之外的旁观者，而是真正切实参与到整个周年祭奠之中。
童年时我总疑惑，为什么父亲和这些长辈能将繁琐礼节分得那样清楚，能把程序办得那样井然有序。如今想来，这些看似刻板的规矩，实则是随着年岁增长与一次次亲历，逐渐在血脉里生根的传承。当我跪在泥地上，膝盖的疼痛让我想起小时候躲在父亲背后偷看的疑惑，此刻却老老实实地跟着大爷们叩首祭拜。当亲身参与的那一刻，那些曾经模糊的不解的仪式细节，也就逐渐清晰地烙印在记忆深处，像被纂刻在石碑上的墓志铭，抹不去，更擦不掉。
祭拜流程 · 三揖十二首
早上第一个环节开始于6点左右，这时候院子里主要都是本家的人。所有的男性，以大爷爷的儿子，就是我的大爷中最大的一位，领着头，进行第一轮的祭拜。我和堂弟作为年龄和辈分基本是最小的，站在了最后，学着前边领头的大爷，在白事先生喊出祭拜开始后，便先作长揖，然后跪拜，磕完四个头后，后边人跪着，领头的大爷起身前去供桌前，继续作长揖，然后跪下，先扣四首，随后会跪着环敬三杯酒，遥敬一炷香，然后起身回来。一周年的时候是要先哭的，就是俯身跪在地上，然后深声带着哭腔去喊“我的爹啊”或者“我的大爷”“我的大爷爷啊”，然后哭完后继续四拜，起身后再作揖。我们老家白事传统的“三揖十二首”就是这样一套流程。
随后分别是本家里的另一脉的大爷领头进行类似的流程，最后是我的亲大爷前去领头，各人有各人不同的拜法，我亲大爷拜的额外多，导致到后边我的膝盖隐隐作痛，后来问了大爷，说这是“二十四拜”的祭奠礼，是我亲爷爷传下来的。
坟头 · 玉米地里的告慰
在本家的三脉拜完后，就是去坟头祭拜了，几位白事先生帮忙拿着灵房子，大爷爷的儿子走在最前面，捧着照片，后边还有请来的师傅，在吹唢呐和敲锣鼓，我和堂弟走在男性群的最末端，往前望去，村里人下地种地变得黢黑的皮肤，基本都留的寸头方便打理，低着头往前走，清晨白茫茫的天，身后低沉沉的唢呐声，身前黑压压的一片人，就这样，往着村头东边大爷爷的坟走去。
坟是在一片玉米地里的，玉米已经长得齐人头一样高了，玉米叶上的绒毛，边缘处长出来的小刺，地里的玉米密集排布，就中间有一点点缝隙，人从中钻进去，要用双手拨开两边“门神”的“手臂”，还要不断调整方向才能找到具体的地方。我跟着走，好不容易总算挤了进去，进去之后，在狭小的空间，拜上三拜，算是告慰大爷爷，子孙后辈来看您了。至此，算是第一轮本家祭拜结束了。
早饭 · 乱炖与乡音
回来之后，我看了眼点，7点30左右，然后就是开饭了，外边人搭把手，做出的一大锅乱炖，白菜豆腐海带五花肉，给足了油水，盛在一个小碗里，自己去拿馒头，蹲在路边就是早饭了。不得不说，还是很香的，虽然品相没有那般好。
边吃饭边有人坐在路边的倒下来的树墩上聊起来了，还有人见我面生，问我：“你是哪儿的？”我一时之间不知道怎么回答，父亲也不在身边，我只好用蹩脚的家乡话尴尬地说：“俺是这儿哩。”后来父亲与我解释，这不是问你是哪里的人，这只是用来问你是哪家的小孩或者住在村里哪里的。对面的也乐了，想了想之后直接问我：“恁爹叫啥？”我一想有道理，直接报父名还是最有用的，一下子就认得了。
而且家里人喜欢唠嗑，一下子就是这问问，那问问，在得知我在北大上学后，对着我问，北大食堂好不好啊，住的好不好啊，有没有见过韦神啊，是不是压力很大啊等等问题一股脑儿地全冒出来了。村里人的关怀可能就是简简单单的问候与关照，简单但是暖心。
村里人相处免不了磕碰，平日里为鸡毛蒜皮红过脸是常事。但碰上要紧事总能拢到一块——孩子考上学校要凑钱，家里盖新房要搭把手，红白喜事婚丧嫁娶必须摆席面。这些时候谁都不会差事，远在外地的也要赶回来。
父亲这回坚持带我回来，起初我嫌麻烦。现在才想明白：这些事像根线，把散在各地的人串起来。老辈人走了，小辈接替回来，周年祭祖上坟、长辈去世，红白事必到场，说是守规矩尊传统，其实更是给离乡的人留个念想，给离乡的人寻摸出来个根。
说白了，人走得再远，根还在老宅小屋底下。老辈人烧了纸，小辈得接着添香。说到底，这些老理儿撑着整个大家族，走得散，但走不散的根。

迎亲戚 · 长跪与大雨
稍作休息后，开始迎亲戚，就是村里街坊里短的，或者近来村远方村的，有点关系，记着日子的，都会来。远点就可能人来的三两个，近点的也有十好几来的，带着传统定下来的头周年要带的馒头与纸钱，拿着大麻袋装着，外边记事的白事先生拿着笔，在上边写下“岳村”“北冀村”“大名”“田六店”等等来人的地方，然后传到屋内，吩咐响起唢呐，迎着号子，白事先生大喊出来人村名，然后来人会在白布上进行传统的“三揖十二首”，我们本家的人会在一侧的地方陪着一起进行，然后最后还要再多叩首一次，这是“谢”。在这个整个期间，是不允许起身活动的，是要一直陪着跪的。来的人各有各的拜法，但是我知道的是，我的膝盖骨有点受不住，一位大爷说孩子没跪过这长时间，可以在两拨人来的中间稍微蹲一下歇歇腿，我将目光转向父亲，父亲想了想也点头了。
在我的“偷懒”下，先撑过了1个多点的迎接的环节。这个时候突然天空下起了大雨，环节暂时停止，暂时也不会有人来，所以中间就是唢呐和号子，搭配上锣鼓齐响的表演。家里人围坐在能避雨的地方，一边喝水聊天，一边听着表演。我趁机卷起裤腿，看着膝盖早已通红，一边揉膝盖，一边呲牙咧嘴。
长久跪在地上导致膝盖的刺痛让我忍不住揉搓，一位大爷见状对了咧了咧嘴，父亲也过来，蹲在我身旁轻声说道：“这跪着，是替大爷爷在下边受苦呢。”他指着被泥土地染黄的毯子，“现在有这垫子垫着都算好的，以前直接跪水泥硬板地，一跪就是一天。”父亲轻轻拍了拍我的肩，“你大爷爷当年跪在最前头，一动不动，笔直地挺着，看到有晚辈没跪好都要出声训斥的。”我没有说话，只是把膝盖再压紧了些，仿佛这样好像就能离那个严肃的大爷爷更近一点。我想，我好好守着这个规矩，算是给一生都守着这个规矩板板正正地过了一生的大爷爷一个慰藉吧。
随后还是就是一个多小时，陆陆续续会有人来祭拜，我们就坚持着，陪着跪到了最后。
送纸扎 · 青烟与念叨
家里人从后屋中拿出来了很多纸做的纸扎，做了有白鹤、汽车、还有明器聚宝盆和金山银山等各种东西，还是本家的人基本按照辈分走成一列，沿着田埂往坟头走去，在这个过程中，每隔百步一炮响，就这样一步一步，把纸扎送到坟前。
然后，到了坟前，纸扎全堆在石碑前烧成灰。火苗窜起来时，长辈们对着火堆念叨：“不用多接济了，底下吃穿不愁啊，想吃啥就买啥啊。”燃烧的纸钱化作黑灰，纸灰被风卷着往上飘，掠过坟边的玉米地，掠过村口的老商铺，最后消散在灰白的天际里。我望着那缕黑青烟，突然觉得大爷爷或许真能听见我们这些晚辈的唠叨——这风从老宅吹来，带着燃烧纸钱的余烬，也带着全家人的心气与挂念。
吃席 · 老家味道
这就算是结束了，整个白事，父亲还跟我讲，今天由于下雨和工作日的原因，比以前短多了，以往都要办个一整天呢。我继续问父亲，那接下来是干嘛去，父亲讲到该吃席了，请这各位帮忙的父老乡亲吃顿饭。来到五庄的一家饭店，一下子坐下来有十五六桌的样子，我和一个叔叔一起发酒，每桌两瓶酒两瓶饮料，家里的人都比较能喝，于是坐席经常都是上的白酒。饭菜还没上，就听到有的桌上开始推杯换盏，喝起来了。然后就是上大菜搂席，说实话，还是老家的菜更契合我的胃口，有什么烧鸡、红烧大肘子、炒腐竹、糖醋鱼、清炖羊肋条、小酥肉汤等十道大菜，吃的我直接撑肚了。
旁边的三大爷直接逗我，讲：“看这平时在学校吃的不太好啊？给饿着了？不是说清北的食堂是很好吃的嘛？”我尴尬地笑：“学校的食堂感觉吃起来真不一定有老家的大席香。学校菜还很贵，根本没有老家菜实惠又香。”三大爷后来喝酒有点上劲，跟我絮絮叨叨地讲，他平时在石家庄那块，当年我高中竞赛培训本来可以去找他做做的，不过当时还有疫情，也就没去，还说以后如果有机会一定要去玩去家里坐坐。这位三大爷的形象逐渐在我心中和记忆中有了痕迹，我觉得这趟老家回的貌似还可以，起码认得了不少人。
一顿风卷残云后，就是在喝着唠嗑家常啥的，同桌有一个按辈分算是我的外甥的小孩，从坐下的那一刻开始，就是在捧着一个手机，打游戏看视频，聚精会神，全神贯注可以说是，这顿饭他的另一个动作就是时不时消灭下他爸爸给他夹到碗里的菜。同桌的庆峰哥开玩笑说再玩手机就不让吃了，小孩就赌气直接不吃了，他爸爸解释说小孩暑假一直在外边补课，上那种全托班，两周回一次家，觉得玩手机玩玩也没什么。其实我心中是持反对意见的，想玩是可以玩的，但是起码不能在饭桌饭还没吃完的情况下玩，甚至搭话都直接不理就有点失分了，但是我最后还是没说，因为在场还是有比我辈分大的且关系更近的没说，我说总归感觉有点过了。
走的时候，经典的老家的残局收拾场景出现了，有不少千里眼开始去搜刮没喝干净的酒和饮料带回家，然后来回谦让推拉大法。我和父亲送我大姑二姑回去，大姑二姑把一袋子馒头直接塞到我的手中，说拿回去吃吧，还问要不要在家里玩两天，我说回去还有点事情，就先不呆了，大姑二姑又说那后来再找时间一定来玩。旁边的大爷一边乐呵呵地抱着手中的酒笑，一边给我堂弟展示他给百日的外孙女买的新玩具，家里就是这样啊，永远热热闹闹，幸福和苦恼都是来得快、去得也快。
临别 · 面粉与情谊
接下来就是我跟着父亲去大爷家，拿了一袋子大爷最近磨好的面粉到车上，然后听着父亲和大爷谈论我堂哥的找工作和未来可能要订婚的问题，然后又谈到大爷种出来的蒜个头品质不咋好，在寻思咋能提升提升品质，多攒点钱，到时候好给我堂哥凑出来个县城的房子的首付和结婚用的钱，这样以后就轻活了，两位长辈各有各的忧愁和事情，亲兄弟的两位对于种蒜的问题也是各抒己见，但是最后大爷还是应付着答应了下来，但是趁我爸不注意，又抬了袋面粉上车，说多带点过去吃。
老一辈的情总是这样，行大于言，言语上的冲突与拌嘴挡不住行动上的情谊与关照。
于是我们便收拾好行李和东西，再度踏上回来的道路，父亲一直在开车，庆峰哥陪着父亲在搭话，我不知为何，很困又累，便沉沉地在车上睡去，一觉醒来就又到了休息站。我下车就是一个踉跄，父亲对着我开玩笑，说这就跪了一上午就不行了？身子骨没锻炼好啊，想当时我们都要连着在水泥土地上跪几天的…… 父亲这段话其实上午就说过了，但是父亲就是如此，喜欢把自己认为对的事情和经历过的事情一点一点地翻来覆去地给他的孩子讲，希望我们从中学到点什么。
后来，父亲在车上反复讲述他年轻时跪在水泥地上一整天的经历，我不再打断。这些故事碎片，正一点点拼凑出“父亲”这个角色背后，那个作为爷爷儿子、兄弟二哥、村里晚辈的复杂身影。我对父亲的了解也是从各种各样的故事中完整地构建起来的，平时我对父亲的了解只能是去仰望父亲作为父亲的角色，没想过父亲作为爷爷的儿子，作为兄弟的二哥，作为村里的晚辈是如何的角色，我想我有必要去完整地了解父亲，越了解越能明白，父亲能从老家闯出来，是多么的不容易，是多么的不平凡。
归途 · 时代的线
剩下的下午时间就是车程。父亲在去取正在修的车的时候发牢骚，啥也没干，一检查这车就搭进去两千，现在真是挣钱难花钱快啊。在物价上涨的时代，可能老家的人还处于一种慢慢与外界新时代接轨的过程中的时候，当你闯出来，你惊觉时代变化之快，貌似是把很多家里的人都拉下来了，但是每个闯出来的人实际上也做不到完全的脱离，仍旧是有很多的线、很多的理、很多的规矩、很多的关系都在拉着每个人的根最后聚拢到反而是最朴实的一个地方，一间土屋，一把老凳，一座土坟……
老家的路比记忆里宽了，但大堤上的老商铺还在。年轻人都往城里涌，可红白事的请柬一到，散在各地的人又会从高铁站、写字楼里冒出来。就像被线牵着的纸鸢，飞得再高也得落回老宅的屋檐下。
尾声
回到家中，我透过窗户，楼下霓虹晃得人眼晕，但老屋的砖瓦、祖坟的青石，愈发在记忆中清晰起来。手机备忘录的光标在“家要多回、人要常见”后闪烁，像根断了的线头悬在空中。
最终，我继续敲下：
这一天，都挺好。
看完了？说点什么呢

影视文化与批评期末论文

akuiro — Sun, 28 Jun 2026 07:43:49 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/Final-Assignment-on-Film-and-Television-Culture-and-Criticism
从《七武士》论东方主义语境中武士的神性祛魅与现代性转化
——武士叙事的解构、复归与困境
一、引言
《七武士》是一部关于守护的电影，更是一部关于消逝的电影。电影讲了一个故事：七名武士临时聚集，守住了将要被强盗掠夺的村庄，但却守不住自己的归属。农民的胜利，却站在武士自己的失败上。黑泽明导演并没有让武士们成为神话中的英雄，而是让他们浑身沾满泥土，在雨与泥里行走奔跑，在战斗间显露疲态，在胜利之后露出人性的迷茫。这些画面，让武士的形象从符号、传奇与神话中抽离，回到了人的重量。
武士阶层长久以来在日本都是个被神化的阶层，但黑泽明的叙事并没有顺从这种固化形象。他没有给武士套上浪漫和奇迹的光环，而是把武士道放在一个不断被侵蚀被打破的现实里。农民出身的菊千代，是最突出的象征：他既讥讽武士的傲慢，又拼命模仿他们的坚毅。他用行动和生命守护村庄，却从未真正属于"武士"阶层。他的存在，把"武士精神"从神性中剥离出来，变成了一种靠武士意志支撑的姿态。
然而，单纯把武士从神坛拉回人间，并不意味着文化困境就此消解。萨义德所揭示的东方主义指出：西方对东方的凝视常将日本武士幻化成为"神秘""暴力"的形象符号，而日本自身在近代化进程中也陷入了所谓"自我东方化"的悖论——既被动接受又主动迎合这种凝视。而黑泽明导演的《七武士》试图打破这一循环：菊千代的农民身份瓦解了武士的血统传承，武士的受伤和死亡消解了浪漫化的想象。但影片终章中，三位活下来的武士静立在田埂，望着农民唱歌播种却沉默不语的镜头，实质上暴露出更深层的困境：当武士道被从历史语境中抽离武士而存在，转化成为"责任""坚韧"等抽象现代话语时，仍有可能陷入新的符号化困境。
这种困境正是东方主义的现当代投射：黑泽明用现实主义解构了武士的"神秘"、"忠诚"、"暴力"符号，却最终也无法完全摆脱自我东方化的宿命。就像现代日本仍在用动漫和商品输出"刀剑审美"等元素：既意在反抗传统东方主义下日本的刻板印象，又在无意间加固新旧交替的印象观念、消费链条。当文化符号都游离于真实历史之外，当"传统"竟逐渐成为被反复消费的商品，一个民族、一个国家能否在解构与重构间，找到真正属于自己的发声方式？
二、武士神性的崩塌与人性的觉醒
黑泽明的镜头，从未真正把武士当作不朽的神祇。他捕捉展示他们的疲惫、困惑与犹豫，更拍下了他们在死亡面前的沉默。《七武士》中最鲜明的角色是菊千代，一个本不属于这个阶级的农民，却穿上盔甲，提起刀剑，是一个笨拙的模仿者，又是一个比真正的武士更勇敢的人。他嘲讽武士的傲慢："你们以为自己高人一等，可你们活不下去，还得靠我们这些农民养活。"在真正的战斗中，他比谁都冲在前面。他，是冲击武士阶层使其崩塌的开拓者，也是武士精神重生的最好诠释。
黑泽明以其独特的电影语言强化表现了这种崩塌过程。影片中反复出现的下雨场景与灰土连天的场景，不仅仅是环境元素，更是一种视觉隐喻与心理暗示。在暴雨中武士与农民共同战斗守护村庄的长镜头里，武士的奋斗杀敌与农民的并肩作战，视觉的呈现刻意消解了武士原有形象的洁净感与距离感。黑泽明摒弃了传统武士片中常见的慢镜头与武斗特写镜头来美化个人形象，反而更多的选择采用多机位快速剪辑，让战斗场面更加混乱而真实。尤其要说的是，菊千代中弹后继续战斗的场景中，镜头并没有过多聚焦于他的"英雄时刻"，很快镜头里便只留下一具被雨水冲刷的普通躯体。这种去传统美学化的处理方式，还有影片中极少仅在开头与结尾有的简短配乐，刻意营造出一种真切沉浸感，使武士不再是被仰视的传奇，而是能够平视的历史参与者。
在日本的历史叙事中，武士的身份曾经与血统、土地绑定。他们是主君的剑，也是秩序的盾，是封建制度的有力捍卫者。但到了战国末期，这种身份的坚固开始松动，菊千代的形象，正是这一转折的缩影：武士精神，不再是贵族的专利，而是某种可以被继承、被演绎的行动准则与行为逻辑。与《浪客剑心》里流浪剑客不再杀戮的抉择相呼应，菊千代让我们看到，武士道并不是固守身份，而是寻找自己进行某一行动的意义。这种转变让武士以及武士道不再只是权力结构下的单纯的工具，也不再只是一种供西方社会凝视的文化符号，一种在东方主义话语体系中神化的形象，而是有可能成为普通人可触及的、日本国民性的一种文化精神。
农民与武士之间的关系，也在这部电影里被重新书写。黑泽明导演没有让农民成为软弱的旁观者，也没有让武士成为唯一的守护者。在暴雨中的那一幕里，武士和农民一同齐心协力相互支撑着守护村庄。这一细节，悄悄击碎了东方主义想象中武士的"神秘""暴力"的文化形象：那些手持武士刀的身影，不再只是被浪漫化的冷面阴暗的杀戮者，而是在泥泞里竭力护着村庄和农民的勇士。他们的忠诚对象，也不再是某个遥远的主君，而是一个共同体，一块土地、一次承诺、一份尊严、一个信仰、一种精神。这与《最后的忠臣藏》里赤穗武士长年蛰伏、为主君复仇的"私忠"相比，《七武士》中的忠诚更接近"公忠"，是对"我们"集体的守护，而非对某个权威的绝对服从。
勘兵卫作为七人中的核心人物，是另一种人性化的典型形象。他并非完美的英雄，是一个谨慎又有谋略的老兵。他的冷静，与传统武士道中歌颂的"牺牲奉献"略不同。他希望得到胜利，但更在乎如何用最小的代价取得胜利并活下去。他教导农民如何布防，教他们削竹枪，在战斗中发挥了中流砥柱的作用。他没有冲动，总是在顾全着大局，因为他深知武士的局限性与农民的卑劣性，但是他仍然选择了留下来。这就是黑泽明想要的一个形象。与此同时，黑泽明对勘兵卫的塑造也充分地体现在镜头语言上。与传统武士片中领袖人物常有的威严主角站姿不同，勘兵卫在影片中大多以蹲姿或坐姿出现，这种低角度构图很大程度上削弱了他的权威感，增加了融入感与亲和力。特别是在他向农民讲解防御策略的场景中，镜头从农民的视角向上拍摄，将勘兵卫置于与农民平等的位置。黑泽明还巧妙运用了"剃头"这一细节：勘兵卫在行善举的时候剃去头发伪装成和尚，还有不时摸头的动作成为贯穿全片的视觉线索，更加将勘兵卫的形象真实化。这些电影语言的精心设计，使《七武士》的对于武士神性的祛魅过程不仅停留在叙事层面，更深入到影像本体。
这种"现实感"，让武士道脱离了理想化的祭坛，回到了历史的尘土之中。它让我们看到，所谓的武士精神，在乱世中早已不是一成不变的信条，而是随环境流动、逐渐有更丰富诠释的价值体系。
黑泽明导演的电影中常常带有宿命感。《七武士》里，宿命感并非通过宏大叙事来营造，而是渗透在每一个镜头与细节中。武士们损失惨重，土地被守住，农民重新播种。最后的镜头里，幸存的几名武士站在高处，看着田间歌声，沉默不语。他们的胜利属于农民，而不是自己。这一幕让武士的形象真正完成了解构：他们的存在，不是为了维系自身的荣耀，而是被卷入历史长河中的一块石子，溅起浪花，却无法停留。真正留存在长河中，可能只是武士道精神构筑的长碑吧，不断有石子和浪花在长碑下书写下属于一个个个体与时代的痕迹。
这也许是黑泽明最深的用意。《七武士》不单纯是一曲英雄的颂歌，更多的是一则关于变迁的寓言。当武士不再神圣，也无法被简单定义为勇气与悲情的浪漫形象时，他们成为历史中的人：能流血、能质疑、会迷茫、会悲欢离合、更会在最后一刻微笑。这种人性化，让影片在对抗外部刻板印象的同时，也迫使日本社会开始直面自身：那些被反复消费的武士符号，到底承载着什么？是力量，还是仅仅只是一种被市场所催生出的假面戏服？
三、东方主义视角下的文化自审
东方主义是什么？萨义德在《Orientalism》首次提出东方主义一词，在此书中，将东方主义不仅单纯看作为一个学科学术领域，更多强调将其理解为一种思维方式，一套关于权力的话语体系这三层含义。可以更概括的讲，东方主义逐步从一个相对中性的学术领域名词，转变为一种固化的思维模式、一种极端的意识形态、一系列针对东方的刻板印象、一个本质上揭示出权力与知识共谋造就的扭曲现实的集合体概念。
《七武士》在西方社会的接受，是一个很复杂的过程，但是却总带着一种东方主义下的偏见凝视以及对于探索未知"东方"的自带神秘光环。对于许多的西方观众，武士是日本的重要象征：持刀挥砍的身影、克制隐忍的表情、死亡切腹时的安静，构成了他们拆解"神秘东方"的主要切入点。这种拆解往往被浪漫化固定化为某些特定元素，后来这些也被简化归为萨义德所说的"被凝视的对象"，成为一种符号化的文化消费。除了《七武士》在欧美爆火揭示了这一点，由美国导演拍摄的《最后的武士》也是这种逻辑的典型。汤姆·克鲁斯饰演的美国军官，在影片中见证并"拯救"了一群浪漫化的武士。这些武士在电影中被塑造成超越现实的精神象征，成为一面供观众膜拜的旗帜。这讲武士道精神，抽离了历史复杂性，只保留了"纯粹"的忠诚、牺牲和暴力三个文化元素符号来诠释。
与《最后的武士》中的武士形象相对，《七武士》正试图一步步破除这些光环。在黑泽明的镜头中，武士不再是神秘的符号，而是像岛田勘兵卫这样会怀疑思考、像久藏这样大战后会疲惫休息的个体。菊千代在中弹后拼杀对面有枪的强盗后，死在泥泞中，没有英雄的壮烈牺牲的光彩，只留下一具沾满泥水的尸体。堪兵卫在战斗期间会不断摸摸自己因为善举剃掉的光头，用冷静与沉着分析敌我局势，而并非传统武士形象上的一往无前慷慨赴死。这些细节，不只是让武士"更真实"，更是一种祛魅的过程：它提醒观众，这些人不是传说神话，而是历史中的人。而这种去神圣化，恰恰是在抵抗那种被西方反复重现的、单一化的"东方暴力美学"。
然而，《七武士》也没有完全摆脱东方主义话语逻辑。萨义德的理论提醒我们，东方主义不仅仅存在于外部的被动凝视，也常常体现在被凝视者的自我主动表现中。日本在近代化进程中，既渴望被世界认可，又在文化输出中主动提供"可消费的东方形象"。从"脱亚入欧"的现代化选择，到"大东亚共荣圈"时期对武士道的国家化军事化的挪用，武士精神一次次被当作工具，既服务于国家，也满足外部世界的想象。在这样的历史背景下，《七武士》中的菊千代尤为重要。他拒绝成为"纯粹的传统武士符号"，他的农民出身不断提醒观众，武士身份并不天然高贵，也不是唯一能承载"荣誉"与"武士道"的存在。这是一种隐性的抗议，试图打破"被消费的形象"循环。
还有，像傅满洲这种眯眯眼科学怪才——西方所塑造的刻板"东方形象"，与菊千代形成了鲜明对比。前者是被扭曲、被异化、被设置的他者形象，而后者是更复杂的、带着矛盾的人。菊千代既渴望成为武士，也嘲笑武士的虚伪；他既能冲锋陷阵，也能流露脆弱。这种形象，让《七武士》能够从一定程度上跳脱出简单的"文化他者"位置，成为一种对内外双重凝视的回应。黑泽明并非彻底否定武士精神，而是通过这种复杂的呈现，让武士从单一的符号回到立体的存在。这一处理，使影片在面对全球观众时，不至于沦为东方主义消费的又一例证。
在《七武士》的结尾，依然留下了一种被历史边缘化的感伤。幸存的武士站在田埂上，他们胜利，他们活着，却显得多余。冈本胜四郎最终也没有与心心念念的志乃在一起，武士与农民终究最后还是走向了不同的道路，武士的未来依旧是看不到路的。这种处理，虽然成功避免了西方电影中常见的浪漫化，但仍保留了一种"哀伤的主角"姿态。它可能是对历史寓言的忠实呈现，但也让影片停留在某种历史真相边缘范围。对西方观众而言，这或许依然是一种"可被揣摩的东方忧郁"，只是比以往更深、更克制、更隐晦。
从这个意义上看，《七武士》的文化自审是一种"有限的突围"。它解构了武士神话，抗拒被符号化，却无法完全摆脱历史与全球视野下的复杂纠缠。这种复杂张力，让影片不只是日本的历史寓言，也成为一种映照，照出东西方之间权力社会与文化想象的漫长交织。
东方主义实质上也是一个自证陷阱类似的东西，你自东方主义出发的文化批判文化认知，想要跳出东方主义，就必须超出东方主义。应当要将视野转向全球化的整体视角，而非陷入西方社会构建起来的一个对于"自我认知"的认同的无尽漩涡。
四、武士精神的现代性启示
武士道有其内在的动态适应性。武士精神并非僵死的信条，而类似于世间所有文化现象一样，随着权力格局的变迁，其核心内涵也随之调整。战国乱世，一个秩序崩塌、道德模糊的时代，时代使得武士的道德准则在这个阶段呈现出极大的不定性。勘兵卫作为武士的代表，他不再拘泥于以往那种强调"牺牲奉献"的理想主义，而是更多地展现出一种实用主义的谋略。他为了拉拢武士用尽戏码与真情，为了引诱山贼而设置陷阱，这些行为在传统武士道看来或许不够"光明磊落"，但在乱世中，却是生存的智慧。这种模糊化，正是武士道在现实面前的自我调整。
武士道精神常被提炼成几个核心词：责任、坚韧、忠诚。在《七武士》中，这些特质依然存在，却不再依附于荣耀和身份，而更多转化为一种朴素的力量。勘兵卫的冷静谋略，不是出于对名声的追求，而是为了让更多人活下去。即便是菊千代，这个半路出家的"武士"，也在最后的战斗中，用自己的死亡守住了村庄。这些行动背后，没有诗意的誓言与壮大的宣誓，只有纯粹的责任感与践行的忠诚。
这样的武士精神，在现代社会中依然很有意义。它提醒我们，在瞬息万变的世界里，忠诚不应再是盲目地依附于某个人或某个小团体，而应转向对更广阔的共同体、对普遍道德准则的坚守。《七武士》拒绝歌颂那种赤穗武士式的十七年隐忍与复仇，那种"私忠"可能会将个体的生命困锁在狭隘的阴影之下。黑泽明把镜头转向武士坚持对于土地与农民的守护。传统武士道在脱离了盲目的附庸后，才能真正的成为一种大众的普世公共价值。
这种武士道的转化，在当今日本的职场文化中体现得尤为明显。以丰田汽车公司为例，在其闻名全球的"丰田生产方式"中，所着重强调的"持续改善"和"尊重人性"理念，便是传统武士道中"责任"与"坚韧"在现代企业价值观中的精彩转化。如今的员工，其忠诚与信念不再是仅仅针对某个具体的上司，而是转化为对产品质量的精益求精和对团队目标的共同承担奋斗精神。实践表明，当武士精神被剥离其历史语境中的阶级限制时，其本质深层的价值是能够转化为适应现代社会发展的正向驱动力的。
"我们又打输了，赢的是农民。"影片中这句略带自嘲的台词，无疑是对整部电影主题的凝练总结。它并非单纯的戏谑，而是一种带有对于历史的深刻清醒认知。武士、武士阶层、阶层的存在，从来都是暂时的。他们在历史的长河中像一阵疾风，吹起浪花，留下片刻的辉煌与痕迹。但真正的胜利，终究还是属于那些世代扎根于土地、默默耕耘的人们，而非这些四处漂泊、以战斗为生的武士。
黑泽明在《七武士》里，给予武士的不是胜利的凯歌，而是一种复杂的尊严。他们的精神，没有被完全颂扬，也没有被完全否定，而是被放在一个开放的空间中。在传统与现代中，类似武士这样的文化身份需要被反复地重新审视和定义，正所谓"去其糟粕，取其精华"。像《浪客剑心》中的手持逆刃刀的绯村剑心那样，武士道可以被转化为拒绝无谓杀戮的坚定意志，更可以转化为现代社会中，面对压力与挑战时的一种静默的坚韧。只有当这些精神摆脱身份和符号的束缚，它们才可能在新的时代里继续存在，继续流传下去。
五、结论
回顾这部经典的影片，不只是看到了不同武士的性格与故事，更多是窥见了超越刀剑、超越生死、超越生活的武士道。这些影片展示了多维度的武士世界——武士不仅是武功高强，手持刀剑厮杀的战士，也是一位位有感情有血肉有逆境的人。他们也会面对不公、失败、怀疑、动摇、无奈、挣扎、挑战，但是他们依旧坚守，守着自己的尊严与责任，守住经受多重考验的忠诚，守好了内心深处的武士道。日本武士，在大众文化下不断去演变深化的形象，从神性到人性，从战斗到日常，从传统到反思，这些都一步步构筑起了我们对于古代日本武士群体复杂而富有层次的认知。
《七武士》讲述的是一段战斗，也讲述了一种消逝。七名武士守住了村庄，却无法改变自己的命运。影片中的每一场雨、每一片泥泞，都在提醒我们：武士从来不是凌驾在世间之上的神，而是被卷入时代洪流的人。他们的精神，从"主君的剑"到"土地的守护者"，不断被重写，也不断被利用。他们既是历史的工具，也被塑造成文化的符号。黑泽明的镜头，拆解了这层神话，让武士不再是遥远的象征，而是回到人的尺度。
东方主义的批判，在这里并非抽象的理论，而是一种具体的追问：当一个文化被简化为刀光、樱花、动漫，它还能否说出自己的声音？《七武士》的回答并不确定。影片既抵抗了浪漫化的凝视，也无法完全摆脱历史与全球视野下的被观看感。幸存的武士站在田埂上，看着农民耕作的画面，是胜利，也是疏离。他们属于战斗，却不再属于土地。这一幕像一面镜子，映照出一个民族在现代化、全球化的舞台上，对身份与声音的反复追问。
武士精神并未随着阶层的消亡而彻底消散。它的核心：责任、坚韧、克制，都是可以转化为现代的价值。然而，它必须剥离盲目的"私忠"，必须摆脱被消费、被浪漫化的宿命。当这些精神回到现实的土壤中，它们才能成为现代人的支撑，而不是留存于历史与过往中的遗物。
影片的最后，武士们抬头看向死去武士的坟堆，留有风吹动那七武士的旗。黑泽明没有给出明确的答案，只留下空旷的余味：胜利的意义到底属于谁？传统与现代，能否找到共存的可能？或许答案并不需要在此刻给出。正如那些埋在泥土里的刀剑，或许真正的价值，不在它们拼杀立功的瞬间，而在它们沉默蓄力时留下的份量。
参考文献
[1] Said, E. (1978). Orientalism. Pantheon Books.
[2] Takaki, R. (1989). Strangers from a Different Shore: A History of Asian Americans. Little, Brown and Company.
[3] Wieland, M. (2018). Rurouni Kenshin and the Meiji Restoration: A Reimagining of Samurai Values. Journal of Japanese Popular Culture, 7(2), 145-162.
[4] Storey, J. (2009). Cultural Theory and Popular Culture: An Introduction. Pearson Education.
[5] Edgerton, H. (1994). The Japanese Image in American Film: From World War II to the Present. Praeger Publishers.
[6] Kato, N. (2002). Self-Orientalism in Modern Japanese Culture. Routledge.
[7] Li, P. (1998). The Image of the "Yellow Peril": Western Perceptions of the Asian Other. Asian Studies Review, 22(3), 321-338.
[8] Yoneyama, T. (1997). The Politics of the "Japanese Tradition": Nationalism and Globalization in Postwar Japan. Duke University Press.
[9] 李欧梵. (1999). 东方主义与文化霸权. 读书, (5), 45-52.
[10] 王柯. (2005). 从"脱亚入欧"到"大东亚共荣圈". 历史研究, (3), 112-125.
[11] 陈平原. (2012). 侠客精神与文化记忆. 北京大学出版社.
看完了？说点什么呢

美国政治与公共政策课堂NOTE

akuiro — Sun, 28 Jun 2026 07:40:06 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/American-Politics-and-Public-Policy
Lecture 1 美国联邦制
有枪为啥不干政府
事情一旦陷入自证就永远无法证明
芬太尼——新的“珍珠港事件”
🔹 什么是"红脖子"（Redneck）？
"红脖子"是美国文化中的一个俚语，通常指代：
地域分布：美国中西部和南部农村地区的白人群体
职业背景：农场主、制造业工人、蓝领劳动者等
社会经济特征：
家庭经济条件相对贫困
受教育程度普遍不高，对精英教育持怀疑态度
观念传统保守，宗教信仰虔诚（多为基督教福音派）
文化特点：
重视家庭、爱国情感强烈
对LGBTQ+、堕胎等议题持保守立场
部分群体存在排外倾向，对移民政策敏感
这部分群体实际上对于世界对于他们自身的国家都是所知、认知甚少的

美国大选/中期选举——实际上对于美国人本身没有那么重要（）

公共政策的定义
政治是关于权力的关系核心在于权力的分配、冲突、妥协
公共政策是为了公共治理制定的一系列法律和实践措施
如果应用公共政策视角
基础在于社会管理（教育医疗住房犯罪枪支毒品税收社会福利）这一类社会问题无法用 “一刀切” 的公共政策进行解决
所有社会治理都需要资金核心在于“钱从哪里来”
甄别问题的背景比解决问题的方式更重要
社会管理和公共政策视角
1、警察（暴力震慑）
2、预算（税收体系）
民主是依靠警察的暴力来守护的

联邦政府的权力在不断扩张
美国各级政府
五月花——村落（围绕教堂宗教清教徒建立的马萨诸塞州）——城镇——州（state）和城市 ——联邦政府
建国历程：现有州政府再有联邦政府
独立战争实际上是一场治安战（真正激烈的是英 vs 法西战斗）

三权分立——三权合作
总统：机构 1、建立全国行政机构 2、行政机构延伸行政权力 3、建立联邦与地方政府的直接联系约束州政府权力
国会：立法宪法（主线就是赋予联邦政府更大的权力）监管
司法

在联邦政府建立初期只有关税被让渡出来
如今，85%税收来源是个税

反思美国联邦制
常态时期：权力分配、责权清晰
危机时期：推卸责任、争权夺利
州与州之间关系类似于一种邻居关系

Lecture 2 警察体系
LAPD Dorner之间的矛盾逮捕过程全程直播
美国邮政局也有警察且也能抓人（2020.8.20 News Steve Bannon）
现代警察体系的概念和性质
韦伯：国家是在特定领土内垄断合法使用武力的政治组织
警察：维护国内治安的行政武装力量
负责国内安全和社会治理
组织结构：实行属地化管理贴近社区
年限：终身公务员 —— 相对于有固定服役年限的军队来看

最早出现在 French 英国确立现代的警察体系（公共化专门化专业化）
美国确立世界上最权威的警察体系：
全球结构最复杂的警察体系
最暴力的执法机构
2009年美国发生“占领华尔街运动”
美国警察发展史
发展史实际上就是美国国家建构的缩影
早期 N：守夜人 巡逻模式（无偿） —— S：奴隶管控队 制度（歧视性执法）
殖民地时期美国：付费买服务的基因
各地出现大量私警形成的 治安团（vigilantism） 地方种族歧视杀害非裔美国人的地方‘司法’团体
现代警察机构的建立：城市化和暴力制度化
在这种背景下移民国家没有任何恻隐民族情感等等的联系
相互之间就是赤裸裸的厮杀建立在死亡暴力的直接威胁之上的

19世纪中期动荡和失效人口激增社会矛盾激化 ——> 城市治理要求治理模式改变
1845 NewYork 成立美国首个现代城市警察局 ——> 职业化转型
执法模式：以暴制暴的制度化建立威慑来维持秩序
极端案例：芝加哥警方率先采取武器压制原则
社会根源：
工业化城市化商业贸易——>大量移民涌入
劳资冲突、不同族群之间冲突——>需要成立维持公共安全的职业性执法体系
早期美国警察随时可解雇——>地方政客的裙带关系或者政治馈赠不同的管理者带来不同的领导班子清算
联邦政府体系的建立
为联邦服务的私人侦探早期是跨州的私人侦探组织灵活性秘密服务
eg：平克顿国家侦探社

美国第一个联邦执法机构： 特勤局 （Secret Service）
为打击调查金融犯罪伪造钞劵
作为美国历史上第一个联邦国家情报和执法机构用于监视全国金融、税务犯罪、劳资纠纷
后期逐渐政治情报组织 ——> 扩大到国外（间谍情报 .....) ——> 负责保护总统安全等等
后来联邦调查局成立后国内情报搜集和反情报职能划给 FBI
2001 911事件后隶属于国土安全部
现代两大职能：保卫正副总统（候选人）安全；调查伪钞等金融犯罪

联邦调查局 FBI
全美国最大的联邦 “情报侦查逮捕” 一体化执法体系
具有海外情报和执法权的联邦执法权的联邦警察体系
9/11后 FBI获得空前的国内反恐、反间谍执法权力

联邦酒类、烟草枪支与爆炸物管理局 ATF
最早是隶属于财政部 1）监管征收与烟酒有关的税收 2）调查与枪支爆炸物有关的犯罪
国土安全部成立后税收职能归 IRS警察其余不变归入司法部管辖
1993 德州韦科惨案

美国联邦警察体系
州：州警察高速公路巡警
郡：郡警察（三不管区域警长）
市：市警察社区警察

为什么美国国会议员不打架
国会警察会看管

美国政治体制牢牢维护警察权威

对比移民国家和民族国家来看
以暴制暴和暴力升级的本质原因是：管理成本的考量
美国警察开枪原则：自身安全保护警察判断无辜其余群众受到威胁的时候（很主观的单方认定）
3K党被警察体系震慑

复杂的联邦体系警察是美历史发展形成的
暴力是国家授予Police的合法权力
移民国家之间缺乏情感认同是暴力执法的根本原因

政治体系稳定建立在强大国家警察权威基础上
警察是美社会管理的核心支柱
情报侦查执法震慑一体化是美警察体系的核心模式
情报 —— 信息 —— 通讯
通讯成为美情报体系赖以生存的基础设施如何获取数据成为美国国家安全的命脉

Lecture 3 税收体制
美国税收体系发展史
殖民地时期：宗主国征税体系
反抗英国税务官
波士顿倾茶事件：英国允许东印度直接向美国出口茶叶等于英国直接征税（本地无税收）
建立之初：美国宪法
亚历山大·汉密尔顿主张中央政府（偿还战争债务维护国家信用并资助必要常备军）
1787年《美国宪法》授予国会 —— “征收税款捐税关税和消费税” 为中央政府确立了独立的财权地位
联邦政府税源：关税消费税州政府税源：人头税财产税
征税权的暴力基础
1791 《国内收入法》联邦政府开始对于境内生产直接征税
1794年 “Whiskey 暴乱” 遭受总统直接镇压 —— 奠定了暴力征税的合法性
征税权建立在国家暴力基础上的国家强制力 —— 征税权即统计权

所有合法性最根源是来源于完备威慑的暴力基础
州政府的征税权
财产税 —— 维持地方基建教育和治安的基础

建立个人所得税制度
1862 内战国会通过《1862年收入法案》规定联邦个人所得税
正式设立“国内收入署署长” 为美国国税局 IRS 的前身
由于个税是战时临时税种内战结束后 1872 个税没了

1913年宪法第16修正案：制度的正式确立和财权转移
19世纪末工业资本快速扩张社会贫富差距急剧扩大
本质上有 “累退性” （即税收负担转嫁给了普通消费者）
国内治理等等还有战争负担联邦政府缺钱
修正案：“国会有权对任何来源的收入课征所得税，无须再个州按人口比例分配，也无须考虑任何人口普查或人口调查”
税收 ——> 调节财富不平等等社会职能 “社会治理工具”

1943年《现收现付税法案》：从精英税到大众税
“凡收入必须纳税” 此法案引入 “代扣代缴制度 withholding Tax”：薪水发到手之前税款已经预先扣除
税收成为国家主导的强制性行为
罗斯福

里根的税制革命
“涓滴经济学” 政府不应直接补贴穷人而是富人等上层群体先积累更多财富
好处会像雨水一样从山顶到山下
1986年里根政府《税制改革法案》核心：“低税率宽税基”
最大规模的减税顶层税率 70->50 也为后来美国巨大的财政赤字埋下种子
里根 —— 政府吃到时代“红利” 政府赚钱
2000 小布什政府进一步大规模减税计划

奥巴马和茶党运动（Tea Party）
2008年 金融危机 奥巴马政府通过税收抵免对于中低收入者实施精准减税
然而富人是税收政策的受益者（引发大批低收入者不满）
草根保守主义运动 —— 收的税足够多了（茶党）
税收的太狠政府管的太宽（医改）债借多了

“反精英反建制” 社会思潮

特朗普税改
税收政策代表了美国自 1980年代以来里根革命以来最激进改革
极端关税国内减税
试图彻底重构国际贸易秩序实现制造业回流
由全球化倡导者到 “战略保护主义者（美国优先）

美国税制结构
美国三级征税体系
1、联邦税（70%）
以个所得税为主题
关税本质上是一种消费税，具有显著的累退性，因为低收入者需要将其收入的更高比例用于购买商品
关税在宏观经济中会产生严重的无谓损失（Deadweight Loss），扭曲市场价格并引发贸易报复。在二战后美国主导的布雷顿森林体系和随后的关贸总协定（GATT/WTO）框架下，降低关税、推动自由贸易符合美国作为全球霸权国家的经济利益
现代关税是战略干预型关税。即便关税水平被推向极端，它在现代国家财政版图中也只能充当辅助性的功能模块，无法动摇以存量财富与流量收益（即所得）为核心的征税范式。
2、州（18%）
以消费税（每个州不同）和使用税为主体
消费税大概率另交
使用税 —— 汽车啥的
3、地方：财产税（21%）
以财产税为主体

联邦政府总收入
个人所得税（49-51）薪资税（34-36） —— 加起来超过 85 %
企业所得税 —— 占据总收入的（9-11%）
其他收入（4-6%）

联邦政府总支出
强制性支出：刚性民生保障（61-63） —— 国会不会争议
社会保险
医疗保健计划
商议性支出：国防和非国防行政（24-26）美国财政月在9月
国防支出
非国防支出：教育交通科学研究退伍军人福利国际援助
净利息支出（11-13） 国债的利息 —— 来弥补财政赤字也和美元价值勾连

美国税制特点
免税人口
大约47% 的人无需缴纳任何联邦所得税
免税人口：在申报联邦个人所得税后因收入未达到起征点或通过合法的税收抵免与扣除
最后导致其联邦所得税义务为0或负的纳税单元
免税主要局限于 联邦所得税区域
先征收后退原则
薪资扣除和预估税确保联邦政府在纳税年度内获得持续的现金流
并于次年春季通过年度汇算清缴向纳税人退还
保证避免政府在年度末期出现财政枯竭
全方位覆盖原则
所有来源无论该来源是否具有合法性（贪污贩毒诈骗）即非法收入必须纳税
海外收入/财产必须纳税
联邦政府个税体系与经济发展
就业率越高 —— 联邦财政收入越高 —— 福利救济支出越低 —— 财政赤字低
就业率越低 —— 收入越低 —— 支出越高 —— 赤字高
解决就业最大的产业体系：劳动密集型产业 ——> 产业专业 ——> 中美关系恶化（）

联邦税务警察
1862 税务特工：搜查没收逮捕早期的联邦刑事管辖权
1919年7月正式成立联邦税务警察（T-men）：一开始叫情报小组卧底行动是工作方式（曾规模比FBI还大）
美国“禁酒令”：用宪法禁止喝酒
阿尔·卡朋 —— 黑帮情人节凶杀案
在禁酒令时期 T-men成为最腐败的一批联邦执法者（）
现代税务警察 IRS-CI
1978年正式更名为国税局刑事调查局规模第六位全球执法
税务调查政治化

Lecture 4 教育体系
基础发展史
殖民地时期（17-18世纪）：宗教主导和教育萌芽
清教徒在马塞诸塞州建立殖民地 —— 政教合一
马塞诸塞：稳定的村镇结构教堂是城镇的中心

中南部弗吉尼亚州的教育（以农业经济作物种植业为主——工业大麻损害土地）
“哪里能种地就住在哪里”
教育随自然形成的散落而不断搬迁缺乏一种固定的教育结构

波士顿拉丁学校 —— 美国第一所公立学校（拉丁文希腊文宗教经典）
《马萨诸塞学校法案》：要求一定体量城镇必须聘请一名专职教师

南方庄园经济教育：结构分化明显教育发展相对滞后
种植园主可以聘请老师然后进一步把人送到英国啥的留学

公立学校教育的扩展：从宗教到国民身份构建
对于生产力的要求提高！
大规模公立学校 —— 为工厂培养出充足受过基础教育具有组织性纪律性的工人
霍瑞斯 “普通学校运动”：建立一套 普惠性世俗化标准化 的小学教育体系
教育由税收支持机会均等的教育给所有学童
目标是摆脱宗教控制培养国家认同公共精神良好品行的现代公民
1852 《义务教育法》 8-14岁儿童必须入学接受教育
1918年密西西比州通过 —— 美国实现了义务教育的全国覆盖全国性基础教育体系
K-12 小学8 中学4 美国教育联合会 “十人委员会” —— 十二年教育制
加强构建国家认同的政治功能
教育政治功能：促进民族团结的工具免费公共教育的传统在美国思想中根深蒂固

南方废奴运动后的教育体系
直到19世纪30年代 7个州制定《组织黑人识字法》
内战后种族隔离政策非裔建立全非裔学校
形成白人和非裔都支持的以种族为界限的“分离式” 教育现象
JIM CROW 南方诸州 19世纪末制定《种族隔离法案》南方诸州建立了两套平行的公立教育系统

1951 年公立学校拒绝布朗的女儿就读离家近的学校
布朗联合其他非裔家庭集体起诉最后要求各州“以谨慎的速度”取消种族隔离
布朗案虽然判决不完美 —— 但成为取消种族隔离制度的起点
“Right is given” 权力是争取来的！

1957 阿肯色州 “小石城事件”
州长命令国民警卫军组织9名非裔学生入学 —— 艾森豪威尔联邦政府派遣101空降师到小石城保护入学
小石城事件是美国反种族歧视的重要里程碑
（背景：作为二战首领艾森豪威尔看到黑人在战争中的贡献和对国家的忠诚）
直至 1964年美国颁布《民权法案》禁止

改革和多元化发展
约翰·杜威思想 —— 进步教育运动
主张教育应服务于学生的生活社会需求注重培养学生的实践和创新 —— 设立初中

1957 苏联发射第一颗人造卫星极大震撼了美国政界和社会
直接导致进步教育运动模式衰落

1958年《国防教育法案》美国教育的重大转折点
联邦政府首次的大规模干预教育投入财政 —— 强化理工科教育 —— 先进科技高精尖

导致出现抑郁注意力缺陷多动障碍心理疾病
后来关系缓和冷战结束 —— 后工业化 —— “快乐教育” 人本主义教育

美国教育结构
K-12：大学前教育
公立学校
K-12 教育的主体占全部学校的 87% 接纳了 85%以上的学校
录取标准：不能因为歧视等因素拒绝录取 —— 看学区
学区房：隐形的种族隔离
资源分配不均导致公立学校之间的质量差距进一步加剧了社会阶层固化

私立学校
占 10% 接纳了约 10% 学生
经费来源：学费捐赠基金会以及资本市场盈利等
类型
独立学校：独立董事会管理课业水平高
教会学校：天主教学校还学习宗教教义
寄宿学校：居住校内既有教会也有世俗精英学校跨州/国际学生
特殊理念学校
平均教学质量明显高于公立学校
学费昂贵私立学校成为阶层分化和固化的重要标志隐形社会隔离

家庭教育 Homeschooling
父母或法定监护人以家庭为教学场所规划和实施
LGBT —— 被灌输的观念 —— 家庭教育

高等教育：
公立大学
UCB：按学分交学费
早期：增地大学
联邦政府向各州提供公共土地建立农业工程军事等实用学科的高等教育
向美国的工业化和农业现代化培养实用人才
“威斯康星理念”：大学应服务于州发展需求注重实用学科教育应用研究
“把论文写在大地上”

部分增地大学 ——> 当今著名私立大学 —— MIT Cornell / 公立大学 UCB 密西根大学安娜堡分校
MIT曾是联邦增地大学 Cornell 曾是纽约州的增地大学（常春藤 Ivy League）

私立大学
占美国高等教育机构的 25% 私人捐赠基金会资助也受到联邦政府巨额资助
学费极度高昂招生标准不透明让私立大学更加圈层化、精英化
对于财富与社会关系的思考

文理学院
“小规模高互动寄宿制” 古典博雅通识教育
一个更加封闭的精英圈层完全和现实世界脱节 Wellesley College

社区大学
两年制专科教育收学费低廉入学门槛低
当时出现是应对大量退役士兵就业压力杜鲁门建立
“转学功能” 职业教育继续教育
资金来自于官方规模量小

教育理念之争
保守派
教育责任在于个人——反对联邦政府干预教育
强调竞争和精英教育 —— 支持教育市场化 —— 重视传统价值观和道德教育（反对多元文化性别平等同性恋

激进派
政府有责任促进公平——扩大教育干预（有很多外部因素造成不平衡）
强调教育的社会功能 —— 重视多元化和个性化教育

保守派和激进派在教育理念之争的本质是
“谁是美国人” 以及 “美国应该成为何种社会”
这种争论触及了身份政治的核心而难以调和

60年代 “伟大社会” 美国社会福利改革

教育部存废之争不再是行政效能问题 —— 而是意识形态战争
美国政治极化不断加剧教育部存废问题将长期持续存在并成为保守派和自由派永久争论的政治议题
保守派：社会达尔文主义

联邦管辖权的变迁
20世纪80年代美国教育质量下滑 —— 但由于地方政府责任教育 —— 无法形成统一的全国政策
小布什：《不让一个孩子掉队法案》首次由联邦政府制定全国统一的学业考核标准有政府权威性和强制力
最后学监学生家长教师校长联合考核作弊压力大部分教师离职
2015奥巴马
Trump ：激进的去监管化与市场化
推动 “教育券” 与教育储蓄账户计划彻底实现教育市场化 —— 让学校之间的竞争
限制公立学校开展“多元平等包容” BEI diversity LGBT的教育

美国社会阶级固化加速，低收入家庭难以通过教育实现社会阶层跨越 "美国梦”正在逐渐褪色

Lecture 5 美国公共卫生
一、美国卫生和公众服务部的历史
1、起源从海事服务到军事公共卫生体制
海员流动性强疾病传播风险高 —— 海事医院服务局
“公共卫生服务军团” —— 现代八大军种之一（实际上所以公共卫生算是一个军类体系）

地方管地方联邦管海关

2、社会保障和公共卫生融合期（1935- ）
1930年代大萧条 —— 将卫生教育福利三大体系纳入 “联邦保障署” 的统一行政架构下
联邦政府权利向地方政府扩张
二战后 —— “卫生、教育与福利部” —— 使公共卫生部门拥有了联邦管辖权与独立财政预算权
20世纪60年代林登·约翰逊伟大社会
Medicare 老年医疗保险 —— Medicaid 低收入者医疗援助两大制度
彻底改变了美国公共医疗体系与社会福利制度
1979 教育部分离 1980年改名成美国卫生与公共服务部（公共卫生与社会福利）

美国公共卫生体系本质是军事体系

美国公共卫生服务军官团（USPHS） —— 长官海军衔四星上将
不受任何行政管理限制（如由各州政府颁发的医师执照.....）
公卫部队解决联邦制“分权管理” 与公卫需要“集中应对” 的制度缺陷
平时为医战时为军

美军八大军种两个非战斗——海洋大气军公共卫生军

美国总医官（对疾病有指导性意见对于全国性的医疗状态有决定权）
新冠期间杰罗姆·亚当斯政治与专业

3、美国国立卫生院 NIH
自然科学基础研究两大基金：
美国国立卫生研究院
美国国家科学基金（NSF）
1930年成立研究院 NIH 标志着联邦政府从传染病管控到支持科学研究的转变国家构建科研体系
NIH 院内研究院外研究（给各种高校医学院核心经费来源）
临床方面 —— （免费医疗 — 研究性治疗具有不确定风险未普及的实验性项目）

美国顶级名校医学院是自负盈亏科研运营实体教研人员大多数是合同制聘用
“带资进校付费上班”
内卷式学术资本主义 —— PI （哈佛与研究团队是 “共赢共生” 生态结构）

NIH 中美科技脱钩急先锋
2018 “中国行动计划”
25年 NIH 禁止中国学者使用关键科研数据库

4、联邦食品药品管理局 FDA
FDA ：食品药品医疗器械化妆品
“扒粪运动”

FDA 1938 明确要求部分药品需要在专业医师监督下使用
1、沙利度胺事件 —— 监管
国会因此通过《联邦食品、药品和化妆品法案》
需要临期检测
2、FDA刑事调查与执法权 —— 调查
旋转门长期贿赂FDA官员
反而进一步成立刑事调查办公室 —— 调查与食药监管相关的重大刑事犯罪执法人员有联邦特工
空前执法权

5、疾病与控制中心 CDC
准军事化体系的情报中心
EIS —— “流行病情报员” 朝鲜战争期间检测可能的人为生物恐怖袭击
精英化军事化部署模式
CDC在世界各国都设立了办事处
常年在Beijing 有 8位

美国疾控中心的伦理丑闻与信任危机
1932-1972 “塔斯基吉梅毒实验”（Tuskegee Syphilis Study）主持塔斯基吉实验项目首席专家约翰•卡特勒也在危地马拉的监狱、精神病院以及军营做同样实验，甚至手段更恶劣。该实验让健康的囚犯、精神病患者甚至上百名危地马拉士兵人为感染各类性病病毒，然后做不同药物效果对比实验。2010年丑闻才被公开，奥巴马被迫代表美国政府公开道歉，但是至今受害者或家属都没有得到美国政府赔偿
1976年代“猪流感疫苗计划”导致数以百计该疫苗注射者患上“格林-巴利综合征”（GBS），多人瘫痪
2020年新冠疫情，CDC使用了设计缺陷的检测盒以及在口罩问题上的左右摇摆
CDC本身的各种伦理丑闻，加上美国社会长期存在的基于宗教理念反科学“阴谋论” 导致CDC在推行疫苗时陷入巨大社会争议，美国疾控中心毁誉参半

二、美国卫生和公众服务部的权力与政治
利益集团游说
监管俘获 —— 旋转门聘请曾任职的官员担任游说说客在 “非正式场合” 影响 FDA 官员决策
铁三角：制药业医师协会保险公司

Lecture 6 美国医疗体系
美国医疗体系和医学发展简史
殖民地时期的医师和医院
17世纪最早出现英国是学习古典学后续在医院里获得实践经验
内科医生 —— 不碰血无需动手
早点动刀动剪子做手术 —— 红白蓝标志（动脉静脉绷带） —— 中世纪欧洲理发师兼具任职
殖民地时期北美条件很艰苦恶劣内科大夫在英国拥有上层地位收入—— 只有穷苦外科医生和药剂师
医生医治过程基本都是在病人家中完成的 “上门服务” 同时还身兼多职以谋生
早年美国的医院是救助机构针对的都是将死之人（）
早期的医学教育
学徒制学徒给医师付费传帮带
1765 成立医学院从“技艺”到“学科”
19世纪随着执业限制开放医学院职业准入门槛降至最低 —— 美国医学教育陷入黑暗 “买文凭”
1893 约翰霍普金斯大学医学院：确立四原则
现代美国医学教育
录取：本科后教育
4+4 —— 模仿美国的精英医疗治理
规培野牛野马：住院医师规范化培训
（中国瞎学 aaaa 给当代年轻人当作劳作力鞭笞压榨）
中国医疗培养时间长 —— （向大自由国）学了皮毛没学内核

美国医疗体系概况
医院体系构成和分类
公立医院
盈利不用交税但是承担为低收入者兜底的责任（不会有多的利润用来分红奖金啥的）
接受学生规培是各种医疗卫生各种
私立非营利性医院
“医疗事故豁免权”

私立营利性医院
商业化运作成为在医疗市场里的主导者
最著名 —— 美国医院总公司

医院职能与服务类型
短期医院和长期医院（住院大于25天）
全科医院和专科医院（专注于特定疾病领域）
教学医院（最极难杂症）承担医学教育和前沿科学研究美国医疗最高水平
精神类专科医院

医生和医院的关系
医生的根是建立在独立性行医上
医生团体组织（工会与医院方面进行谈话）：医生和医院实现合作关系 —— 承包关系而非雇佣关系（医院不用负担医生的福利成本）
责任告的话会告到医院方面
医生医院合作组织：20世纪80年代为了应对保险公司的强势地位
由医院与一个或者多个独立的医师团体共同建立联盟与商业保险公司签署医疗服务合同医生保持独立性

大部分问题来源于里根私有化 ？？

护士
护理是美国医疗体系规模最大群体全美约有 RN 注册护士在医生指导下开药（420万）近30万高级执业注册护士权限会更高（APRN）

美国医疗体系运行机制
美国独立诊所与分级诊疗体系
独立诊所集中于初级诊疗 —— 包括内科儿科家庭医学等 —— 分级诊疗体系的基础
独立的医师收入是最低的一批人
“家庭医师” 并非私人医师
分级诊疗的层级框架
初级医疗：独立诊所或者社区医疗中心
二级医疗：初级诊疗后患者被转诊到专科诊所或者社区医院进一步
三级医疗与四级医疗：涉及高度复杂手术与急难病症
超级复杂的医疗账单结算体系
全球大部分国家采用的是 “单一支付”
美国 “多方支付” ：由保险公司（联邦和商业等等）先核算、保险支付与个人补差构成一套复杂且不透明的支付体系 —— “账单黑盒”
检查过程 CPT 疾病诊断代码 ICD-10
账单是在数周或数月后才交到个人手中
最后缴费的时候尽量去医院讨价还价争取折扣（本身就是故意多算的）

联邦制下的医疗管制
联邦政府的监管权扩大
Medicaid Medicare （医疗补助医疗保险）
二战之前很少介入民用医疗
二战后社会对公共卫生以及医疗保健的需求大幅度增加
约翰逊政府实施 “伟大社会”计划（其政治生涯的败笔就是越战）
1965年《社会保障法》使美国医疗管理体系发生根本性转变

医疗领域人道主义底线
1985 禁止私立医院将无力支付费用的急诊病人或分娩期产妇强行转往公立医院的非人道行为
强制医院救治病人但是并没有提供专项资金来协助这些人
为弥补急诊部分的损失 —— 医院往往被迫提高针对商业保险患者或自费患者的收费标准
急诊极其昂贵

州政府的监管权：地方保护
人为制造医生的短缺

对于穷州：保证了大夫愿意在穷州待下去
“碎片化监管” —— 阻碍医师自由流动，导致医疗服务价格的扭曲
州碎片式的管理严重阻碍 “远程医疗技术”的发展
紧急情况有临时医师执照

美国的医疗保险
联邦医疗社会保险（Medicare）
公民通过职业生涯缴纳薪资税符合条件自动获得资格
65岁及以上老年人（本人或配偶10年税收）；残疾人士；特定疾病人群（终末期肾病患者、渐冻症等等）
有限制（每月上限）

联邦-州医疗社会保险（Medicaid）
联邦与州共同出资建立救助贫困群体的公共医疗社会保险
根据各州人均收入水平提供配套工资
针对低收入家庭、孕妇、儿童及低收入残疾人
MAGA 红脖子：勤勤恳恳工作但是处在人均收入水平线上一点点最容易被“斩杀”的群体很容易被意外影响但是本身收入家底但是不能享受 Medicaid
核心标准是联邦贫困线申请者需要接受资产验查
虽然穷但是要提供劳动社区服务

预算危机
上述两部分+儿童医疗保险计划 = 28% 预算（刚性支出）
Medicaid 平均占据了各州总预算的近 29%
大批移民生孩子和医疗支出—— 预算危机问题

商业医疗保险
医疗保健组织 HMO
与指定的医院有合作
优势：医生医院锁定病患以量换取低保费劣势：在于患者丧失医疗选择权
优选医疗组织 PPO
无需初级保健转诊即可以直接看专科医生
审查相对宽松
优势在于病患由医疗选择自由劣势就是贵！

医疗医药与保险铁三角博弈
医院、保险公司、药商
核心：高度封闭、信息极度不对称盈利网络
大型连锁医院塑造兼并小诊所 —— 区域垄断
保险公司高额保费 + 各种理由拒赔或者少赔
制药商利润率最高且不用直面患者与前两者有复杂的返利合作多卖药（换取药品目录）
医药代表——医生

患者在为整个供应链的“隐形佣金” 买单

美国医疗的社会问题与国际争端
私立医院的快速扩张
美国 HCA 医疗集团在人口增长迅速的大都会区建立密集的医院网点
形成终身的就医体系
美国HCA保健集团锁死大家（各种保险电子病历......）

财政支出与生命终点伦理
不抢救（DNR）和临终关怀（HOSPICE）协议
大部分的Medicare 的受益人都花在生命的最后一年
导致节省政府预算与患者生命权冲突的医学伦理之争

芬太尼与Medicaid
芬太尼危机美国公共卫生灾难之一
美国公共医疗保障体系的缺陷是造成阿片类药物滥用的根源（止疼片镇定剂上瘾性）
对底层就是用价格低廉的阿片类止疼剂

Lecture 8 美国移民
美国移民政策发展史
早期开放与限制
早期殖民地的移民
自由定居者
契约劳工
非洲奴隶
在独立战争前迁移过来的欧洲白人中 2/3 都是契约劳工
殖民地政府为吸引：提供土地 —— 由地方主导的、以赠予土地的鼓励性移民政策

排他性宗教于意识形态控制
马萨诸塞湾英格兰清教徒殖民地 —— 严格的宗教排他政策
维持 —— 山巅之城（宗教同质性）

宾夕法尼亚殖民地奉行宗教宽容政策
吸引大量德国重洗派教徒和苏格兰-爱尔兰人
成为人口构成最多元移民政策最宽容的地区

《济贫法》与排斥“不受欢迎者”
殖民地政府都制定了阻止“可能成为公共负担者”入境的法律
为可能因贫困、疾病或残疾而依赖公共救济的乘客缴纳保证金
殖民地还极力抵制英国本土将罪犯作为“流浪者”送往北美

早在联邦政府成立之前北美殖民地已经建立了一套基于宗教、经济阶层和身体状况的移民筛选机制
（与别的不同美国本身就是移民建立起来的管理是必然先于政府出现的）

建国初期的移民与种族界定政策
1790 《归化法》与 “白人至上” 法理根源
“谁是美国人” 归化法 —— 任何“品行良好的自由白人” 在美居住满两年后均可申请成为美国公民（建国之初核心宗教 + 人种白人至上）
主体：自由白人
盎格鲁-撒克逊文化（新教） + 白人至上

1798 年《客籍法与镇压叛乱法》
授权总统在和平时期无需审判即可驱逐任何其认为对国家安全构成威胁的外国人

法案被逐渐废除
但后续出于政治或意识形态原因：联邦政府权力能够对移民进行大规模恐吓或驱逐
根植于美国成长的初期 —— 即特朗普今日的根源

第一次移民大潮与排外主义
19世纪20年代随着美国工业革命 + 西部扩疆急需海量廉价劳动力+蒸汽轮船普及
1840 “爱尔兰大饥荒” 导致百万天主教逃往美国
爱尔兰人背井离乡带着其祖父辈的棺材啥的 —— 极其抱团

本土排他主义的崛起
大量贫困 + 讲非英语的天主教爱尔兰和德国移民涌入 ——> 激起美国本土新教徒的极度恐慌
1850 美国人党（一无所知党）：主张严厉限制移民 + 禁止天主教徒和归化公民担任公职
后来被内战冲击解散
“本土文化”成为美国移民政策保守主义的根基

《排华法案》与开放大门政策的终结
19世纪70年代大批华工（东海岸往西海岸）被雇佣在美国修建铁路
美国东西海岸铁路合并
华工吃苦耐劳 —— 收到当时同样作为劳动力的爱尔兰人所歧视
白人将失业问题全部归结为此
1882 —— 《排华法案》明确禁止在美华人归化为美国公民禁止中国劳工入境
《排华法案》标志着美国早期开放移民时代彻底终结
这是美国历史上第一次一句种族将一个也定的国家/民族群体全面拒之门外
催生了最早的边境巡逻机制驱逐出境程序以及 “非法移民” 的法律概念
在排斥移民问题上赋予了联邦政府几乎不受司法审查的绝对权力　

配额制与“大门关闭”
1890年前后来自于东欧南欧的移民大幅增加 —— “新移民”
国会认为新移民在 “治理道德同化能力（宗教）”上本质劣于 “老移民” ——“狄林汉委员会报告”
社会达尔文主义与优生学大行其道
《伟大种族的衰亡》 —— 种族主义社会达尔文主义北欧裔（西欧北欧盎格鲁-撒克逊部分）白人的生物学优越
这种披着科学外衣的种族主义为后来的配额制度提供了理论背书
《移民法》与配额制
1917年《移民法》禁止移民入境的范围扩大到整个亚洲大陆
20世纪20年代 —— 社会问题各种因素失业危机 —— 反移民团体 “3K党” + 孤立主义对红色苏联恐慌盛行
1924年新《移民法》确立了“民族本源配额制” 进行具有高度歧视性的名额分配
全面禁止包括中国日本印度在内所有亚洲人归化为美国公民

大萧条与美国历史首次向外移民
大萧条失业导致美联邦大规模遣返墨西哥人
移民苏联：由于苏联一五完成快速工业化增长时期
苏联驻美机构“苏美贸易公司”平均每天收到超过350份求职申请 —— 去苏人很多

第二次世界大战日裔美国人集中营
日本人成为被限制移民的主要对象禁止日本人拥有农地、禁止出租房屋获利
（源于当时珍珠岛就有日裔美国人作为奸细）
太平洋爆发后日本人全部被关进西部的集中营

二战后的现代移民政策
1965年《移民与国籍法》统一的基于“类别”的优先体系 —— 家庭团聚 + 技术人才
911后 —— 移民管理从 “民事管理” 转向 “国家安全”
USCIS（移民局） CBP（海关及边境保护局） ICE（移民海关执法局）

特朗普美国优先 0容忍

当代美国移民现状
合法移民类型
亲属移民（直系亲属 + 亲属优先类别）
技术移民（EB-1 杰出人才 + EB-2 高学历或特殊技能人才）
工作签证 H1-B 非移民签证中最重要的类别用于聘用 “专业职位” 的外国人
难民+ 政治庇护+投资

非法移民/无证移民
非法越界 + 签证逾期滞留
无证移民从事低端体力劳动交税消费但是无法享受合法社会福利面临着随时被遣返的风险

移民问题争论
本质无区别只是政策上的差异
民主党：补充劳动力短缺促进经发推动人口年轻化拯救社保系统（替老人付）增加税收扩大福利资金来源多元文化融合
共和党：挤压本土底层工人就业拉低工资水平滥用社会福利（emergency Medicaid）公立学校/医院不堪重负人口增长过快犯罪增加动摇美国主流价值观与政治文化

从社会管理到国家安全
建墙
修建金属围栏
CBP 海关与边境执法局的执法力度在过去爆发增长
驱逐
ICE 核心任务：在美国境内搜捕、拘留并遣返无证移民
CBP：国境线上防止无证移民越界的盾牌
ICE经常全美范围开展突击搜捕行动 —— 被捕者被送往移民拘留（一般是私人监狱

社会撕裂：边界保护与城市庇护

移民问题本质：谁是美国人？
美国国家认同危机：西班牙裔人口迅猛增长
墨西哥天主教这种家庭观念强生育多不学习不重视教育主流群体

盎格鲁-撒克逊-新教文化是美国认同的核心

英语是美国国家认同的生命线
新教文化在独立战争前就是文化内核
移民的双语与双重认同将分裂美国内核

语言分裂认同模糊
美国 “合众为一”的国家座右铭的理想在面临着前所未有的挑战
克林顿 —— 特朗普种族主义者社达

Lecture 9 种族与少数民族管理
美国少数族裔的概念与划分
种族、族裔与民族
种族：根据生物表征 Race 肤色发质面部骨骼结构群体分类 —— 长得像谁
族裔：均居文化习俗与原籍国属性、共同的文化遗产、语言、宗教信仰、饮食习惯历史记忆 Ethnicity —— 从哪里来信仰什么过怎么样的生活
民族： Nation 依据心理认同与政治权力的结合划分具有最高的自我管理权威 —— 你们如何管理所在区域

美国种族分布
只统计 RACE
sex 生理 —— gender 心理的性别
Latino 西班牙人 No3 黑人 No2 白人 No1

少数族裔管理的分类
原住民：美国印第安人和阿拉斯加原住民 + 夏威夷原住民或其他太平洋岛民
移民少数族裔：非洲裔、拉丁裔白人、亚裔、混血族裔、其他族裔

美国族裔“三多”格局
多种族：从 “白人多数”到“平均数” ：估计到2045年左右进入平均数社会即没有一个种族可以占据超过半数
改变社区面貌还深刻影响政党选民基础
多信仰：信仰极其复杂传统价值观出现裂痕
多矛盾：所有社会矛盾源于 资源竞争与认同危机
种族冲突：“黑命贵”
排外主义： 9·11 后针对穆斯林 + 疫情期间对亚裔的歧视
文化战争：围绕堕胎、控枪、平权法案等争论
本质：争夺对于什么是美国谁是美国人的定义权 —— 对资源的分配

很难形成一种心理价值的认同

美国原住民管理
美国印第安人
殖民地建立与印第安人人口浩劫
“原住民” 不能乱用 （政治问题是在中国）
殖民者带来的天花、麻疹、流感等流行病
早期殖民与印第安人发生长期战争（主要的系统性的扩张） —— 被迫内迁
昭昭天命：西进运动与 “血泪之路”
19世纪美国政府坚信扩张领土是上帝赋予的使命 “Manifest Destiny”
1830 安德鲁·杰克逊总统强行将居住在密西西比河以东印第安人驱逐到西边
美国政府有组织、制度化掠夺原住民土地迁移被称为 “血泪之路”
系统性种族灭绝
19世纪中后期西进运动 —— 美国军队与当地印第安部落长达数十年的“大平原印第安战争”
系统性屠杀印第安人还灭绝当地野牛缺乏食物导致弹尽粮绝
1890年 “Wounded Knee Massacre” 屠杀了最后抵抗的妇女儿童标志着长达几个世纪的印第安武装抵抗以最悲壮的场面终结 —— 当作敌人
同化政策文化灭绝塑造“忠诚”
从“物理消灭”到“文化同化”
“印第安寄宿学校” 儿童从父母身边强制性禁止说母语穿传统服饰进行宗教仪式
（文化灭绝政策系统性消灭原住民的语言和传统）
“半主权”自治管理模式
1924年《印第安人公民法案》承认印第安人美国公民身份
1973年美国印第安人运动（AIM）抗议者重新占领了伤膝河要求赋予部落真正自治权
20世纪末正式确立“部落自觉”政策承认部落作为“国内依附性民族”的半主权地位
印第安人主权对印第安人的 “分离性” 管理
在印第安人保留地给予印第安人 self- determination 权力：保留地“自决自治” 地位“半主权半独立”
本质：自生自灭

雇佣 Navajo 语言印第安人为密码兵 Navajo士兵展现出极大忠诚 + 为美军胜利立下汗马功劳

对印第安人推行的忠诚教育
学校（英文教学）
美国政治教育
培养精英
政治参与
Navajo 说英文信基督

联邦设立具体部门管理与塑造“忠诚”
内务部：印第安人事务部
卫生与公共卫生服务部：印第安卫生局
教育部：原住民教育局
联邦住房局：公共和印第安人住房办公室

制定保留地制度与《印第安人法》
联邦政府全权处置 —— 必要时候可以撤销印第安人保留地
联邦政府不断削减预算（对印第安人的医疗福利）渗透与原住地的管理
介入司法、部落司法屏障弱化
设置印第安人事务管理局警察 BIA 警察 —— 借助强制力量铁腕镇压分裂种族分裂力

阿拉斯加原住民
石油发现与政策的改变
正式建州 —— 选择土地作为州有资产 —— 与原住民传统生存领地发生冲突
北冰洋沿岸发现北美最大油田为建石油管道 —— 《阿拉斯加原住民索赔解决法案》：取消保留地、区域性原住民公司、可以获取股份分红
生存与管理的冲突
虽解决土地产权与石油开发的冲突让一部分原住民获得商业利润但是传统部落原住民面临破产或失去土地
夏威夷原住民
州政府+联邦政府管辖美国公民身份和政治权利
太平洋岛屿原住民
美属萨摩亚：属美国管辖但无美国身份无投票权
关岛、美属维尔京群岛：总督制无投票权议席
北马里亚纳群岛；美国托管地较大内政自主权

美国移民少数裔管理（美国穆斯林）
美国穆斯林群体的形成
19世纪以前主要来自从非洲被贩卖到北美的黑奴 —— 本土非裔穆斯林的主要群体占如今的穆斯林群体1/4
当代穆斯林
911恐怖袭击后美国穆斯林的处境
伊斯兰文化与美国主流文化存在极强的异质性与主流社区天然隔离
911后出现针对穆斯林群体仇恨犯罪来自于部分宗教团体、政治人物、极端保守人士
911后美国政府的穆斯林政策
宗教和解
全力防止国家层面激化宗教意识形态与国家认同之间的冲突和分裂
小布什强调那部分是极端穆斯林啥的
促进宗教和解强调多元文化族群宽容与文化包容性
移民政策
小布什与奥巴马政府改革完善移民法案
特朗普颁布直接针对穆斯林的行政令与旅游禁令
强化穆斯林学生爱国主义教育
政治参与
鼓励参与社会服务
培养爱国的穆斯林领袖
暴力与怀柔
《爱国者法案》对特定群体合法的“执法恐怖”
保护穆斯林免受社会不公平待遇但拒绝给予穆斯林特权！！！（值得学习）

分离、忠诚；美国少数族裔管理的总原则
分离是对不用族群实施自我管理权利
忠诚是对不同族群强制性构建的国家认同
是较为先进的做法 法律权利是平等的

Lecture 10 美国土地管理
一、美国土地管理演变的历史
1、殖民时期与建国初期的土地制度
英国王室特许证
根据英国法律北美土地归属于英国王室 —— 授予殖民公司贵族庄园主或者作为赏赐
在南部只要移民到此地就可以直接获得定额土地在新英格兰地区宗教等有土地分配权
美国独立战争本质：谁拥有土地
普遍定居者在事实上缺乏土地所有权 —— 新旧殖民者之间的矛盾
1763 《公告线》禁止殖民地居民以西扩张着雨殖民者以土地扩张为财富源泉的目标发生根本性矛盾 —— 有限土地资源的竞争
土地所有权的争夺成为美国独立战争的根源而税收只是导火索

建国初期：土地私有化快读开发阶段
新生的灭国面临巨额债务缺乏直接征税权前期名义上有关税但还是很局限南北战争后才有个税
西部广袤的公共土地 Public Domain 成为了最核心的资产
联邦政府通过土地出让与赠予、土地私有化、刺激移民定居、推动国土扩张并增加财政收入
联邦政府 ——> “地产中介”
1784 国会《西北领地组织法》规定西部领地达到一定标准应作为“平等”一员加入联邦
确立西部土地归联邦政府法律基础否定过去“宗主国-殖民地”模式构建联邦制的制度架构内核
州与州一开始就是平等
西进运动：国土急剧扩张阶段
19世纪中叶以前出售公有土地单价虽低但是赤贫移民负担沉重
为刺激详细扩张并认同联邦政府管辖权 1862 《宅地法》年满缴纳手续费申获得160英亩公共土地只要在此地居住并耕种满5年 —— 获得完整的土地所有权
彻底摒弃了以增加联邦政府直接收入的商业拍卖免费赠送土地稳固农场制度
后果
早期土地分配高度依赖地方自治和私人开垦 —— 分散的土地利用与管制模式
为应对私有化带来的损害此后联邦法院的判决总是趋于符合公共利益的方向
各州和地方政府将土地管理纳入“警察权力”管辖权下 —— 复杂的城市分区制（Zoning）
“征用与补偿” 公私利益冲突 + 法律诉讼
2、从无序扩张到现代管理
无序扩张的终结
19世界末西部可变卖和无限制开发的公共土地趋于耗尽
西部生态环境脆弱东部农业模式在西部无法持续
1891 《森林保护法》标志着联邦政府从鼓励扩张向管控约束转变
从而打破“地方自治优先”，确立联邦政府在全国土地公共利益的最高权威管辖权
现代管理体系建立
剩余公共土地处于无政府状态导致严重过度放牧为争夺水源与草场长期暴力对抗
《泰勒放牧法》彻底结束无序开发 —— “放牧区” 设立建立放牧许可制度并收取管理费
正式关闭了公共土地的免费赠予制度开始终结《宅地法》私有化时代
1946 美国土地管理局（Burean of Land Management BLM）
联邦政府通过 “警察权力”确立管理自然资源的合法性
3、多元治理与可持续发展阶段
20世纪60年代末土地被定义为联邦政府永久性战略自然资源
1976 《联邦土地政策与管理法》 —— 彻底终结以《宅地法》为代表的土地私有化时代
BLM从负责土地拍卖转变成保护与监管土地资源的管理机构

二、美国土地管理的宪法基础：警察权力与正当权利
1、个人权利、公共利益与美国宪法
美国宪法中没有 “私人财产神圣不可侵犯”

shell not 负向法律原则说不可以做的法无禁止皆可为 人为解释因素占比很大消极法律原则

1791 第五修正案如果没有公平补偿任何人无权将私人财产用于公共用途
公共美德为了追求公共福利而牺牲个人利益的能力是宪法制定者初衷之一

2、国家警察权力与正当法律程序原则
宪法意义下警察权力保护四大公共利益：公共安全公共健康公共福利公共道德
政府有权对公民的自由与财产权进行合理限制的权力 —— 可以不做出公平补偿的
程序性正当程序：要求政府在作出影响公民生命与财产权的决定，必须遵循公平和固定的法定程序
土地管理通过正常法律程序为公共利益可合法使用暴力管理方式

三、联邦、州与地方政府的土地管辖权
联邦管辖权
美国联邦政府拥有最高监管权也是最大土地所有者
内政部农业部国防部三大系统内
州管辖权
各州依据其自然地理条件经济结构历史传统 —— 制定本州土地利用土地税收与土地流转的法律法规 —— 确立统一的红线标准
各州有独立的物权法体系规定土地所有权登记、转让合同的生效要件以及土地征收权的程序
州政府将具体的城市规划、分区管理等权力下放
地方政府管辖权
地方政府直接影响美国社会家庭与个人
最直接机构通过具体的条例规划细则直接影响
地方政府制定本地土地分区管理税收公共出租屋收容所垃圾处理等等
HOA 社区自治委员会权力极大！ 类似 “物业”
联邦与州的土地管辖权争夺
内华达州（85归联邦）—— 军事基地 —— 各级政府与居民同联邦政府发生长期冲突
20世纪70年代 “萨奇布拉什叛乱” 西部各州主张应与东部同等政治地位
东部州保留土地权联邦应当将土地还给西部州
1979年内华达州等等单方面宣布 “土地归还法案” —— 联邦最高法院 “平等地位原则” 仅仅适用于政治权利，不适用联邦必须放弃公共领地财产权
“三权分立” 不等于 “三权分裂” 遇到问题三权联邦还是一伙的（）

四、城市土地分区与农村土地保护
美国土地管理
总原则：土地使用要符合公共利益，免受私有土地挟持公共利益
私有土地 “无害利用” 原则
有形侵占：直接侵占土地极其所属物
无形侵占：噪音异味等等
非法妨害：对土地使用不当公共健康、公共安全、公共道德、公共美感
城市土地的分区管制法
纽约 “美丽城市” 社会抗议
1916 《分区管理法》美国历史上第一步全面规范土地分区利用和管理的法案
核心：所有土地占有使用和处置必须按照政府统一规划
累积使用原则 —— 按照土地等级住宅商业工业区
高级可以我那个低级区域延伸禁止反向延伸土地分区管理法对于私有住宅规定极为严格的管理条例
农业用地管理与保护
美国农业工地总面积约为 55亿亩
农业用地关系着粮食安全与生态保护也是美国农业贸易与国力的根本保障
设定最低基准线禁止其余侵蚀农耕地保证农业大规模地块分区
防止农业用地被分割而丧失规模效益和生产能力
联邦采取农业补贴等激励措施
土地与土地资源保护
美国国家公园体系及其保护
1872 国会设立 “黄石国家公园”
总统可以通过行政命令是直接设立“国家纪念地”
生物多样性：野生动植物与鱼类保护
土地极其附属物保护条款
土地用途无权开发地下矿藏附着于土地流动的动态资源的管控是土地管理的难点
对于私人雨水收集美国部分州收到一定限制（干旱州防止私人大规模蓄水）

五、土地征用争议：公共利益与公共补偿的冲突
征用权的宪法基础
征用权力原则无论处于公共使用或者该财产威胁了公共福利联邦和州政府都拥有强制征收权力
eminent domain 征用权力
程序：只要合理补偿都可以征用
实践：为保护公众健康和安全禁止某种危险活动时无论这种禁令如何都不构成需要补偿
警察权力与征用权力的联系与区别
警察权力：消除公害维护公共秩序底线无需做出经济补偿
征用权力：增进福祉强制转化成为公共用途
从公共使用到公共目的
政府有权界定什么是公共利益法院不应在具体的规划细节上越俎代庖
赔了夫人又折兵 —— 凯洛案

核心矛盾：联邦与西部州土地产权之争，私人财产与公共利益冲突，征用从公共使用扩展公共目的争议联邦法院的判决总是趋于符合公共利益的方式

Lecture 11 美国能源与环境政策
世界上最危险的石油泄漏 2010年墨西哥
美国能源政策发展史
从自由放任到战略调控（19世纪末——1973年）
1859年美国第一口油井在宾州开采
当时普遍认为国内拥有无限能源 —— 无需制定政策鼓励私人企业勘探开采促进市场繁荣
19世纪末——内燃机的石油时代（电力时代）
约翰·洛克菲勒建立石油帝国去铁路化发展其支持的汽车产业（让石油成为主要）宣传肢解铁路公司
1911 美国最高法院依据反垄断法拆分其公司
联邦政府从监管市场开始介入能源领域
《矿产租赁法》 1920 转向“有偿租赁” 全面监管公共土地的能源矿产
近海能源开采权之争 —— 联邦与州争夺近海所属权
1953年最终规定 各州拥有离岸3到10英里的海底资源

近海油气资源控制权获得近海油气资源控制权成为美国联邦政府重要的战略储备与战略资源
富裕时代—— 美消费和生产建立在“廉价无上限” 能源基础上
1973 第四次中东战争 —— OPEC 对支持以色列的西方国家实施石油禁运
1973 石油危机引发严重经济衰退与通货膨胀 —— 政治与社会危机
（当时之前美国对于此没有节制的社会意识！！！）
从“鼓励消费”到“保障供应安全” 标志美国能源公共政策体系开始建立为联邦监管与安全审查奠定法理基础
全面建立能源政策
1973 尼克松制定能源独立计划目标到1980年实现能源自给自足
全国限速夏令时（希特勒）增加联邦对于能源研发的资助配给的备用权力
1977 卡特成立 能源部 —— 二战后最大规模政府改组所有能源管理职能部分（国家实验室电力调控核武器）
都整合到能源部
标志着美国能源政策正式进入集中管理时代
里根放松管制 —— 能源私有化取消国家对清洁能源补贴 —— 石油天然气价格市场化
小布什能源供应多元化 —— 鼓励使用油气煤核能、能源基础设施现代化、开发北极保护圈内油气资源、加速推动页岩油气革命（从石油进口走向自足到出口大国）
奥巴马全面能源战略 —— 支持页岩油气持续开发、低碳化转型、太阳能、风力发电、清洁电网计划
特朗普化石能源主导 —— 退出巴黎协定能源独立废除清洁电网、恢复煤炭开采、推动石油出口强化国家影响力，美国在全球能源体系中的主导性
拜登清洁能源主导 —— 全面推动清洁能源产业限制在联邦土地开发油气向绿色工业转型
特朗普 2️⃣ Make 化石能源 Great Again —— 再次退出巴黎反对各项与气候变化有关的政策全部取消

能源企业、游说与美国政治
大石油（Big Oil）与游说政治
Big Oil 指一个由石油化工行业协会公关公司及相关游说主题构成的庞大政治生态
游说手段
竞选捐款（政治献金）
资助智库与大学、发布页岩油气可行性研究报告
操纵“伪草根运动” 代表传统行业广大工人利益保障就业动员传统能源企业工人进行施压 —— 基本盘
旋转门机制（在美合法）
美国能源政治常态化职业路径：
高级行政官员、国会议员在离职后进入大型能源企业与协会担任高薪游说顾问
能源企业高管通过政治任命进入内阁部门担任要职
影响：
规制俘获：就是为支撑其的利益集团制定相关的国家决策的行为 —— 核心
利益纽带
合法的信息权力利益交换

“科赫兄弟”的游说与旋转门政治
旋转门与政治现金 —— 白宫 70% 的高级官员都和 Koch 有关
资助接受其资金的大学和研究机构开展否定气候变化的研究
“繁荣美国” 基层政治组织宣扬自由市场保护美国就业

蓬佩奥：特朗普第一任总统最后一位国务卿
离职前中国对其进行制裁凡是与有制裁的人有关的公司都不能与中国做交易
学会干预制裁美国官员

美国两党能源政策
本质两党基础并没有不同不同的仅仅是对待清洁能源的态度
当代美国能源政策的基础还是依托丰富的传统能源总体上持续依赖化石能源
都没有反对在本土开采化石煤炭等传统能源

美国环境政策的历史发展
从野蛮利用走向监管（ 20世纪50年代以前
联邦实施环境监管权力确立
《空气污染研究资助法》以提供资金支持科学研究与技术手段缓解空气污染首次联邦政府在空气领域采取立法
1965 《机动车空气污染控制法》联邦政府设定全国统一的排气标准（技术型标准）
成为联邦获取环境监管权的标志性法律
Rachel Carson《寂静的春天》提醒滥用杀虫剂对环境有害
美国环境保护 EPA —— 美国环保署
老布什：排污权交易政府设定总排放上限将限额作为一种商品

美国能源与环保政策下的产业
页岩油气开采——地下水污染；土壤与生态破坏；地质风险
三哩岛核电站 —— 离纽约很近第一个关闭的核电站
现在由于 AI与云计算运营恢复运行供电计划于2028年恢复运行老旧基础上进行重启
从机械到智能

中国拖美国脚脖子美国卡中国脖子
AI —— 实际背后都是物理世界能源竞争具身智能

Lecture 12 美国犯罪管理与控制
一、从地方自治到大监禁
犯罪管控体系发展
北方：守夜人执法体系 —— 保护工商业应对又外来移民、贫困阶层带来的治安问题
本质上是 付费机制 不仅打击罪犯对底层群体进行管控和规训
南方：奴隶管控队 —— 保护奴隶制防止淘宝行使治安只能
职业体系建立：政府公务员体系 ——到20世纪通过考试与选拔建立警察公务员

犯罪管控的正当程序体系的建立
米兰达警告 ：防止警察通过心理施压/刑讯逼供 —— 将刑事司法管控传统的
“犯罪控制模式” （注重结果）——> “正当程序模式”（注重过程）

法律与秩序 1968 （各种民权运动政治混乱）
保守派认为治安恶化是自由派削弱刑法震慑功能纵容的结果
尼克松：联邦政府开始大规模干预本属地方管辖的社会治安领域

严厉打击犯罪 1981年里根被刺杀后
里根政府开始将犯罪治理预防与罪犯的“矫正” 转向以严刑峻法彻底剥夺犯罪能力为目标

大监禁确立
1994年克林顿政府实施跨党派政策制定《暴力犯罪控制与执法法案》
批准大量联邦资金资助警察巡逻逮捕修建更多监狱演唱暴力重刑犯实际服刑期
强化检察官裁量权从法官转到检察官导致轻罪犯人被长期羁押（冲业绩行径）

实施“三振出局法”：规定累犯第三次犯罪将面临 25年至终身监禁的严厉刑罚最重导致监狱很多人

结果：美国以展全球不到5%的人口关押了近全球 1/4 的囚犯成为全球监禁率最高的国家

二、美国犯罪类型与现状
主要类型
白领犯罪
主要集中在公司账务、投资、操纵股市和价格
最著名：2001 安然公司丑闻
更加危害国家经济秩序最严重可能导致经济/金融危机

无受害者犯罪（吸毒卖淫等等）
街头犯罪（砸玻璃等等旧金山、零元购）
仇恨犯罪（宗教性别信仰种族等等）

犯罪现状与趋势
数据显示美国犯罪率下降
美国人亲身感受犯罪率在上升

三、美国犯罪的社会根源
经典犯罪学派
1、源于犯罪者生理、心理或基因等个人缺陷，犯罪控制的重点是对危险个体的识别、隔离与治疗
2、失业、贫困、住房、城市化进程对犯罪产生绝对性作用重点是解决上述问题
3、家庭结构与街头文化：某种经济来源社交网络防御手段等隐性社会规则
4、教育不平等 “失败 - 缺乏竞争力 - 就业困难 - 边缘化 - 犯罪” 恶性循环

毒品：大麻
枪支泛滥：已经超越传统犯罪边界成为公共治理危机
人口分布与犯罪：城市犯罪率远远高于郊区和农村
种族与犯罪率：监狱中依旧是美国白人占比最多实际上
不仅非洲裔美国人被逮捕的比例过高在监狱中人口也不成比例（39.2%）
被捕的非洲裔美国人比白人更有可能最终被监禁
种族貌相问题也会影响到其他少数群体成为美国中东裔穆斯林关注的一个问题而拉美裔面孔往往和贩毒联系在一起
弗洛伊德案的影响：I can't breath
青少年犯罪：美国青少年 10-19岁和 20-29岁两个阶段
美国贫困社区教育资源极度匮乏造成“从学校到监狱的监管”
美对于犯罪认知：过于严苛 “坡滑效应” —— 防止“骆驼鼻子”
嫉妒严苛的零容忍校规：将校园问题形式化，导致过早过度被贴上“少年犯”标签成为未来起点
“校园毒品” 也是

四、美国司法体系的制度症结与异化
1、控辩交易 Plea Bargaining
“大监禁” 导致刑事案件爆炸性增长 “正当程序公正审判 ”—— 程序成本极度高昂
维持司法流程效率构建辩诉交易先是“主动认罪大幅会帮助减刑” —— 催生花钱减刑免刑司法腐败
2、监狱工业复合体
里根：公共服务自由化 —— 监狱外包给私人企业
CoreCivie 和 GEO 集体最大的私人监狱集体也是上市公司
更倾向于关押青少年犯（有家庭为其支付费用）
3、保释金金融化 Bail Bond
地方拘留所与保释金贷款公司 —— 利益复合体
对于寻求保释金但缺钱的犯罪嫌疑人提供贷款家庭分期/资产抵押方式 = 保释金来取保候审

4、陪审团制度
Due Process of Law
陪审团的规则
坦白从宽抗拒从严
司法成本：钱从哪里来

美国犯罪管控的争议
保守派：以暴制暴和预防性拘留 “小罪零容忍” 主张保留死刑
自由派：去刑事化与社会矫正并非天然道德问题而是各种社会根源对于小型犯罪将刑事司法资源集中于应对真正有威胁的恶性暴力犯罪主张各种感化会主张废除死刑

Lecture 13 毒品与枪支
一、美国双重管理危机
阿片类药物滥用成瘾与枪支泛滥暴力常态化
A：每年因为滥用合成类阿片药物致死率全球最高芬太尼（很难把控剂量）
枪支致死率高于交通事故
美国的毒品与枪支管理困境的背后是同一套逻辑

二、美国毒品管制历史
1、鼓励大麻种植（殖民时期）
1611 英国殖民者培植第一株大麻（尤其是弗吉尼亚）
起初是因为大麻的纤维可以用来制作帆船绳索 —— 战略物资
1619 弗吉尼亚立法会议颁布《大麻种指令》要求每个农民都必须种植大麻（教会教堂）
大麻对土地破坏强 —— 不断换居住地随着土地作物资源而转移 —— 教育发展一般
1762 正式再次确立大麻在美国的合法地位
2、毒品合法时期 20世纪之前
由于具有镇痛、镇静作用 19世纪末大麻、鸦片、吗啡和可卡因等合法的
3、毒品管制起点
第一次世界大战后大量的负伤退役军人通过吸毒来减轻伤痛
20世纪初很多美国人以精神娱乐为目的开始吸食毒品 —— 大量劳动力缺乏足够的精力从事体力工作
墨西哥裔工人开始抢占廉价劳动力市场部分美国人失业大萧条时期更严重
美国当局认为是受外来移民带来的吸食毒品的影响
早期禁毒：基于种族歧视 而非认为是毒品本身/社会内部的问题

禁毒两派观点：
妥协派：无法全面禁毒控制供给与需求 —— 给予成瘾者低剂量毒品满足其需求
禁毒派：给予道德与犯罪考虑除部分医疗用途之外应绝对禁止毒品
4、20世纪早期州政府禁毒政策
华盛顿特区成为最早禁毒区域
1913 加州成为美国最早最激进的禁毒州
州各类禁毒法令 —— 对毒品认知基本相同
5、联邦政府禁毒政策
早期联邦政府认为指需要禁止国内种植和国外走私 —— 皆以解决
美西战争夺取菲律宾 —— 菲律宾岛内毒品种植和消费严重迫使美国必须强化禁毒法律和行动
《哈里森法》美国联邦第一部禁毒法律禁止非医学更多针对国外进口而非国内（）切断了供给侧
造成美国形成巨大的地下毒品网络美国相应将社会管控医学问题推向犯罪管理 —— 毒品与犯罪
1932 联邦政府《统一州麻醉品法》转向全球统一管理
1937 《大麻税法》联邦政府正式全国管制大麻
二战期间战争对应工业大麻需求激增 —— 再次泛滥 —— 毒品问题猖獗
联邦政府 Hale Boggs 最严苛两部禁毒法案
《博格斯法》（规定毒品犯罪最低刑期）
《麻醉品控制法》强化了犯罪法律的惩戒

6、联邦政府禁毒政策转变（全球大文革）
“红旗插遍全球”
国内反主流文化运动吸毒成为青年反叛的标志吸毒回潮
美国禁毒摇摆期
70年代尼克松掀起 “反毒战争” 威胁中断对土耳其军事援助迫使土耳其政府承诺打击对美走私海洛因
拉丁美洲成为对美走私毒品来源地 —— 墨西哥成为美国最主要的大麻供应地

美国缉毒局 DEA 1973
“委内瑞拉总统夫妇（就是DEA抓的）安的毒品名头”

福特政府 “与毒品共存” 的政策大麻不再被视为毒品而放松管制主要针对更强的毒品管控

里根再次进行 “禁毒战争” 以禁毒为名公然介入他国政府内政！
“成为美国外交国际关系的核心”

后来由于成本很高 —— 将禁毒纳入“公共卫生领域” 注重毒品的预防和成瘾治疗 —— 大麻合法化高涨
“公共卫生”禁毒模式：起源于欧洲进行戒毒教育以减少毒品的危害去政府设立的“注射点”（专业的来

小布什时期试图在法律惩戒和公卫模式之间寻求平衡
奥巴马与毒品共存的公卫模式成为主要模式（政府配给一定剂量在特定注射点）避免更多延伸问题
特朗普一个是强化毒品法律惩戒另一个是州本身由于财政压力越来越多的州政府承认大麻合法化
杜特尔特菲律宾总统过于“” 只要发现有人吸毒 —— 可以直接消灭！—— 人权问题
拜登联邦政府层面松动管制获得大量年轻群体和非法移民群体的支持

三、美国禁毒政策的争论
公共政策领域之间争论
犯罪学派 —— 大监禁——成本问题、脸谱化种族问题
公卫学派 —— 国家无法消除
市场学派——地下黑市引发更大规模的犯罪和公共卫生危机
政治一定要有共识不然最后一定会走向极化

四、美国枪支管控
1、美国“枪支文化”传统
历史渊源与传统：保卫家庭 + 独立战争
客观：地广人稀乡村警力不足的补充
“枪支” 对于美国人来讲也是成瘾的 —— 类似宠物/兄弟的存在
2、美国枪支管控政策发展历史
美国第二宪法修正案：人民持有与携带武器的权利不得予以侵犯
1934 《国家枪支法》通过课税和枪支登记 —— 对“高度危险”的武器实施管控
1929年芝加哥 “情人节大屠杀” 引发全美恐慌
1968年《枪支管制法》马丁路德金与肯尼迪相继被刺杀
新的《枪支管制法》确立枪支许可制度对于持枪身份有限制背景调查但私下里的交易依旧很容易
1993 《布雷迪法案》确立国家犯罪背景调查系统要求枪支在销售前必须通过联邦数据库核查购枪者背景 —— 但是实际在现实中依旧很轻松进行交易
1994 禁售部分枪支（禁止大规模强杀伤力的武器）只是控制枪
2022 限制公民在公共场所携带手枪的法律必须符合美国的“历史与传统” 支持公民持枪且在符合规定下公共场所持枪 —— 极大提高了联邦政府/州政府未来制定任何创新性控枪法案奠定法律门槛

3、美国枪支管控的“枪击-愤怒-争议-枪击-愤怒”政策的恶性循环
核心 —— “木桶原理” ：没有统一的法案
实际上政策取决于对枪支管控最弱的那个州的法案
控枪政策碎片化管理

4、美国枪支管控理念分歧与利益集团
个人权利 受宪法第二修正案保护
Everytown for Gun Safety 强化弹夹容量与自动步枪管控
本质上控枪并非禁枪（即使是最liberal的人）

5、无法控枪的管理逻辑
不同的移民群体 —— 实际上相互群体之间没有情感的、没有很强的公共认同，相处是有底线的
实际就是移民的逻辑！！！竞争是没有底线的
资源争夺导致社会冲突
缺乏情感渊源导致屠杀 —— 毫无心理负担
警察权力权威是最稳定基础保障秩序—— 以暴制暴
民间拥有枪支构成警察暴力执法合法性

结论
1、禁毒与禁枪是一个系统管理体系，美国联邦制结构下的各州法律体不统一，导致 “木桶效应”，任何一州的法律底线降低将导致全国管理失效 2、利益集团利用缺乏政治与社会共识，绑架国家决策和立法 3、共存是美国管理的共同逻辑，“与吸毒、枪支、病毒共存”，只要不危及资本集团的根本利益，其他都可以“共存“ 4、美国民主共和两党在强制管理问题上本质没有区别，“控枪”而非“禁枪” 5、允许持枪，才是警察可以合法开枪的前提，移民国家必须构建警察合法开枪的权力才能确保社会基本秩序

Lecture 14 美国贫穷与社会福利
一、美国贫困的标准与现状
绝对贫困：根据经济发展与物价水平联邦政府计算出刚性收入基准线
相对贫困：中位数家庭收入在全社会收入中位数以下的家庭（家庭 8万🔪）
深度贫困：每天可支配生活费低于3.20美元群体

阶段性贫困：由于突发性事件失业、家庭结构破裂、重大疾病导致的工作中断和高昂医疗帐单（可能会恢复过来、也有可能被彻底斩杀）
长期贫困：个人/家庭长达数年甚至数十年间持续处于贫困线下 往往伴随着跨代际的传递效应

谁是美国的穷人：
1、种族：人数上是白人最多但是非裔、西裔、原住民是贫困比例最高的群体
2、性别分类：女性贫困率高于男性一方面是女性单亲高离婚率高未婚率贫困女性化；另一方面是就业歧视 —— 女性贫困也和儿童贫困息息相关
3、年龄分类：美国48.9%的儿童都处于贫困线以下以及低收入家庭申请可以有free lunch（公立学校）
但是所谓 Free Lunch 由两大集团控制 —— 但如今高糖分疫情中还有孩子突然在家里吃饭的负担也出问题
4、工作分类：最低工资位 7.25 美元从事餐饮、仓储、家政、护理等服务业岗位的人 全职甚至多份工作
收入依旧在贫困线之下
5、地理分类：经济转型导致大都市的内城区衰败；随着传统采矿业制造业和传统农业的衰落阿巴拉契亚山区、南方腹地出现的贫困带《乡下人的悲歌》

贫困新趋势
工作贫困群体（ALICE Line）“资产有限收入有限但仍在就业的群体” 为“隐形贫困群体”
收入高于联邦贫困线但缺乏有效的经济安全保障是最主要呗 “斩杀线” 击中的群体
一旦掉下去很难再恢复了
K型经济 疫情后经济朝着两个方向发展导致出现两个不同的群体基尼系数越来越大
高科技与资本持有者更加富裕
传统产业从业者则越来越贫穷
零工经济兴起 数字平台算法派单和共享经济为特征的零工经济兴起
表面的经济繁荣之下掩盖的脆弱收入来源

二、美国贫困形成的原因
1、导致美国贫困的现实因素
教育不平等：高度依赖财产税制的 K-12 公立教育、严重分化的公私教育质量以及缺乏客观统一的高等教育录取标准形成“出生即终点” 的社会结构
最核心的根本原因
高考在中国就是一种很底层的政治
因病致贫 美国人均医疗支出高达 13000刀尽管有Medicaid做兜底但准入条件严苛
一次突发性疾病 —— 被迫跌入贫困线以下
成瘾剂量 酗酒阿片类药物滥用导致劳动能力丧失家庭破裂

2、导致美国贫困的理论流派
自由主义：缺乏教育就业机会职业培训；歧视导致机会不平等
保守主义者：健康的人贫穷是因为懒；经济发展有大量的机会；政府福利不能改变贫穷反而鼓励偷懒和滥用权力
激进主义：资本主义制度加剧贫困；需要贫穷大量剩余劳动力必须自愿从事低收入肮脏工作；中产对跌入贫穷的恐惧则会更加勤奋屈从于上层阶级的制度安排

三、美国福利政策发展史
1、自由放任与地方救济（殖民地——20世纪前
中世纪国家/王室没有提供社会福利的责任
英国 1601 《济贫法》 Poor Law 第一个规定政府提供社会福利责任的法律 也规定健全人必须工作（重要）
早期殖民地模仿济贫法建立各自社会福利制度
福利属于地方政府的管辖权
南北内战结束后国会成立 “难民自由人遗弃土地管理局”
联邦政府首次正式提供全国性社会福利的开端

随着近代工业 19世纪末 —— 社会达尔文主义大行其道
将生物进化论生搬硬套到人类社会上主张适者生存社会应该抛弃失败者
在社达视角下政府对穷人的社会福利不仅无效还有害认为社会福利会破坏市场的竞争法则与国家竞争的活力
这种极端崇尚个人责任抑制政府作用的行为是卑劣的

2、进步主义时代的福利制度
经济危机导致劳资关系进一步恶化贫穷问题愈发成为社会冲突核心问题
经济周期带来的贫困无法归咎于个人道德的失败
各州政府被迫开始建立有限的普惠式社会福利制度（地方政府）
多数州最多《母亲养老金法案》 —— 为单亲母亲提供微薄的公共资助各州也逐步建立工人伤残资助

3、联邦政府建立福利制度开端
大萧条 + 苏联完成了社会主义 —— 美国联邦政府开始介入到联邦体系
1935年《社会保障法》社会保险与社会救助的双结构奠定了现代美国福利体系的基本结构

4、联邦政府“伟大社会”福利体系建立
民权运动 60年代全面揭开了南方非裔美国人真实贫困问题
林登约翰逊构建伟大社会计划正式向贫困宣战
改善教育体系
Medicaid 医疗补助（救急）和 Medicare 医疗保险（长期交会有保险）
制度化食物券 —— 补充营养援助计划 SNAP前身

5、联邦政府福利体系重组
陷入“滞胀”危机财政赤字 —— 里根时代
认为“福利依赖” 加剧贫困破会啊了核心家庭结构鼓励了未婚先育摧毁了个人责任感与工作伦理
—— Welfare Queen
《1981年综合预算调节法》大幅削减了各种社会救助预算设立非常严格的审查资格
试图将决定权下放地方 —— 拉开了美国福利国家收缩与重组的序幕

6、美国有限福利国家制度 20世纪末
克林顿《个人责任与工作机会协调法》
社会福利从权利退化为有限临时救助
确立了“工作福利”原则领取现金救济后两年内必须参加工作或政府制定的工作培训社区服务
规定使用联邦现金援助的累积时间终身不得超过60个月（部分特殊除外）为杜绝过度依赖

四、美国福利体系的结构
1、社会保险 Social Insurance
普惠性全民覆盖
资金来源工薪税每个人都交！！！
无需经济状况调查所有到达法定退休年龄领社会保障金与加入联邦医疗保障啥的
2、社会救助
社会保险防范所有纳税人不可抗力的衰老与疾病
社会救助则是为那些无法通过劳动力市场获得足够资源的极端弱势群体提供最后的生存兜底
资金来源于政府税收但受惠人有限
社会救助需要资产审查有骗保
“真救助”/“养懒汉”
主要包括：
Medicaid 与儿童健康保险计划 CHIP、SNAP 补充营养援助计划食品券、住房援助计划、现金救助

五、美国贫穷与福利体系政策争议
自由主义：
贫困——系统性机会不平等经济结构转型系统性歧视
大政府纠正市场分配失灵立法提高最低工资对富裕阶层征收累进税重新调配建立全民医保
保守主义：
福利依赖代理懒惰限制干预边界个人责任的回归社会救助资格与强制就业技能培训严格挂钩
迫使个体重新融入劳动力市场个体尊严通过市场竞争
地域差异！！！
联邦垂直社会保障金与联邦医疗保险 Medicare 等少数项目由联邦政府垂直管理绝大多数关系到低收入群体切身利益的公共援助项目 Medicaid 等等都是联邦提供资金地方各州自行实施的管理模式
州政府福利准入资产审查及救济标准的自由裁量权 —— 各州差异很大！
州政府鼓励符合条件的本州居民申请SNAP 促进地方零售拿官方的钱

福利悬崖效应
“福利悬崖”效应（Benefits Cliff Effect）是指当低收入家庭通过工作使总收入略微超出某项福利资格线，该家庭将面临相关福利被“全额撤销”，进而导致其整体净可支配收入出现灾难性的断崖式下降，即“斩杀线”
“福利悬崖”效应的制度漏洞将低收入者推入了一个理性的“低薪陷阱”：为了维持家庭基本的医疗、食品和住房安全，他们不得不主动拒绝晋升机会或限制工作时间，以确保其收入始终保持在福利红线之下，形成工作贫困现象（Working Poor）
一些企业利用这个漏洞，故意压低工作薪酬，让员工收入处于贫困线下，鼓励员工申请联邦医疗食品补助，从而大幅度降低企业成本（例如沃尔玛）不用交医疗保险
种族排斥与数字鸿沟
系统性种族不平等导致实际福利受益者与宏观预测不匹配
不同种族获批速度与数量不同
全面推行在线申请—— 贫困乡村地区遭遇数字鸿沟

沉重的社会福利赤字
占预算的一半
美国国债占 GDP 124%

总结
美国是三种制度混合的国家
高层按资分配
中层按劳分配
底层按需分配

趋势？
上层海量财富
底层享有福利保障而且美国底层的劳动力价值还是很昂贵的
中层阶级不得不承受 K型经济的撕裂

理解美国取决于观察美国的视角
美国社会：马赛克vs大熔炉？

财富分化 + 族群政治 ——> 成为美国政治的死结

期末复习
“没有名词解释 —— 更多考察的是理解”
考察主线还是资金和警察暴力对美国公共政策的影响（还有移民国家导致的情感缺失对国家的影响）
还有联邦政府的力量逐渐渗透到地方和基层
Medicaid 和 Medicare
联邦大手 —— 渗透到基层
美国整个国家核心就是移民最简单的管理 —— 就是看相互之间有没有情感 —— 没有情感社会就会很可怕
背后就是一套相互之间根本没有情感的恐怖现实社会富裕还好一旦下行就会出现大问题
考验观察一个国家社会之间关系：最好的时刻就是无政府时刻发生各种天灾人祸
所以实际靠的是暴力警察机制 “警察国家”

两条线是联邦政府权力扩张和警察、税收的影响
看完了？说点什么呢

# 日本武士到底是怎么样的群体？

akuiro — Sun, 28 Jun 2026 07:37:50 GMT

该渲染由 Shiro API 生成，可能存在排版问题，最佳体验请前往：https://akuiro24.xyz/posts/default/paperofjapanesecultureandfilm
在这个学期中，我主要看的是几部经典的日本武士电影，包括黑泽明的《七武士》、山田洋次的《黄昏的清兵卫》和《武士的一分》，还有杉田成道的《最后的忠臣藏》。这几部电影主要是聚焦于武士这一群体进行故事的展开，从战国晚期，到后江户时代，通过这一部部风格不同的电影，更像是一个个小窗户，打开得以窥见日本武士这一特殊群体的复杂又多变的不同人生，更从深处折射出那一个个时代的社会的模样。
实际上我第一部接触到的有关日本武士的电影其实并不是《七武士》，而是看了黑泽明导演的另一部经典之作——《罗生门》，其中的武士的角色给我留下很深的印象。这么一位“体面”的人，会因保全自己的尊严面子而说谎决斗，会因武士道德观放弃失贞的妻子，会因懦弱自私而诋毁避战。实际上可以感受到所谓西方社会所说的“神性”，就是高高在上、不食人间烟火，拥有着一套近乎完美无缺的行事准则。他似乎不愿卷入人世间的纷争，带着某种理想化的、不可触及的距离感。
但这种印象随着我看完《七武士》后就发生了改变，在《七武士》中，实际上黑泽明导演更多的为观者展示出武士的“人性”。在整整的三个多小时的过程中，感触最深的地方有两处：
一是农民与武士之间的关系的转变——从最初的隔阂到后来的信赖，在农民与武士的不断对话互动中，以一种“平视”的视角，进行对于武士形象的“去神圣化”与“人性化”。武士们不再是遥不可及的守护者，而是与农民同吃同住，共同面对生死，拉近武士与普通百姓的距离，更多展现出他们身上所有的人性光辉。
二则是其中一位“武士”菊千代，一个用行为诠释到底如何才叫武士的农民之子。菊千代，出身农村却渴望成为一位武士，过上受人尊敬的生活。他有来自农村的人性，会说粗鲁的话，会用自己的狡黠缓解紧张，会因为自己的真诚在武士们发现被农民欺骗的时候为农民发声解释缘由，同时，他在整个故事的进程中不断向岛田勘兵卫学习如何成为一名真正的武士，即不断掌握武士道的真谛——真诚勇敢、正直睿智、友谊忠诚、乐观善良，以及最重要的，对于正义的追求与捍卫。实际上，我更愿意这样说：菊千代既不是存粹的农民，也不是传统的武士，但是他既有对于农民的怜悯，又有对武士的忠义，他是人性与神性的结合体，一个怀揣赤子之心，用自己的同理心与勇气诠释武士内核究竟为何的形象。
看完《七武士》后，最后的结局有一句话“我们又打输了，赢的是农民”，对于这句话更多是一种深刻的社会现实折射。它预示着武士阶级的没落与旧秩序的消亡，农民继续耕种生活，农民看到丰收的未来，但是武士呢？他们不清楚自己的未来该往何处，去往何方？他们的迷惘不由得让我对于和平时代的武士生活产生了好奇。
于是我就去欣赏了山田洋次的武士三部曲中的两部，《黄昏的清兵卫》和《武士的一分》，和山田洋次一致的风格一样，这两部电影并没有过多的展示武士们宏大的战斗场面，而是将核心放在了对于生活在和平的江户时代的下层武士的清贫琐碎日常的展现。《黄昏清兵卫》里的井口清兵卫、《武士的一分》中的三村新之丞，一位是粮仓出纳员，一位是试毒工作。清兵卫一个人支撑整个家庭，为了照顾母亲与女儿每每一下班便匆匆赶在黄昏前赶回家，编虫笼换钱；新之丞因失明失去工作，生活陷入绝境，妻子为谋生出卖了自己。
山田洋次用细腻和极具生活气息的镜头语言，揭示了在进入相对和平的江户时代后，武士（尤其是底层武士）的日常生活。在江户时代，是武士“等级森严”“社畜”化的时代。武士在这个阶段出于统治的稳定性要求，被严格的分成不同的等级，这种家格等级造就的阶层社会使得底层的武士生活的异常的艰辛，武士的尊严与准则不准许他们去从事别的劳动，大多的底层武士都是靠着低薄的工资度日，就像现代的社畜一般，按部就班的完成工作，过着清贫的生活，同时恪守武士道的各种准则。
当社会变得稳定和平，武士的军事职能逐渐弱化，名义上武士已经失去了立身之本，武士的光环开始褪去，武士阶层逐步走向没落，但我在这两部却看到两位纯粹的武士，让我意识到只要武士道还在，武士就不会消失的，武士真正难得可贵的从来不是他们赖以生存的武力，而且那一份坚韧与责任。武士的尊严从来不只是体现在战场的英勇，更是对于主公的忠诚，对于弱小者的保护，对于逆境的斗争，对于不公的勇气，对于家庭的担当。武士的价值投射于点点滴滴，也让我对于武士道有了更人性化的理解。这两部电影也从更深刻的视角下，对武士的生活进行“去浪漫化”的描绘，即使是武士阶层，也都是都有血有肉，有着丰富情感的人组成的，也是会有生存压力与身份困境的，相信会引发大众观者的不少共鸣。
最后我看的是《最后的忠臣藏》，这个影片是基于赤穗事件，围绕着失踪者进行展开的故事，讲述了一个忍辱负重抚养主君的遗孤的故事。
影片的最高潮，也是最令我震撼之处，是在可音出嫁之时，那些曾受过大石恩惠的人们，一路前来报恩送嫁的场景。这让我对于“忠诚”两个字有了更加复杂的思考。两位幸存下来的赤藩武士，两位都肩负了太多，他们内心的挣扎与痛苦，这长达17年的漫长而艰难的隐忍，支撑他们坚持下来的到底是什么？我想，是武士对于主君的忠诚，更是武士对于使命的坚守。他们活下来的每一天，都饱受社会舆论的唾弃与内心的谴责，但这每一天，也是忠诚的另一种诠释。他们不仅仅是知晓武士道精神的武士，更是行动上的巨人，用自己的隐忍与牺牲，践行了自己的所坚守的信念与精神。
电影中的忠诚是在一种更特殊的情况下对于观者的发问：“当你所坚持的正义、忠诚同时意味着背负骂名，意味着放弃个人的幸福甚至是生命的时候，你还会不会坚守？”我相信每个人都会每个人的回答，我无意比较不同的选择，但我选择钦佩濑尾孙左卫门和寺坂吉右卫门两位武士。
这一发问，也是对于传统日本武士道中的“绝对忠诚”的反思，随着社会的改变与发展，在集体主义与传统道德的巨大压力下，现代社会的人们好像更容易受到外界的影响，人体该如何面对这些的时候做出自己的选择，以及这些选择背后隐藏的巨大的代价的影响？
这部电影带着我们进一步去反思传统道德观和武士道精神在现代的现实意义，也从侧面展示出前代的道德准则会在不同的时代面对不同的伦理难题和现实困境。还有，在武士道中的忠诚，实际上更多的是只针对于私人意义上的忠诚，就是所谓“私忠”。这一点需要辩证的看待“忠诚”，需要去承认在践行忠诚上，这些武士做到了极致，但也必须看到，这“私忠”所造成的结果可能是多样化的。因此，个人更加认可“公忠”，对于自己的信仰和道德观念忠诚，无论面对何种困境，敢于去坚守自己的本心，这才是“真正的忠诚”。
回顾这些经典的影片，不只是看到了不同武士的生活与故事，更多是窥见了超越刀剑、超越生死、超越生活的武士精神。这些影片展示了多维度的武士世界——武士不仅是武功高强，手持刀剑厮杀的战士，也是一位位有感情有血肉有逆境的人。他们也会面对不公、失败、怀疑、动摇、无奈、挣扎、挑战，但是他们依旧坚守，守着自己的尊严与责任，守住经受多重考验的忠诚，守好了内心深处的武士道。这些优秀的作品共同构成了日本武士在大众文化中不断演变深化的形象，就像从神性到人性，从战斗到日常，从传统到反思，这些都一步步构筑起了我们对于古代日本武士群体复杂而富有层次的认知。
看完了？说点什么呢

符号	术语	含义	癌症检测例子
P(h)	先验 Prior	看数据前对 h 的信念	普查:发病率 1%
P(D\|h)	似然 Likelihood	h 为真观察到数据的概率	病人中 80% 阳性
P(D)	证据 Evidence	数据边际概率（归一化）	全人群阳性比例
P(h\|D)	后验 Posterior	看数据后更新的信念	阳性后真患病的概率

方法	操作	输出	计算量	适用
MLE（极大似然）	max P(D\|θ)	单一点估计	小	大数据、弱先验
MAP（最大后验）	max P(D\|θ)P(θ)	带先验约束的点估计	中小	有限数据、强先验
Full Bayes	采样/积分 P(θ\|D)	完整参数分布	极大	需精确不确定度

超参数	含义	对拟合的影响
l（长度尺度）	相关性随距离衰减的快慢	l 小 → 函数"抖动"；l 大 → 平滑
$σ_f$（信号方差）	函数的幅度	控制预测量级
$σ_n$（噪声方差）	观测噪声水平	对角项修正，控制拟合忠实度

特性	生物神经元	人工神经元
总数	~860 亿	设计决定
连接	~100 万亿突触	参数决定
信号	化学/电，异步并行，二进制触发	实数加权求和，同步层间传递
功耗	~20 W（全脑）	GPU ~250 W
容错性	极高（冗余存储）	一般
发放频率	~200 次/秒	一次前向传播一值
学习	突触可塑性（neuroplasticity）	梯度下降调整权重

函数	公式	输出范围	导数	特点
Sigmoid	1/(1+e⁻ᶻ)	(0, 1)	f(1-f)	经典，收敛慢，两头梯度≈0 会有梯度消失停止训练的问题
Tanh	(eᶻ-e⁻ᶻ)/(eᶻ+e⁻ᶻ)	(-1, 1)	1-f²	零均值，常优于 Sigmoid
ReLU	max(0, z)	[0, ∞)	0或1	主流，计算快，缓解梯度消失

网络	核心特点	典型应用	里程碑
Hopfield 网络	循环，能量函数极小，联想记忆	图像恢复、TSP	Hopfield, 1982
Boltzmann 机	隐藏层+概率分布	特征发现、生成模型	Hinton, 1985
前馈+BP	层间前传、误差反传	通用监督学习	1986
CNN	局部关联、参数共享	图像/语音识别	1990s
RNN	隐藏层循环连接，记忆前序	序列、时序数据	—
Transformer	Self-Attention 自注意力	NLP, ChatGPT	2017
GAN	生成器-判别器对抗博弈	内容生成	2014

参数	作用	典型值
α（学习率）	步长	0.01 ~ 0.1
η（动量）	惯性项 → 加速收敛 + 平滑震荡	~0.9

瓶颈问题	物理本质	核心自救策略
局部极小值 & 鞍点	优化算法卡在梯度接近 0 的平坦区域，或者卡在非全局最优的山谷中。	Adam 等自适应学习率优化器：它对每个参数单独计算学习率，并且通过二阶动量冲出平坦区和鞍点；此外，使用 SGD（随机梯度下降）每次只用一个 Batch 算梯度，引入噪声，也能帮助模型“震”出局部极小。
收敛缓慢（梯度消失）	像 Sigmoid、Tanh 等激活函数，当网络变深时，导数连乘使前期的梯度无限趋近于 0。	更换激活函数（改用 ReLU 族）；引入 BatchNorm（批归一化）防止输入落入激活函数的饱和区；使用 ResNet 残差连接。
过拟合（泛化能力差）	神经网络参数太多，强行记住了训练集里的全部细节（甚至噪声），导致新数据上效果极差。	Dropout（训练时随机让一部分神经元“下岗”，逼迫网络不依赖特定通路）；L1/L2 正则化（惩罚过大的权重值）；早停（Early Stopping）。

问题	原因	改进方法
局部收敛	梯度下降固有缺陷	动量法、随机梯度下降(SGD)、模拟退火
收敛缓慢	梯度消失（Sigmoid 两端 d≈0）	ReLU 激活、学习率衰减、BatchNorm
过拟合	参数过多 + 数据不足	正则化(L1/L2)、Dropout、早停(EarlyStopping)
鞍点	高维梯度≈0但非极值	准Newton-BFGS、Adam等自适应优化器

特性	标准神经网络	Bayesian 神经网络
权重	固定数值（点估计）	概率分布
学习目标	min E(w)	max P(w\|D) 或完整采样
输出	单一预测值	预测分布（均值 ± 不确定度）
不确定度量化	无	参数不确定度 + 结构不确定度
计算量	中等	极大（高维积分需 MCMC）
过拟合风险	高（需人工正则化）	低（先验天然正则化）
优化方法	梯度下降调整权重得 MSE min	最大似然 Likelihood 学习

方法	操作	输出	适用
MLE	max P(D\|ω)	点估计（无不确定度）	大数据、弱先验
MAP	max P(D\|ω)P(ω)	带先验约束的点估计	有领域先验知识
Full Bayes	MCMC 完整积分	完整后验分布	需精确不确定度

项	作用
∇log P(w)（先验梯度）	向先验"拉回"，起正则化作用
∇log P(y\|x,w)（似然梯度）	推动拟合数据，用 mini-batch
η_k ~ N(0, ε)（噪声注入）	防止停在 MAP 单点，探索整个后验

超参数	含义	效果
α（大）	强正则化	模型更简单，可能欠拟合
α（小）	弱正则化	贴近数据，可能过拟合
β（噪声精度）	1/σ²	控制数据拟合 vs 正则化的权重

模型	复杂度	Evidence	原因
M₁（简单）	低	小	拟合数据不好 → 似然低
M₂（适中）	中	最大 ✓	能拟合又不浪费参数
M₃（复杂）	高	小	能拟合但概率"平摊"到太多可能

方面	经典 CI	Bayesian CI
定义	重复抽样∞次，95%的区间包含真值	给定数据，真值在区间内概率=95%
解释	频率论（关于方法）	概率论（关于参数本身）
依赖	仅依赖抽样分布	依赖先验 + 数据

情况	问题性质	评价
CI 过窄	虚假精确：声称比实际更准	不诚实
CI 过宽（远>95%）	虚假谦虚：浪费精度	也是不诚实
不给误差	无法判断可靠性	"不给出误差的理论就是耍流氓"

方法	具体做法	核物理例子
物理特征量输入	将已知物理量作为输入特征	壳修正、奇偶效应、分离能
物理约束 Loss	Loss 加入物理约束项	归一化、非负值、守恒律
模型残差学习	学习物理模型的残差 Model Mixing	从核模型出发 ML 修正残差
物理嵌入先验	用物理模型构造 Bayesian 先验	迁移学习 → 物理模型 → 先验

组件	功能
Self-Attention	对输入不同部分差异化加权（关注重要部分）
Encoder	将输入编码为上下文表示
Decoder	从编码生成输出序列

方法	类型	核心思路	监督方式
SVM	分类	Kernel映射→高维→最大间隔超平面	监督
随机森林	分类/回归	多棵决策树投票/平均	监督
XGBoost/LightGBM	分类/回归	梯度提升树，逐棵修正前树残差	监督
CNN	图像/语音	卷积+池化+全连接	监督
RNN	序列数据	循环连接的记忆机制	监督
Transformer/GPT	文本生成	自注意力+Encoder-Decoder	自监督预训练
GAN	内容生成	生成器vs判别器对抗博弈	无监督
Deep Learning	通用	多隐藏层(>2)，需大数据	监督/强化
KAN	通用	Kolmogorov-Arnold网络，可解释高	监督

策略	做法	风险
Exploitation（利用）	在当前最优点附近采样	精炼已知最优
Exploration（探索）	在高不确定度区域采样	可能发现更优

方法	输出类型	不确定度	参数	可解释性	最佳场景
线性回归	点估计+CI	解析CI	少	极高	简单趋势
GPR	预测分布	天然自带	3个	高	数据少需不确定度
标准 NN	点估计	无	大量	低	大数据分类/回归
BNN	预测分布	完整后验	大量	低	需参数+结构不确定度
CNN	点估计	无	大量	低	图像/语音
Transformer	概率分布	softmax	海量	注意力	NLP/ChatGPT
SVM	分类决策	距离度量	中	中	中小数据分类
随机森林	投票/均值	方差可估	中	高	结构化数据
Bayesian Opt	最优点	GP后验	少	高	昂贵函数优化

理念	具体内涵
Bayesian 思维	概率 = 信念程度；先验+数据→后验；持续更新
不确定度量化	预测必附误差；"不给出误差的理论就是耍流氓"
奥卡姆剃刀	适度模型适度学习；少则不及多则过
物理融合	纯数据驱动不足 → 物理信息嵌入是正道
新科学范式	方程不可解/不存在时 → 数据驱动+物理约束
实用主义	按问题选方法：权衡数据量、不确定度、可解释性