RBF 插值的理论与应用

径向（Radial Direction）是指沿半径的直线方向，或垂直于轴的直线方向1。径向基函数（Radial Basis Function，RBF）是一个取值仅依赖于到原点距离的实值函数2。在机器学习中，RBF 常被用作支持向量机的核函数。而我们在这里主要讨论 RBF 应用于插值的情况。

什么是插值 #

插值（Interpolation）是一种函数拟合的方式3。给定一组在采样点 {x_i}_{i=1}^n 上的测量值，点 x_i 上的测量值为 f_i ，我们希望找到一个「插值函数」 s(x) 使得我们能够获知其他采样点的值。

这里的插值函数 s(x) 需要满足插值条件 s(x_{i}) = f_{i} ，也就是说，这个插值函数必须精确匹配到给定的观测值。这里需要提一下「插值」和「逼近」这两种拟合方式的区别。函数拟合有两种，一种是插值，另一种是逼近。在实际应用中，我们比较多使用的方法是逼近，甚至很多时候会混用「拟合」和「逼近」这两个词，因为很多观测点的数据测量本来就存在误差，使用插值的方式会保留这些误差，而且约束过强。但使用逼近求得的函数并不一定确保观测点的值相等，而插值则能确保这一点。

为了方便求解，我们一般会假设插值函数 s(x) 是一组线性基函数 psi_{i}(x) 的叠加：

s(x) = sum_{i=1}^{n}lambda_{i}psi_{i}

此时，这个表示方法的便利之处在于我们可以用解线性系统的方式来对其进行求解，使用矩阵的形式可以表示为：

mathrm{A}mathrm{lambda} = mathrm{f}

其中 mathrm{f} = [f_{1}, ldots, f_{n}]^{T} 是一个向量，描述了在该组采样点上的所有对应的测量值，而 mathrm{lambda} = [lambda_{1}, ldots, lambda_{n}]^{T} 则是系数向量。矩阵 mathrm{A} 是一个 n times n 的矩阵，被称为插值矩阵，其中的值由基函数 psi 计算得出：

a_{ij} = psi_{j}(x_{i})

RBF 公式理解 #

使用 RBF 作为插值函数的公式如下4：

前面也提到了，等式左边的 s(x) 是表达了 x 点上的某种测量值，这个测量值可以是任意东西，例如颜色、缩放、温度等等。在 RBF 插值中，采样点就是空间中的位置点。简单来说，RBF 的插值为我们提供了这样一种方法：已知空间中若干个位置上某个属性的值，此时可以求解出空间中任意一个位置的对应属性值。等式右边的每个 x_{i} 就是一个观测点，也就是这里有 n 个观测点。而

就是当前点 x 和 x_{i} 的距离。这里的 lambda_{i} 对应了每个观测点对目标点的影响系数，实际需要求解的就是每个 lambda_{i} 的值。

上式中的 phi 就是 RBF，它以 x 和 x_{i} 之间的距离作为参数，在此基础上进行变换。phi 有很多中选择，在 scipy 的文档里可以看到有如下的常用的函数5：

代码语言：javascript复制

'multiquadric': sqrt((r/self.epsilon)**2   1)
'inverse': 1.0/sqrt((r/self.epsilon)**2   1)
'gaussian': exp(-(r/self.epsilon)**2)
'linear': r
'cubic': r**3
'quintic': r**5
'thin_plate': r**2 * log(r)

简单情况就直接用 linear 版本即可，此时 phi(x) = x 就是 text{identity} 函数。这里的