蒙特卡洛积分法的方差缩减技术——对偶变量法
字数 2071 2025-10-30 11:52:22

蒙特卡洛积分法的方差缩减技术——对偶变量法

题目描述
对偶变量法是一种方差缩减技术，用于提高蒙特卡洛积分法的精度。其核心思想是：在随机采样时，成对地生成具有负相关性的样本，使积分估计量的方差显著降低。具体问题如下：
设需计算积分 \(I = \int_{\Omega} f(x) \, dx\)，其中 \(\Omega\) 为积分区域。标准蒙特卡洛法通过生成 \(N\) 个独立随机样本 \(x_i\) 来估计 \(I \approx \frac{1}{N} \sum_{i=1}^N f(x_i)\)，但估计量的方差 \(\text{Var}[\hat{I}] = \frac{\text{Var}[f]}{N}\) 可能较大。要求利用对偶变量法设计一种采样策略，使方差减小，并分析其理论依据。

解题过程

  1. 基本思路

    • 标准蒙特卡洛的误差取决于样本方差。若样本间存在负相关性，则样本均值的方差可能减小。
    • 对偶变量法通过生成一对互补的样本 \(x_i\) 和 \(x_i'\)，使得 \(f(x_i)\) 和 \(f(x_i')\) 负相关，从而在求平均时部分波动被抵消。

  2. 对称变换与互补样本的生成

    • 关键步骤：构造一个对称变换 \(T\)，使得若 \(x\) 服从均匀分布（或某概率分布），则 \(T(x)\) 也服从相同分布，且 \(x\) 与 \(T(x)\) 负相关。
    • 常用方法：在区间 \([0,1]\) 上，若 \(u \sim U(0,1)\)，则定义对偶变量 \(u' = 1 - u\)。显然 \(u\) 与 \(u'\) 均服从均匀分布，且协方差 \(\text{Cov}(u, u') < 0\)。
    • 推广到高维：若需积分区域为超立方体 \([0,1]^d\)，可对每个维度独立应用变换 \(u_j' = 1 - u_j\)。

  3. 积分估计量的构造

    • 生成 \(N\) 对样本（共 \(2N\) 个点）：
      • 首先生成独立随机向量 \(u_i \sim U([0,1]^d)\)。
      • 计算对偶样本 \(u_i' = \mathbf{1} - u_i\)（其中 \(\mathbf{1}\) 为全1向量）。
    • 积分估计量改为：

\[ \hat{I}_{\text{AV}} = \frac{1}{N} \sum_{i=1}^N \frac{f(u_i) + f(u_i')}{2}. \]

  • 注意：每对样本 \((u_i, u_i')\) 共享一个随机种子，但整体仍需 \(N\) 对独立采样（对间独立，对内关联）。
  1. 方差缩减的理论分析
    • 估计量的方差为：

\[ \text{Var}[\hat{I}_{\text{AV}}] = \frac{1}{4N} \left( \text{Var}[f(u)] + \text{Var}[f(u')] + 2\text{Cov}[f(u), f(u')] \right). \]

  • 由于 \(u\) 和 \(u'\) 同分布，\(\text{Var}[f(u)] = \text{Var}[f(u')]\)，因此：

\[ \text{Var}[\hat{I}_{\text{AV}}] = \frac{\text{Var}[f]}{2N} \left( 1 + \rho \right), \quad \rho = \frac{\text{Cov}[f(u), f(u')]}{\text{Var}[f]}. \]

  • 若 \(f\) 是单调函数（例如在 \([0,1]\) 上单调），则 \(f(u)\) 与 \(f(1-u)\) 负相关（\(\rho < 0\)），方差减小。
  • 极端情况：若 \(f\) 是线性函数，则 \(\rho = -1\)，方差降为0（此时每对样本的平均值为常数）。

  1. 应用示例

    • 计算积分 \(I = \int_0^1 e^x \, dx\)。
      • 标准蒙特卡洛：生成 \(u_i\)，估计 \(\hat{I} = \frac{1}{N} \sum e^{u_i}\)。
      • 对偶变量法：生成 \(u_i\) 和 \(u_i' = 1 - u_i\)，估计 \(\hat{I}_{\text{AV}} = \frac{1}{N} \sum \frac{e^{u_i} + e^{1 - u_i}}{2}\)。
    • 由于 \(e^x\) 在 \([0,1]\) 上单调增，\(e^{1-u}\) 单调减，二者负相关，方差显著降低。

  2. 适用场景与局限性

    • 适用：函数单调或近似单调时效果显著；对多维问题易实现。
    • 局限：若函数对称或周期性强，负相关性可能减弱，方差缩减效果不显著。需结合具体函数特性选择变换 \(T\)。
蒙特卡洛积分法的方差缩减技术——对偶变量法 题目描述 对偶变量法是一种方差缩减技术，用于提高蒙特卡洛积分法的精度。其核心思想是：在随机采样时，成对地生成具有负相关性的样本，使积分估计量的方差显著降低。具体问题如下： 设需计算积分 \( I = \int_ {\Omega} f(x) \, dx \)，其中 \(\Omega\) 为积分区域。标准蒙特卡洛法通过生成 \( N \) 个独立随机样本 \( x_ i \) 来估计 \( I \approx \frac{1}{N} \sum_ {i=1}^N f(x_ i) \)，但估计量的方差 \( \text{Var}[ \hat{I}] = \frac{\text{Var}[ f ]}{N} \) 可能较大。要求利用对偶变量法设计一种采样策略，使方差减小，并分析其理论依据。 解题过程 基本思路 标准蒙特卡洛的误差取决于样本方差。若样本间存在负相关性，则样本均值的方差可能减小。 对偶变量法通过生成一对互补的样本 \( x_ i \) 和 \( x_ i' \)，使得 \( f(x_ i) \) 和 \( f(x_ i') \) 负相关，从而在求平均时部分波动被抵消。 对称变换与互补样本的生成 关键步骤：构造一个对称变换 \( T \)，使得若 \( x \) 服从均匀分布（或某概率分布），则 \( T(x) \) 也服从相同分布，且 \( x \) 与 \( T(x) \) 负相关。 常用方法：在区间 \([ 0,1]\) 上，若 \( u \sim U(0,1) \)，则定义对偶变量 \( u' = 1 - u \)。显然 \( u \) 与 \( u' \) 均服从均匀分布，且协方差 \( \text{Cov}(u, u') < 0 \)。 推广到高维：若需积分区域为超立方体 \([ 0,1]^d\)，可对每个维度独立应用变换 \( u_ j' = 1 - u_ j \)。 积分估计量的构造 生成 \( N \) 对样本（共 \( 2N \) 个点）： 首先生成独立随机向量 \( u_ i \sim U([ 0,1 ]^d) \)。 计算对偶样本 \( u_ i' = \mathbf{1} - u_ i \)（其中 \(\mathbf{1}\) 为全1向量）。 积分估计量改为： \[ \hat{I} {\text{AV}} = \frac{1}{N} \sum {i=1}^N \frac{f(u_ i) + f(u_ i')}{2}. \] 注意：每对样本 \( (u_ i, u_ i') \) 共享一个随机种子，但整体仍需 \( N \) 对独立采样（对间独立，对内关联）。 方差缩减的理论分析 估计量的方差为： \[ \text{Var}[ \hat{I}_ {\text{AV}}] = \frac{1}{4N} \left( \text{Var}[ f(u)] + \text{Var}[ f(u')] + 2\text{Cov}[ f(u), f(u') ] \right). \] 由于 \( u \) 和 \( u' \) 同分布，\( \text{Var}[ f(u)] = \text{Var}[ f(u') ] \)，因此： \[ \text{Var}[ \hat{I}_ {\text{AV}}] = \frac{\text{Var}[ f]}{2N} \left( 1 + \rho \right), \quad \rho = \frac{\text{Cov}[ f(u), f(u')]}{\text{Var}[ f ]}. \] 若 \( f \) 是单调函数（例如在 \([ 0,1]\) 上单调），则 \( f(u) \) 与 \( f(1-u) \) 负相关（\( \rho < 0 \)），方差减小。 极端情况：若 \( f \) 是线性函数，则 \( \rho = -1 \)，方差降为0（此时每对样本的平均值为常数）。 应用示例 计算积分 \( I = \int_ 0^1 e^x \, dx \)。 标准蒙特卡洛：生成 \( u_ i \)，估计 \( \hat{I} = \frac{1}{N} \sum e^{u_ i} \)。 对偶变量法：生成 \( u_ i \) 和 \( u_ i' = 1 - u_ i \)，估计 \( \hat{I}_ {\text{AV}} = \frac{1}{N} \sum \frac{e^{u_ i} + e^{1 - u_ i}}{2} \)。 由于 \( e^x \) 在 \([ 0,1 ]\) 上单调增，\( e^{1-u} \) 单调减，二者负相关，方差显著降低。 适用场景与局限性 适用：函数单调或近似单调时效果显著；对多维问题易实现。 局限：若函数对称或周期性强，负相关性可能减弱，方差缩减效果不显著。需结合具体函数特性选择变换 \( T \)。