非线性规划中的内点法基础题
题目描述
考虑非线性规划问题:
最小化 f(x) = x₁² + 2x₂²
满足约束条件:
x₁ + x₂ ≥ 1
x₁ ≥ 0, x₂ ≥ 0
这是一个简单的凸二次规划问题,目标函数是严格凸的二次函数,约束条件为线性不等式。要求使用内点法求解该问题,通过构造障碍函数将约束问题转化为无约束问题,并分析求解过程。
解题过程
1. 问题重构与障碍函数引入
内点法的核心思想是通过障碍函数将约束条件融入目标函数,使搜索点始终保持在可行域内部。对于不等式约束x₁ + x₂ ≥ 1和x₁ ≥ 0, x₂ ≥ 0,我们引入障碍函数:
原始问题等价于求解一系列无约束优化问题:
min φ(x, μ) = f(x) - μ[ln(x₁ + x₂ - 1) + ln(x₁) + ln(x₂)]
其中μ > 0是障碍参数。
2. 障碍函数性质分析
当x接近可行域边界时,障碍函数值会急剧增大,从而阻止迭代点越界。随着μ逐渐减小到0,障碍函数的影响减弱,无约束问题的最优解会逼近原约束问题的最优解。
3. 最优性条件推导
对障碍函数求梯度并令其为0:
∂φ/∂x₁ = 2x₁ - μ/(x₁ + x₂ - 1) - μ/x₁ = 0
∂φ/∂x₂ = 4x₂ - μ/(x₁ + x₂ - 1) - μ/x₂ = 0
4. 迭代求解过程
(1) 选择初始点:取严格内点x⁰ = (1, 1),满足x₁ + x₂ > 1, x₁ > 0, x₂ > 0
(2) 设定初始障碍参数μ₀ = 1,衰减因子σ = 0.1
(3) 对于每个μ值,求解无约束优化问题:
- 使用牛顿法求解非线性方程组
- 梯度:∇φ(x, μ) = [2x₁ - μ/(x₁+x₂-1) - μ/x₁, 4x₂ - μ/(x₁+x₂-1) - μ/x₂]ᵀ
- 海森矩阵:H = [[2 + μ/(x₁+x₂-1)² + μ/x₁², μ/(x₁+x₂-1)²],
[μ/(x₁+x₂-1)², 4 + μ/(x₁+x₂-1)² + μ/x₂²]]
5. 数值迭代示例
第一次迭代(μ=1):
在x⁰=(1,1)处计算梯度:∇φ = [2-1/1-1/1, 4-1/1-1/1]ᵀ = [0, 2]ᵀ
牛顿方向:d = -H⁻¹∇φ
通过3-4次牛顿迭代可得μ=1时的近似解:x* ≈ (0.8, 0.6)
更新μ:μ₁ = σμ₀ = 0.1
6. 收敛性分析
重复上述过程,随着μ→0,序列解收敛到原问题最优解。通过KKT条件验证,最优解为x* = (2/3, 1/3),对应目标函数值f(x*) = (2/3)² + 2×(1/3)² = 2/3。
7. 算法特性总结
内点法通过障碍函数保证迭代点始终严格可行,具有全局收敛性。对于凸规划问题,能保证收敛到全局最优解。障碍参数μ的选择和衰减策略对收敛速度有重要影响。