ceres 损失函数loss_function小结

0. 损失函数的意义

最小二乘问题的输入数据可能包含异常值(错误测量得到的)，使用损失函数减少这部分数据的影响。
LossFunction可以让大的残差的权重降低,从而对 最终的优化结果没有太大的影响.

1. ceres中损失核函数的用法

构建核函数

ceres::Problem problem;
ceres::LossFunction *loss_function;                           // 损失核函数 
//loss_function = new ceres::HuberLoss(0.1);                  // Huber核函数
loss_function = new ceres::CauchyLoss(0.1);                   // 柯西核函数   
1
2
3
4

定义ceres的损失函数0.1表示残差大于0.1的点，权重降低，具体效果根据核函数而定，小于0.1，则认为正常，不做特殊处理。

添加核函数

// 添加残差（代价函数  核函数   优化变量） 
problem.AddResidualBlock(cost_function, loss_function, para_q, para_t);
1
2

2. 各个损失函数的趋势图

3. Ceres内嵌的loss functions原理：

class TrivialLoss: $$\rho (s)=s$$
class HuberLoss: $$\rho (s)=\{\begin{array}{ll}s& s⩽1\\ 2\sqrt{s}-1& s>1\end{array}$$

class SoftOneLoss: $$\rho (s)=2(\sqrt{1+s}-1)$$
class CauchyLoss: $$\rho (s)=log(1+s)$$
class ArctanLoss: $$\rho (s)=arctan(s)$$
class TolerantLoss: $$\rho (s,a,b)=b\log (1+e^{(s-a)/b})-b\log (1+e^{-a/b})$$

以CauchyLoss方法为例，其头文件为：

// Inspired by the Cauchy distribution
//   rho(s) = log(1 + s).
// At s = 0: rho = [0, 1, -1].
class CERES_EXPORT CauchyLoss : public LossFunction {
 public:
  explicit CauchyLoss(double a) : b_(a * a), c_(1 / b_) {}
  void Evaluate(double, double*) const override;
//可以看出CauchyLoss（）中的参数为尺度参数。
 private:
  // b = a^2.
  const double b_;
  // c = 1 / a^2.
  const double c_;
};

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

具体实现为：

void CauchyLoss::Evaluate(double s, double rho[3]) const {
  const double sum = 1.0 + s * c_;
  const double inv = 1.0 / sum;
  // 'sum' and 'inv' are always positive, assuming that 's' is.
  rho[0] = b_ * log(sum);
  rho[1] = std::max(std::numeric_limits<double>::min(), inv);
  rho[2] = - c_ * (inv * inv);
}
1
2
3
4
5
6
7
8

参考

https://blog.csdn.net/qq_42700518/article/details/105898222
https://blog.csdn.net/weishaodong/article/details/105876633
https://zhaohailong.blog.csdn.net/article/details/123850009
http://ceres-solver.org/nnls_modeling.html#instances