【eigen】解决报错 return type of RCmpEQReturnType Eigen::operator== is not ‘bool’

1. 发现问题

在 c++ 项目中使用了 C++ 20 编译标准（GCC10），结果 eigen 中出现报错

/usr/include/eigen3/Eigen/src/Cholesky/LDLT.h:372:58: error: return type of ‘const RCmpEQReturnType Eigen::operator==(const Scalar&, const Eigen::ArrayWrapper<Eigen::Block<Eigen::Block<Eigen::Matrix<double, -1, -1>, -1, 1, true>, -1, 1, false> >&)’ is not ‘bool’
372 |           ret = ret && (mat.col(j).tail(size-j-1).array()==Scalar(0)).all();
1
2

2. GPT 分析问题

错误提示指出在 ret = ret && (mat.col(j).tail(size-j-1).array()Scalar(0)).all(); 这行代码中， 操作符对 Eigen::ArrayWrapper 和 Scalar 类型不可用。你可以修改这行代码以适应 Eigen 库的比较操作。

首先，确保 mat 是 Eigen::Matrix 类型，Scalar 是正确的类型，然后使用 .isApprox() 函数来比较两者是否近似相等。

3. 解决问题

Eigen/src/Cholesky/LDLT.h:517

ret = ret && (mat.col(j).tail(size-j-1).array()==Scalar(0)).all();
1

改为

// ret = ret && (mat.col(j).tail(size-j-1).array()==Scalar(0)).all();
ret = ret && (mat.col(j).tail(size-j-1).isApprox(Eigen::Matrix<Scalar, Eigen::Dynamic, 1>::Zero(size-j-1), 1e-6));
1
2

在这里，我们使用 isApprox() 函数来比较 mat.col(j).tail(size-j-1) 是否近似为零向量。 1e-6 是误差范围，你可以根据实际需求调整该值。