Neural Controlled Differential Equations forIrregular Time Series（NIPS2020）

神经常微分方程是模拟时间动力学的一个有吸引力的选择。然而，一个根本问题是常微分方程的解是由初始条件决定的，没有根据后续观测调整轨迹的机制。在这里，我们演示了如何解决这可能是通过很好理解的数学控制微分方程。由此产生的神经控制微分方程模型直接适用于部分观测的不规则采样多元时间序列的一般设置，并且(与之前关于这个问题的工作不同)它可能利用内存高效的伴随反向传播，甚至跨观测。在一系列数据集的实证研究中，我们证明了我们的模型在与类似(基于ODE或RNN的)模型相比达到了最先进的性能。最后，我们提供了理论结果，证明了通用近似，我们的模型包含了其他的ODE模型

贡献：

Neural CDE模型有三个关键特征。第一，它能够处理输入的数据，这些数据可能是不规律的采样和部分观察。第二(不同于之前关于这个问题的工作)，即使在不同的观测中，模型也可以使用高效的内存伴随反向传播来训练。第三，它对类似(基于ODE或RNN)模型展示了最先进的性能，我们在CharacterTrajectories、PhysioNet败血症预测和Speech Commands数据集的实证研究中展示了这些模型。

背景：