TensorFlow搭建LSTM实现多变量时间序列预测（负荷预测）

I. 前言

在前面的一篇文章TensorFlow搭建LSTM实现时间序列预测（负荷预测）中，我们利用LSTM实现了负荷预测，但我们只是简单利用负荷预测负荷，并没有利用到其他一些环境变量，比如温度、湿度等。

本篇文章主要考虑用TensorFlow搭建LSTM实现多变量时间序列预测。

系列文章：

1. 深入理解PyTorch中LSTM的输入和输出（从input输入到Linear输出）
2. PyTorch搭建LSTM实现时间序列预测（负荷预测）
3. PyTorch中利用LSTMCell搭建多层LSTM实现时间序列预测
4. PyTorch搭建LSTM实现多变量时间序列预测（负荷预测）
5. PyTorch搭建双向LSTM实现时间序列预测（负荷预测）
6. PyTorch搭建LSTM实现多变量多步长时间序列预测（一）：直接多输出
7. PyTorch搭建LSTM实现多变量多步长时间序列预测（二）：单步滚动预测
8. PyTorch搭建LSTM实现多变量多步长时间序列预测（三）：多模型单步预测
9. PyTorch搭建LSTM实现多变量多步长时间序列预测（四）：多模型滚动预测
10. PyTorch搭建LSTM实现多变量多步长时间序列预测（五）：seq2seq
11. PyTorch中实现LSTM多步长时间序列预测的几种方法总结（负荷预测）
12. PyTorch-LSTM时间序列预测中如何预测真正的未来值
13. PyTorch搭建LSTM实现多变量输入多变量输出时间序列预测（多任务学习）
14. PyTorch搭建ANN实现时间序列预测（风速预测）
15. PyTorch搭建CNN实现时间序列预测（风速预测）
16. PyTorch搭建CNN-LSTM混合模型实现多变量多步长时间序列预测（负荷预测）
17. PyTorch搭建Transformer实现多变量多步长时间序列预测（负荷预测）
18. PyTorch时间序列预测系列文章总结（代码使用方法）
19. TensorFlow搭建LSTM实现时间序列预测（负荷预测）
20. TensorFlow搭建LSTM实现多变量时间序列预测（负荷预测）
21. TensorFlow搭建双向LSTM实现时间序列预测（负荷预测）
22. TensorFlow搭建LSTM实现多变量多步长时间序列预测（一）：直接多输出
23. TensorFlow搭建LSTM实现多变量多步长时间序列预测（二）：单步滚动预测
24. TensorFlow搭建LSTM实现多变量多步长时间序列预测（三）：多模型单步预测
25. TensorFlow搭建LSTM实现多变量多步长时间序列预测（四）：多模型滚动预测
26. TensorFlow搭建LSTM实现多变量多步长时间序列预测（五）：seq2seq
27. TensorFlow搭建LSTM实现多变量输入多变量输出时间序列预测（多任务学习）
28. TensorFlow搭建ANN实现时间序列预测（风速预测）
29. TensorFlow搭建CNN实现时间序列预测（风速预测）
30. TensorFlow搭建CNN-LSTM混合模型实现多变量多步长时间序列预测（负荷预测）
31. PyG搭建图神经网络实现多变量输入多变量输出时间序列预测
32. PyTorch搭建GNN-LSTM和LSTM-GNN模型实现多变量输入多变量输出时间序列预测
33. PyG Temporal搭建STGCN实现多变量输入多变量输出时间序列预测
34. 时序预测中Attention机制是否真的有效？盘点LSTM/RNN中24种Attention机制+效果对比
35. 详解Transformer在时序预测中的Encoder和Decoder过程：以负荷预测为例

II. 数据处理

数据集为某个地区某段时间内的电力负荷数据，除了负荷以外，还包括温度、湿度等信息。

本文中，我们根据前24个时刻的负荷以及该时刻的环境变量来预测下一时刻的负荷。最终得到了batch_size=B的数据集Dtr、Val以及Dte，Dtr为训练集，Val为验证集，Dte为测试集。

任意输出一条数据：

(<tf.Tensor: shape=(24, 7), dtype=float32, numpy=
array([[0.36147627, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.3429366 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.34939995, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.35257494, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.39485145, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.38066387, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.44114256, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.4603167 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.45330796, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.47912365, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.46706894, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.5081953 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.4452976 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.4360156 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.4917237 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.4723147 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.47849187, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.524864  , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.52128404, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.47682068, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.4345901 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.39052632, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.33869517, 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244],
       [0.3025095 , 0.        , 0.90909094, 0.        , 0.8333333 ,
        0.3255814 , 0.24390244]], dtype=float32)>, <tf.Tensor: shape=(1,), dtype=float32, numpy=array([0.37805316], dtype=float32)>)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49

每一行对应一个时刻点的负荷以及环境变量，此时input_size=7。

III. LSTM模型

这里采用了TensorFlow搭建LSTM实现时间序列预测（负荷预测）中的模型：

class LSTM(keras.Model):
    def __init__(self, args):
        super(LSTM, self).__init__()
        self.lstm = Sequential()
        for i in range(args.num_layers):
            self.lstm.add(layers.LSTM(units=args.hidden_size, input_shape=(args.seq_len, args.input_size),
                                      activation='tanh', return_sequences=True))
        self.fc1 = layers.Dense(64, activation='relu')
        self.fc2 = layers.Dense(args.output_size)

    def call(self, data, training=None, mask=None):
        x = self.lstm(data)
        x = self.fc1(x)
        x = self.fc2(x)

        return x[:, -1:, :]
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

IV. 训练/测试

简单训练了30轮，MAPE为4.14%：

V. 源码及数据

后面将陆续公开~