论文阅读总结
GAN
GAN-based Anomaly Detection and Localization of Multivariate Time Series Data for Power Plant
简介
发表在2020 IEEE International Conference on Big Data and Smart Computing。 每个时间步长变量之间的相似性来将多元时间序列数据转换成距离图像，通过变量之间的相位差捕捉到多维信息，也捕捉了时间信息。然后利用基于卷积结构的GAN网络，对距离图像进行生成和鉴别。通过鉴别器鉴别真实数据和生成数据的损失来确定异常。使用了电厂产生的高维数据进行试验。
网络结构
LSTM-Based VAE-GAN for Time-Series Anomaly Detection(可做参考)
简介
文章发布于2020sensors期刊，使用自编码器作为GAN的生成网络，LSTM网络作为GAN的鉴别网络，其中，自编码器也是LSTM构成的。异常值通过自编码器重构损失和鉴别器的得分共同确定。
对比实验
- LSTM-AE(LSTM-AE第三篇)
- LSTM-VAE
- MAD-GAN
效果要优于以上三种，特别是在引空间较小时，效果明显。但耗时要比LSTM-AE高出将近一倍。
网络结构
LSTM-AE
Outlier Detection for Multidimensional Time Series using Deep Neural Networks（参考价值高）
简介
文章发表在2018IEEE MDM,作者先使用时间序列富集模块来丰富时间序列的向量特征（滑动窗口内的DOR,滑动窗口间的DON，平均值(MEA)、最小值(MIN)、最大值(MAX)、25%-四分位数(25Q)、50%-四分位数(50Q)、75%四分位数(75Q)、标准偏差(STD)和峰峰值(P2P)。），然后输入自编码器网络中，基于重构误差来识别异常。自编码器的网络用了两种方式来实现，一个是2D-CNN。另一个是LSTM。
文章提到：时间序列的变化可能是由于上下文的变化。例如，车辆突然急剧增加速度可能是由于从住宅道路移动到高速公路，这并不代表异常点。在识别异常值时考虑上下文信息可以提高异常值检测性能。，这种上下文信息经常用分类值来描述。常用的one-hot编码在面对分类类别较多时计算量增加，而且没有捕捉到类别之间的相似之处。嵌入方法C. Guo and F. Berkhahn, “Entity embeddings of categorical variables,” CoRR, vol. abs/1604.06737, 2016
对比试验
- LOF
- OC-SVM
网络结构
Unsupervised Learning of Video Representations using LSTMs(参考价值高)
简介
这是一遍将LSTM-AE应用于视频领域的论文，视频由连续的帧构成，难点在于如何识别动作运动轨迹和预测。作者希望通过训练LSTM-AE模型来重构输入的帧和预测将来的帧。对于重构模型，应该更多的学习整体的分别特征，而预测模型应该重点关注视频最后几帧。
使用比较简单的数据集MNIST数字变换动作进行训练和测试，使用前10帧重构、预测后10帧，lstm单元设置为2048个，通过比较可以发现，二层的lstm结构要优于一层的结构，带有条件输入预测的要优于不带条件输入的结果。
而在自然图像数据集上，模型重构和预测的表现都不太理想。通过增加LSTM单元到2048后，重构结果有所提升，但仍单无法令人满意。
如果预测步长增加，比如输入10帧而预测100帧，可以发现在前期预测尚可，到后面就完全模糊。
模型在Out-of-domain Inputs（训练中是两个数字，而测试包含一个和三个数字）中也表现出可以接受的成绩，在低特征下表现更好。
论文解析:https://blog.csdn.net/qq_21190081/article/details/64160465
网络结构
LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection
简介
比较基础的LSTM-AE框架模型。也是通过重构误差来检测异常。
网络结构
TCN
A Time Convolutional Network Based Outlier Detection for Multidimensional Time Series in Cyber-Physical-Social Systems
简介
TCN即时间卷积网络，一种新型的可以用来解决时间序列预测的算法，结合了CNN和RNN优点，可以并行大规模处理的神经网络结构，被认为是LSTM的替代。
TCN使用因果卷积来更好地适应序列模型；以及使用扩张卷积和残差模块来记住历史信息。
该文章发表在IEEE2020期刊上，是借鉴的LSTM-AE的第一篇文章，只是将LSTM替换成了TCN，同样地，也是通过重构误差来检测异常。该文章在大部分数据集上的效果要稍稍优于LSTM-AE，但时间效率稍稍低于LSTM-AE。总体来说，可以参考一下该文TCN网络结构。
网络结构
