技术标签: tensorflow python 时间序列预测 时间序列分析(Time Series) 时间序列分类
包含时间序列预测,时间序列分类,时间序列异常检测,时空预测,时序推荐等领域的热门模型,以及Transformer应用于时间序列分析的变体和优化。
博文地址:【时序】时间/时空序列分类/预测/异常检测模型顶会论文资源汇总
Github仓库地址:https://github.com/datamonday/TimeSeriesMoonlightBox
发布该篇博客之后,从去年至今收到了很多私信询问如何入门时间序列分析以及源码,今天终于有时间把过去一年中所学习的知识点和踩过的坑做个梳理,仅供参考,并将总结后的教程和源码,放到GitHub。主要包括以下部分:1)Python;2)TensorFlow/Keras;3)时间序列分析入门教程;4)CNN;5)LSTM;6)时序分类;7)时序预测;8)注意力机制。
Github:https://github.com/datamonday/Time-Series-Analysis-Tutorial,欢迎Star,Fork!持续更新中
其它仓库:
最一段时间都在学习时间序列预测和时间序列分类相关的知识,一开始拿到任务感觉无从下手,论文看不懂,代码不会写。经过近三个月的摸索,也算是入门的小白了,这篇博文算是个人经过踩坑,去粗取精之后的经验总结。通过4篇博客、9篇论文、32篇实战教程,梳理出了一套系统化的时间序列预测和时间序列分类任务的入门指南。文中提及的博客论文和教程全部内容字数大约在50万字到100万字之间。既是对这段时间所学知识的梳理总结,也希望给有需要的同学提供帮助。水平有限,如有问题欢迎指出,谢谢。
【适合人群】:
【代码环境】:
【注意事项】:
因为tensorflow 2.0版本开始集成了keras,成为了 tensorflow.keras
API,因此不用额外安装,并且无需 import keras。
本文提及文章的神经网络编写部分使用Keras深度学习框架。
本文提及文章的所有代码均在Jupyter Notebook中编写,并测试通过。
本文提及的所有文章中,参考资料均在每篇文章的文末给出。
【行文顺序】:
原理篇:逻辑顺序
论文篇:时间顺序
实战篇:逻辑顺序+时间顺序
注:本文提及的网络架构、论文、教程都是按照由浅入深介绍的,教程部分(三、实战篇)有些教程是有相互关联的。
【主要内容】:时间序列任务分为时间序列预测和时间序列分类两种类型,本文主要内容如下:
本部分所有标题都设置了对应文章超链接,直接点击传送。
如果对下文提及的原理比较熟悉,可以直接跳过。
3. Understanding LSTM Networks
相信大家看过的很多介绍LSTM原理的文章都用到了这篇文章的配图。比如:
4. 零基础入门深度学习(6) - 长短时记忆网络(LSTM)
这三篇文章(本篇+之前同系列两篇)应该是我目前遇到的讲解得最详细最全面思路最清晰的文章,由浅入深,原理+推导+代码,墙裂推荐。
本部分主要内容:
本部分可以先跳过,直接看实战篇,如果对其中的网络架构有疑问或者有些内容看不懂,再阅读这些论文也可以。
1. Activity Recognition using Cell Phone Accelerometers
WISDM实验室应该是最早开始做基于手机传感器的人类活动识别的实验室,手机的数据只有3个特征(3轴传感器数据)。这篇论文是该实验室的第一篇论文,主要介绍了关于数据集的构建与处理。
2. Cell Phone-Based Biometric Identification](https://blog.csdn.net/weixin_39653948/article/details/104566905)
这篇论文是该实验室的第二篇论文,主要介绍了 数据收集以及将时间序列数据转换为样本的过程,值得借鉴。
该实验室还有3篇论文,个人感觉参考意义不大,可以先不看。
1. Human Activity Recognition on Smartphones using a Multiclass Hardware-Friendly SVM
这篇论文是创建该数据集的实验室发表的有关人类活动识别的第一篇论文,主要介绍了使用监督机器学习方法通过手机传感器信号来识别人类活动(6类,分别是站立,行走,放置,行走,上楼和在下楼)进行分类。使用9个特征(6轴传感器+3个分离信号(身体重力加速度))。
2. A Public Domain Dataset for Human Activity Recognition Using Smartphones
这篇论文介绍了 UCI-HAR Dataset数据集是如何创建的,很有借鉴意义,如果做时间序列分类任务的话,是必读论文。
1. Long-term Recurrent Convolutional Networks for Visual Recognition and Description
该论文提出的网络架构最初被称为长期循环卷积网络(LRCN),现在使用“CNN LSTM”来指代使用CNN作为前端的LSTM。该网络架构最初用于生成图像的文本描述的任务。关键是CNN,该CNN在图像分类任务上进行了预训练,使得可以用作字幕生成的特征提取器。
2. Show and Tell: A Neural Image Caption Generator
该论文提出的网络架构用于语音识别和自然语言处理问题,其中CNN用作音频和文本输入数据上的特征提取器,之后输入到LSTM进行进一步处理。
这两篇论文是CNN-LSTM网络家族的开篇之作,是必读论文。
1. Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting
这篇论文是最先提出 ConvLSTM 网络架构的论文,该论文是用于预测相对短时间内某个地区未来的降雨强度,属于必读论文。
1. Deep Convolutional Neural Networks On Multichannel Time Series For Human Activity Recognition
在基准数据集上对所提方法与现有方法的比较进行了广泛的研究。结果表明,该方法是一种很有竞争力的HAR问题求解算法。该论文还研究了CNN的效率,并得出结论:CNN对于在线人类活动识别是足够快的。
2. Deep Convolutional and LSTM RNN for Multimodal Wearable Activity Recognition
该论文提出了DeepConvLSTM网络架构:由卷积层和LSTM循环层组成的深度学习框架,它能够自动学习特征表示并对它们的激活之间的时间依赖性进行建模。通过业内的标准的人类活动识别数据集(OPPORTUNITY和Skoda)进行实验,证明此框架适用于可穿戴传感器数据的活动识别。属于必读论文。
1. LSTM Fully Convolutional Networks for Time Series Classification
该论文提出的模型在显著地提高全卷积网络性能的同时保证模型大小只有很少的增加,并且几乎不需要对数据集进行预处理。提出的长短期记忆-全卷积网络 (LSTM-FCN) 与其他网络相比,具有最新的性能。利用注意力-长短期记忆-全卷积网络 (ALSTM-FCN),探讨了注意力机制在时间序列分类中的应用。利用注意力机制可以可视化LSTM细胞的决策过程。此外,还提出了微调的方法来提高训练模型的性能。对模型的性能进行了全面的分析,并与其他技术进行了比较。
2. Multivariate LSTM-FCNs for Time Series Classification
该论文提出将现有的单变量时间序列分类模型长短期记忆-全卷积网络(LSTM-FCN)和注意力-长短期记忆-全卷积网络(ALSTM-FCN)通过在全卷积块上增加一个压缩和激励块来进一步提高分类精度,从而转化为多变量时间序列分类模型。提出的模型在少量预处理的情况下优于大多数最新模型。所提出的模型能有效地处理各种复杂的多元时间序列分类任务,如活动识别或动作识别。此外,所提出的模型在满足实时要求(小,快),可以部署在内存受限的系统上。
本部分不涉及具体的数据集,使用构造的数字序列;目的是通过程序了解网络架构和定义方法。
欢迎关注公众号,获取更多干货内容!
以上是三个多月以来对时间序列预测和分类任务的总结,仅供参考。如果给你带来了帮助,请动动手指点个赞;如果对文中内容存疑,欢迎指出交流,谢谢各位人才。
刚开始的时候,无从下手,走了很多弯路。经过这段时间的试错和摸索,算是总结出了一些经验。上文提到的论文,是个人认为帮助比较大的论文,如果在做时间序列预测或分类任务的话最好看一下,理解其中的建模思路和网络架构的优缺点,以便快速上手。
实战篇的代码主要参考澳大利亚博主Jason Brownlee的博客文章,在此表示感谢。博客地址:传送门。
文章浏览阅读565次。本文主要介绍如何使用C#通过OPC方式连接PLC,并提供了相应的程序和学习资料,以便读者学习和使用。OPC服务器是一种软件,可以将PLC的数据转换为标准的OPC格式,允许其他软件通过标准接口读取或控制PLC的数据。此外,本文还提供了一些学习资料,包括OPC和PLC的基础知识,C#编程语言的教程和实例代码。这些资料可以帮助读者更好地理解和应用本文介绍的程序。1.该程序是通讯方式是CSharp通过OPC方式连接PLC,用这种方式连PLC不用考虑什么种类PLC,只要OPC服务器里有的PLC都可以连。_c#opc通信
文章浏览阅读1.6w次,点赞3次,收藏10次。实践环境物理机:Windows10教育版,操作系统版本 17763.914虚拟机:Ubuntu18.04.3桌面版在Hyper-V中的刚安装好Ubuntu虚拟机之后,会发现鼠标滑动很不顺畅,也不能向虚拟机中拖拽文件或者复制内容。在VMware中,可以通过安装VMware tools来使物理机和虚拟机之间达到更好的交互。在Hyper-V中,也有这样的工具。这款工具可以完成更好的鼠标交互,我的..._win10 hyper-v ubuntu18.04 文件拷贝
文章浏览阅读156次。前言互联网时代,瞬息万变。一个小小的走错,就有可能落后于别人。我们没办法去预测任何行业、任何职业未来十年会怎么样,因为未来谁都不能确定。只能说只要有互联网存在,程序员依然是个高薪热门行业。只要跟随着时代的脚步,学习新的知识。程序员是不可能会消失的,或者说不可能会没钱赚的。我们经常可以听到很多人说,程序员是一个吃青春饭的行当。因为大多数人认为这是一个需要高强度脑力劳动的工种,而30岁、40岁,甚至50岁的程序员身体机能逐渐弱化,家庭琐事缠身,已经不能再进行这样高强度的工作了。那么,这样的说法是对的么?_类初始化一个静态属性 为线程池
文章浏览阅读1w次,点赞13次,收藏43次。说来也是惭愧,一直以来,在装环境的时候都会从官网下载Maven。然后再在idea里配置Maven。以为从官网下载的Maven是必须的步骤,直到今天才得知,idea有捆绑的 Maven 我们只需要搞一个配置文件就行了无需再官网下载Maven包以后再在新电脑装环境的时候,只需要下载idea ,网上找一个Maven的配置文件 放到 默认的 包下面就可以了!也省得每次创建项目都要重新配一次Maven了。如果不想每次新建项目都要重新配置Maven,一种方法就是使用默认的配置,另一种方法就是配置 .._安装idea后是不是不需要安装maven了?
文章浏览阅读45次。家是我们一生中最重要的地方,小时候,我们在这里哭、在这里笑、在这里学习走路,在这里有我们最真实的时光,用相机把它记下吧。 很多家庭在拍摄孩子时有一个看法,认为儿童摄影团购必须是在风景秀丽的户外,即便是室内那也是像大酒店一样...
文章浏览阅读429次。Dockerfile介绍Dockerfile是构建镜像的指令文件,由一组指令组成,文件中每条指令对应linux中一条命令,在执行构建Docker镜像时,将读取Dockerfile中的指令,根据指令来操作生成指定Docker镜像。Dockerfile结构:主要由基础镜像信息、维护者信息、镜像操作指令、容器启动时执行指令。每行支持一条指令,每条指令可以携带多个参数。注释可以使用#开头。指令说明FROM 镜像 : 指定新的镜像所基于的镜像MAINTAINER 名字 : 说明新镜像的维护(制作)人,留下_rocker/r-base镜像
文章浏览阅读223次。该系统将提供便捷的信息发布、物业报修、社区互动等功能,为小区居民提供更加便利、高效的服务。引言: 随着城市化进程的加速,小区管理成为一个日益重要的任务。因此,设计一个基于微信小程序的小区管理系统成为了一项具有挑战性和重要性的毕设课题。本文将介绍该小区管理系统的设计思路和功能,以期为小区提供更便捷、高效的管理手段。四、总结与展望: 通过本次毕设项目,我们实现了一个基于微信小程序的小区管理系统,为小区居民提供了更加便捷、高效的服务。通过该系统的设计与实现,能够提高小区管理水平,提供更好的居住环境和服务。_ssm基于微信小程序的公寓生活管理系统
文章浏览阅读635次。文章来源i春秋入坑Ubuntu半年多了记得一开始学的时候基本一星期重装三四次=-= 尴尬了 觉得自己差不多可以的时候 就吧Windows10干掉了 c盘装Ubuntu 专心学习. 这里主要来说一下使用Ubuntu的正确姿势Ubuntu(友帮拓、优般图、乌班图)是一个以桌面应用为主的开源GNU/Linux操作系统,Ubuntu 是基于DebianGNU/Linux,支..._ubuntu安装攻击工具包
文章浏览阅读335次。需求:C++中将BYTE型数组传递给Java中,考虑到内存释放问题,未采用通过返回值进行数据传递。public class demoClass{public native boolean getData(byte[] tempData);}JNIEXPORT jboolean JNICALL Java_com_core_getData(JNIEnv *env, jobject thisObj, jbyteArray tempData){ //resultsize为s..._jni引用byte[]
文章浏览阅读2.1k次,点赞5次,收藏30次。本教程代码开源:GitHub 欢迎star文章目录一、平面模型分割1. 代码2. 说明3. 运行二、圆柱模型分割1. 代码2. 说明3. 运行三、欧几里得聚类提取1. 代码2. 说明3. 运行四、区域生长分割1. 代码2. 说明3. 运行五、基于最小切割的分割1. 代码2. 说明3. 运行六、使用 ProgressiveMorphologicalFilter 分割地面1. 代码2. 说明3. 运行一、平面模型分割在本教程中,我们将学习如何对一组点进行简单的平面分割,即找到支持平面模型的点云中的所有._pclpy.pcl.pointcloud.pointxyzi转为numpy
文章浏览阅读141次。一 其实在 skyeye 上移植 arm-linux 并非难事,网上也有不少资料, 只是大都遗漏细节, 以致细微之处卡壳,所以本文力求详实清析, 希望能对大家有点用处。本文旨在将 arm-linux 在 skyeye 上搭建起来,并在 arm-linux 上能成功 mount NFS 为目标, 最终我们能在 arm-linux 里运行我们自己的应用程序. 二 安装 Sky..._nfs启动 arm
文章浏览阅读598次,点赞2次,收藏5次。00为了形成一个体系,想将前面学过的一些东西都拉来放在一起总结总结,方便学习,方便记忆。攻防世界 Pwn 新手攻防世界 Pwn 进阶 第一页01 4-ReeHY-main-100超详细的wp1超详细的wp203 format2栈迁移的两种作用之一:栈溢出太小,进行栈迁移从而能够写入更多shellcode,进行更多操作。栈迁移一篇搞定有个陌生的函数。C 库函数 void *memcpy(void *str1, const void *str2, size_t n) 从存储区 str2 _pwn snprintf