基于CNN-Transformer时间序列预测模型

基于CNN-Transformer时间序列预测模型

特色:1、单变量,多变量输入,自由切换 

           2、单步预测,多步预测,自动切换

           3、基于Pytorch架构

           4、多个评估指标(MAE,MSE,R2,MAPE等)

           5、数据从excel文件中读取,更换简单

           6、标准框架,数据分为训练集、验证集,测试集

 全部完整的代码,保证可以运行的代码看这里。

http://t.csdn.cn/obJlChttp://t.csdn.cn/obJlC

  !!!如果第一个链接打不开,请点击个人首页,查看我的个人介绍。

(搜索到的产品后,点头像,就能看到全部代码)

黑科技小土豆的博客_CSDN博客-深度学习,32单片机领域博主

 

CNN-Transformer 模型是一种结合了卷积神经网络(CNN)和 Transformer 模型的深度学习模型,用于处理序列数据。CNN-Transformer 模型常常被应用于语音识别、文本分类等领域,它结合了 CNN 模型处理序列局部信息的能力和 Transformer 模型处理全局关系的能力,能够更好地应对序列数据的特性。

CNN-Transformer 模型首先使用卷积神经网络提取输入序列的局部特征,然后将这些特征输入到 Transformer 模型进行全局建模和长期关系的建模。在卷积层中,通过对卷积核的窗口大小和步幅的调整,可以捕捉序列的局部特征;在 Transformer 模型中,通过自注意力机制,可以捕捉序列之间的全局依赖关系。

CNN-Transformer 模型的优点包括:

  1. CNN-Transformer 模型利用 CNN 捕捉序列的局部特征和 Transformer 模型捕捉序列之间的全局依赖关系,能够更加有效地建模序列的特性,提高模型的性能。
  2. CNN-Transformer 模型可以应用于诸如语音识别、文本分类等领域中,可以提取更加丰富的特征,获得更好的预测结果。

因此,CNN-Transformer 模型是一种适用于序列数据处理的优秀深度学习模型,在语音识别、文本分类、文本生成等领域取得了很好的效果。

train_ratio = 0.7  # 训练集比例
val_ratio = 0.15  # 验证集比例
test_ratio = 0.15  # 测试集比例
input_length = 48  # 输入数据长度,多步预测建议长,单步预测建议短
output_length = 1  # 输出数据长度,1为单步预测,1以上为多步预测 请注意,随着输出长度的增长,模型训练时间呈指数级增长
learning_rate = 0.1  # 学习率
estimators = 100  # 迭代次数
max_depth = 5  # 树模型的最大深度
interval_length = 2000  # 预测数据长度,最长不可以超过总数据条数
scalar = True  # 是否使用归一化
scalar_contain_labels = True  # 归一化过程是否包含目标值的历史数据
target_value = 'load'  # 需要预测的列名,可以在excel中查看

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
青葱年少的头像青葱年少普通用户
上一篇 2023年9月1日
下一篇 2023年9月1日

相关推荐