YingLong_110m：阿里发布的革命性时间序列基础模型，78B时间点预训练带来预测新突破
YingLong_110m阿里发布的革命性时间序列基础模型78B时间点预训练带来预测新突破【免费下载链接】YingLong_110m项目地址: https://ai.gitcode.com/hf_mirrors/qcw2333/YingLong_110mYingLong_110m是由阿里巴巴研发的革命性时间序列基础模型通过在78B时间点上进行预训练为时间序列预测领域带来了突破性进展。作为一款专注于时间序列 forecasting 的基础模型它采用创新的架构设计和先进的预训练技术能够有效处理复杂的时间序列数据为各类预测任务提供强大支持。 模型核心优势为什么选择YingLong_110mYingLong_110m凭借多项技术创新在时间序列预测任务中展现出卓越性能✅ 超大规模预训练数据基于78B时间点的海量数据进行预训练使模型能够捕捉时间序列中的复杂模式和长期依赖关系显著提升预测准确性。✅ 创新架构设计从model_config.py中可以看到模型采用了U-Net结构和Haar变换等先进技术结合 rotary positional embedding有效处理长序列输入。关键参数包括n_embd: 768嵌入维度n_layer: 12Transformer层数n_head: 12注意力头数patch_size: 32时间序列分块大小✅ 灵活部署与兼容性支持多种硬件环境包括GPU和CPU。对于不支持FlashAttention的设备如V100可通过修改model.py中的FlashAttention2Available参数轻松适配。 快速上手5分钟完成安装与预测安装依赖pip install xformers transformers pip install flash-attn --no-build-isolation git clone https://gitcode.com/hf_mirrors/qcw2333/YingLong_110m cd YingLong_110m基础预测代码示例import torch from transformers import AutoModelForCausalLM # 加载预训练模型 model AutoModelForCausalLM.from_pretrained( qcw2333/YingLong_110m, trust_remote_codeTrue, torch_dtypetorch.bfloat16 ).cuda() # 准备输入数据 (batch_size1, 回溯长度2880) seqs torch.randn(1, 2880).bfloat16().cuda() # 生成96步预测 output model.generate(seqs, future_token96) print(f预测结果形状: {output.shape}) # 输出应为 (1, 288096) 技术规格解析YingLong_110m的核心技术参数在config.json中有详细定义参数数值说明n_embd768嵌入维度n_layer12Transformer层数n_head12注意力头数intermediate_size3072MLP中间层维度block_size8224最大序列长度patch_size32时间序列分块大小模型还采用了多项优化技术如FusedRMSNorm归一化和LLaMAMLP结构在保证性能的同时提升计算效率。 应用场景与案例YingLong_110m适用于各类时间序列预测任务电力负荷预测精准预测未来24小时电力需求优化电网调度交通流量预测提前预测道路拥堵情况辅助交通管理金融时间序列预测分析市场趋势支持投资决策环境监测预测预测气温、湿度等环境参数助力灾害预警 许可证与引用YingLong_110m采用cc-by-4.0许可证允许商业和非商业用途。相关技术细节可参考原论文YingLong: A Foundation Model for Time Series Forecasting。 联系与支持如有任何问题或建议可联系项目团队Xue Wang (xue.walibaba-inc.com)Tian Zhou (tian.ztalibaba-inc.com)通过以上介绍相信您已经对YingLong_110m有了全面了解。这款由阿里发布的时间序列基础模型凭借78B时间点预训练和创新架构正引领预测技术进入新的时代。立即尝试体验时间序列预测的新突破【免费下载链接】YingLong_110m项目地址: https://ai.gitcode.com/hf_mirrors/qcw2333/YingLong_110m创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
)
