GPA-v1.5重磅发布：ONNX Runtime支持，PyTorch与部署工作流全面升级
GPA-v1.5重磅发布ONNX Runtime支持PyTorch与部署工作流全面升级【免费下载链接】GPA[AutoArk] GPA (General Purpose Audio) can do ASR, TTS and voice conversion with one tiny model!项目地址: https://gitcode.com/gh_mirrors/gpa5/GPAGPAGeneral Purpose Audio作为一款集成ASR、TTS和语音转换功能的全能音频模型在v1.5版本中迎来重大更新本次升级不仅新增ONNX Runtime支持还全面优化PyTorch原生工作流为开发者提供从训练到部署的一站式解决方案。无论是科研实验还是生产环境部署GPA-v1.5都能满足您对音频智能应用的多样化需求。 ONNX Runtime轻量级部署的终极选择一键部署跨平台兼容GPA-v1.5首次引入ONNX Runtime支持通过量化技术实现模型体积与性能的完美平衡。您可以轻松使用INT4/INT8量化模式在保持音质的同时显著降低资源占用。部署流程简化至几个命令支持CLI、FastAPI服务和浏览器UI等多种场景。# 克隆仓库 git clone https://gitcode.com/gh_mirrors/gpa5/GPA cd GPA/GPA_1.5/onnx_runtime # 安装依赖 pip install -r requirements.runtime.txt # 启动服务 python service.py核心功能亮点多线程优化通过--ort-intra-op-num-threads参数灵活调整线程数适配不同硬件环境完整生态支持包含语音注册、运行时验证等工具链确保生产环境稳定运行轻量化设计0.6B模型大小适合边缘设备部署无需依赖云端计算GPA v1.5 ONNX Runtime架构 PyTorch工作流从研究到生产的无缝衔接原生训练与推理GPA-v1.5重构了PyTorch训练管道提供更直观的API和完整的文档支持。无论是模型微调还是自定义训练都能通过简洁的代码实现# 原生PyTorch推理示例 from GPA_1.5.inference.cli import main main([--task, tts, --text, 你好欢迎使用GPA模型])关键改进Hugging Face兼容性支持直接加载HF格式模型简化迁移流程模块化设计将ASR和TTS功能解耦便于单独使用和扩展完善的文档新增训练指南和推理手册加速开发进程GPA模型工作流程 部署工作流全方位工具链支持量化工具链GPA-v1.5提供多种量化方案满足不同场景需求Qwen INT4量化针对语言模型部分的高效压缩Detokenizer INT8/FP16/FP32灵活调整音频解码部分精度相关工具脚本位于onnx_runtime/scripts/目录包含从模型导出到量化优化的完整流程。多场景部署选项命令行工具快速测试和批量处理Web服务通过FastAPI构建高性能API浏览器界面内置静态网页界面方便演示和交互GPA部署方案 快速开始环境准备# 创建虚拟环境 python -m venv venv source venv/bin/activate # Linux/Mac venv\Scripts\activate # Windows # 安装依赖 pip install -r requirements.txt模型下载从HuggingFace获取预训练模型git lfs install git clone https://huggingface.co/AutoArk-AI/GPA-v1.5运行推理# PyTorch原生推理 python GPA_1.5/infer.py --task tts --text 这是GPA-v1.5的语音合成示例 # ONNX Runtime推理 python GPA_1.5/onnx_runtime/infer_ark_audio_onnx.py --text 这是ONNX Runtime推理示例 文档与资源ONNX Runtime指南训练文档推理文档GPA-v1.5将持续优化边缘设备部署支持即将上线。立即体验这款集ASR、TTS和语音转换于一体的全能音频模型开启您的音频智能应用开发之旅【免费下载链接】GPA[AutoArk] GPA (General Purpose Audio) can do ASR, TTS and voice conversion with one tiny model!项目地址: https://gitcode.com/gh_mirrors/gpa5/GPA创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
)
