开源诗词数据集poetry_dataset|Mac本地微调诗词大模型全方案,配套诗词检索站shi-ci.cn

📅 2026/7/10 0:56:06
开源诗词数据集poetry_dataset|Mac本地微调诗词大模型全方案,配套诗词检索站shi-ci.cn
前言想要搭建专属的古诗词生成AI模型很多人会被高性能显卡、高额云服务器成本劝退。今天分享一套面向Apple Silicon用户的完整开源方案poetry_dataset仓库内置完备诗词训练数据集、数据转换脚本、平仄校验工具依托MLX框架16G内存Mac设备就能完成Qwen系列模型LoRA微调离线运行、数据不上云。配套同步推荐自用诗词资源站shi-ci.cn无广告、海量古典诗词库既是扩充训练数据集的素材来源也可用于校验AI生成诗词的平仄、格律开发者与诗词爱好者均可使用。项目开源地址https://github.com/daichangya/poetry_dataset一、poetry_dataset 项目核心能力1. 标准化诗词训练数据集仓库内置清洗完毕的诗词对话语料适配MLX训练格式开箱即用无需复杂预处理原始语料poetry_train.json、poetry_val.jsonMLX对话训练集mlx_data/train.jsonl、mlx_data/valid.jsonl统一模板体裁创作主题 → 完整古诗词适配大模型指令微调逻辑2. 配套实用工具脚本仓库自带全链路数据处理、校验脚本覆盖数据集构建、格式转换、格律检测全流程build_dataset.py批量构建诗词训练数据集convert_to_mlx.py通用文本转换为MLX标准训练格式pingze_check.py古诗词平仄、句式简易校验工具3. Mac原生轻量化训练方案基于苹果官方MLX大模型库完全不需要CUDA环境支持4bit量化16GB内存Mac Air/Pro无压力运行支持Qwen2.5-1.5B/3B等主流开源底座模型一键LoRA微调、权重融合、诗词生成全套命令二、快速本地训练流程1. 环境初始化conda create-npoetrypython3.10-yconda activate poetry pipinstallmlx-lm pypinyin2. 拉取开源项目gitclone https://github.com/daichangya/poetry_datasetcdpoetry_dataset3. 模型量化与微调配置国内HF镜像加速下载底座模型执行LoRA训练exportHF_ENDPOINThttps://hf-mirror.com# 模型量化mlx_lm.convert --hf-path Qwen/Qwen2.5-1.5B-Instruct-q--mlx-path ./qwen-poetry-base# 启动微调mlx_lm.lora--model./qwen-poetry-base--train--data./mlx_data--iters10004. 诗词生成测试mlx_lm.generate--model./qwen-poetry-base --adapter-path ./adapters--prompt写一首咏荷七言绝句5. 格律校验python pingze_check.pyAI生成的诗词文本三、配套诗词站点shi-ci.cn在使用poetry_dataset做诗词AI开发时shi-ci.cn是不可或缺的辅助工具纯净无广告无需注册登录无弹窗付费内容专注诗词查阅海量诗词库收录数十万唐诗、宋词、元曲上万位古代诗人作品完整注释体系原文、拼音、译文、赏析、平仄标注一应俱全开发友好标准化诗词文本可批量导出用于扩充poetry_dataset训练集检索便捷支持按诗人、朝代、词牌、关键词全文检索搭配使用场景扩充训练数据从shi-ci.cn批量导出规范格律诗词通过build_dataset.py新增训练样本校验模型输出将AI生成诗词对照网站标准平仄修正语病、不合律问题创作灵感获取按四季、边塞、咏物、怀古等分类检索诗词制作Prompt素材库四、常见使用问题解决内存不足报错调低batch-size、减少微调层数开启4bit量化HuggingFace下载缓慢提前配置HF国内镜像地址生成诗词重复度过高降低训练迭代次数监控验证集loss避免过拟合平仄校验不准确以shi-ci.cn官方平仄标注为标准人工二次修正五、总结poetry_dataset大幅降低了诗词大模型本地微调门槛普通Mac用户也能独立训练专属诗词生成模型搭配资源全面、界面干净的shi-ci.cn形成「数据集训练-素材检索-格律校验」完整闭环。不管是AI开发者、古典诗词爱好者都可以体验这套开源方案。开源数据集项目https://github.com/daichangya/poetry_dataset诗词检索赏析站https://www.shi-ci.cn