经验管理：如何让下一次更快
经验管理如何让下一次更快引子踩完 12 个坑之后我做了一件比修 bug 更重要的事写制度。不是写给老板看的是写给下一次的自己看的。为什么需要制度单次踩坑不可怕可怕的是下次换个人或者自己忘了继续踩同一批坑。组织的学习成本不应该被反复支付。从这 12 个问题出发我设计了四道防线L1执行前强制校验防止没想清楚就干□ 环境确定性用解释器绝对路径不依赖 conda activate □ 下载最小化先确认所需文件清单用 allow_patterns 精确过滤 □ 三要素披露任何下载命令必须告知文件数 / 总大小 / 预计耗时 □ 依赖完整性执行前检查 pip list 确认所有依赖已安装 □ API 兼容性先查 __version__再选对应的 API 调用方式示例——执行前校验脚本importsubprocessimportsys# 1. 确认解释器路径print(fPython:{sys.executable})# 2. 确认关键依赖版本deps{torch:2.5.0,diffusers:None,peft:None}forpkgindeps:try:mod__import__(pkg)vergetattr(mod,__version__,unknown)print(f{pkg}:{ver}OK)exceptImportError:print(f{pkg}: MISSING!)L2外部资源预检防止资源不可达□ 资源是否存在HuggingFace 仓库是否有效、URL 是否 404 □ 国内是否可达是否有 ModelScope / 清华源 / 阿里源等国内替代 □ 是否有备用链路主方案失败后的 Plan B示例importrequestsdefcheck_repo(repo_id):检查 HF/ModelScope 仓库是否可访问urls[fhttps://huggingface.co/{repo_id},fhttps://modelscope.cn/models/{repo_id},]forurlinurls:rrequests.head(url,timeout10)print(f{url}:{OKifr.okelseFAILED})L3执行中状态感知防止跑了等于白跑□ 长任务用后台启动 日志轮询不依赖 shell_executor 的同步返回 □ 每步检查实际产物文件是否真的生成、模型是否真的加载 □ GPU 任务后主动清理 CUDA context避免残留导致 OOMimportgcimporttorch# GPU 任务完成后清理torch.cuda.empty_cache()gc.collect()print(fVRAM 剩余:{torch.cuda.memory_reserved()/1e9:.2f}GB)L4失败后结构化复盘防止踩了白踩五列记录法问题原因分类解决方案制度修订conda 静默失效Windows shell 兼容性环境改用绝对路径补入 L1CPU 版 PyTorch-i 覆盖索引包管理–extra-index-url补入 L2底模 404仓库下架外部资源ModelScope 替代补入 L2全局问题补入通用检查清单专属问题记录到项目文档发现制度缺陷提修订提案R1 R2最先落地的两条规则R1 下载三要素任何下载回复强制附带文件数 / 总大小 / 预计耗时。R2 大模型下载最小化确认加载方式 → 列出所需文件清单 → allow_patterns 过滤 → 禁止全量 snapshot_download管理办法的由来这套东西的正式名称叫《项目经验管理办法》不是凭空想的是因为 12 个问题里 8 个是全局通用问题——今天做 SD 踩的坑明天做 LLM 推理、做语音合成、做任何大模型项目大概率还会踩一遍。制度的价值不是约束当下而是让下一次更快。下一章收个尾聊聊感想。
