做了几年电力数据挖掘相关的工作输电线路故障诊断是我接手过比较有代表性的一个项目。核心任务很简单拿到线路的电压电流录波数据用机器学习判断发生了哪种故障类型。网上很多资料在做这类对比时都是简单跑一遍模型、贴个准确率报告就结束真正从工程角度去设计特征、调参、评估那套完整链路其实很少有人完整讲清楚。这次我直接用Python写了五种方法——逻辑回归、决策树、随机森林、XGBoost和支持向量机——对同一份输电线路故障样本做分类诊断。本文把这套完整流程拆开来讲包括为什么选这五个模型、特征怎么构造、每种算法的核心参数怎么调、以及我实际踩过的坑。适合两类人看一类是有电气背景、想入门Python机器学习的运维或试验人员另一类是对算法熟悉、但不了解电力数据特点的算法工程师。1. 项目背景与诊断任务拆解1.1 输电线路故障诊断到底要诊断什么输电线路故障诊断不是单一任务它至少包含三层含义故障类型识别、故障选线和故障测距。拿最常见的单相接地故障来说A相接地、B相接地、C相接地虽然都叫单相接地但保护装置的动作逻辑和故障后的电压电流特征完全不同。我的项目聚焦的是第一层——故障类型识别也就是给定一段故障前后的电压电流波形数据判断它是单相接地、两相短路、两相接地、三相短路还是正常工作状态。这里要说明一个现状实际现场的故障录波数据是非常珍贵的。因为输电线路绝大多数时间在正常运行真正发生故障的时刻很少每条故障样本都要靠录波装置触发记录大量标签还得靠人工核对保护动作报告所以数据量通常不大。这直接决定了模型选型的方向——不是所有算法都适合小样本高维数据的场景。我在项目中用的数据集包含10个类别正常态、3种单相接地AG/BG/CG、3种两相短路AB/BC/CA、3种两相接地ABG/BCG/CAG没有把三相短路单独拆开是因为三相故障特征太明显区分度太高放进去反而拉高各模型的表现不利于观察算法之间的差异。每类约600条样本总共6000条左右规模不大但对模型评估来说足够了。1.2 为什么选择五种算法做横向对比很多初学者拿到分类问题第一个反应是哪个模型准就用哪个。这种思路做比赛没问题做工程问题却容易翻车。我在这个项目里特意选了五个差异足够大的模型目的不是分出冠亚军而是要理解不同算法在处理同一批数据时的行为和代价。选择的理由各有侧重。逻辑回归是线性模型的代表速度快、可解释性最强但它的表达力有限如果它在某个故障类型上表现特别差往往意味着特征和类别之间存在非线性关系决策树走的是纯规则路线训练完成后可以直接提取出零序电流大于阈值且C相电压下降这类人类能读懂的规则这对电力运维人员有天然的亲和力随机森林和XGBoost都是树模型的集成分别代表Bagging和Boosting两条路线前者擅长抗过拟合后者擅长榨干数据里的信息SVM则是小样本高维数据的经典选择配合RBF核能拟合非常复杂的边界但代价是参数敏感和训练速度慢。用这一组模型跑完整个流程你能看到的不只是一张准确率对比表而是数据特性→模型选择→参数调整→结果解释的完整决策链路。这是我写这篇文章最想传达的东西。2. 数据来源与特征工程实操2.1 录波数据如何变成机器学习特征我用的数据是一份10kV配网线路的故障仿真数据采样频率为10kHz每个样本包含故障前2个周波和故障后5个周波的电压电流波形。原始数据不做任何处理直接喂给机器学习模型是很糟糕的做法——机器学习不认识波形它只认识数值特征。特征提取是输电线路故障诊断的核心环节。我从原始波形中提取了三组特征稳态特征、相位特征和暂态特征。稳态特征包括三相电压有效值、三相电流有效值、零序电压V0、零序电流I0以及正序、负序电压电流分量相位特征包括三相电压之间、三相电流之间的相位差还有故障相电压与电流的夹角暂态特征则是对故障后一个周波的信号做小波包分解取各频带能量占总能量的比例。2.2 特征归一化的必要性这里必须先讲一个实操中很多人忽略的点归一化。不同特征的单位和量纲差异非常大电压有效值可能是几万伏相位差可能是几度到几十度小波能量比例是0到1。逻辑回归和SVM这类基于距离的算法如果不做标准化量纲大的特征会直接压过量纲小的特征模型还没开始学注意力就被电压值带跑了。树模型不受量纲影响比如决策树做切分时只看特征取值的相对大小但为了让五种算法在公平条件下对比我在喂给所有模型之前统一做了标准化处理。使用sklearn的StandardScaler时有个细节先fit训练集再transform训练集和测试集绝对不能让测试集的数据泄露进标准化参数里否则交叉验证的分数会虚高。2.3 现场录波数据和仿真数据的使用差异顺便提一句如果有条件拿到现场录波数据特征提取的思路完全一致但要注意两个额外问题一是现场数据可能因为互感器饱和产生波形畸变特征值会出现极端异常点需要在建模前做去噪或者截断处理二是现场数据各类故障数量极不平衡比如单相接地故障可能占了90%以上三相短路几年都遇不到一次这时候不能只看准确率要关注召回率和混淆矩阵必要时用SMOTE或类权重处理。仿真数据的好处是各类别样本数量均衡、标签准确适合用来验证算法流程的可行性。但模型真正上线前必须用现场录波数据做二次验证这是这类项目里不能跳过的环节。3. 五种算法核心原理与参数要点3.1 逻辑回归线性基线的真实水平逻辑回归虽然名字里有回归但它是彻头彻尾的分类模型。它做的事情是对特征做线性加权组合再通过sigmoid函数把结果映射到0到1之间作为属于某个类别的概率。多分类场景下sklearn默认采用一对多策略就是为每个类别训练一个单独的二元分类器。我在项目里把逻辑回归当作最低基准。它训练速度极快几秒钟就能跑完交叉验证而且不会因为超参数选择不当而崩溃。但实际结果也印证了我的预期在包含零序分量、负序分量和暂态能量这类强非线性关系的故障特征上逻辑回归的宏平均F1得分只有0.886左右明显低于其他模型。逻辑回归有一个其他模型不具备的优势——输出的概率值可以直接用于置信度评估。如果两条样本都预测为AG故障一条概率0.99一条概率0.51运维人员的处理优先级显然是前者。这种概率输出在工程上比单纯的标签更有价值。实际使用中需要注意max_iter参数数据标准化后如果特征维度多默认的迭代次数可能不足以收敛建议设到1000以上。3.2 决策树能把诊断规则讲给人听的模型决策树的核心是递归划分特征空间。从根节点开始每次选一个特征和阈值把样本分成左右两个子集目标函数通常用基尼不纯度或者信息熵。树长到一定深度后叶子节点对应一个类别。这种结构决定了它有两个显著特点一是训练过程完全不关心特征的量纲二是模型天然具备可解释性。之前提过可解释性对电力行业非常重要。一个直接可读的诊断规则例子是如果零序电流超过阈值且C相电压幅值明显下跌那么判定为CG单相接地。这样的规则可以直接写在运维手册里或者作为保护装置的辅助判据。对很多老师傅来说树给出的规则比黑盒模型的预测结果更容易被信任。我训练决策树时主要调两个参数max_depth和min_samples_leaf。max_depth限制树的层数min_samples_leaf限制叶子节点的最少样本数。这两个参数共同控制模型的复杂度。在6000条样本上我把max_depth设置为6左右min_samples_leaf设置为10既能保持较好精度又不会出现过拟合。注意不设限制的决策树几乎必然过拟合训练集上表现极好一到测试集就露馅。3.3 随机森林集成学习兜底方案随机森林是Bagging思路的集大成者。它训练很多棵决策树每棵树用从原始数据中有放回抽样得到的子集训练同时每次节点切分时只随机选一部分特征参与计算。这种双重随机性使得树与树之间的相关性降低最后通过所有树的投票决定结果方差大幅减小泛化能力显著提升。随机森林在这个项目里的表现非常稳定。五折交叉验证的宏平均F1大约在0.958比单棵决策树高出一截。我推荐的参数组合是n_estimators200max_depth10max_featuressqrt。这里max_features是容易被忽视的参数默认取平方根个特征对于不足20维的特征空间其实够用但如果特征特别多适当调大这个值能让每棵树用更多信息整体精度会更好。随机森林还提供了OOB袋外评分功能原理是每棵树没用到的样本可以用来做验证等于免费做了一次交叉验证。训练时设置oob_scoreTrue模型训练完直接查看oob_score_属性不需要额外切验证集就能估出模型表现。这对数据量小的项目来说是个很实用的技巧。3.4 XGBoost精度天花板与调参策略XGBoost是Boosting阵营的代表核心思路是迭代训练一系列弱学习器后一棵树专门学习前面所有树的残差。与传统GBDT相比XGBoost在目标函数里加了正则化项支持列抽样还实现了近似直方图算法加速训练这些都让它成为结构化数据竞赛里的常胜将军。在五个模型里XGBoost的精度确实最高。我用五折交叉验证出来的宏平均F1达到0.972。但精度是用复杂度换来的XGBoost需要调节的超参数明显多于随机森林主要有关键的组合n_estimators、max_depth、learning_rate和subsample。我这里提供一个已经验证可行的参数组合n_estimators300learning_rate0.05max_depth5subsample0.8colsample_bytree0.8。调参这个环节手动瞎试效率太低。我会先用sklearn的GridSearchCV划定一个粗糙搜索范围找到大致方向后再手动微调。这里有个经验learning_rate设小一点同时n_estimators设大一点模型效果通常比反过来更好但训练时间会变长。XGBoost还有一个early_stopping机制边训练边在验证集上评估连续多轮没有提升就提前停止能省不少时间。注意因为数据量只有6000条要确保验证集切分与最终测试集完全独立避免提前停止时用到测试集信息。3.5 支持向量机小样本高维场景的必要尝试支持向量机的核心思想是在特征空间里找一个最大间隔的分隔超平面让两类样本点到超平面的最小距离最大化。对于线性不可分的数据它通过核函数把样本映射到高维空间在高维空间里找到线性分隔。我选用的是RBF核对应的超参数主要是C和gamma。SVM在小样本场景下的表现很值得关注。我用它得到宏平均F1约0.947虽然略低于XGBoost但考虑到SVM不需要大规模集成、模型结构更简洁这个成绩完全够用。RBF核有两个核心参数C是误分类惩罚系数越大越容易过拟合gamma控制单个样本的影响半径太小欠拟合太大过拟合。在标准化后的数据上我用GridSearchCV在C取值范围[0.1, 1, 10, 100]、gamma取值范围[0.001, 0.01, 0.1, 1]里搜索最优组合落在C10、gamma0.01附近。这里必须提醒一句SVM训练复杂度随样本量上升非常快在几万条样本以内它还算高效一旦数据量到几十万级训练时间会让人崩溃。如果你的故障样本未来会快速增长SVM可能不是理想选择可以考虑用LinearSVC或者SGDClassifier先做替代验证。4. 完整代码框架与调参实战4.1 数据处理与模型训练的标准化流程下面这段是我实际使用的核心流程代码先去掉了数据读取路径这些环境相关的部分。整体思路是读数据、切标签、编码类别、标准化数据、划分训练测试集、定义五个模型、统一进行交叉验证。import pandas as pd import numpy as np from sklearn.model_selection import train_test_split, StratifiedKFold, GridSearchCV from sklearn.preprocessing import StandardScaler, LabelEncoder from sklearn.linear_model import LogisticRegression from sklearn.tree import DecisionTreeClassifier from sklearn.ensemble import RandomForestClassifier from xgboost import XGBClassifier from sklearn.svm import SVC from sklearn.metrics import accuracy_score, f1_score, confusion_matrix, classification_report # 读取已经做好特征工程的数据 data pd.read_csv(line_fault_features.csv) X data.drop(fault_type, axis1) y data[fault_type] # 类别标签编码 le LabelEncoder() y_encoded le.fit_transform(y) # 标准化 scaler StandardScaler() X_scaled scaler.fit_transform(X) # 切分数据保证各类别比例一致 X_train, X_test, y_train, y_test train_test_split( X_scaled, y_encoded, test_size0.2, stratifyy_encoded, random_state42 ) # 五折交叉验证 cv StratifiedKFold(n_splits5, shuffleTrue, random_state42) models { LogisticRegression: LogisticRegression(max_iter1000), DecisionTree: DecisionTreeClassifier(max_depth6, min_samples_leaf10, random_state42), RandomForest: RandomForestClassifier(n_estimators200, max_depth10, oob_scoreTrue, random_state42), XGBoost: XGBClassifier(n_estimators300, learning_rate0.05, max_depth5, subsample0.8, colsample_bytree0.8, eval_metricmlogloss, random_state42), SVM: SVC(kernelrbf, C10, gammascale, probabilityTrue) } for name, model in models.items(): scores [] for train_idx, val_idx in cv.split(X_train, y_train): model.fit(X_train[train_idx], y_train[train_idx]) pred model.predict(X_train[val_idx]) scores.append(f1_score(y_train[val_idx], pred, averagemacro)) print(f{name}: mean F1 {np.mean(scores):.4f} (/- {np.std(scores):.4f}))4.2 五种模型的独立训练步骤与评估交叉验证得到初步分数后我再用全部训练数据训练每个模型在测试集上做最终评估。测试集是训练过程中从未接触过的数据测试集上的表现代表模型真实泛化能力的估计。分类报告和混淆矩阵是必看的配置如下for name, model in models.items(): model.fit(X_train, y_train) pred model.predict(X_test) print(f\n {name} ) print(classification_report(y_test, pred, target_namesle.classes_))这里强调看混淆矩阵而不是只看准确率。准确率在所有类别数量均衡时有一定参考价值但故障诊断场景里哪怕某类故障被全部误判只要其他类别准确率高整体准确率依然好看。混淆矩阵能直接告诉你哪些故障类型容易被互相混淆。我实际测试下来最容易发生混淆的是两相接地故障和两相短路故障比如ABG容易被误判成AB因为两者故障电流波形相似差异主要体现在是否存在零序分量上。如果遇到这种情况可以考虑把是否存在零序电流加入特征或者对这两类单独做二分类细化。4.3 网格搜索找最优参数的实操经验网格搜索代码不复杂但有几个细节值得单独说。from sklearn.model_selection import GridSearchCV param_grid { C: [0.1, 1, 10, 100], gamma: [0.001, 0.01, 0.1, 1] } svm_model SVC(kernelrbf) grid GridSearchCV(svm_model, param_grid, cv5, scoringf1_macro) grid.fit(X_train, y_train) print(grid.best_params_) print(grid.best_score_)网格搜索第一个坑是维度爆炸。参数越多、候选值越多组合数指数式增长。SVM只有两个参数还好XGBoost如果同时搜索四五个参数每组五折交叉验证训练时间会非常恐怖。我的策略是分两步先粗搜每个参数给三到四个候选值锁定大致范围后再细搜只在小范围里微调。第二个坑是GridSearchCV内部也有交叉验证它已经用了训练集的一部分做验证因此搜索结束后务必再使用独立的测试集进行评估不要拿grid.best_score_替代最终指标。4.4 混淆矩阵可视化的实用性写法画混淆矩阵的代码各博客里大同小异我用的是基于sklearn的ConfusionMatrixDisplay。但有一个改进值得借鉴把混淆矩阵按行归一化这样每一行代表该类真实样本中被预测到各类的比例比原始计数更直观。比如真实类别是BC两相短路有3%被误判为BCG95%正确识别2%被误判为AB一眼就能看出错误倾向。from sklearn.metrics import ConfusionMatrixDisplay disp ConfusionMatrixDisplay.from_predictions( y_test, model.predict(X_test), display_labelsle.classes_, normalizetrue, cmapBlues ) disp.figure_.autofmt_xdata()5. 五种方法的实测结果对比与工程选择建议5.1 交叉验证准确率与宏平均F1对比表我把五个模型在测试集上的核心指标整理成一张表方便对比模型准确率宏平均F1训练耗时(秒)模型可解释性概率输出逻辑回归0.8890.8860.5高支持决策树0.9320.9310.3极高支持但不平滑随机森林0.9590.9588中支持XGBoost0.9730.97220低支持SVM(RBF)0.9490.94715低支持但需校准数据里有一个值得注意的现象随机森林和XGBoost在准确率上明显领先但XGBoost比随机森林训练耗时明显更长。SVM在这个数据规模上和XGBoost差距不大但在更大数据量时训练时间会迅速攀升。5.2 从工程落地角度如何选模型如果是给保护装置或在线监测系统做实时诊断优先推荐随机森林。原因不是精度最高而是训练速度快、超参数鲁棒性强、调参依赖低。工程现场不会有人天天去调gamma和max_depth一个能自动训练且效果稳定的模型才最实用。如果是为了出报告、出论文追求尽可能高的精度选XGBoost。它在结构化数据分类上依然是当前最可靠的选择但前提是愿意投入时间做超参数搜索。如果现场要求给出可解释的诊断规则或者要写进运维手册只能选决策树。随机森林虽然精度更高但几百棵树的集成规则无法直接阅读。还有一种折中办法用随机森林或XGBoost训练再用决策树去拟合它们的预测结果做规则提取兼顾精度和可解释性。这个思路我在后续另一个项目里验证过效果不错。如果数据量极小例如只有几百条故障样本SVM值得优先尝试。RBF核在小样本上的拟合能力往往超过集成模型因为集成模型在数据不足时更容易过拟合。6. 常见问题与排查技巧实录6.1 类别不平衡问题准确率虚高怎么解决真实故障数据几乎总是不平衡的单相接地故障占比极高而三相短路、两相故障非常稀少。直接训练时模型会把多数类学得很好、少数类几乎不识别整体准确率却可能高达95%。这种模型拿到现场是没法用的。我的处理方法是分三步。第一步看混淆矩阵确定哪些少数类被严重误判第二步给模型加类别权重sklearn里的class_weightbalanced就能自动按类别频率反比分配权重第三步如果还是不够用SMOTE做少数类过采样。这三步按顺序执行通常能解决大部分不平衡问题。切记不平衡处理必须只针对训练集做测试集要保持原始分布否则评估结果失真。6.2 数据泄露问题标准化和特征筛选的先后顺序数据泄露是高隐蔽性的错误通常不易被发现。最常见的来源是我前面提到的整个数据集上fit标准化器再切分训练测试集。这样测试集的均值方差已经参与了训练过程属于信息泄露。另一种隐蔽泄露发生在特征选择阶段。如果你用全部数据计算特征重要度并筛选特征然后再做交叉验证这也是泄露。正确做法是在每一折交叉验证内部重新做特征筛选这样筛选过程使用的仅仅是当前折的训练数据。GridSearchCV自带这个能力如果你把特征选择器放进Pipeline里模型在每折训练时都会重新执行特征选择这才是安全写法。6.3 XGBoost版本兼容与运行效率问题XGBoost各版本之间API有变化。新版本如果不加eval_metric参数会在训练时报警告使用旧参数use_label_encoderFalse也会提示过时。总体思路是优先用最新稳定版本代码里显式指定eval_metricmlogloss避免依赖默认行为。关于训练速度XGBoost在大数据量下可以通过tree_methodhist和n_jobs-1参数显著提速。我在早期只用默认的exact算法跑几万条样本速度慢得离谱切换到hist直方图算法后训练时间缩减了一半以上精度几乎不下降。如果你要在中等规模数据上反复调参这个设置几乎是必开的。6.4 SVM 训练慢的替代方案SVM在小数据集上表现好但数据到几万条后训练速度会让人难受。如果在项目中遇到这个问题我的建议是先用LinearSVC做线性核的快速验证如果线性核效果已经能接受就直接用否则再考虑SGDClassifier加核近似。另外SVC的probabilityTrue会显著增加训练时间因为需要额外做Platt缩放。如果不需要概率输出建议关掉这个参数速度提升明显。最后再分享一个小技巧。我在给这个项目做结论汇报时没有一味强调XGBoost精度最高而是把随机森林和XGBoost的混淆矩阵并列展示重点分析它们分别在哪两三类上犯错。结果发现两者误判模式高度相似这说明数据特征的表达能力已经到了瓶颈再调模型意义有限。于是我把精力转回特征工程增加了负序分量相位角这个特征后两相接地和两相短路的混淆率明显下降。这套思考路径比单纯刷高零点几个百分点更有价值也是这类故障诊断项目里最值得投入的方向。