如何提升Polars 中按类型或列名批量聚合指定列并保持原始列序的效率
如何在 polars 中对满足特定条件如数值类型或指定列名的列执行行级聚合如求和同时自动保留原始列顺序避免手动逐列声明适用于添加汇总行等场景。在 Polars 中当需要为 DataFrame 添加一行汇总统计如总和并严格保持原有列顺序时传统方式需显式列出每列并用 lit(None) 填充非聚合列既冗长又易出错。幸运的是Polars 提供了更简洁、可扩展的解决方案支持按数据类型筛选列或按列名模式匹配列无需硬编码全部列名。✅ 推荐方案一使用 concat(..., howdiagonal)最简洁可靠diagonal 模式能自动对齐列结构缺失列自动补 null且天然保持原始列顺序import polarsaspldf pl.DataFrame({j: [2, 7, 1, 8],k: [False, True, True, False],l: [foo,bar,quux,bin],u: [5.0, 8.0, 13.0, 21.0],})# 仅对数值列求和或指定列名如 [j,u]sum_row df.select(pl.col(pl.NUMERIC_DTYPES)).sum() # 自动识别所有数值列# 或sum_row df.select(j,u).sum()result pl.concat([df, sum_row], howdiagonal)print(result)输出shape: (5, 4)┌─────┬───────┬──────┬──────┐│ j ┆ k ┆ l ┆ u ││ --- ┆ --- ┆ --- ┆ --- ││ i64 ┆ bool ┆ str ┆ f64 │╞═════╪═══════╪══════╪══════╡│ 2 ┆ false ┆ foo ┆ 5.0 ││ 7 ┆ true ┆ bar ┆ 8.0 ││ 1 ┆ true ┆ quux ┆ 13.0 ││ 8 ┆ false ┆ bin ┆ 21.0 ││ 18 ┆ null ┆ null ┆ 47.0 │└─────┴───────┴──────┴──────┘✅ 优势语义清晰、零列序维护成本、兼容任意列组合含嵌套/结构化类型。✅ 推荐方案二单次 select append纯链式无 concat若需完全避免 concat可用 append 构建新列并重排# 动态获取目标列例如所有整数和浮点列numeric_cols df.select(pl.col(pl.NUMERIC_DTYPES)).columnsresult (df.select(# 聚合列原值 总和*[pl.col(col).append(pl.col(col).sum())forcol in numeric_cols],# 非聚合列原值 null*[pl.col(col).append(pl.lit(None))forcol in df.columnsifcol not in numeric_cols]).select(df.columns) # 强制还原原始列序)? 提示pl.NUMERIC_DTYPES 包含 pl.Int8, pl.Float32, pl.Duration 等也可用 pl.col(^j|u$) 正则匹配列名。⚠️ 注意事项与最佳实践类型安全sum() 对布尔列默认转为 i64True→1若需逻辑计数请显式 .sum().cast(pl.Int64)。空数据处理sum() 在全空列返回 null如需默认值可链式 .fill_null(0)。性能考量diagonal concat 在大数据集上比多次 append 更高效推荐优先使用。扩展性上述模式可轻松替换为 .mean()、.max() 或自定义聚合函数只需修改 .sum() 部分。通过结合 pl.NUMERIC_DTYPES、正则列选择器与 diagonal concat你能在 Polars 中实现真正灵活、可维护的列聚合——告别硬编码拥抱声明式数据流。
