信息发布→ 登录 注册 退出

使用 Polars 的 pivot 操作将长格式数据转为宽格式稀疏矩阵

发布时间:2026-01-06

点击量:

本文介绍如何利用 polars 的 `pivot()` 方法高效地将键值对形式的稀疏长格式数据(id-key-value)转换为以 key 为列名、id 为行索引的宽格式 dataframe,适用于大规模稀疏特征工程场景。

在处理稀疏结构化数据(如用户行为特征、基因表达谱、推荐系统 item-tag 关系等)时,原始数据常以三元组形式存储:id(实体标识)、key(特征维度/字段名)、value(对应取值)。这种“长格式”节省空间且易于追加更新;但在建模或向量化计算阶段,往往需要将其展开为“宽格式”——即每个 key 成为一列,每行代表一个 id 的完整特征向量。

Polars 提供了原生、高性能的 pivot 操作来完成这一转换。核心只需一行代码:

import polars as pl

df = pl.from_repr("""
┌─────┬─────┬───────┐
│ id  ┆ key ┆ value │
│ --- ┆ --- ┆ ---   │
│ str ┆ str ┆ i64   │
╞═════╪═════╪═══════╡
│ a   ┆ m1  ┆ 1     │
│ a   ┆ m2  ┆ 2     │
│ a   ┆ m3  ┆ 1     │
│ b   ┆ m2  ┆ 4     │
│ c   ┆ m1  ┆ 2     │
│ c   ┆ m3  ┆ 6     │
│ d   ┆ m4  ┆ 4     │
│ e   ┆ m2  ┆ 1     │
└─────┴─────┴───────┘
""")

# 执行 pivot:以 'key' 列值作为新列名,'id' 作为行索引,'value' 填充单元格
result = df.pivot(on="key", index="id", values="value")
print(result)

输出结果即为目标宽格式(5 行 × 5 列),自动对齐所有唯一 key(m1, m2, m3, m4),缺失位置填充 null(Polars 中的 None 等价表示):

shape: (5, 5)
┌─────┬──────┬──────┬──────┬──────┐
│ id  ┆ m1   ┆ m2   ┆ m3   ┆ m4   │
│ --- ┆ ---  ┆ ---  ┆ ---  ┆ ---  │
│ str ┆ i64  ┆ i64  ┆ i64  ┆ i64  │
╞═════╪══════╪══════╪══════╪══════╡
│ a   ┆ 1    ┆ 2    ┆ 1    ┆ null │
│ b   ┆ null ┆ 4    ┆ null ┆ null │
│ c   ┆ 2    ┆ null ┆ 6    ┆ null │
│ d   ┆ null ┆ null ┆ null ┆ 4    │
│ e   ┆ null ┆ 1    ┆ null ┆ null │
└─────┴──────┴──────┴──────┴──────┘

⚠️ 重要注意事项

  • pivot() 当前仅支持 eager 模式(即直接作用于 pl.DataFrame),不适用于 LazyFrame 流水线。若需在 lazy 模式下实现类似效果,可先用 unique("key") 获取所有列名,再结合 group_by("id").agg() 与 struct + unnest 手动构造,但性能与可读性略低;官方文档提供了该替代方案的完整示例。
  • 若存在重复的 (id, key) 组合,pivot() 默认会报错。此时需预先聚合(如 df.group_by(["id", "key"]).agg(pl.col("value").first()))以明确冲突策略(取首值、求和、均值等)。
  • 列类型由 values 列推断,若原始 value 类型混杂(如部分为 i64、部分为 f64),建议提前统一类型(如 df.with_columns(pl.col("value").cast(pl.Float64))),避免 pivot 后列类型不一致。

综上,df.pivot(on="key", index="id", values="value") 是 Polars 中实现稀疏长→宽转换最简洁、最高效的标准解法,兼顾表达力与执行性能,是特征工程流水线中不可或缺的关键操作。

标签:# 键值对  # NULL  # Struct  # 这一  # 只需  # 但在  # 适用于  # 将其  # 报错  # 高性能  # 不可或缺  # 转换为  # 先用  
在线客服
服务热线

服务热线

4008888355

微信咨询
二维码
返回顶部
×二维码

截屏,微信识别二维码

打开微信

微信号已复制,请打开微信添加咨询详情!