apache / apache/iceberg-python
Support optional Parquet page index writes
- Lenguaje dominante
- Python
- Estrellas
- 1.1k
- Forks
- 581
- Merge medio
- 1 d 17 h
- PR fusionados (30 d)
- 77
Descripción
## Feature Request / Improvement
PyIceberg doesn't expose Parquet page index writing, even though PyArrow supports it with `ParquetWriter(write_page_index=True)`.
### Use case / motivation
Page indexes let readers such as ClickHouse skip non-matching pages during predicate evaluation, avoiding decoding work for selective queries. Tables written by PyIceberg currently lack these indexes, so page-level pruning is not possible regardless of reader support.
### Proposed change
Add an opt-in `write.parquet.page-index-enabled` table property, default false, to preserve current output and file sizes. When enabled, PyIceberg passes `write_page_index=True` to PyArrow's ParquetWriter.
### Implementation
PR #3829 adds the table property, threads it through `_get_parquet_writer_kwargs`, documents it in mkdocs/docs/configuration.md, and includes unit and integration test coverage.
### Tooling note
I developed this with assistance from DS v4 Pro and reviewed the changes myself.
### References
- #3829
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Línea de trabajo
Comienza revisando PR #3829 y, después, inspecciona _get_parquet_writer_kwargs, mkdocs/docs/configuration.md y las pruebas unitarias y de integración mencionadas. Se considera terminado cuando la propiedad opt-in sigue siendo false de forma predeterminada, habilita la escritura del índice de páginas de PyArrow cuando es true y las pruebas documentadas pasan.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python
- Área
- data-engineering
- Tipo de issue
- Nueva funcionalidad
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Estado de actividad
- Estancado
- Claridad
- Bien especificado
- Aptitud para principiantes
- 25/100