apache / apache/iceberg-python
Support optional Parquet page index writes
- Linguagem predominante
- Python
- Estrelas
- 1.1k
- Forks
- 581
- Merge médio
- 1d 13h
- PRs com merge (30d)
- 76
Descrição
## Feature Request / Improvement
PyIceberg doesn't expose Parquet page index writing, even though PyArrow supports it with `ParquetWriter(write_page_index=True)`.
### Use case / motivation
Page indexes let readers such as ClickHouse skip non-matching pages during predicate evaluation, avoiding decoding work for selective queries. Tables written by PyIceberg currently lack these indexes, so page-level pruning is not possible regardless of reader support.
### Proposed change
Add an opt-in `write.parquet.page-index-enabled` table property, default false, to preserve current output and file sizes. When enabled, PyIceberg passes `write_page_index=True` to PyArrow's ParquetWriter.
### Implementation
PR #3829 adds the table property, threads it through `_get_parquet_writer_kwargs`, documents it in mkdocs/docs/configuration.md, and includes unit and integration test coverage.
### Tooling note
I developed this with assistance from DS v4 Pro and reviewed the changes myself.
### References
- #3829
Guia de contribuição
Nenhum guia de contribuição indexado para este repositório
Direção de pesquisa
Comece revisando o PR #3829 e, em seguida, inspecione _get_parquet_writer_kwargs, mkdocs/docs/configuration.md e os testes unitários e de integração referenciados. Considera-se concluído quando a propriedade opt-in permanece false por padrão, habilita a escrita do índice de páginas do PyArrow quando é true e os testes documentados passam.
Escrita pelo modelo de indexação a partir do texto da issue.
Avaliação
- Stack de tecnologia
- python
- Domínio
- data-engineering
- Tipo de issue
- Funcionalidade
- Dificuldade
- 2/5
- Tempo estimado
- 1-3 horas
- Status de atividade
- Estagnada
- Clareza
- Claramente especificada
- Facilidade para iniciantes
- 25/100