apache / apache/parquet-java

Min/Max record counts for block size checks are not configurable

Ouverte
#2,038 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Component: Parquet Priority: Major Type: enhancement
Langage dominant
Java
Étoiles
3.1k
Forks
1.6k
Merge moyen
3 j 12 h
PR mergées (30 j)
33

Description

While the min/max record counts for page size check are configurable via ParquetOutputFormat.MIN_ROW_COUNT_FOR_PAGE_SIZE_CHECK and ParquetOutputFormat.MAX_ROW_COUNT_FOR_PAGE_SIZE_CHECK configs and via ParquetProperties directly, the min/max record counts for block size check are hard coded inside InternalParquetRecordWriter.

These two settings should also be configurable.

**Reporter**: [Pradeep Gollakota](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=pradeepg26)
#### Related issues:
- [InternalParquetRecordWriter doesn't use min/max row counts](https://github.com/apache/parquet-java/issues/1461) (is duplicated by)
#### PRs and other links:
- [GitHub Pull Request #470](https://github.com/apache/parquet-mr/pull/470)
- [PR #447 (replaced by #470)](https://github.com/apache/parquet-mr/pull/447)
- [PR #470](https://github.com/apache/parquet-mr/pull/470)

**Note**: *This issue was originally created as [PARQUET-869](https://issues.apache.org/jira/browse/PARQUET-869). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Lisez InternalParquetRecordWriter avec ParquetOutputFormat et ParquetProperties, en comparant les chemins de configuration existants pour la taille des pages. Vérifiez la PR #470 et l’issue associée #1461 avant de décider s’il reste du travail à faire ; c’est terminé lorsque les nombres minimal/maximal d’enregistrements par bloc sont configurables via les chemins de configuration ou de propriétés exposés, plutôt que d’être codés en dur.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
java
Domaine
data-engineering
Type d'issue
Fonctionnalité
Difficulté
3/5
Temps estimé
1-2 jours
Activité
À l'abandon
Clarté
Clairement spécifiée
Accessibilité débutants
25/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.