Make writeAllFields more efficient in proto-parquet component
- Langage dominant
- Java
- Étoiles
- 3.1k
- Forks
- 1.6k
- Merge moyen
- 3 j 12 h
- PR mergées (30 j)
- 33
Description
This will improve the write performance by 1/3 - 1/4 based on my testing. It makes a huge difference when dealing with really large files (several GBs).
In the original implementation, a significant time was spent on creating unnecessary Java objects.
**Reporter**: [Chen Song](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=capricornius)
**Assignee**: [Chen Song](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=capricornius)
**Note**: *This issue was originally created as [PARQUET-535](https://issues.apache.org/jira/browse/PARQUET-535). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Piste de recherche
Commencez par localiser writeAllFields dans le composant proto-parquet et examiner son chemin actuel de création d’objets. Utilisez comme référence le scénario de performance avec de gros fichiers décrit dans l’issue ; le travail est terminé lorsque la méthode évite les objets Java inutiles identifiés dans l’implémentation et montre l’amélioration prévue des performances d’écriture.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Stack technique
- java
- Domaine
- data-engineering
- Type d'issue
- Refactorisation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Activité
- À l'abandon
- Clarté
- Plutôt claire
- Accessibilité débutants
- 30/100