apache / apache/parquet-java

Add PARQUET_1_0 and non-repeated data performance tests to parquet-benchmarks

Ouverte
#1,839 1 commentaire 0 réactions 0 personnes assignées Voir sur GitHub
Component: Java Component: Parquet Priority: Minor Type: test
Langage dominant
Java
Étoiles
3.1k
Forks
1.6k
Merge moyen
3 j 12 h
PR mergées (30 j)
33

Description

The current parquet-benchmarks module run some performance tests between different block & page sizes for PARQUET_2_0 version only. We should run some tests with PARQUET_1_0 version as well in order to get a view about new parquet version enhancements, and be able to catch possible overheads early by comparing with the old file format.

Also, this module uses repeated data to benchmark the settings. We should also use random data to get different results about how current and new encodings work with real world data.

**Reporter**: [Sergio Peña](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=spena) / @spena
**Assignee**: [Sergio Peña](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=spena) / @spena
#### PRs and other links:
- [PR-224](https://github.com/apache/parquet-mr/pull/224)

**Note**: *This issue was originally created as [PARQUET-315](https://issues.apache.org/jira/browse/PARQUET-315). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Commencez dans le module parquet-benchmarks et examinez les tests de performance PARQUET_2_0 existants qui font varier les tailles de bloc et de page. Ajoutez une couverture pour PARQUET_1_0 et les données aléatoires en plus des benchmarks avec des données répétées, puis comparez les résultats pour confirmer que les deux versions du format et les deux modèles de données sont couverts ; consultez PR-224 pour les travaux antérieurs et le contexte.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
java
Domaine
data-engineering, performance
Type d'issue
Fonctionnalité
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
Plutôt claire
Accessibilité débutants
20/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.