apache / apache/parquet-java

Document how a schema can have columns splitted over different files

Ouverte
#2,581 3 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Component: Parquet Priority: Minor Type: enhancement
Langage dominant
Java
Étoiles
3.1k
Forks
1.6k
Merge moyen
3 j 12 h
PR mergées (30 j)
33

Description

In the design overview is stated that the format supports that columns of a given schema are splitted over several files . 

To date ,other than the reference in the parquet homepage there are no other references to these feature , not even if it is actually implemented. 

As it currently stands , I believe that for a given row group you cannot have some columns in one file and other column group in another file belonging to the same schema .

If these feature was actually implemented it would open the door to faster data updates which affect a single column in very wide tables, which is typical on big data use cases .

 

**Reporter**: [Carlos Diogo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=cdiogo79)

**Note**: *This issue was originally created as [PARQUET-1987](https://issues.apache.org/jira/browse/PARQUET-1987). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Commencez par la vue d’ensemble de la conception et la référence existante sur la page d’accueil de Parquet, puis examinez l’implémentation pour déterminer si les colonnes d’un schéma peuvent être réparties entre plusieurs fichiers au sein d’un row group. Documentez le comportement pris en charge ou indiquez clairement la limitation si ce comportement n’est pas implémenté, y compris les éventuelles contraintes pertinentes pour les mises à jour de tables larges.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
java
Domaine
documentation
Type d'issue
Documentation
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
30/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.