apache / apache/parquet-java

ParquetReader directory read using InputFile

Offen
#2,856 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Hadoop Component: Java Component: Parquet Priority: Major Type: enhancement
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Using Hadoop Path, users can read from directories (excluding hidden files) using a single ParquetReader. This is not yet possible using the InputFile API. To resolve this, a generic way should be added for directories to be read, consistent with the behaviour of the read API when using a Hadoop Path.

**Reporter**: [Atour Mousavi Gourabi](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=amousavigourabi) / @amousavigourabi

**Note**: *This issue was originally created as [PARQUET-2404](https://issues.apache.org/jira/browse/PARQUET-2404). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne damit, das vorhandene Verzeichnisleseverhalten von Hadoop Path mit der in diesem Issue beschriebenen InputFile API zu vergleichen. Lege fest, wie das Lesen eines generischen Verzeichnisses funktionieren soll, einschließlich des Ausschließens versteckter Dateien und der Beibehaltung des Verhaltens für einzelne Reader, und überprüfe anschließend das Ergebnis anhand des Verhaltens der vorhandenen read API.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.