apache / apache/parquet-java

Implement BytesWritable in DataWritableWriter Class in parquet

Offen
#1,477 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: enhancement
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Implement BytesWritable in org.apache.hadoop.hive.ql.io.parquet.write.DataWritableWriter Class in parquet .
writePremitive() api of this class has major Writable but not BytesWritable (Note - it has ByteWritable which is just 1 byte) . So we have to use the binaryWritable class . However binaryWritable does not have the set function which means for each record we have to call new (no of times string data type occurs ).

**Reporter**: [Suresh Bahuguna](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=subahugu)

**Note**: *This issue was originally created as [PARQUET-795](https://issues.apache.org/jira/browse/PARQUET-795). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginnen Sie in org.apache.hadoop.hive.ql.io.parquet.write.DataWritableWriter und untersuchen Sie writePremitive() zusammen mit der bestehenden Writable-Verarbeitung. Prüfen Sie, wie binaryWritable für String-Daten verwendet wird, und verifizieren Sie anschließend, dass BytesWritable-Werte verarbeitet werden, ohne für jeden Datensatz ein neues Objekt zu benötigen; das Issue ist abgeschlossen, wenn diese Unterstützung durch die relevanten Tests abgedeckt ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Feature
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.