apache / apache/parquet-java

Local timestamps fields for Avro schema are not supported

オープン
#1,665 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
Component: Avro Component: Parquet Priority: Major Type: bug
主要言語
Java
スター
3.1k
フォーク
1.6k
平均マージ
3日 12時間
マージ済み PR(30日)
33

説明

Avro schema supports the creation of local timestampe fields:
```java

LocalTimestampMillis datetimeType = LogicalTypes.localTimestampMillis();
field = new Schema.Field(attrDesc.getAttributeName(), Schema.createUnion(datetimeType.addToSchema(Schema.create(Schema.Type.LONG), Schema.create(Schema.Type.NULL)), doc, null);
```
But since there is no support in the AvroSchemaConverter.convertLogicalType method, these fields end up as BIGINT (as reported in e.g. Apache Drill).

**Reporter**: [Stefan Ziegler](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=edi.gonzales)

**Note**: *This issue was originally created as [PARQUET-2315](https://issues.apache.org/jira/browse/PARQUET-2315). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

Issue で示されているエントリポイントである AvroSchemaConverter.convertLogicalType から始め、localTimestampMillis 論理型が現在どのように変換されているかを追跡します。ローカルタイムスタンプのフィールドが BIGINT ではなくタイムスタンプとして表現されることを確認し、Issue で説明されている nullable union の例も含めて変更を確認します。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java
領域
data-engineering
issue の種類
バグ
難易度
3/5
見積もり時間
1〜2日
活発さ
停滞
明瞭さ
おおむね明確
初心者へのやさしさ
52/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。