apache / apache/parquet-java

Convert JSON to Parquet directly

Đang mở
#2,503 1 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Component: Java Component: Parquet Priority: Minor Type: enhancement
Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
3 ngày 12 giờ
Pull request đã merge (30 ngày)
33

Mô tả

In order to convert JSON payload to Parquet, the "established" way seems to be to go first through a JSON to Avro conversion, provided the JSON payload is covered by a JSON-Schema or part of a OpenAPI definition. The rest of the process relies on the parquet-avro implementation.

Since JSON payload can be loaded to a generic JsonNode (jackson library) and since a JSON payload can be described and checked against a JSON-Schema or an OpenAPI definition, wouldn't it be theoretically possible to convert a JSON payload to a Parquet "record" directly (somehow implementing a similar approach than parquet-avro but this a JsonNode as a data holder)?

Reporter: Emmanuel Brard / @ebrard

Note: This issue was originally created as PARQUET-1880. Please see the migration documentation for further details.

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Hướng nghiên cứu

Bắt đầu bằng việc xem xét triển khai parquet-avro hiện có và cách Jackson JsonNode biểu diễn và xác thực JSON theo các định nghĩa JSON-Schema hoặc OpenAPI. Xác định phạm vi và thiết kế để tạo trực tiếp một bản ghi Parquet từ JSON, bao gồm việc thế nào được xem là một chuyển đổi hoàn chỉnh.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
java
Lĩnh vực
data-engineering
Loại issue
Tính năng
Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Cần làm rõ
Mức phù hợp với người mới
25/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.