4paradigm / 4paradigm/OpenMLDB

Spark job is trigger when compiling SQL with offline engine

Đang mở
#2,880 3 bình luận 0 reaction 1 người được giao Được @tobegit3hub nhận Xem trên GitHub
batch-engine bug
Ngôn ngữ chính
C++
Star
1.7k
Fork
331
Merge trung bình
12 ngày 12 giờ
Pull request đã merge (30 ngày)
1

Mô tả

Now it takes much time to compile SQL and the data is processed even if getting output dataframe.

image

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Hướng nghiên cứu

The issue mentions a Spark job being triggered during SQL compilation with the offline engine, causing unnecessary data processing and slow compilation. Look at the SQL compilation path in the offline engine code, likely in the Spark-related modules. Identify where the job is being inadvertently triggered and ensure compilation does not execute data processing. Check existing tests for SQL compilation to verify the fix.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
spark, sql
Lĩnh vực
databases, machine-learning, performance
Loại issue
Lỗi
Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
45/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.