[Java] BaseVariableWidthVector only supports 1 GiB through safe interfaces
- 主要言語
- Java
- スター
- 94
- フォーク
- 152
- 平均マージ
- 3日 16時間
- マージ済み PR(30日)
- 11
説明
### Describe the bug, including details regarding any error messages, version, and platform.
https://github.com/apache/arrow/pull/13815 fixed an issue with a misleading error caused by going over the 2GiB limit of a variable width vector, but it also introduced a 1 GiB limit when using the safe interfaces. Basically whenever you try to add data beyond 1 GiB, the vector will try to double itself to the next power of two, which would be 2147483648, which is greater than Integer.MAX_VALUE which is 2147483647, thus throwing a OversizedAllocationException. This effectively limits the total size allowed in the buffer to 1 GiB, even though it should only really be bound by the max offset being less than Integer.MAX_VALUE.
See https://github.com/apache/spark/pull/39572#issuecomment-1383195213 and the comment above it for how I could recreate the issue.
### Component(s)
Java
コントリビューションガイド
調査の方向性
リンクされた Apache Spark の議論で説明されているシナリオを使って 1 GiB の障害を再現し、続いて BaseVariableWidthVector とその安全なインターフェースにおける容量の増加を追跡してください。可変幅データが、無効な 2 GiB の割り当てを試みることなく 1 GiB を超えて増加でき、同時に Integer.MAX_VALUE のオフセット上限も引き続き遵守できれば、修正は完了です。この境界に対する回帰テストを追加してください。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java
- 領域
- data-engineering
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 45/100