apache / apache/iotdb

[Bug] Synced data stored as unsequenced

オープン
#11,441 コメント 3 件 リアクション 1 件 担当者 0 名 GitHub で見る
主要言語
Java
スター
6.4k
フォーク
1.2k
平均マージ
1日 23時間
マージ済み PR(30日)
115

説明

### Search before asking

- [X] I searched in the [issues](https://github.com/apache/iotdb/issues) and found nothing similar.

### Version

Both machines running Ubuntu 20.04 and docker image of IoTDB version 1.2.2

### Describe the bug and provide the minimal reproduce step

1. Start two nodes in standalone configuration
2. Set pipe to cloud node
3. Perform insertions at the edge node

### What did you expect to see?

All data inserted to be stored in the same manner on both nodes.

### What did you see instead?

Although on the edge node data is stored in sequence TsFiles, the cloud node treats synced data as delayed and the data is stored in unsequence TsFiles.

On the cloud node running `du -h .` on the data folder shows most data usage in unsequence files
```
4.0K ./datanode/data/sequence
6.9G ./datanode/data/unsequence/root.gps/2/2808
6.9G ./datanode/data/unsequence/root.gps/2
6.9G ./datanode/data/unsequence/root.gps/1/2808
6.9G ./datanode/data/unsequence/root.gps/1
6.7G ./datanode/data/unsequence/root.gps/3/2808
6.7G ./datanode/data/unsequence/root.gps/3
6.4G ./datanode/data/unsequence/root.gps/4/2808
6.4G ./datanode/data/unsequence/root.gps/4
4.7G ./datanode/data/unsequence/root.gps/5/2808
4.7G ./datanode/data/unsequence/root.gps/5
32G ./datanode/data/unsequence/root.gps
32G ./datanode/data/unsequence
32G ./datanode/data
```

While on the edge nodes running `du -h .` on the data folder shows most data usage in sequence files
```
8.6G ./datanode/data/sequence/root.gps/2/2808
8.6G ./datanode/data/sequence/root.gps/2
6.9G ./datanode/data/sequence/root.gps/4/2808
6.9G ./datanode/data/sequence/root.gps/4
7.6G ./datanode/data/sequence/root.gps/1/2808
7.6G ./datanode/data/sequence/root.gps/1
7.1G ./datanode/data/sequence/root.gps/3/2808
7.1G ./datanode/data/sequence/root.gps/3
30G ./datanode/data/sequence/root.gps
30G ./datanode/data/sequence
26M ./datanode/data/unsequence/root.gps/2/2808
26M ./datanode/data/unsequence/root.gps/2
17M ./datanode/data/unsequence/root.gps/4/2808
17M ./datanode/data/unsequence/root.gps/4
26M ./datanode/data/unsequence/root.gps/1/2808
26M ./datanode/data/unsequence/root.gps/1
26M ./datanode/data/unsequence/root.gps/3/2808
26M ./datanode/data/unsequence/root.gps/3
94M ./datanode/data/unsequence/root.gps
94M ./datanode/data/unsequence
34G ./datanode/data
34G ./datanode
```

Tests performing query operations seem to indicate that this negatively impacts query performance as unsequence files negatively impact query performance. These tests were run using IoTDB version 1.1.1, but since data is still stored as unsequenced in 1.2.2, this behaviour should still be present.

### Anything else?

Edge node is running in a Docker container limited to 4 CPU cores, 4GB of RAM, 44MB/s disk reads, 40MB/s disk writes, 2700 read IOps, 1200 write IOps
Cloud node is running in a Docker container with no limitations. Host machine has a 6 core CPU and 16GB of RAM

### Are you willing to submit a PR?

- [ ] I'm willing to submit a PR!

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

まず IoTDB 1.2.2 Docker イメージを使用して 2 ノードのスタンドアロン構成を再現し、edge ノードからの pipe を構成して、cloud ノードの datanode/data/sequence フォルダーと datanode/data/unsequence フォルダーを調査します。edge での挿入後に、保存されたファイルとクエリの動作を比較します。同期されたデータが、報告されたクエリ性能への影響なしに、cloud ノード上で sequence ファイルとして保存されれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
docker, java
領域
databases, distributed-systems
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
おおむね明確
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。