Fetching large json data results in OutOfMemoryError
Chưa có ai nhận issue này.
- Ngôn ngữ chính
- C++
- Star
- 127k
- Fork
- 25.3k
- Merge trung bình
- 1 ngày 23 giờ
- Pull request đã merge (30 ngày)
- 4
Mô tả
Description
Using fetch to get several Megabytes (currently happens for me at around 80Mb) of JSON data causes Android to panic and throw an OutOfMemoryError. This is due to the fact that the whole response is being read as bytes, quickly filling up the heap.
Stacktrace:
09-01 21:32:21.035 5480 5555 E AndroidRuntime: java.lang.OutOfMemoryError: Failed to allocate a 98836368 byte allocation with 25165824 free bytes and 88MB until OOM, target footprint 133385952, growth limit 201326592
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at okio.Buffer.readByteArray(Buffer.kt:1429)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at okio.Buffer.readByteArray(Buffer.kt:1424)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at okio.RealBufferedSource.readByteArray(RealBufferedSource.kt:238)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at okhttp3.ResponseBody.bytes(ResponseBody.kt:124)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at com.facebook.react.modules.blob.BlobModule$4.toResponseData(BlobModule.java:134)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at com.facebook.react.modules.network.NetworkingModule$2.onResponse(NetworkingModule.java:512)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at okhttp3.internal.connection.RealCall$AsyncCall.run(RealCall.kt:519)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1167)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:641)
09-01 21:32:21.035 5480 5555 E AndroidRuntime: at java.lang.Thread.run(Thread.java:923)
React Native version:
System:
OS: Linux 5.13 Solus 4.3
CPU: (8) x64 Intel(R) Core(TM) i7-7700HQ CPU @ 2.80GHz
Memory: 1.39 GB / 15.52 GB
Shell: 5.1.8 - /bin/bash
Binaries:
Node: 14.17.5 - /usr/bin/node
Yarn: 1.22.10 - /usr/bin/yarn
npm: 6.14.14 - /usr/bin/npm
Watchman: Not Found
SDKs:
Android SDK: Not Found
IDEs:
Android Studio: Not Found
Languages:
Java: 1.8.0_302-solus - /usr/lib64/openjdk-8/bin/javac
npmPackages:
@react-native-community/cli: Not Found
react: 17.0.2 => 17.0.2
react-native: 0.65.1 => 0.65.1
npmGlobalPackages:
*react-native*: Not Found
Steps To Reproduce
I created a test repository that shows the aforementioned behaviour. It also includes a 100Mb JSON file for testing, that you can serve locally or access via GitHub directly.
Steps are as follows
- Tap on the load data button
- Wait for the app to crash
Expected Results
Getting an out of memory error shouldn't really happen with this size of data in my opinion. Sure 100Mb sounds a lot at first, but in enterprise-grade apps this is probably a common scenario. In any case I think there should be a possibility to dynamically switch to streaming the response since okhttp offers bytestream and charstream as well. I'm not that well versed in Java but it would probably help reduce all of the 150Mb landing on the heap at once?
Snack, code example, screenshot, or link to a repository:
Hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Hướng nghiên cứu
Bắt đầu với phần xử lý response Android được thể hiện trong BlobModule.java và NetworkingModule.java, sau đó chạy repository ReactNativeFetchRepro được liên kết cùng tệp data.json 100MB của nó. So sánh đường đi fetch hiện tại với các tham chiếu đến OkHttp ResponseBody byteStream và charStream trong issue; hoàn tất khi các response JSON lớn không còn gây ra OutOfMemoryError đã được báo cáo.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- android, java, react-native
- Lĩnh vực
- mobile, networking
- Loại issue
- Lỗi
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 42/100