apache / apache/parquet-java

Concurrent read micro benchmarks

Abierto
#2,108 0 comentarios 0 reacciones 0 asignados Ver en GitHub
Component: Java Component: Parquet Priority: Minor Type: enhancement
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

parquet-benchmarks only contain read and write benchmarks with a single thread.
I add concurrent Parquet file scans like typical data-parallel computing.

**Reporter**: [Takeshi Yoshimura](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=tyos)
#### PRs and other links:
- [PR440](https://github.com/apache/parquet-mr/pull/440)

**Note**: *This issue was originally created as [PARQUET-1174](https://issues.apache.org/jira/browse/PARQUET-1174). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Comienza revisando los benchmarks existentes de lectura y escritura de parquet-benchmarks y PR440, que está enlazado desde el issue. El resultado solicitado son microbenchmarks concurrentes de escaneo de archivos Parquet que representen la computación paralela sobre datos, en lugar de limitarse a lecturas single-threaded.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
data-engineering, performance
Tipo de issue
Nueva funcionalidad
Dificultad
3/5
Tiempo estimado
1-2 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.