Min/Max record counts for block size checks are not configurable
- Lenguaje dominante
- Java
- Estrellas
- 3.1k
- Forks
- 1.6k
- Merge medio
- 3 d 12 h
- PR fusionados (30 d)
- 33
Descripción
While the min/max record counts for page size check are configurable via ParquetOutputFormat.MIN_ROW_COUNT_FOR_PAGE_SIZE_CHECK and ParquetOutputFormat.MAX_ROW_COUNT_FOR_PAGE_SIZE_CHECK configs and via ParquetProperties directly, the min/max record counts for block size check are hard coded inside InternalParquetRecordWriter.
These two settings should also be configurable.
**Reporter**: [Pradeep Gollakota](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=pradeepg26)
#### Related issues:
- [InternalParquetRecordWriter doesn't use min/max row counts](https://github.com/apache/parquet-java/issues/1461) (is duplicated by)
#### PRs and other links:
- [GitHub Pull Request #470](https://github.com/apache/parquet-mr/pull/470)
- [PR #447 (replaced by #470)](https://github.com/apache/parquet-mr/pull/447)
- [PR #470](https://github.com/apache/parquet-mr/pull/470)
**Note**: *This issue was originally created as [PARQUET-869](https://issues.apache.org/jira/browse/PARQUET-869). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Línea de trabajo
Lee InternalParquetRecordWriter junto con ParquetOutputFormat y ParquetProperties, comparando las rutas de configuración existentes para el tamaño de página. Revisa PR #470 y el issue relacionado #1461 antes de decidir si queda trabajo por hacer; se considera terminado cuando los recuentos mínimos/máximos de registros de bloque se pueden configurar mediante las rutas de configuración o de propiedades expuestas, en lugar de estar codificados de forma fija.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- java
- Área
- data-engineering
- Tipo de issue
- Nueva funcionalidad
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Estado de actividad
- Estancado
- Claridad
- Bien especificado
- Aptitud para principiantes
- 25/100