InstIDEA / InstIDEA/controlciudadano

Procesar datos de salarios de la policia nacional

Open
#215 0 comments 0 reactions 0 assignees View on GitHub
etl good first issue
Dominant language
TypeScript
Stars
5
Forks
3
PR merge metrics
No merged PRs in 30d

Description

# Contexto

En el PR #122 se realizo la implementación de un proceso que se encarga
de descargar los archivos de la policía nacional de manera semanal. Esta
descarga no discrimina el tipo de archivos e intenta ser lo mas exhaustiva
posible, es decir descarga todo tipo de archivos.

Estos datos se estan extrayendo y se estan almacenando en:

https://data.controlciudadanopy.org/policianacional/

Entre la lista de archivos que se descargan, se encuentran los archivos
de salarios como [este](https://data.controlciudadanopy.org/policianacional/2020-12-12_5ee65d8f499e9368b4bea78b61403a32_SALARIOS_PN_AGOSTO_2019.pdf),
estos archivos tienen muchos datos que son interesantes para un posterior análisis.

El PDF es 'seleccionable', es decir que contiene texto y no es simplemente una
colección de fotos, por ello se pueden utilizar herramientas de extracción de texto
y de tablas (como tabula) para obtener la información.

El objetivo de este ticket es poder extraer la información y almacenarla de manera
estructurada para su posterior análisis.

# Notas para el desarrollador

* Se realizaron pruebas con tabula (https://tabula.technology), las pruebas fueron exitosas pero requieren cambios por archivo (es decir, una especificación de coordenadas de extracción no se puede aplicar a todos los archivos).
* Se puede usar amazon textract
* No es necesaria extraer toda la info del PDF, se puede usar el nombre del archivo también, por ejemplo para extraer el mes y así solo hace falta extraer nombre y monto del archivo
* Campos requeridos:
* Nombre
* Monto
* Campos deseables:
* Cargo
* Fecha de ingreso
* Los montos se deben convertir a números
* Se deben extraer ambos salarios (presupuestado, devengado y remuneración total)

# Definición de hecho

* [ ] Proceso que identifique los archivos de salarios de la lista completa de archivos
* [ ] Proceso que convierta cada PDF en un CSV con los datos de cada funcionario.
* [ ] Proceso que carge el CSV a una tabla

Contributor guide

No contributing guide indexed for this repository

Research direction

Start by reviewing the weekly police-file download process from PR #122 and the salary PDFs in the linked storage path. Evaluate Tabula and Amazon Textract for extracting the required Nombre and Monto fields, plus the desirable fields where possible. Done means identifying salary files, converting each PDF to CSV with numeric amounts for the specified salary types, and loading the CSV into a table.

Written by the indexing model from the issue text.

Assessment

Tech stack
aws, typescript
Domain
data-engineering
Issue type
Feature
Difficulty
5/5
Estimated time
Over a week
Activity status
Stale
Clarity
Mostly clear
Newbie friendliness
35/100

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.