googleapis / googleapis/google-cloud-java

[java-bigquery] How can we load GCS json files to bigquery with deduplication

Aperta
#12,153 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
api: bigquery priority: p3 type: question
Lingua principale
Java
Stelle
2.1k
Fork
1.2k
Merge medio
1g 23h
PR unite (30g)
157

Descrizione

Hi Team,

I'm looking for possible ways to load our GCS files which were stored in a way month/day/hour to bigquery. And we would like to remove duplicates by scanning the record based on id and timestamp in json file and move the latest record to bigquery. Could you please help the possible ways to implement this.

Thank You

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Non sono menzionati file sorgente, test o entry point. Prima chiarisci il workflow GCS-to-BigQuery previsto, i campi dei record utilizzati per la deduplicazione e la definizione of done prevista, quindi individua gli entry point pertinenti della libreria client Java.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
google-cloud, java
Ambito
cloud, databases
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
20/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.