Altinity / Altinity/altinityknowledgebase
Document GCS bucket retention policy impact on ClickHouse storage
Nessuno ha ancora preso questa issue.
- Lingua principale
- HTML
- Stelle
- 62
- Fork
- 49
- Merge medio
- 6m
- PR unite (30g)
- 3
Descrizione
Problem
The current GCS documentation (content/en/altinity-kb-integrations/altinity-kb-google-s3-gcs.md) only covers basic setup (HMAC keys, endpoint configuration) but doesn't mention an important operational caveat.
Missing Information
When a GCS bucket has a retention policy enabled, objects cannot be deleted until the retention period expires. This causes issues with ClickHouse because it regularly deletes data during:
- Part merges - old parts are removed after merge
- Mutations - replaced data is deleted
- TTL expiration - expired data is purged
If the bucket retention policy prevents deletion, old data accumulates and storage grows exponentially, leading to unexpected costs and potential operational issues.
Suggested Addition
Add a warning/note to the GCS documentation explaining:
- Bucket retention policies prevent ClickHouse from deleting obsolete data
- This causes continuous storage growth
- Recommendation to disable retention policy or use a bucket without one for ClickHouse storage
If this seems like a good enhancement, I'd be happy to take this up and submit a PR.
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Leggi content/en/altinity-kb-integrations/altinity-kb-google-s3-gcs.md e verifica le istruzioni esistenti per la configurazione di GCS. Aggiungi un avviso che spieghi come le policy di retention impediscano a ClickHouse di eliminare i dati durante merge, mutazioni e scadenza del TTL, e raccomanda di utilizzare un bucket senza una policy di retention. Il lavoro è completato quando il rischio di crescita dello storage e dei costi operativi è documentato chiaramente.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- clickhouse, google-cloud
- Ambito
- databases, documentation
- Tipo di issue
- Documentazione
- Difficoltà
- 1/5
- Tempo stimato
- Meno di un'ora
- Stato di attività
- Ferma
- Chiarezza
- Specificata chiaramente
- Idoneità per principianti
- 72/100