mlco2 / mlco2/codecarbon

Incorrect runtimes reported in emissions files

Aperta
#653 5 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

question
Lingua principale
Python
Stelle
1.9k
Fork
323
Merge medio
1g 12h
PR unite (30g)
12

Descrizione

  • CodeCarbon version: 2.6.0
  • Python version: 3.10
  • Operating System: Linux (Google Colab)
Description

I was trying to record the emissions generated while fine-tuning the Gemma-7B model on an A100 GPU on Google Colab. While the code ran without any errors, the duration reported by the library in the emissions seems to be incorrect.

In two trials, the total duration is reported as 33.5 seconds and 33.2 seconds, respectively, while the actual durations were closer to 30 minutes. I also recorded the emissions subtask-wise, and the durations for individual subtasks are reported as negative (e.g., -1723972816).

Since I did not face this issue with other notebooks I ran on Google Colab with other models and GPUs, as well as other models on the same GPU, I was wondering where the error came from in this scenario? Thanks!

Guida per i contributori

Apri la guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Direzione di ricerca

Riprodurre il report in Google Colab con CodeCarbon 2.6.0, il fine-tuning di Gemma-7B e una GPU A100, confrontando la durata totale e quella delle sottoattività con il tempo di esecuzione effettivo. Iniziare tracciando come vengono registrati i valori del tempo di esecuzione per i file delle emissioni e le sottoattività. Il lavoro è completato quando le durate sono non negative e corrispondono strettamente al tempo di esecuzione osservato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
backend
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
30/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.