NVIDIA / NVIDIA/cutile-python

[FEA]: Does cutile-python have plans to integrate NCCL as the communication backend?

Aperta
#65 3 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

feature request status: in-progress
Lingua principale
Python
Stelle
2.2k
Fork
155
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Is this a new feature, an improvement, or a change to existing functionality?

New Feature

How would you describe the priority of this feature request?

High

Please provide a clear description of problem this feature solves

Integrating NCCL with CuTile-Python enables compute-communication operator fusion.

Feature Description

Are there plans to integrate NCCL as the communication backend? Thx.

Describe your ideal solution

def allgather_gemm():
nccl_device.allgather()
gemm()

Describe any alternatives you have considered

No response

Additional context

No response

Contributing Guidelines
  • I agree to follow cuTile Python's contributing guidelines
  • I have searched the open feature requests and have found no duplicates for this feature request

Guida per i contributori

Apri la guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Direzione di ricerca

La issue non indica file, test o punti di ingresso. Inizia individuando le astrazioni per la comunicazione o i backend dei dispositivi di cuTile-Python e il supporto esistente per le operazioni collettive, quindi determina se l'integrazione di NCCL si adatta all'architettura del progetto. Il lavoro sarà considerato completato quando sarà definito l'ambito di implementazione per la comunicazione basata su NCCL e sarà stato validato un percorso per l'esempio allgather-plus-GEMM.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
distributed-systems
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Tranquilla
Chiarezza
Da chiarire
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.