[FEA]: Does cutile-python have plans to integrate NCCL as the communication backend?
Nessuno ha ancora preso questa issue.
- Lingua principale
- Python
- Stelle
- 2.2k
- Fork
- 155
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
Is this a new feature, an improvement, or a change to existing functionality?
New Feature
How would you describe the priority of this feature request?
High
Please provide a clear description of problem this feature solves
Integrating NCCL with CuTile-Python enables compute-communication operator fusion.
Feature Description
Are there plans to integrate NCCL as the communication backend? Thx.
Describe your ideal solution
def allgather_gemm():
nccl_device.allgather()
gemm()
Describe any alternatives you have considered
No response
Additional context
No response
Contributing Guidelines
- I agree to follow cuTile Python's contributing guidelines
- I have searched the open feature requests and have found no duplicates for this feature request
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
La issue non indica file, test o punti di ingresso. Inizia individuando le astrazioni per la comunicazione o i backend dei dispositivi di cuTile-Python e il supporto esistente per le operazioni collettive, quindi determina se l'integrazione di NCCL si adatta all'architettura del progetto. Il lavoro sarà considerato completato quando sarà definito l'ambito di implementazione per la comunicazione basata su NCCL e sarà stato validato un percorso per l'esempio allgather-plus-GEMM.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python
- Ambito
- distributed-systems
- Tipo di issue
- Funzionalità
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Stato di attività
- Tranquilla
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100