huggingface / huggingface/diffusers

Help us profile important pipelines and improve if needed

オープン
#13,401 コメント 42 件 リアクション 2 件 担当者 0 名 GitHub で見る
diffusers-mvp performance
主要言語
Python
スター
34.5k
フォーク
7.3k
平均マージ
3日 3時間
マージ済み PR(30日)
91

説明

In https://github.com/huggingface/diffusers/pull/13356, we added a guide to comprehensively profile our pipelines with Claude. It, in turn, helped us get rid of issues that can get in the way of the benefits provided by `torch.compile`.

We cannot profile all our important pipelines alone, and this is where the community could really help us! In this thread, we want to gather interest from our community for such an initiative.

## How to take part?

* Take a pipeline of your choice (start with T2I or T2V first, as it's simpler than others). Then discuss with us here to gauge feasibility (not all pipelines are equally widely used). Tag `dg845` and `sayakpaul` while discussing.
* If there's mutual agreement, profile the pipeline following the steps outlined in the [guide](https://github.com/huggingface/diffusers/tree/main/examples/profiling).
* If there are fixes to be made, open a PR to ship the fixes. Also, include the results before and after those fixes.

## PRs merged with profiling-guided improvements

* QwenImage: https://github.com/huggingface/diffusers/pull/13406
* Z-Image: https://github.com/huggingface/diffusers/pull/13461
* LTX2: https://github.com/huggingface/diffusers/pull/13564

## PRs in progress

* None for now

## Pipelines worth profiling further

* QwenImage Edit
* SD3
* Flux.1-Kontext
* Ernie-Image
* Chroma
* JoyImage

Feel free to suggest yours, too!

Cc: @dg845

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

まず examples/profiling のガイドを読み、記載されている候補パイプラインを確認します。T2I または T2V パイプラインから始めてください。プロファイリングを行う前に、選択したパイプラインについて dg845 および sayakpaul と話し合ってください。プロファイリングの変更前と変更後の結果を提供し、特定された修正について PR を作成すれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
python, pytorch
領域
machine-learning, performance
issue の種類
リファクタリング
難易度
5/5
見積もり時間
1週間以上
活発さ
活発
明瞭さ
説明が足りない
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。