Azure / Azure/azure-sdk-for-python

Enhanced Mode prompt length differs between REST API (20,000 chars) and Python SDK (4,096 chars)

Offen
#48,423 2 Kommentare 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen
Client customer-reported needs-team-attention question Service Attention Speech Transcription
Vorherrschende Sprache
Python
Sterne
5.6k
Forks
3.4k
Ø Merge
2 T.
Gemergte PRs (30 T.)
217

Beschreibung

## **Summary**
The Enhanced Mode prompt length limit documented for the REST API is **20,000 characters**,
while the Python SDK documentation states a limit of **4,096 characters**.
This discrepancy causes confusion for users expecting consistent behavior across SDK and REST API.

## **REST API Documentation**
REST API documentation states that Enhanced Mode supports **up to 20,000 characters** for the prompt:

- [REST API documentation](https://learn.microsoft.com/en-us/azure/ai-services/speech-service/llm-speech?tabs=new-foundry%2Clinux%2Cwindows&pivots=programming-language-rest)

## **Python SDK Documentation**
Python SDK documentation states that the prompt limit is **4,096 characters**:

- [Python SDK documentation](https://learn.microsoft.com/en-us/azure/ai-services/speech-service/llm-speech?tabs=new-foundry%2Clinux%2Cwindows&pivots=programming-language-python)

## **Expected Behavior**
The Python SDK should either:
- support the same **20,000-character limit** as the REST API,
**or**
- clearly document why the SDK imposes a stricter limit.

## **Actual Behavior**
- REST API allows 20,000 characters.
- Python SDK documentation states 4,096 characters.
- This inconsistency makes it unclear which limit is authoritative for SDK users.

## **Questions for SDK Team**
1. Should the Python SDK support the REST API’s 20,000-character limit?
2. If not, what is the reason for the stricter SDK limit?
3. Should the SDK documentation be updated to clarify this discrepancy?

## **Environment**
- Package: `azure-ai-transcription`

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne damit, die verlinkte Dokumentation zur REST API und zum Python SDK mit dem Verhalten des Pakets azure-ai-transcription zu vergleichen. Bestätige, welches Prompt-Limit das SDK erzwingt und ob der Unterschied beabsichtigt ist; abgeschlossen ist die Aufgabe, wenn das Verhalten und die Dokumentation des SDK übereinstimmen oder das strengere Limit eindeutig erklärt wird.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
python
Bereich
api, documentation
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Ruhig
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
45/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.