Azure / Azure/azure-sdk-for-python

Enhanced Mode prompt length differs between REST API (20,000 chars) and Python SDK (4,096 chars)

Aperta
#48,423 2 commenti 1 reazione 0 assegnatari Vedi su GitHub
Client customer-reported needs-team-attention question Service Attention Speech Transcription
Lingua principale
Python
Stelle
5.6k
Fork
3.4k
Merge medio
2g
PR unite (30g)
217

Descrizione

## **Summary**
The Enhanced Mode prompt length limit documented for the REST API is **20,000 characters**,
while the Python SDK documentation states a limit of **4,096 characters**.
This discrepancy causes confusion for users expecting consistent behavior across SDK and REST API.

## **REST API Documentation**
REST API documentation states that Enhanced Mode supports **up to 20,000 characters** for the prompt:

- [REST API documentation](https://learn.microsoft.com/en-us/azure/ai-services/speech-service/llm-speech?tabs=new-foundry%2Clinux%2Cwindows&pivots=programming-language-rest)

## **Python SDK Documentation**
Python SDK documentation states that the prompt limit is **4,096 characters**:

- [Python SDK documentation](https://learn.microsoft.com/en-us/azure/ai-services/speech-service/llm-speech?tabs=new-foundry%2Clinux%2Cwindows&pivots=programming-language-python)

## **Expected Behavior**
The Python SDK should either:
- support the same **20,000-character limit** as the REST API,
**or**
- clearly document why the SDK imposes a stricter limit.

## **Actual Behavior**
- REST API allows 20,000 characters.
- Python SDK documentation states 4,096 characters.
- This inconsistency makes it unclear which limit is authoritative for SDK users.

## **Questions for SDK Team**
1. Should the Python SDK support the REST API’s 20,000-character limit?
2. If not, what is the reason for the stricter SDK limit?
3. Should the SDK documentation be updated to clarify this discrepancy?

## **Environment**
- Package: `azure-ai-transcription`

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia confrontando la documentazione collegata della REST API e del Python SDK con il comportamento del pacchetto azure-ai-transcription. Conferma quale limite per il prompt impone l'SDK e se la differenza è intenzionale; il lavoro è completato quando il comportamento e la documentazione dell'SDK sono allineati, oppure quando il limite più restrittivo è spiegato chiaramente.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
api, documentation
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Tranquilla
Chiarezza
Abbastanza chiara
Idoneità per principianti
45/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.