Azure / Azure/azure-sdk-for-python

Azure AI Inference SDK fails to complete chat completion with gpt-4.1

Offen
#40,539 4 Kommentare 0 Reaktionen 1 zugewiesene Person Zugewiesen an @trangevi Auf GitHub ansehen
AI Model Inference Client customer-reported needs-team-attention question Service Attention
Vorherrschende Sprache
Python
Sterne
5.6k
Forks
3.4k
Ø Merge
2 T. 2 Std.
Gemergte PRs (30 T.)
202

Beschreibung

- **Package Name**: azure-ai-inference
- **Package Version**: 1.0.0b9
- **Operating System**: Windows 11
- **Python Version**: 3.12.9

**Describe the bug**
Chat completion request fails with
> **ERROR:**
> JSONDecodeError: Expecting value: line 1 column 1 (char 0)

**To Reproduce**
Steps to reproduce the behavior:
```python
client = ChatCompletionsClient(
endpoint=endpoint,
credential=AzureKeyCredential(os.getenv("AZURE_OPENAI_API_KEY"))
)

response = client.complete(
messages=[
SystemMessage(content="You are a helpful assistant."),
UserMessage(content="Where is Zurich?")
],
model="gpt-4.1"
)
```

**Expected behavior**
Return the chat completion result

**Screenshots**
n/a

**Additional context**
This works fine with any other AOAI model, it only fails with gpt-4.1

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.