googleapis / googleapis/nodejs-agentplatform

Gemini 2.5 Flash - empty responses

Offen
#516 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
api: aiplatform priority: p3 type: question
Vorherrschende Sprache
TypeScript
Sterne
182
Forks
69
Ø Merge
1 T. 8 Std.
Gemergte PRs (30 T.)
10

Beschreibung

edit: is it actually because of there's no way to disable reasoning now, so it's consuming tokens and stops before final output is generated? However, I don't see the 'thinking' part in the response.

Hi,

Identical request works for Gemini 2.0 Flash / Flash-Lite, but doesn't work for 2.5 Flash.

Sample request for 2.5 Flash below.

Model options:
```
{
"model": "gemini-2.5-flash-preview-04-17",
"generationConfig": {
"maxOutputTokens": 150,
"temperature": 0.5,
"topP": 0.9,
"frequencyPenalty": 0
},
"systemInstruction": {
"role": "system",
"parts": [
{
"text": "Answer in Polish"
}
]
}
}
```

Contents:
```
[
{
"role": "user",
"parts": [
{
"text": "Hello, how are you?"
}
]
}
]
```

Response:
```
{
"candidates": [
{
"content": {
"role": "model",
"parts": [
{
"text": ""
}
]
},
"finishReason": "STOP",
"index": 0
}
],
"usageMetadata": {
"promptTokenCount": 9,
"totalTokenCount": 9,
"trafficType": "ON_DEMAND",
"promptTokensDetails": [
{
"modality": "TEXT",
"tokenCount": 9
}
]
},
"modelVersion": "gemini-2.5-flash-preview-04-17",
"createTime": "2025-04-23T13:40:26.355612Z",
"responseId": "yu0IaJzaFevA-O4P6JfmsQM"
}
```

Whereas a response for 2.0 Flash-Lite is:
```
{
"candidates": [
{
"content": {
"role": "model",
"parts": [
{
"text": "Cześć! Mam się dobrze, a Ty? (Hi! I'm doing well, and you?)\n"
}
]
},
"finishReason": "STOP",
"avgLogprobs": -0.13025762818076395,
"index": 0
}
],
"usageMetadata": {
"promptTokenCount": 9,
"candidatesTokenCount": 22,
"totalTokenCount": 31,
"trafficType": "ON_DEMAND",
"promptTokensDetails": [
{
"modality": "TEXT",
"tokenCount": 9
}
],
"candidatesTokensDetails": [
{
"modality": "TEXT",
"tokenCount": 22
}
]
},
"modelVersion": "gemini-2.0-flash-lite-001",
"createTime": "2025-04-23T13:44:22.320826Z",
"responseId": "tu4IaLrKE-_zmecPzdbj4AQ"
}
```

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Es wird keine Repository-Datei, kein Test und kein Einstiegspunkt genannt. Beginne damit, die Verarbeitung von Gemini-Anfragen und -Antworten zu lokalisieren, reproduziere dann die bereitgestellte Gemini 2.5 Flash-Anfrage und vergleiche sie mit der 2.0 Flash-Lite-Antwort. Als abgeschlossen gilt die Aufgabe, wenn festgestellt wurde, ob die leere Antwort von diesem Repository verarbeitet wird oder auf ein Upstream-Modell-/API-Verhalten zurückzuführen ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
typescript
Bereich
api
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.