googleapis / googleapis/nodejs-agentplatform

Gemini 2.5 Flash - empty responses

Aperta
#516 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
api: aiplatform priority: p3 type: question
Lingua principale
TypeScript
Stelle
182
Fork
69
Merge medio
1g 8h
PR unite (30g)
10

Descrizione

edit: is it actually because of there's no way to disable reasoning now, so it's consuming tokens and stops before final output is generated? However, I don't see the 'thinking' part in the response.

Hi,

Identical request works for Gemini 2.0 Flash / Flash-Lite, but doesn't work for 2.5 Flash.

Sample request for 2.5 Flash below.

Model options:
```
{
"model": "gemini-2.5-flash-preview-04-17",
"generationConfig": {
"maxOutputTokens": 150,
"temperature": 0.5,
"topP": 0.9,
"frequencyPenalty": 0
},
"systemInstruction": {
"role": "system",
"parts": [
{
"text": "Answer in Polish"
}
]
}
}
```

Contents:
```
[
{
"role": "user",
"parts": [
{
"text": "Hello, how are you?"
}
]
}
]
```

Response:
```
{
"candidates": [
{
"content": {
"role": "model",
"parts": [
{
"text": ""
}
]
},
"finishReason": "STOP",
"index": 0
}
],
"usageMetadata": {
"promptTokenCount": 9,
"totalTokenCount": 9,
"trafficType": "ON_DEMAND",
"promptTokensDetails": [
{
"modality": "TEXT",
"tokenCount": 9
}
]
},
"modelVersion": "gemini-2.5-flash-preview-04-17",
"createTime": "2025-04-23T13:40:26.355612Z",
"responseId": "yu0IaJzaFevA-O4P6JfmsQM"
}
```

Whereas a response for 2.0 Flash-Lite is:
```
{
"candidates": [
{
"content": {
"role": "model",
"parts": [
{
"text": "Cześć! Mam się dobrze, a Ty? (Hi! I'm doing well, and you?)\n"
}
]
},
"finishReason": "STOP",
"avgLogprobs": -0.13025762818076395,
"index": 0
}
],
"usageMetadata": {
"promptTokenCount": 9,
"candidatesTokenCount": 22,
"totalTokenCount": 31,
"trafficType": "ON_DEMAND",
"promptTokensDetails": [
{
"modality": "TEXT",
"tokenCount": 9
}
],
"candidatesTokensDetails": [
{
"modality": "TEXT",
"tokenCount": 22
}
]
},
"modelVersion": "gemini-2.0-flash-lite-001",
"createTime": "2025-04-23T13:44:22.320826Z",
"responseId": "tu4IaLrKE-_zmecPzdbj4AQ"
}
```

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Non viene indicato alcun file del repository, test o punto di ingresso. Inizia individuando la gestione delle richieste e delle risposte di Gemini, quindi riproduci la richiesta fornita di Gemini 2.5 Flash e confrontala con la risposta di 2.0 Flash-Lite. Il lavoro è completato quando viene identificato se la risposta vuota è gestita da questo repository o se è un comportamento upstream del modello/API.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
typescript
Ambito
api
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.