ai-forever / ai-forever/spring-ai-gigachat

Возврат textContent и CallFunction при returnDirect=true

Ouverte
#48 2 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Java
Étoiles
49
Forks
30
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

Возникла потребность получения от модели одновременно блока функций и контента. В нашем случае в контенте при вызове функции возвращается блок think - рассуждение модели.

пример ответа модели
```
{
"choices" : [ {
"message" : {
"content" : "Пользователь хочет узнать текущее время.\n",
"role" : "assistant",
"function_call" : {
"name" : "getTime",
"arguments" : { }
},
"functions_state_id" : "019971ad-6571-735e-b98c-d307b8358c38"
},
"index" : 0,
"finish_reason" : "function_call"
} ],
"created" : 1758548813,
"model" : "GigaChat-2-Max:2.0.28.2",
"object" : "chat.completion",
"usage" : {
"prompt_tokens" : 156,
"completion_tokens" : 25,
"total_tokens" : 181,
"precached_prompt_tokens" : 1
}
}
```

так же мы используем параметр returnDirect=true, для того что бы извлечь content.
в текущей реализации content теряется при маппинге в ответа модели в ChatResponse.
предлагаю сделать прокидывание через metadata в ChatResponse

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Évaluation

Cette issue n'a pas encore été évaluée.

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.