ai-forever / ai-forever/spring-ai-gigachat
Возврат textContent и CallFunction при returnDirect=true
- Langage dominant
- Java
- Étoiles
- 49
- Forks
- 30
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
Возникла потребность получения от модели одновременно блока функций и контента. В нашем случае в контенте при вызове функции возвращается блок think - рассуждение модели.
пример ответа модели
```
{
"choices" : [ {
"message" : {
"content" : "Пользователь хочет узнать текущее время.\n",
"role" : "assistant",
"function_call" : {
"name" : "getTime",
"arguments" : { }
},
"functions_state_id" : "019971ad-6571-735e-b98c-d307b8358c38"
},
"index" : 0,
"finish_reason" : "function_call"
} ],
"created" : 1758548813,
"model" : "GigaChat-2-Max:2.0.28.2",
"object" : "chat.completion",
"usage" : {
"prompt_tokens" : 156,
"completion_tokens" : 25,
"total_tokens" : 181,
"precached_prompt_tokens" : 1
}
}
```
так же мы используем параметр returnDirect=true, для того что бы извлечь content.
в текущей реализации content теряется при маппинге в ответа модели в ChatResponse.
предлагаю сделать прокидывание через metadata в ChatResponse
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Évaluation
Cette issue n'a pas encore été évaluée.