Abraxas-365 / Abraxas-365/langchain-rust

Add support for https://github.com/EricLBuehler/mistral.rs

未關閉
#154 0 則留言 2 個 reaction 已指派 0 人 在 GitHub 檢視
主要語言
Rust
星號
1.3k
分支
177
PR 合併指標
30 天內沒有已合併 PR

描述

Would be great to add support for https://github.com/EricLBuehler/mistral.rs. This allows the inference to be embedded in the binary.

貢獻指南

開啟貢獻指南

研究方向

Look at the existing LLM provider integrations in the codebase, likely under a directory like `langchain_rust/llms/` or `langchain_rust/integrations/`. Understand how the `mistral.rs` crate works and how to embed its inference. The goal is to create a new struct implementing the existing LLM trait, handling the API differences. Check for existing tests for other providers to understand the expected interface.

由索引模型根據 Issue 內容生成。

評估

技術堆疊
rust
領域
ai-infra-agents, backend
Issue 類型
功能
難度
4/5
預估耗時
3-5 天
活躍度
停滯
描述清晰度
基本清楚
新手友好度
45/100

把新 issue 寄到你的電子郵件信箱

精選適合新手參與的 GitHub issue 摘要。