Abraxas-365 / Abraxas-365/langchain-rust
Add support for https://github.com/EricLBuehler/mistral.rs
Aberta
- Linguagem predominante
- Rust
- Estrelas
- 1.3k
- Forks
- 177
- Métricas de merge de PRs
- Nenhum PR com merge em 30d
Descrição
Would be great to add support for https://github.com/EricLBuehler/mistral.rs. This allows the inference to be embedded in the binary.
Guia de contribuição
Direção de pesquisa
Look at the existing LLM provider integrations in the codebase, likely under a directory like `langchain_rust/llms/` or `langchain_rust/integrations/`. Understand how the `mistral.rs` crate works and how to embed its inference. The goal is to create a new struct implementing the existing LLM trait, handling the API differences. Check for existing tests for other providers to understand the expected interface.
Escrita pelo modelo de indexação a partir do texto da issue.
Avaliação
- Stack de tecnologia
- rust
- Domínio
- ai-infra-agents, backend
- Tipo de issue
- Funcionalidade
- Dificuldade
- 4/5
- Tempo estimado
- 3-5 dias
- Status de atividade
- Estagnada
- Clareza
- Razoavelmente clara
- Facilidade para iniciantes
- 45/100