Abraxas-365 / Abraxas-365/langchain-rust

Add support for https://github.com/EricLBuehler/mistral.rs

Aberta
#154 0 comentários 2 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Rust
Estrelas
1.3k
Forks
177
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

Would be great to add support for https://github.com/EricLBuehler/mistral.rs. This allows the inference to be embedded in the binary.

Guia de contribuição

Abrir o guia de contribuição

Direção de pesquisa

Look at the existing LLM provider integrations in the codebase, likely under a directory like `langchain_rust/llms/` or `langchain_rust/integrations/`. Understand how the `mistral.rs` crate works and how to embed its inference. The goal is to create a new struct implementing the existing LLM trait, handling the API differences. Check for existing tests for other providers to understand the expected interface.

Escrita pelo modelo de indexação a partir do texto da issue.

Avaliação

Stack de tecnologia
rust
Domínio
ai-infra-agents, backend
Tipo de issue
Funcionalidade
Dificuldade
4/5
Tempo estimado
3-5 dias
Status de atividade
Estagnada
Clareza
Razoavelmente clara
Facilidade para iniciantes
45/100

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.