a16z-infra / a16z-infra/llama2-chatbot

How can I add another model and execute it?

Ouverte
#31 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Python
Étoiles
1.4k
Forks
219
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

well, I want to add a model 7b, actually I'm not very interested in Llama

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

L’issue demande d’ajouter un nouveau modèle 7B, mais ne précise pas de quel modèle il s’agit et ne fournit aucun détail sur les modifications nécessaires. Commence par examiner le code de chargement et de configuration des modèles du projet, probablement dans des fichiers comme app.py ou dans un répertoire models/. Comprends ensuite le fonctionnement de l’intégration actuelle de LLaMA v2, puis recherche comment intégrer une architecture de modèle différente (comme un autre modèle 7B) au framework de chatbot existant. « Done » signifie que le nouveau modèle peut être sélectionné et exécuté via l’interface du chatbot.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Domaine
ai
Type d'issue
Fonctionnalité
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
20/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.