aboutcode-org / aboutcode-org/vulnerablecode-ai-experiments

Fine-tune prompt templates and add A/B prompt tests

Aberta
#3 4 comentários 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
2
Forks
6
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

- [ ] Create prompts/ with versioned prompt templates (e.g., prompts/prompt_v1.py, prompts/prompt_v2.py).

- [ ] Build an A/B test runner in test/ab_test.py that runs multiple prompt templates against the same dataset and produces comparative metrics.

- [ ] Store results and recommend the best model/prompt per metric.

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.