K-Forge / K-Forge/Beetle

Reducir alucinaciones

Open
#194 0 comments 0 reactions 1 assignee Claimed by @iCastro117 View on GitHub
fase-5
Dominant language
Shell
Stars
1
Forks
0
PR merge metrics
No merged PRs in 30d

Description

## Qué es esta tarea

Ajustar el prompt para que el modelo incluya secciones de "Descartado" (causas consideradas y por qué no encajan) y niveles de confianza (alta, media, baja) en cada hipótesis. Reduce la posibilidad de que el modelo afirme algo incorrecto con seguridad falsa.

## Qué se debe hacer

- Modificar el prompt para exigir:
- Sección "**Causas descartadas**" con al menos 2 causas alternativas y la razón de descarte
- Nivel de confianza (alta/media/baja) junto a cada hipótesis de causa raíz
- Si la evidencia es insuficiente, decirlo explícitamente en vez de adivinar
- Verificar con los escenarios de prueba que:
- El modelo no inventa causas sin evidencia
- La cascada (escenario 7) produce confianza diferenciada entre causa raíz (alta) y síntomas derivados (media/baja)
- Los escenarios negativos no producen diagnósticos cuando no hay problema

## Por qué importa

Un modelo de IA puede generar diagnósticos plausibles pero incorrectos con total seguridad ("alucinar"). Los niveles de confianza y la sección de descartados obligan al modelo a explicar su razonamiento — y al lector a juzgar la confiabilidad. Es la decisión de diseño 17.2 del documento de proyecto aplicada al prompt.

## Criterio de avance

Todos los informes incluyen la sección de causas descartadas y niveles de confianza. El modelo marca confianza baja cuando la evidencia es ambigua, y nunca afirma con confianza alta sin evidencia directa.

Contributor guide

Open the contributing guide

Assessment

This issue has not been assessed yet.

Get new issues in your inbox

A short digest of beginner-friendly GitHub issues.