Reducir alucinaciones
- Dominant language
- Shell
- Stars
- 1
- Forks
- 0
- PR merge metrics
- No merged PRs in 30d
Description
## Qué es esta tarea
Ajustar el prompt para que el modelo incluya secciones de "Descartado" (causas consideradas y por qué no encajan) y niveles de confianza (alta, media, baja) en cada hipótesis. Reduce la posibilidad de que el modelo afirme algo incorrecto con seguridad falsa.
## Qué se debe hacer
- Modificar el prompt para exigir:
- Sección "**Causas descartadas**" con al menos 2 causas alternativas y la razón de descarte
- Nivel de confianza (alta/media/baja) junto a cada hipótesis de causa raíz
- Si la evidencia es insuficiente, decirlo explícitamente en vez de adivinar
- Verificar con los escenarios de prueba que:
- El modelo no inventa causas sin evidencia
- La cascada (escenario 7) produce confianza diferenciada entre causa raíz (alta) y síntomas derivados (media/baja)
- Los escenarios negativos no producen diagnósticos cuando no hay problema
## Por qué importa
Un modelo de IA puede generar diagnósticos plausibles pero incorrectos con total seguridad ("alucinar"). Los niveles de confianza y la sección de descartados obligan al modelo a explicar su razonamiento — y al lector a juzgar la confiabilidad. Es la decisión de diseño 17.2 del documento de proyecto aplicada al prompt.
## Criterio de avance
Todos los informes incluyen la sección de causas descartadas y niveles de confianza. El modelo marca confianza baja cuando la evidencia es ambigua, y nunca afirma con confianza alta sin evidencia directa.
Contributor guide
Assessment
This issue has not been assessed yet.