gbdev / gbdev/database

Distinguish scraped from manually verified/corrected entries

Ouverte
#77 5 commentaires 1 réaction 0 personnes assignées Voir sur GitHub
schema
Langage dominant
C
Étoiles
95
Forks
52
Merge moyen
7 h 33 min
PR mergées (30 j)
1

Description

In the event of an active platform which is being scraped multiple times, it's a good idea to know which entries have been manually adjusted or corrected, so that their metadata is not overridden with a flawed or incomplete version.

An ideal solution, IMO, would be for the raw, scraped data to be stored separately from manually corrected/user-provided data. From there, they could be merged every time an update is performed.

An alternate solution would be for the metadata to contain the source of the information, allowing skipping such unwanted overrides in this way.

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

Commencez par localiser le flux de scraping et de mise à jour, puis examinez comment les métadonnées des entrées sont stockées et remplacées. Comparez la séparation des données brutes issues du scraping et des corrections de l’utilisateur avec l’enregistrement de la source de chaque champ. Le travail est terminé lorsque des scrapes répétés n’écrasent plus les métadonnées vérifiées ou corrigées manuellement.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Domaine
database
Type d'issue
Fonctionnalité
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
25/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.