CosmicHorrorDev / CosmicHorrorDev/rust_text_classifier

Try out different tokenizers?

Aperta
#6 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
13
Fork
1
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

The current tokenizer is pretty unaware of the structure of the text. Situations to improve upon would be

## tokenizing links

Something like `http://www.google.com/useless/junk` gets transformed `[http, www, google, com, useless, junk]` when I think it would be better to just be `[http://www.google.com]` since talking about just http and https is common in rust and some links like `docs` or `github.com` are very good indicators

It also allows for actually using links like `v.reddit.com` and `i.reddit.com` that lose a lot of structure when tokenized

## tokenizing code

Code blocks are very common in r/rust posts yet much of the syntax is ignored when tokenizing. It would be good to either recognize the code block and retain certain information normally stripped out (like `::` or `->` for example), or it would likely just be enough to recognize a code block and classify if it's rust (since that would be very unlikely to see for the rust game

## tokenizing reddit specific things

This is primarily for certain reddit specific things like `/u/username` or `/r/subreddit`

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

La issue non indica file né test. Inizia individuando il tokenizer corrente e i relativi test, quindi confronta come vengono rappresentati i link, i blocchi di codice, la sintassi Rust e i percorsi Reddit. Il lavoro sarebbe completato quando sarà stato concordato l’ambito e i test dimostreranno che le strutture selezionate conservano le informazioni previste.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python, rust
Ambito
machine-learning
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.