AbrahamSanders / AbrahamSanders/codec-bpe

compression rate

Aberta
#2 6 comentários 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
77
Forks
8
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

good work!
I'm using 10M audio codecs to train codec-bpe with a `vocab_size=30k,num_codebook=4,codebook_size=1024`, after training I get a tokenizer and found the compression rate is nearly 1. For example, a 4s audio with 25hz, I get 400 audio codec tokens, and using codec-bpe I get about nearly the same token-size about more than 350 which is less then 1 ,`this can yield savings of 2-5x in sequence length compared to directly modeling the flattened codebooks `. I follow the steps in the readme, so can you share your codec-bpe tokenizer based on encodec or some other codec?

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.