Support for 4bit or 8bit tensor

Although it may be out of scope, it would be nice to have an example of computing 4bit and 8bit tensors, to save memory bandwidth.

Nenhum arquivo, teste ou ponto de entrada é especificado. Primeiro, esclareça a representação pretendida dos tensores de 4-bit e 8-bit e o escopo esperado do exemplo; em seguida, identifique os pontos de entrada relevantes para tensores e computação em GPU; a implementação deve incluir um exemplo funcional que demonstre a largura de banda de memória reduzida solicitada.

Escrita pelo modelo de indexação a partir do texto da issue.