arrayfire / arrayfire/arrayfire-ml

RNN Models

Aberta
#20 12 comentários 0 reações 1 responsável Reivindicada por @pavanky Ver no GitHub
feature
Linguagem predominante
C++
Estrelas
105
Forks
22
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

Once we have an implementation of the Layer Class https://github.com/arrayfire/arrayfire_ml/issues/17 , the Optimizer class and the DataSet class we can go about creating RNN flavors. There are 3 models that should be implemented:
- [ ] Vanilla RNN
- [ ] LSTM
- [ ] GRU

These will require the implementation of their derivatives and their forward prop values.
Certain details to consider:
- RNN's have a stack of weight matrices and bias' (not just 1 per Layer, thus the Layer needs to be general enough to handle this)
- The optimization needs to be handled via two methods:
- [ ] RTRL (real time recurrent learning) &
- [ ] BPTT (backprop through time)

To enable the above two methods of learning we should consider inheriting from Layer and implementing a Recurrent Layer.

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.