arrayfire / arrayfire/arrayfire-ml

RNN Models

オープン
#20 コメント 12 件 リアクション 0 件 担当者 1 名 @pavanky が担当を希望しています GitHub で見る
feature
主要言語
C++
スター
105
フォーク
22
PR マージ指標
30日以内にマージされた PR はありません

説明

Once we have an implementation of the Layer Class https://github.com/arrayfire/arrayfire_ml/issues/17 , the Optimizer class and the DataSet class we can go about creating RNN flavors. There are 3 models that should be implemented:
- [ ] Vanilla RNN
- [ ] LSTM
- [ ] GRU

These will require the implementation of their derivatives and their forward prop values.
Certain details to consider:
- RNN's have a stack of weight matrices and bias' (not just 1 per Layer, thus the Layer needs to be general enough to handle this)
- The optimization needs to be handled via two methods:
- [ ] RTRL (real time recurrent learning) &
- [ ] BPTT (backprop through time)

To enable the above two methods of learning we should consider inheriting from Layer and implementing a Recurrent Layer.

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。