Angel-ML / Angel-ML/angel

Word2vec concurrent exception

オープン
#799 コメント 4 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Java
スター
6.8k
フォーク
1.6k
平均マージ
44分
マージ済み PR(30日)
1

説明

我在spark集群上提交了word2vec配置如下(spark-submit):
spark.ps.instances=10
spark.ps.cores=2
spark.ps.memory=35g
spark.driver.memory=35g
spark.driver.memory=35g
集群核数为189,内存总量为2T+

模型参数为batch_size=4096,negative=10,window=5,**embedding=20**

我的数据集大小为400+G,节点个数为1.4+亿。

![屏幕快照 2019-06-24 下午3 16 13](https://user-images.githubusercontent.com/22898959/59998891-249ae280-9693-11e9-825b-8f6da36bd4c0.png)
![屏幕快照 2019-06-24 下午3 16 33](https://user-images.githubusercontent.com/22898959/59998946-409e8400-9693-11e9-83dc-ab31eaa45695.png)
![屏幕快照 2019-06-24 下午3 18 28](https://user-images.githubusercontent.com/22898959/59998974-56ac4480-9693-11e9-9478-905ece6817cb.png)
增加了ps内存是根据文档介绍来设的,再加一些还是报这个错
请问,这个问题有啥建议吗

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。