tensorflow / tensorflow/java

Exception in thread "main" org.tensorflow.exceptions.TensorFlowException: No gradient defined for op: SelectV2.

オープン
#437 コメント 1 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

主要言語
Java
スター
928
フォーク
227
PR マージ指標
30日以内にマージされた PR はありません

説明

env :
tensorflow-java : 0.5.0-SNAPSHOT
scala :2.12.11
java : jdk 15
Hi :
when I defined a tf Variable named embeddings ,and want to do some operation with it, invoke the callone method

def clipByNormTF[T <: TNumber](someNums: Operand[T], clipNormBias: Operand[T], axis: Operand[TInt32], tf: Ops): Output[TFloat32] = {
    try {

      val l2sum = tf.reduceSum(tf.math.square(tf.dtypes.cast(someNums, classOf[TFloat64])), axis, ReduceSum.keepDims(true))
      val pred = tf.math.greater(l2sum, tf.constant(0.0))
      println("Here will crash !!! please ")
      val l2sumSafe = tf.select(pred, l2sum, tf.onesLike(l2sum))
      val l2norm = tf.select(pred, tf.math.sqrt(l2sumSafe), l2sum)

      val intermediate = tf.math.mul(tf.dtypes.cast(someNums, classOf[TFloat64]), tf.dtypes.cast(clipNormBias, classOf[TFloat64]))
      val valuesClip = tf.identity(tf.math.divNoNan(intermediate, tf.math.maximum(l2norm, tf.dtypes.cast(clipNormBias, classOf[TFloat64]))))
      if (someNums.shape().isCompatibleWith(intermediate.shape())) {
        println(s"match the shape ${someNums.shape().get(0)} ${someNums.shape().get(1)}  || ${intermediate.shape().get(0)} ${intermediate.shape().get(1)}")

        tf.dtypes.cast(valuesClip, classOf[TFloat32]).asOutput()
      } else {
        println(s"can not match the shape ${someNums.shape().get(0)} ${someNums.shape().get(1)}  || ${intermediate.shape().get(0)} ${intermediate.shape().get(1)}")
        throw new Exception("bad shape")
      }
    }

  def callOne(tf: Ops, input: Operand[T]): Operand[TFloat32] = {
    println(s"Embedding Layer ${this.layerName} input compute shape ${input.shape().asArray().mkString("|")}")
    val inputZ = tf.dtypes.cast(input, classOf[TInt32])
    val gatherResult = tf.gather(this.embeddings, inputZ, tf.constant(0))
    val gr = tf.dtypes.cast(gatherResult, classOf[TFloat32])
    val result = clipByNormTF(gr, tf.constant(this.maxNormBias), tf.constant(Array(1, 0)), tf)
    println(s"Embedding Layer call result shape  ${this.layerName}  compute output shape ${result.shape().asArray().mkString("|")}")
    result
  }


meet to error console

Exception in thread "main" org.tensorflow.exceptions.TensorFlowException: No gradient defined for op: SelectV2. Please see https://www.tensorflow.org/code/tensorflow/cc/gradients/README.md for instructions on how to add C++ gradients.
	at org.tensorflow.internal.c_api.AbstractTF_Status.throwExceptionIfNotOK(AbstractTF_Status.java:101)
	at org.tensorflow.Graph.addGradients(Graph.java:1152)
	at org.tensorflow.Graph.addGradients(Graph.java:703)
	at org.tensorflow.op.core.Gradients.create(Gradients.java:104)
	at org.tensorflow.op.core.Gradients.create(Gradients.java:125)
	at org.tensorflow.op.Ops.gradients(Ops.java:2814)

I do not know why , feel appreciate help me ,thanks

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

提供されている clipByNormTF と callOne のコード、および Graph.addGradients、Gradients.create、Ops.gradients を経由するスタックトレースから始めます。tensorflow-java 0.5.0-SNAPSHOT、Scala 2.12.11、JDK 15 で SelectV2 の失敗を再現します。完了条件は、勾配の動作または適切な修正が検証されることです。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java, scala
領域
machine-learning
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
30/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。