preguntar acerca de softmax

De la classe D'apprentissage profond D'Udacity , le softmax de y_i est simplement l'exponentielle divisée par la somme de l'exponentielle du vecteur Y entier: Où S(y_i) est la fonction softmax de y_i et e est l'exponentielle et j est le pas. de …

la plupart des exemples de réseaux neuronaux pour les tâches de classification que j'ai vu utiliser la couche a softmax comme fonction d'activation de sortie. Normalement, les autres unités cachées utilisent une fonction sigmoid, tanh, ou ReLu comme …

j'utilise un Softmax fonction d'activation dans la dernière couche d'un réseau neuronal. Mais j'ai des problèmes avec une mise en œuvre sûre de cette fonction. Une implémentation naïve serait celui-ci: Vector y = mlp(x); // output of the neural ne …