Softmax 是 NN 中的必备工具吗？

青葱年少 pytorch 221

原文标题 ：is Softmax a must have in NN?

我想知道softmax是否是多类（超过2个）分类神经网络中的必备品？我正在阅读一些堆栈溢出主题，我看到人们说有必要在最后一层使用 softmax，但我不确定是否真的有必要？ （这里是讨论的链接 https://stackoverflow.com/questions/70303466/do-i-need-to-apply-the-softmax-function-anywhere-in-my-multi-class-classificatio#:~: text=Yes%20you%20need,this%20is%20useful!) 据我所知，softmax 所做的只是将输出缩放到 0 到 1 之间，总和为 1。所以我不确定它是如何影响的整个网络和损失计算。提前感谢您的回答。

原文链接：https://stackoverflow.com//questions/71977904/is-softmax-a-must-have-in-nn

回复

我来回复
  • Poe Dator的头像
    Poe Dator 评论

    使用 softmax，您可以获得更容易解释的类概率。有一个很好的讨论here

    有人可能会说 NN 可以直接学习概率。虽然这是可能的 – 数字可能不是那么稳定，它们不会精确地增加到 100%。这就是 softmax 的帮助所在。

    如果您只需要最可能类的索引 – 您可以在预测阶段使用没有 softmax 的 argmax。但是对于训练阶段你仍然需要softmax。

    2年前 0条评论

相关问题