|
|
51CTO旗下网站
|
|
移动端

2.5.12 Softmax:将输出转换为概率

《深度学习与计算机视觉:算法原理、框架应用与代码实现》第2章 深度学习和计算机视觉中的基础数学知识,本章会尽量从定性的角度讲解一些与深度学习、计算视觉紧密联系的基础数学概念,不一定会很严谨细致,但力求简单、形象。本节为大家介绍Softmax:将输出转换为概率。

作者:叶韵来源:机械工业出版社|2017-11-16 18:36

2.5.12  Softmax:将输出转换为概率

对于一个logistic函数,如果令z=(wx+b)/2,则可以化为如下形式:

根据定义,z是一个关于x的仿射变换,其实就代表着x为某一类别的概率的一种原始度量。这时候再来看公式2-53的形式,logistic函数做的事情,其实就是把一个样本属于两个类的可能性的这种原始度量通过ez做指数运算,求和作为分母。然后对于某一类,直接用ez转化的值作为分子,这个比值作为最后样本属于某一类的概率。所以就是利用ez可以把任何实数转换成一个大于0的数的特性,做了归一化而已。

还是考虑图2-54所示的例子,假设w=1,b=0。如果一个样本投影在x轴上的值为2,则z=1,所以该样本属于○的概率大一些。因为图2-54所示二分类例子的对称性,从△的角度来看,z=-1,最后计算概率的时候就是e1/(e1+e-1)=0.88。

上面说的这种思路,可以轻易地拓展到多分类问题,就是softmax。对于一个n分类问题,给定输入x属于第i类(yi)的一种原始度量h(x,yi),softmax计算的属于某一类的概率为:


喜欢的朋友可以添加我们的微信账号:

51CTO读书频道二维码


51CTO读书频道活动讨论群:365934973

【责任编辑:book TEL:(010)68476606】

回书目   上一节   下一节
点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

Cisco CCNA 640-801

Cisco 640-801 Cisco® Certified Network Associate (CCNA®) Q&A with explanations Version 93.0...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊