|
|
|
|
移动端

2.5.12 Softmax:将输出转换为概率

《深度学习与计算机视觉:算法原理、框架应用与代码实现》本书全面介绍了深度学习及计算机视觉中最基础的知识,并结合最常见的应用场景和大量实例,带领读者进入丰富多彩的计算机视觉领域。作为一本“原理+实践”教程,本书在讲解原理的基础上,通过有趣的实例带领读者一步步亲自动手,不断提高动手能力,而不是枯燥和深奥原理的堆砌。本节为大家介绍Softmax:将输出转换为概率。

作者:叶韵来源:机械工业出版社|2017-10-23 17:18

开发者盛宴来袭!7月28日51CTO首届开发者大赛决赛带来技术创新分享

2.5.12  Softmax:将输出转换为概率

对于一个logistic函数,如果令z=(wx+b)/2,则可以化为如下形式:

 

根据定义,z是一个关于x的仿射变换,其实就代表着x为某一类别的概率的一种原始度量。这时候再来看公式2-53的形式,logistic函数做的事情,其实就是把一个样本属于两个类的可能性的这种原始度量通过ez做指数运算,求和作为分母。然后对于某一类,直接用ez转化的值作为分子,这个比值作为最后样本属于某一类的概率。所以就是利用ez可以把任何实数转换成一个大于0的数的特性,做了归一化而已。

还是考虑图2-54所示的例子,假设w=1,b=0。如果一个样本投影在x轴上的值为2,则z=1,所以该样本属于○的概率大一些。因为图2-54所示二分类例子的对称性,从△的角度来看,z=-1,最后计算概率的时候就是e1/(e1+e-1)=0.88。

上面说的这种思路,可以轻易地拓展到多分类问题,就是softmax。对于一个n分类问题,给定输入x属于第i类(yi)的一种原始度量h(x,yi),softmax计算的属于某一类的概率为:

喜欢的朋友可以添加我们的微信账号:

51CTO读书频道二维码


51CTO读书频道活动讨论群:365934973

【责任编辑:book TEL:(010)68476606】

回书目   上一节   下一节
点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

超级网管员——网络基础

本书全面系统地概括了计算机网络的基本理论,详细阐述了OSI模型与网络协议、网络规划与综合布线、对等网络与服务器/客户端网络、Intranet服...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊