|
|
|
|
移动端

2.3.1 采样和维度

《深度学习与计算机视觉:算法原理、框架应用与代码实现》第2章 深度学习和计算机视觉中的基础数学知识,本章会尽量从定性的角度讲解一些与深度学习、计算视觉紧密联系的基础数学概念,不一定会很严谨细致,但力求简单、形象。本节为大家介绍采样和维度。

作者:叶韵来源:机械工业出版社|2017-11-16 17:55

2.3.1  采样和维度

数据对于机器学习算法就像燃料之于火箭,本节先来看看高维度对数据的诅咒。先考虑一个简单的情况,对于一个长度为1的线段,均匀地采样10个点,如图2-22a所示。

而到了二维情况,以同样的间隔进行采样,则需要102=100个,如图2-22b。对于三维情况则是103=1000,如图2-22c。也就是说如果要保持每一维度的采样间隔,则采样点数量随着维度是指数增加,相应的计算在高维情况下是不现实的,这便是一个高维下的诅咒,我们可以定性将这个问题理解为高维度下如果要对采样空间有一个足够的认识,需要的样本是指数增加的。

要解决这个问题,也许有人要提到蒙特卡洛(Monte Carlo,MC)方法的思想,没错,蒙特卡洛是高维度下采样和求解积分的一个非常有效的手段,不过随机采样的效果其实也是受到样本维度和积分要求解的函数的复杂性影响的。当然蒙特卡洛方法和维度的关系不是我们要探讨的重点,不过可以从随机采样的方法出发,一步步来看看一些其他的高维空间下的奇妙性质。


喜欢的朋友可以添加我们的微信账号:

51CTO读书频道二维码


51CTO读书频道活动讨论群:365934973

【责任编辑:book TEL:(010)68476606】

回书目   上一节   下一节
点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

鸟哥的Linux私房菜——服务器架设篇(第二版)

本书是对连续三年蝉联畅销书排行榜前10名的《Linux鸟哥私房菜——服务器架设篇》的升级版,新版本根据目前服务器与网络环境做了大幅度修订...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊