|
|
|
|
移动端

2.3.1 采样和维度

《深度学习与计算机视觉:算法原理、框架应用与代码实现》第2章 深度学习和计算机视觉中的基础数学知识,本章会尽量从定性的角度讲解一些与深度学习、计算视觉紧密联系的基础数学概念,不一定会很严谨细致,但力求简单、形象。本节为大家介绍采样和维度。

作者:叶韵来源:机械工业出版社|2017-11-16 17:55

年前最后一场技术盛宴 | 1月27日与京东、日志易技术大咖畅聊智能化运维发展趋势!


2.3.1  采样和维度

数据对于机器学习算法就像燃料之于火箭,本节先来看看高维度对数据的诅咒。先考虑一个简单的情况,对于一个长度为1的线段,均匀地采样10个点,如图2-22a所示。

而到了二维情况,以同样的间隔进行采样,则需要102=100个,如图2-22b。对于三维情况则是103=1000,如图2-22c。也就是说如果要保持每一维度的采样间隔,则采样点数量随着维度是指数增加,相应的计算在高维情况下是不现实的,这便是一个高维下的诅咒,我们可以定性将这个问题理解为高维度下如果要对采样空间有一个足够的认识,需要的样本是指数增加的。

要解决这个问题,也许有人要提到蒙特卡洛(Monte Carlo,MC)方法的思想,没错,蒙特卡洛是高维度下采样和求解积分的一个非常有效的手段,不过随机采样的效果其实也是受到样本维度和积分要求解的函数的复杂性影响的。当然蒙特卡洛方法和维度的关系不是我们要探讨的重点,不过可以从随机采样的方法出发,一步步来看看一些其他的高维空间下的奇妙性质。


喜欢的朋友可以添加我们的微信账号:

51CTO读书频道二维码


51CTO读书频道活动讨论群:365934973

【责任编辑:book TEL:(010)68476606】

回书目   上一节   下一节
点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

Windows Server 2003网络管理员完全手册

本书综合介绍了微软的Windows Server 2003操作系统和微软其他常用应用软件提供的服务,同时融入了作者在Windows网络管理上的多年实际应用经...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊