VC维

VC 维是衡量函数类的复杂度的一种方式，通过评估函数类中函数的弯曲程度实现。WIKI上的解释是：空间中的点在经过排列之后，能够被模型f打散(shatter)的最大数量。

通过y=a_0+a_1^Tx将平面分割为两部分，如果满足平面中任意N个点（无论如何取值）总能被一条直线分开，而N+1个点却不行，则称该函数情况下的VC维为N。

image.png

举个无穷的VC维的例子：

f(x,a)=I(sina*x)

image.png

从这两个例子，可以看出VC维刻画了函数的弯曲程度，越弯曲其VC维越大。

©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容

  • VC维的来龙去脉
    本文转自：VC维的来龙去脉 目录： 说说历史 Hoeffding不等式 Connection to Learnin...
    井底蛙蛙呱呱呱阅读 3,182评论 0赞 2
  • 5. VC维
    定义 计算感知器的VC维 VC维的详细解释 将理论泛化为简单形式 定义 假设集合H的VC维记为：dVC(H) ，是...
    edwin1993阅读 1,161评论 0赞 0
  • 【机器学习基础】VC维与模型复杂度、样本复杂度
    引言 上一小节，我们引入了VC维的概念，用它来描述假设集合的表达能力。这一小节中，我们将从VC维的物理意义出发，进...
    JasonDing阅读 6,424评论 0赞 6
  • 关于VC维 2D分类器的例子 补充说明
    这篇文章仅面向 对于各篇博客中二维分类器VC维=3的描述 产生疑问的同学。 原因是有些博客的叙述逻辑容易让读者产生...
    米粒_Melxy阅读 611评论 0赞 0
  • VC维
    做一个大概的自我理解的记录。 可以理解为函数的弯曲程度也可以理解为模型的极限能力。例如一个平面上有三个点（只要他们...
    愤怒的熊猫V阅读 299评论 1赞 0