Lec3 - Nature Inspired Computation and Applications...

Info iconThis preview shows pages 1–10. Sign up to view the full content.

View Full Document Right Arrow Icon
Nature Inspired Computation and Applications Laboratory Nature Inspired Computation and Applications Laboratory School of Computer Science and Technology University of Science and Technology of China Pattern Recognition Lecture 3 Non-Parametric Method Mar. 5th, 2011
Background image of page 1

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
Nature Inspired Computation and Applications Laboratory 主要内容 引言 概率密度的估计 • Parzen窗方法 • K n -近邻估计 • 最近邻规则 • 距离度量和最近邻分类 • 模糊分类 • RCE网络 • 级数展开逼近
Background image of page 2
Nature Inspired Computation and Applications Laboratory 主要内容 引言 概率密度的估计 • Parzen窗方法 • K n -近邻估计 • 最近邻规则 • 距离度量和最近邻分类 • 模糊分类 • RCE网络 • 级数展开逼近
Background image of page 3

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
Nature Inspired Computation and Applications Laboratory 引言 前面处理有监督学习过程的条件是: 假设概率密度函数的参数形式已知 实际上:一般概率密度的形式很少符合实际情况 -所有的经典的密度函数的参数形式都是单模的,只有单个局 部极大值,而现实情况通常是多模的 -高维概率密度可以表示成一些一维密度的乘积的假设通常不 成立 引入“非参数化方法” :不必假设密度参数形式已知,能 处理任意概率分布
Background image of page 4
Nature Inspired Computation and Applications Laboratory 非参数化方法 从训练样本中估计概率密度函数 直接估计后验概率 ) | ( j w x p ) | ( x w P j
Background image of page 5

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
Nature Inspired Computation and Applications Laboratory 主要内容 引言 概率密度的估计 • Parzen窗方法 • K n -近邻估计 • 最近邻规则 • 距离度量和最近邻分类 • 模糊分类 • RCE网络 • 级数展开逼近
Background image of page 6
Nature Inspired Computation and Applications Laboratory 概率密度的估计 一个向量 落在区域 中的概率为 因此,我们可以通过估计 来估计 假设 n 个样本 是根据概率密度函数 独立分布( i.i.d )的抽取而 得到的,那么其中 k 个样本落在区域 R 中的概率服从二项式定理: k 的期望值为 故比值 是概率 P 的一个很好的估计,当样本个数 n 很大的时候将非常准 确。 R x R dx x p P ' ) ' ( P p 1 x n x ) ( x p k n k k P P k n P ) 1 ( nP k ] [ n k /
Background image of page 7

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
Nature Inspired Computation and Applications Laboratory 概率密度的估计 假如 是连续的,并且区域 R 足够小,以至于区间中 几乎没 有变化,那么: V 为区域 R 保含的体积。 综上, 的估计为 存在问题: 总是有一定的变动,概率密度函数 总是存在 一定程度的平滑效果 怎么克服? ) ( x p V x p dx x p R ) ( ' ) ' ( p ) ( x p V n k x p / ) ( n k / ) ( x p
Background image of page 8
Nature Inspired Computation and Applications Laboratory 概率密度的估计 为估计一系列包含点 处的概率密度函数,构造一系列包含点
Background image of page 9

Info iconThis preview has intentionally blurred sections. Sign up to view the full version.

View Full DocumentRight Arrow Icon
Image of page 10
This is the end of the preview. Sign up to access the rest of the document.

This note was uploaded on 06/16/2011 for the course CS 1256 taught by Professor Tangke during the Spring '10 term at USTC.