文献类型：期刊文献

中文题名：网络泛化能力与随机扩展训练集

英文题名：Generalization of networks and random expanded training sets

作者：杨慧中[1];卢鹏飞[1];张素贞[2];陶振麟[2]

机构：[1]江南大学通信与控制工程学院,江苏无锡214036;[2]华东理工大学自动化研究所,上海200237

年份：2002

卷号：19

期号：6

起止页码：963

中文期刊名：控制理论与应用

外文期刊名：Control Theory & Applications

收录：CSTPCD;;Scopus;北大核心:【北大核心2000】；CSCD:【CSCD2011_2012】；

语种：中文

中文关键词：随机扩展训练集;前馈神经网络;泛化能力;最大局部熵密度函数;Chebyshev不等式;概率密度估计

外文关键词：feed forward neural networks; generalization; locally most entropic probability density function; Chebyshev inequality

摘要：针对神经网络的过拟合和泛化能力差的问题 ,研究了样本数据的输入输出混合概率密度函数的局部最大熵密度估计 ,提出了运用Chebyshev不等式的样本参数按类分批自校正方法 ,以此估计拉伸样本集 ,得到新的随机扩充训练集 .使估计质量更高 ,效果更好 .仿真结果证明用这种方法训练的前馈神经网络具有较好的泛化性能 .
Aiming at the problems of over-fitting and generalization for neural networks, the locally most entropic colored Gaussian joint input-output probability density function (PDF) estimate is studied, and a new method by means of Chebyshev inequality is proposed to self-revise respectively according to every cluster. In terms of the method, a random expanded training set is obtained. The simulation results illustrate that generalization of feed forward neural networks using the expanded training sets is greatly improved.