神经网络的局限与发展

网上有关“神经网络的局限与发展”话题很是火热，小编也是针对神经网络的局限与发展寻找了一些与之相关的一些信息进行分析，如果能碰巧解决你现在面临的问题，希望能够帮助到您。

私以为，深度学习是基于多层神经网络结构的一种机器学习技术。即便深度学习已经广泛地应用于各个领域，也产生了无人驾驶、步态识别、人脸识别等重要应用，但是其短板也是致命的。比如前不久在美国发生的一起 Tesla 无人驾驶车撞上一台白色货车的严重事故，导致无人驾驶车上的乘客死亡。事后经调查发现事故的原因是当时车载的深度学习模型认为前方的白色货车是公路（因为货车通体白色）所以无人驾驶车没有减速就直接撞了上去。

显然，在开放环境下，深度学习技术还不够成熟。一方面原因是传统深度学习模型没有基于自然科学常识。

文章[1]介绍到日前 Bengio 团队提出了一种新型神经网络，将神经网络的输入变量从传统的二维矩阵拓展为图谱。图谱是一种去除了两条限制的矩阵[2]。笔者认为将深度学习的输入数据类型，从“有信息损耗的一维向量”向“无信息损耗的复杂数据类型”演进，是未来人工智能领域的研究趋势。

笔者也思考过类似的问题，为什么深度学习浪潮兴起于图像领域？我认为是这样的原因：图像的表示方法是矩阵，矩阵与一维向量是“近亲”，神经网络的输入是固定纬度的一维向量，根据“没有免费午餐定理”得出结论——图像数据特别适合于神经网络模型，所以深度学习能在图像领域大展拳脚。

笔者与学强师兄探讨过这样的问题，目前神经网络的模型更适合图像领域，那么对于自然语言处理领域，我们能否改进神经网络的底层输入是一维向量的现状，从而提出更适合自然语言处理的新型神经网络模型？

综上所述，传统的深度学习模型存在如下几个缺陷：

神经网络研究现状

神经网络的研究可以分为理论研究和应用研究两大方面。

理论研究可分为以下两类：

1、利用神经生理与认知科学研究人类思维以及智能机理。

2、利用神经基础理论的研究成果，用数理方法探索功能更加完善、性能更加优越的神经网络模型，深入研究网络算法和性能，如：稳定性、收敛性、容错性、鲁棒性等；开发新的网络数理理论，如：神经网络动力学、非线性神经场等。

应用研究可分为以下两类：

1、神经网络的软件模拟和硬件实现的研究。

2、神经网络在各个领域中应用的研究。这些领域主要包括

：模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等。随着神经网络理论本身以及相关理论、相关技术的不断发展，神经网络的应用定将更加深入。

神经网络计算机的发展历程

光谱分析因其能够灵敏、高精度、无破坏、快速地检测物质的化学成分和相对含量而广泛应用于分析化学、生物化学与分子生物学、农业、医学等领域。目前，光谱分析技术日趋成熟，引入光谱分析理论的高光谱遥感技术应用日益广泛，尤其是在农业领域，可以有效地获取农田信息、判断作物长势、估测作物产量、提取病害信息。光谱分析技术虽然具有很强的物质波谱“透视力”，但在分析 “同谱异物” 和 “异物同谱”等方面需要与现代分析手段相结合，如小波变换、卡尔曼滤波、人工神经网络（Artificial Neural Net－work，ANN）、遗传算法（Genetic Algorithm，GA）等。

在光谱分析领域，ANN多用于物质生化组分的定量分析（陈振宁等，2001；印春生等，2000），在光度分析中也有较多应用，如，于洪梅等（2002）利用ANN分析铬和锆的混合吸收光谱，并结合分光度法对二者进行测定。ANN在非线性校准与光谱数据处理等方面也有应用（Blank，1993；方利民等；2008）。而在模式识别中ANN应用最为广泛，如，Eiceman et al.（2006）利用遗传算法（是ANN的一种）对混合小波系数进行分类识别。

目前，自组织特征映射（Self－organizing Feature Maps，SOFM）神经网络在高光谱影像的模式识别方面，国内外还较少有研究与应用，而结合遥感波谱维光谱分析技术的应用研究就更少。SOFM常用于遥感图像处理方面，如，Moshou et al.（2005）利用SOFM神经网络进行数据融合，使分类误差减小到1％；Doucette et al.（2001）根据SOFM设计的SORM算法，从分类后的高分辨率影像中提取道路；Toivanen et al.（2003）利用SOFM神经网络从多光谱影像中提取边缘，并指出该方法可应用于大数据量影像边缘的提取；Moshou et al.（2006）根据5137个叶片的光谱数据，利用SOFM神经网络识别小麦早期黄锈病，准确率高达99％。然而，SOFM不需要输入模式期望值（在某些分类问题中，样本的先验类别是很难获取的），其区别于BP（Back Propagation）等其他神经网络模型最重要的特点是能够自动寻找样本的内在规律和本质属性，这大大地拓宽了SOFM在模式识别和分类方面的应用。

基于以上几点，本章从光谱分析的角度对高光谱遥感影像进行分析识别和信息提取，给出了在不同光谱模型下，高光谱数据的不同分解，之后利用SOFM对具有较高光谱重叠度的这些分解进行分类识别，结合光谱分析对采样点进行类别辨识，并通过对小麦条锈病的病情严重度信息提取，提出了高光谱影像波谱维光谱分析的新途径。

早在40年代，McCulloch和Pitts就已开始了以神经元作为逻辑器件的研究。60年代，Rosenblatt提出了模拟学习和识别功能的“感知机”模型，其构造和规则曾轰动一时，但终因此类机器严格的局限性而很快冷落下来。到1982年，Hopfield提出了一种新的理论模型。这一模型简明地反映了大脑神经系统的分布式记忆存储、内容寻址、联想以及局部细胞损坏不灵敏等特性。与此同时，神经网络在解决“推销员旅行”问题、语音识别、音乐片断的学习创作、英语智能读音系统等方面，都取得了令人鼓舞的结果。因此人工神经网络的研究热潮在80年代初期又重新兴起，成为多学科共同关注的跨学科新领域。不同学科研究神经网络的方法虽不尽相同，但目的都是为了探索大脑智能的机制和实现智能计算机。人工神经网络研究的进展，使研制神经网络计算机的历史任务落到了现代高科技的面前。这是社会对智能计算机的迫切需要。

关于“神经网络的局限与发展”这个话题的介绍，今天小编就给大家分享完了，如果对你有所帮助请保持对本站的关注！