感知器为什么不能表示线性不可分问题

1.谁能说一下“感知器神经网络的应用”

常用神经网络模型及其应用评述 神经网络是由大量处理单元(神经元)互相连接而成的网络,实际上ANN并不完全模拟了生物的神经系统,而是一种抽象、简化和模拟。

神经网络的信息处理通过神经元的相互作用来实现,知识与信息的存贮表现在网络元件互连的分布式结构与联系,神经网络的学习和识别各神经元连接权系数的动态演化过程。实践中常用的基本神经网络模型有:感知器神经网络、线性神经网络、BP神经网络、径向基神经网络、自组织神经网络、反馈网络等。

1、感知器神经网络: 是一个具有单层计算神经元的神经网络,网络的传递函数是线性阈值单元。原始的感知器神经网络只有一个神经元。

主要用来模拟人脑的感知特征,由于采取阈值单元作为传递函数,所以只能输出两个值,适合简单的模式分类问题。当感知器用于两类模式分类时,相当于在高维样本空间用一个超平面将两类样本分开,但是单层感知器只能处理线性问题,对于非线性或者线性不可分问题无能为力。

假设p是输入向量,w是权值矩阵向量,b为阈值向量,由于其传递函数是阈值单元,也就是所谓的硬限幅函数,那么感知器的决策边界就是wp+b,当wp+b>=0时,判定类别1,否则判定为类别2。 ——感知器网络的学习规则:假设p为输入向量,e为学习误差,t为目标向量,则学习的基本原理描述如下: 权值增量——^W=(t-a)p'=ep';阈值增量——^b=(t-a)(1)=e;权值更新——W(n+1)=W(n)+^W;阈值更新——b(n+1)=b(n)+^b; 由学习规则可以发现,学习规则严重的受到输入向量p的大小变化影响。

当输入向量的样本数据包含奇异点时,往往会导致感知器神经网络的学习训练时间加长,为了消除训练时间对于奇异样本的敏感性,工程上常采用归一化的感知器算法。即^W=(t-a)p'/||p||。

——感知器模型简单易于实现,缺点是仅能解决线性可分问题。解决线性不可分问题途径:一是采用多层感知器模型,二是选择功能更加强大的神经网络模型。

2、线性神经网络: ——线性神经网络是比较简单的一种神经网络,由一个或者多个线性神经元构成。采用线性函数作为传递函数,所以输出可以是任意值。

线性神经网络可以采用基于最小二乘LMS的Widrow-Hoff学习规则调节网络的权值和阈值,和感知器一样,线性神经网络只能处理反应输入输出样本向量空间的线性映射关系,也只能处理线性可分问题。目前线性神经网络在函数拟合、信号滤波、预测、控制等方面有广泛的应用。

线性神经网络和感知器网络不同,它的传递函数是线性函数,输入和输出之间是简单的纯比例关系,而且神经元的个数可以是多个。只有一个神经元的线性神经网络仅仅在传递函数上和感知器不同,前者是线性函数的传递函数,后者是阈值单元的传递函数,仅此而已。

——线性神经网络的学习规则: W(k+1)=W(k)+yita(t(k)-p(k))p(k)'=W(k)+yita*e(k)*p(k)'; b(K+1)=b(k)+yita*e(k);yita是学习速率,yita比较大的时候,学习速率加快,但是有可能使得网络的学习进程变得不稳定,反之亦然。 ——线性神经网络的局限性:线性神经网络只能反应输入和输出样本向量空间的线性映射关系。

由于线性神经网络的误差曲面是一个多维抛物面,所以在学习速率足够小的情况下,对于基于最小二乘梯度下降原理进行训练的神经网络总是可以找到一个最优解。尽管如此,对线性神经网络的训练并不能一定总能达到零误差。

线性神经网络的训练性能要受到网络规模、训练集大小的限制。若神经网络的自由度(所有权值和阈值的总个数)小于样本空间中输入-输出向量的个数,而且各样本向量线性无关,则网络不可能达到零误差,只能得到一个使得网络的误差最小的解。

反之,如果网络的自由度大于样本集的个数,则会得到无穷多个可以使得网络误差为零的解。 3、BP神经网络: ——BP神经网络通常指的是基于误差反向传播算法的多层前向神经网络。

是目前应用最为广泛的神经网络模型的学习算法。BP神经网络的神经元采用的传递函数一般是sigmoid型的可微函数,所以可以实现输入输出之间的任意非线性映射,这一特点使得BP神经网络在函数逼近、模式识别、数据压缩等领域有着更为广泛的应用,事实上,目前实际应用的90%的神经网络系统都是基于BP算法的。

——与其他神经元模型不同的是,BP神经元模型的传递函数采取了可微单调递增函数,如sigmoid的logsig、tansig函数和线性函数pureline。BP网络的最后一层神经元的特性决定了整个网络的输出特性。

当最后一层神经元采用sigmoid类型的函数时,那么整个神经元的输出都会被限制在一个较小的范围内,如果最后一层的神经元采用pureline型函数,则整个网络的输出可以是任意值。BP网络采用的就是基于BP神经元的多层前向结构。

BP网络一般具有一个或者多个隐层,隐层神经元一般采用sigmoid型的传递函数,而输出层一般采用pureline型的传递函数。理论已经证明,当隐层神经元数目足够多时,可以以任意精度逼近任何一个具有有限个断点的非线性函数。

——BP网络的学习规则:采用误差反向传播算法,实际上是Widrow-Hoff算法在多层前向神经网络中的推广。和Widrow-Hoff算法类。

2.如何理解神经网络里面的反向传播算法

反向传播算法(BP算法)主要是用于最常见的一类神经网络,叫多层前向神经网络,本质可以看作是一个general nonlinear estimator,即输入x_1 。 x_n 输出y,视图找到一个关系 y=f(x_1 。 x_n) (在这里f的实现方式就是神经网络)来近似已知数据。为了得到f中的未知参数的最优估计值,一般会采用最小化误差的准则,而最通常的做法就是梯度下降,到此为止都没问题,把大家困住了很多年的就是多层神经网络无法得到显式表达的梯度下降算法!

BP算法实际上是一种近似的最优解决方案,背后的原理仍然是梯度下降,但为了解决上述困难,其方案是将多层转变为一层接一层的优化:只优化一层的参数是可以得到显式梯度下降表达式的;而顺序呢必须反过来才能保证可工作——由输出层开始优化前一层的参数,然后优化再前一层……跑一遍下来,那所有的参数都优化过一次了。但是为什么说是近似最优呢,因为数学上除了很特殊的结构,step-by-step的优化结果并不等于整体优化的结果!不过,好歹现在能工作了,不是吗?至于怎么再改进(已经很多改进成果了),或者采用其他算法(例如智能优化算法等所谓的全局优化算法,就算是没有BP这个近似梯度下降也只是局部最优的优化算法)那就是新的研究课题了。

3.人工神经网络,人工神经网络是什么意思

人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点。

它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。

神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。

每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。

而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

感知器为什么不能表示线性不可分问题

转载请注明出处多问网 » 感知器为什么不能表示线性不可分问题

资讯

口袋赚为什么不能提现

阅读(6)

本文主要为您介绍口袋赚为什么不能提现,内容包括口袋赚第二次为什么提不了现,为什么我加友成功口袋赚没有收入,口袋赚强制升级后无法使用,大家也是这样吗。满30可以提现的,我刚提完。且连续签到7天,可以优先提现1元。不过感觉提现的方式不固

资讯

为什么温度计里不能装水

阅读(8)

本文主要为您介绍为什么温度计里不能装水,内容包括温度计里为何不用水,温度计为啥不能用水,温度计里的玻璃泡不装水的原因是什么。水银是液态重金属,金属往往对温度反应快,变化明显 2、水银表面涨力大,离开人体后能保持原来的位置不变,且与空气

资讯

顺丰为什么不能寄香水

阅读(6)

本文主要为您介绍顺丰为什么不能寄香水,内容包括为什么快递公司都不寄香水,为什么快递公司都不寄香水,求助~顺丰可以寄香水吗。快递可以寄香水。邮寄香水要选择非航空类快递公司。香水在进行快递之前,不要开封,否则有可能发生滴漏现象。邮寄

资讯

为什么刘亦菲的兰若词全部都不能

阅读(6)

本文主要为您介绍为什么刘亦菲的兰若词全部都不能,内容包括为什么刘亦菲的兰若词在QQ音乐上下架了,谁有刘亦菲唱的兰若词文件给我一份谢谢,求刘亦菲版的兰若词歌曲。你好,歌曲一般酷狗类的音乐播放器都有兰若词演唱:刘亦菲既然此生已错过告诉

资讯

为什么有的网页不能

阅读(7)

本文主要为您介绍为什么有的网页不能,内容包括为什么有的页面可以看视频、、但不能下载,怎么才能下载,为什么有的网站上的视频文件下载不了,为什么有的网页视频可以下载有的就不可以下载。第一种:利用临时文件夹 在观看视频的时候这个视频文

资讯

搜狗手机输入法为什么不能打成语

阅读(6)

本文主要为您介绍搜狗手机输入法为什么不能打成语,内容包括手机搜狗输入法为什么不能打常用词,为什么用手机打字打不成词语或者是成语了,为什么我的搜狗输入法打字没有对应的成语出来。很多小伙伴在使用搜狗输入法的时候可能会遇到有些字词

资讯

为什么我在淘宝上不能与卖家联系

阅读(6)

本文主要为您介绍为什么我在淘宝上不能与卖家联系,内容包括为什么我在淘宝上无法与卖家联系,我什么我在淘宝上不能和卖家联系了,为什么在淘宝网购物时不能和卖家联系。这类问题一般是与浏览器或者杀毒软件的注册表监控功能有关。可做如下操

资讯

问道为什么不能更新

阅读(8)

本文主要为您介绍问道为什么不能更新,内容包括问道为什么不能更新,我为什么更新问道的时候无法更新说有游戏在运行,我的问道不能更新了这是怎么回事。严重鄙视下光宇。。。我比你更严重。。。我update文件不知道为什么用不了。。不过这情况

资讯

曹操为什么不能统一全国

阅读(5)

本文主要为您介绍曹操为什么不能统一全国,内容包括曹操为何不能统一中国,曹操为何不能统一中国,为什么曹操不能统一全国。东汉末及三国史中,曹操可谓一位真正的风云人物,他论第二,恐怕没人敢排第一,曹操的一生,是波澜壮阔的一生,也是跌宕起伏的一

资讯

移动的酷派手机的一些应用为什么不能删除

阅读(6)

本文主要为您介绍移动的酷派手机的一些应用为什么不能删除,内容包括为什么酷派手机有些安装应用删不掉,我的手机是酷派的,有很多自带软件不能卸载,问下怎么卸载,最好不,我的酷派手机有些应用删不掉,只能隐藏。简单点就是豌豆荚下载一个ROOT

资讯

上海老饭店月饼为什么不能买

阅读(6)

本文主要为您介绍上海老饭店月饼为什么不能买,内容包括上海老饭店的月饼如何,为什么我的餐厅不能购买月饼的材料,上海老饭店的月饼如何。酒店乐此不疲地卖月饼,高利润当然是最大的诱因。从去年各家的销售额来看,他们在月饼中的纯利润至少五六

资讯

海咪为什么不能坐摩天轮

阅读(5)

本文主要为您介绍海咪为什么不能坐摩天轮,内容包括海贼王鱼人岛凯米为什么不能坐摩天轮,他们说情侣不能坐摩天轮,为什么,海贼王鱼人岛凯米为什么不能坐摩天轮。下面是摩天轮的传说,但我并不相信,其实这只是说说而已,你们只要相信你们是幸福的,

资讯

为什么液化氯化氢不能导电

阅读(4)

本文主要为您介绍为什么液化氯化氢不能导电,内容包括为什么液化氯化氢不导电,为什么液化氯化氢不导电,为什么液态氯化氢不导电。HCL溶液之所以导电是应该在水中电离成了H+和CL-,离子导电但是HCL本身是分子,之间是共价键,纯的HCL是不能电离出离

资讯

为什么网上选车号不能点申请

阅读(4)

本文主要为您介绍为什么网上选车号不能点申请,内容包括网上选车牌号选好在车管所为什么显示没有,网上选车牌为什么不行总是说车辆识别代码为XXX的车主已经登录搜,为什么现在不能在网上自选车牌。这种情况比较特殊,不过,有没有都已车管所的为

资讯

水瓶座为什么不能和处女座长久

阅读(2)

本文主要为您介绍水瓶座为什么不能和处女座长久,内容包括水瓶座跟处女座为什么不能在一起,为什么处女座老是遇上水瓶座,却又不能在一起,为什么,水瓶男和处女的爱情不能长久。处女座:水瓶座 配对指数 友情:★★ 爱情:★★ 婚姻:★★ 亲情:★★★

资讯

为什么没户口不能上学

阅读(2)

本文主要为您介绍为什么没户口不能上学,内容包括为什么没有户口就不可以上学呢,为什么没有户口就不可以上学呢,没有户口能不能上学。并非不能上学,而是因为没有户口无法注册学籍,所以学校会要求有户口才能入学。 学籍注册流程如下: 学校按照户

资讯

滴滴快车为什么司机帐号不能注销

阅读(2)

本文主要为您介绍滴滴快车为什么司机帐号不能注销,内容包括滴滴快车为什么司机帐号不能注销,滴滴快车为什么司机帐号不能注销,为什么滴滴出行帐号存在风险注销不了。注销滴滴司机端的话,直接打电话到滴滴客服那就行了,滴滴客服会根据你的要求

资讯

为什么正月不能剪指甲

阅读(2)

本文主要为您介绍为什么正月不能剪指甲,内容包括为什么正月不能剪指甲,为什么正月不能剪指甲,春节期间大年初一为什么不能剪指甲。正月属于一年中最大的月份,所以正月里有很多禁忌,但是关于正月不剪指甲的说法倒是没有,但是有些地方有正月不动

资讯

虚拟内存为什么不能用手机卡

阅读(1)

本文主要为您介绍虚拟内存为什么不能用手机卡,内容包括我的虚拟内存怎么不能移动,手机修改虚拟内存后没反应是为什么,怎么给手机装上虚拟内存啊。要有存储卡 AutoSwap_64.ins 为64M内存容量,即机内随机内存与虚拟内存之和64M AutoSwap_96ins

资讯

为什么平果手机不能破万能

阅读(2)

本文主要为您介绍为什么平果手机不能破万能,内容包括为什么苹果手机的万能钥匙就是不能破解wifi呢,而安卓可以,为什么,苹果手机万能钥匙为什么破解不了,苹果手机为什么不能使用万能钥匙。wifi万能钥匙为什么破解不了密码?很多朋友会以为wifi

资讯

刨妇产横的为什么不能

阅读(2)

本文主要为您介绍刨妇产横的为什么不能,内容包括都是剖宫产,为什么有人伤口是横的,也有人是竖的呢,刨腹产为什么有横切口和竖切口,刨腹产横的好还是竖的好为什么。竖切的利害关系:剖宫产一开始使用的时候都是采用竖切的,竖切是指在耻骨、肚脐

资讯

为什么不能制造防生荷叶

阅读(2)

本文主要为您介绍为什么不能制造防生荷叶,内容包括荷叶在仿生学上做过什么贡献,人类可以模仿鸟类制造飞机模仿蝙蝠制造雷达模仿蝇眼制造蝇眼照相,为什么会产生荷叶效应。荷叶的叶面上存在着非常复杂的多重纳米和微米级的超微结构.在超高分

资讯

为什么魅族手机不能东西了

阅读(2)

本文主要为您介绍为什么魅族手机不能东西了,内容包括魅族MX手机怎么下载不了东西,魅族手机下载不了软件怎么回事,魅族手机的安全市场为什么安装不了下载的东西。查看是不是网速有限制;2、可能是软件出故障了。处理方法:更换网络下载安装;2、换

资讯

甄嬛传允禧为什么不能争夺皇位

阅读(2)

本文主要为您介绍甄嬛传允禧为什么不能争夺皇位,内容包括《甄嬛传》里为什么说太后(康熙德妃)参与了雍正夺皇位德妃不是,后宫甄嬛传玉娆和允禧的结局谁能告诉一下谢谢了,甄嬛为什么不让自己的儿子弘曕当皇帝。我个人意见是,大清祖制是后宫不得