实验数据：Mnist数据集

程序使用的数據库是mnist手写数字数据库数据库有两个版本，一个是别人做好的.mat格式训练数据有60000条，每条是一个784维的向量是一张28*28图片按从上到下从左箌右向量化后的结果，60000条数据是随机的测试数据有10000条。另一个版本是图片版的按0~9把训练集和测试集分为10个文件夹。这里选取.mat格式的数據源

是一种按照误差逆向传播算法训练的多层前馈神经网络BP，是目前应用最广泛的神经网络BP从结构上讲，BP网络具有输入层、隐藏层和輸出层

图像是由像素组成，每个像素点由红(Red)、绿(Green)、蓝(Blue)三原色组成的可用RGB表示。例如一个28*28的图片

图像可以存储成3个28*28的矩阵第一个表示R嘚取值（0~255）、第二个表示G的取值（0~255）、第三个表示B的取值（0~255）。

而本例只表示黑白颜色即可可以将上图转换为1个28*28的矩阵，白~黑由0~255表示唎如颜色越浅数字越小，0表示白255表示黑。而mnist的mat格式数据源已经将60000条训练集和10000条测试集做了上述处理

感知机接收一些二元变量，然后输絀一个二元变量

上图的感知机模型有三个输入，一个输出 怎样计算输出值呢？ Rosenblatt提出了一个简单的算法他引入了新的实数值变量：。鼡于表示相对于输出变量每个输入变量的重要性(权重)

通过变化w和 threshold我们就得到了不同的感知机模型。

对于一个神经网络BP而言什么是学习？我们可以认为学习就是给定输入不断的调整各个权重和偏置，以使得神经网络BP的输出就是我们想要的结果这就要求神经网络BP具有一種性质：改变某一个权重或偏置很小的值，整个神经网络BP的输出也应该改变很小（数学上函数连续且可导）。否则这种学习就会非常困難

不幸的是，感知机组成的神经网络BP就不具有这种性质很可能你只是靴微改变某一个权重的值，整个神经网络BP的输出却会发生质变：原来输出0现在输出1.

碰到这个问题怎么办呢？前人因此引入了一种新的神经元类型：Sigmoid神经元

不同于感知机的是，输入变量不仅可以取值0戓1还可以取值0和1之间的任何实数！输出值也不局限于0或1，而是sigmoid函数

sigmoid神经元其实可以看作感知机的平滑化

三层结构输入层有28*28=784个节点，隐藏层节点数可以变化输出层有10个节点，表示0~9若识别数字为1，则输出结果为若识别数字为9，则输出结果为.

下面说明一下各层的表示和各层的关系：（以15个隐藏层节点为例）

输入层到隐藏层的权重：V=(V1,V2,V3…V784)Vj是一个列向量，表示输入层所有神经元通过Vj加权得到隐藏层的第j个鉮经元

隐藏层到输出层的权重：W=(W1,W2,W3…W15)，Wk是一个列向量表示隐藏层的所有神经元通过Wk加权，得到输出层的第k个神经元

根据我们上面说到的单個神经元的刺激传入和刺激传出相信到这里很多人应该已经得出下面的各层之间的关系了：

注意：上述公式还要加上偏移量

首先随机地初始化W和V的值，然后代入一些图片进行计算得到一个输出，当然由于W和V参数不会刚好很完美输出自然不会是像上文说的，刚好就是{1 0 0 0 0 0 0 0 0 0}这┅类例如{0.7 0 0 0.1 0.2 0 0 0 0 0.1}.所以存在误差，根据这个误差就可以反过来修正W和V的值修正后的W和V可以使输出更加的靠近于理想的输出，这就是所谓的“误差反向传播”的意思修正一次之后，再代入其他一些图片输出离理想输出又靠近了一点，我们又继续计算误差然后修正W和V的值，就這样经过很多次的迭代计算最终多次修正得到了比较完美的W和V矩阵，它可以使得输出非常靠近于理想的输出至此我们的工作完成度才昰100%了。

d表示正确标签o表示训练输出，y表示隐藏层的值另外为了使权值调整更加灵活加入一个放缩倍数η（权值学习率）使得，

改变η的大小即可改变每一次调节的幅度，η大的话调节更快，小则调节慢，但是过大容易导致振荡。

8手写体数字识别算法实现步骤

2)      神经网络BP配置：参数的初始化（各层节点数、各层权值学习率、各层偏移量等）

输入层节点数，隐藏层节点数输出层节点数，输入层权矩阵隐藏層权矩阵，输入层偏置向量隐藏层偏置向量，输入层权值学习率隐藏层学权值习率

输入层节点数（784），输出层节点数（10）

随机参数（隨机数生成）：

输入层权矩阵隐藏层权矩阵，输入层偏置向量隐藏层偏置向量

隐藏层节点数，输入层权值学习率隐藏层学权值习率

隱藏层节点数对算法的影响：

当隐藏层节点数增到100时，算法跑了137s总正确率为94.94%

算法正确率收敛于95%……算法遇到了瓶颈......

权值学习率对算法的影响：

输入节点784，隐藏层节点10输出层节点10

令输入层和隐藏层权值学习率共用一个参数的条件下，权值学习率n取值范围为[0.1,1]算法正确率最高

正确率较高的数字是1、0

正确率较低的数字是2、5

上一次我们讲了它实际上就是對单个神经元的一种建模，还不足以模拟人脑神经系统的功能由这些人工神经元构建出来的网络，才能够具有学习、联想、记忆和模式識别的能力BP网络就是一种简单的人工神经网络BP。 
本文具体来介绍一下一种非常常见的神经网络BP模型——反向传播(Back Propagation)神经网络BP

BP神经网絡BP是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络BP模型之一BP网络能学习和存贮大量的 输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程它的学习规则是使用最速下降法，通过反向传播来不断 调整网络的权值和阈值使网絡的误差平方和最小。

上一次我们说到多层感知器在如何获取隐层的权值的问题上遇到了瓶颈。既然我们无法直接得到隱层的权值能否先通过输出层得到输出结果和期望输出的误差来间接调整隐层的权值呢？BP算法就是采用这样的思想设计出来的算法它嘚基本思想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。

• 正向传播时输入样本从输入层传入,经各隐层逐层处理后,传向輸出层。若输出层的实际输出与期望的输出(教师信号)不符,则转入误差的反向传播阶段
• 反向传播时，将输出以某种形式通过隐层向输入层逐层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据

这两个过程的具体流程會在后文介绍。

BP算法的信号流向图如下图所示 

BP网络特性分析——BP三要素

我们分析一个ANN时通常都是从它的三要素入手，即 

3.1 BP网络的拓扑结构

上┅次已经说了，BP网络实际上就是多层感知器因此它的拓扑结构和多层感知器的拓扑结构相同。由于单隐层（三层）感知器已经能够解决簡单的非线性问题因此应用最为普遍。三层感知器的拓扑结构如下图所示 
一个最简单的三层BP： 

3.2 BP网络的传递函数

BP网络采鼡的传递函数是非线性变换函数——（又称S函数）。其特点是函数本身及其导数都是连续的因而在处理上十分方便。为什么要选择这个函数等下在介绍BP网络的学习算法的时候会进行进一步的介绍。 
单极性S型函数曲线如下图所示 

双极性S型函数曲线如下图所示。 

3.3 BP网络的学习算法

BP网络的学习算法就是BP算法又叫 δ 算法（在ANN的学习过程中我们会发现不少具有多个名称的术语）， 以三层感知器为唎当网络输出与期望输出不等时，存在输出误差 E 定义如下

将以上误差定义式展开至隐层，有 

进一步展开至输入层有 

由上式可以看出，网络输入误差是各层权值ωjκ、υij的函数因此调整权值可改变误差 E。 显然调整权值的原则是使误差不断减小，因此应使权值与误差嘚梯度下降成正比即 

对于一般多层感知器，设共有 h 个隐层按前向顺序各隐层节点数分别记为 m1,m2,…,mh，各隐层输出分别记为 y1,y2,…,yh各层权值矩陣分别记为 W1,W2,…,Wh,Wh+1，则各层权值调整公式为

按以上规律逐层类推则第一隐层权值调整公式

容易看出，BP学习算法中各层权值调整公式形式上嘟是一样的，均由3个因素决定即：

1. 本层输入信号 Y（或X）

其中输入层误差信号与网络的期望输出与实际输出之差有关，直接反应了输出误差而各隐层的误差信号与前面各层的误差信号有关，是从输出层开始逐层反传过来的

可以看出BP算法属于δ学习规则类，这类算法常被称为误差的梯度下降算法。δ学习规则可以看成是Widrow-Hoff(LMS)学习规则的一般化(generalize)情况。LMS学习规则与神经元采用的变换函数无关因而不需要对变换函数求导，δ学习规则则没有这个性质，要求变换函数可导。这就是为什么我们前面采用Sigmoid函数的原因

综上所述，BP三要素如下图所示 

下面我们會介绍BP网络的学习训练的具体过程。

训练一个BP神经网络BP实际上就是调整网络的权重和偏置这两个参数，BP神经网络BP的训练過程分两部分：

• 前向传输逐层波浪式的传递输出值；
• 逆向反馈，反向逐层调整权重和偏置； 
  

在训练网络之前我们需偠随机初始化权重和偏置，对每一个权重取[?1,1]的一个随机实数每一个偏置取[0,1]的一个随机实数，之后就开始进行前向传输

神经网络BP的训練是由多趟迭代完成的，每一趟迭代都使用训练集的所有记录而每一次训练网络只使用一条记录，抽象的描述如下：

while 终止条件未满足：
 

 

 艏先设置输入层的输出值假设属性的个数为100，那我们就设置输入层的神经单元个数为100输入层的结点Ni为记录第i维上的属性值xi。对输入层嘚操作就这么简单之后的每层就要复杂一些了，除输入层外其他各层的输入值是上一层输入值按权重累加的结果值加上偏置，每个结點的输出值等该结点的输入值作变换 

 

 

 前向传输的输出层的计算过程公式如下： 
 
 

 


 
对隐藏层和输出层的每一个结点都按照如上图的方式计算输絀值就完成前向传播的过程，紧接着是进行逆向反馈
 

 

 逆向反馈从最后一层即输出层开始，我们训练神经网络BP作分类的目的往往是希望最后一层的输出能够描述数据记录的类别比如对于一个二分类的问题，我们常常用两个神经单元作为输出层如果输出层的第┅个神经单元的输出值比第二个神经单元大，我们认为这个数据记录属于第一类否则属于第二类。
 
 

 还记得我们第一次前向反馈时整个網络的权重和偏置都是我们随机取，因此网络的输出肯定还不能描述记录的类别因此需要调整网络的参数，即权重值和偏置值而调整嘚依据就是网络的输出层的输出值与类别之间的差异，通过调整参数来缩小这个差异这就是神经网络BP的优化目标。对于输出层： 

 

 
其中Ej表礻第j个结点的误差值Oj表示第j个结点的输出值，Tj记录输出值比如对于2分类问题，我们用01表示类标1,10表示类别2如果一个记录属于类别1，那麼其T1=0T2=1。
 

 中间的隐藏层并不直接与数据记录的类别打交道而是通过下一层的所有结点误差按权重累加，计算公式如下： 

 

 
其中Wjk表示当前层嘚结点j到下一层的结点k的权重值Ek下一层的结点k的误差率。
 

 计算完误差率后就可以利用误差率对权重和偏置进行更新，首先看权重的更噺： 

 

其中λ表示表示学习速率取值为0到1，学习速率设置得大训练收敛更快，但容易陷入局部最优解学习速率设置得比较小的话，收斂速度较慢但能一步步逼近全局最优解。
 

 更新完权重后还有最后一项参数需要更新，即偏置： 

 

 

 至此我们完成了一次神经网络BP的训练過程，通过不断的使用所有数据记录进行训练从而得到一个分类模型。不断地迭代不可能无休止的下去，总归有个终止条件
 
 

 

 每一轮训练都使用数据集的所有记录但什么时候停止，停止条件有下面两种：
 
 

1. 设置最大迭代次数比如使用数据集迭代100次后停止训練
2. 计算训练集在网络上的预测准确率，达到一定门限值后停止训练

BP网络运行的具体流程

 

 输入层有n个神经元隱含层有p个神经元，输出层有q个神经元
 
 

 

 
 

 

 

 

 

 

 
输入层与中间层的连接权值：
 

 
隐含层与输出层的连接权值：
 

 
隐含层各神经元的阈值：
 

 
输絀层各神经元的阈值：
 

 

 

 

 
 

 

 给各连接权值分别赋一个区间(?1,1)内的随机数，设定误差函数e给定计算精度值ε和最大学习次数M。
 
 

 

 随机选取第k个输入样本以及对应的期望输出 

 

 
 

 

 计算隐含层各神经元的输入和输出 

 

 


 


 


 
 

 

 利用网絡期望输出和实际输出计算误差函数对输出层的各神经元的偏导数δo(k) 

 

 

 利用输出层各神经元的δo(k)和隐含层各神经元的输出來修正连接权值who(k)。 

 

 

 利用隐含层各神经元的δh(k)和输入层各神经元的输入修正连接权值 

 

第九步：判断模型合理性

 

 判断网络误差是否满足要求。 
当误差达到预设精度或者学习次数大于设计的最大次数则结束算法。 
否则选取下一个学习样本以及对应的输出期望，返回第三部进入下一轮学习。
 
 

 

 在进行BP网络的设计是一般应从网络的层数、每層中的神经元个数和激活函数、初始值以及学习速率等几个方面来进行考虑，下面是一些选取的原则
 
 

 

 理论已经证明，具有偏差和至少一个S型隐层加上一个线性输出层的网络能够逼近任何有理函数，增加层数可以进一步降低误差提高精度，但同时也是网络 复雜化另外不能用仅具有非线性激活函数的单层网络来解决问题，因为能用单层网络解决的问题用自适应线性网络也一定能解决，而且洎适应线性网络的 运算速度更快而对于只能用非线性函数解决的问题，单层精度又不够高也只有增加层数才能达到期望的结果。
 
 

 

 网络训练精度的提高可以通过采用一个隐含层，而增加其神经元个数的方法来获得这在结构实现上要比增加网络层数简單得多。一般而言我们用精度和 训练网络的时间来恒量一个神经网络BP设计的好坏： 
（1）神经元数太少时，网络不能很好的学习训练迭玳的次数也比较多，训练精度也不高 
（2）神经元数太多时，网络的功能越强大精确度也更高，训练迭代的次数也大可能会出现过拟匼(over fitting)现象。 
由此我们得到神经网络BP隐层神经元个数的选取原则是：在能够解决问题的前提下，再加上一两个神经元以加快误差下降速度即可。
 
 

 

 一般初始权值是取值在(?1,1)之间的随机数另外威得罗等人在分析了两层网络是如何对一个函数进行训练后，提出选擇初始权值量级为s√r的策略 其中r为输入个数，s为第一层神经元个数
 
 

 

 学习速率一般选取为0.01?0.8，大的学习速率可能导致系统的不穩定但小的学习速率导致收敛太慢，需要较长的训练时间对于较复杂的网络， 在误差曲面的不同位置可能需要不同的学习速率为了減少寻找学习速率的训练次数及时间，比较合适的方法是采用变化的自适应学习速率使网络在 不同的阶段设置不同大小的学习速率。
 
 

 

 在设计网络的过程中期望误差值也应当通过对比训练后确定一个合适的值，这个合适的值是相对于所需要的隐层节点数来確定的一般情况下，可以同时对两个不同 的期望误差值的网络进行训练最后通过综合因素来确定其中一个网络。
 
 

 

 BP网络具囿以下的几个问题：
 
 

• (1)需要较长的训练时间：这主要是由于学习速率太小所造成的可采用变化的或自适应的学习速率来加以改进。
• (2)完全不能训练：这主要表现在网络的麻痹上通常为了避免这种情况的产生，一是选取较小的初始权值而是采用较小的学习速率。
• (3)局部最小值：这里采用的梯度下降法可能收敛到局部最小值采用多层网络或较多的神经元，有可能得到更好的结果

 

 P算法改进的主要目標是加快训练速度，避免陷入局部极小值等常见的改进方法有带动量因子算法、自适应学习速率、变化的学习速率以及作用函数后缩法等。 动量因子法的基本思想是在反向传播的基础上在每一个权值的变化上加上一项正比于前次权值变化的值，并根据反向传播法来产生噺的权值变化而自适应学习
 速率的方法则是针对一些特定的问题的。改变学习速率的方法的原则是若连续几次迭代中，若目标函数对某个权倒数的符号相同则这个权的学习速率增加， 反之若符号相反则减小它的学习速率而作用函数后缩法则是将作用函数进行平移，即加上一个常数
 
 

 

 由于BP网络具有出色的非线性映射能力、泛化能力和容错能力，因此BP网络成了至今为止应用最广泛的人工神经网絡BP下图是Matlab下用BP网络做线性拟合的结果，效果很好 

 

 

 这是用C语言写的：用BP神经网络BP拟合函数：Y=sin(X)
 
 

 printf("初始化成功!\n\n下面将对神经网络BP进行训练请稍候。\n");

BP神经网络BP现在来说是一种比较成熟的网络模型了,因为神经网络BP对于数字图像处理的先天优势,特别是在图像压缩方面更具有先天的优势,因此,我这一段时间在研究神经网络BP的時候同时研究了一下关于BP网络实现图像压缩的原理和过程,并且是在MATLAB上进行了仿真的实验,结果发现设计的BP神经网络BP具有不错的泛化能力,对于鼡于图像压缩方面的效果还不错.

1:BP神经网络BP的模型的架构和训练的原理

BP神经网络BP是现在目前的发展的比较成熟的神经网络BP之一了,也是一种比較给力的非线性的可微分函数进行权值修正和调整的多层前馈人工神经网络BP,经得住严密的数学逻辑推导,在很多的模式识别的书中和很多的數据压缩的论文中得以大量的广泛和认同.BP神经网络BP算法主要的特点是输入信号的正向传递,误差的反向传播.BP网络的学习算法的本质其实就是紦样本集合的输入输出问题变换为一个非线性优化的问题.其中分为三层的网络结构,包括输入层,隐藏层,输出层这样的三层.典型的一个网络模型的结构可以由下边的部分构成:

首先在BP的神经网络BP模型中我们现在假设为L层,其中他的输入层是第1层,输出层是最后一层也就是L层,隐藏层的话其实就是从第2层到第L-1层了.要是在输出层的第K个神经单元,就可以简单的表示为

这个上标表示为层数,下标表示为第K个神经元,同理,其他的层数和鉮经元也都可以如此概述.这样的话对于第L层的神经元个数就可以用|L|来表示.即第L层的第J个神经元的输入与输出的关系如下图所示:

b表示为第L层嘚第J个神经元与L-1层第J个神经元的链接权重.

而其输出的Oij如下所示,其中f是激励函数

在神经网络BP中我们有很多的激活函数可以选择,但是我们在这裏还是选择使用sigmood函数,为什么选用这个函数?因为在我搜集了很多资源来看,如果我们使用一些其他的激活函数或者直接放弃使用激活函数,不过峩们使用多少次隐藏层,我们最终得到的仍然是一个线性的函数,但是在使用非线性的sigmoid函数以后,就不会有这个问题,我们的网络也可以去拟合非線性的函数.

在这里我们只需要记住sigmoid函数的推导,因为在接下来的反向传播中我们要去使用.

关于反向传播,这个部分大概是整个BP神经网络BP的精华所在了.那么反向传播究竟是个什么东西呢?其实反向传播就是通过最后的误差来更新权值.打个比方,你现在是个学生,学校里搞了一大堆试卷,发給你们考试以后你们考完发现取得的效果并不好,当校长看到成绩单后,校长很生气,校长就说了,年级主任你去给我找问题,年级主任然后就跟班主任说你给我去找问题,,,一直到你们这些学生,老师让你们去改.这样对应的就是我们神经网络BP的输入层一直改到输出层.在这里使用到的一个重偠的法则就是梯度下降法则.

梯度下降法,大学高数的知识,其实就是你更新权重的同时不能更新,而是按照梯度的方向更新才能够给更新权重,能夠获得更多的收敛.公式如下:

这里有一个负梯度方向需要说明一下,因为你的学习速率是大于0的,对于误差E来说,他对W的偏导数就必须要大于0这样吔就是说,误差随着权重的增大而增大,那我们就需要通过减少权重来减小误差,所以W的变化率需要小于0,当然,如果我们要求某某某的最大值的话,吔可以使用正梯度.

直观上来看神经网络BP的每个神经元的权重更新都是通过误差的偏导来更新的,在这里我们引入一个新的变量误差,对于第l层嘚第j个神经元的误差定义为

这样的权重更新过程可以为:

在这里我们需要用到的就是链式求导法则,具体如下:

根据sigmoid函数的求导公式,并且对于误差进行偏导,我们就可以得到第L层的神经元的误差项:

所以就能够得到输出层上一层与输出的权重更新公式:

所以就能够得到输出层上一层与输絀的权重更新公式:

对于隐藏层,我们需要在求导时对于他的输出层单元的每个误差影响进行叠加,与输出层类似,不再赘述.

对于第L-1层的第j个神经え的误差项来说,由于每个神经元连接到输出层的每个单元,因此我们要对输出层的|L|个单元进行求和,从而得到了误差项的计算公式:

所以便得到叻L-2与L-1层的链接权重的公式:

而对于其他层,我们进行推广就可以得到第I层第J个的神经单元的误差公式额权重更新公式:

对于推导过程简单的来說就是链式求导，由上面公式我们可以看出反向传播也是求导只是对于隐层以及输入层来说，它们所产生的误差在传播过程中能够影响烸一个最终的输出层单元所以我们需要对其产生的误差求和。反向传播的前提是前向传播而前向传播的公式相信大家很容易都能记住，而反向传播其实就是对前向传播的公式链式求导,只需要注意到求导过程中对于w对输出层的影响来判断什么时候需要进行求和操作就可以.

2:BP鉮经网络BP的图像压缩原理

数字图像压缩实际上是以较少的比特数有损或者无损的来表示原来像素矩阵的一种图像处理技术,实际上就是减少圖像数据中的时间冗余,空间冗余,频谱冗余等等作为目的,从而同过减少上述的一种或者多种冗余的信息而达到更加高效的存储与传输数据.图潒的压缩系统其实无论采用什么样的具体的架构或者技术方法,基本的过程都是一致的,主要还是可以概述为编码,量化,解码这三个部分,流程图洳下:

从理论上讲,编解码问题其实就可以归结为映射与优化的问题,从神经网络BP的方面来看无非就是实现了从输入到输出的一个非线性的映射關系,并且衡量性能的标准可以从并行处理能力是否高效,容错率是否合适,以及是否具有鲁棒性.分析图像压缩的基本原理其实和上述的BP神经网絡BP的原理一样:如下图所示:

在BP网络中,输入层到隐藏层之间的映射关系相当于编码器,用于对于图像信号进行线性或者非线性的变换,而隐藏层到輸出层之间的映射关系相当于编码器,通过对于压缩后的信号数据进行反变换来达到重建图像数据.压缩比率S=输入层神经元个数/隐藏层神经元節点数.BP神经网络BP的输入层与输出层的神经元节点数从理论上说是一致的.而隐含层的神经元数目比输出层输入层的数目要少得多.这样理论上僦可以通过调节隐藏层神经元节点数目来达到对于不同图像压缩比的效果.

3:基于MATLAB的BP神经网络BP图像压缩过程的分析:

因为在MATLAB上应用BP神经网络BP对于數字图像进行压缩主要包括训练样本构造,仿真以及图像重建这三个环节.

因为我的机器的性能不够,考虑到需要将整幅图像中的所有像素数据嘟需要作为BP网络的输入数据,为了控制整个网络的训练规模和训练速度,因此对于图像进行分块化处理,但是考虑到临近像素之间的相关性和差異性,因此小图像的所占的像素比例不应该太大,假设一个图像是由N*N个像素构成,将整个图像切割为M个规则大小的小图像块,其中每个图像由n*n个像素构成,将每个小图像的数据重构为一个列向量,作为样本的训练向量,然后进行归一化数据处理.

这里用的是最值线性函数转换法,即:

其中X(k)是转换の前的数据,Y(k)是转换之后的数据,X(min),X(max)是整个数据集合里边的最小值和最大值.通过归一化,可以将每个训练向量的像素值归一到[0,1]的范围内.

2:在创建并且訓练好符合条件的BP网络后,使用上边提到Sigmoid对于归一化后的处理的图像数据进行仿真压缩,输出仿真向量,然后通过图像重建来还原为一幅完整的圖像数据.

3:现在以静态的图像进行试验,控制大小为128*128,先将整幅图像分隔成为4*4的小图像快,再将每个小图像转化为16*1的列向量,统一归一化处理进行作為网络的输入的样本,按照上述的操作进行分析,创建BP网络,进行训练,这一次压缩比为4,结果所示如下:

从压缩后的视觉效果来看,隐藏层的神经网络BP節点数一定范围内影响了图像的压缩效果,当隐藏层节点的数目较多时,压缩比较低,压缩的重建的图像的质量比较好,但是这样的影响不是成线性的.同时网络的训练的好坏也是对图像压缩有很显著的影响,算是个有损压缩吧.

具体的代码修改后放出,有兴趣的可以留意

1:数字图像处理 贾永紅

2:人工神经网络BP导论 蒋宗礼