Predictive coding

Yanping Huang and Rajesh P. N. Rao∗

　预测编码是一个来理解神经系统减少冗余和高效的编码的统一框架。只传输输入感官信号未预测到的部分,预测编码允许神经系统减少冗余以及充分利用神经元有限的动态范围。从假设有效编码是感觉系统的设计原则出发,，在神经反应和大脑组织的许多方面，预测编码提供了一系列的功能解释。外侧膝状体核，视网膜感受野外侧和颞区拮抗对自然图像的预测编码自然发生的结果。在较高的视觉系统,预测编码为方向选择感受野和上下文效应以及皮层的等级间相连组织提供了一个解释。预测编码也被发现能一致的解释从不同的大脑区域获得的各种各样的神经生理学和心理物理数据。

介绍

自然信号是高度冗余的。这冗余源于在这些信号时空一致性的倾向。例如,自然图片中邻近像素的强度往往是呈正相关,因为自然形状扩展到有限的空间区域,同样的, 随着时间的推移,像素强度往往是相关的因为对象在时间上是持久的1-3。直接用感觉受体阵列表示原始图像的方法将效率非常低。长期以来一直有基于信息理论考虑的建议,早期感觉处理的角色是减少感官输入冗余和重新编码到一个有效的形式。实现这一目标的一个重要模型是预测编码。7预测编码假定神经网络学习自然世界内在的的统计规律，通过去掉输入中可预测的成分减少冗余性，只传输不可预测的部分（预测中的剩余错误）

    预测编码为中心外周反应特性和视网膜及外侧膝状体核的两相时间拮抗（biphasic temporal antagonism）提供了一个功能性的解释。在预测编码模型中,在视网膜/
LGN上的神经回路从一个线性加权空间临近的值或或时间上之前输入值。细胞在这些环路里传递的不是原始的图像强度,而是预测值和实际强度之间的区别。这个非相关（decorrelates）(或者白化whitens)输入信号压扁时间和空间功率谱,从而减少输出冗余。由此产生的差异信号动态范围要小得多【当输入信噪比(SNR)很高】时，因此是一个通过具有有限动态范围视觉通路的更加经济的传输方法。

初级视觉皮层(V1)的神经元对于栅栏和边缘有方向选择性然而V2和V4区的神经元对更复杂的形状和轮廓有反应。
在内侧颞叶(MST)的神经元对视觉运动有反应。这些反应选择性可以理解为对自然输入的分级预测编码。例如,出于视觉系统分层次组织皮层间相互联系的事实,饶和巴拉德提出了一个层次神经网络，　自顶向下的从高阶视觉皮层反馈连接低级的神经活动的区域进行预测,
而自底向上的连接传达预测的剩余错误。

使用一个取自自然场景的图像块训练后一个模型后, 他们发现模型神经元发展出类似在V1区神经元的特性,包括方向选择性,停止标记，上下文效果。Jehee et al.24提出了一个预测编码模型,当暴露于通过空间中平移运动的视觉运动得到了MST神经元的对光学流视觉选择性。
在这篇文献综述中,　我们在一个高效的编码框架内，正式介绍预测编码，并使用在空间和时间预测编码的例子说明这个概念。然后,我们综述了预测编码如何被用来理解在不同脑区的神经系统的神经元反应。我们对其他支持在大脑预测编码的实验得出一个简短的总结和讨论。

预测编码:模型和两个说明性的例子

总体框架

预测编码的隐含假设是视觉系统试图学习对于外部环境的内部模型,并使用这个模型积极预测传入信号。 这可以使用生成模型P(I| r)形式化表示,P是对于一组给定的内部模型的参数r（由一个神经元网络中的神经冲动发放率表示），图像I的概率。对于一个给定的输入图像I，
神经系统是假定为选择参数r，使得使用贝叶斯定理获得的后验概率 P(r |I)= P(I| r)P(r)/ P(I)最大化/*注释，我认为不能不能在神经系统建模中盲目使用数学公式，因为数学是人造的，我希望看到使用一些简单的神经元特性，而达到数学公式如贝叶斯公式这种效果，而不是直接用这个公式计算，这是不自然的。*/P(I)是一种规范常数。使用一个信息论的角度来看。让H作为整体描述长度(或信息熵),即。,
用r产生的预测I编码长度之和H1 =−logP(I| r),和参数r自身长度H2=−logP(r)。最小化总描述长度H =−logP(I| r)−logP(r)和最大化参数的后验概率在预测编码假设下是等价。　因此,
所谓的最小描述长度(MDL)框架27,28可以被视为正式等价于贝叶斯最大后验(MAP)估计。
其他编码方案,如稀疏编码16,29和独立分量分析(ICA)30也可以通过实施适当的约束在P(I| r)和P(r)在上述的贝叶斯/ 　　MDL框架下被理解。在稀疏编码,例如r的维数通常是选择的比I更大。,输入投射进入一个高维空间,P(r)是选择鼓励r中的稀疏，也就是，许多r的元素是0（更多细节见支持材料），在独立成分分析中，目标是使r中的元素在统计上尽量独立；在bell和sejnowsk的ICA算法例子里，这通过假设r和I有相同的维数,并最小化r组分之间的互信息。

  

空间中的预测编码　
自然图像通常是由相对统一的强度值地许多有限区域组成的。作为一个结果,在大多数自然图片中临近像素强往往在短距离上空间相关。图1(b)(蓝色曲线)说明了这种从自然场景测量中使用的空间自相关函数(图1(a))。在一个特定的像素上的强度从而可以周围强度的基础上预测,允许输入高效编码为实际强度和根据周围的预测像素之间的残差。假设我们想要预测像素强度x0基于 2n个不同位置−N。−1
1。,N的相邻像素强度强度x−N。,x−1 x1。,xn。然后,统计最优线性预测x0由对2n的相邻采样的加权平均得到。也就是说

　为了计算最优权重wi,假设有k个这样的像素x0,我们可以堆栈这些像素作为一个k×1的向量A .对于每一个这样的像素，相邻强度x−N。,x−1 x1。,xN构成一个k×2 n的矩阵B的行。我们使用向量W 代表权重wi。然后,权重W通过对所有像素最小化总预测误差得到:

||Y||表示向量Y的大小，可以表明，最小化误差E等价假设固有噪声是高斯的(支持信息)找到的表示原始输入的MDL。

在E对w求导,我们有:

图1 |空间中预测编码。(a)一个示例自然图像(一个例子已得到许可32。版权1998年皇家学会出版),在对数刻度显示更好的可视化像素值（shown here in logarithmic scale for better visualization of pixel values）。(b)蓝色曲线:沿着一条水平线测量(a)的图像像素强度。红色曲线:实际强度和从邻近的像素强度预测之间的残差。(c)蓝色曲线: (b)的蓝色曲线所示强度的自相关函数。红色曲线:b中红色曲线残差的自相关函数。(d)对于这个示例从EQ.2计算的最优空间权重系数W。

求解最优线性权重,我们获得: 　　
图1(d)显示了最优线性权重W 　　使用这个线性predictionmodel派生。通过减去　　线性预测与实际像素强度, 　　剩余反应r = x0−ˆx0(图1(b), 　　红色曲线)decorrelates原始图像(比较　　图1(c),红色曲线蓝色曲线),从而减少冗余。

时间上的预测编码　　
预测编码也可以应用于时间域。图2(a)展示了从自然的影片里一个固定像素测量得到的一个时变强度。相应的自相关函数在图二（b）的蓝色曲线表示。鉴于时间上接近的亮度倾向于正相关, 能预测亮度作为之前亮度的线性加权使用跟之前空间预测编码的相似分析。除了一个显著的区别:
　　空间预测编码是基于所有周围的邻居亮度,而时间预测编码是因果,只基于过去历史的强度。图2(c)显示的最优时间权重函数来自时间的版本的Eq（1）。与过去j =−1。。。-n。正如所料, 　动态范围和自相关在预测编码残差响应后大大减少了(显示为红色曲线在图2(a)和(b))。

在时间上更复杂的模型的预测编码依赖于学习输入的动态时空模型和执行某种形式的最优统计过滤如卡尔曼滤波。

图2 时间上预测编码。(一)蓝色曲线:时变强度以固定像素的一个自然的视频(转载　　许可Ref 32。版权1998皇家学会出版)。采样频率是50帧/秒。红色曲线:之间的残差　　实际的强度和预测强度从过去的时间步骤。(b)蓝色曲线:自相关函数的强度(a)的蓝色曲线所示。　　红色曲线:残差的自相关函数(a)的红色曲线所示。(c)最优时间权重系数对于这个示例

神经系统的预测编码
在视网膜上的预测编码　　
在本节中,我们将讨论预测编码如何提供在视网膜上发现的对空间和时间感受野的一个解释。8 - 10、7、13隐含　假设是视网膜试图建立一个有效的(例如。,MDL)对视觉场景的表征。

对于感受野的例子来说,考虑视网膜神经元的阵列,其中每个从中心接收一个兴奋性输入和来自周围的抑制输入。

通过实际亮度减去这个通过侧抑制得到的预测，神经响应可以最小化如空间预测编码中证明的。

权重函数的形状,它最小化了估计强度值和实际值之间的误差，由空间中的预测编码派生，和经典视网膜节细胞中心周围感受野很相似。(图3(a);与图1(d)比较)。

Srinivasan 等7表明权重函数还取决于输入信号的信噪比。在低信噪比时,中心强度值不再能可靠地从其最近的邻居估计。相反,为了抵消统计独立的噪声通过招募大群周围的点可以实现更好的估计。因此,一个预计是随着信噪比SNR的降低周围空间感受野变得更弱和更分散(图3(b))。值得注意的是,这个预测现象在苍蝇复眼的一阶中间神经元由Srinivasan等人观察到(图3(c))。同样,在时间域信噪比越低,预计需要更多的过去的像素用于产生一个预测(图3(d))。这也在苍蝇的眼睛中观测到(e)的(图3)。

一个有效的视觉编码器应该学习输入图像的统计规律和适应相应的编码策略35、36 。中心周围拮抗可以看作是空间图像的相关性的适应。然而,动物也可能遇到环境中相邻的图像像素不共享类似的强度。在这种条件下,强度中心不再使用一个周围的简单的加权平均来预测。

图3 |在视网膜上时空预测编码。(一)在视网膜上发现的经典中心-周围感受野。(转载许可Ref 34。版权1992 Sinauer Assoicates)和图1所示(d)中间周围权重配置比较。(b)感受野的形状取决于信噪比(SNR)。(上)更高的信噪比;(低)较低的信噪比。(c)理论上最优(虚线)和实验测量（实线)大复眼单极的细胞感受野的比较。(上)信噪比= 1.45亮度10cd （m−2次方）。(下)信噪比= 0.58  每平方米1.26亮度cd。注意感受野在较低的信噪中比（b）中预测更分散,虽然效果不是那么明显。(d)在时间权重配置信噪比的影响。(上)低信噪比;(下）高信噪比。(e)

苍蝇眼中大复眼单极细胞时间感受野的增加信噪比的效果(左上角到右下角)。请注意与(d)相比感受野是反向,正如在d中理论预测的结果、时间感受野随着信噪比的增加变得更加陡峭.

Hosoya et al.13提出适应不同的视觉场景不同相关结构应该在视网膜神经节细胞的预测编码中导致显著的变化。在他们的实验中, 　　他们把蝾螈视网膜神经节细胞暴露在两种类型的刺激中:闪烁的均匀场其中所有图像点之间存在完美的的正相关关系(环境A)和闪烁的棋盘模式其中两个集的图像区域之间完美的负相关(环境B)(图4(a) 　　和(b))。他们发现适应环境B后(负相关刺激）,一个典型的神经节细胞的感受野配置的变成平的对两个棋盘区域同样敏感(图4(d))。这种适应的结果是细胞变得对棋盘刺激不那么敏感系数约0.57,变得对统一的刺激更敏感系数1.4(回想一下,在正常情况下,统一的刺激对神经节细胞引起很少或没有反应）。这些结果表明,视网膜神经节细胞迅速适应变得对它们暴露的刺激不那么敏感,在这个过程中,他们变得对其他刺激更加敏感(即。、新奇刺激),如从预测编码理论得到的预期一样。

除了空间相关性,自然图像中还有一个彩色像素之间的高相关程度。在具有颜色视觉的物种中,有几种类型的视网膜光感受器对不同波长的光敏感。例如,

图4 |对空间图像统计的适应。(一)刺激两个棋盘区域X和y(b)时变刺激用于测试视网膜神经节细胞的适应。环境具有完美的所有图像点之间的正相关关系,而环境BX和Y区域之间具有完美的负相关。适应环境13.5s之后一个不相关的探测刺激P持续1.5秒被用来测试细胞的时空感受野。(c)蝾螈视网膜神经节细胞的空间感受野。(d)适应环境A(左)和B(右)后刺激区域X或Y神经节细胞对P刺激反应的敏感性(转载许可Ref 13。版权2005自然出版集团)。

　人类有三种类型的光感受器,被称为S，M和L分别对应短,中,和长波长。这些感光细胞的反应通常是相关的,因
f3c7
为他们的光谱敏感性重叠。因此,M-cone响应可用于预测L-cone响应；L -和M-cone 反应在一起可以用来预测S-cone响应。相应地,在视网膜上看到颜色对立的感受野。例如,一个类型的颜色对立（color-opponent）视网膜神经节细胞在中心从L-cone(“红”)感受器接受兴奋性输入在周围从M-cone(“绿色”)感受器接受抑制性输入。因此,color-opponent(红-绿)
和蓝色-（红+绿）通道在视网膜上可能反映在色域中的预测编码, 类似于空间和时间域预测编码中观察到的。

　LGN预测编码　　
Dong,Dan,Atick Reid11,12人提出LGN也表现为预测编码通过暂时性白化(whitening)（decorrelating）从视网膜传来的信号。时变自然图像序列（or'movies'）表现强的帧间相关3。一个特定像素的在时间t亮度可以从之前时间点的亮度加权和来预测。（见时间上预测编码的章节）

在时间核K(t,t)是LGN神经元的时间感受野和S(t)的输入刺激。输出响应O(t)是之前输入S（.）和权重函数K(t,.)的线性总和。这是类似于Eq.(1)的构想制定，除了求和由一个积分取代。

我们不像空间预测编码章节通过最小化在空间或时间域的错误得到的最优线性滤波器，这里我们遵循Dong和Atick并说明另一种在频域使用去相关的等价目标推导最优滤波器的方法。假设自然电影有时间上的相关矩阵R:

方括号表示不同帧的平均。我们希望输出是去相关的:

where δ(t, t) is the Kronecker δ function。

我们可以通过带入Eq.5到Eq。7并且转换到频域：

其中ω是时间频率。在这里,我们假设R和K是时间常量，例如，

感受野或过滤器K把信号和噪声都去相关；由于，

其中第一项是信号功率和第二项是噪声功率。在高时间频率,噪音显著和过滤器会成比例地放大噪声和信号。

为了在噪音存在时有效编码，Dong和Atick建议

一个在高频区域抑制噪声并且信噪比高的时候去相关的过滤器。这个新过滤器是在Eq8解相关过滤的产物和最优噪声抑制滤波器(也称为维纳过滤器)

Dong和Atick3测量自然电影的功率谱,假设时间白噪声派生的R(ω)为:

其中ωc是噪声频率。代入(10) 到(9),他们得到了预测的LGN细胞最优时间过滤器：

如图5所示(一个),这个预测最优过滤非常好地与从LGN获得的生理数据比较。

图5(b)显示了由Dong和Atick由图5中的过滤器(a)推断出的时间感受野(放置适当的约束比如因果关系后)。

图5 在外侧膝状体的时间预测编码。(a)比较理论预测时间调谐曲线(实曲线)和LGN的实验数据(点)。从Eq.11生成预测曲线ωc = 5.5赫兹。(b)时间接受域来自(a)(转载与许可Ref 12。版权1995 Informa PLC)。注意相似的时间预测编码过滤器如图2所示(c)。

这个感受野跟我们从图二的例子中获得的相似，并说明过去的像素的加权平均值(曲线的负部分)是如何从最近的像素值的加权平均中减去的(曲线的正部分),与预测编码的总体框架一致。

上面的分析假设空间和时间解相关分别完成:视网膜认为可以减少大部分的空间相关性,  而LGN去除大部分时间输入图像时间上的冗余。这样一个模型,由Dong和Atick最初建议12,是一致的，和视网膜时间带通滤波的结果基本上是平的(即没有多少时间解相关)和LGN的细胞的空间感受野和视网膜细胞的非常相似(即, 在LGN没有额外的空间处理)。

视觉皮层中的预测编码
预测编码也被用来给重要的接受域的属性提供解释，如方向选择性和上下文效果。它被用来把不同的层级连接的皮层区的起积极的计算作用相互连接归因。

在饶和巴拉德提出的视觉皮层的预测编码的角度考虑,皮质是建模为一个层次网络,其中更高的层级的单位试图通过反馈连接预测下一级单位的反应(图6(a),较低的箭头)。

这个模型的灵感来自神经生理学证据表现层高层级的反馈连接在塑造在低层级的性质中发挥积极作用。

在模型中, 下级单位通过前馈连接返回自顶向下的预测和实际活动之间的差异(Figure 6(a),upper arrows)

这些差异或残留误差信号在每个层次中然后被用作预测估计量(PE) 纠正更高层级对输入信号的估计并生成下一个预测（Figure6（b））.低层级有更小的空间(也可能有更小的时间)感受野,而高层级有更大的感受野因为一个更高的层级的单元通过结合一些低层级单位的反应在一个更大的尺度预测和估计信号属性(三个在图6中所示的示例中(c))。因此,最高等级的单位的有效感受野大小可以跨整个输入图像。

通过假设对图像的概率分级生成模型(支持信息),饶和巴拉德发展了两个层次之间的突触连接层级网络的动态性和学习规则,允许他们对在LGN-V1-V2反馈环的交互进行建模(类似的模型已经被提出了在LGN-V1 circuit41、24和中颞叶(MT)mst circuit24)。具体来说,较低层级的活动,例如V1,由一个发放率r的向量来表示。更高的输出区域,如V2,传达了对低层级的神经反应的期望rtd的“自上而下”的预测。如图6(b)所示,从低到高区域的前馈输入携带着残余误差r-rtd更高的区域神经元用来校对本地的估计和生成一个新的预测rtd（更多的细节见支持材料）自底向上的错误和自上而下的预测误差　(rtd−r)是由相应的噪声方差倒数加权:信息来源的噪声方差越大,给它的加权越小,和卡尔曼滤波的原则一致（33,42）。这个动力学,以及不同层级突触权重U的学习规则,可以通过最大化观察到的输入数据的后验概率展现出来（相当于MDL原则;见支持信息)。前馈权重向量　　可以证明有效地确定前馈模型的神经元的感受域。当在自然图像上训练时,这些权重向量类似于面向过滤器或伽柏wavelet，用于对V1区简单神经元进行建模。而上一级突触权重代表更复杂特点21(图7)。

图7 |分级预测编码模型中前馈神经元的感受野特性。(a)用于训练层次模型的自然图像。从这五个图像提取几千个自然图像小片。(b)使用gaussian prior从自然图像学习到的一级神经元的前馈突触权重(a)。这些突触权重确定前馈神经元的接受域属性。(c)二级神经元的前馈突触权重。这些权重类似1级突触权重的各种组合。(d)本地前馈突触权重(基楚矩阵UT的行)通过使用一个s形非线性生成模型学会的和稀疏kurtotic先验分布。值可以是零(总是用相同的灰度),负(抑制,黑色区域)和积极的　　(兴奋性,明亮的区域）

层次结构预测编码模型的一个重要属性是,它提供了一个超过经典接受域的功能性解释(也称为上下文效应)在视觉皮层。这样的上下文效应已报告在几个皮层包括V1,V2, V4,和MT.48对于在这些脑区的许多神经元,当中心的刺激的性质,如定位速度、运动方向，在周围区域的匹配,

反应的抑制或当同样的刺激单独显示在中心取消。图8(a)(实线)显示了一个示例的作用,被称为“endstopping”,在猫视觉皮层2/3层的一个复杂细胞。当最优的bar长度的增长超出了经典感受野时强烈反应被压抑。

　饶和 Ballard21假定extraclassical感受野效应可能是对自然图像预测编码的结果在比在视网膜和LGN像素强度这些例子更复杂的维度。特别是,  当中心刺激属性和周围匹配的时候,从更高层次神经元的响应(处理更大区域)可以预测中央神经元的反应,产生小残余错误。尽管神经元层2/3
层是那些把前馈连接输送到更高脑区的区域,这些将对应模型中的错误检测神经元,因此可以预期展示end-stoppong和其他extraclassical效果。

图8 | Extraclassical接受域在层次预测编码模型的效应。(一)猫纹状皮层中一个2/3层复杂细胞的ending-stop。失活层6的turning curves(虚线)和对照(实曲线)。(b)调谐曲线较低的水平从更高层次模型失活后神经元反馈(虚线)和控制(实线)。(c)Extraclassical接受域效应(上下文调制)。反应的面向结构的错误检测模型神经元对于的刺激的反应，中心和周围都是相同的(虚线)和不同方向(实线)。(版权1999自然出版集团)。

为了验证这个假说,层次结构预测编码网络模型，先用自然图像进行训练然后扩展到许多方向上。在较低层级的错误检测神经元表现end-stopping：当bar超越经典接受域时它们的反应被抑制(图8(b)、实线)因为更高层的预测对于长的bar比短的bar更准确。类似于在视网膜上空间预测编码的例子   ,  长bar为网络提供必要的上下文预测中心的bar。从更高的区域的反馈预测通过长的bar逐步精确 、预测接近零错误。如图8(b)虚线所示,消除预测反馈引起的错误检测神经元继续强劲对长bar做出反应,类似于猫视觉皮质层6灭活的时候的神经反应,可能删除V2的反馈(图8(a),虚线。

预测编码模型中的错误检测神经元也表现出其他上下文效应:  例如,当面对一个面向纹理刺激在中心和不同朝向的刺激在周围,错误检测神经元随着时间的推移发展了一个巨大的积极的差异(图8(c)),类似于在V1神经元观察道德上下文效果。其他V1响应特性,如cross-orientation抑制和取向的对比便利,也可以在预测编码框架内解释。

最近的影像学研究表明,更高的对象处理区域活动增加导致同时减少低层级区域如V1的反应、与层级预测编码模型的预测一致。层次模型,然而,并不排除这种可能性，即预测性抑制反馈也可能起因于当地周期反馈连接，以一种类似于视网膜方式。事实上,动力学网络可以重写用侧抑制取代与更高脑区的反馈连接。

　预测编码也可以用于对视觉皮层运动处理进行建模。MST区的神经元,用来调整光流,如平面、径向和圆周运动,从MT区域接受输入,其中神经元为当地的视觉运动编码(大小和方向)。19,20Jehee等24应用分级预测编码模型来解释　MST的接受域属性。从自然中提取图像序列作为视觉运动输入,类似MT向MST输入,被用来训练模型。训练后、模型对平移和扩张发展出选择性反应,这些是光流的组成部分,类似于MST神经元(图9)。

上述预测编码模型假设一个严格的基本层次结构。然而,  基本思想也可以扩展到允许更复杂图的拓扑。例如,饶和Ballard55提出了一个预测编码模型通过分解一个输入图像为两个表征达到视觉不变性,一个代表特定对象属性和另一个代表空间的转换。这些表征在两个独立的网络维持,一个“对象“网络和一个“转换”网络。变换如对象的平移通过转换网络来预测,允许对象表征保持稳定(见参考文献55-57  详细信息)。在这样的预测编码的两个网络让人想起灵长类动物的视觉皮层的背侧和腹侧通路的分别。

图9 |中颞叶-中上颞区模型(MT-MST)环路的预测编码模型学习得到前馈预测感受野。接受野显示选择反应对于平移和扩张类似MST神经元。(转载许可Ref 24。版权2006爱思唯尔)。

其他区域的预测编码

预测编码的原则也被应用到了听觉系统，海马，腹侧中脑，额叶和许多其他脑区。举例来说，在听觉系统，预测编码提供了一个有效编码输入声音信号的方法通过使用一个对的线性预测。其中ri是神经元i的发放率ui(t)是突触权重的集（或基础函数）。smith和lewicki显示了在从自然声音学习到的最优权重ui(t)和猫的听觉神经纤维的脉冲响应函数之间的惊人的相似。同样,Mehta（60)给海马提出一个预测编码机制，根据观察当大鼠重复追踪一个线索时它的海马体空间感受野经历重大的和快速的变化。总结来说,虽然详细的神经表征可能因地区而异,预测编码的原则对于各种的神经现象提供了一个统一的功能解释通过假设大脑积极预测传入感觉信息的隐藏的原因。

预测编码的最近发展
Spratling50最近表明,预测编码可以使用一个特殊形式的有偏竞争来实现，其中神经元竞争去接受输入。在这样一个预测编码/ biased-competition (PC / BC)模型中,残余误差通过侧抑制连接来计算。大脑的不同区域之间的前馈和反馈连接可以都是兴奋性,而不是抑制大脑皮层反馈，如Rao和Ballard.21 的PC /模型里。这个PC/BC模型也已被证明能够解释视觉注意力以及cross-orientation抑制和方向对比促进这些extraclassical的属性　
　Friston al.68已经探索了神经动态是可以理解的通过预测错误和对世界的层次动力学模型中的隐藏原因如何通过优化自由能来估计。他们的模型可以解释知觉推理以及复杂认知现象,比如,决策和运动控制。

结论
预测编码提供了一个统一的解释，对于理解感受野属性和哺乳动物的大脑的神经解剖学的特征。预测编码模型描述大脑皮层的功能是学习一个输入感觉信号r的一个高效的内部表示I,通过最小化预测错误在，r上受到特定的约束。这些执行“正规化”的约束可以采取的形式有，对r长度的处罚(MDL原则),r的稀疏,或r的统计独立性。通过只传输信号的未预测到的部分到下一级，预测编码减少了需要为输入信号编码的动态范围，允许信号在有限范围的神经通路上有效传递。预测编码也被归因为在皮层之间的反馈连接的一个突出的计算角色,假定这些连接从高级到低级传递预期神经行为的预测。前馈的连接假设为转达剩余预测编码错误。

存在强的实验证据表明预测编码在前期视觉系统中的存在.7,9,13更高的视觉通路,包括classical和extraclassical感受野属性在V1区16,30以及感受野在MST区24，可以使用预测编码解释。然而,从神经生理学实验来看，不清楚是否确实存在反馈连接进行预测和前馈连接传递剩余错误,虽然从神经影像学研究的结果来看（52,53）似乎与残余误差检测假设一致。许多认知现象等如双眼竞争,67不匹配消极性、71和重复抑制72可以用预测编码的上下文解释。最后,预测编码也在理解(NMDA)依赖可塑性中被证明是有用的。60个综上所述,
这些例子表明预测编码可能是大脑使用的一个普遍的编码策略