神经元的计算功能可以阻止其他神经元放电

2020-01-16 13:31:07 来源: INeng财经

麻省理工学院计算机科学和人工智能实验室的研究人员开发了一种新的大脑神经回路的计算模型,该模型可以揭示抑制性神经元(阻止其他神经元放电的神经元)的生物学作用。

该模型描述了一个由一组输入神经元和相等数量的输出神经元组成的神经电路。该电路执行神经学家所称的“赢家通吃”操作,即多个输入神经元发出的信号在一个输出神经元中产生一个信号。

利用理论计算机科学的工具,研究人员证明,在他们的模型的背景下,某种抑制性神经元的配置提供了最有效的手段来实施赢家通吃的操作。因为该模型对大脑中抑制性神经元的行为做出了经验预测,它为计算分析如何帮助神经科学提供了一个很好的例子。

研究人员将在本周的理论计算机科学创新大会上公布他们的研究结果。MIT软件科学与工程NEC教授Nancy Lynch是这篇论文的资深作者。她的团队中还有博士后Merav Parter和麻省理工学院电子工程和计算机科学研究生Cameron Musco。

多年来,Lynch的团队一直在研究ad hoc网络中的通信和资源分配,ad hoc网络是指成员不断离开和重新加入的网络。但最近,研究小组开始使用网络分析工具来研究生物现象。

林奇说:“电脑或移动电话等设备网络的行为与生物系统的行为有着密切的对应关系。”“我们正在努力寻找可以从分布式计算的视角中受益的问题,关注于我们可以证明数学性质的算法。”


近年来,人工神经网络——大致基于大脑结构的计算机模型——在人工智能系统中负责一些最快速的改进,从语音转录到人脸识别软件。

人工神经网络由“节点”组成,这些“节点”与单个神经元一样,信息处理能力有限,但却紧密相连。数据被输入到第一层节点。如果给定节点接收到的数据满足某个阈值标准(例如,如果它超过某个特定值),则节点“触发”,或沿其所有传出连接发送信号。

然而,每一个传出的连接都有一个相关的“权重”,可以增加或减少一个信号。网络下一层的每个节点接收第一层多个节点的加权信号;把它们加起来,如果它们的和超过某个阈值,就会触发。它发出的信号传递到下一层,以此类推。

在人工智能应用中,神经网络被“训练”在样本数据上,不断调整其权重和触发阈值,直到最后一层的输出一致地表示某个计算问题的解决方案。

生物合理性

Lynch、Parter和Musco对这个设计做了几处修改,使其在生物学上更合理。第一个是添加抑制性“神经元”。在标准的人工神经网络中,连接上的权值通常是正的,或者可以是正的,也可以是负的。但在大脑中,一些神经元似乎只起抑制作用,阻止其他神经元放电。麻省理工学院的研究人员将这些神经元建模为只有负权数连接的节点。

许多人工智能应用程序还使用“前馈”网络,在这种网络中,信号仅以一个方向通过网络,从接收输入数据的第一层到提供计算结果的最后一层。但是大脑中的连接要复杂得多。Lynch、Parter和Musco的电路因此包含反馈:来自输出神经元的信号传递给抑制性神经元,抑制性神经元的输出又传递回输出神经元。输出神经元的信号也会反馈给自己,这被证明是制定赢家通吃策略的关键。

最后,麻省理工学院研究人员的网络是概率性的。在一个典型的人工神经网络中,如果一个节点的输入值超过某个阈值,该节点就会触发。但是在大脑中,增加信号在输入神经元上传递的强度只会增加输出神经元被激活的几率。研究人员模型中的节点也是如此。同样,这种修改对于制定赢家通吃的战略至关重要。

在研究人员的模型中,输入和输出神经元的数量是固定的,赢家通吃的计算完全是一组辅助神经元的工作。帕特解释说:“我们试图在解决给定问题的计算时间和辅助神经元的数量之间找到平衡。”“我们认为神经元是一种资源;我们不想花太多钱。”


帕特和她的同事们能够证明,在他们的模型中,只有一个抑制性神经元是不可能实施赢家通吃的策略的。但两个抑制神经元就足够了。关键在于,如果有多个输出神经元同时放电,其中一个抑制神经元(研究人员称之为收敛神经元)就会发出强烈的抑制信号。另一种抑制性神经元——稳定性神经元——在任何输出神经元放电的时候都会发出更弱的信号。

收敛神经元驱动电路选择单个输出神经元,此时停止放电;一旦收敛神经元关闭,稳定神经元阻止第二个输出神经元激活。来自输出神经元的自反馈回路增强了这种效果。一个输出神经元关闭的时间越长,它就越有可能保持关闭状态;它存在的时间越长,就越有可能继续存在下去。一旦选择了单个输出神经元,其自反馈电路就能克服对稳定神经元的抑制。

但是,如果没有随机性,这个电路就不会收敛到单个输出神经元:任何设置的抑制神经元的权重都会对所有输出神经元产生相同的影响。“你需要随机性来打破对称性,”帕特解释道。

研究人员能够确定保证特定收敛速度所需的辅助神经元的最小数目,以及给定特定数目的辅助神经元所能达到的最大收敛速度。

增加更多的收敛神经元可以提高收敛速度,但只是在一定程度上。例如,对于100个输入神经元,你只需要2到3个收敛神经元;添加第四个并不能提高效率。只有一个稳定神经元是最优的。

但也许更有趣的是,研究人员发现,包括兴奋性神经元(刺激而非抑制其他神经元放电的神经元)以及辅助神经元中的抑制性神经元在内,都不能提高回路的效率。类似地,任何抑制性神经元的排列,如果没有观察到收敛性神经元和稳定性神经元之间的区别,那么它们的效率就会比观察到收敛性神经元和稳定性神经元之间的区别的抑制性神经元要低。

假设,进化会找到有效解决工程问题,该模型显示这两个问题的答案为什么抑制性神经元在大脑和实证研究的一个引人注目的问题:做真实的抑制性神经元表现出相同的收敛性神经元和神经元稳定吗?

索尔克生物研究所(Salk Institute for Biological Studies)整合生物实验室(Integrative Biology Laboratory)的助理教授萨基特•纳夫拉卡(Saket Navlakha)表示:“赢家通吃的计算模式是我们在大脑中看到的一个相当广泛而有用的模式。”“在许多感觉系统中——例如嗅觉系统——它被用来产生稀疏编码。”

他补充道:“我们已经发现了许多种类的抑制性神经元,下一步自然是要看看这些种类是否与本研究预测的相符。”

卡耐基梅隆大学计算机科学教授Ziv Bar-Joseph说:“神经科学在计算模型方面做了很多工作,这些模型不仅考虑了抑制性神经元的更多细节,还考虑了是什么蛋白质驱动这些神经元等等。”她说:“南希从全球的角度来看待这个网络,而不是着眼于具体的细节。作为回报,她能够看到一些更大的画面。你到底需要多少抑制性神经元?为什么与兴奋性神经元相比,我们的神经元如此之少?这里的独特之处在于,这种全球范围的建模为你提供了一种更高层次的预测。”

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。