这一章我们将从生物学的角度去剖析SNN的原理以及他如何处理脉冲信息。为什么神经元需要膜电位为什么它不是直接把输入转成输出而是先积累再达到阈值然后发放 Spike这些设计并非凭空出现而是受到真实生物神经元电活动的启发。因此第二章我们要暂时从人工智能走向神经科学理解真实神经元究竟是怎样工作的。第一部分神经元是怎样接收和传递信息的1. 真实神经元的结构你可以把神经元理解成一个具有输入、处理和输出能力的生物细胞。但需要注意真实神经元远比我们在第一章学习的人工神经元复杂。我们先认识三个主要部分。① 树突Dendrites接收信息树突通常具有很多分支。它们可以接收其他神经元通过突触传来的影响。这里有个重要细节树突接收的信号并不是全部相同的。有些输入可以增强神经元的兴奋性有些输入则会抑制它的活动。② 细胞体Soma和轴突起始段Axon Initial Segment信息整合与发放起始细胞体包含细胞核并参与神经元的代谢及电信号整合。而对于许多典型神经元动作电位的起始与轴突起始段密切相关因为那里具有适合触发动作电位的电压门控离子通道分布。所以这里需要比“细胞体负责判断是否发放”更准确一点神经元各部分共同参与电活动而轴突起始段通常是触发动作电位的重要位置。③ 轴突Axon向远处传递信号如果动作电位成功产生它通常会沿轴突向末梢传播进而影响其他细胞。一些轴突外面还有髓鞘可以帮助电信号更高效地传播。为什么神经元需要树突和轴突为什么不把所有部分做成一个简单的球原因之一是神经元不仅需要接收大量输入还需要在空间上连接其他细胞有时连接距离相当远。它的形态与信息传递功能密切相关。2.为什么输入位置也很重要假设神经元 A 有三个输入现在假设三个输入都具有兴奋性作用。你可能会想它们的作用直接加起来就行了。在第一章的简单 SNN 模型中我们确实这样处理但在真实神经元中问题还要复杂一些。因为树突具有电阻、电容等电学性质。不同位置产生的电位变化在沿树突传递时可能受到距离、分支结构和膜电导等因素影响。因此两个强度相同的突触输入如果发生在不同位置最终对动作电位触发区域的影响未必完全一样。这是一个重要的认识SNN 中简单的突触权重是对复杂生物突触作用的一种数学抽象。轴突的作用不是重新计算整个输入而是将已经产生的动作电位向前传播。3. 多个神经元如何形成回路A 和 B 可以通过突触影响 C。想象一个简单的感觉处理回路神经元 A 对某种刺激作出响应。神经元 B 也对另一种刺激作出响应。它们都可以影响 C。C 是否发放取决于这些输入共同造成的状态变化。神经系统中当然存在比这复杂得多的回路包括反馈连接、局部抑制、多层处理等。神经元不是独立工作的它们通过突触连接形成能够处理信息的网络。请看下图不过我们也舍弃了大量细节。例如真实神经元有复杂的离子通道、树突形态、化学信号和代谢过程而一个基本 LIF 神经元通常只使用少量状态变量和参数。人工脉冲神经元不是生物神经元的完整复制而是提取了其中适合计算建模的关键机制。接下来我们就要深入这些机制中最重要的一个膜电位。第二部分膜电位与动作电位——神经元为什么能发放 Spike现在我们进入今天最重要的部分。之前讲SNN时我们直接使用膜电位 V但还没有真正解释一个生物细胞为什么会产生电压电压为什么会变化为什么达到某个阈值之后会突然产生动作电位1. 什么是膜电位先看定义这里细胞内部的电位。细胞外部的电位。膜电位。这里需要特别注意膜电位为负并不意味着整个细胞内部到处都充满负电荷。真实情况是细胞膜附近存在相对很小的电荷分离而细胞内外的大部分溶液总体上仍接近电中性。我们测量的是两侧电位的差值。那么问题来了为什么细胞内部相对于外部会是负电位2.膜电位从哪里来请看下图对于典型神经元细胞外的浓度相对较高。细胞内的浓度相对较高。现在我问你如果细胞内外存在浓度差这些离子会不会倾向于发生扩散会。但细胞膜并不是让所有离子随意穿过的。它具有选择性通透性其中离子通道决定不同离子在不同条件下能够多容易地穿过细胞膜。例如静息状态下许多神经元的细胞膜对钾离子的通透性相对较高。倾向于沿浓度梯度向外移动。这种跨膜离子运动造成的电荷分离会形成电场电场又反过来影响带电离子的运动。最后电化学驱动力和膜通透性等因素共同决定了膜电位。这就引出了一个非常重要的认识膜电位并不是凭空产生的而与离子浓度梯度和细胞膜的选择性通透性密切相关。它使用 ATP 提供的能量典型情况下每个循环将 3 个 Na运出细胞将 2 个 K运入细胞。这有助于维持细胞内外的离子浓度差。但是注意PPT 特别强调钠钾泵不是静息电位的唯一直接来源。静息电位主要需要综合考虑离子梯度、离子通道的通透性和跨膜电流。什么叫静息电位上图给出一条相对平稳的膜电位曲线位于约-70mv这并不意味着离子完全停止移动。而是说在相对稳定的状态下各种跨膜电流与转运过程形成了近似平衡。你可以把它理解为一座水库水可能持续流入和流出但如果流入量与流出量大致平衡水位就可以保持相对稳定。神经元的静息状态也有类似的动态平衡特征。3.为什么神经元会突然产生动作电位请看下图情况 A刺激较小只产生阈下响应。假设膜电位从-70变化到-63虽然膜电位变得不那么负了但是还没有触发动作电位。这种变化可能随着时间逐渐消退。情况 B刺激足够强触发动作电位。假设膜电位从 -70上升达到约 -55的阈值。这时特定的电压门控离子通道能够引发再生性的快速去极化过程使膜电位迅速上升产生动作电位。① 静息状态神经元膜电位维持在大约-70mv。② 去极化Depolarization受到足够输入后膜电位上升即变得不那么负。当达到适当的触发条件时膜电位开始快速上升。③ 峰值动作电位可能达到约 30mv 的水平。④ 复极化Repolarization膜电位开始下降逐渐恢复到接近静息状态。⑤ 后超极化Afterhyperpolarization在部分神经元中膜电位会短暂低于静息电位随后再恢复。一个非常重要的概念全或无对于典型的动作电位在满足触发条件后会出现具有相对固定形态的再生性电压变化。不是输入越强就一定产生幅度越高的动作电位。较强输入更常影响的是动作电位的发放次数、频率或时间模式。这也解释了为什么 SNN 可以用发放事件和发放时刻表示信息。不过“全或无”是对典型动作电位触发机制的概括不意味着所有细胞、所有条件下的波形都完全相同。4.为什么神经元刚发放完不能马上再次发放现在我们来到一个特别有意思的概念不应期Refractory Period。为什么会这样原因与上一页介绍的离子通道状态密切相关。动作电位发生后一部分电压门控钠通道进入失活状态需要经过恢复过程才能再次参与正常发放。在相对不应期内部分钠通道已恢复但膜电位可能还处于后超极化阶段或者膜电导状态尚未完全恢复。所以这时可能需要更强的输入才能发放。它和 SNN 有什么关系在一些 SNN 神经元模型中也会引入不应期机制。例如可以规定发放后的一段时间内神经元不能再次发放。这有助于更贴近某些生物神经元的发放行为也会影响模型能够产生的最高发放频率与脉冲时间模式。需要注意我们以前使用的基础 LIF 公式并不自动包含显式的不应期通常要另外加入相应规则。5. 动作电位为什么能够沿轴突传播现在我们终于回到第一部分留下的问题。神经元在轴突起始区域产生动作电位后它怎样把信号传递到很远的末梢第一帧第二帧第三帧这里有一个关键的物理过程。当某段轴突膜发生动作电位时膜内外电流与局部电位变化可以影响相邻膜段。如果相邻膜段被去极化到触发条件它也会产生动作电位。于是兴奋活动便可以沿着轴突向前传播。你可以把它想象成一排依次被触发的开关。但是这里不要误解为同一个动作电位波形像一个实体从 A 搬运到 C。更准确地说是相邻膜段依次产生动作电位形成沿轴突传播的电信号。那为什么通常向前传播而不是立即往回传播这与刚才的不应期有关。前一段膜刚刚发生动作电位处于不应期或恢复状态。因此附近尚未兴奋的膜段更容易成为下一段被触发的区域。这有助于在正常情况下实现沿轴突的单向传播。不过传播方向还与动作电位的起始位置及轴突的兴奋条件有关不应期并不意味着在任何刺激条件下动作电位都只能向一个方向传播。还有一点这里主要展示的是无髓轴突的简化情况。在有髓轴突中动作电位通常主要在郎飞结处再生表现为跳跃式传导Saltatory Conduction传播效率通常更高。总结第一个区别膜电位变化不等于动作电位。较小输入可能只产生局部、渐变的电位变化满足触发条件后才可能产生动作电位。第二个区别真实动作电位不等于 SNN 中画出的一根竖线。真实动作电位具有由离子通道机制塑造的电压波形而 Spike Train 上的一根竖线通常只标记一次发放事件发生的时刻。SNN 通过这种抽象保留了与计算有关的部分机制却省略了大量生物电生理细节。第三部分神经元通信细节1. 动作电位到达轴突末梢后会发生什么先思考一个问题。我们上一节已经知道动作电位可以沿着轴突传播。但两个神经元通常不是直接连成一根连续的导线。它们之间有一个特殊的连接区域叫作突触Synapse。现在假设 A 发放一次动作电位。动作电位成功传播到 A 的轴突末梢。可是 A 与 B 之间存在间隙。那么电信号是怎样跨越这段间隙的答案是在常见的化学突触中电信号会引发化学信号的释放再由化学信号影响下游细胞的电活动。这里有个特别重要的区别。在轴突上传播的主要是电活动。在化学突触间隙中发挥信息传递作用的是神经递质分子。所以神经系统并不是单纯使用电信号它还大量利用化学机制。我们把它理解成三个功能区域。突触前末梢Presynaptic Terminal是上游神经元释放神经递质的部位。末梢中有许多突触囊泡囊泡内储存神经递质。突触间隙Synaptic Cleft是两个细胞之间的狭小空间。神经递质释放后可以在这里扩散。突触后膜Postsynaptic Membrane位于下游细胞一侧上面有相应受体能够感知递质并引发细胞响应。这里要注意突触后细胞不一定直接收到一个完整的动作电位。它首先可能产生局部的电位或电导变化然后再决定是否触发自己的动作电位。2.收到信号之后神经元为什么不一定发放现在我们从突触前末梢走到突触后细胞。问题是神经递质作用于下游神经元以后会产生什么变化EPSP 和 IPSP兴奋与抑制EPSPExcitatory Postsynaptic Potential兴奋性突触后电位。IPSPInhibitory Postsynaptic Potential抑制性突触后电位。在经典的教学示例中你可以这样理解。假设神经元当前膜电位是-70mv当某个兴奋性突触产生作用膜电位可能上升到-65mv变得不那么负更接近动作电位的触发区域。这就是一种典型的 EPSP。相反当某个抑制性突触产生作用膜电位可能下降到-75mv这种超极化响应是典型 IPSP 的一种表现。你会发现这些突触后电位与上一讲的动作电位不同。EPSP 和 IPSP 通常是渐变的、局部的响应幅度与时间过程可以发生变化。而典型动作电位具有再生性触发过程和相对固定的波形。一个容易误解的地方并不是所有抑制都表现为膜电位明显下降。分流性抑制Shunting Inhibition。有些抑制性输入主要通过增加膜电导减弱其他兴奋性输入引起的电压变化而不一定产生明显的超极化。因此兴奋和抑制的根本区别是它们怎样影响下游神经元的兴奋性而不仅仅是电压曲线向上还是向下。3.时间总和与空间总和现在进入新的概念。时间总和Temporal Summation。下图比较了两种情况同一个突触连续产生输入但输入之间的时间间隔不同。我们先想象一个神经元收到第一次兴奋性输入。膜电位从 -70上升到-65。随后这次突触后响应会逐渐衰减。如果第二次输入在第一次响应尚未消退时到达两次响应就可能叠加。但如果第二次输入间隔很久第一次响应已经基本消失那么叠加作用就会弱得多。这与我们学习过的 LIF 有什么关系回忆简化公式假设第一次输入使膜电位相对基线增加 0.6。如果下一时间步又来一次 0.6 的输入但如果第二次输入在三个没有新输入的时间步之后才来同样两次输入总影响却不同。因为第一次输入的残留状态不同。这就是为什么在 SNN 中我们不能只知道脉冲发放了多少次还需要知道它们在什么时刻发生。不过这个计算是对生物时间总和的简化数学类比而非完整的突触后电位模型。刚才讨论的是同一个突触在不同时刻输入。现在换一个角度。假设神经元 C 同时接收 A 和 B 的输入。这叫作空间总和Spatial Summation所涉及的典型情形。例如A 对 C 产生一个兴奋性作用。B 对 C 产生一个抑制性作用。那么 C 的状态由两者共同影响。在简化 SNN 模型中可以写成因此C 收到的是两路输入的合成影响。而不是只看 A 或 B。现实中空间总和还受到突触位置、树突电学性质以及其他局部机制影响不一定表现为完全简单的线性相加。4. 为什么 SNN 可以用一个权重表示复杂突触作用SNN和ANN都是用一个权重表示复杂的突触作用不是仅仅只是SNN用权重表达复杂的突触连接左边是真实生物突触离子通道、囊泡、神经递质、受体等复杂过程。右边则非常简单这里的 w 是连接权重。我们不是认为真实突触中存在一个叫 w 的物理实质。而是在进行数学抽象。我们舍弃了大量分子细节但保留了输入如何影响下游状态这一核心关系。这也解释了 SNN 为什么既受到生物学启发又不是完整的生物神经系统模拟。我们已经从动作电位传播完整走到了突触传递、兴奋与抑制以及时间和空间上的信息整合。接下来我们把关注点从“单次输入如何影响神经元”转向“多个脉冲的时间分布如何表达信息”。第四部分神经系统如何利用脉冲表达信息现在我们来思考一个更有意思的问题。上一讲我们学习了动作电位的“全或无”特征。典型神经元的单次动作电位波形具有一定的相似性。那么假设一个神经元需要表示两种不同强度的刺激它应该怎么办一种可能的方法是改变脉冲发放的数量和时间分布。1.脉冲为什么不一定均匀出现观察一下。这三条序列的脉冲总数都是 6 次。但它们的时间分布不同。第一条比较均匀。第二条集中形成几个脉冲簇。第三条则开始很密集后来逐渐稀疏。它们可能反映不同的输入条件和神经元动力学。所以只知道神经元一共发放多少次脉冲并不足以完整描述它的活动。这也解释了我们为什么不仅研究发放率还研究发放时刻与间隔。接下来介绍三个概念观察窗口、发放时刻、相邻发放间隔ISI。假设我们观察一个神经元 1 秒钟。它在以下时刻发放观察窗口每一个就是脉冲的发放时刻。而 ISI 是 Inter-Spike Interval即相邻两次脉冲之间的时间间隔。2.规律发放、簇发与发放适应规律发放Tonic Firing脉冲间隔相对稳定。例如ISI 始终为 200 ms。簇发Bursting神经元在短时间内连续发放多个脉冲随后可能经历相对安静的间隔。例如前三次脉冲集中在 40 ms 内。发放适应Adapting假设外部持续提供刺激。神经元一开始发放得很快但随后发放逐渐变慢。例如相邻间隔分别是间隔越来越长意味着发放逐渐变慢。为什么会出现发放适应部分生物神经元具有慢钾电流、钠通道适应性变化等机制这些过程可能让神经元在持续刺激下逐渐降低发放频率。所以发放行为并不只是由某个固定阈值决定。真实神经元具有复杂的动力学。后续学习更复杂的 SNN 神经元模型时你会发现一些模型也能模拟簇发、适应等现象。3.发放率现在我们引入一个非常重要的数学量发放率Firing Rate。也就是相同观察时间内发送脉冲的次数但是发放率是一种统计量它会丢失具体的发放时间信息。平均发放率不能完整描述脉冲序列。这也引出了神经信息编码中的重要问题究竟是脉冲次数在表达信息还是精确发放时间也在表达信息不同的神经系统和计算模型可能采用不同机制。4.第一次发放的时间也能携带信息吗假设一个刺激在0时刻出现。神经元 A 在 20 ms 后第一次发放。神经元 B 在 80 ms 后第一次发放。那么它们的首次发放延迟分别是20ms 80ms虽然两个神经元可能都只发放一次但首次发放时间明显不同。在某些神经系统及 SNN 编码方法中可以利用这种时间差异来表示信息。例如一种人为设计的时间编码规则可以规定刺激越强首次发放越早。但这只是一类可能的编码方法并不意味着所有生物神经元都必然遵守这个规则。为什么这种编码值得研究我们之前学习的发放率编码需要在一定时间窗口内统计脉冲数。但如果只利用第一次发放时间在某些设计中网络可能无需等待很长的统计窗口就能获得有用信息。这为降低信息读取延迟提供了可能。不过首次发放时间也可能受噪声、输入波动等因素影响而且部分神经元可能在观察窗口内根本不发放。因此它并不是在所有情况下都优于发放率编码。我们先记住脉冲发放的时刻本身也可能是信息的组成部分。第五部分突触可塑性与学习前面我们已经知道神经元通过动作电位和突触传递信息。不同时间、不同位置的输入可以相互叠加。神经元可以通过发放次数、发放时刻和群体活动表达信息。但现在出现了一个更重要的问题如果神经元之间的连接永远不变那么神经系统又是怎样通过经验来学习的例如你第一次学习骑自行车时身体很难保持平衡但经过反复练习后来即使很多年没有骑车你也可能很快找回那种感觉。神经系统经历了什么变化这涉及一个重要概念突触可塑性Synaptic Plasticity。请看下图这里我们需要先明确一个概念什么叫连接强度假设神经元 A 通过突触影响神经元 B。我们让 A 发放一次动作电位并观察 B 的反应。活动前B 可能只产生较弱的突触后响应。但在某些学习或刺激过程之后A 再次产生相同的输入B 的响应可能更强。这意味着 A 到 B 的突触传递效能发生了变化。这种由活动经历引起的突触效能改变就是突触可塑性研究的重要内容。注意这里的“学习”不一定指有意识地学习数学或语言。在神经科学中学习也可以指神经系统因活动经历而形成某种相对持续的功能变化。1.什么是神经可塑性我们先做一个实验思想。假设神经元 A 与 B 相连。每次让 A 接收相同的测试刺激然后记录 B 的突触后响应。请看下图于是我们知道测试刺激相同时突触后响应的幅度可以因连接效能变化而不同。突触增强Potentiation某些活动经历之后连接的传递效能增强。突触减弱Depression某些活动经历之后连接的传递效能减弱。你可能会问为什么大脑不让所有连接都越来越强因为学习不只是增强信号。如果所有连接都持续增强网络活动可能失去合适的调节和平衡难以有效区分不同输入模式。连接增强、减弱以及其他调节机制共同参与神经网络功能的塑造。突触可塑性可以表现为增强也可以表现为减弱。2.Hebbian 学习——一起活动的神经元连接可能增强现在我们终于进入一个你以后研究 SNN 会经常遇到的名字Donald Hebb。1949 年Hebb 提出了一种影响深远的神经学习思想。它后来经常被简化成一句英文Cells that fire together, wire together.大意是如果两个具有联系的神经元反复共同活动它们之间的连接在某些条件下可能增强。假设 A 是一个上游神经元B 是下游神经元。A 反复活动并参与驱动 B 的活动。经过相关的活动经历A 到 B 的突触连接可能得到增强。这就让我们产生一个新的理解学习可能表现为神经元之间连接作用的改变而不仅是某个神经元内部状态的短暂变化。一种经典的简化 Hebbian 更新形式是这只是最简单的相关性学习公式不能完整描述真实的 Hebbian 可塑性。若不加入归一化、竞争或其他稳定机制这类规则还可能导致权重持续增长。Hebbian 学习与反向传播有什么区别你以前学习过 ANN 的反向传播。反向传播通常先定义任务损失再计算参数梯度而上面这个简化 Hebbian 规则主要根据相连接神经元的活动更新权重并不需要先计算整个网络的任务损失梯度。所以我们可以把它们理解成两种不同的学习思想反向传播关注如何利用损失梯度更新参数。Hebbian 学习强调相关神经活动与连接变化之间的关系。但它们并非完全对立实际算法也可以结合局部学习与全局优化。这一页最重要的不是记住 Hebbian 公式而是理解神经系统的学习可以表现为经历相关活动之后某些突触连接的效能发生改变。接下来我们要问一个更深的问题连接增强或减弱是短暂发生的还是能够维持较长时间而如果两个神经元都发放了脉冲究竟是“谁先发放”更重要还是“是否共同发放”更重要这就引出了后面的 LTP、LTD 和 STDP。3.LTP 与 LTD——连接的变化如何持续存在现在我们来到神经科学中两个非常重要的概念LTPLong-Term Potentiation长时程增强。LTDLong-Term Depression长时程抑制。你可以把它们理解为突触传递效能发生相对持久改变的两种现象。请看下图一开始这两个神经元的响应强度都是1随着训练有的响应变得更高有的响应变得更低了LTP 和记忆是什么关系这是我想适当拓展的地方。LTP 是研究学习与记忆神经机制时非常重要的现象。某些形式的 LTP 涉及谷氨酸受体、钙信号和一系列细胞内分子过程。例如在一些海马兴奋性突触中突触后钙信号参与可塑性诱导AMPA 受体的功能变化可以参与突触增强。但我们不能简单地说“记忆就是 LTP。”也不能说发生了 LTP就一定产生了某个可被意识到的记忆。真实记忆还涉及神经元群体、多个脑区、不同时间尺度的变化以及其他神经机制。4.STDP——谁先发放真的很重要吗接下来是今天最重要的一页也是你以后研究 SNN 学习算法一定会遇到的概念。STDPSpike-Timing-Dependent Plasticity脉冲时间依赖可塑性。我们先提出一个问题假设 A 和 B 之间存在突触连接。A、B 都发放了动作电位。那么这条连接一定会增强吗不一定。在某些生物突触中两个神经元发放脉冲的先后顺序以及它们相隔的时间可以影响突触效能如何改变。这就是 STDP 研究的核心。首先理解两个时刻设假设于是经典配对型 STDP 情况下即突触前先发放突触后随后发放可能出现突触增强。为什么会出现这种现象一种直观理解是上游神经元的活动在时间上先于下游神经元的发放因此在特定条件下这条连接可能得到强化。但要注意这只是直觉解释不等于证明上游活动一定造成了下游发放。现在把先后顺序交换。假设则突触后先发放突触前随后发放可能出现突触减弱。我们把两种情况放在一起脉冲先后顺序时间差经典配对型 STDP 的可能结果pre 先post 后正数连接增强post 先pre 后负数连接减弱STDP 如何写成学习算法这个公式表达了一种很有意思的思想不仅脉冲的先后顺序重要它们之间相隔多久也可能重要。今天就到这里结束了接下来我们就要更深入地回答为什么 IF/LIF 神经元的数学公式要这样设计以及这些公式究竟舍弃了哪些真实的生物过程。