我們相信在這個變化和嘈雜的世界裏,記憶的短暫是必要的。在變化的環境中,遺忘是適應性的,因為它允許更靈活的行為;在嘈雜的世界中,遺忘是自適應的,因為它防止了特殊事件的過度擬合。(2)基於這種觀點,記憶的永久性並不總是有用的。例如,對於世界上短暫的或不常見的方面,記憶的永久性將是有害的,因為它可能導致不靈活的行為和不正確的預測;只有當經驗的那些方面相對穩定,新的經驗被預測時,堅持才有用。③因此,只有通過永久性和短暫性的相互作用,記憶才能顯示其真正的目的:利用過去的智力來指導決策(杜代和卡魯澤斯,2005;Schacter等人,2007年)。④接下來,我們回顧壹下利用時間性來增加行為靈活性和促進概括的計算案例。此外,我們還確定了時間性在計算中的使用及其在大腦中的實現之間的相似性。
神經網絡:
對於使用分布式表示的神經網絡來說,新的學習是壹個很大的挑戰(French,1999;萊萬多夫斯基和李;麥克勞斯基和科恩,1989;拉特克利夫,1990).挑戰有兩個:新的學習可能會覆蓋之前的記憶(即災難性幹擾);新的學習會受到已有記憶的阻礙(即主動相互幹擾)(Burgess et al .,1991;麥克勞斯基和科恩,1989;棕櫚,2013;西格和哈塞爾莫,2002年).這就是神經網絡中“穩定性和可塑性”的困境(Abraham和Robins,2005;卡彭特和格羅斯伯格,1987).按照傳統的觀點,記憶的持久性與行為的靈活性是不相容的,因為壹個善於保持持久記憶的網絡會發現很難學習到新的信息,尤其是與以前的經驗相沖突的信息。
然而,最近,使用外部存儲設備或突觸的神經網絡模型在多個時間尺度上發生了變化,這對這種困境的普遍性提出了挑戰(Graves et al .,2016;柯克帕特裏克等人,2017;桑托羅等人,2016).此外,大腦可以用來解決這個問題的另壹個策略是使用正交表示對經驗進行稀疏編碼,這可能是由模式分離的過程引起的(Yassa and Stark,2011)。記憶的語境依賴性是這種策略的壹個例子:通過保持正交模式,在特定語境中編碼的記憶更有可能在該語境中表達,而不是在其他語境中表達(馬人等人,2013)。這種策略最大化了可以無幹擾地存儲在神經網絡中的模式數量(Amari,1989)。
大腦:
然而,在壹個動態的環境中,無論容量如何有限,丟棄過時的信息是很重要的(Kraemer and Golding,1997)。如果環境變了,但是我們的記憶沒有變,那麽我們可能會堅持舊的記憶,傷害自己。因此,短暫性可以通過消除過時的信息來促進決策,從而使生物體能夠更有效地應對其環境的變化。
最近的研究提供了證據,證明遺忘是動態環境中靈活行為所必需的(董等,2016;Epp等,2016;帥等,2010).帥和他的同事訓練蒼蠅區分兩種氣味(A和B),發現抑制Rac1可以減緩遺忘。抑制RAC1的果蠅組表現出受損的反向學習(A-或B+),表明保留的記憶影響了新的學習。在激活RAC1的果蠅組中,結果正好相反,對舊記憶的遺忘促進了逆向學習。這個模型的結果被擴展到五種不同的蒼蠅,它們被設計用來表達與自閉癥譜系障礙相關的突變,自閉癥譜系障礙也會幹擾Rac的活動。所有這些Rac功能受損的果蠅都表現出遺忘受損,這反過來又損害了逆向學習(帥等,2010)。
其他研究也顯示了同樣的結果。EPP等人(2065438+June)研究了遺忘後的逆向學習(由神經發生介導)。在實驗中,他們訓練老鼠在水迷宮中找到壹個固定的平臺,然後在同壹個迷宮中重新訓練它們,但平臺被移動到了相反的位置。這樣壹來,海馬神經發生增強的小鼠可以更有效地找到新的平臺位置(海馬神經發生增強會導致對原有位置的遺忘);然而,當海馬神經發生水平下降時,觀察到相反的模式,因為神經發生的抑制維持了對原始位置的記憶,並幹擾了對新位置的學習。
在情境-氣味配對任務中也觀察到了類似的結果(Epp et al .,2016)。訓練後,神經發生的增加會導致對已學過的配對聯想的遺忘,但有助於後續的逆向學習。但這種提升並不適用於任何學習,新學習的好處只有在與原有學習有明顯沖突時才能觀察到。例如,如果在新的環境-氣味配對中訓練神經發生增加的小鼠,它們不會表現出任何益處。這些發現表明,成年海馬神經發生促進遺忘,遺忘通過去除或削弱過時的信息來增強行為靈活性。神經發生與柔韌性關系的相關論文有:Burghart等(2012);Garthe等人(2009),(2016);Luu等人(2012);天鵝等(2014);以及Winocur等人(2012)。
引用文件:
Azevedo等人,2009:我們發現,成年男性大腦平均包含861 81億個神經細胞(神經元)和84698億個神經細胞(非神經元)。就神經元和非神經元的數量而言,人腦是壹個同樣放大的靈長類大腦。
Amari,1989:當要存儲的編碼模式的大部分分量為0,只有少數分量的比值為1時,這種編碼方案稱為稀疏。詳細分析了稀疏編碼聯想記憶的存儲容量和信息容量,證明了它與神經元個數n logn成正比關系。與壹般的非稀疏編碼方案(約0.15n)相比,比例關系非常大。
杜戴和卡魯澤斯,2005:研究表明,記憶可能是過去的印記,對未來的認知過程至關重要。
Schacter et al .,2007:想象未來很大程度上依賴於能夠記住過去的神經機制。這些發現引出了前瞻腦的概念,即大腦的壹個關鍵功能是利用存儲的信息來想象、模擬和預測未來可能發生的事件。根據這壹想法,我們認為記憶等過程可以被有效地重新概念化。
French,1999:研究神經網絡中災難性遺忘的原因、後果以及各種解決方案。這篇綜述將考慮大腦如何克服這個問題,也將討論這種解決方案對分布式連接網絡的影響。
McCloskey和Cohen,1989:本文討論連接主義網絡中的災難性幹擾。當網絡按順序訓練時,新的學習可能對舊的學習造成災難性的幹擾。對幹擾原因的分析表明,當新學習可能改變舊學習中涉及的權重時,至少會發生壹些幹擾。仿真結果僅表明在某些特定網絡中幹擾是災難性的。
Ratcliff,1990:利用反向傳播學習規則對基於編碼器模型的多層內存連接模型進行評估。這些模型被應用到標準的識別和記憶過程中,依次研究項目,然後測試它們的保持率。這些模型中的順序學習導致兩個主要問題。首先,學得好的信息會隨著新信息的學習而很快被遺忘。第二,學習項目和新項目的區別要麽隨著學習的進展而減少,要麽是非單調的。為了解決這些問題,我們研究了多層模型中的網絡操作和多層模型的幾個變體,包括壹個具有預學習記憶的模型和壹個上下文模型,但是它們都沒有解決這些問題。所討論的問題為人類記憶和任務的聯結主義模型提供了限制,在這種模型中,不是所有要學習的信息都可以在學習過程中獲得。
Burgess等人,1991:建立神經網絡模型,可以在學習項目表上記錄人類記憶實驗的結果。本文總結了學習清單的心理學實驗。Hopfield-帕裏西神經網絡用於模擬序列回憶中序列效應的許多簡單特征。通過仿真研究了項目的召回率與其數量、在列表中的位置以及相似度之間的函數關系。更復雜的實驗涉及不同類型的項目,相關的活動模式用於建模。通過考慮權重分布和信噪比參數,了解模型的工作原理。
Palm,2013:介紹了近40年來神經聯想記憶的理論、實踐和技術發展。指出了聯想記憶模式稀疏編碼的重要性。還提到了聯想記憶網絡在大規模大腦建模中的應用。
Siegle和Hasselmo,2002:聯結主義模型被認為是理解心理障礙本質和指導其評估的有前途的工具。具體來說,連接主義模型可以指導評估過程的以下方面:了解哪些結構與評估相關,設計評估這些結構的方法,以及了解評估數據中的個體差異。
Abraham和Robins,2005:記憶維持被廣泛認為涉及學習過程中相關神經回路突觸權重的長期保持。然而,盡管最近的技術進步令人興奮,但這種直觀而有吸引力的假設無法通過實驗得到證實。人工神經網絡提供了壹種替代方法,因為它們允許在學習和維護期間連續監控各個連接權重。在這個模型中,如果網絡想要在學習新信息的同時保留先前存儲的材料,就需要不斷改變連接權重。因此,突觸變化的持續時間不壹定定義記憶的持久性;相反,可能需要調整突觸穩定性和突觸可塑性之間的平衡,以便在真實的神經元回路中獲得最佳的記憶保持。
Carpenter和Grossberg,1987:自適應振動結構是壹種神經網絡,能夠實時自組織穩定的模式識別碼,以響應任何輸入的模式序列。介紹了壹種自適應振動結構ART2。ART2架構體現了穩定性-可塑性權衡、搜索-直接訪問權衡、匹配-重置權衡等多種設計原則的解決方案。
Graves et al .,2016:人工神經網絡在感覺處理、順序學習和強化學習方面具有明顯的優勢,但由於缺乏外部記憶,其表達變量和數據結構以及長時間存儲數據的能力受到限制。這裏我們介紹壹種叫做可微分神經計算機(DNC)的機器學習模型,它由壹個可以讀寫外部存儲矩陣的神經網絡組成,類似於傳統計算機中的隨機存取存儲器。像傳統的計算機壹樣,它可以使用內存來表示和操作復雜的數據結構,但像神經網絡壹樣,它可以從數據中學習這樣做。結果表明,DNC具有解決神經網絡在沒有外部讀寫存儲器的情況下無法完成的復雜結構化任務的能力。
柯克帕特裏克等人,2017:以順序方式學習任務的能力對於人工智能的發展非常重要。到目前為止,神經網絡還不能做到這壹點。我們證明了克服這種限制和訓練網絡是可能的,這樣它就可以在長期沒有經歷過的任務中保持它的專長。我們通過選擇性地減緩對那些任務重要的權重的學習來記住舊任務的結果,這證明了我們的方法是可擴展的和有效的。
桑托羅等,2016:在系統整合的過程中,有壹個從依賴細節情節記憶到通用圖式記憶的過渡。這種轉換有時被稱為“記憶轉換”。這裏我們展示了記憶轉換以前沒有被重視的優勢,即它增強了動態環境下強化學習的能力。我們開發了壹個神經網絡,它被訓練成在獎勵位置變化的覓食任務中尋找獎勵。網絡可以使用特定位置的記憶(場景記憶)和該位置的統計模型(示意圖記憶)來指導其搜索。我們的工作提出了為什麽記憶轉換會再次發生的理論問題,將重點從避免記憶幹擾轉移到加強跨多個時間尺度的強化學習。
Yassa和Stark,2011:區分相似經歷的能力是情境記憶的重要特征。長期以來,這種能力被認為需要海馬體,計算模型顯示它依賴於模式分離。然而,關於海馬在模式分離中的作用的實驗數據直到最近才得到。本文總結了幾種類型的數據。我們討論了衰老和成體神經發生對模式分離的影響,也強調了跨物種和跨通路連接的幾個挑戰,並提出了未來的研究方向。
馬人等,2013:語境圍繞事件,賦予事件意義;它們對於回憶過去、解釋現在和預測未來非常重要。事實上,大腦對信息進行語境化的能力允許巨大的認知和行為靈活性。對嚙齒動物和人類巴甫洛夫恐懼的調節和消失的研究表明,包括海馬、杏仁核和內側前額葉皮層在內的神經回路參與了學習和記憶的過程,從而實現了情境依賴行為。
Kraemer和Golding,1997:總結了人類適應性遺忘的研究現狀,提出了動物適應性遺忘的觀點。討論內容包括遺忘的理論前提,動物適應性遺忘的選擇性現象的回顧,這種遺忘的可能機制(可恢復性)的描述,以及這種分析對記憶的心理學和神經生物學方法的影響。
董等,2016:本研究采用逆向學習任務測量黑腹果蠅的行為靈活性,確定了黑腹果蠅中幾個自閉癥風險基因的同系物功能性缺失突變的影響。五個具有不同分子功能的自閉癥風險基因的突變都導致類似的行為不靈活表型,這顯示了學習障礙的逆轉。這些逆向學習缺陷是由於無法遺忘,或者更準確地說,無法激活Rac1(Ras相關的C3肉毒桿菌毒素底物1)依賴性遺忘。因此,行為誘導的Rac1依賴性遺忘激活對自閉癥風險基因具有聚集作用。
Epp et al .,2016:通過控制海馬神經發生的水平,我們發現神經發生調節這種主動幹預的形式。海馬神經發生的增加削弱了現有的記憶,從而促進了小鼠對新的和沖突信息的編碼。相反,神經發生的減少穩定了現有的記憶,並阻礙了新的和沖突的信息的編碼。這些結果表明,減少主動幹擾是神經發生誘導的健忘癥的壹種適應性益處。
帥等人2010:初始記憶如果不鞏固會很快消失。這種記憶力下降被認為是由於新獲得的記憶固有的不穩定性或後續獲得的信息的幹擾。本文報道了果蠅G蛋白Rac依賴性遺忘機制在被動記憶衰退和幹擾性遺忘中的作用。Rac活性的抑制導致早期記憶衰退的減緩,從幾個小時到壹天以上,阻斷了幹擾引起的遺忘。相反,蘑菇體細胞神經元Rac活性的增加會加速記憶衰退。這種遺忘機制不影響記憶的獲得,不依賴於蕪菁甘藍腺苷酸環化酶介導的記憶形成機制。內源性Rac激活在不同的時間尺度上被誘導,記憶在被動下降中逐漸喪失,在逆向學習中急性記憶消失。我們認為Rac在肌動蛋白細胞骨架重塑中的作用可能與記憶喪失有關。
Burghart等人(2012):海馬參與記憶分離,這是壹種利用模式分離並允許認知靈活性的神經過程。我們通過使用主動回避任務的變體和兩種獨立的方法,即切除成人出生的神經元、海馬局部X射線照射和膠質纖維酸性蛋白陽性神經前體細胞的基因消融,評估了成人海馬神經發生在認知靈活性中的作用。結果表明,當成人神經發生需要改變對刺激誘發記憶的學習反應時,有助於認知靈活性。
Garthe et al. (2009):雖然在過去幾年中取得了很大進展,但新生顆粒細胞對成年海馬功能的具體貢獻仍不清楚。我們假設,為了解決這個問題,我們必須特別註意學習測試的具體設計、分析和解釋。因此,我們設計了壹個行為實驗來預測新的神經元可能與學習條件特別相關,其中新的方面出現在熟悉的情境中,這對參考記憶版本的水迷宮中的(再)學習質量提出了很高的要求。替莫唑胺(TMZ)對成人神經發生的任務抑制導致高度特異性的學習障礙。小鼠在具有隱藏平臺的Morris水迷宮中進行測試(每天6次,持續5天,第4天顛倒平臺位置)。該測試在四個治療周期結束後四周進行,以最小化測試期間可招募的新神經元的數量。神經發生的減少並沒有改變CA3和齒狀回的長時增強,但消除了齒狀回中屬於新生神經元的那部分LTP。TMZ在測試中沒有任何明顯的副作用,治療組和對照組都學會了尋找壹個隱藏的平臺。然而,對搜索策略的定性分析表明,治療組的小鼠並沒有向空間精確搜索策略前進,尤其是在學習改變目標位置(反轉)時。因此,似乎齒狀回中的新神經元對於增加海馬依賴的學習質量參數的靈活性是必要的。我們發現,缺乏成年顆粒細胞尤其導致動物無法準確定位隱藏的目標,這也與齒狀回在生成測量結果而不僅僅是環境結構圖方面的特殊作用有關。因為成年海馬神經發生受到抑制,並且發現了高度特異性的行為缺陷,細胞海馬可塑性可以與理論模型中明確定義的假設聯系起來。
Garthe et al. (2016):我們在這裏證明,生活在刺激環境(ENR)中可以提高水迷宮學習的某些關鍵指標,這些指標在之前的功能喪失實驗中已被證明依賴於成年海馬神經發生。通過分析小鼠在水迷宮中尋找隱藏平臺的策略,發現ENR通過增加使用有效搜索策略的概率來促進任務的獲得。當逃生平臺移動到新的位置時,ENR也增強了動物的行為靈活性。替莫唑胺可以減少成體神經發生,它可以消除ENR對獲得性和靈活性的影響,而不影響水迷宮學習的其他方面。在第二種神經源性行為刺激——隨意轉輪旋轉(RUN)的平行實驗中,沒有發現這些特征效應和相互依賴性。因為成體神經發生的組織學評價必須是終點測量,所以我們只能推斷整個實驗過程中神經發生的水平。本研究以行為參數作為分析的終點。雖然身體活動與前體細胞增殖、學習和新神經元存活之間的關系已經很好地建立,但這裏描述的特定功能效應與幹細胞生態位動態變化之間的關系仍有待解決。然而,我們的研究結果支持這樣的假設,即成人神經發生是壹個關鍵的機制,是過積極生活和豐富經驗的基礎。
Luu等(2012:海馬齒狀回成人神經發生在學習記憶中起重要作用。然而,新神經元對海馬功能的確切貢獻仍有爭議。新的證據表明,當類似的項目必須在不同的時間進行研究時,神經發生對於模式分離和減少幹擾是重要的。在這項研究中,我們使用最近開發的具有這些特定特征的嗅覺記憶任務來直接測試這壹預測。在這項任務中,老鼠在相同或不同的環境中壹個接壹個地學習兩個高度幹擾的氣味對列表。與我們的假設壹致,局竈性顱照射導致齒狀回神經選擇性減少,顯著削弱學習第二列表時克服幹擾的能力。學習單壹氣味列表的能力不受影響。我們還發現輻射對海馬依賴的空間交替任務中的學習沒有影響。雖然兩個任務都涉及學習幹擾,但是學習幹擾項目的時間過程是不同的。學習幹擾氣味列表是在幾個會話中順序進行的,而學習幹擾的空間位置是在每個會話中同時進行的。因此,新神經元的逐漸增加可能為嗅覺任務而不是迷宮任務提供了模式分離機制。這些發現證明了神經發生在解決幹擾中的作用,並且它們與模型壹致,表明了神經發生在模式分離中的關鍵作用。
Winocur等(2012):在高幹擾或低幹擾條件下,給予大鼠低劑量輻射抑制海馬神經發生或假治療。壹半的老鼠從事跑步活動,而另壹半則沒有。在非跑步者中,輻照對學習沒有影響,在低幹擾條件下也沒有記憶辨別反應,但輻照處理增加了他們對幹擾的易感性,導致對以前學習辨別的記憶喪失。參與跑步活動的受輻射大鼠表現出增強的神經生長和對記憶損傷的保護。結果表明,成年海馬細胞在區分沖突記憶和情境依賴記憶中起著重要作用,這進壹步證明了海馬敏感記憶任務中神經發生的重要性。這壹結果與海馬功能的計算模型壹致,闡明了神經發生在學習和記憶過程中調節幹擾效應的中心作用。