https://openreview.net/pdf?id=9duWgO4HuQ

Towards zero-shot adaptation of predictive models ofneurons encoding posterior probability

朝著零樣本適應神經元后驗概率編碼的預測模型方向發展

摘要

理解大腦如何適應變化的感官環境是神經科學中的一個關鍵挑戰，對人工智能也有重要意義。神經預測模型被訓練用于預測對來自特定刺激分布的刺激的神經反應。因此，它們無法解釋因刺激分布變化而導致的神經適應性，從而需要在新記錄的數據集上重新訓練模型以適應新環境。在本工作中，我們提出了一種零樣本適應方法，利用貝葉斯感知和神經表征理論，這些理論表明：(1) 感覺神經元在大腦內部的生成模型中對潛在變量的后驗分布進行編碼；(2) 大腦在生成模型中保留了從潛在原因到觀察結果的映射，同時將先驗分布適應于新環境。通過利用機器學習和生成模型的進步，我們在合成數據上驗證了我們的方法，展示了我們零樣本適應模型的性能與使用新神經數據重新訓練的模型相當。我們的工作不僅為適應神經預測模型的領域轉移奠定了規范性方法的基礎，還為測試神經表征的貝葉斯理論提供了一種實證方法。

1 引言

能夠高效適應變化的環境是智能的標志，而理解神經系統如何調整以適應感官環境的變化仍然是一個挑戰。以往的研究表明，神經反應不僅受到入射刺激的特性的影響，還受到更廣泛刺激分布的統計特性的影響 [1–4]。典型的基于機器學習的神經預測模型，即系統識別（SI）模型，被訓練用于預測對來自特定刺激分布（“環境”）的刺激的神經反應 [5–13]。盡管這些模型非常有效，但它們通常無法解釋由于環境變化而導致的神經適應性，因此需要在新環境中重新記錄的神經數據上重新訓練。具體來說，一旦在給定環境 上訓練完成，該環境包含條件于給定刺激 (x) 的神經反應 (r) 的分布 (p(r|x, )，那么當在新環境上測試時，其性能會下降，因為適應了新的響應分布 (p(r|x, )，這需要 SI 模型在來自 的新記錄的神經數據上重新訓練。

在這里，我們利用關于神經編碼的規范性貝葉斯理論以及概率機器學習的進步，提出了一種允許神經預測模型零樣本泛化到新環境的方法。我們的方法假設感覺神經元在大腦內部的生成模型中對潛在變量的后驗分布進行編碼 [14–16]。具體來說，我們假設感覺神經反應代表了后驗分布的樣本（神經采樣編碼，NSC）[15, 17–24]。相應地，在大腦的生成模型中，感覺觀察 (x) 由潛在變量 (r) 引起，感覺神經元計算后驗 (p(r|x)，其中在 NSC 下，潛在變量 (r) 對應于神經反應。在這些假設下，最近的研究 [24] 表明，可以通過從給定環境中記錄的刺激-反應數據的最大似然估計（MLE）來學習大腦的生成模型，而學習到的模型的后驗分布可以作為神經預測模型。在這里，我們將大腦生成模型的學習擴展到適應新環境，而無需新環境中的神經數據。我們的方法基于一個規范性假設：大腦在不同環境中保留了從潛在原因到觀察到的刺激的映射（似然，“物理機制”），并調整潛在變量分布（先驗期望）以適應新環境（圖 1A）[24–26]，這使得我們只需要在新環境中學習先驗，從而也適應了后驗。

在這里，我們在從初級視覺皮層的現有 NSC 模型生成的合成數據上展示了我們零樣本適應方法的可行性，該模型模擬了兩種不同的刺激分布（環境）。我們的結果表明，適應后的模型實現了與完全重新訓練的系統識別模型相當的性能，而無需新環境中的任何新神經數據。

2理論

3 實驗

本研究的目標是證明這種零樣本適應是可行的。因此，我們專注于來自經典 NSC 模型的合成數據。

4 討論

在本工作中，我們提出了一種基于貝葉斯推斷和神經采樣（NSC）的新方法，以實現神經預測模型在輸入刺激分布變化下的零樣本泛化。

盡管我們的方法在神經預測模型的零樣本適應方面展示了有希望的結果，但它也開辟了一些關鍵領域的進一步研究方向。首先，我們觀察到，隨著數據集維度的增加，用于先驗學習的蒙特卡洛近似出現了高方差問題，這使得訓練變得具有挑戰性。其次，我們注意到 NSC 零樣本預測與系統識別模型之間仍然存在顯著的性能差距，這可以歸因于零樣本先驗的近似性質。這些問題或許可以通過采用其他近似方法（例如加權重要性變分推斷 [29]）來評估先驗學習中的積分來解決。此外，一旦先驗被學習，計算先驗不同的生成模型的后驗就屬于貝葉斯模型縮減（BMR）[30–32] 的范疇。鑒于我們使用歸一化流和深度神經網絡靈活地參數化了先驗和后驗，我們依賴于基于梯度下降和反向傳播的通用可擴展變分推斷 [33, 34] 來學習后驗。然而，遵循 BMR 的最新進展可能會提高我們適應性后驗的性能。

此外，盡管我們的方法假設神經元遵循 NSC，但需要注意的是，NSC 只是神經元編碼后驗的一種——盡管是顯著的——實現方式。未來的研究可以探索如何將適應性方法推廣到假設神經元編碼后驗的某個方面或功能——例如編碼其充分統計量。我們的工作為這一方向鋪平了道路。

最后，將我們的方法應用于實證數據是未來工作的一個關鍵方向。這將有意義地將從皮層網絡 [24, 35, 36] 學習生成模型擴展到預測新感官環境中的神經反應。

總體而言，我們的方法不僅提出了一種實現神經活動預測模型在刺激分布變化下零樣本泛化的新型規范性方法，而且在適應性和測試實驗記錄的神經反應數據后，為驗證觀察到的神經適應性是否與貝葉斯大腦假說一致或反映替代機制提供了一個嚴格的測試。

原文鏈接： https://openreview.net/pdf?id=9duWgO4HuQ