網路議題

AI 模型強大,但它們是否符合生物可行性?

人工智慧模型的生物可行性引言最近,麻省理工學院、MIT-IBM 華生人工智慧實驗室和哈佛醫學院的研究人員提出了一項假設,可能解釋了轉換器(transformer)如何使用大腦中的生物元素構建。轉換器是一種強大的人工神經網路模型,它被用於許多工的訓練。該假設表明,神經元和腦細胞之間的生物學網路可以執行 .... (往下繼續閱讀)

分享到 Facebook 分享到 Line 分享到 Twitter

文章目錄

AI 模型強大,但它們是否符合生物可行性?

人工智慧模型的生物可行性

引言

最近,麻省理工學院、MIT-IBM 華生人工智慧實驗室和哈佛醫學院的研究人員提出了一項假設,可能解釋了轉換器(transformer)如何使用大腦中的生物元素構建。轉換器是一種強大的人工神經網路模型,它被用於許多工的訓練。該假設表明,神經元和腦細胞之間的生物學網路可以執行與轉換器相同的核心計算。這項研究的結果不僅提供了關於人類大腦工作方式的有價值洞察,還可能幫助機器學習研究人員解釋為什麼轉換器在各種複雜任務上如此成功。

從轉換器到生物學網路

人工神經網路的架構靈感來自於大腦中生物神經元處理訊息的方式。然而關於如何使用生物元件構建轉換器一直不太清楚。轉換器是一種與其他神經網路模型不同的機器學習模型。它透過自我關注(self-attention)的過程,同時比較句子中的所有單詞,並生成預測。這需要將所有單詞以某種形式儲存在記憶體中,而由於神經元之間的通訊方式,這看起來在生物學上是不可能的。 但幾年前,研究密集相關記憶的機器學習模型時,科學家們意識到這種自我關注機制可能存在於大腦中,但僅​​在至少三個神經元之間存在交流時才能實現。這時候,科學家發現大腦中的星形膠質細胞,非神經元細胞,與神經元形成三路聯接,稱為三部憑藉(tripartite synapses)。這些星形膠質細胞會將長長的觸鬚繞住憑藉,從而創造出三部憑藉。一個星形膠質細胞可能形成數百萬個三部憑藉。星形膠質細胞可以收集流經突觸結合處的一些神經傳導物質。在某個時間點,星形膠質細胞可以向神經元發出訊號。透過緩慢提高和降低鈣響應的方式,星形膠質細胞的操作時間比神經元長得多,這些細胞可以儲存並整合從神經元傳遞給它們的訊息。因此星形膠質細胞可以形成一種記憶緩衝區。

建立神經元-星形膠質細胞網路

有了這一洞察力,研究人員提出了一種假設,即星形膠質細胞可能在轉換器的計算中發揮作用。然後,他們開始構建一個神經元-星形膠質細胞網路的數學模型,以實現類似轉換器的操作。他們根據對腦科學文獻的深入研究和神經科學家的指導,開發了神經元和星形膠質細胞在大腦中通訊時的簡單生物物理模型。然後,他們以某些方式將這些模型結合,直到獲得描述轉換器自我關注運算的神經元-星形膠質細胞網路的方程式。該研究透過數值模擬進行取證,將影象和文欄位落輸入轉換器模型和模擬的神經元-星形膠質細胞網路,並比較其響應。兩者對於提示的內容作出了相似的回答,進一步確認了理論模型的有效性。

從理論到實踐

研究人員下一步計劃從理論轉向實踐。他們希望將這一模型的預測與生物實驗觀察到的結果進行比較,並利用這些知識來完善或可能推翻他們的假設。此外他們的研究還指出,星形膠質細胞可能涉及長期記憶,因為網路需要儲存訊息以便未來處理。進一步的研究可以進一步探討這一觀點。這項研究的主要作者萊奧·科扎楚科夫(Leo Kozachkov)表示:“由於很多原因,星形膠質細胞在認知和行為方面非常重要,它們的執行方式與神經元完全不同。我對這項研究最大的期望是,它能夠在計算神經科學中催生一系列與星形膠質細胞和 glial 細胞相關的研究。”

結論

人工神經網路模型已經展示出了其在各種任務上的強大能力,但它們的生物可行性一直存在著疑問。這項新研究提出的假設可能解釋了轉換器建立過程中生物元件的作用,為神經科學研究提供了新的思路。同時這一假設也有助於解釋為什麼轉換器在各種複雜任務上如此成功。然而研究人員還需要從理論向實踐邁出一步,觀察生物實驗和模型的結果,以取證這一假設。未來,更多的研究可以進一步探索星形膠質細胞在記憶和認知中的作用,從而深入理解大腦的執行方式。

原文連結:AI models are powerful, but are they biologically plausible?

"Artificialintelligence"-人工智慧,生物可行性,AI 模型,技術評估
江塵

江塵

Reporter

大家好!我是江塵,一名熱愛科技的發展和創新,我一直都保持著濃厚的興趣和追求。在這個瞬息萬變的數位時代,科技已經深入到我們生活的方方面面,影響著我們的工作、學習和娛樂方式。因此,我希望透過我的部落格,與大家分享最新的科技資訊、趨勢和創新應用。