流體神經網路：用於解決機器人和自駕車等領域挑戰的新型深度學習架構
介紹
在當前人工智慧（AI）領域中，對大型語言模型（LLMs）的炒作導致了一場競爭，試圖建立越來越大的神經網路。然而不是每個應用都能支援非常大的深度學習模型的計算和記憶需求。這些環境的約束導致了一些有趣的研究方向。麻省理工學院（MIT）電腦科學與人工智慧實驗室（CSAIL）的研究人員開發出一種新型深度學習架構——流體神經網路（LNN），為某些 AI 問題提供了一種緊湊、適應性和高效的解決方案。流體神經網路能夠在傳統深度學習模型存在困難的領域（如機器人和自駕車）中激發新的創新。什麼是流體神經網路？
流體神經網路是由麻省理工學院電腦科學與人工智慧實驗室的研究人員開發的一種全新的深度學習架構。這些網路旨在解決傳統深度學習模型存在的一些固有挑戰。流體神經網路能夠在機器人和邊緣裝置等計算機上執行，而無需存取到雲端。這種模型的設計靈感來自於小型生物（如 C. Elegans 蟲）中的生物神經元研究，這種生物可以透過僅僅 302 個神經元執行複雜的任務。流體神經網路的計算效率和適應性來源於它們使用了動態可調微分方程，使其能夠在訓練後適應新的情況。這種能力在傳統神經網路中是找不到的。優點
流體神經網路最引人注目的特點之一是它們的緊湊性。舉例來說一個傳統深度神經網路需要約 10 萬個人工神經元和 50 萬個引數才能實現使汽車保持在車道上的任務。相反，研究人員能夠用僅 19 個神經元訓練一個流體神經網路來完成同樣的任務。這種規模的顯著減小有幾個重要的結果。首先它使模型能夠在機器人和其他邊緣裝置中執行的小型計算機上執行。其次少量的神經元使網路更容易理解。在 AI 領域，解釋性是一個很大的挑戰。對於傳統深度學習模型而言，很難理解模型是如何做出特定的決策的。流體神經網路則能夠提供更加可解釋的結果。這是因為在僅有 19 個神經元的情況下，可以提取出對應於不同輸入的決策樹，換句話說就是系統中的觸發模式和決策流程。對於 100,000 個甚至更多的神經元，這是無法實現的。 流體神經網路還能夠解決因果關係的問題。傳統深度學習系統常常難以理解因果關係，導致其學習與問題無關的虛假模式。而流體神經網路似乎對因果關係有更好的理解，使其能夠更好地推廣到未見情景。例如，麻省理工學院 CSAIL 的研究人員對 LNN 和其他幾種型別的深度學習模型進行了物體檢測的訓練，使用的是一個在夏天的森林中拍攝的連續影片幀。當在不同的環境中測試訓練好的 LNN 時，它仍然可以以高精度完成任務。相比之下，其他型別的神經網路在環境變化時效能顯著下降。因為流體神經網路更關注任務而不是上下文，從模型的注意力分佈圖中可以看出，它們將更高的值賦予任務的主要焦點，如自駕車中的道路或物體檢測任務中的目標物體。這也是為什麼它在上下文改變時能夠適應任務的原因。而其他模型則往往將注意力分散到不相關的部分。應用和約束
流體神經網路主要用於處理連續的資料流。這包括影片流、音訊流或溫度測量序列等多種型別的資料。流體神經網路在計算受限和對安全至關重要的應用（如機器人和自駕車）中尤其適用，因為這些應用需要連續地向機器學習模型提供資料。MIT CSAIL 團隊已經在單機器人場景中對 LNN 進行了測試，並取得了令人鼓舞的成果。未來，他們計劃將測試擴充套件到多機器人系統和其他型別的資料，以進一步探索流體神經網路的能力和約束。總結
流體神經網路是一種新興的深度學習架構，能夠在計算受限和對安全至關重要的應用中提供高效和靈活的解決方案。它們的緊湊性使其能夠執行在小型計算機上，同時減少了神經元的數量，提高了模型的解釋性。流體神經網路對因果關係有著更好的理解，能夠在不同的環境中適應任務。然而它們更適合處理連續資料流，不太適用於靜態資料庫。未來，流體神經網路在機器人和自駕車領域等應用中可能會產生更多的創新，同時還需要進一步的研究和評估來理解其在不同情境下的能力和局限性。 （編輯：）ArtificialIntelligence-MIT,流體神經網路,機器人,自駕車,人工智慧,解決問題
延伸閱讀
- 柏林科技企業 trawa 籌得 1 千萬歐元，運用人工智慧協助中小企業更輕鬆購買可再生能源
- Google 將在 YouTube 學術影片中推出人工智慧生成的測驗
- Google 在 I/O 主題演講中提到「AI」超過 120 次
- 在人工智慧電影節上，人性戰勝科技
- AI 推動社會變革，女性呈現關鍵力量
- 開放 AI （OpenAI）的 ChatGPT 新聞發布：我們當前所知道的事情
- OpenAI 考慮允許 AI 色情內容？
- AI 晶片新創 DEEPX 以 5.29 億美元估值成功籌得 8000 萬美元 C 輪融資
- Fairgen「提振」調查結果，利用合成資料和人工智慧生成的回應
- 用 Retell AI 讓公司打造「語音代理人」來應答電話
