提升分散計算的精確度、可靠性和可解釋性
概述
一項由 Bocconi 大學的 Botond Szabo 進行的新研究，在統計學報告《Annals of Statistics》上發表，為分散計算方法的精確度、可靠性和可解釋性奠定了基礎。在大資料世界中，當需要在使用大量可用訊息的非常複雜的統計模型中估計許多引數時，即使使用最快的超級計算機，計算時間也變得不可持續。為了應對這個問題，其中一種策略是分散（或並行）計算。資料（或任務，在某些情況下）被劃分到多臺機器上，僅摘要訊息（計算結果）被傳送到中央位置，例如氣象站、天文觀測站或交通控制系統。此方法還可以減輕隱私問題，因為大多數資料不需要移動。
分散計算的挑戰
然而即使只在伺服器之間傳遞摘要訊息，這也可能具有成本，因此統計學家借鑒電氣工程師的頻寬約束概念。Szabo 教授表示："目標是最小化資料流，盡可能少地丟失訊息。" 此外平行計算通常是一個黑盒子程式，即一個以不完全理解的方式將輸入轉換為輸出的程式，這使得結果既不完全可解釋，也不可靠。因此找到給出這種程式的理論基礎的數學模型是令人渴望的。
分散計算的最新解決方案
Szabo 教授與荷蘭代爾夫特理工大學（Delft University of Technology）的 Lasse Vuursteen 和阿姆斯特丹自由大學（Vrije Universiteit Amsterdam）的 Harry van Zanten 合作，提出了在資料分散到多臺機器並且它們與中央機器的通訊受限於一定數量的位元的分散框架下最小化訊息損失的最佳測試。在統計學中，測試是一種確保對於引數的假設是否成立以及你可以依賴這個結果的程度的程式。換句話說，它量化了不確保性。當我們讀到一個假設“在統計上沒有顯著差異”時，這意味著在資料中找不到支援該假設的證據。
研究的意義和未來展望
Szabo 教授解釋說：我們在這篇論文中所開發的測試方法使我們能夠在傳輸訊息的數量已知或需要的精確度水平下達到最高的精確度，或者說實現所需精確度所需的最小訊息量。這篇論文是以一個理想化的數學案例為基礎的工作，但 Szabo 教授已經開始研究更複雜的情景。他表示："從長遠來看，我們希望能夠獲得更有效的通訊算法，以理論保證為基礎。"
結論
這項研究為分散計算在大資料世界中的應用奠定了基礎。透過將資料分散到多臺機器並使用最佳測試方法約束訊息傳輸，可以在保證資料的精確度和可靠性的同時減少計算成本。然而這項研究當前只是在理想化的數學案例下進行，尚未應用於實際情景。未來的研究應該致力於開發更複雜的模型和有效的通訊算法，以實現分散計算的更高精確度、可靠性和可解釋性。
