AI 領袖警告參議院：兩重危險，進展過慢和進展過快
導言
最近，AI 研究界的領袖們在參議院司法委員會面前發表了意見，討論並回答了有關這一新興技術的問題。他們的意見大致分為兩種型別：我們需要盡快行動，但要謹慎小心，以免忽視了 AI 的濫用風險，或者過於匆忙而導致行業發展受阻。今天的聽證會上，專家小組包括 Anthropic 的聯合創始人 Dario Amodei、加州大學伯克利分校的 Stuart Russell 和長期從事 AI 研究的 Yoshua Bengio。這兩個小時的聽證會在很大程度上沒有像眾議院聽證會那樣充斥著爭吵和做秀，但也不完全沒有。以下是每位發言人的主要觀點。
Dario Amodei 的主要觀點
- 1. 保護供應鏈。我們依賴的硬體供應鏈存在狹窄和脆弱的地方，其中一些因地緣政治因素（例如臺灣的臺積電）和智慧財產權或安全問題而面臨風險。
- 2. 建立類似汽車和電子產品的測試和審計流程。並開發“嚴格的安全測試。” 他指出，建立這些測試的科學當前仍然“初生”，必須明確保義風險和危險以制定標準，並需要有強力執法標準。他將現在的 AI 行業比作萊特兄弟飛機成功幾年後的狀況，明顯需要監管，但需要一個能夠適應新發展的靈活的監管機構。在眾多即時風險中，他強調選舉季節期間的假新聞、深度偽造和宣傳活動是最令人擔憂的。
Yoshua Bengio 的主要觀點
- 1. 約束誰可以獲得大規模 AI 模型的使用權，並為安全和保護創造激勵機制。
- 2. 內容對齊：確保模型能夠按照預期的方式執行。
- 3. 監控強大的硬體規模和有權存取這些模型所需的尺寸。
Bengio 一再強調需要在全球範圍內資助 AI 安全研究。他表示我們實際上不知道自己在做什麼，為了執行獨立的 AI 能力和內容對齊實驗，我們需要的不僅僅是更多的知識，還需要各國之間的廣泛合作（而不是競爭）。他建議，“社交媒體帳戶應約束為實名識別的實際人類，最好是當面識別。” 這很可能是完全行不通的，因為我們多年來已經觀察到很多原因。儘管現在重點是在更大、資源充沛的組織上，但他指出，預先訓練的大型模型可以很容易地進行微調。惡意行為者不需要巨大的資料中心，甚至不需要太多專業知識就能造成實際損害。在結語中，他表示美國和其他國家需要專注於建立各自的單一監管實體，以便更好地協調並避免官僚主義的緩慢。三位專家在關於首先應採取的步驟的結論發言中，都強調了基礎研究的投資，以確保所提出的測試、審計和執行計劃基於嚴謹的科學，而不是過時的或由行業提出的想法。
Stuart Russell 的主要觀點
- 1. 建立絕對有權知道是否與人還是機器互動的權利。
- 2. 禁止任何可以決定殺害人類的算法，無論其規模大小如何。
- 3. 如果 AI 系統侵入其他計算機或復制自己，要求設定關閉開關。
- 4. 要求違反規則的系統從市場上撤銷，就像強制召回一樣。
他對最迫切風險的看法是使用個性化 AI 進行“外部影響行動”。他這樣描述道：“我們可以向系統提供大量關於個人的訊息，包括他們在 Twitter 或 Facebook 上發表的所有訊息……訓練系統，讓其為該人生成一個針對性的虛假訊息宣傳活動。中午前，我們就可以為一百萬人進行這樣的操作。這種方式比對不針對個人定制的垃圾訊息和虛假廣播具有更大的影響。” Russell 和其他專家一致認為，雖然在標註、水印和 AI 檢測方面有很多有趣的活動，但這些努力是零散和初步的。換句話說，不要期望太多，尤其不能指望在選舉之前有所突破，司委會就此提問。他指出，投資於 AI 初創企業的資金金額每月約為 100 億美元，雖然他沒有引用此數位的來源。不過即使每月只有幾十億美元的投資，這也遠超過美國透過國家科學基金會在十幾個基礎研究領域上的開支，更不用說 AI 安全領域了。他幾乎表示要開啟金融紐帶。當被問及中國時，他指出該國在 AI 方面的專業能力“有點被高估”，並且“他們正在破壞他們自己的頗好的學術部門。”他們模仿的大模型對 OpenAI 和 Anthropic 之類的機構來說並不具威脅，但在監控（例如聲音和步態識別）方面，中國預料中遠遠領先於其他國家。
總結
就首要採取的步驟而言，三位專家基本一致，都指出需要進行基礎研究的投資，以便確保所提出的測試、審計和執行計劃基於嚴謹的科學，而不是過時的或由行業提出的想法。康涅狄格州參議員布魯門撒爾（D-CT）回應道，這次聽證會旨在幫助建立一個可以迅速行動的政府機構，“因為我們沒有時間可浪費”。 他說：“我不知道誰是 AI 領域的普羅米修斯，但我知道我們有很多工作要做，確保這項技術能夠得到有效利用。” 預計未來的調查和立法工作將會持續，以確保人工智慧技術的發展為人類帶來積極的影響，同時防止潛在的風險和濫用行為。
