Gary Marcus willing to help regulate AI for the U.S. Government
資深神經科學家、創辦人和作家 Gary Marcus 本週星期二，與 OpenAI 執行長 Sam Altman 和 IBM 首席隱私信任官員 Christina Montgomery 一同出席參議院司法委員會長達三個小時的聽證會。雖然此次的聽證會大多數焦點都落在 Altman 身上，因為他現在是全球最具有影響力的公司之一，並且因為 Altman 曾反覆請求參議院幫助他監管他的工作，這是大多數執行長乞求國會不要管領域的相反情況。雖然 Marcus 在學術圈子裡已經引起了一定的關注，但近期他的名氣因他的通訊（《通往我們可以信任的人工智慧之路》）、播客（《人類對抗機器》）以及對人工智慧無節制崛起的相關不安情緒而更上一層樓。除了本週的聽證會，他還出現在彭博電視臺，被《紐約時報週日雜誌》和《Wired》等其他媒體特色報導。因為本週的聽證會似乎是真正具有歷史性的，例如眾議員 Josh Hawley 將人工智慧定義為“人類歷史上最具技術創新的一之一”，而參議員 John Kennedy 被 Altman 迷住，他要求 Altman 選擇自己的監管機構，我們也想與 Marcus 交談，以理解他的經驗和他對接下來會發生的事情的理解。
當前人工智慧帶來的危險
對於當前 AI 是否會成為威脅人類生存的存在，Marcus 表達了自己的懷疑。他認為現有的 AI 技術還不足以成為一種危險，但卻對民主造成了威脅，這在某些方面是一種風險，而不是對人類的威脅。他認為從不同方面來看，AI 對民主產生了威脅，例如在製造惡意資訊、不小心學到錯誤資訊的情況下、利用訓練資料微妙地塑造人們的政治信仰等方面。
對於 AI 公司的監管建議
一方面，政府和科學家應該在決定部署何種 AI 產品時發揮一些作用，例如透過一個類似於 AI 的 FDA 的程式，如果您想進行廣泛的部署，首先應進行試驗，討論成本效益，再進行另一個試驗。如果我們有信心認為收益大於風險，那麼就不會有再大規模的發布了。但現在對於任何一家公司在任何時候都可以決定向 1 億客戶部署一些產品而無需進行任何形式的政府或科學監管，這是一個缺陷，必須透過專業人員進行監控。此外許多產品又會採用開源技術，這使得開放系統與閉門系統的競爭越發激烈，也使得產品在未來的發展中帶來了諸多危機。
對不同 AI 公司策略的建議
Meta 的 AI 技術 LLaMA 採用開源技術的策略和將其放置在公開的場所進行測試這一做法，讓 Gary Marcus 感到有些驚訝。他認為政府和科學家應該有更多的發言權，因為一些公司的決策可能會帶來風險，而這可能會發生偶然的事情或者在不久的將來發生。我們需要專業人員進行監控並建立產品升級機制。
監管 AI 的具體方法
Gary Marcus 表示建立一個全球、公正的組織，並為該組織招募高素質的人才，這些人才不隸屬於任何一家公司，而是由政府和學術界直接進行監管 AI。畢竟，當前在 AI 領域有超過 10 萬名專業人士，而且不是所有人都在 Google 或 Microsoft 等公司工作。
對自己在參議院司法委員會的感受
Gary Marcus 在聽證會上表示他深受感動，非常榮幸能參與到這場規模宏大的聽證會中，而且議員們都在很認真地討論這個問題並盡力而為。現在不清楚是否會有下次機會繼續參與，但他覺得，任何可以監管 AI，消除資訊威脅對公民自由的壓制行為的監管組織都是非常必要的，需要更多的人參與，這樣一來那些商業公司就無法做出偏見、亂碼任意行事的便宜價了。
