開源人工智慧是否符合美國利益？Hugging Face CEO 的證言引發討論
證言內容及爭議
Hugging Face CEO Clement Delangue 最近在美國眾議院科學委員會的聽證會上發表開場白時表示開放科學和開源人工智慧對激發創新和符合美國價值和利益至關重要。他指出，當今人工智慧的進展得益於開放科學和開源技術，而沒有美國發明的開源技術如 PyTorch、Tensorflow、Keras、transformers 和 diffusers，美國可能不會成為人工智慧的領先國家。
然而最近兩周參議員致函 Mark Zuckerberg，就 Meta 流行的開源語言模型 LLM LLaMA 的洩露提出了質疑。信函對該模型在廣告、詐騙、惡意軟體、隱私侵犯、騷擾及其他不法和損害行為方面的潛在濫用表達關切。此信函指出 LLLaMA 的開放傳播是「向大眾提供更高精度人工智慧模型的重大提升，並引發了對潛在濫用或濫用的嚴重問題」。
Hugging Face 的立場和貢獻
Hugging Face 作為一家成長迅速的紐約新創公司，去年市值達到 20 億美元，成為了開源程式碼和模型的中心，並成為開源人工智慧社區的主要聲音。Delangue 在聽證會的開場白中還表示開放科學和開源技術促進了數以萬計的初創企業運用人工智慧技術進行創新。他說：“由於道德的開放性，[它們創造]了一條更安全的技術發展道路，讓公民社會、非營利組織、學術界和政策制定者擁有所需的能力來平衡大型私營企業的力量。開源科學和開源技術防止了黑盒系統，使企業更加負責，幫助解決當今的挑戰，如減少偏見、減少錯誤訊息、推動版權保護以及在價值創造過程中回報所有利益相關者，包括藝術家和內容創作者。”
Hugging Face 的倫理開放方式是透過結合機構政策（例如由我們的 Dr. Margaret Mitchell 首倡的模型卡片檔案）、技術保障（例如對產品的存取和分期發布的門禁控制）、社群激勵（如內容的審查和選擇加入或退出資料集）等方式實現的。
開源人工智慧爭議的討論
最近幾個月，開源人工智慧正在經歷一場“熱潮”，各種大型語言模型的釋出以及初創企業、集體組織和學者們對人工智慧從封閉的專有語言模型轉向的努力，引發了廣泛的討論。
一方面，支援開源人工智慧的人認為，開源科學和開源技術促進了知識和技術的共享，有助於民主化創新，防止對人工智慧技術的壟斷，並提供理解決潛在濫用和不當使用的方案。他們認為，開源人工智慧能夠推動更公平的技術發展，為更廣泛的參與者提供機會。
另一方面，反對開源人工智慧的人擔心開放的模型和程式碼可能被惡意使用，造成潛在的風險和損害。他們認為，釋出大型語言模型可能會對隱私、安全和社會平衡產生影響，並呼籲加固監管和控制以減少潛在的不當使用。
總結與建議
開源人工智慧的辯論顯示了技術發展和社會價值之間的衝突。雖然開源人工智慧有助於促進創新、共享知識和防止技術壟斷，但也必須意識到其中存在的風險和問題。
我們建議政府、企業和學術界在推動開源人工智慧的同時加固監管和控制，確保開源技術的正確和負責使用。這包括設立有效的法律和規章制度，保護隱私和個人資料的安全，並對潛在的不當使用進行監測，以減少不法行為和風險。
同時開源人工智慧社區應該持續推動倫理開放和透明性的實踐，確保技術的透明性和可追蹤性，並建立更加廣泛的共識和參與，以確保技術的公平和平衡發展。
