新指數評估十家基礎模型公司的透明度，結果顯示他們有所不及
簡介
根據斯坦福大學的研究，基礎模型領域的公司在透明度方面越來越缺乏。斯坦福大學人工智慧研究中心的社會團隊負責人 Rishi Bommasani 表示舉例來說 OpenAI 這家公司明明在其名稱中加入了「開放」這個詞，卻明確表示對其旗艦模型 GPT-4 的大多數方面不會進行透明度披露。透明度的不足使得其他企業難以確保自己是否可以安全地建立基於商業基礎模型的應用程式，也讓學術界難以依賴商業基礎模型進行研究，政策制定者難以設計有意義的規範以約束這種強大的技術，同時也使得消費者難以理解模型的約束或尋求對其造成的損害的救濟。基礎模型透明度指數的設計
為了評估透明度，Bommasani 和斯坦福大學人工智慧研究中心的主任 Percy Liang 組建了一個多學科團隊，包括斯坦福大學、麻省理工學院和普林斯頓大學的成員，設計了一個評分系統，稱為基礎模型透明度指數（Foundation Model Transparency Index，簡稱 FMTI）。FMTI 評估了透明度的 100 個不同方面，包括公司建立基礎模型的方式、模型的工作原理以及模型在下遊應用中的使用情況等。評分結果
研究團隊使用 FMTI 對十家主要的基礎模型公司進行評分，其中最高分為 47 到 54，最低分只有 12。Bommasani 表示這清楚地表明這些公司與競爭對手相比存在著明顯的差距，希望這將激勵它們提高透明度。FMTI 指數和詳細的方法論和結果等 100 頁的論文已經公開發布，提供了有關透明度的 100 個指標、評分的協議以及開發者的評分和理由等所有資料。這份論文還被發表在 arXiv 預印本服務上。為什麼透明度很重要
缺乏透明度長期以來一直是數位技術消費者面臨的問題，包括欺詐性廣告和價格、模糊的共享乘車工資制度、透過黑暗模式欺騙使用者進行無知購買以及圍繞內容審查的透明度問題等，這些問題在社交媒體上導致了大量的錯誤和虛假訊息生態系統。Bommasani 指出，隨著商業基礎模型透明度的減弱，我們面臨著類似的對消費者保護的威脅。此外商業基礎模型的透明度對於推進人工智慧政策倡議以及確保工業和學術界的上下遊使用者擁有他們需要的訊息來使用這些模型和做出明智的決策也至關重要。商業基礎模型已成為人工智慧研究和相關科學領域的焦點，包括社會科學。研究人員 Shayne Longpre 表示：“隨著人工智慧技術的快速演變並廣泛應用於各個行業，記者和科學家理解他們的設計尤其是驅動它們的原始要素，也就是資料，對於他們來說尤為重要。”透明度對政策制定的重要性
對政策制定者來說透明度是其他政策努力的前提條件。基礎模型涉及智慧財產權、勞工條件、能源使用和偏見等重要問題。Bommasani 指出：“如果沒有透明度，監管機構甚至無法提出正確問題，更不用說在這些領域採取行動了。”同時對於公眾來說作為人工智慧系統的最終使用者，他們需要知道這些系統依賴的基礎模型、如何報告系統引起的損害以及如何尋求救濟。Bommasani 表示透明度是朝著更負責任行為的基礎模型公司的目標，但透明度是邁向這個目標的第一步。建立透明度指數的過程
為了建立 FMTI，Bommasani 和他的同事們制定了 100 個不同的透明度指標。這些標準來自人工智慧文獻和社交媒體領域，後者在消費者保護方面具有更成熟的一套實踐方法。其中大約三分之一的指標涉及基礎模型開發者建立模型的方式，包括有關訓練資料的訊息、用於建立資料的勞動力以及涉及的計算資源等。另外三分之一涉及模型本身，包括其功能、可信度、風險以及對風險的減緩。最後三分之一涉及模型在下遊應用中的使用情況，包括公司有關模型分發、使用者資料保護和模型行為的政策披露以及公司是否為受影響個人提供反饋或救濟機會等。 這些指標的設計旨在克服透明度和其他價值觀（例如隱私、安全性、競爭優勢或對不良行為的擔憂）之間的傳統取捨。Bommasani 表示：“我們的目的是建立一個指數，其中大多數指標不與競爭利益相抵觸；透過細致的觀察，透明度和競爭之間的矛盾大部分得到解決。”事實上對於一些指標來說如果公司不披露所要求的訊息，但可以合理地解釋為什麼不披露，那麼就會獲得 FMTI 指數的一分。這個指數故意不專注於評估企業的責任感。透明度的重要性
關於這個研究結果，人們可能會問到為什麼這些商業基礎模型公司的透明度如此重要？答案很簡單，透明度是建立信任的關鍵，對於商業基礎模型的使用者來說特別重要。商業基礎模型在眾多領域得到應用，包括金融、健康、教育等，而這些領域的使用者需要更好地理解模型的工作原理、對資料的依賴程度以及模型引入的潛在風險。同時透明度還有助於防止不當使用這些商業基礎模型。如果有更大的透明度，就更容易發現和約束不道德或有害的行為。評論和建議
透明度是技術發展的關鍵
透明度是確保人工智慧技術能夠實現安全、公正和負責任發展的關鍵。正如這項研究所指出的，缺乏透明度會給使用者、學術界、政策制定者和消費者帶來很多問題。對於企業來說透明度是建立信任並獲得使用者支援的重要因素。如果企業能夠提高透明度，不僅能夠吸引更多的使用者和合作夥伴，還能夠避免可能的法律風險和不當使用風險。對於學術界和政策制定者來說透明度是確保他們能夠對人工智慧技術進行研究和監管的基礎。建立行業標準和規範
這項研究結果表明，商業基礎模型領域需要更高的透明度水平。為了實現這一目標，學術界、業界和政府應該攜手合作，建立相應的行業標準和規範。透明度指數是一個很好的開始，它為評估和比較不同公司的透明度提供了一個共同的框架。然而單純的指數評分並不能解決問題，還需要進一步的努力來制定明確的透明度要求和準則以及相應的審核和監管機制。保護個人隱私和資料安全
在提高透明度的同時必須同等重視保護個人隱私和資料安全。商業基礎模型使用大量的資料進行訓練和執行，而這些資料可能包含個人敏感訊息。公司在進行透明度披露時應該謹慎處理這些資料，確保不會損害使用者的隱私權益。同時政府和監管機構也應該制定相應的法律法規來保護個人資料的使用和處理，以確保透明度和隱私之間的平衡。消費者應該保持警惕
在商業基礎模型透明度不足的情況下，消費者應該保持警惕並理解模型的約束。當使用基於商業基礎模型的應用程式時，消費者應該詳細閱讀和理解相關的隱私政策和使用條款。如果發現任何應用程式可能對個人隱私造成損害或約束消費者權益，應該及時向相關的機構或組織報告和尋求救濟。結論
透明度對於確保人工智慧技術的正確、負責和可持續發展至關重要。商業基礎模型領域的透明度不足對使用者、學術界、政策制定者和消費者都帶來了重大的風險和挑戰。為了改善這一情況，各方應該共同努力，建立透明度標準和規範，保護個人隱私和資料安全，並持續關注和監督商業基礎模型公司的透明度水平。同時作為消費者，我們應該保持警惕，理解模型的約束，並及時報告任何損害或權益受損的情況。透明度是實現人工智慧技術發展的基礎，我們應該共同努力確保其實現。Transparency-十家基礎模型公司,透明度指數,不及格
