歐盟就人工智慧法規進行最終談判,甲級模型協議即將達成
談判持續進行
歐洲議會當前已經超過 20 小時的談判時間,希望達成一項旨在規範人工智慧技術的法規。就如何處理其中一個棘手問題——針對基本模型/通用人工智慧(GPAI)的規定,已經達成了初步協議。在最近幾周,法國人工智慧新創公司 Mistral 一直推動對基本模型/GPAI 進行全面規定的立法修正。然而歐盟議員似乎已經拒絕了讓市場自行解決的全面立法,並保留了歐洲議會今年早些時候提出的分層規範這些先進人工智慧的一些元素。根據我們所知,我們已經看到的初步協議保留了對 GPAI 進行分類,將被稱為“系統風險”,這些模型獲得此稱號的標準是擁有“高影響力能力”,包括其訓練所使用的計算量(以浮點運算(FLOP)來衡量)超過 10^25。在這個水準上,當前幾乎沒有模型能達到系統風險的閾值,這表明幾乎沒有尖端 GPAI 需要履行即時的義務來主動評估和減輕系統風險。
對 GPAI 提供者的義務
在這項初步協議下,對系統風險 GPAI 的供應者的其他義務包括使用標準化的協議和最先進的工具進行評估;及時記錄和報告嚴重事件;進行並記錄對抗測試;確保足夠的網路安全性;並報告模型的實際或估計能源消耗。此外 GPAI 供應商還需要對模型進行測試和評估,並繪製和保留技術檔案,而這需要向監管機構和監管機構提供。他們還需要向其模型下遊應用程式的部署者(即人工智慧應用程式制造商)提供模型能力和約束的概述,以支援他們遵守 AI 法案。
版權法遵守和可用性確認
這份初步協議的文字還要求基本模型製造商制定一項遵守歐盟版權法的政策,包括與版權持有者對文字和資料的採礦設定的約束。此外他們還必須提供一份“足夠詳細”的培訓資料摘要以建立模型並公開,並且使用的披露模板將由 AI 辦公室提供,AI 法規提議建立這樣一個 AI 治理機構。我們理解這種版權披露摘要將仍然適用於開源模型——作為它們從規則中的例外之一。
下一步行動
隨著歐洲內部市場專員 Thierry Breton 在推特上確認談判已經結束,但只到明天重啟,這場盛大的三方會談預計在布魯塞爾時間上午 9 點恢復,因此委員會看起來已經決心在本週制定改進風險為基礎的 AI 法規。這將取決於找到對其他共同立法者,即理事會和議會都可以接受的妥協方案,這樣的高風險和高度敏感的法案的成功並不確保。