歐盟議員開始對人工智慧實行技術約束
背景
ChatGPT、Midjourney 和 DALL-E 等人工智慧應用的興起已經引起了歐洲議會的關注。2023 年 5 月 11 日，歐洲議會的公民自由和消費者保護委員會審批了一份立場檔案，呼籲對人工智慧在歐洲的使用進行約束，同時促進該行業的創新。該檔案希望將生成式人工智慧系統，如 ChatGPT 和 Midjourney 列為需要特別透明措施的類別之一，同時禁止使用生物識別監控、情感識別和預測 policing 的人工智慧系統。
歐盟的立場
此次投票被議員稱為 "歷史性" 的一步，希望它能夠成為 "世界上第一部人工智慧法規"。他們從歐洲委員會兩年前提出的提案中提取了主要內容，但建議增加禁止生物識別監視、情感辨識和預測 policing 的人工智慧系統。他們還希望將生成式人工智慧系統，如 ChatGPT 和 Midjourney，列為需要特別透明措施的類別之一，例如向使用者通知輸出是由機器而不是人完成的。
議員們還希望進一步定義什麼構成“高風險”人工智慧應用的額外標準，這可能會減少對該指定的範圍。委員會提出的人工智慧應用範圍覆蓋關鍵基礎設施、教育、人力資源、公共秩序和移民管理的人工智慧應用。但議員們想要達到另一個閾值，要求安全、健康或基本權利的威脅也被認為是在發揮作用的人工智慧應用。
立場分歧
在歐洲，一些大型科技公司的工業遊說團體歐洲訊息技術和通訊行業協會（CCIA）表示雖然“議會對檔案進行了有用的改進”，但他們卻“放棄了歐洲委員會提案的風險基礎結構”。他們認為歐盟鼓勵其他地區的最佳方式是確保新的法規將促從而不是抑制有用的人工智慧應用。
與此同時歐洲消費者組織卻贊成議會在檔案中注入與委員會相比“加固的消費者保障”，因為歐洲消費者機構協會的副理事長 Ursula Pachl 認為“盡管人工智慧可能在許多方面改善我們的生活，但也存在人工智慧系統可能損害消費者的合理擔憂。人們必須適當受到這些新技術的風險保護。”
人工智慧的潛力與危機
雖然歐盟長期以來一直在推進立法工作，但人工智慧的潛力和潛在危機僅在過去幾個月內爆發到公眾意識之中，此後 ChatGPT 在去年底出現之後， Midjourney 和 DALL-E 等人工智慧技術隨即引發了一場線上的風潮，人們可以製作出類似梵谷的畫作或在高級發夾上製作出教皇的形象或進行人工智慧創作。
由於人工智慧技術可以被用於欺騙和影響公衆意見，甚至影響選舉結果等問題，這引起了歐盟和其他地區的政策制定者的日益關注。因此 Elon Musk 和一些研究人員敦促暫停人工智慧發展，直到法律框架跟上來爲止。在委員會提案中，人工智慧公司將被要求對其演算法進行人工控制，提供技術檔案，並爲“高風險”應用建立風險管理系統。每個歐盟成員國將有一個監管機構來確保規則得到遵守。議員們還希望人工智慧公司採取保護措施，防止非法內容以及用於訓練演算法的受版權保護的作品的獲取，未經相關人士授權不得從網際網路上下載照片進行演算法訓練。
結論
人工智慧具有多元的應用場景，在實現功能增值的同時也帶來了危險和風險。 歐盟的行動表明，政府開始重視人工智慧的問題，並尋找合適的方法對其進行監管。這也首次提醒廣大民眾人工智慧的應用所造成的風險，引發進一步的對話和思考.
最終我們應該抱持著開放、透明和負責任的心態對待人工智慧技術，這有利於推動技術創新和保證社會價值的實現。同時設立必要的法規和道德標準，保護人們的隱私和權利，防止其被濫用。
延伸閱讀
- OpenAI 與 Google 擺出競爭的 AI 願景
- 本週人工智慧大事記：OpenAI 轉向非安全應用
- AI 蓬勃發展，馬斯克對抗機械革命
- OpenAI 成立團隊控制「超智慧」AI，卻任憑其枯萎——訊息來源指出
- 開放 AI 與 Reddit 資料簽署合約，訓練人工智慧
- 智慧錢包 Kudos 獲得 1000 萬美元投資，研發 AI 功能挑選最佳信用卡
- 歐盟警告微軟 或因未提供 GenAI 風險訊息而可能被處以數十億歐元的罰款
- 索尼音樂警告科技公司避免未經授權使用其內容訓練人工智慧
- Strava 啟用人工智慧防篡改排行榜，推出「家庭」計畫、深色模式等
- 參議院研究建議：每年至少撥款 320 億美元用於人工智慧計劃
