OpenAI 支援建立許可證制度為先進 AI 系統
作者：
OpenAI 支援建立許可證制度
根據一份 OpenAI 的內部政策備忘錄，該公司支援建立由政府發放許可證，對於任何想要開發先進人工智慧系統的人進行規範。該檔案還建議該公司願意公開使用影象生成器訓練所使用的資料。在與包括 OpenAI 執行長 Sam Altman 在內的白宮官員和科技高管的會議之後，ChatGPT 和 DALL-E 的建立者在內部檔案中明確提出了一系列人工智慧政策承諾。 在該草案中，這家位於舊金山的公司表示：“我們承諾與美國政府和世界各地的政策制定者合作，支援未來最高能力基礎模型的許可要求的發展。”由 OpenAI 等人工智慧龍頭共同開發的政府許可證制度的概念為初創企業和開源開發人員與 OpenAI 展開了可能的衝突。對於其他人進入這個領域而言，他們可能會將此制度視為增加了困難。 這並不是 OpenAI 首次提出這一想法：在五月份的美國參議院聽證會上，Altman 支援建立一個機構，他認為這個機構可以發放 AI 產品的許可證，並在有人違反設定規則時撤銷許可證。根據訊息人士透露，正當微軟公司、Alphabet 公司的 Google 和 OpenAI 預計在週五公開承諾開發該技術的安全防範措施時，這份政策檔案正好出現。OpenAI 的立場和承諾
OpenAI 的全球事務副總裁 Anna Makanju 在接受採訪時表示該公司並非“強推”許可證，而是認為這是政府追蹤新興系統的“現實”方式。她表示：“如果一些可能具有潛在有害影響的超強大系統出現，政府知情是很重要的，如果沒有人像我們這樣主動上報，那麼你很難確保政府能夠意識到這些系統的存在。” Makanju 表示 OpenAI 僅支援對比其當前 GPT-4 更強大的 AI 模型進行許可證制度，並希望確保較小的初創企業免於過多的監管負擔。她說：“我們不希望壓制生態系統的發展。” OpenAI 在內部政策檔案中還表示對於用於訓練 DALL-E 等影象生成器的資料，他們願意更加開放，並表示將於年底前承諾“納入溯源方法”。政策制定者將資料的溯源視為保持人工智慧工具免於傳播錯誤訊息和偏見的關鍵做法。在 OpenAI 的備忘錄中所提到的承諾與微軟在五月份公布的一些政策提案非常吻合。OpenAI 在檔案中披露，儘管接受了微軟的 100 億美元投資，但它仍然是一家獨立公司。 OpenAI 在檔案中還表示正在進行關於水印技術的調查，該技術用於追蹤 AI 生成影象的真實性和版權問題以及 AI 製作內容的檢測和揭示。該公司計劃公開調查結果。該公司還說，在多個方面包括攻擊性內容、操縱和錯誤訊息以及偏見方面進行外部紅隊測試，即允許人們進入其系統測試漏洞。該公司在備忘錄中表示它支援建立一個訊息共享中心，以合作解決網路安全問題。 在備忘錄中，OpenAI 似乎承認人工智慧系統對於就業市場和不平等可能帶來的潛在風險。該公司表示它將進行研究並向政策制定者提出建議，以保護經濟免受潛在的“破壞”。總結和建議
OpenAI 的支援建立許可證制度的立場在當今人工智慧領域引起了廣泛關注。一方面，許可證制度可以幫助政府監管並控制先進人工智慧系統，以保護公眾利益和防止潛在的危害。另一方面，這樣的制度可能阻礙初創企業和開源開發者的創新和參與，使市場更加封閉和壟斷。 關於許可證制度的爭議，引發了對於“誰該擁有人工智慧”的哲學辯論。這個問題關乎智慧系統的治理和控制權以及權力在技術發展中的分配。我們需要反思和討論這些問題，以確保人工智慧的發展符合道德和社會價值觀。 在制定許可證制度的過程中，我們需要平衡利益和風險，確保合適的監管和規範，同時促進創新和開放合作。政府、企業和學術界之間的合作至關重要，以確保人工智慧的發展能夠造福整個社會。 最後我們也應關注 OpenAI 在內部政策檔案中提到的對於資料透明性和訊息安全的承諾。這是遏制人工智慧工具傳播誤導和偏見的關鍵，並確保公眾對於人工智慧的使用有清晰的理解。 我們期待 OpenAI 與其他相關企業和組織共同致力於建設一個負責任、公平和可持續的人工智慧生態系統。只有透過集體努力，我們才能共同解決人工智慧所帶來的挑戰。Regulation-OpenAI,AI 系統,許可證制度,先進 AI,支援
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- 再見機器人！Altera 的遊戲 AI 代理獲得 Eric Schmidt 的支援
- OpenAI 表示正在建立一個工具，以讓內容創作者選擇退出 AI 訓練
- 微軟和 OpenAI 啟動 200 萬美元基金以對抗選舉假影片
- Stack Overflow 與 OpenAI 簽約，提供資料支援其模型
- Quora CEO Adam D’Angelo 分享人工智慧和聊天機器人平臺 Poe，並解釋為何 OpenAI 並非競爭對手
- Google 擴大 Passkey 支援，提前爲美國總統大選加固保護計畫
- OpenAI 與英國《金融時報》達成戰略合作，包括內容使用
- OpenAI 旗下創投基金悄悄籌集 1500 萬美元
- WhatsApp 在 iOS 平臺全球推出 Passkeys 支援
