開放人工智慧（OpenAI）辯論何時發布其 AI 生成影象檢測器
概述
OpenAI 公司正在討論和辯論何時發布一個可以確保影象是使用 DALL-E 3 生成的工具，DALL-E 3 是 OpenAI 的生成式 AI 藝術模型。然而該公司並沒有打算很快作出決定。OpenAI 研究員 Sandhini Agarwal 在本週接受 TechCrunch 的電話採訪時表示儘管分類器工具的準確度“非常好”，至少她的估計是如此，但它未達到 OpenAI 對質量的門檻。她表示：“對於發布一個有一定不可靠性的工具，我們存在一個問題，因為它所做的決定可能會對照片產生重大影響，比如一件作品被認為是由藝術家繪製還是不真實和具有誤導性。”
質疑與挑戰
OpenAI 對該工具的準確度目標似乎非常高。OpenAI 的技術長 Mira Murati 在《華爾街日報》Tech Live 會議上表示這個分類器能夠“99%”可靠地判斷一張未經修改的照片是否是使用 DALL-E 3 生成的。也許目標是 100%；Agarwal 沒有明確表示。OpenAI 與 TechCrunch 分享的一篇草稿部落格文章透露了有趣的訊息：“當影象經歷了常見的修改，如裁剪、調整大小、JPEG 壓縮，或者當真實影象的文字或剪貼物被覆蓋在生成的影象的一小部分時，該分類器仍然保持 95%以上的準確性。”
OpenAI 對發布檢測器的猶豫可能與其先前公開的檢測器工具引起的爭議有關，該工具旨在檢測不僅來自 OpenAI 模型，還包括第三方供應商發布的 AI 生成文字。由於其“低準確率”，OpenAI 撤回了這款 AI 寫作文字檢測器，並受到廣泛批評。Agarwal 暗示 OpenAI 也在困擾於一個哲學問題，即何謂真正的 AI 生成影象。從頭開始由 DALL-E 3 生成的藝術品顯然符合標準。但是透過多次編輯、與其他影象結合，然後透過一些後處理濾鏡處理的 DALL-E 3 影象如何界定就不那麼清楚了。Agarwal 說：“在那種情況下，該影象應該被視為是由 AI 生成的還是不是？現在我們正在試圖解決這個問題，我們真的希望得到藝術家和受這些檢測工具明顯影響的人的意見。”
行業探索
許多組織，不僅僅是 OpenAI，正在探索給生成媒體進行水印和檢測技術，這是由於 AI 深度偽造的激增。DeepMind 最近提出了一個被稱為 SynthID 的技術規範，可以以人眼不可察覺的方式標記 AI 生成的影象，但可以被專用檢測器發現。法國新創公司 Imatag 在 2020 年推出了一個水印工具，聲稱不受影象縮放、裁剪、編輯或壓縮等影響，與 SynthID 相似。還有一家公司 Steg.AI 使用 AI 模型應用不易被調整和其他編輯影響的水印。問題在於，該行業尚未形成統一的水印或檢測標準。即使形成了，也無法保證水印以及相應的檢測器，不會被破解。
展望
我問 Agarwal 是否 OpenAI 的影象分類器將來會支援檢測使用其他非 OpenAI 生成工具生成的影象。她沒有明確表示但表示——根據分類器工具現在的反響——OpenAI 會考慮這個方向。“現在之所以（分類器）只限於 DALL-E 3 是因為這是一個技術上更加可行的問題，一個通用檢測器（我們）現在不做...但根據（分類器工具）的變化，我們不排除以後會進行。”
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 蘋果發布全新 iPad 系列
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
