數位浮水印：在人工智慧時代的透明度工具
引言
在當今社會，深偽技術、由機器生成的書籍和以名家風格創作的人工智慧影象讓人對 AI 透明度的承諾充滿期待。今年七月，七家企業向拜登總統承諾採取具體措施提升人工智慧安全性，其中包括數位浮水印技術。而在八月，Google DeepMind 推出了一款名為 SynthID 的數位浮水印工具的測試版，它可以將數位浮水印嵌入影象的畫素中，人眼無法識別，但可以進行檢測。然而無論是可見還是隱形的數位浮水印當前都無法有效阻止惡意行為者。事實上 Wired 近期引用馬裏蘭大學的電腦科學教授 Soheil Feizi 的話稱：“當前我們還沒有可靠的數位浮水印技術，我們已經破解了所有的方法。”Feizi 和他的研究團隊研究了惡意行為者如何容易規避數位浮水印技術。他們不僅展示了攻擊者如何移除浮水印，還展示了如何向由人創作的影象新增浮水印，從而引發虛報。 然而數位浮水印技術對於惡意行為者的防範或許無效，卻對於希望獲得 AI 內容嵌入式“營養標籤”的善意行為者來說卻是一個“非常重要”的工具。Hugging Face 的電腦科學家和人工智慧倫理研究員 Margaret Mitchell 在接受 VentureBeat 存取時表示當談到關於人工智慧生成的影象和文字的倫理與價值時，其中一項價值觀與合法性相關。“我們都希望能追蹤事物的來源和演變過程，這對於追蹤內容的授權、信譽和賠償是有用的。同時這也有助於理解模型的潛在輸入。” Mitchell 對於使用數位浮水印的使用者感到“非常興奮”。她解釋說，一些人總是會發現 AI 技術在某些方面表現不佳，但這並不代表整個技術都是壞的。“對於一部分使用者或受影響者來說它可能不是合適的工具，但對於絕大多數人來說它是合適的——惡意行為者只是使用者的一小部分，而在這一小部分中，只有那些具有真正技術能力的人才能篡改浮水印。”可信的來源與數位浮水印技術
Mitchell 提到了 Truepic 在去中心化人工智慧平臺 Hugging Face 上的新功能，Truepic 提供網際網路上的真實性基礎設施，這些功能允許 Hugging Face 使用者將負責任的數位來源後設資料自動新增到由 AI 生成的影象中。首先 Truepic 將 Coalition for Content Provenance and Authenticity（C2PA）的內容憑證新增到 Hugging Face 的開源模型中，使任何人都可以生成和使用透明的合成資料。此外他們還建立了一個實驗空間，將來源憑證與 Steg.AI 的隱形浮水印技術結合起來。Steg.AI 是一家提供“先進的數位浮水印解決方案”的公司，他們使用光場訊息（LFM）技術，在顯示在螢幕上的影片中嵌入、傳輸和接收隱藏訊息。數位浮水印的價值與挑戰
當被問及使用數位浮水印技術來解決來源問題是否只是在 AI 生成內容的海洋中的一滴水時，Mitchell 笑了笑。“歡迎來到倫理學，”她說。“對於一個小型用例來說這總是一個好的開始，然後進行建設和改進。”然而她解釋道，數位浮水印作為一種工具，令人特別激動的一點是“這是人們廣泛關注人工智慧中人類價值觀的一部分以及 AI 安全領域的重要課題。”此外她補充道，對數位浮水印系統的興趣已經上升到與白宮選擇性承諾中的其他問題同等重要的程度。“因此就各種人們認為值得優先考慮的事物而言，對於數位浮水印技術的一致性是存在的——人們實際上關心這個問題。”她說。“與我涉足的一些其他工作相比，這似乎一點也不是一滴水。它似乎是在填補桶子。”社論：數位浮水印的重要性與挑戰
數位浮水印技術的出現在人工智慧時代帶來了希望，以解決來源問題、確保內容的真實性和可追溯性。然而我們不得不面對當前數位浮水印技術的局限性，即無法有效阻止惡意行為者的規避和篡改。這一點在科學家和研究人員最近的研究中得到了證實。 然而數位浮水印技術對於那些希望保持透明度和揭露人工智慧內容來源的善意行為者來說仍然具有重要的價值。這些數位浮水印可以提供一種“嵌入式營養標籤”，幫助追蹤內容的合法性和使用權以及理解模型的輸入。 上述提到的 Truepic 和 Hugging Face 等平臺的合作，為使用者提供了向 AI 生成影象新增可信來源後設資料的功能。這將有助於確保由 AI 生成的內容的真實性和可信度。 然而我們必須正視當前數位浮水印技術面臨的挑戰和約束。數位浮水印技術需要不斷的改進和創新，以應對惡意行為者的規避和篡改。只有透過不斷的研究和技術創新，我們才能保護人工智慧內容的來源與可追溯性。建議：提高數位浮水印的效能與可靠性
為了提高數位浮水印技術的效能和可靠性，需要各方的共同努力：投資研究和開發
政府和科研機構應該加大對數位浮水印技術的研究和開發投資。這將有助於改進現有的技術，提高數位浮水印的可靠性和防範能力。促進跨界合作
科技公司、學術界和政府應該加固合作，共同研究和開發數位浮水印技術。只有透過跨界合作，我們才能共同解決數位浮水印技術面臨的挑戰和問題。加固法律和政策保護
政府和相關機構應該制定和加固相關的法律和政策，保護數位浮水印技術的使用和效力。這將有助於抵禦惡意行為者的規避和破壞，確保數位浮水印的可靠性和有效性。提高公眾意識
數位浮水印技術的成功需要公眾的支援和參與。相關機構和媒體應該加固對數位浮水印技術的宣傳和教育，提高公眾對於數位浮水印技術的認識和理解。結論
數位浮水印技術在確保人工智慧內容的來源和可追溯性方面具有重要價值，但也面臨著挑戰和約束。只有透過不斷的研究和創新，加固跨界合作，強化法律和政策保護，提高公眾意識，我們才能提高數位浮水印技術的效能和可靠性，實現人工智慧的透明度和負責任使用。DigitalSecurity-隱形人工智慧,數位浮水印,惡意行為者,善意行為者,重大事件
