光明公司籌得 1600 萬美元，以對抗深度假影技術
文：凱爾·威格斯（Kyle Wiggers） / 編譯：
引言
在虛假的泰勒·斯威夫特深假色情影片、逼真但虛構的加沙影像等滲透社會的深度假影日益增多的情況下，對此趨勢的反制舉措亟需用之於施。根據皮尤研究中心最近進行的一項民意調查，約有三分之二的美國人（66%）表示他們至少有時會遇到旨在誤導的被改動過的影片和影象，其中有 15%的人時常面臨這樣的問題。另一項由《Axios》和雪城大學共同進行的人工智慧專家調查中，有 62%的人表示在人工智慧生成內容的時代，誤訊息將成為維護新聞的真實性和可信度所面臨的最大挑戰。那麼，有解決辦法嗎？如果你與像是麥克·馬提亞斯（Michael Matias）這樣的人交談，他們會告訴你解決的辦法就在於深度假影檢測技術。
挑戰與對策
光明公司於 2022 年由麥克·馬提亞斯（Michael Matias）、吉爾·阿維裏爾和娜塔莉·弗裏德曼共同創立，其目標是開發能夠檢測人工智慧操控媒體（主要是影象）的技術。與其他類似的供應商一樣，光明公司致力於開發深度假影檢測工具，例如 Reality Defender 和 Sentinel。
然而即使這些供應商中，在本作者看來，很難區分出光明公司的產品與其它產品的不同之處。就像競爭公司一樣，光明公司提供了一種透過應用程式和 API 進行媒體上傳的掃描工具，並利用多個人工智慧模型將所上傳的影片、影象和音訊與深度假影和人工智慧生成的影象資料庫進行比較。此外光明公司還提供了一種水印技術，以使客戶能夠證實他們的內容是合法的。
技術創新與政策考量
然而值得一提的是，光明公司堅持認為其與眾不同之處並不在產品表面上，而是潛伏在獨特的技術和專業知識之中。馬提亞斯表示：“在其核心，光明公司利用人工智慧技術，但它運營得就像一家網路安全公司。光明公司將深假影作為一種病毒，它們就像迅速分叉和複製的病原體。因此光明公司的解決方案也被建立為能夠分叉和複製以保持適應性和靈活性……團隊搭建了基於基礎架構和人工智慧模型的設施，為實現這一目標而努力奮鬥。”
當然在深假影檢測領域的技術精度一直是一個不斷變化的目標。即使擁有最好的專業知識和技術，面對 GenAI 和深度假影製造應用程式的不斷改進，這是一個無法贏得的遊戲。這也許是為什麼包括 Google、Microsoft 和 AWS 在內的一些主要參與者正在採納更加精密的水印技術和溯源後設資料作為另一種（盡管不完美的）對抗深度假影的措施。
市場與投資
然而光明公司似乎沒有遇到吸引投資者的困難。這家位於紐約的新創公司最近完成了一輪由 Walden Catalyst Ventures 和 Bessemer Venture Partners 共同領投、Secret Chord Ventures、Ascend Ventures 和 Flying Fish Partners 參與的 1600 萬美元的種子融資。
最初，光明公司主要面向新聞發行商和以色列政府等公共部門等客戶。但它已擴充套件到身份取證提供商和其他不具名的“大企業”。馬提亞斯表示：“這就像是一場快節奏的軍備競賽，就像傳統的網路安全一樣，任何想要對抗深假影的公司都需要與創造和傳播它們的人一樣迅速行動。”
結語
換言之，深度假影的蔓延所帶來的挑戰在於技術的不斷創新和政策的考量。光明公司的例子表明，對抗深度假影需要的不僅僅是技術的創新，更需要政策的支援和全球合作。此外有必要在防範深度假影的同時也要尊重公眾的隱私權和言論自由。這個問題需要全社會的共同參與和共識，因為僅靠一家公司的技術革命固然重要，但同時還需要依賴政策和規範的支援。
延伸閱讀
- Sprinto 成功籌集 2 千萬美元，致力於推動自動化安全合規管理
- 蘋果、Google 和微軟常用的團隊建設平臺 Confetti 募集到 1600 萬美元
- 招手食品醫療新創公司 Chiyo 籌集 300 萬美元幫助產後媽媽營養保健
- 前 web3 遊戲創始人籌集 250 萬美元用於 NFT 市場，以吸引使用者，即使「沒有賺錢的時候」
- Lago: 巴黎開源計費平臺籌得 2200 萬美元
- OpenCTI 研發者 Filigran 為其資安威脅管理套件籌得 1600 萬美元
- MoneyHash 為中東北非地區商家提供支付協調平臺，成功籌得 450 萬美元
- Empowerly 為其大學輔導服務籌得 1500 萬美元
- SUMA Wealth 成功籌集 220 萬美元，金融平臺使用者突破 100 萬
- 奈及利亞科技新創 Klas 獲得 Techstars 支援，籌得 100 萬美元用於全球擴充套件線上教學平臺
