Tech's Role in Ensuring Safety by Design
Introduction
科技在當今社會扮演著無可否認的關鍵角色，然而這種革新也帶來了許多不容忽視的負面效應。新創企業有時可能忽視已有人已經學到的明顯真理。然而好訊息是，新的創辦人有時能比他們的前輩更快地找到解決問題的方法。The Intersection of AI, Trust, and Safety
今年不僅是奧運年和閏年，還是選舉年。然而在思考拜登對特朗普的角逐之前，我們不得不提到 60 多個國家即將舉行國家選舉，更不用說歐盟議會的選舉。每個國家選舉的結果都可能對科技企業產生影響；不同政黨往往對人工智慧監管持有不同看法。然而在選舉舉行之前，科技也將在確保選舉公正上發揮作用。選舉公正可能並不是馬克·扎克伯格在建立 Facebook 時曾想過的事情，或許他甚至在購買 WhatsApp 時也沒有想到。然而 20 年和 10 年之後，信任和安全現在是 Meta 和其他科技巨頭無法逃避的責任，無論他們是否喜歡。這意味著要努力防範虛假資訊、詐騙、仇恨言論、兒童性虐待材料、自殘行為等等。然而人工智慧很可能會使這項任務變得更加困難，這不僅僅是因為 Deepfake 技術或惡棍的數量增加所致。Grove Ventures 的合夥人 Lotan Levkowitz 表示：「所有這些信任和安全平臺都有這個分享雜湊資料庫，所以我可以在那裡上傳不良內容，與我的社區分享，每個人都會一起阻止它；但如今我可以訓練模型來嘗試避開它。所以即使是更經典的信任和安全工作，都因為通用 AI 的出現變得越來越困難，因為這些演算法可以幫助繞過所有這些事情。Technical Challenges: From Afterthought to the Forefront
雖然線上論壇已經在內容審查方面有所經驗，但在 Facebook 誕生時，並不存在社交網站的標準。因此 Facebook 需要一段時間才能勝任這一任務，這在一定程度上是可以理解的。然而從 Meta 的內部檔案中得知，早在 2017 年，公司內部仍然存在對採用更好的保護兒童措施的抵制。扎克伯格是在最近出席美國參議院關於兒童線上安全聽證會的五位社交媒體科技公司 CEO 之一。Meta 並不是第一次受邀作證，但 Discord 公司的出現也值得注意；儘管該公司已擴充套件到遊戲之外，這提醒人們信任和安全威脅可能在許多網路平臺上發生。這意味著一個社交遊戲應用程式，例如也可能會使其使用者面臨釣魚或誘騙風險。新公司是否能比 FAANGs 更快意識到這一問題？這並不是一定的：創辦人往往憑藉首要原則運營，這既有好處也有壞處；因此內容審查的學習曲線確實存在。但 OpenAI 比 Meta 要年輕得多，因此讓人鼓舞的是，它正在成立一支研究兒童安全的新團隊——即使這可能是因為它受到的監督所致。一些新創公司並不等待問題的跡象就採取行動。Grove Ventures 投資組合內的 AI-enabled trust and safety 解決方案提供商之一 ActiveFence 看到了來自眾多新創公司的請求。該公司的 CEO Noam Schwartz 告訴我說：「很多人正在尋求我們團隊的幫助，其中包括剛創立或甚至未發布產品的公司。他們在產品設計階段思考產品的安全性，採用一種稱為安全設計的概念。他們在產品內部內建安全措施，就像當今在建立功能時思考安全性和隱私權一樣。」 ActiveFence 並不是唯一一家進行此類工作的新創公司，Wired 將這種工作描述為“作為服務的信任和安全”。但它是其中最大的之一，特別是自它在去年 9 月收購 Spectrum Labs 以來。因此聽到它的客戶不僅包括那些擔心公關危機和政治審查的大公司，還包括那些剛剛起步的小團隊，這是一件好事。同樣，科技也有機會從過去的錯誤中學到教訓。Conclusion
科技公司在當今社會發揮著越來越重要的角色，因此確保安全設計應該成為它們的首要任務之一。透過 AI 的應用，科技公司應該積極思考在產品設計階段就內建安全措施，以避免後續發生安全風險。這不僅符合企業社會責任的基本原則，同時也體現了科技公司的道德價值觀。因此技術公司應認真對待安全設計，這不僅僅是一個商業策略，更是一項社會責任。TechnologySafety-安全設計,科技產品,關鍵議題
