在尋找惡意角色時，看向光明的一面
介紹
在 TechCrunch Disrupt 2023 大會上，Airbnb 的 Trust Product and Operations 主管 Naba Banerjee 表示：“你會發現，實際上世界上 99.9%的人都是非常善良的。當他們使用你的產品時，都是出於正當的原因。但在偶爾出現不好的情況時，也感知像是太多次了。”
在 2020 年加入 Airbnb 的安全和信任團隊之前，Banerjee 對公司宣布禁止“派對屋”並採取其他措施的舉動有所理解。當時有五個人在在平臺上租用的一棟房子舉辦的萬聖節派對上喪生。自那時以來，Banerjee 在一篇 CNBC 的文章中被形容為一個“派對破壞者”。“作為 Airbnb 全球禁止派對的負責人”，這篇文章指出，“Naba Banerjee 花了三年多的時間研究如何對抗使用者的派對‘勾結’，標記‘重複派對屋’，並設計反派對的人工智慧系統。”
於是，我和 Remote CEO Job van der Voort 共同參與了 Disrupt 的 Builder Stage 活動，並和 Banerjee 一同討論了這個人工智慧元素。儘管 Remote 正在快速增長，但絕大多數使用者的行為都與預期一致。但事實證實，即使是像 Airbnb 這樣規模的公司，也沒有太多關於違規行為的資料。
光明的一面
Banerjee 的觀點引發了一些關於人性的思考。她相信絕大多數人都是善良的，而且在使用產品時都是出於好的原因。這種信念是堅定和令人欣慰的。
然而極少數人的不良行為卻似乎破壞了整個系統的執行。Banerjee 將這種情況描述為“太多次”的感受。這種衝擊使人們開始懷疑，究竟是什麼導致了這種不良行為的出現。
這種問題既可以從技術角度進行探討，也可以從心理學和社會學的角度進行研究。Banerjee 提到，人們可能受到激勵、誘惑或壓力的影響，而表現出不良行為。這可能包括違規派對、不當言論或其他違反規則的行為。
然而在 Banerjee 看來，這些行為只是少數的例外，不能否定絕大多數人的善良。因此在擴大資料收集和技術監控的同時我們也應該看向光明的一面，鼓勵和倡導正確行為。
人工智慧的作用
在 Airbnb 和 Remote 等公司中，確保和應對惡意角色的挑戰是一個很大的問題。Banerjee 所謂的“反派對 AI 系統”成為理解決這個問題的一種方式。
人工智慧可以透過分析使用者的行為模式和多個資料源來檢測不良行為。例如，如果房東經常被指控舉辦違規派對，或者某個使用者經常尋找關於派對的訊息，這些都可能是人工智慧系統警告的標誌。
然而人工智慧同樣存在著一些挑戰和局限性。首先人工智慧系統需要大量的資料來訓練和提高準確性，而這可能是困難的。其次人工智慧可能會產生偏見或錯誤的結果，導致常規行為被錯誤標記為不良行為。
因此 Banerjee 和其他公司的領導者們需要謹慎使用人工智慧技術，並與人工智慧系統的工作結果進行仔細和持續的監測和取證。
總結
對於檢測惡意角色來說我們應該看向事情的光明面。雖然極少數人可能會產生不良行為，但絕大多數人都是善良的，出於正當的原因使用產品。人工智慧系統可以幫助我們檢測和應對不良行為，但同時也需要謹慎使用以避免產生錯誤或偏見的結果。在實施這些技術的同時我們應該保持對人性的信任，並鼓勵和倡導正確行為。
延伸閱讀
- AI 領域的參訪之旅以及為何我們應該停止向自駕車投擲火焰
- X 將在 iOS 上新增支援 passkey，去年移除了 SMS 2FA 支援
- Citrusx 助您確保 AI 模型符合規定
- 讓你大失所望的 20 個最糟糕管理員密碼
- AI 工具包括 ChatGPT，研究人員證實可以操控並生成惡意程式碼
- 不燒傷眼睛！如何觀賞罕見的「環形日食」
- 為什麼採用 DevOps 方法對保護容器和 Kubernetes 至關重要
- 微軟利用人工智慧技術，強化 Windows 11 安全性，推動無密碼時代
- Proton 推出自家 CAPTCHA 服務！為加密郵件提供商帶來更高安全性！
- iOS 17 強化安全與隱私功能，這些新特點你絕不能錯過！
