AI 是一種監視技術：Signal 的 Meredith Whittaker
摘要
Signal 總裁 Meredith Whittaker 在 2023 年 TechCrunch 破局大會上指出，AI 是一種監視技術，與 Google 和 Facebook 這樣的大資料和定向廣告公司密不可分。她指出，導致這些公司對 AI 熱衷的原因在於 AI 作為一種監視技術可以加劇和擴大現有的監控商業模式。Whittaker 也強調 AI 本身也具有監視作用，可以被用於製造一個智慧監控系統，這些系統被市場推銷給那些對我們有權力的人，如僱主、政府和邊境管制等。她指出，AI 技術中所使用的資料往往是由被其監控物件即工人們收集和整理的，因此 AI 的發展背後存在著對廉價勞動力的依賴。然而並非所有的 AI 和機器學習系統都是壞的，Signal 的面部模糊功能就是一個例外。
AI 與監視商業模式
根據 Signal 的 Meredith Whittaker 的觀點，AI 作為一種監視技術與大資料和定向廣告業有著緊密聯動。她認為 AI 技術對監控商業模式起到了推波助瀾的作用，加劇了自 20 世紀 90 年代以來監視廣告的發展趨勢。許多公司依賴於從使用者資料中獲取經濟效益，因此它們對 AI 技術表現出了極大的熱情。但這種熱情的背後，是 AI 作為一種監視技術在現有商業模式中的嵌入和擴大。
舉例來說當你走過一個設有臉部識別相機的地方時，它可以探測你的情緒，並生成與你相關的資料，然後這個資料被市場推銷給那些對我們有權力的人，如僱主、政府和邊境管制等，用於做出關於我們資源和機會的判斷和預測。可諷刺的是，這些系統所依賴的資料往往是由那些被它們所監控的工人們整理和標註的。因此 AI 的發展依賴於廣大的、低薪的勞動力，同時也是對這些勞動力的濫用。
AI 的問題和潛力
Whittaker 自嘲地指出，AI 技術的真相往往與我們所認為的智慧有所出入。AI 技術背後的真相是，在其開發和部署過程中，對勞動力的需求是不可或缺的，人們必須根據 AI 的需求整理和標註資料，這種勞動力對支付的回報很少，但大規模使用時卻非常昂貴。因此我們可以說 AI 系統背後的真相是——在技術幕後，其智慧的實際程度可能並不如人們所想像的那麼高。
然而我們必須意識到並非所有的 AI 技術和機器學習系統都是壞的。Signal 的 Meredith Whittaker 舉了一個例子，Signal 使用了一種小型的本地模型作為其社交媒體編輯工具集中面部模糊功能的一部分。這個模型檢測照片中的人臉並對其進行模糊處理，以避免在社交媒體上泄露使用者的生物特徵資料。然而她還指出，如果僅僅將這種技術用於面部識別這一市場，那就太狹隘了。開發和部署面部識別技術的經濟激勵，永遠不會使其僅僅局限於這個用途。
結論和建議
AI 技術的發展帶來了疑慮和問題，尤其是在監控商業模式的背景下。然而我們應該建立一個平衡的觀點，意識到並不是所有的 AI 技術都是壞的或濫用的。事實上 AI 可以為我們的社會和生活帶來巨大的潛力和好處，尤其是當它被應用於解決現實問題時。
此外我們還需要思考如何在 AI 的發展過程中保護個人隱私和個人權益。政府、企業和技術社區需要與公眾進行持續的對話和協商，確保 AI 技術的使用符合倫理、法律和社會價值觀。此外政府應該制定規範和監管 AI 的正確使用，以防止其濫用和濫權。
最後我們也應該對那些致力於研究和開發安全、可靠和受人信任的 AI 技術的人們表示感謝。這些人正致力於保護公眾的利益，並確保 AI 技術的應用符合道德和社會價值觀。我們應該支援這些領先者，並與他們共同合作，以創造一個更可持續和人性化的 AI 未來。
延伸閱讀
- 加州新 AI 法案出爐，SB 1047 作者再推出改革措施！
- 《超級瑪利歐成為 AI 基準測試的新標準！你絕對想不到的理由》
- Google 推出 SpeciesNet：專為識別野生動物而設的人工智慧模型！
- 安瑟普提克獲得 35 億美元巨額資金 瞄準人工智慧未來！
- OpenAI 重磅推出 GPT-4.5：歷史上最大的語言模型來了！
- 探索 DeepSeek：你必須理解的 AI 聊天機器人應用全指南！
- OpenAI 的創業帝國：揭密其風投基金背後的諸多創新公司
- 揭開 Mistral AI 的神祕面紗：揭示 OpenAI 競爭者的所有祕密！
- 未來科技：研究人員揭示如何打造變形機器人，猶如 T-1000 般神奇！
- ElevenLabs 推出全新語音轉文字模型，引領 AI 語音技術的新潮流！
