AI 是一種監視技術：Signal 的 Meredith Whittaker
摘要
Signal 總裁 Meredith Whittaker 在 2023 年 TechCrunch 破局大會上指出，AI 是一種監視技術，與 Google 和 Facebook 這樣的大資料和定向廣告公司密不可分。她指出，導致這些公司對 AI 熱衷的原因在於 AI 作為一種監視技術可以加劇和擴大現有的監控商業模式。Whittaker 也強調 AI 本身也具有監視作用，可以被用於製造一個智慧監控系統，這些系統被市場推銷給那些對我們有權力的人，如僱主、政府和邊境管制等。她指出，AI 技術中所使用的資料往往是由被其監控物件即工人們收集和整理的，因此 AI 的發展背後存在著對廉價勞動力的依賴。然而並非所有的 AI 和機器學習系統都是壞的，Signal 的面部模糊功能就是一個例外。AI 與監視商業模式
根據 Signal 的 Meredith Whittaker 的觀點，AI 作為一種監視技術與大資料和定向廣告業有著緊密聯動。她認為 AI 技術對監控商業模式起到了推波助瀾的作用，加劇了自 20 世紀 90 年代以來監視廣告的發展趨勢。許多公司依賴於從使用者資料中獲取經濟效益，因此它們對 AI 技術表現出了極大的熱情。但這種熱情的背後，是 AI 作為一種監視技術在現有商業模式中的嵌入和擴大。 舉例來說當你走過一個設有臉部識別相機的地方時，它可以探測你的情緒，並生成與你相關的資料，然後這個資料被市場推銷給那些對我們有權力的人，如僱主、政府和邊境管制等，用於做出關於我們資源和機會的判斷和預測。可諷刺的是，這些系統所依賴的資料往往是由那些被它們所監控的工人們整理和標註的。因此 AI 的發展依賴於廣大的、低薪的勞動力，同時也是對這些勞動力的濫用。AI 的問題和潛力
Whittaker 自嘲地指出，AI 技術的真相往往與我們所認為的智慧有所出入。AI 技術背後的真相是，在其開發和部署過程中，對勞動力的需求是不可或缺的，人們必須根據 AI 的需求整理和標註資料，這種勞動力對支付的回報很少，但大規模使用時卻非常昂貴。因此我們可以說 AI 系統背後的真相是——在技術幕後，其智慧的實際程度可能並不如人們所想像的那麼高。 然而我們必須意識到並非所有的 AI 技術和機器學習系統都是壞的。Signal 的 Meredith Whittaker 舉了一個例子，Signal 使用了一種小型的本地模型作為其社交媒體編輯工具集中面部模糊功能的一部分。這個模型檢測照片中的人臉並對其進行模糊處理，以避免在社交媒體上泄露使用者的生物特徵資料。然而她還指出，如果僅僅將這種技術用於面部識別這一市場，那就太狹隘了。開發和部署面部識別技術的經濟激勵，永遠不會使其僅僅局限於這個用途。結論和建議
AI 技術的發展帶來了疑慮和問題，尤其是在監控商業模式的背景下。然而我們應該建立一個平衡的觀點，意識到並不是所有的 AI 技術都是壞的或濫用的。事實上 AI 可以為我們的社會和生活帶來巨大的潛力和好處，尤其是當它被應用於解決現實問題時。 此外我們還需要思考如何在 AI 的發展過程中保護個人隱私和個人權益。政府、企業和技術社區需要與公眾進行持續的對話和協商，確保 AI 技術的使用符合倫理、法律和社會價值觀。此外政府應該制定規範和監管 AI 的正確使用，以防止其濫用和濫權。 最後我們也應該對那些致力於研究和開發安全、可靠和受人信任的 AI 技術的人們表示感謝。這些人正致力於保護公眾的利益，並確保 AI 技術的應用符合道德和社會價值觀。我們應該支援這些領先者，並與他們共同合作，以創造一個更可持續和人性化的 AI 未來。Surveillance-人工智慧,監視技術,Signal,MeredithWhittaker
延伸閱讀
- 用 Retell AI 讓公司打造「語音代理人」來應答電話
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
