AI：一項監控科技？訊號（Signal）的梅雷迪斯·惠特卡（Meredith Whittaker）的看法
AI 與監控商業模式緊密相關
為什麼那麼多依賴於使用者資料商業化的公司對 AI 如此著迷呢？我曾問過訊號公司的總裁梅雷迪斯·惠特卡（Meredith Whittaker），她告訴我，這是因為「AI 是一項監控科技」。在 2023 年 TechCrunch Disrupt 的舞臺上，惠特卡解釋了她的觀點，認為 AI 與 Google（Google）、Meta 等大資料和定向廣告行業以及其他企業和國防公司有著密不可分的關係。以下為她的觀點（經過少量編輯以提高畫質晰度）。「AI 需要監控商業模式；它加劇了自上世紀 90 年代以來監控廣告的發展。我認為，AI 是一種鞏固和擴大監控商業模式的方式。」她說。「AI 的使用本身也是一種監控，不是嗎？你走過一個裝有偽科學情緒識別儀器的人臉識別攝像頭，它會產生關於你的資料，不論正確與否，譬如『你很快樂，你很悲傷，你品格不好，你是個騙子』。這些都是向那些對我們擁有權力的人推銷的監控系統，他們可能是僱主、政府、邊境管制等，在決定和預測中塑造我們對資源和機會的獲得方式。」
AI 所依賴的：監控勞動力
諷刺的是，她指出，這些系統底層的資料往往由那些可能受其瞄準的工人組織和注釋（這是 AI 資料集組建過程的必要步驟）。「沒有辦法在不讓人類勞動力參與的情況下創造這些系統，這種人工勞動力在資料的底層真相確保中發揮作用，人類對資料提供反饋進行強化學習。這只是對危險的人工勞動力進行科技美化。這涉及著數千、數千名低薪工人的參與，但從整體上來看，這是一個非常昂貴的過程。沒有別的辦法可以創造這些系統，沒有其他辦法。」她解釋道。「從某種程度上來說我們所見到的是奧茲大師現象，一旦我們拉開窗簾，其實沒有多少智慧的東西。」
AI 並非完全是一種剝削性科技
然而並非所有的 AI 和機器學習系統都具有相同的剝削性。當我問她訊號公司是否在其應用程式或開發工作中使用任何 AI 工具或工藝時，她確認該應用程式具有「一個小型的裝置內模型，不是我們開發的，我們使用的是現成的，作為我們媒體編輯工具集中的臉部模糊功能的一部分。它實際上並不是很好...但它可以幫助在人群照片中檢測到人臉並對其進行模糊處理，這樣在您在社交媒體上分享時，就不會向 Clearview 等公司洩漏他人的生物特徵資料。」她補充道。「但這不是臉部識別的唯一市場...讓我們明確一點。驅使開發和部署臉部識別技術的經濟激勵絕對不會讓它只有這一個用途。」
思考與社論建議
訊號總裁梅雷迪斯·惠特卡對 AI 作為監控科技的觀點提供了重要的反思。她指出 AI 在監控商業模式中的角色以及對人們日常生活中隱私和自由的影響。她警告稱，監控系統不僅會影響到個人的生活，還可能被用來制約資源和機會的分配。
然而我們不能一概而論地將所有的 AI 和機器學習系統都視為剝削性科技。就像梅雷迪斯·惠特卡所言，一些 AI 應用在保護個人隱私方面發揮著積極的角色。因此我們應該透過對 AI 的監管和規範，確保其應用符合倫理和法律的要求，同時保護個人的隱私和權益。
從商業角度來看，公司應該以道德和負責任的方式使用 AI 技術，而不是以異常盈利和監控為目的。透明度和可追蹤性應該成為 AI 應用的基本要求，並且企業應該確保他們的 AI 系統不會對使用者進行不當監控或侵犯個人隱私。
政府應該制定相應的監管政策，以保護個人隱私和資料安全。此外應該建立獨立的審計和監控機構，以確保 AI 應用在符合法律和道德標準的同時能夠發揮其正確和無害的用途。
結論
梅雷迪斯·惠特卡的言論提醒我們 AI 技術的潛力和風險。我們應該理解 AI 作為一項強大的科技工具不僅在技術層面上有著廣泛的運用，還在社會和倫理層面上具有深遠的影響。我們不僅要在 AI 的發展和應用中追求創新，同時也要確保它的合法性、道德性和可持續性。
