加州的隱私監管機構睜大了眼睛，設法給 AI 立規則，並保留退出和存取權利
加州的隱私保護機構（CPPA）正在為下一步準備：對人工智慧設定約束。這個州隱私監管機構在設定數位巨頭的規則方面發揮了重要作用，因為許多大型科技（和大型人工智慧）公司都設在這個陽光普照的土地上。今天該機構發表了有關自動決策技術（ADMT）使用人們資料的草案規定。這也就是人們常說的 AI。草案代表著 CPPA 的執行總監艾許坎·蘇爾塔尼告訴 TechCrunch 說：“這是到當前為止'AI 領域'裡最全面和詳細的一套規則。”這個方法受到了歐盟現有規則的啟發，歐盟的一般資料保護規則（GDPR）自 2018 年 5 月生效以來，賦予了個人對於對他們產生法律或重大影響的自動決策的權利，但加州的這一草案旨在透過更具體的規定加以完善，這樣科技巨頭就很難逃脫。計劃制度的核心包括退出權利、事前通知要求和存取權利，這將使加州居民得以瞭解他們的資料如何被用於自動化和人工智慧技術。AI 進行的基於個人資料的分析甚至也可能被納入規則的範圍。
審慎掌握 AI 的利弊
這項提議是否能成為實際規則尚需經過諮詢，但一旦採納，將對美國廣告技術巨頭如 Facebook 等公司產生重大影響。這些公司可能被要求向加州居民提供拒絕商業監視的權利。當然在實行這樣的法律時，必須確保人們知曉自己的訊息如何被使用。此外規定企業在應用自動決策技術時必須向受影響的消費者提供所謂的“使用前通知”，消費者可據此決定是否要退出他們的資料被使用，同時也可以行使他們的存取權利獲取更多關於自動決策技術的訊息。
這無疑是對於企業而言，將帶來更多合規成本，但這也是維護消費者權益的必要手段。此舉還囊括了 EU 的 GDPR 式的存取權利，允許加州居民對企業提出關於 ADMT 使用的詳細訊息，包括技術的輸出，決策過程中的人為參與以及 ADMT 的邏輯。這也是為了約束借口，擴大算法的監督。
合規成本和消費者知情權的平衡
值得一提的是，這項提議還對 ADMT 的應用範疇進行了一定的約束。草案提議設定了一個閾值：對於產生對消費者具有法律或類似重大影響的決策以及在某些特定情況下的使用者分類。而最重要的是，這個提議標誌著 CPPA 的規則制定過程的開始，即接下來的諮詢過程，將包括公眾參與。諮詢過程將在未來幾週內展開。
規則的推行需謹慎求索
雖然加州的 AI 規則對技術巨頭來說可能微不足道，但它確實在為 AI 的監管探索新途徑。這也可能成為全球 AI 規則的標竿，但影響可能僅限於加州境內，因為他們的重點是向州居民提供保護和控制。企業可能選擇走得更遠——例如，向其他美國州的居民提供相同的隱私保護。然而 CPPA 的影響和執法僅限於加州邊界。這一舉措是繼 2019 年推出受 GDPR 啟發的隱私規則以來的又一步，當時《加州消費者隱私法》於 2020 年初生效。自此之後，該機構一直在努力走得更遠。2020 年秋天，一項由州居民支援加固和重新定義隱私法部分的投票授權獲得了透過。而今天公布的針對 ADMT 的新措施正是這一努力的一部分。
在新的法規下，為了更好地保障隱私，特別是員工和兒童的隱私，將實行斷然退出權和正確的存取權利是非常重要的。雖然這當然需要特定情況下的一些豁免條款，但該提議對於企業們來說將意味著更高的規範成本。值得注意的是，這一法律只能在人們知曉自己的個人訊息是如何被使用後才能夠實施。這意味著企業必須提供“使用前通知”，這樣消費者才能夠決定是否退出他們的資料被使用以及行使他們的存取權利。
