常識媒體將評估 AI 產品對兒童的適宜性
導言
常識媒體（Common Sense Media）是一個知名的非營利組織，致力於保護消費者隱私、網路公民權益以及提供兒童媒體評級，幫助家長評估子女使用的應用程式、遊戲、播客、電視節目、電影和書籍。該組織今天宣布，將引入一種新的產品評估和評價系統，用於評估 AI 技術產品，包括 AI 技術的適宜性和是否遵循「負責任的 AI 實踐」。新的 AI 產品評論將特別關注那些為兒童和教育工作者使用的產品。常識媒體表示將在專家的協助下設計這個新系統，並旨在為未來的立法和規管努力提供訊息，以保護未成年人的線上安全。
調查結果
常識媒體在與 Impact Research 合作進行的一項調查中發現，82％的家長希望有一個評級系統，能幫助他們評估像 ChatGPT 這樣的新 AI 產品是否適合兒童。超過四分之三（77％）的受訪者還表示他們有興趣使用能幫助兒童學習的 AI 技術產品，但只有 40％的人表示他們知道一個可靠的資源，可以理解 AI 產品對兒童是否合適。基於這些調查結果，常識媒體決定將 AI 產品納入其評級系統。
對 AI 產品的疑慮
常識媒體在 2023 年發表的一份立場檔案中警告了一些與現代 AI 相關的問題，包括它們通常缺乏「有意義的防護措施」，這可能使它們對兒童而言具有危險性。此外它還警告說，生成式 AI 技術（如 OpenAI 的 ChatGPT）在其訓練資料中可能存在偏見，這些資料包括網站、書籍和文章等大量資料，如網路上的內容。該檔案指出：“除了版權的擔憂外...訓練生成模型所需的大量資料幾乎可以確保，任何生成模型在某種程度上都以有偏見的資訊、刻板印象和誤導進行了訓練，這些都可能在生成輸出時傳播或重現。”
常識媒體的立場
常識媒體強調了建立這樣一個資源的緊迫性。該組織的創辦人兼執行長詹姆斯·P·斯泰爾（James P. Steyer）在一份宣告中表示：“我們必須立即行動，確保家長、教育工作者和年輕人對 AI 和像 ChatGPT 這樣的產品的危險和可能性有所理解。建立一個可信賴的、獨立的第三方評級系統，以便向公眾和政策制定者提供如此重要的 AI 的影響。近年來許多科技公司都把利潤放在兒童和家庭的福祉之前。我們已經看過類似的情節，這發生在社交媒體的出現和對這些平臺的後續監管失敗時，不幸的是，我們知道那個版本將如何結束。簡而言之，我們不能在 AI 方面犯同樣的錯誤，這對於兒童和社會的影響將更加重大。”
未來展望
常識媒體還提到，除了媒體評級外，其盈利子公司常識網路（Common Sense Networks）也從其兒童友好的建議中獲得靈感，推出了一個名為 Sensical 的流媒體服務，為 2 至 10 歲的兒童提供適齡的影片內容。常識媒體並未提供其新的 AI 評級及評論系統的發布時間表，但強調了建立這樣一個資源的迫切性。
社論分析：兒童面臨的 AI 威脅
AI 技術的快速發展和普及給兒童帶來了全新的威脅和挑戰。AI 產品如聊天機器人和學習應用程式正在改變兒童的媒體使用方式，並對其心理和情感健康產生影響。這些 AI 產品的適宜性和安全性對於保護兒童的利益至關重要。
常識媒體的舉措可以給家長和教育工作者提供一個評估 AI 產品適宜性的獨立評級系統。然而在進行評級時，常識媒體應該注意以下幾點。
1. 防範對兒童的潛在風險
AI 產品應該具有適當的監管措施，以防止對兒童造成潛在的傷害。這可能涉及到保護兒童的隱私和個人資料安全，並防止兒童受到欺詐、不當廣告和虐待等不良影響。
2. 檢測和處理偏見和刻板印象
AI 產品應該避免在其算法和訓練資料中存在偏見和刻板印象。常識媒體的評級系統應確保 AI 產品不會傳播或強化種族、性別、宗教和其他社會刻板印象，以免對兒童的價值觀和社會互動產生負面影響。
3. 提供教育與評估平衡
常識媒體的評級系統應該平衡教育和評估的功能。除了評估 AI 產品的適宜性，它還應提供有關 AI 技術的相關教育資源，幫助家長和教育工作者更好地理解和引導兒童使用 AI 產品的方式。
最後常識媒體的舉措為兒童 AI 產品的評估和監管提供了一個好的起點。然而政府和業界也應該加固合作，制定更完善的監管框架，保護兒童免受 AI 技術帶來的潛在風險。
