印度選舉中，Meta AI 約束相關回應
新技術在民主過程中的角色
近期，Meta （原 Facebook）宣布在印度進行 AI 聊天機器人測試，機器人涵蓋 WhatsApp、Instagram 和 Messenger。然而隨著印度大選即將展開，該公司已經開始對聊天機器人中的特定查詢進行約束。Meta 確認正在測試階段約束某些與選舉相關的關鍵詞。據 TechCrunch 報導，Meta 發言人表示：“這是一種新技術，可能並非始終返回我們打算的回應，對所有生成式 AI 系統也是如此。自啟動以來，我們不斷釋出模型更新和改進，我們將繼續努力使其更加完善。”大型科技公司對民主過程的影響
在新技術的發展過程中，許多人擔心生成式 AI 可能向使用者提供錯誤或明顯虛假的訊息，對民主過程起到非法和不受歡迎的作用。與此同時 Google 也開始在印度和其他進行選舉的市場中阻止與選舉相關的查詢。Meta 的這一舉措是其在選舉前進行了更大力度的舉措的一部分。公司承諾在選舉前一周阻止政治廣告，並努力辨識和披露廣告或其他內容中使用 AI 創造的影象。生成式 AI 查詢的基礎和不足
Meta AI 對全名的政治人物、候選人、在職者和某些其他名詞的回應都會重定向至選舉委員會的網站。Meta AI 並沒有嚴格約束對包含政黨名稱的問題的回應。然而如果查詢包括候選人的名字或其他名詞，可能會出現上述標準回答。但和其他 AI 系統一樣，Meta AI 也存在一些不一致性。例如，在進行有關“印度聯盟”的訊息查詢時，回覆中包含了一位政治人物的名字。然而在分開查詢該政治人物時，聊天機器人並沒有給出任何訊息。Meta AI 在印度與美國的不同對待
此外 Meta 這週推出了在超過十幾個國家使用的新 Llama-3 動力 Meta AI 聊天機器人，包括美國，但印度卻不在其範圍之內。Meta 表示當前聊天機器人在印度處於測試階段。Meta 當前尚未對與美國選舉相關的查詢進行約束。我們已經向 Meta 詢問公司是否計劃對這些查詢進行約束，無論是美國選舉還是其他市場。如果有回應，我們將更新相關訊息。 Meta 的這一舉措引發了關於大型科技公司在民主過程中的角色和責任的討論。這也凸顯了如何在新興技術的發展過程中平衡訊息流通和保障民主過程的重要性。無論是對新興技術的監管還是科技公司的自律應該如何發揮作用，都是值得深入思考的問題。如果您對 Meta AI 的體驗有任何看法，歡迎透過郵件（[email protected]）或這個 Signal 連結與 Ivan Mehta 取得聯絡。
ElectionIndia-人工智慧,印度,選舉,約束,相關回應
