AI 在法庭上安裝「機器法官」為何是一個糟糕的主意
引言
在科幻小說中，對未來的想像常常包含人工智慧（AI）的許多版本，但相對較少看到軟體取代人類法官的例子。然而現實世界似乎正在以一種在故事中未被預測的方式變革。最近，哥倫比亞的一名法官請 ChatGPT 幫忙在一個保險案件中做出決策。與此同時巴基斯坦的一名法官也使用 ChatGPT 來確認他在兩個不同案件中的判決。還有報導說，在印度和玻利維亞，法官們也尋求 ChatGPT 的建議。雖然這些都只是非正式的實驗，但某些改革的系統性努力確實涉及了人工智慧。在中國，機器法官已經成為法官們的顧問和助手，並且這種發展可能會繼續下去。在最近的一次演講中，英格蘭和威爾士地區第二高級法官 Geoffrey Vos 爵士建議，隨著該司法體系的數位化，人工智慧可以用來解決一些「較少涉及個人隱私的爭端」，例如商業案件。AI 並不如人所想
一開始的時候，這個想法可能聽起來不錯。法律應該是客觀公正地運用，「毫無畏懼或偏袒」。有人認為，有何比使用電腦程式更能實現這一目標？人工智慧不需要午休時間，不會被賄賂，也不需要漲薪。AI 能夠更快速、更有效地適用正義。那麼，我們將來可能會在法庭上見到「機器法官」嗎？有四個主要原因表明，這可能不是一個好主意。第一個原因是，實際上 AI 通常作為專家系統或機器學習系統。專家系統將決策和其後果的規則編碼成軟體中的決策樹模型。在 20 世紀 80 年代，這在法律領域中曾經非常流行。然而它們最終無法在大規模上取得良好結果。機器學習是一種隨著時間進步而改進的人工智慧形式。它通常非常強大，但並不比一個非常有見識的猜測更強。它的一個優勢在於它可以找到我們無法計算的資料中的相關性和模式。然而它的一個弱點是它以與人類不同的方式失敗，得出明顯不正確的結論。例如，有一次 AI 被欺騙成將一只海龜認為是一把槍。人臉識別在正確識別婦女、兒童和膚色較深的人方面常常存在問題。因此 AI 也有可能錯誤地將一個人放在犯罪現場，而其實他根本不在那裡。對於一個明顯錯誤但很難被審查的法律體系，人們很難保持信心，因為機器學習的推理過程是不透明的。它已經超越了我們理解其內部執行的能力，這種現象被稱為「黑盒子問題」。當在法律程式中使用 AI 並且失敗時，後果可能是嚴重的。大型語言模型，如 ChatGPT 所使用的技術，已經被知道寫出完全虛假的文字。儘管這意味著軟體是在思考而不是統計地確保其輸出中的下一個詞，這被稱為 AI 幻覺。今年，有訊息稱，紐約的一位律師曾經使用 ChatGPT 來撰寫提交法庭的檔案，結果發現裡面引用了根本不存在的案例。這表明這些工具當前還不具備取代律師的能力，而且可能永遠不會有。
歷史偏見
第二，機器學習系統依賴歷史資料。在犯罪和法律領域，這些資料通常含有偏見和偏見。邊緣化社群在逮捕和定罪的記錄中通常更多，因此人工智慧系統可能會得出不應有的結論，認為特定背景的人更有可能犯罪。一個著名的例子是 Compas 系統，這是一個用於美國法官在做決定是否給予保釋和判刑的 AI 算法。有報導稱其對有色人種產生了「虛假陽性」，卻對白人產生了「虛假陰性」。換句話說，它暗示有色人種會重新犯罪，而事實上並非如此，同時暗示白人不會重新犯罪，但他們實際上卻重新犯罪。然而該系統的開發人員對這些指控提出了質疑。法律規則的可靠轉換
第三，法律規則能否可靠地轉換為軟體規則還不清楚。不同的人會以不同的方式解釋同一條法則。當 52 位程式員負責自動執行限速法規的任務時，他們編寫的程式針對相同的樣本資料發出了非常不同的交通違規罰單。個別法官可能對法律有不同的解釋，但他們是公開行事的，可能被上訴推翻。這應該減少判決隨時間變化的差異性，至少從理論上講應該如此。但如果程式員在規則的執行上過於嚴格或寬鬆，那可能非常難以發現和修正。自動化的政府系統失敗之後，很難在一個非常困難的規模和速度上恢復常規。荷蘭政府曾使用一個自動系統（SyRI）來檢測社會救濟金欺詐，結果錯誤指控了許多家庭，摧毀了他們的生活。澳大利亞的「網路合規幹預」計劃用於自動評估社會福利支付的債務，該計劃通常被稱為「機器債務」。該計劃超越了其界限，對數十萬人產生了負面影響，並成為澳大利亞皇家委員會的調查物件。判決不僅僅是法官的工作
最後法官的工作不僅僅是審判。他們在法律體系中還擔任許多其他角色，例如管理法庭、案件負荷和一個團隊的工作人員，這些都更難以用軟體程式來取代。 提供：The Conversation 這篇文章是根據 The Conversation 的發表內容重新發布的，使用創意共享許可證。原文位址：https://techxplore.com/news/2023-07-ai-robot-courtrooms-bad-idea.htmlCourtroom-人工智慧,法庭,機器法官,糟糕的主意
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
- Rad AI 完成由 Khosla Ventures 領投的 5 千萬美元 B 輪融資
