德克薩斯法官要求宣佈 AI 生成內容並進行檢查
在法庭上,不是所有人都願意使用人工智慧來表達自己的觀點。上周,德克薩斯州聯邦法官 Brantley Starr 採取措施,確保不再有類似事件在他的法庭上發生。他增加了一項要求:每位出現在他法庭上的律師都必須證實“檔案的任何部分均未由生成性人工智慧草擬”,如果使用了,還需得到人工核實。一名律師使用了 ChatGPT 來“補充”他研究的六個案例,但這些案例都是由語言模型捏造的,這位律師現在“非常後悔”這樣做。
必須宣佈和檢查 AI 生成內容的必要性
在 Starr 法官的辦公室起草此事的備忘錄中提到:“這些平臺功能強大,可以用於許多法律方面,如離婚、發現請求、檔案錯誤建議、口頭辯論預期問題等。但是法律研究並不是它們適合的工作。”因為當前這些平臺容易出現幻覺和偏見,它們捏造事實,甚至包括引用和引證。此外這些能力來源的可靠性和偏見也是問題。雖然律師宣誓要放下個人偏見和信仰,忠實地遵守生命法則並代表客戶,但生成性人工智慧的程式是由沒有宣誓的人類編寫的。因此這些系統對任何客戶、法律和美國憲法或事實本身都沒有效忠。這些程式按照計算機程式碼而非信念行事,根據程式設計而非原則採取行動。如果有人認為該平臺具有法律研究所需的準確性和可靠性,則可能要求檢查其精度和可靠性。
結論
在 AI 時代,技術的發展各種各樣的弊病同時出現。法律行業也不可豁免。然而在使用人工智慧之前,必須考慮其產生的語言、資料和分析是否真正可靠。如今 AI 技術還有許多問題,特別是在技術應用的初期。因此我們必須在使用 AI 的過程中更加謹慎。無論是在法律和其他領域,我們必須更加謹慎地考慮使用 AI 的風險和收益。
延伸閱讀
- ChatGPT 不再需要帳戶 - 但有一個小陷阱
- AI 動力對話機器人 ChatGPT:一切你需要知道的
- 協變科技致力於打造 ChatGPT 機器人
- Glean 欲在企業市場擊敗 ChatGPT 的遊戲
- 你比 ChatGPT 更黑嗎?來測測看!
- Match Group 宣布與 OpenAI 達成交易,宣告稿由 ChatGPT 撰寫
- AI 驅動的 ChatGPT:一切你需要知道的事情
- ChatGPT 現在可以記住──也可以忘記──你告訴它的事情
- 蘋果宣佈歐盟 DMA 日 APP Store 及 iOS 即將迎來重大變化
- TikTok 抖音成為孩子們新寵,使用時間比 YouTube 增長 60%,20%嘗試 OpenAI ChatGPT