互動平臺解釋機器學習模型給使用者
簡介
在各個專業領域中，機器學習模型已經成為常用的工具，同時也支援許多智慧手機應用程式、軟體包和線上服務的執行。雖然大多數人以某種形式接觸和使用這些模型，但很少有人完全理解它們的功能和底層過程。而且近年來機器學習算法變得越來越複雜和複雜，即使對於經驗豐富的電腦科學家來說它們的預測背後的過程也變得更難解釋。 為了增加人們對這些高度先進和有潛力的計算工具的信任，一些研究團隊一直在努力打造被稱為可解釋人工智慧（XAI）的技術。這些技術本質上是能夠解釋機器學習模型如何得出特定結論的模型，或者在進行特定預測時模型關注的資料特徵。儘管 XAI 技術可能更加固大和可靠，但它們大多未能取得特別令人期待的結果，因為它們的解釋往往存在解釋的空間。 最近，加利福尼亞大學爾灣分校和哈佛大學的研究人員開發了一個名為 TalkToModel 的互動對話系統，旨在向工程師和非專家使用者解釋機器學習模型和它們的預測。該平臺允許使用者對有關 AI 模型及其功能的問題獲得簡單而相關的回答。研究人員 Dylan Slack 在接受 Tech Xplore 採訪時表示：“我們有興趣找到更好的方式來實現模型的可解釋性。然而很多從業人員往往很難使用解釋性工具。所以，我們認為，如果我們讓從業人員直接‘與機器學習模型對話’，效果可能更好。”平臺特點
該研究團隊的最新研究基於他們早期研究的成果，重點是 XAI 和人工智慧之間的互動。他們的主要目標是引入一個新的平臺，以簡單易懂的方式向使用者解釋人工智慧，就像 OpenAI 的對話平臺 ChatGPT 回答問題一樣。他們的系統有三個關鍵元件：一個自適應的對話引擎、一個執行單元和一個對話介面。自適應對話引擎被訓練用於解釋自然語言的輸入文字並對這些文字生成合理的回答。執行元件實際上是組合將被轉化為可理解的話語的“AI 解釋”的部分，並將其傳送給使用者。最後對話介面實際上是使用者可以輸入提示並檢視答案的軟體。 Slack 解釋說：“TalkToModel 是一個用於與機器學習模型進行開放式對話的系統。你只需向系統問一個關於你的模型為什麼會有某種行為的問題，然後就能得到答案。這讓任何人都能更容易地理解模型。”研究結果及評價
為了判斷使用者是否會發現這個系統有用，研究團隊邀請了不同的專業人士和學生進行測試並分享他們的反饋。總體而言，大多數參與研究的人發現系統有一定的用處和趣味性，其中 73%的醫療保健工作者表示他們會使用它來更好地理解基於人工智慧的診斷工具的預測結果，85%的機器學習開發人員確認它比其他 XAI 工具更容易使用。 在未來，這個平臺可能會進一步改進並向公眾推出。這可能有助於當前正在進行的努力，旨在增加人們對人工智慧的理解，並提高對其預測的整體信任。“我們對人類（包括研究生、機器學習工程師和醫療保健工作者）的研究結果非常有意思，” Slack 補充道，“這些研究結果表明，這個系統對任何人來說理解模型及其工作方式可能非常有用。我們現在希望繼續探索使用更先進的人工智慧系統，比如 ChatGPT 風格的模型，以改善這類系統的使用體驗。”結論
這個新的 TalkToModel 互動平臺為我們提供了一種更容易理解和互動的方式來探索機器學習模型的執行原理和預測結果。它透過自適應對話引擎、執行單元和對話介面等關鍵元件，讓使用者能夠透過問問題獲得回答，從而使模型的解釋更加直觀和易懂。 這一平臺對於從事機器學習開發和應用的專業人士和非專家使用者來說都具有重要的價值。對於那些在醫療保健行業工作的人來說它可以幫助他們更好地理解基於人工智慧的診斷工具的預測。對於機器學習開發者來說它可以成為一種比其他解釋性工具更易用的選擇。 然而儘管這個平臺在初步測試中顯示出一定的潛力，但它還有進一步改進的空間。未來的研究和開發應該繼續探索使用更先進的 AI 系統，並提高它的可靠性和準確性。此外更廣泛的使用者反饋和回顧也可以幫助改進該平臺，以確保其適應不同使用者需求的能力。 無論如何，這個 TalkToModel 平臺的出現是踏上解釋人工智慧模型之路的重要一步。透過使機器學習模型更易理解和透明，我們可以增加人們對其預測能力的信任，並促進更廣泛的應用和採納。 原文連結：[https://techxplore.com/news/2023-09-interactive-platform-machine-users.html](https://techxplore.com/news/2023-09-interactive-platform-machine-users.html)AItechnology-機器學習,互動平臺,模型理解,人工智慧,資料分析
延伸閱讀
- 本週人工智慧大事記：OpenAI 轉向非安全應用
- AI 蓬勃發展，馬斯克對抗機械革命
- OpenAI 成立團隊控制「超智慧」AI，卻任憑其枯萎——訊息來源指出
- 開放 AI 與 Reddit 資料簽署合約，訓練人工智慧
- 智慧錢包 Kudos 獲得 1000 萬美元投資，研發 AI 功能挑選最佳信用卡
- 索尼音樂警告科技公司避免未經授權使用其內容訓練人工智慧
- Strava 啟用人工智慧防篡改排行榜，推出「家庭」計畫、深色模式等
- 參議院研究建議：每年至少撥款 320 億美元用於人工智慧計劃
- Google I/O 盛會 AI 領域的重大訊息
- Google 掃描通話的人工智慧或增加預設審查，隱私專家發出警告
