定義人工智慧中的難以解釋性
作者：大衛·布拉德利（David Bradley）
來源：Inderscience 媒體
「人工智慧」這個詞對很多人來說有不同的含義。起初，這個詞語用於指代機器，特別是計算機，在某種程度上能夠獲得與人類意識相同的明智。這個概念引發了很多關於「人類本質是什麼」以及「機器是否能夠具有自我意識」的哲學辯論。這個想法貫穿於二十世紀的科幻作品，直到現在。雖然對於非人類實體是否能夠擁有類似人類的意識的想法已經存在數千年。隨著我們進入人工智慧技術發展的新階段，人們對於「人工智慧」詞語的理解也在改變。我們現在將基因組織訓練起來進行機器學習，賦予其所謂的「人工智慧」能力。然而許多這類工具，即由龐大的訊息資料庫支援的計算機算法，遠遠無法體現出意識，而且很多，比如如今臭名昭著的大型語言模型，表現出的行為接近於人類的行為。當給予這些模型文字提示時，它們能夠產生看似真實的回答，至少表面上與人類對同樣提示的回答相符。當然這些模型的好壞是取決於它們所接受的訓練和執行生成回應的算法的質量。在這類人工智慧發展的歷史中，我們正快速接近「黑盒子」人工智慧的概念。這種系統在給定提示後，能夠生成連系統的程式設計師和開發人員都無法預測的回應。這種系統和它們的回應達到了無法解釋的程度，雖然這並不意味著該系統以任何方式接近了科幻電影中的意識、情感行為或是任何關於對錯的概念。我們開發並訓練這些算法，要求它們進行預測，然後我們對回應結果進行採納。然而當這些回應被用於對整個社會、經濟、金融、工業、醫療保健和醫學研究、其他科學領域、政治和最令人擔憂的軍事機器等方面進行重要決策時，問題可能隨之而來。如果編寫和訓練過程是不可解釋的，那麼我們或機器在提示人工智慧系統回應時，可能會獲得完全錯誤的回答。如果我們將這些提示-回應系統用於控制重要系統，那麼當提示在醫療環境、工廠或全球舞臺上產生完全不適當的回應時，我們可能會遇到麻煩。
法比安·瓦勒（Fabian Wahler）和米迦埃爾·紐伯特（Michael Neubert）在《國際教學與案例研究期刊》中寫道，他們認識到了定義和理解人工智慧的重要性以及它可能帶給我們什麼，希望早日解決這個問題。他們提出了一個科學定義，將來這個定義可以被從業者和學者們作為參考。該研究旨在消除當前定義的模糊性，使黑盒子系統對人類使用者可解釋、可解讀和透明起來，以增加信任和可靠性，並對決策產生積極影響。
此新定義旨在為那些依靠人工智慧做出決策的人們提供更多的透明度和理解。透過理解人工智慧在背後的執行方式，人們將更容易判斷系統是否在某些情況下可能出錯，並採取適當的措施來矯正或最佳化算法和訓練過程。
實際上解釋性人工智慧是一個需要全球範圍內的共同努力來實現的目標。在政府、學術界、行業和科技公司的合作下，我們可以制定出標準和指南，以推動解釋性人工智慧的發展和應用。此舉將有助於提高人類對人工智慧決策的信任度，同時也將為人們解釋和理解人工智慧的工作原理提供更多的資訊。
然而我們還需要謹慎對待解釋性人工智慧的發展。適當的監管和隱私保護機制將是實現這一目標的關鍵。同時我們還應該警惕濫用解釋性人工智慧的可能性以及有意或無意地將它用於操縱和控制人們的思想和行為。
總之解釋性人工智慧是未來發展的重要方向之一。它有助於提高人類對人工智慧技術的信任度，為社會各個領域的決策提供更多的透明度和可解釋性。然而我們需要謹慎推進這一目標，以確保其在法律、倫理和人權等方面的合理應用。
