程式正義可以解決產生式人工智慧的信任/合法性問題
產生式人工智慧的到來讓人們重新掀起了關於信任和安全的討論：科技高管是否值得人們信任，能否將社會最大的利益放在心上？由於產生式人工智慧的訓練資料是由人類創造的，因此其存在偏見的風險是內在的，特別是在我們非完美、情感驅動的方式來看待世界。我們深知風險，從加固歧視和種族不平等到促進極端化。OpenAI 的 CEO Sam Altman 請求我們“耐心和誠信”，因為他們正在努力做好。“但幾十年來，我們的信任被放在了科技高管身上，這是我們的危險。他們創造了它，所以當他們說他們可以解決問題時，我們相信了。對科技公司的信任持續下降，根據 2023 年 Edelman 信任構造指數，全球 65% 的人擔心科技會使人們難以辨識真正的事實。
程式正義方法在信任和合法性方面的應用
基於社會心理學的程式正義方法建立在研究表明，宕機構和行為者聽取異議並經歷中立、無偏見和透明的決策過程時，大眾認為他們更值得信任和合法。程式正義的四個關鍵元素是：中立性、尊重、聲音、信用。這個架構的運用，警方改善了與社區的信任和合作，某些社交媒體公司正在開始使用這些想法來制定治理和調節措施。以下是一些想法，關於產生式人工智慧如何適應這個框架，建立信任和合法性。
建立正確的團隊來處理正確的問題
正如加州大學洛杉磯分校教授 Safiya Noble 所述，在解決演算法偏見問題方面，工程師僅靠自己是無法解決的，因為這些是需要人文角度 - 超出任何一家公司的 - 以確保社會對話、共識和最終監管（包括自我和政府監管）所涉及的系統性社會問題。在《System Error: Where Big Tech Went Wrong and How We Can Reboot》一書中，三位斯坦福大學教授批判性地討論了電腦科學培訓和工程文化的缺陷，表達了他們對核心價值觀被壓抑的不滿。OpenAI 在一篇部落格文章中表示他們重視社會的關切，“因為 AGI 的潛力非常巨大，我們相信社會不可能或不想需要永遠停止它的發展；取而代之的是，社會和 AGI 的開發人員必須找出如何在正確的方向上發展。”然而該公司的招聘頁面和創始人 Sam Altman 的推文都表明，它正在招聘大量的機器學習工程師和電腦科學家，因為“ChatGPT 有野心勃勃的路線圖，被工程師拖手了”。這些電腦科學家和工程師有能力做出決策嗎？正如 OpenAI 所說的那樣，“這一切都需要比社會通常對新技術應用的謹慎性更大的謹慎運用”。科技公司應該聘請多學科團隊，包括理解技術對人類和社會影響的社會科學家，以不同的觀點來培訓 AI 應用程式並實施安全引數，以此為公眾提供透明的決策理由，從而提高人們對技術的中立和信任。
納入局外人的觀點
程式正義的另一個元素是給人們參與決策過程的機會。在 OpenAI 這家公司最近一篇有關他們如何解決偏見的部落格文章中，該公司表示他們正在尋求“外界對我們技術的意見”，並指向最近進行的紅隊演習，這是一個透過對抗性方法評估風險的過程。儘管紅隊演習是評估風險的重要過程，但它必須包括外部的意見。在 OpenAI 的紅隊演習中，103 名參與者中有 82 名是員工。剩下的 23 名參與者中，大多數是來自主要西方大學的電腦科學學者。為了獲得不同的觀點，公司需要超越自己的員工、學科和地域範圍。他們也可以透過提供更多的控制權來讓使用者更直接地反饋 AI 產品的表現。他們也可以考慮提供機會讓大眾對新政策或產品變更進行公開評論。
確保透明度
公司應該確保所有的規則和相關的安全程式都是透明的，並傳達出有關他們如何做出決定的可信動機。例如，提供公眾有關應用程式的培訓方式、資料來源、人類在培訓過程中的角色以及最小化濫用的安全層的訊息是非常重要的。允許研究人員審計和理解 AI 模型對於建立信任至關重要。在最近接受 ABC 新聞採訪時，Altman 說的很對：“我認為社會有限的時間來想出如何應對、如何監管和如何處理”。透過程式正義的方法，科技公司可以吸引大眾參與過程，贏得信任和合法性，而不是像以前的科技公司一樣採取不透明和盲目的方法來強制要求信任。
