研究者構建 AI 系統來辨識社會規範違反行為
2023 年 7 月 20 日，科學 X 網站編輯發表了一篇由以色列貝爾謝巴大學的研究者所研發的 AI 系統能夠辨識社會規範違反行為的文章。這個專案是首批致力於自動辨識社會規範違反行為的研究之一。面對全球眾多的社會規範，社會規範違反行為可以歸結為僅有的幾個通用分類。尤其 Yair Neuman 教授和他的工程師 Yochai Cohen 使用了 GPT-3、零-shot 文字分類和自動規則發現建立了這個系統。
AI 系統辨識社會規範
這個系統使用了十個社會情感作為分類，並開發了一套二進位制模型。爲了提高國防部運營商的情境感知能力和人際互動效果，DARPA 委託計算文化理解（CCU）計劃來建立跨文化語言理解技術。DARPA 解釋了該計劃背後的動機，異文化溝通不僅會使談判變得解決困難，還可能成為導致戰爭爆發的一個因素。他們的研究成果最近發表在《科學報告》上。
在這個研究中，Neuman 教授和他的工程師對 AI 系統進行了訓練，以便識別十種社會情感：能力、禮貌、信任、紀律、關心、和諧、成功、一致、體面和忠誠。該系統可以將書面情境歸類為這十個情感之一，並判斷情境是正面的還是負面的。該系統在兩個大型短文字資料集上進行了測試以及實證模型的有效性。
當前工作還屬於初步階段
Neuman 教授表示：“當前這僅僅是一項初步的研究，但它提供了我們的方法是正確的並且可以擴充套件以包含更多社會規範的強力證據。”Neuman 教授是貝爾謝巴大學認知和腦科學系的教授，並且還是 Functor Lab 實驗室的負責人。
這項研究的發表引起了廣泛的關注，因為 AI 技術在日常生活中的應用越來越廣泛。然而 AI 系統辨識社會規範違反行為也引起了一些倫理和隱私的問題。
哲學討論：AI 在社會規範的辨識上的應用
這項研究的成果無疑展示了 AI 在社會規範辨識方面的巨大潛力。透過利用巨大的資料集和機器學習技術，AI 系統能夠分析和辨識不同情感，幫助人們更好地理解他們的言行在社會規範中的適宜性。在這個科技智慧的時代，這樣的系統可能能夠幫助企業、政府和社會機構提供更好的服務，避免社會規範違反行為和不當的溝通。
儘管如此我們必須深入思考 AI 技術在社會中的應用所帶來的倫理和隱私問題。首先我們需要確保 AI 系統的訓練資料具有有效性和代表性。因為社會規範在不同文化和社會背景中可能存在差異，所以 AI 系統的訓練資料應該是多樣化和包容的，不能偏頗於特定的群體與價值觀。
此外我們也需要關注 AI 系統可能對個人隱私的侵犯。因為這些系統需要分析個人的言行和情感，必須存取、處理和利用大量的個人資料。因此我們需要建立健全的法律法規和道德準則，以確保這些資料的安全性和保密性。
社會倫理的角度
從社會倫理的角度來看，AI 系統能夠辨識社會規範違反行為帶來了一個有益的工具，可以幫助塑造更和諧、禮貌和安全的社會環境。然而我們也必須警惕，將 AI 技術視為萬能的解決方案，或者僅僅依賴技術來取代人類的智慧和判斷。
最後我們需要對 AI 系統的應用進行持續的監測和評估。這包括對系統的準確性、公平性和正確性進行評估，以確保系統不會引入任何歧視或不公正的因素。此外公眾應該參與到 AI 系統的發展和設計中，以確保這些系統能夠真正符合社會的需求和價值觀。
社論和建議：AI 系統在倫理和隱私問題上的應對策略
面對 AI 系統在社會規範辨識上的應用，我們必須正視其中的倫理和隱私問題，並提出相應的應對策略。首先政府和相關機構應該制定相應的法律法規和政策，規範 AI 系統的資料收集、儲存和處理行為。這些法規和政策應該保護個人隱私，並確保資料安全和保密。
同時企業和組織也應該加固資料治理和倫理管理，確保 AI 系統的開發和應用符合道德準則和社會價值觀。公司應該開展透明和負責任的資料管理實踐，尊重個人隱私，並確保資料使用的公平性和正確性。
另外教育機構和專業組織應該加固對 AI 倫理和隱私的培訓，提高公眾對相關問題的認識和理解。這樣可以增強公眾對 AI 系統潛在風險的警覺性以及對 AI 技術潛力的理解。
總之 AI 系統辨識社會規範違反行為的突破研究應該引起我們的關注，並對其在倫理和隱私問題上進行深入思考。我們應該不僅僅追求技術的進步，還應該將人類的價值觀和道德考量納入到 AI 系統的開發和應用中，以實現技術的社會價值和長遠可持續發展。
延伸閱讀
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- 今年的 Met Gala 主題是 AI 極深假裝
- Y Combinator 幫助醫療記錄 AI 新創 Hona 募得 300 萬美元 的故事
- Pinterest AI 打造的拼貼圖比單張針腳更吸睛
- Atlassian 推出新的 AI 同事 Rovo
- 三星的營運利潤飆升 930％，AI 動能帶動記憶晶片需求
- GitHub 推出 Copilot Workspace：AI 驅動的軟體工程空間
- 「馬斯克的 xAI 示範 AI 新創公司的龐大市場潛力」
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
