聯合國和紅十字會呼籲禁止和約束殺手機器人
國際規則的緊迫性
聯合國和紅十字會本週共同呼籲建立新的國際規則，以保護人類免受自主武器的潛在“可怕後果”的威脅。聯合國祕書長安東尼奧·古特雷斯和紅十字會國際委員會主席米爾雅娜·斯波裏亞奇在星期四表示應將處理所謂的殺手機器人問題視為全球的“人道優先事項”。他們呼籲各國在 2026 年之前制定特定禁令和約束，以“保護現在和未來的後代免受它們使用的後果”。他們表示：“在當前的安全域性勢下，在國際上設定明確的紅線將使所有國家受益。”
他們表示自主武器系統——通常是指在沒有人類幹預的情況下選擇目標並施加武力的武器系統——“帶來嚴重的人道、法律、倫理和安全問題”。古特雷斯和斯波裏亞奇表示這些武器系統的發展和傳播可能改變戰爭的方式，從而加劇全球的不穩定。“透過創造一種對軍事力量和平民的風險減小的感知，它們可能降低卷入衝突的門檻，從而意外地升級暴力行為，”他們解釋道。
他們說：“我們必須立即採取行動，以保留對武力使用的人類控制。在生死決策中必須保留人類控制。機器以沒有人類參與的方式針對人類的能力和自由裁量權應該被國際法禁止。”
人工智慧的發展
聯合國和紅十字會主管表示新技術如人工智慧的日益可得性和複雜性的增加，加劇了他們的擔憂，這些技術可能被整合到自主武器中。他們呼籲禁止那些以不可預測方式執行的自主武器系統，例如由機器學習算法控制的武器，稱之為“一個無法接受的危險建議”。聯合國和紅十字會主管還呼籲對所有其他型別的自主武器進行明確約束，包括對它們的使用、打擊目標的型別和使用武力的規模約束。
雖然國際法禁止某些武器並約束其他武器的使用，但在自主武器方面缺乏具體協議。各國對於這些規則的適用可能存在“不同意見”。他們說：“因此需要關於自主武器的新國際規則來澄清和加固現行法律，這是避免對人類產生可怕後果所必需的”。他們表示：“我們呼籲世界領導人啟動一項新的具有法律約束力的談判，以制定對自主武器系統設定明確禁止和約束的規定，並在 2026 年前結束這些談判。”在過去幾年中，有關殺手機器人的談判已在聯合國日內瓦總部舉行，但各國尚未找到足夠的共同立場來啟動真正的談判。
倫理和道德困境
聯合國和紅十字會的呼籲引發了一系列倫理和道德困境。自主武器的出現與人類對力量、控制和道德責任之間的平衡產生了挑戰。隨著自動化和人工智慧的發展，武器的能力越來越接近具有自主思考和判斷能力的實體。這種技術的快速進步引發了人類對於掌控武器行為的控制和責任的擔憂。而且自主武器的使用可能導致無法預測的後果和不可逆的後果，進一步加劇了這些擔憂。
立即行動的必要性
面對自主武器的後果，我們迫切需要立即採取行動。首先國際社會必須共同努力，確立明確的禁止和約束自主武器系統的國際規章。這些規則應該針對武器的開發、生產、使用和出口進行透明和嚴格監管。
其次政府應該加大投資和研究，以開發相應的防禦技術和反制措施，以應對自主武器的威脅。這些技術可以包括監控和防禦系統以及自主武器取證和控制機制。
未來的挑戰
然而面對自主武器的挑戰，單純依靠技術和法律的解決是不夠的。我們需要更深入的思考和討論，以應對這些人道、倫理和安全問題。
首先我們需要確保人類掌控武器使用的界限。是什麼樣的武器系統應該受到禁止，什麼樣的武器系統應該受到約束？這需要有一個廣泛的討論，涉及各個層面的專業人士和公眾參與。
其次我們需要思考如何確保人工智慧和自主武器的責任問題。當自主武器系統犯下錯誤或違反道德原則時，誰應該承擔責任？法律和倫理界對於這個問題需要作出明確的回應。
最後我們需要思考人工智慧和自主武器對全球安全和穩定性的影響。自主武器的出現可能引發一場全球軍備競賽，進一步加劇國際關係的緊張局勢。我們需要建立國際合作和共識，以確保這些技術的和平和穩定使用。
總之聯合國和紅十字會的呼籲再次提醒我們，面對自主武器的挑戰，我們需要立即行動。不僅是為了保護人類免於這些武器的危害，也是為了確保人類對武力行使的控制和責任。而這需要全球共同努力、深入思考和長期承諾的支援。
