白宮宣布 AI 網路挑戰，應對關鍵軟體的安全問題
引言
在拉斯維加斯舉行的美國最大黑帽駭客大會上，拜登-哈裏斯政府宣布啟動為期兩年的開放競賽，探索如何利用人工智慧保護和捍衛美國最關鍵的軟體，包括網路和關鍵基礎設施執行的電腦程式碼。這個名為「AI 網路挑戰」（AIxCC）的競賽由國防高級研究計劃局（DARPA）帶領，與 Anthropic、Google、微軟和 OpenAI 合作。這些公司將提供專業知識並提供其模型用於競賽，競賽總獎金將近 2000 萬美元。為了確保廣泛參與和公平競爭，DARPA 還將提供 700 萬美元給希望參賽的小企業。根據新聞稿，AIxCC 競賽「將展示人工智慧在保護網際網路上使用的軟體和整個社會中的潛在益處，包括美國電力網和日常生活中的交通系統。」加固關鍵軟體安全的「號角」
在媒體簡報會上，白宮科學技術政策辦公室主任 Arati Prabhakar 表示：「這項競賽將給各種創意人士和組織敲響警鐘，加固關鍵軟體的安全，這些軟體是美國家庭、企業和整個社會所依賴的。」他指出，DARPA 在近二十年來一直發起此類獎勵競賽，吸引各種組織中的優秀人才來競爭解決困難的問題。「這是公共和私營部門攜手合作，改變未來發展方式的一種方式，這也是為什麼白宮要求 DARPA 承擔 AI 網路安全的重要話題。」開放原始碼安全基金會（OpenSSF）作為 Linux 基金會的一項專案，將擔任挑戰的顧問，同時也將幫助確保獲勝軟體程式碼被用於保護美國最關鍵的軟體，以確保美國人民的安全。AI 在確保關鍵程式碼安全上的潛力
DARPA 資訊創新辦公室的計劃經理 Perri Adams 表示網路防禦的任務是「保護一個充滿技術迷宮的龐大系統」，而如今他們缺乏在這個規模上保護的工具。儘管存在這些漏洞，但人工智慧的現代進展，如果負責任地使用，「對保護我們的程式碼有巨大的潛力。我們必須讓攻擊方永遠落後一步，而 AI 則提供了一種非常有前景的方法。」新聞稿還補充道，這一宣布「是拜登-哈裏斯政府更廣泛承諾的一部分，旨在確保利用人工智慧解決國家重大挑戰，並確保以安全負責的方式發展人工智慧以保護美國人民免受傷害和歧視。」上個月，政府與七家領先的人工智慧公司達成自願承諾，管理人工智慧模型的短期和長期風險。OpenAI、亞馬遜、Anthropic、Google、Inflection、Meta 和微軟的代表在白宮簽署了這些承諾。這些承諾包括確保產品在向公眾推出之前是安全的 - 在發布之前進行內部和外部安全測試以及在管理人工智慧風險方面進行訊息共享。此外白宮表示正在制定一項行政命令，並將推動跨黨派的立法，以幫助美國在負責任的人工智慧創新方面引領世界。結語
這次白宮發起的 AI 網路挑戰旨在解決美國最關鍵軟體的安全問題，並喚起國際社會對於人工智慧在網路安全領域的重視。這項競賽的舉辦將吸引來自不同組織的優秀人才參與，為解決這些龐大難題提供創新和具有影響力的解決方案。同時此次競賽還呼籲開放和負責任的人工智慧發展，以確保人工智慧技術不會對人們帶來傷害或歧視，同時持續進步以應對國家的重大挑戰。透過這一舉措，拜登-哈裏斯政府強調了國家意識形態和對安全問題的重視，這是應對不斷增長的網路威脅的重要一步。關於人工智慧的合理使用以及帶來的潛力和風險，我們必須繼續展開更加深入的哲學和倫理討論。Cybersecurity-白宮,AI,網路挑戰,頂尖 AI 模型,保護軟體能力
延伸閱讀
- 照片分享社群 EyeEm 將許可使用者的照片以訓練 AI，如果使用者不刪除照片
- 英偉達收購 AI 工作負載管理新創公司 Run:ai
- 英國調查亞馬遜和微軟與 Mistral、Anthropic 和 Inflection 的 AI 合作關係
- 這款相機以 AI 詩詞交換照片
- Webflow 併購 Intellimize，加入 AI 動力頁面個性化
- 頭條新聞：頂級公司專頁功能即將上線，搭載 AI 及行銷工具助您擴充套件觀眾量
- Amazon Music 跟隨 Spotify 推出自己的 AI 播放清單生成器 Maestro
- 「Facebook 與 Instagram AI 生成的裸照遭調查」
- 新聞標題：Meta 在 Instagram 測試 AI 動力搜尋欄
- Google 計劃透過兩款新的 10 美元 Workspace 附加元件來實現 AI 的盈利化
