這週 AI 大事：公司自願提交 AI 規範，但當前只是暫時的
AI 公司自願拋棄 AI 規範
AI 行業的發展快速變化，要跟上步伐可不容易。在 AI 可以為您完成這項任務之前，以下是一些關於機器學習的最新資訊以及我們未單獨報導的有趣研究和實驗。這週，OpenAI、Anthropic、Google、Inflection、Microsoft、Meta 和 Amazon 自願承諾追求共享的 AI 安全和透明目標，而預計拜登政府將發布一項行政命令。正如我的同事 Devin Coldewey 所寫，這裡並沒有提出任何規則或執法措施，這些承諾純粹是自願性的。但這些承諾大致上顯示了每個供應商在美國和其他國家可能會接受的 AI 監管方法和政策。除了其他承諾之外，這些公司自願在發布 AI 系統之前進行安全性測試、分享 AI 減緩技術訊息、開發使 AI 生成的內容更易識別的水印技術。他們還表示將投資於網路安全以保護私人 AI 資料，並促進漏洞的報告，同時還將重點研究系統偏見和隱私問題等社會風險。這些承諾無疑是重要的一步，即使它們沒有強制力。但人們不禁懷疑承諾方背後是否有隱藏動機。頂級 AI 公司造訪白宮，進行“自願”安全承諾據報，OpenAI 起草了一份內部政策備忘錄，顯示該公司支援要求任何想要開發 AI 系統的人獲得政府許可證的想法。CEO Sam Altman 在今年 5 月的美國參議院聽證會上首次提出了這個想法，並支援建立一個可以為 AI 產品發放許可證並在違反設定規則時撤銷許可證的機構。在最近接受媒體採訪時，OpenAI 全球事務副總裁安娜·馬坎朱堅稱 OpenAI 並沒有“推動”許可證，而且該公司只支援 OpenAI 的當前版本 GPT-4 以外的更強大的 AI 模型進行許可制度。但是如果 OpenAI 提出的政府發放許可證的方式得以實施，這將導致與新創公司和開源開發者產生潛在衝突，後者可能將其視為使其他人進入這一領域更加困難的企圖。我認為 Devin 的描述很到位，他對我說：“他們在圈地比賽中在身後撒下了釘子。”至少，這表明 AI 公司具有兩面性，他們試圖安撫監管機構，同時在幕後塑造有利於自己的政策，從而使其他小型挑戰者處於不利地位。這是一個令人擔憂的局面。但是如果政策制定者能夠勇敢站出來，仍然有希望實現足夠的保障而不受私營部門的過度幹預。其他 AI 大事
OpenAI 的信任與安全主管辭職
OpenAI 的信任與安全主管 Dave Willner 在 LinkedIn 上宣布辭職，並轉為顧問角色。OpenAI 在宣告中表示他們正在尋找替代人選，CTO Mira Murati 將在臨時基礎上管理團隊。ChatGPT 定制指令
OpenAI 又有訊息。該公司推出了 ChatGPT 使用者的定制指令，這樣使用者就不必每次與聊天機器人互動時都寫相同的指導提示了。Google 的新聞寫作 AI
據《紐約時報》的一篇報導，Google 正在測試一種使用 AI 寫新聞的工具，並已開始向出版物進行展示。這家科技巨頭已向《紐約時報》、《華盛頓郵報》和《華爾街日報》的所有者 News Corp 推銷這一 AI 系統。蘋果測試類似 ChatGPT 的聊天機器人
根據彭博社的 Mark Gurman 的一篇新報導，蘋果正在開發 AI 來挑戰 OpenAI、Google 和其他公司。具體而言，這家科技巨頭已經建立了一個聊天機器人，一些工程師內部稱之為“蘋果 GPT”。Meta 發布 Llama 2
Meta 發布了一個新系列的 AI 模型，名為 Llama 2，旨在推動與 OpenAI 的 ChatGPT、必應聊天和其他現代聊天機器人類似的應用程式。Meta 聲稱，透過對公開可用資料進行混合訓練，Llama 2 的效能顯著提高，優於上一代 Llama 模型。作者抗議生成 AI
生成 AI 系統（如 ChatGPT）是透過使用公開可用資料（包括書籍）進行訓練的，並非所有內容創作者對這種安排都表示滿意。在一封由 8500 多位小說、非小說和詩歌作者簽署的公開信中，批評了 ChatGPT、Bard、Llama 等大型語言模型背後的技術公司未經允許或報酬即使用他們的作品。微軟推出面向企業的必應聊天機器人
在其年度激勵大會上，微軟宣布推出 Bing Chat Enterprise，這是一款具有針對企業的資料隱私和管理控制的 AI 聊天機器人版本。使用 Bing Chat Enterprise，聊天資料不會被儲存，微軟無法檢視客戶的員工或業務資料，客戶資料也不會用於培訓機器人的基礎模型。AI 在媒體製作中的應用
AI 在媒體製作中無論如何都將扮演一個重要角色。然而出於許多原因，我們應該謹慎對待這一領域。同時在政策層面上，不久之前，國防授權法案中有一項新增條款，要求政府舉辦一個活動，研究人員和公司可以在其中盡力檢測 AI 生成的內容。這種情況明顯趨近於“國家危機”級別，因此這項措施很可能是為了好事才加入的。在迪士尼研究部門，他們總是試圖找到將虛擬和現實聯絡起來的方法，可能是為了樂園。在這種情況下，他們開發了一種方法將人物的虛擬動作（比如電影中的 CG 狗的動作捕捉）對映到實際機器人上，即使該機器人的形狀或大小不同。這依賴於兩個最佳化系統，每個系統都會告訴另一個什麼是理想的和可能的，類似於小我和超我。這應該讓機器狗更像真實的狗行動，但當然也可以應用於其他領域。希望 AI 能夠幫助我們遠離海底採礦，因為這絕對是個壞主意。一項多機構的研究利用 AI 的訊雜比識別能力來預測全球珍貴礦物的位置。正如他們在摘要中寫道：“在這項工作中，我們透過應用機器學習來對礦物域發生和相互關系的多維度模式進行表徵，從而擁抱我們星球上交纏的地質、化學和生物系統的復雜性和困難性。”這項研究實際預測並取證了鈾、鋰和其他珍貴礦物的位置。最後讓我們以這樣一句話作為結尾：“這一系統將增強我們對地球、太陽系以及遙遠時代的成礦和礦化環境的理解。”太棒了。 總結來說 AI 行業在自願遵從 AI 規範方面取得了重要的進展，但仍然存在一些潛在的問題和挑戰。在 AI 應用的過程中，私營公司和政策制定者之間需要進一步合作，以確保 AI 的安全、透明和道德使用。同時政府應該加固監管和規範 AI 行業，以保護公眾利益，防止壟斷行為，並維護創新和公平競爭。未來，我們需要找到一種平衡，既鼓勵 AI 技術的發展，又保護個人隱私和社會的整體利益。只有透過這種平衡，AI 才能為我們創造更美好的未來。 關鍵詞：AI 規範、AI 公司、自願拋棄、這週、AI 大觀園"AIEthics"-AI 規範,公司,自願拋棄,這週,AI 大觀園
延伸閱讀
- 醫療保健公司 WebTPA 披露侵害 250 萬人的資料洩露事件
- 風險投資公司組成聯盟，標準化資料收集
- 資料科技公司 Daloopa 開發 AI 以自動化財務分析工作
- EQT 以超過 6 億美元收購 API 和身份管理軟體公司 WSO2
- 「不鏽鋼」幫助 OpenAI、Anthropic 等公司構建其 API 的 SDK
- 帕羅奧圖網路防火牆漏洞遭攻擊，數千家公司面臨新的災害
- 資料庫公司 DataStax 收購低程式碼 AI 平臺 Langflow 的新創公司
- 土耳其新的遊戲專注型風險投資公司展示遊戲產業持續升溫
- Bolt 一鍵結帳公司 CEO Maju Kuruvilla 下臺
- 川普 Truth Social 背後公司為何加入日益增長的 IPO 趨勢
