生成式人工智慧正在煩擾網路
生成式人工智慧（generative AI）正開始改變網路的組成。SpeedyBrand 是一家使用生成式人工智慧建立 SEO 最佳化內容的公司，並以 Y Combinator 的支援悄然崛起。儘管 SpeedyBrand 的資金儲備還不算豐厚（250 萬美元），客戶基礎也相對較小（約 50 個品牌），但它讓我思考生成式人工智慧正如何改變網路的構成。
生成式人工智慧模型使生成低質量內容變得更加廉價和容易，這已經引起問題。識別新聞來源的工具提供商 Newsguard 曝光了數百個使用生成式人工智慧建立的帶有泛泛而談名稱的廣告支援網站，其中包含了誤導訊息。這給廣告商帶來了麻煩。根據 Newsguard 的報告，在 55 個垃圾新聞站點上出現了 141 個主要品牌的近 400 種廣告。應該擔心的不僅僅是廣告商。如 Gizmodo 的 Kyle Barr 指出，只需一篇由人工智慧生成的文章就足以吸引大量參與度。即使每篇由人工智慧生成的文章只能生成幾美元，這仍然低於最初生成文字的成本，也意味著潛在廣告費用未被傳送到合法網站。那麼，解決方案是什麼？有嗎？這對我來說是越來越讓我夜不能寐的兩個問題。Barr 建議搜尋引擎和廣告平臺應該更加嚴格並懲罰濫用生成式人工智慧的不良行為者。但考慮到這個領域的快速發展以及生成式人工智慧的無窮擴充套件性，我對他們能否跟上步伐並不持有信心。當然垃圾內容並不是一個新的現象，過去也有過類似的浪潮。網路一直在適應。這次不同的是進入門檻劇烈降低，包括成本和時間的投資。Vincent 表達了樂觀的態度，暗示如果網路最終被 AI 垃圾內容充斥，這可能會促使更多資金投入的平臺的開發。對此我有些懷疑不以為然。然而不容置疑的是，我們正處於一個重要的轉折點上，現在關於生成式人工智慧和其結果的決定將在未來一段時間影響網路的功能。
生成式人工智慧的進步與挑戰
本週，OpenAI 正式推出了其最新的文字生成模型 GPT-4，並透過收費 API 提供。GPT-4 能夠生成文字（包括程式碼）並接受影象和文字輸入，相比於其前身 GPT-3.5 只能接受文字輸入，GPT-4 在各種專業和學術評估標準上的表現達到了“人類水平”。然而正如我們之前報導的那樣，它並不完美。（與此同時據報導，ChatGPT 的應用程式採用率下降，但我們將拭目以待。）
除了 GPT-4 的發布之外，OpenAI 還組建了一個由首席科學家兼聯合創始人 Ilya Sutskever 領導的新團隊，旨在開發控制和引導“超智慧”人工智慧系統的方法。
此外紐約市這週開始執行一項新法律，要求使用算法招聘、僱用或升職的僱主將這些算法提交進行獨立審核並公開結果。由於火災和其他環境因素的變化，洛杉磯加州大學正在研究如何預測山崩。但是儘管人工智慧已經被成功用於預測山崩，但它無法解釋其預測的依據。一種新的“可堆疊神經網路”方法使網路的各個層在執行時可以使用不同的資料並且並行執行，從而使預測的變數更加具體，並且更加高效。
Google 提出了一個有趣的挑戰：如何讓機器學習系統從危險的知識中學習，但又不要傳播它？例如，如果它的訓練集包括汽油彈的配方，我們不希望它重複製造汽油彈，但是為了不重複製造，它需要知道它正在避免。這項技術巨頭正在尋找一種“機器學習遺忘”方法，以便進行這種平衡並確保安全可靠。
總的來說我們正處於一個關鍵時刻，有關生成式人工智慧及其輸出的決策將在很長一段時間內影響網路的執行。然而解決這些問題是一項艱鉅的任務，它需要相關方共同努力，包括搜尋引擎和廣告平臺的積極參與以及政府的監管和法規。
生成式人工智慧與網路發展的觀點
生成式人工智慧的迅速發展對網路產生了深遠的影響。隨著人工智慧技術不斷提升，生成式人工智慧將給網路帶來前所未有的變化。與此同時我們也必須正視因此帶來的挑戰和問題。生成式人工智慧不僅僅影響廣告商和銷售商，還對網路內容的品質和可信度產生了不可忽視的影響。
該領域快速發展以及生成式人工智慧無窮擴充套件的特性使我們懷疑傳統的監管和管理方式是否能跟上步伐。此外成本和時間的投資門檻降低使生成式人工智慧廣泛普及，從而使垃圾內容泛濫成災。垃圾內容的問題不是新問題，但這次不同的是，生成式人工智慧使得垃圾內容的生成變得更加便宜和容易，這將對網路生態系統產生長期和深遠的影響。
不僅僅是廣告商，整個網路生態系統都面臨著巨大的挑戰。垃圾內容對於網路使用者而言，也是一個嚴重的問題。生成式人工智慧所生產的內容可能欺騙性高，造成錯誤的訊息和誤導，這不僅對使用者造成困擾，還可能對社會和公共討論產生不良影響。
解決方案——科技公司與政府合作
面對這個問題，需要科技公司和政府共同努力來制定相應的解決方案。一方面，科技公司需要加固內容審核和監管，嚴格執行使用生成式人工智慧的規範。另一方面，政府應該加固監管和法規，透過立法和執法來遏制垃圾內容的泛濫。
搜尋引擎和廣告平臺在這一過程中扮演著關鍵的角色。搜尋引擎可以採取措施來過濾生成的低質量內容，廣告平臺可以加固對廣告的審核和過濾，以避免廣告出現在垃圾網站上。這需要搜尋引擎和廣告平臺的技術創新和管理能力的提升。
此外政府還可以透過立法和監管來規範生成式人工智慧的應用。這需要建立一個有關生成式人工智慧的規則和準則，並進行相應的監管和執法。
總的來說解決這個問題需要科技公司和政府共同努力，透過技術創新、管理能力提升和法規監管來對抗生成式人工智慧帶來的垃圾內容泛濫。只有這樣，我們才能保護網路生態系統的健康發展，確保使用者能夠獲得高質量和可信度的內容。
延伸閱讀
- OpenAI 揭開 AI 祕密指令的面紗
- AI 助您創辦者更快、更輕鬆地籌集資金嗎？
- 盧西德機器人獲得 900 萬美元用於無人機清潔任何地方
- 以色列新創公司 Panax 籌集了 1,000 萬美元 A 輪融資，用於其基於人工智慧的現金流管理平臺
- Reddit 測試使用基於 LLM 的人工智慧進行自動整站法語翻譯
- 三星醫聲將以 9270 萬美元收購法國人工智慧超聲波新創公司 Sonio
- 網際網路共同創始人 Robert Kahn 早在幾十年前就已經做到了加密、人工智慧和網際網路嗎？
- 亞馬遜推出 Bedrock Studio：簡化生成式人工智慧應用開發
- 人聲 vs AI：Audible 推出 AI 旁白有機會取代人類旁白嗎？
- 突破獨家訪談：Wayve 共同創辦人 Alex Kendall 談自動駕駛汽車和機器人的未來
