人工智慧的極限：Anthropic 的 Dario Amodei 表示「我不確保有任何極限」
報導者：
引言
Anthropic 是一家在人工智慧領域上挑戰 OpenAI 等對手的公司，他們主打的是大型語言模型及其所啟用的系統。然而隨之而來的一個存在性問題是：這些模型的大小和能力是否能夠持續增長？Anthropic 的 CEO 和聯合創始人 Dario Amodei 給出了一個簡單的答案：是。在 TechCrunch Disrupt 的演講中，Amodei 解釋說，他並未看到他的公司的關鍵技術在未來會遇到任何障礙。「過去 10 年，我們使用的訓練神經網路的規模有了顯著增長，我們不斷擴大規模，結果也越來越好」，他說道。基於這一點，Amodei 認為：「在未來的 2、3、4 年內，我們將看到比現在更加驚人的發展」。無極限的看法
對於明年是否會見到一個千京引數的模型（據傳今年會見識到百萬億引數的模型），Amodei 表示這已超出了預期的規模定律，該定律描述了計算能力的平方增長。但他確信模型仍然可以繼續增長。然而一些研究人員提出，無論這些基於變形器的模型有多大，它們可能仍然會發現某些任務是困難的，甚至是不可能的。Choi 指出，一些大型語言模型在計算兩個三位數的數位相乘時會遇到困難，這意味著在這些能力強大的模型內部存在一定的約束。根本極限的辨識
在我（作為主持人）問到「您是否認為我們應該試圖確保這些根本的極限？」時，Amodei 回答說:「是的，我不確保是否有。而且如果確實存在這樣的極限，我不確保是否有一種好方法來測量它們」。他續稱「我認為多年的經驗教會了我要持懷疑態度，同時也懷疑那些聲稱大型語言模型無法做任何事情的說法。或者說，如果它們受到稍微不同的引導、調整或訓練方式，它們就無法做任何事情。這並不適用於現在的大型語言模型，也不是指它們在未來能夠完全做到任何事情的宣告。我只是對這些硬性的極限清單持懷疑態度，對持懷疑態度的批評者也是如此」。未來的發展
Amodei 建議，至少在今後的三至四年內，我們不會見到遞減回報。超過這個時間點，為了進行預測，我們可能需要超過千京引數的人工智慧。因此根據 Amodei 的看法，人工智慧的發展潛力似乎還沒有到達極限。總結與建議
Amodei 對於人工智慧的極限持持懷疑態度，他相信根據過去的經驗，大型語言模型仍然可以不斷縮放。然而他也承認，這些模型可能會在某些任務上遇到困難，但他不認為這是無法克服的極限。然而對於這些模型的核心約束是否能被確保，或者能否找到一種好的測量方法，Amodei 表示他相當懷疑。他對那些堅持認為大型語言模型無法進行任何事情的人持持懷疑態度，並建議保持懷疑態度而不是完全排除模型的能力。 這一問題對於我們應該如何看待人工智慧的未來發展和應用有著重要意義。我們需要開放且有批判性思維地探索人工智慧的潛力、約束和道德問題。同時我們也應該在技術和倫理層面上進行深入討論，確保人工智慧的發展符合人類的價值觀和利益。ArtificialIntelligence-人工智慧,極限,Anthropic,DarioAmodei
