愛的驅動力：認識 Google 人工智慧研究者轉向生物軟體開發
簡介
前 Google 人工智慧研究員 Jakob Uszkoreit 是 2017 年重要論文「Attention is All You Need」的八位共同作者之一，該論文引入了「Transformer」架構，為 ChatGPT 和大部分其他大型語言模型（LLMs）提供了基礎。Uszkoreit 最近在接受 VentureBeat 的採訪時表示他是唯一轉向生物科技領域的人，這並不奇怪。他說：「我認為這正是我們興趣相互重疊又非常多元化的證實。」該共同團隊（現已離開 Google）包括 Cohere 的執行長 Aidan Gomez、Character AI 的執行長 Noam Shazeer 以及 Sakana 的 Llion Jones 等人。Uszkoreit 補充道：「如果每個人都朝同一個方向發展，那才是令人驚訝的。事實上這種多元化才是這個團隊仍然極其有效的原因。」
從 Google 到生物軟體
對於 Uszkoreit 來說生物學一直是他的興趣，但在 2020 年末接連發生了三件事情，讓他決定創辦 Inceptive。首先是 2020 年新冠疫苗的 mRNA 效力結果，疫苗迅速挽救了數百萬人的生命。其次是 DeepMind 公布的 AlphaFold 2 結果，顯示 AlphaFold 團隊確實解決了蛋白質折疊的問題，而這是得益於 Transformer 啟發的模型。他說：「這清楚地表明，大規模 Transformer 在分子生物學和技術中完全準備就緒。」第三件事情是更加個人化的，就是在同一時期，他的女兒出生了。他說：「我想任何有孩子的人都能理解，突然之間看待某些事情會截然不同。」這三個因素共同創造了 Uszkoreit 視為「道德義務」的情況，使用 Transformers 來開發新的疫苗和藥物治療方式。他解釋說：「處理 RNA 的模型研究非常有限，因為可用的資料非常少。」他解釋說：「對於蛋白質結構預測，至少有幾十萬個實例，但已取證的 RNA 結構少於 2000 個。」
作為競爭中的一部分
當然由於投資者和製藥公司開始圍繞價值 500 億美元的人工智慧在藥物研發領域的市場機會展開競爭，人工智慧和藥物開發聯動愈發密切。然而 Uszkoreit 對於競爭並不擔心。他說：「我們現在處於一片機遇無窮的領域。我很難找到一個地方，不夠容納更多公司，更多優秀的團隊去追逐可能真正改變世界的機會。」不過他確實認為 Inceptive 團隊有兩個重要的特點。首先 Inceptive 所致力的並不只是生物學問題或深度學習挑戰，而是觸及兩者的領域，需要超越跨學科的經驗和專業知識。他說：「我們必須以初學者的心態來處理這個問題。該公司認識到，這可能是一個幾年後才會有名字的學科，但現在還沒有名字。」他解釋道，團隊中的很多人都是世界級專家，但他們必須適應並朝新的方向前進。此外還有極其複雜的科學挑戰。他說：「我們不能只是應用 RNA 生物化學方法，然後在其之上進行新穎的深度學習，也不能只是應用標準的深度學習，並在生物化學領域推動極限。這是不夠的。你必須要同時突破這兩個領域的界限。」這包括提出新的資料收集方法，對於 Inceptive 團隊而言，這意味著運用機器人、人員、模型和神經網路進行實驗，生成新穎的合成 mRNA 分子。此外 Uszkoreit 補充說，除了科學，這也需要一點魔法。「多年來，形成了一句有趣的口號，即多數工作是在『海灘』上進行的...沙灘上的濕實驗室（用於操作液體、生物物質和化學品）與乾實驗室（專注於計算、物理和工程）和諧地結合。」
特殊關注的 LLM 實驗室
儘管大多數有關生成式人工智慧的熱潮集中在開發 LLMs 的大型人工智慧研究實驗室（如 OpenAI、Anthropic 和 Cohere），但 Uszkoreit 並不覺得有必要讓大家關注 Inceptive 的工作。「這樣說吧：如果我們成功了，就不需要廣告了。」他補充說，生成式人工智慧的熱炒最終將會冷卻下來。但他強調重要的是要認識到「在不同的領域創造了大量價值」，無論是天氣預報、氣候模型、語言理解、蛋白質結構預測還是 mRNA 分子的創造。「這些努力中的許多基礎性發現實際上都有很高的可能性，可以改進或幫助其他許多努力。這真的是使所有船隻都升起來的風潮。」
與 Transformers 合著者們的聯絡
雖然發表《Transformers》論文距今只有六年，Uszkoreit 認為「懷舊的時機還未到來」，但八位合著者確實保持著聯絡。他說：「我們有一個小團體的聊天群組。我們經常分享筆記，相互提供建議。自從我們離開 Google 母公司以來，我受到了其他合著者的驚人建議。」他重申，正是每一位研究者的多元化興趣，使得《Transformers》論文得以精鍊。「這些結果需要許多事情得到正確的執行，其中包括由那些真正理解加速器工作的人進行仔細的實現，也許有些更模糊的直觀想法，還有極其謹慎的實驗設計以及各種深度學習的魔法技巧。」他補充說，所有這些事情只有結合起來才能起作用。「這與能夠與這樣一個有趣的團隊保持聯絡是相輔相成的。」
《(文章授權 coherence)》
延伸閱讀
- 歐洲殘障科技新創如何利用人工智慧？
- SafeBase 使用人工智慧自動化軟體安全審查
- AI 新創點子解決創辦人個資外洩的痛 - 這位創辦人深受影響後的啟發
- Google Gemini：全新生成式人工智慧平臺的全方位解析
- 美國國家標準技術研究所推出新平臺評估生成式人工智慧
- Google 裁員 Flutter、Dart 和 Python 工程師，開發者大會前夕訊息爆發
- RPA 供應商如何在 AI 代理人世界保持競爭力
- 元 AI 測試：未能彰顯自身價值，但免費就是免費
- Google 推出新功能“口語練習”，利用人工智慧幫助使用者提高英文能力
- 科技巨頭 xAI 競爭開放人工智慧，吸金 60 億美元。推動社交網路 X 成為股東
