OpenAI掌門人Sam Altman：AI的下一個發展階段

語言: CN / TW / HK
時間 2022-12-16 12:01:44

 

來源｜Greylock

OneFlow社區編譯

翻譯｜胡燕君、賈川

 

預告了一整年的GPT-4遲遲沒來，人們猜想OpenAI是不是要跳票了，更何況他們之前的得意之作DALL-E也被開源Stable Diffusion打了個措手不及，再不來點深水炸彈業界地位危矣。

 

不過，就在大家以為今年OpenAI將以沉寂收場時，聊天機器人模型ChatGPT橫空出世，讓人們看到了AI的更大創造力，聚光燈也再度打到了OpenAI的身上。

 

今年9月，LinkedIn聯合創始人Reid Hoffman與OpenAI首席執行官Sam Altman進行了一場對話，而肩負着宏偉使命且極富遠見的Altman就曾預言：AI即將迎來下一個發展階段。如今，大型語言模型越來越先進，也出現了可以實現文本-圖像相互轉換的多模態模型，一些AI應用還可令科學家如虎添翼。在他眼中，AI是一個可以孵化出無數工具，推動各行各業前進的基礎平台。

 

隨着AI行業的不斷進步，AI應用不再只是充斥着行業熱詞的紙上項目，已經發展為成熟的工具，助力多個行業的生產服務，也必將催生出無數新企業。

 

各種AI工具已顯現出巨大的日常應用潛力，可以實現人類的各種想法，改善人類的工作方式，比如由Stability.ai發佈的開源Stable Diffusion模型，Microsoft和OpenAI聯合打造的AI編程工具Copilot，OpenAI開發的語言生成模型GPT-3和圖像生成平台DALL-E以及爆火的聊天機器人模型ChatGPT。

 

Sam Altman還表示，5年後，我們應該不會再使用Transformer模型了。雖然Transformer很好，但他希望到時候會有比它更好的東西出現，不斷突破創新很重要。在他看來，AI可以幫助人類創造出前所未有的新應用，這將是人類的巨大的進步和勝利，是真正的科技革命。

 

從大模型的商業化機會、AI+應用再到AI發展方向，Sam Altman在這場對話中分享了自己的見解。以下為對話內容，由OneFlow社區編譯。

 

 

 

1

大模型的商業機會

 

Reid Hoffman：很多大型模型都通過API開放使用，能夠衍生什麼商業化機會？

 

Sam Altman： 現在，語言模型已經可以很好地應用到文案寫作和教育服務領域，我相信未來幾年內，語言模型會更加強大，將能與Google這一價值萬億美元的搜索產品一較高下。語言模型的應用將會改變我們的日常生活。

 

以前，大家都在調侃聊天機器人，其實它很有價值，只是當時的技術還不能滿足需求。現在的聊天機器人更加成熟，幾乎可以達到人類水平。聊天機器人可以用於醫療服務行業，提供諮詢和教育服務，這方面將能催生出大型企業。

 

我相信，不久之後會出現多模態模型，這又將打開新局面。現在，人們可以直接用自然語言命令計算機為你完成你想做的工作，例如DALL-E圖像生成工具和Copilot編程工具，都是用户向它們輸入自然語言描述，然後工具自動生成用户想要的東西，用户還可以不斷迭代修改自己的描述，直至工具給出滿意的輸出。

 

類似的AI應用方式會成為大趨勢，可以孕育出許多大型企業。強大的AI模型可以成為孵化各種AI應用的平台，就像智能手機的出現催生出眾多APP一樣，它們的共同點都是可以製造無數的商業機會。

 

Reid Hoffman：既然大家都可以通過API使用大型模型，作為AI企業，怎樣才能使自己脱穎而出，開闢自己獨特的商業路徑？

 

Sam Altman： 將來應該會出現幾個大型的基礎模型，開發人員都將基於這些基礎模型研發AI應用。但目前的情況依然是某一家公司開發出一個大型語言模型，然後開放API供他人使用。

 

我認為，將來在基礎模型和具體AI應用研發之間會有一箇中間層：出現一批專門負責調整大型模型以適應具體AI應用需求的初創企業。能做好這一點的初創公司將會非常成功，但這取決於它們能在“數據飛輪”上走多遠。（數據飛輪：使用更多數據可以訓練出更好的模型，吸引更多用户，從而產生更多用户數據用於訓練，形成良性循環。）

 

我對初創企業訓練模型的能力持懷疑態度，將來承擔模型訓練角色的應該不會是初創公司，但這些企業可以在上述的中間層角色中發揮巨大價值。

 

Audience Member：未來會不會出現垂類AI初創公司，專門為具體產業調整基礎模型？提示詞工程（Prompt Engineering，修改向AI輸入的任務描述，使AI的輸出結果更符合用户的需求）將來會不會成為企業的內部職能？

 

Sam Altman： 五年後我們將不再需要提示詞工程，或者只需在這方面做少量工作。 將來的AI系統不會因為增補了某個特定詞就會產生截然不同的輸出，而是可以較好地理解自然語言，用户只需以文本和語音形式輸入指令，即可讓計算機完成圖像生成、資料研究、心理諮詢等複雜任務。

 

總的來説，用户只須使用自然語言就可以與計算機交互，當然，如果藝術家能想出更有創造性的描述，也自然就可以生成更好的圖像。

 

 

2

“AI+”時代：AI for Science、元宇宙

 

Reid Hoffman：在科學領域，AI模型可以發揮什麼作用？

 

Sam Altman： 現在科學界對AI的應用分為兩種。一種是將AI工具直接用於科學目的，如AlphaFold（用於蛋白質結構預測），它們可以創造巨大價值，相信未來會出現無數這樣的工具。

 

另一種是將AI工具用於提升科研工作效率，如幫科學家和工程師找到新研究方向、寫代碼等。Copilot編程工具就是一個例子。但AI工具的能力遠不止於此。上述兩種AI應用將會大大推動科技前進。

 

此外，目前科學界也在探索對AI的第三種應用方式——讓AI成為可以“自我改進”的科學家。這件事情既有好處也有風險。

 

好的一面是，可以利用AI將人類的工作內容自動化，教會AI做任何人類可以做的事情：探索新科學、提出理論解釋、驗證、思考等，或許還可藉此解決困擾人類已久的“AI對齊問題（Alignment Problem）”（即如何讓AI系統的目標符合人類的價值觀）。風險在於，有人擔心懂得“自我改進”的AI有可能會像科幻小説描寫的那樣，擅自改動代碼或修改優化算法。

 

我深信，真正有利於促進人類和經濟的前行的，是一個能夠推動科學進步的社會架構。我們能從這樣的社會架構中獲益很多。

 

Audience Member：像GPT-3這樣的基礎模型會如何影響生命科學研究的步伐？生命科學研究中有沒有一些技術手段無法克服的限制因素，比如自然規律等？

 

Sam Altman： 目前的可用模型還不夠好，不足以對生命科學領域產生重大影響——不少生命科學家瞭解這些模型之後都説，它們只能在部分情況下發揮些許作用。AI在基因組學領域有一些很有前景的應用方向，但目前尚屬起步階段，不過我很看好。我認為這也是市值千億的巨頭準備進軍的領域之一。

 

如果AI未來真的可以讓醫藥公司的研發速率提高几百倍，那無疑會產生深遠的影響。不過如你所説，生物學的自有規律仍在，新葯的臨牀驗證需要時間，這也是醫藥研發的速率限制因素。

 

據我所知，不少合成生物公司藉助AI發現許多新的研發想法，加快自己的研發迭代週期，但研發出來之後終究是要進行測試，這部分時間無法縮減。

 

我認為，醫藥初創公司最重要的是低成本和快速的研發週期，有了這兩點就有資本參與市場競爭了。所以如果我是一家醫藥初創公司的決策者，一開始我不會選擇從心臟病這類大難題下手。

 

此外，如果我是一家AI藥物研發初創公司，我會在模擬器上多下工夫，因為目前這方面還亟待改善。

 

Reid Hoffman：你對AI和元宇宙怎麼看？

 

Sam Altman： 元宇宙會發展成一種新的軟件容器，就像手機一樣，成為一種計算機交互方式。而AI則是一場技術革命，所以問題應該是“元宇宙如何融入AI新世界”，而不是“AI如何融入元宇宙”。當然，這僅代表我個人的觀點。

 

Audience Member：AI工具已經可以輔助人類進行創造性工作，AI什麼時候會從創作者的輔助工具發展為具有獨立創作力的智能體？

 

Sam Altman： 作為創作輔助工具，AI既有用也很受歡迎，但目前來看，AI在大部分的創造性任務上的能力都有待提高，未來很長一段時間內都不能代替人類創作者。可能到100年之後，AI才可以獨立完成創造性工作。

 

十年前，大部分人都認為AI取代人類工作的次序是：藍領工作（卡車司機等）→低技能的白領工作→高技能的白領工作（程序員等），最後才會（也許永遠不會）取代創造性工作。現在的事實證明，AI最有可能先取代的反而是創造性工作。

 

這也説明，預測未來是很難的，還説明人類可能不夠了解自己，不清楚什麼類型的技能最難、最需要調動大腦，或者錯誤估計了控制身體的難度。

 

Reid Hoffman：除了AI的應用潛力之外，目前大家對AI的討論有沒有輕率的一面，比如將AI用於核聚變研究？

 

Sam Altman： 通常而言，如果某個行業獲得非常廣泛的社會關注，所有人都在談論它，這可能不是什麼好事，可惜這恰恰是AI行業目前的情況，我不希望這是AI行業“垮掉”的前兆。

 

業內有人正在研究利用強化學習模型控制核聚變反應，但據我們所知，AI模型在這裏發揮的作用還非常有限。

 

我們現在進入了“AI+”時代，相信AI在未來可以實現很多東西，會成為最大的新一代技術平台。但就目前而言，我們傾向於往更有確定性的方向發展，比如，業內研究出了縮放定律（Scaling Law，該定律揭示AI模型性能與模型參數、數據、計算量之間的關係），就以此為基礎展望下一步。

 

這也是OpenAI的運作模式——先做擺在我們面前的最有信心能成功的事情，然後分出10%的資源進行成功確定性更低的探索工作。這種運作方式為我們帶來巨大的成功。

 

現階段不應該把重點放在“讓AI無所不能”上，而是先沿着現有的道路慢慢發展完善AI，然後留有開放探索的空間——偉大的事物都不是計劃出來的，有時重大的突破誕生於偶然。
 

 

3
AI的未來發展方向

 

 

Reid Hoffman：未來幾年，AI的發展方向是什麼？

 

Sam Altman： 一個比較確定的方向是，語言模型的發展會遠超今天的想象。雖然很多人都説算力和數據都已經跟不上了，這也是事實，但算法的改進空間依然很大，還可以帶來很大的進步。

 

第二個方向是多模態模型的發展。 未來的多模態模型將不侷限於文本和圖像的互相轉換，而是所有模態之間都可以方便地互相轉化。

 

第三個方向是，模型可以持續學習。 目前的模型如GPT都停滯在當初訓練好的狀態，並不會隨着使用次數的增加而自我優化。我相信未來可以改變這一點。

 

如果上述三點都能實現的話，我們就可以解鎖無數全新的應用場景，實現真正的科技革新，幫助人類實現科技的飛躍式前進。而且我相信，我們也有辦法利用AI推動科研進步和新知識的產生。

 

我認為，現在普遍存在的一種錯誤觀點是：“雖然語言模型的功能已經比較完善，還可以應用到圖像和視頻領域，將應用智能的邊際成本降得非常低，但歸根結底，它只是模仿人類做過的東西，不能為人類產生新知識，不能治療癌症，也不能拓展人類已知的科學領域。”我相信，AI的發展會讓持這種觀點的人大吃一驚。

 

Reid Hoffman：AI將如何影響未來人類的生活？

 

Sam Altman： AI終將滲入人類生活的方方面面。未來十年裏，智能和能源的邊際成本會迅速下降，趨近於零，而智能和能源又是其他各行各業的主要成本來源（當然，奢侈品除外）。[注：Sam Altman 是否提前知道了美國能源部在12月份宣佈的可控核聚變的進展？]

 

整個社會的成本結構都會下降，正如之前多次科技革命的結果一樣。在這種浪潮之下，很少有什麼會一成不變。但有一點很重要，智能和能源成本只是趨近於零，而不是直接降為零。所以將來如果有人仍願意花費鉅額投資來購買智能和能源，他們得到的算力和能源的數量將突破想象。

 

設想一下，將來的能源使用成本下降10~100倍，智能使用成本下降1億倍，而對能源和智能的資金投入則比現在多1000倍，那會是什麼樣的局面？

 

Audience Member：未來二三十年內，AI的發展會帶來什麼社會問題？如果要避免這些問題，我們現在可以怎麼做？

 

Sam Altman： AI的應用會極大影響經濟活動。將來我們需要形成新的社會契約，考慮如何公平地分配財富。AGI系統的使用權將會成為一種商品，所以也要考慮如何讓所有人平等地獲得使用AGI的機會。還有AGI的管理問題：人類如何共同決定AGI可以做什麼、不能做什麼。

 

我不擔心“AI取代人類的工作之後，人類何去何從”的問題，雖然未來人類的工作會和現在很不一樣，但我覺得人類最終都會找到自己滿意的事業，過上充實的生活。真正的難題是財富分配、AGI使用權和AGI的治理問題。

 

Reid Hoffman：據我所知，OpenAI也付出不少努力，試圖解決AI的社會影響問題。

 

Sam Altman： OpenAI正在進行全球最大型的UBI實驗。（Universal Basic Income，無條件基本收入； Sam Altman認為，十年後AI的生產力可以創造巨大財富，足夠給每個美國公民每年無條件發放13,500美元。 ）有一個為期五年的項目已經進行到三年半了。UBI不會是唯一的解決方案，但它是一個不錯的做法。

 

OpenAI從受AI衝擊最大的行業中汲取意見，以便制定應對方案；對於那些最先被AI取代的勞動者，我們也嘗試利用AI幫助他們學習新技能。我們還會不斷地做類似的事情。

 

Audience Member：你如何定義AGI（通用人工智能）？怎麼才算實現了AGI？

 

Sam Altman： 我理解的AGI相當於一個可以共事的普通人，任何遠程同事可以通過電腦幫你完成的工作，AGI也可以做，包括讓AGI學習醫療知識和寫代碼等等。

 

AGI的重點不在於掌握某一種難得的技能，而是擁有學習的元能力 ，然後只要人類需要，它就可以往任何技能方向發展並精通。 另一個概念是“超級智能”（Super Intelligence），它指的是比全人類加起來還要聰明的智能。

 

Audience Member：哪些領域不會被AI影響？

 

Sam Altman： 所有人類深層次的東西都不會被AI改變。作為人類，我們依然注重人與人之間的互動聯繫，人類大腦的獎勵機制沒有變，我們依然追求快樂，擁有創造欲和競爭欲，渴望組建家庭……五萬年前人類在意的東西，一百年後的人類也會在意。

 

（本文由OneFlow社區編譯，譯文轉載請聯繫獲得授權。來源： http://www.youtube.com/watch?v=WHoWGNQRXb0 ）

 

其他人都在看

歡迎Star、試用OneFlow最新版本：http://github.com/Oneflow-Inc/oneflow/

 

本文分享自微信公眾號 - OneFlow（OneFlowTechnology）。
如有侵權，請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”，歡迎正在閲讀的你也加入，一起分享。

「」
「」