OpenAI掌門人Sam Altman:AI的下一個發展階段

語言: CN / TW / HK

 

來源|Greylock

OneFlow社區編譯

翻譯|胡燕君、賈川

 

預告了一整年的GPT-4遲遲沒來,人們猜想OpenAI是不是要跳票了,更何況他們之前的得意之作DALL-E也被開源Stable Diffusion打了個措手不及,再不來點深水炸彈業界地位危矣。

 

不過,就在大家以為今年OpenAI將以沉寂收場時,聊天機器人模型ChatGPT橫空出世,讓人們看到了AI的更大創造力,聚光燈也再度打到了OpenAI的身上。

 

今年9月,LinkedIn聯合創始人Reid Hoffman與OpenAI首席執行官Sam Altman進行了一場對話,而肩負着宏偉使命且極富遠見的Altman就曾預言:AI即將迎來下一個發展階段。如今,大型語言模型越來越先進,也出現了可以實現文本-圖像相互轉換的多模態模型,一些AI應用還可令科學家如虎添翼。在他眼中,AI是一個可以孵化出無數工具,推動各行各業前進的基礎平台。

 

隨着AI行業的不斷進步,AI應用不再只是充斥着行業熱詞的紙上項目,已經發展為成熟的工具,助力多個行業的生產服務,也必將催生出無數新企業。

 

各種AI工具已顯現出巨大的日常應用潛力,可以實現人類的各種想法,改善人類的工作方式,比如由Stability.ai發佈的開源Stable Diffusion模型,Microsoft和OpenAI聯合打造的AI編程工具Copilot,OpenAI開發的語言生成模型GPT-3和圖像生成平台DALL-E以及爆火的聊天機器人模型ChatGPT。

 

Sam Altman還表示,5年後,我們應該不會再使用Transformer模型了。雖然Transformer很好,但他希望到時候會有比它更好的東西出現,不斷突破創新很重要。在他看來,AI可以幫助人類創造出前所未有的新應用,這將是人類的巨大的進步和勝利,是真正的科技革命。

 

從大模型的商業化機會、AI+應用再到AI發展方向,Sam Altman在這場對話中分享了自己的見解。以下為對話內容,由OneFlow社區編譯。

 

 

 

1

大模型的商業機會

 

Reid Hoffman:很多大型模型都通過API開放使用,能夠衍生什麼商業化機會?

 

Sam Altman: 現在,語言模型已經可以很好地應用到文案寫作和教育服務領域,我相信未來幾年內,語言模型會更加強大,將能與Google這一價值萬億美元的搜索產品一較高下。語言模型的應用將會改變我們的日常生活。

 

以前,大家都在調侃聊天機器人,其實它很有價值,只是當時的技術還不能滿足需求。現在的聊天機器人更加成熟,幾乎可以達到人類水平。聊天機器人可以用於醫療服務行業,提供諮詢和教育服務,這方面將能催生出大型企業。

 

我相信,不久之後會出現多模態模型,這又將打開新局面。現在,人們可以直接用自然語言命令計算機為你完成你想做的工作,例如DALL-E圖像生成工具和Copilot編程工具,都是用户向它們輸入自然語言描述,然後工具自動生成用户想要的東西,用户還可以不斷迭代修改自己的描述,直至工具給出滿意的輸出。

 

類似的AI應用方式會成為大趨勢,可以孕育出許多大型企業。強大的AI模型可以成為孵化各種AI應用的平台,就像智能手機的出現催生出眾多APP一樣,它們的共同點都是可以製造無數的商業機會。

 

Reid Hoffman:既然大家都可以通過API使用大型模型,作為AI企業,怎樣才能使自己脱穎而出,開闢自己獨特的商業路徑?

 

Sam Altman: 將來應該會出現幾個大型的基礎模型,開發人員都將基於這些基礎模型研發AI應用。但目前的情況依然是某一家公司開發出一個大型語言模型,然後開放API供他人使用。

 

我認為,將來在基礎模型和具體AI應用研發之間會有一箇中間層:出現一批專門負責調整大型模型以適應具體AI應用需求的初創企業。能做好這一點的初創公司將會非常成功,但這取決於它們能在“數據飛輪”上走多遠。(數據飛輪:使用更多數據可以訓練出更好的模型,吸引更多用户,從而產生更多用户數據用於訓練,形成良性循環。)

 

我對初創企業訓練模型的能力持懷疑態度,將來承擔模型訓練角色的應該不會是初創公司,但這些企業可以在上述的中間層角色中發揮巨大價值。

 

Audience Member:未來會不會出現垂類AI初創公司,專門為具體產業調整基礎模型?提示詞工程(Prompt Engineering,修改向AI輸入的任務描述,使AI的輸出結果更符合用户的需求)將來會不會成為企業的內部職能?

 

Sam Altman: 五年後我們將不再需要提示詞工程,或者只需在這方面做少量工作。 將來的AI系統不會因為增補了某個特定詞就會產生截然不同的輸出,而是可以較好地理解自然語言,用户只需以文本和語音形式輸入指令,即可讓計算機完成圖像生成、資料研究、心理諮詢等複雜任務。

 

總的來説,用户只須使用自然語言就可以與計算機交互,當然,如果藝術家能想出更有創造性的描述,也自然就可以生成更好的圖像。

 

 

2

“AI+”時代:AI for Science、元宇宙

 

Reid Hoffman:在科學領域,AI模型可以發揮什麼作用?

 

Sam Altman: 現在科學界對AI的應用分為兩種。一種是將AI工具直接用於科學目的,如AlphaFold(用於蛋白質結構預測),它們可以創造巨大價值,相信未來會出現無數這樣的工具。

 

另一種是將AI工具用於提升科研工作效率,如幫科學家和工程師找到新研究方向、寫代碼等。Copilot編程工具就是一個例子。但AI工具的能力遠不止於此。上述兩種AI應用將會大大推動科技前進。

 

此外,目前科學界也在探索對AI的第三種應用方式——讓AI成為可以“自我改進”的科學家。這件事情既有好處也有風險。

 

好的一面是,可以利用AI將人類的工作內容自動化,教會AI做任何人類可以做的事情:探索新科學、提出理論解釋、驗證、思考等,或許還可藉此解決困擾人類已久的“AI對齊問題(Alignment Problem)”(即如何讓AI系統的目標符合人類的價值觀)。風險在於,有人擔心懂得“自我改進”的AI有可能會像科幻小説描寫的那樣,擅自改動代碼或修改優化算法。

 

我深信,真正有利於促進人類和經濟的前行的,是一個能夠推動科學進步的社會架構。我們能從這樣的社會架構中獲益很多。

 

Audience Member:像GPT-3這樣的基礎模型會如何影響生命科學研究的步伐?生命科學研究中有沒有一些技術手段無法克服的限制因素,比如自然規律等?

 

Sam Altman: 目前的可用模型還不夠好,不足以對生命科學領域產生重大影響——不少生命科學家瞭解這些模型之後都説,它們只能在部分情況下發揮些許作用。AI在基因組學領域有一些很有前景的應用方向,但目前尚屬起步階段,不過我很看好。我認為這也是市值千億的巨頭準備進軍的領域之一。

 

如果AI未來真的可以讓醫藥公司的研發速率提高几百倍,那無疑會產生深遠的影響。不過如你所説,生物學的自有規律仍在,新葯的臨牀驗證需要時間,這也是醫藥研發的速率限制因素。

 

據我所知,不少合成生物公司藉助AI發現許多新的研發想法,加快自己的研發迭代週期,但研發出來之後終究是要進行測試,這部分時間無法縮減。

 

我認為,醫藥初創公司最重要的是低成本和快速的研發週期,有了這兩點就有資本參與市場競爭了。所以如果我是一家醫藥初創公司的決策者,一開始我不會選擇從心臟病這類大難題下手。

 

此外,如果我是一家AI藥物研發初創公司,我會在模擬器上多下工夫,因為目前這方面還亟待改善。

 

Reid Hoffman:你對AI和元宇宙怎麼看?

 

Sam Altman: 元宇宙會發展成一種新的軟件容器,就像手機一樣,成為一種計算機交互方式。而AI則是一場技術革命,所以問題應該是“元宇宙如何融入AI新世界”,而不是“AI如何融入元宇宙”。當然,這僅代表我個人的觀點。

 

Audience Member:AI工具已經可以輔助人類進行創造性工作,AI什麼時候會從創作者的輔助工具發展為具有獨立創作力的智能體?

 

Sam Altman: 作為創作輔助工具,AI既有用也很受歡迎,但目前來看,AI在大部分的創造性任務上的能力都有待提高,未來很長一段時間內都不能代替人類創作者。可能到100年之後,AI才可以獨立完成創造性工作。

 

十年前,大部分人都認為AI取代人類工作的次序是:藍領工作(卡車司機等)→低技能的白領工作→高技能的白領工作(程序員等),最後才會(也許永遠不會)取代創造性工作。現在的事實證明,AI最有可能先取代的反而是創造性工作。

 

這也説明,預測未來是很難的,還説明人類可能不夠了解自己,不清楚什麼類型的技能最難、最需要調動大腦,或者錯誤估計了控制身體的難度。

 

Reid Hoffman:除了AI的應用潛力之外,目前大家對AI的討論有沒有輕率的一面,比如將AI用於核聚變研究?

 

Sam Altman: 通常而言,如果某個行業獲得非常廣泛的社會關注,所有人都在談論它,這可能不是什麼好事,可惜這恰恰是AI行業目前的情況,我不希望這是AI行業“垮掉”的前兆。

 

業內有人正在研究利用強化學習模型控制核聚變反應,但據我們所知,AI模型在這裏發揮的作用還非常有限。

 

我們現在進入了“AI+”時代,相信AI在未來可以實現很多東西,會成為最大的新一代技術平台。但就目前而言,我們傾向於往更有確定性的方向發展,比如,業內研究出了縮放定律(Scaling Law,該定律揭示AI模型性能與模型參數、數據、計算量之間的關係),就以此為基礎展望下一步。

 

這也是OpenAI的運作模式——先做擺在我們面前的最有信心能成功的事情,然後分出10%的資源進行成功確定性更低的探索工作。這種運作方式為我們帶來巨大的成功。

 

現階段不應該把重點放在“讓AI無所不能”上,而是先沿着現有的道路慢慢發展完善AI,然後留有開放探索的空間——偉大的事物都不是計劃出來的,有時重大的突破誕生於偶然。
 

 

3
AI的未來發展方向

 

 

Reid Hoffman:未來幾年,AI的發展方向是什麼?

 

Sam Altman: 一個比較確定的方向是,語言模型的發展會遠超今天的想象。雖然很多人都説算力和數據都已經跟不上了,這也是事實,但算法的改進空間依然很大,還可以帶來很大的進步。

 

第二個方向是多模態模型的發展。 未來的多模態模型將不侷限於文本和圖像的互相轉換,而是所有模態之間都可以方便地互相轉化。

 

第三個方向是,模型可以持續學習。 目前的模型如GPT都停滯在當初訓練好的狀態,並不會隨着使用次數的增加而自我優化。我相信未來可以改變這一點。

 

如果上述三點都能實現的話,我們就可以解鎖無數全新的應用場景,實現真正的科技革新,幫助人類實現科技的飛躍式前進。而且我相信,我們也有辦法利用AI推動科研進步和新知識的產生。

 

我認為,現在普遍存在的一種錯誤觀點是:“雖然語言模型的功能已經比較完善,還可以應用到圖像和視頻領域,將應用智能的邊際成本降得非常低,但歸根結底,它只是模仿人類做過的東西,不能為人類產生新知識,不能治療癌症,也不能拓展人類已知的科學領域。”我相信,AI的發展會讓持這種觀點的人大吃一驚。

 

Reid Hoffman:AI將如何影響未來人類的生活?

 

Sam Altman: AI終將滲入人類生活的方方面面。未來十年裏,智能和能源的邊際成本會迅速下降,趨近於零,而智能和能源又是其他各行各業的主要成本來源(當然,奢侈品除外)。[注:Sam Altman 是否提前知道了美國能源部在12月份宣佈的可控核聚變的進展?]

 

整個社會的成本結構都會下降,正如之前多次科技革命的結果一樣。在這種浪潮之下,很少有什麼會一成不變。但有一點很重要,智能和能源成本只是趨近於零,而不是直接降為零。所以將來如果有人仍願意花費鉅額投資來購買智能和能源,他們得到的算力和能源的數量將突破想象。

 

設想一下,將來的能源使用成本下降10~100倍,智能使用成本下降1億倍,而對能源和智能的資金投入則比現在多1000倍,那會是什麼樣的局面?

 

Audience Member:未來二三十年內,AI的發展會帶來什麼社會問題?如果要避免這些問題,我們現在可以怎麼做?

 

Sam Altman: AI的應用會極大影響經濟活動。將來我們需要形成新的社會契約,考慮如何公平地分配財富。AGI系統的使用權將會成為一種商品,所以也要考慮如何讓所有人平等地獲得使用AGI的機會。還有AGI的管理問題:人類如何共同決定AGI可以做什麼、不能做什麼。

 

我不擔心“AI取代人類的工作之後,人類何去何從”的問題,雖然未來人類的工作會和現在很不一樣,但我覺得人類最終都會找到自己滿意的事業,過上充實的生活。真正的難題是財富分配、AGI使用權和AGI的治理問題。

 

Reid Hoffman:據我所知,OpenAI也付出不少努力,試圖解決AI的社會影響問題。

 

Sam Altman: OpenAI正在進行全球最大型的UBI實驗。(Universal Basic Income,無條件基本收入; Sam Altman認為,十年後AI的生產力可以創造巨大財富,足夠給每個美國公民每年無條件發放13,500美元。 )有一個為期五年的項目已經進行到三年半了。UBI不會是唯一的解決方案,但它是一個不錯的做法。

 

OpenAI從受AI衝擊最大的行業中汲取意見,以便制定應對方案;對於那些最先被AI取代的勞動者,我們也嘗試利用AI幫助他們學習新技能。我們還會不斷地做類似的事情。

 

Audience Member:你如何定義AGI(通用人工智能)?怎麼才算實現了AGI?

 

Sam Altman: 我理解的AGI相當於一個可以共事的普通人,任何遠程同事可以通過電腦幫你完成的工作,AGI也可以做,包括讓AGI學習醫療知識和寫代碼等等。

 

AGI的重點不在於掌握某一種難得的技能,而是擁有學習的元能力 ,然後只要人類需要,它就可以往任何技能方向發展並精通。 另一個概念是“超級智能”(Super Intelligence),它指的是比全人類加起來還要聰明的智能。

 

Audience Member:哪些領域不會被AI影響?

 

Sam Altman: 所有人類深層次的東西都不會被AI改變。作為人類,我們依然注重人與人之間的互動聯繫,人類大腦的獎勵機制沒有變,我們依然追求快樂,擁有創造欲和競爭欲,渴望組建家庭……五萬年前人類在意的東西,一百年後的人類也會在意。

 

(本文由OneFlow社區編譯,譯文轉載請聯繫獲得授權。來源: https://www.youtube.com/watch?v=WHoWGNQRXb0

 

其他人都在看

歡迎Star、試用OneFlow最新版本:https://github.com/Oneflow-Inc/oneflow/


 

本文分享自微信公眾號 - OneFlow(OneFlowTechnology)。
如有侵權,請聯繫 [email protected] 刪除。
本文參與“OSC源創計劃”,歡迎正在閲讀的你也加入,一起分享。