DeepMind CEO哈薩比斯：AI或將打敗更多諾獎級難題

1997 年 5 月 11 日，加里·卡斯帕羅夫（Garry Kasparov）在美國紐約曼哈頓公正中心的毛絨皮椅上坐立不安，焦急地撫摸著他的頭髮。

這是他與 IBM 的 Deep Blue 超級計算機進行的最後一場比賽，也是人類和矽之間對決的關鍵決勝局。但是，事情進展得並不順利，由於比賽初期犯了一個嚴重的錯誤，卡斯帕羅夫被逼至一個角落。

通常，一場高階的國際象棋比賽需要持續至少 4 個小時，但卡斯帕羅夫在一個小時後就意識到自己註定要失敗。他宣佈罷賽，倚靠在棋盤上僵硬地與約瑟夫·霍恩（Joseph Hoane）握手，後者是 IBM 工程師，曾幫助開發 Deep Blue，並在棋盤上負責移動計算機的棋子。

隨後，卡斯帕羅夫蹣跚地向觀眾走去，並無助地聳了聳肩。他後來說，在它最好的時刻，這臺機器“發揮得像神一樣”。

任何一個對人工智慧感興趣的人，應該都聽說過這位大師的失敗。《新聞週刊》（Newsweek）稱這場比賽為“大腦的最後一戰”，其另一個標題又把卡斯帕羅夫譽為“人類的衛士”。

如果人工智慧能夠打敗世界上最敏銳的國際象棋頭腦，那麼計算機似乎很快就會在一切事情上打敗人類——在這方面，IBM 處於領先地位。

（來源：《麻省理工科技評論》）

當然，實際並非如此。

在 25 年後的今天，當我們再回頭時就可以發現，Deep Blue 超級計算機的勝利與其說是人工智慧的勝利，不如說是一座“喪鐘”。費力地用手工製作無盡的程式碼，這是老式計算機智慧的高度標誌，其很快就會被一種與之競爭的人工智慧——神經網路——尤其是被稱為“深度學習”的技術所替代。

重量較大的 Deep Blue 就像即將“被小行星殺死的笨重恐龍”，而神經網路則是能夠生存“並改變地球的小哺乳動物”。即使在今天這個日常生活中充滿了人工智慧的世界，電腦科學家仍然對機器能否真正思考的問題爭論不休。

關於這個問題，Deep Blue 可能會笑到最後。

1989 年，當 IBM 開始建立 Deep Blue 時，人工智慧陷入了恐慌。這個領域曾多次經歷過山車般令人眩暈的炒作和羞辱性的崩潰。

比如，20 世紀 50 年代的先驅們聲稱，很快就會看到人工智慧的巨大進步；數學家克勞德·夏農（Claude Shannon）預測，“在 10 到 15 年內，實驗室將會出現一些東西，這離科幻小說中的機器人不遠。”

不過，由於發明者未能實現願景，上述的一切都沒有發生。這讓投資者感到憤怒，並停止對新專案的資助。

因此，20 世紀 70 和 80 年代成為“人工智慧的寒冬”。

關於失敗的原因，我們現在已經知道了。人工智慧的創造者們試圖用純粹的邏輯來處理日常生活中的混亂，它們會耐心地為人工智慧需要做的每一個決定都制定一條規則。但是，由於現實世界過於模糊和微妙，無法以刻板的方式進行管理。

工程師們精心製作了他們的“發條”傑作、或他們所謂的“專家系統”，它們會工作得相當好，直到現實拋來一個曲線球。

比如，一家信用卡公司可能會建立一個自動批准信用申請的系統，結果卻發現他們已經給狗或 13 歲的孩子開了信用卡。程式設計師從來沒有想過未成年人或寵物會申請一張卡片，所以他們從來沒有寫過規則來適應這些邊緣的情況。因此，這樣的系統無法自己學習一個新的規則。

通過手工製作的規則建立起來的人工智慧是“脆弱的”：當它遇到一個奇怪的情況時，它就會崩潰。到 20 世紀 90 年代初，專家系統的問題帶來了人工智慧的另一個冬天。

“圍繞人工智慧的很多對話都是這樣，‘來吧。這只是炒作，’”西雅圖艾倫人工智慧研究所的 CEO 奧倫·埃齊奧尼（Oren Etzioni）說，他當時是一名年輕的電腦科學教授，彼時其開始了在人工智慧領域的職業生涯。

在這種憤世嫉俗的情況下，Deep Blue 的到來就像一個奇怪的雄心勃勃的登月計劃。這個專案源於 Deep Thought（深思）的工作，這是一款由默裡·坎貝爾（Murray Campbell）和許峰雄（Feng-hsiung Hsu）等人在卡內基梅隆大學建造的一款國際象棋電腦。

據悉，Deep Thought 這個名字來自於《銀河系漫遊指南》中可笑的人工智慧——當被問及生命的意義時，它得出的答案是“42”。

Deep Thought 表現得非常好；1988 年，它成為第一個擊敗大師本特·拉森（Bent Larsen）的國際象棋 AI。卡耐基梅隆大學的團隊已經想出了更好的演算法來評估國際象棋的走法，他們還建立了定製的硬體，可以快速地計算這些演算法。

IBM

得到了 Deep Thought 的風聲，決定發起一場“大挑戰”，製造一臺優秀到可以擊敗任何人類的計算機。1989 年，它聘請了許峰雄和坎貝爾，並要求他們擊敗世界頂級大師。

長期以來，在人工智慧的圈子裡，國際象棋一直具有象徵性的力量——兩個對手在純思想的星空中相互對峙。如果他們能打敗卡斯帕羅夫，肯定會成為頭條新聞。

為了構建 Deep Blue 遊戲，坎貝爾和他的團隊不斷製作新的晶片，以更快地計算國際象棋的位置，並聘請大師來幫助改進評估下一步棋的演算法。

效率很重要，國際象棋遊戲可能比宇宙中的原子還要多，即使是超級計算機也無法在合理的時間內思考所有的遊戲。

為了下棋，Deep Blue 會先看一步，從那裡計算可能的棋步，“修剪”那些看起來沒有希望的棋步，沿著有希望的路徑深入下去，並重復這個過程數次。

坎貝爾

說：“我們認為這需要 5 年時間——實際上花了 6 年多一點。”到 1996 年，IBM終於準備好面對卡斯帕羅夫，並將比賽定在當年 2 月。坎貝爾和他的團隊仍然瘋狂地趕著完成 Deep Blue。他說：“在我們真正上臺之前，這個系統只工作了幾個星期。”

Deep Blue 的第一次展示如約而至。雖然 Deep Blue 贏了一局，但卡斯帕羅夫贏了三局，並拿下了比賽。IBM要求進行重賽，坎貝爾的團隊在接下來的一年裡建造了更快的硬體。

當他們完成改進的時候，Deep Blue 已經由 30 個 PowerPC 處理器和 480 個定製國際象棋晶片組成；他們還僱傭了更多的大師——在任何給定的時間點有四五個大師——以幫助製作更好的演算法來解析象棋位置。

1997 年 5 月，當卡斯帕羅夫和 Deep Blue 再次相遇時，計算機的速度提高了一倍，每秒可評估 2 億個棋步。

儘管如此，IBM仍然對勝利沒有信心，坎貝爾回憶說：“我們預計將會是平局。”

圖 | 1996 年，加里·卡斯帕羅夫擊敗 Deep Blue 後，IBM要求這位世界象棋冠軍進行復賽，複賽在紐約市舉行，使用的是升級版機器（來源：《麻省理工科技評論》）

然而，現實要戲劇得多。卡斯帕羅夫在第一場比賽中遙領先。但在第二場比賽的第 36 步中，Deep Blue 做了一些卡斯帕羅夫沒有預料到的事情。

Deep Blue 習慣了傳統的計算機下棋方式，這種風格源於機器純粹的蠻力。它在短期戰術上比人類更勝一籌，並且 Deep Blue 可以輕易地推斷出幾步之後的最佳選擇。

但傳統上，電腦不擅長的是策略——即思考未來很多步棋的形狀的能力。而這是人類仍然有優勢的地方。

或者說卡斯帕羅夫是這樣想的，直到 Deep Blue 在第二場的舉動才讓他感到震驚。它看起來如此複雜，以至於卡斯帕羅夫開始擔心：也許機器比他想象的要好得多！他確信自己沒有辦法獲勝，於是放棄了第二局。

但他不應該這樣做。事實證明，Deep Blue 其實並不是那麼好。只是卡斯帕羅夫沒有發現可以讓比賽以平局結束的一步棋。

他在折磨自己，擔心機器可能比實際功能強大得多，擔心機器已經開始在不存在的地方看到類似人類的推理。

卡斯帕羅夫被打亂了節奏，一直到打得越來越差。他一次又一次地把自己嚇壞了。在第六局，即決定勝敗的比賽中，他走了一步如此糟糕的棋，以至於國際象棋觀察家們震驚地叫了起來。他後來在新聞釋出會上說：“我當時根本沒有心情下棋。”

在 Deep Blue 成功後的媒體狂歡中，IBM的市值在一週內上漲了 114 億美元。不過，更重要的是，這場勝利就像人工智慧漫長冬天的解凍。如果國際象棋可以被征服，那麼接下來會發生什麼呢？公眾的注意力和好奇心都被調動起來了。

坎貝爾

告訴我，“這才是引起人們關注的原因。”

事實是，電腦打敗卡斯帕羅夫並不令人驚訝。大多數一直關注人工智慧和國際象棋的人都預計它最終會發生。

國際象棋似乎是人類思維的巔峰，但事實並非如此。其實，這是一項很適合用蠻力計算的腦力勞動：規則很明確，沒有隱藏的資訊，計算機甚至不需要跟蹤以前的棋步發生了什麼。它只是評估現在棋子的位置。

每個人都知道，一旦計算機發展得足夠快，它們就會壓倒人類，這只是時間問題。到了 20 世紀 90 年代中期，“從某種意義上說，文字已經過時了，“Alphabet 旗下的人工智慧公司DeepMind的負責人德米斯·哈薩比斯（Demis Hassabis）說。

Deep Blue 的勝利表明了手工編碼系統是多麼有限。IBM 花了數年時間和數百萬美元開發一臺用來下棋的電腦，但它不能做其他事情。

坎貝爾

說：“Deep Blue 的勝利並沒有讓人工智慧對世界產生巨大影響。”因為他們並沒有真正發現任何智慧的原則，同時現實世界和國際象棋也並不一樣。

他補充說：“很少有問題像國際象棋那樣，你有可能需要的所有資訊來做出正確的決定。大多數時候，都有未知因素，且存在隨機性。”

就在 Deep Blue 與卡斯帕羅夫擦肩而過的時候，一些“不務正業”的後起之秀正在研究一種更有前景的人工智慧形式：神經網路。

對於神經網路，我們的想法不是像專家系統那樣，為人工智慧的每一個決定耐心地編寫規則。相反，訓練和強化加強了內部連線，粗略地模仿了人類大腦的學習方式（正如理論所言）。

這個想法從 20 世紀 50 年代開始就已經存在。但是訓練一個有用的大型神經網路需要閃電般快速的計算機、大量的記憶體和大量的資料。當時這些都不是現成的。甚至到了 20 世紀 90 年代，神經網路也被認為是在浪費時間。

“那時，人工智慧領域的大多數人認為神經網路只是垃圾，”多倫多大學電腦科學榮譽教授、該領域的先驅者傑夫·辛頓（Geoff Hinton）說，“我被稱為‘真正的信徒’。”這並不是一種恭維。

但是，到了 21 世紀頭十年，計算機行業正在不斷髮展，使得神經網路更加可行。電子遊戲玩家對越來越好的圖形的渴望，創造了一個巨大的超高速圖形處理單元的產業，事實證明它非常適合神經網路。

與此同時，網際網路正在爆炸，產生了大量可以用來訓練這些系統的圖片和文字。

到了 21 世紀 10 年代初，這些技術上的飛躍讓辛頓和他的忠實“信徒們”將神經網路提升到新的高度。他們現在可以建立包含許多層神經元的網路（這就是“深度學習”中的“深度”的意思）。

2012 年，他的團隊在年度 Imagenet 競賽中輕鬆獲勝。在該競賽中，人工智慧竟能識別圖片中的元素。它震驚了電腦科學的世界：自我學習的機器終於可行了。

在深度學習革命開始的十年後，神經網路及其模式識別能力已經佔領了日常生活的每一個角落。它們幫助 Gmail 自動完成你的句子，幫助銀行檢測欺詐行為，讓照片應用程式自動識別人臉，並且在OpenAI的 GPT-3 和DeepMind的 Gopher 的幫助下，寫出聽起來像人類的長篇文章和總結文字。

它們甚至改變了科學的發展方式。2020 年，DeepMind推出了 AlphaFold2，這是一種可以預測蛋白質如何摺疊的人工智慧——這是一項超人的技能，可以幫助指導研究人員開發新葯和新的治療方法。

與此同時，Deep Blue 也消失了，沒有留下任何有用的發明。事實證明，下棋並不是日常生活中需要的計算機技能。DeepMind的創始人德米斯·哈薩比斯（Demis Hassabis）說：“Deep Blue 最終顯示的是試圖用手工創造一切的缺點。”

IBM

試圖用另一個專門的系統 Watson 來解決這種情況，這個系統旨在解決一個更實際的問題：讓一臺機器來回答問題。它使用了對大量文字的統計分析來實現語言理解，這在當時是最前沿的，並且這不僅僅是一個簡單的假設系統。

但 Watson 面臨的時機很不幸：僅僅幾年後，深度學習的革命就使其黯然失色，這場革命帶來了一批比 Watson 的統計技術更細緻的語言處理模型。

前斯坦福大學教授達芙妮·科勒（Daphne Koller）說，深度學習已經超越了老式的人工智慧，正是因為“模式識別具有令人難以置信的力量”，她建立並經營著Insitro公司，該公司使用神經網路和其他形式的機器學習來研究新的藥物治療。

神經網路的靈活性、即模式識別的多種方式，是尚未出現另一個人工智慧冬天的原因。“機器學習確實帶來了價值，”她說，這是人工智慧領域的“前一波繁榮浪潮”從未做到過的。

Deep Blue 和神經網路顛倒的命運表明，長期以來我們在判斷人工智慧的困難和價值上做得比較糟糕。

幾十年來，人們認為掌握象棋很重要，因為對人類來說，國際象棋很難達到很高的水平。但是，國際象棋對計算機來說卻相當容易掌握，畢竟它的邏輯性很強。

對計算機來說，更難學習的是人類所做的隨意的、無意識的心理工作——比如進行生動的對話、駕駛汽車通過馬路、或者識別朋友的情緒狀態。

我們如此毫不費力地做這些事情，以至於我們很少意識到它們是多麼的棘手，以及它們需要多少模糊的灰度判斷。深度學習的巨大效用來自於能夠捕捉到這種微妙的、不為人知的人類智慧的小片段。

不過，當下人工智慧領域還沒有取得最終的勝利。深度學習現在可能正高歌猛進，但它也在積累尖銳的批評。

“很長一段時間以來，有這樣一種技術沙文主義的熱情，他們認為，人工智慧可以解決所有問題！”梅雷迪思·布魯薩德（Meredith Broussard）說，她是紐約大學的新聞學教授和《人工非智慧》的作者。

但正如她和其他批評人士指出的，深度學習系統通常是在有偏見的資料上訓練，並吸收這些偏見。

電腦科學家喬伊·布奧拉姆維尼（Joy Buolamwini）和蒂姆尼特·格布魯（Timnit Gebru）發現，三個商業化的視覺人工智慧系統在分析面板較黑的女性的臉時非常糟糕。亞馬遜訓練了一個人工智慧來審查簡歷，結果發現它對女性的排名有所下降。

雖然電腦科學家和許多人工智慧工程師，現在已經意識到了這些偏見問題，但他們並不總是確定如何處理這些問題。

最重要的是，神經網路也是“巨大的黑匣子”，丹妮拉·羅斯（Daniela Rus）說，她是一名人工智慧專家，目前管理著麻省理工學院的電腦科學和人工智慧實驗室。

一旦一個神經網路被訓練，它的機制也不容易理解。目前還不清楚它將如何得出結論，也不清楚它將將如何失敗。

羅斯

認為，依靠一個黑盒子來完成一個不是“安全關鍵”的任務可能不是問題。但如果是像自動駕駛這樣的高風險工作呢？她說：“實際上，我們可以對它們給予如此多的信任和信心，這很了不起。”

這就是 Deep Blue 的優勢所在。老式的手工規則可能很脆弱，但它是可以理解的。機器很複雜，但它並不神祕。具有諷刺意味的是，隨著工程師和電腦科學家在努力解決模式匹配的侷限性，這種舊的程式設計方式可能會捲土重來。

語言生成器，比如OpenAI的 GPT-3 或DeepMind的 Gopher，可以用你寫的一些句子，繼續寫一頁又一頁聽起來可信的散文。

但是，儘管有一些令人印象深刻的模仿，Gopher“仍然不能真正理解它在說什麼，”哈薩比斯說，“不是在真正的意義上的。”

類似地，視覺人工智慧在遇到邊緣情況時，也會犯下可怕的錯誤。自動駕駛汽車撞上了停在高速公路上的消防車，因為在它們接受過訓練的數百萬小時的視訊中，從未遇到過這種情況。神經網路以它們自己的方式出現了一種“脆弱性”問題。

正如許多電腦科學家現在所懷疑的那樣，人工智慧要想繼續前進，真正需要的是瞭解世界事實的能力，並對它們進行推理。自動駕駛汽車不能僅僅依靠模式匹配。它還必須有常識，知道什麼是消防車，以及為什麼看到一輛消防車停在高速公路上就意味著危險。

問題是，沒有人知道如何建立能夠推理或使用常識的神經網路。加里·馬庫斯（Gary Marcus）是一名認知科學家和《重啟人工智慧》的合著者，他懷疑人工智慧的未來將需要一種“混合”的方法——神經網路學習模式，但由一些老式的手工編碼邏輯的指導。從某種意義上說，這將把 Deep Blue 的優勢與深度學習的優勢結合起來。

深度學習的鐵桿愛好者們並不同意。辛頓認為，從長遠來看，神經網路應該完全具有推理能力。畢竟，人類是這樣做的，“而大腦是一個神經網路。”使用手工編碼的邏輯讓他覺得很瘋狂；它會遇到所有專家系統的問題，那就是你永遠無法預測你想要給機器的所有常識。

辛頓

說，未來的道路是繼續進行神經網路的創新——探索新的架構和新的學習演算法，以更準確地模仿人類大腦本身的工作方式。電腦科學家正在涉足各種方法。

在IBM，Deep Blue 的開發者坎貝爾正在致力於“神經符號”人工智慧，它的工作方式有點像馬庫斯的建議。埃齊奧尼的實驗室正試圖為人工智慧構建常識性模組，其中包括訓練過的神經網路和傳統的計算機邏輯；但到目前為止，現在還處於早期階段。

未來可能看起來不太像是 Deep Blue 或神經網的絕對勝利，而更像是弗蘭肯斯坦式的方法——兩者結合在一起。

鑑於人工智慧很可能會繼續存在下去，我們人類將如何與它一起生活呢？我們最終會像卡斯帕羅夫一樣被人工智慧打敗，因為它在“思考工作”方面做得非常好，以至於我們無法與之競爭？

卡斯帕羅夫本人並不這麼認為。在輸給 Deep Blue 公司之後不久，他認為與人工智慧對抗毫無意義。機器以一種根本上不人道的方式“思考”，使用蠻力數學。它總是有更好的戰術和短期力量。

那麼為什麼要競爭呢？相反，為什麼不合作呢？

在與 Deep Blue 比賽之後，卡斯帕羅夫發明了“高階國際象棋”，即人類和矽共同工作。一個人與另一個人對弈——但每個人都揮舞著一臺執行國際象棋軟體的膝上型電腦，以幫助戰爭遊戲中的可能步驟。

當卡斯帕羅夫在 1998 年開始舉辦高階國際象棋比賽時，他很快就發現了比賽中迷人的差異。有趣的是，業餘選手的拳頭重量超過了他們的體重。在 2005 年的一場人與膝上型電腦的比賽中，其中一對選手擊敗了幾位大師級人物，贏得了最高獎項。

他們如何成為最好的國際象棋高手呢？因為業餘愛好者能更好地理解如何與機器合作。他們知道如何快速探索想法，什麼時候接受機器的建議，什麼時候忽略它。目前，一些聯盟仍在舉辦高階國際象棋錦標賽。

卡斯帕羅夫在一封電子郵件中告訴我，“未來，在於找到結合人類和機器智慧的方法，以達到新的高度，並做兩者都無法單獨做到的事情。”

當然，神經網路的行為與國際象棋引擎不同。但許多名人都強烈同意卡斯帕羅夫關於人類與人工智慧合作的願景。DeepMind的哈薩比斯認為，人工智慧是科學的一種發展方向，它將指導人類取得新的突破。

“我認為我們將看到一個巨大的繁榮，”他說，“我們將開始看到諾獎級別的科學挑戰被一個接一個地擊倒。”

科勒

的公司Insitro也同樣在使用人工智慧作為研究人員的合作工具，”她說，“我們正在玩一個人機混合遊戲。”

會不會有那麼一天，我們能把人工智慧的推理能力打造得如此像人類，以至於人類真的沒有什麼可提供的，而人工智慧則接管了所有的思考？有可能。但即使是這些處於前沿的科學家，也無法預測何時會發生，甚至會不會發生。

因此，在這場著名的比賽結束 25 年後，這或許是 Deep Blue 帶來的最後禮物。在他的失敗中，卡斯帕羅夫窺見了人工智慧和人類的真正終局。“我們將越來越多地成為演算法的管理者，他告訴我，“並利用它們來提高我們的創造性產出——我們冒險的靈魂。”

支援：大義、路雨晴

原文：

https://www.technologyreview.com/2022/02/18/1044709/ibm-deep-blue-ai-history/