我們是如何被代碼所統治的 | 重新思考數字化之六

語言: CN / TW / HK

讓中國商業精英更正確地決策

些科技領域的頂尖思考者和實踐者相信,這一切都預示着我們將迎來一個人類放棄對機器的權威的時代。

胡泳

北京大學新聞與傳播學院教授

文章導覽

代碼:當今世界的神奇淵源

從鐮刀到蒸汽機,人類總是企圖利用技術控制我們周邊的世界。

編程的終結與機器學習的興起

隨着數字革命席捲我們生活的各個方面,它也滲入了我們的語言,以及我們關於事物運作方式的更深的、更基礎的理論。技術總是這樣做的。

從上帝到訓狗師

在過去幾年中,隨着網絡越來越緊密地交織在一起,其功能也越來越複雜,代碼似乎變得日益像一股外來力量,機器中的幽靈漸趨難以捉摸和不可控制。

全文約6200字,預計閲讀時間12分鐘

碼:當今世界的神奇淵源

有關艾倫·圖靈(Alan Turing)的歷史劇情片《模仿遊戲》(The Imitation Game)中,看到那台名叫克里斯托弗的機器破解Enigma那一瞬,忍不住熱淚盈眶。有時候,被世界所遺棄的人,才能成就意想不到的大事。

影片最後在一段畫外音中結束:“他的機器從來沒有臻於完美,但它導致了一整套有關‘圖靈機’的研究。今天我們把這樣的機器叫做‘電腦’。”

從鐮刀到蒸汽機,人類總是企圖利用技術控制我們周邊的世界。然而,要説到對環境的塑造,恐怕沒有哪一種機器比電腦更有力。而令電腦如此強有力的東西是代碼。

代碼,簡單地説,是一套由單詞和數字組成的規則或者指令。把這些單詞或者數字按照合適的順序排列,就可以命令電腦為人類做事情。可編程的代碼千變萬化、極其靈活,無論是遊戲還是太空飛船都能指揮自如。個體的天才創造力、被需要所驅使的發明以及人類了不起的想象,共同造就了代碼。

從遠古時代,人類就開始把玩代碼。但里程碑是德國數學家萊布尼茨(Leibniz)用簡單的0和1造就的“具有世界普遍性的、最完美的邏輯語言”。目前在德國圖林根,著名的郭塔王宮圖書館(Schlossbibliothek zu Gotha)內仍保存一份萊氏的手稿, 標題寫着:“1與0,一切數字的神奇淵源。”今天所有計算的基礎都來自二進制。

在萊布尼茨發明二進制一個世紀之後,法國織機工匠約瑟夫·雅卡爾(Joseph Jacquard)在他發明的自動蒸汽動力織布機上,考慮一種由一組卡片控制的裝置來機械地織出任何紋樣。該控制裝置由硬打孔卡和吊鈎組成。每個孔的位置對應一根經線,根據打孔或不打孔決定提起或不提起經線,並交織一次。不同的打孔卡會令織機織出不同的花紋,因而,卡片構成了對織機的指令——這和現代計算機程序的工作方式完全一致。

英國數學家查爾斯·巴貝奇(Charles Babbage)認為同樣的打孔卡可以用來輸入數字,以及有關如何處理這些數字的指令,因而創造了世界上第一台通用的計算機器。

他的工作成就了世界上第一位程序員,她是位女性,而且是拜倫(Lord Byron)之女。埃達·洛夫雷斯(Ada Lovelace)是位數學家,也是穿孔機程序創始人。她建立了循環和子程序概念,為計算程序擬定“算法”,寫作了第一份“程序設計流程圖”。在1843年發表的一篇論文裏,埃達認為機器今後有可能編曲、製圖和實現各種更復雜的用途,這是十分大膽的預見。

19世紀末,美國的人口普查造成了一個管理上的噩夢:不得不用8年時間手工輸入每個公民的資料。人口普查部門的一位職員赫曼·霍勒瑞斯(Herman Hollerith)想出了一個解決辦法:把每個人的資料以編碼方式輸入穿孔卡中,利用新的電力技術把一排排針壓入卡片,將形成的電路予以記錄。

霍勒瑞斯將自己的發明商業化,日後發展為赫赫有名的電腦公司IBM。如果説圖靈生後享有“計算機科學之父”和“人工智能之父”的美譽,可以説,霍勒瑞斯就是“大數據之父”。

1971年,英特爾公司發佈世界上第一枚商用芯片;加州硅谷的家釀電腦俱樂部(Homebrew Computer Club)裏那些狂熱的愛好者們很快圍繞芯片開始開發軟件和打造個人計算機。

史蒂夫·沃茲尼亞克(Steve Wozniak)開發了第一代蘋果電腦,而同時代的比爾·蓋茨(Bill Gates)則開創了軟件產業。

隨後,電腦在創意產業、金融產業、製造業和科研領域等一路攻城略地。直到1990年代,人們又把個人電腦聯結成網,電腦終於不僅僅被視為完成指定任務的工具,也成為分享和協作的利器。再往下的故事,搜索引擎、社交媒體、移動互聯等,我們毋需多言了。

就像17世紀的農民、18-19世紀工業革命時期的工人、二戰以後崛起的辦公室白領一樣,程序員漸漸成為下一個大規模職業。

程的終結與機器學習的興起

由於計算機的飛速發展,編程的要求和種類也日趨多樣,由此產生了不同種類的程序設計員,每一種都有更細緻的分工和任務。現今,程序設計員可以指某一領域的編程專家,也可以泛指軟件公司裏編寫一個複雜軟件系統裏某一塊的一般程序員。

與此同時,程序自身也在變化。

在計算機發明之前,大多數實驗心理學家認為大腦是一個不可知的黑匣子。不錯,我們可以分析對象的行為——打鈴,狗就會分泌唾液,但是思想、記憶、情感?這些東西晦澀難懂,超出了科學的範圍。

因此,這些自稱的行為主義者,將他們的工作侷限於對刺激和反應、反饋和強化、鈴聲和唾液的研究。他們放棄了去嘗試瞭解大腦的內部運作,統治了這個領域四十年。

然後,在1950年代中期,一羣叛逆的心理學家、語言學家、信息理論家和早期的人工智能研究者對大腦提出了不同的理解。他們認為,人不僅僅是條件反應的集合。

他們吸收信息,對其進行處理,然後據其採取行動。他們擁有一個用於寫入、存儲和調動記憶的系統。他們通過邏輯形式語法進行操作。一言以蔽之,大腦根本不是黑匣子,而更像是一台計算機。

所謂的認知革命起步甚微,但是隨着計算機成為心理學實驗室的標準設備,上述想法獲得了更廣泛的接受。到1970年代後期,認知心理學已經推翻了行為主義,隨着新範式的出現,我們擁有了一種談論心智生活的全新語言。

心理學家開始將思想描述為程序,普通人談論將事實存儲在他們的記憶庫中,而管理專家則對現代工作場所中的心智帶寬和處理能力的侷限感到擔憂。

這個故事不過是上一次心智革命的重複。 隨着數字革命席捲我們生活的各個方面,它也滲入了我們的語言,以及我們關於事物運作方式的更深的、更基礎的理論。技術總是這樣做的。

在啟蒙運動中,牛頓(Isaac Newton)和笛卡爾(René Descartes)啟發了人們將宇宙視為一架精緻的時鐘。在工業時代,宇宙成了帶有活塞的機器——就連弗洛伊德(Sigmund Freud)的心理動力學思想也是從蒸汽機的熱力學中借來的。而到了今天,宇宙變成了一台計算機。

仔細考慮這一點,會發現它是一個從根本上讓我們變得更強大的想法。因為,假如世界是一台計算機,那麼人就可以對世界進行編碼。

代碼是合乎邏輯的。代碼是可以入侵的。代碼即命運。這些構成了數字時代生活的核心原則,也是自我實現的預言。

隨着軟件吞噬了世界(風險資本家馬克·安迪森語),我們已經讓機器環繞我們自身,這些機器將我們的行為、思想和情感轉換為數據,匯聚的原材料可供大量使用代碼的工程師操縱。

我們已經將生命本身看作是由一系列可以被發現、利用、優化甚至重寫的指令所控制的東西。

公司使用代碼來了解我們最親密的關係;Facebook的馬克·扎克伯格(Mark Zuckerberg)甚至暗示可能存在“一種基本的數學法則,它決定着人與人之間的關係,而這些人與人的關係又支配着我們所有人掛念誰和關心什麼”。

2013年,克雷格·文特(Craig Venter)宣佈,在對人類基因組進行解碼的十年後,他開始編寫允許他創建合成生物的代碼。

文特説:“越來越明顯,我們在這個星球上知道的所有活細胞都是由DNA軟件驅動的生物機器。蛋白質機器人執行着經過數十億年的進化軟件的變化而發展出來的精確生化功能。”

甚至連勵志書都堅持説你可以破解自己的源代碼,對愛情生活、睡眠常態和消費習慣進行重新編碼。

在這個世界上,編寫代碼的能力已不僅成為一種必不可少的技能,而且還成為一種授予內部人身份的語言。他們可以使用在更機械的時代被稱為力量槓桿的東西。

未來學家馬克·古德曼(Marc Goodman)寫道:“如果你控制了代碼,就可以控制整個世界。這就是等待我們的未來。”在《彭博商業週刊》上,保羅·福特(Paul Ford)説得稍微謹慎一些:“就算程序員不控制世界,那他們也運行着運行世界的東西。”

你不是編程精英,可能連手機設置也搞不好,那麼,是不是就只有被統治的份了?切莫慌張。我們的機器現在開始説另一種語言,即使是最好的程序員也無法完全理解。

在過去幾年中,最大的科技公司都在積極推行一種被稱為“機器學習”的計算方法。在傳統編程裏,工程師編寫明確的分步説明供計算機遵循

而到了機器學習階段,程序員無需使用指令對計算機進行編碼,而是訓練計算機。比如,如果你想教一個神經網絡來識別貓,不是告訴它尋找腮須、耳朵、毛皮和眼睛,而是向它展示成千上萬張貓的照片,最終它就能解決問題。萬一它將狐狸錯誤地歸類為貓了,怎麼辦?要是過去,程序員就需要重寫代碼。而現在,你堅持繼續訓練。

這種方法並非剛剛開始,只是最近變得更加強大,這在一定程度上要歸功於深度神經網絡的興起,大規模分佈的計算系統模仿了大腦中神經元的多層連接。

也許你還沒有意識到,機器學習已經在為我們的在線活動提供各種強大的支持。Facebook用它來確定新聞中出現哪些故事,Uber用它來實現拼車,而Google Photos用它來識別面孔。機器學習運行微軟的Skype翻譯器,可將語音實時轉換為不同的語言。自動駕駛汽車利用機器學習來避免發生事故。甚至連Google的搜索引擎(多年來一直是人工編寫規則的重鎮)也開始依賴於這樣的深度神經網絡。

2016年2月,該公司起用機器學習專家約翰·詹南德雷亞(John Giannandrea)出任搜索主管,並啟動了一項重大計劃,對其工程師進行新技術的再培訓。秋天,他告訴記者:“通過建立學習系統,我們不再需要編寫這些規則了。”

然而這正是問題:依靠機器學習,工程師永遠無法確切地知道計算機是如何完成任務的。神經網絡的操作在很大程度上是不透明和難以理解的。

換句話説——你猜對了——它是一隻黑匣子(就像行為主義心理學家眼中的大腦)。 隨着這些黑匣子承擔着越來越多的日常數字任務的責任,它們不僅將改變我們與技術的關係,還將改變我們對自己、我們的世界以及我們在其中的位置的看法。

上帝到訓狗師

《連線》雜誌網站總監傑森·坦茲(Jason Tanz)寫道:“從舊的角度看,程序員就像上帝,制定着着控制計算機系統的法律。而現在,他們就像父母或馴狗師。正如任何父母或者狗的主人可以告訴你的那樣,他們由此就陷入了一種神祕得多的關係。”

不僅訓練的性質是神祕的,連結果也是神祕的。

這意味着編程的結束、AI的開始。當工程師探究深度神經網絡時,他們窺見的是數學的海洋:大量的多層微積分問題,通過不斷推導數十億個數據點之間的關係,可以得出有關世界的猜測。

神經網絡沒有符號或規則,只有數字。這讓很多人感到疏離。然而,不可解析的機器語言的含義不只是哲學上的。

在過去的二十年中,學習編碼一直是獲得可靠就業的最確定途徑之一。對於所有將孩子在課後趕到編程班的父母來説,他們是在為孩子的未來打算。

現在,由擅長深度學習的神經網絡運行的世界將需要不同的勞動力。由於機器使舊技能變得無關緊要,分析師早就開始擔心AI對就業市場的影響,預計程序員用不了多久就會體會到睡不着覺的感覺。由此,工程師的定義也將被改寫。

當然,仍然必須有人訓練這些系統。但至少現在,這還是一項稀缺的技能。 它既需要對數學的高度理解,也需要對教學的輸入輸出具備直覺。

谷歌的DeepMind AI團隊負責人德米斯·哈薩比(Demis Hassabis)説:“它幾乎像一種藝術形式,即怎麼把這些系統最大程度地動用起來。世界上只有數百人可以做到這一點。”然而就是這麼少的一些人,已足以在短短几年內改變技術行業。

無論這種轉變的專業意義如何,其文化後果將會更大。如果人工編寫軟件的興起引發了我們對工程師的熱愛,並且人們最終可以將人類經驗簡化為一系列可理解的指令,那麼,機器學習將朝着相反的方向發展。運行宇宙的代碼可能逃脱人類的瞭解。

舉一個小小的例子:當Google在歐洲面臨一項反托拉斯調查、指控該公司對其搜索結果施加不當影響時,這樣的指控將很難被坐實,因為就連公司自己的工程師也無法確切説明其搜索算法的工作方式。

將會產生一種不確定性的大爆炸。事實證明,哪怕簡單的算法也可以促發不可預測的緊急行為,混沌理論正是這麼認為的。

在過去幾年中,隨着網絡越來越緊密地交織在一起,其功能也越來越複雜,代碼似乎變得日益像一股外來力量,機器中的幽靈漸趨難以捉摸和不可控制。

集發明家、創業家和科學家於一身的丹尼·希利斯(Danny Hillis)在《設計與科學雜誌》上寫道:“隨着我們的技術和制度創新變得越來越複雜,我們與它們之間的關係也發生了變化。”“我們沒有成為我們的創造物的主人,而是學會了與它們討價還價,哄騙和指導它們朝着我們目標的總體方向發展。我們建立了自己的叢林,而這叢林擁屬於自身的生命。”機器學習的興起是這一旅程的最新、也許是最後的一步。

這一切都可能令人恐懼。 畢竟,編碼至少是普通人可以想象的在訓練營中習得的東西,而程序員至少是人類。 現在,技術精英的規模甚至走向更小,而他們對自己的造物的命令已經減弱,且變得間接。那些製造這些東西的公司已然發現它們的行為方式難以治理。

2015年夏天,當Google的照片識別引擎開始將黑人的圖像標記為大猩猩時,公司趕忙道歉。一開始它最直接的解決辦法是防止系統將任何東西標記為大猩猩。然後,公司表示,圍繞着哪些標籤可能出問題,它正在着手研究長期的修復辦法,希望能夠做到更好地識別深色皮膚的臉部。

三年以後,Google沒有取得任何進展。它完全阻止了其圖像識別算法去識別大猩猩——為了不冒錯誤分類的風險,主動限制了自己的服務。

《連線》雜誌還發現,Google也限制其他種族類別的AI識別。例如,搜索“黑人”或“黑人婦女”只會返回按性別分類的黑白照片,而不按種族分類。

另一起知名的事件是微軟的聊天機器人Tay。該機器人2016年3月23日推出,面向18至24歲的青少年。微軟希望能通過這款機器人更好地瞭解年輕人使用的隨意性和戲謔性的網絡交流語言。然而,發佈僅24小時後,微軟似乎開始編輯Tay發出的那些具有煽動性的評論。

原因是,Tay上線僅幾個小時,推特用户們便開始對其算法中存在的缺陷加以利用,導致它在回答一些特定問題時帶上了種族主義色彩,如使用種族侮辱用語,支持白人至上主義和種族滅絕政策等。

“人工智能聊天機器人Tay是一項機器學習計劃,專為與人類交流而設計。”微軟的一名發言人説。“在它學習的過程中,它發表了一些不合適的言論,能夠反映出人們都和它進行了怎樣的互動。我們目前正在對Tay進行一些調整。”

隨後,關注者質疑為什麼“她”的某些推文看上去正在被編輯,從而促成了一場#justicefortay運動,要求軟件巨頭讓AI“為自己學習”。微軟關閉了Tay,一年以後推出Zo。Zo幾乎立刻就因為有意規避潛在的攻擊性話題而引入的算法偏見飽受批評。

例如,Zo拒絕談論中東、《古蘭經》或《摩西五經》,無論是正面的、負面的還是中立的,但可以討論基督教。

克洛伊·羅絲·斯圖爾特-烏林(Chloe Rose Stuart-Ulin)在Quartz的一篇文章中揭露了這些偏見,她説:“Zo的政治正確走到了一個糟糕的極端;一旦觸發那些可能的誘因,她就會變成一個武斷的小混蛋。”作者説,政治正確的機器人比種族主義的機器人更可憎。

2019年,Zo也被微軟關閉。像Google的圖片識別程序和微軟的聊天機器人所顯示的,試圖建立跨世界的算法,對硅谷的自我隔絕的文化而言,並非一出bug就尋求快速修復那樣簡單。

一些科技領域的頂尖思考者和實踐者相信,這一切都預示着我們將迎來一個人類放棄對機器的權威的時代。史蒂芬·霍金(Stephen Hawking)寫道:“人們可以想象,這樣的技術將智勝金融市場,比人類研究者更具發明力,比人類領導人還多操控術,並開發出我們甚至無法理解的武器。”

埃隆·馬斯克(Elon Musk)和比爾·蓋茨等都對此表示贊同。霍金和其他三位科學家在《獨立報》上寫道: “儘管人工智能的短期影響取決於誰來控制,但長期影響取決於是否可以完全控制它。”

往 / 期 / 鏈 / 接

“家族信託”風波中的股東地位與律師角色 | 格物致知

對話劉勁:誰應為碳排放負責丨馭勢2021

經濟觀察報旗下智庫

管理與創新案例研究院

讓中國商業精英更正確決策

[email protected]

長按二維碼關注

本文為經濟觀察報管理與創新案例研究院原創文章

未經授權請勿轉載