技術並不中立,而有特定目的 | 重新思考數字化之五

語言: CN / TW / HK

讓中國商業精英更正確地決策

術絕不像表面上看起來那樣中立,因為它是有方向性的,它通過增加選擇或者改變過程而指向某種特定的方向。

胡泳

北京大學新聞與傳播學院教授

文章導覽

技術的方向性與中立性

技術絕不像表面上看起來那樣中立,因為它是有方向性的,它通過增加選擇或者改變過程而指向某種特定的方向。

發明者和設計者偏好價值中立

技術為人類帶來的是正面影響,但這並不會改變一個現實:它使社會中的一些人生活變得更好,而對另一些人來説卻變得更糟。

人工智能終結價值中立

一旦我們擁有了完全能動的智力代理人,價值中立論可能就喪失了它以往的誘惑力。

集體行動與延遲滿足

哲學家大衞·莫羅(David Morrow)提出了一種嘗試性論述。他認為,技術並不總是價值中立的,緣於它們改變了某些選項的成本,從而使得集體行動問題或理性選擇錯誤更有可能發生。

全文約6500字,預計閲讀時間18分鐘

技術的方向性與中立性

在技術問題上,除了常見的技術悲觀主義和技術樂觀主義,人們往往還會產生兩種想法。

一類人認為技術具有方向性——它會改變它所觸及的文化。 此處的方向性是指,技術使一種文化能夠朝着它本來無法去往的方向發展。

另一類人認為技術是中立的。 他們批駁第一類人提出的説法,相信我們看到的變化是由於文化內部的力量而不是技術造成的。

有很多例子可以為技術確實改變了文化這一論點作辯護。

一個經常被引用的例子是印刷機。 印刷機在歐洲發明後(特指實用的近代金屬活字印刷機),引起了書籍和學問的廣泛傳播,破除了知識壟斷,引發了宗教改革、反宗教改革和早期的現代時代。

另一個例子是時鐘,它最初是由天主教的修士們開發的,目的是為了對他們一天七段的祈禱儀式作精確的計時。但這一技術最終導致工廠工人遵循規律的工作時間,產生了現代資本主義。修士們沒有意識到的是, 鐘錶不僅是一種計時的工具,也是一個整合和控制人類行動的手段。

然而,主張技術中立的觀點會認為這種歷史敍述是對這類事件的曲解。印刷機和鐘錶都是在中世紀歐洲之前很久就在中國被髮明出來。然而,中國並沒有因此產生現代科學或資本主義。那些認為技術保持中性的人指出, 潛在的文化信念和社會實踐是造成變化的原因,而非技術本身。

錢存訓的《中國紙和印刷文化史》一書有一個結論:印刷術在中國和西方的功能雖然相似,但其影響並不相同。

在西方,印刷術的使用,激發了歐州各民族的理智思潮,促進了民族語言及文字的發展,以及民族獨立國家的建立;而在中國,印刷術的作用正好相反,它不僅有助於中國文字的連續性和普遍性,更成為保存中國文化的一種重要的工具。

因此,印刷術與科舉制度相輔相承,構成中國傳統社會相對穩定的兩個重要因素,也是維護中國民族文化統一的堅固基礎。

為了使技術改變一種文化,這種文化中的人們必須選擇使用它。這種選擇可能是糟糕的,也可能是明智的,但選擇是關鍵。

人類所做的每一個決定都涉及從若干選擇中做出不同的權衡。每個可能的選擇都會產生好的和壞的結果。作為人類,我們必須權衡每一種選擇的利弊,以決定哪一種在我們看來是最好的選擇。

技術看上去為我們增加了新的選擇。在印刷術之前,閲讀對大多數人來説根本不是一個可行選擇。在時鐘之前,人們日出而作,日落而息,毋需考慮幾點上班、幾點下班,以及在固定時間裏生產出某種東西。

然而, 隨着技術的引入,新的選擇就出現了。 任何技術都是這樣,無論是現在我們使用的汽車、電視、手機,還是尚未發明的未來技術。

然而,人類經常做出錯誤的選擇。我們吃明知對自己有害的食物。我們浪費時間在社交媒體上與那些明顯不聽的人爭論。我們也經常做出我們知道一定會後悔的錯誤選擇。

在決定是否使用某項技術時也是如此。雖然我們可以也確實拒絕使用技術,但我們其實不一定會對如何使用以及何時使用技術做出好的選擇。

在這個意義上説,技術是中性的,因為它只是提供了選擇機會,而沒有強迫任何人去做出選擇。 不同的人,進而不同的文化,會對技術的用途做出不同的選擇。

然而,也可以認識到, 技術絕不像表面上看起來那樣中立,因為它是有方向性的,它通過增加選擇或者改變過程而指向某種特定的方向。

比如,相信技術中立的人提出的經典説法經常包括:“槍不殺人,是人殺人”,或者,“一把菜刀可以用來切菜,也可以用來砍人,關鍵看拿在誰手裏。”

槍支的確可能有許多不同的用途——比如把它用來做鎮紙——但我們大多數人都知道這不是人們擁槍的原因。槍支是為特定的目的而開發的,我們一般是按照這一目的來使用它。

一種技術的可能使用範圍並不是無限的。從理想用途的有限範圍可以透視發明者的價值觀——槍不是鎮紙,而是用來殺人的好工具。當用於它的預期目的時,它相當有效。

我們能相信發明者對其創造的東西沒有道德義務的説法嗎?當美國人談論槍支時,可以合理地解釋槍支的必要性,以及個人如何擁有持槍的權利,並由此做出自己的選擇。

然而,槍支的設計就是為了殺人,這是毫無疑問的。這項技術不是一箇中立的產品,它從來都不是。

發明者和設計者偏好價值中立

“槍不殺人,人殺人”,代表着價值中立論的認知,即沒有任何道德價值可以歸於某種技術,只有在人使用技術時才出現價值問題。

也就是説,技術本身是價值中立的,而使用它的人是不中立的。如果一項新技術問世,無論是槍支還是智能手機,造成了或好或壞的影響,那是由於好人或壞人造成的,而無關技術本身。

價值中立論主要圍繞以下幾個論證來展開:

  • 首先,價值難以檢測。技術要想包含或體現價值,這些價值應該是可識別的,但現實中很少是這樣。

  • 其次,不同的人擁有不同的價值觀。工具只是在被一個有價值的生命所擁有時才具備價值,所以完全取決於這個人的價值體系。而這一體系還會隨着人或環境發生的變化而變化。

  • 第三,價值取決於用途。人的行為的成果、結果、後果才有價值,由此,價值體現在最終使用者身上而不是所依賴的工具上。

一把刀只是一把刀,是一箇中立的物品,有人用它來削水果,有人用它從背後捅人,只有在使用時才可以説到道德價值。

由此可以很清楚地得出結論, 最終使用者需要對技術的道德使用負責 。是他們的慾望、需求和目標決定了技術的使用方式,從而也就決定了技術的價值。這種論證表明,我們不能責怪槍支射殺了人,哪怕它的確讓射殺這事變得更輕易了。

價值中立論者把技術視作純粹被動——在沒有人類干預的情況下什麼也不做。然而,技術自己不做事,並不能説明它的中立性。僅僅因為槍需要人去扣動扳機,它就是中立的嗎?

槍仍然是一種人造物,會通過降低殺人的難度而鼓勵這種行為。例如,根據反槍團體的説法,如果家裏有槍,人們更容易自殺或對家庭成員實施暴力。涉及槍支的事故也很常見。 因此,似乎很難僅憑槍支的被動性來證明槍支的中立性。 同樣的論點也適用於一般的技術。

所有技術發展都有共同的特徵。首先,技術對象是獨一無二的,它們被設計成以一種特殊和有限的方式發揮作用;其次,技術對象與它們的環境交織在一起, 它們以獨特的方式與現實相互作用。

由於技術是為了特定的目的而構建的,因此,在這些目的的方向上,技術通常更容易使用。 用户可以根據自己的企圖選擇和修改技術,但是受制於人造物的物理現實和相關社會系統的慣性。

不難明白,價值中立論給了發明家和工程師等很大的幫助,似乎免除了他們對自身發明物所引發的不良影響的責任。它也隱含着應保持自由市場和開放創新的政策預設。百花齊放,羣雄競逐,讓技術的人類使用者來決定後果。

問題是,所有的技術都是由社會經濟、文化和政治因素決定的。技術哲學家蘭登·温納(Langdon Winner)在《人造物有政治嗎?》一文中舉過一個有趣的例子。

紐約的林園式大道,立交橋的離地間隙被有意設計得很低,使公共汽車無法在這些道路上行駛。於是,平常使用公交出行的貧民和黑人就被攔在了外面,而擁有汽車的白人卻能夠利用這些大道自由地觀光和通勤。橋樑建築看似中立,事實上可以通過技術配置對社會秩序施加影響,正反映出設計者的階級偏見和種族歧視。

温納提醒我們注意,包括人造空間在內的技術物本身“固有”其政治性。

如果把技術的最終目的視為是為了全人類或部分人類的利益而開發資源,那麼,技術就具有非中性的屬性。如果技術以某種方式使人們受益,或對一個羣體比另一個羣體更有利,那麼它們就不是中立的。

事實上,根據這個定義,中立技術的概念本身沒有任何意義。

更何況,技術發明人往往不知道自己的發明會給社會帶來怎樣的效應。技術的後果就是這樣難以預料。

在最一開始的時候,面對新的技術,哪些人是贏家,哪些人又會成為輸家,是一件連上帝都無法知曉的事情。

總體而言,技術為人類帶來的是正面影響,但這並不會改變一個現實: 它使社會中的一些人生活變得更好,而對另一些人來説卻變得更糟。

人工智能終結價值中立

主張“槍是中性的,而人不是”的一派還會遇到一個麻煩。槍支也許不會自己殺人,但它使人們以某種方式被殺的可能性大大增加,這一點已如上論。但現在請考慮一下這件事:自主武器系統的確可以自己殺人。

説技術沒有偏向性,或者説它並不體現某一套價值,顯然是誤導性的。但為什麼這麼多人着迷於價值中立論呢?

原因在於,價值中立性是一種誘人的立場。在人類歷史上的大部分時間裏,技術都是人的能動性的產物。為了使一項技術得以存在,並對世界產生影響,它必須是由人類構思、創造和利用的。

在人類和技術之間存在着一種必要的對偶關係。這就意味着,每當要評價某項技術對世界的影響時,總會有一些人分享讚美,而另一些人則羣起指責。

由於我們習慣於讚美和指責我們的同胞,所以很容易把一項技術的好處或壞處,直接歸因於人類使用者的可贊或可責的行為/偏好。我們的想法是,在很多情況下,技術本身的好壞並不能怪罪於技術,而是要怪罪於人。

但是請注意,我上文強調了“在人類歷史上的大部分時間裏”都是如此。突然,我們發現, 有一種顯而易見的方式可以令技術不再價值中立:讓技術自己擁有能動性。

設想一下,如果技術發展出自己的偏好和價值,並採取行動在世界中追求它們,會出現什麼樣的情形?有關人工智能的巨大承諾(同時也是恐懼)是,它將導致某些技術形式產生自己的意志。 一旦我們擁有了完全能動的智力代理人,價值中立論可能就喪失了它以往的誘惑力。

存在兩種人工智能哲學。

一種主張人工智能需要成為一種公正的、完全透明的技術,它的決策能力完全依賴於邏輯,而不反映人類所表現的任何偏見和偏好。 第二種預期人工智能可能會表現得像人類,因此難以避免人的身上存在的一些固有偏見。

不過迄今為止,還不存在任何沒有偏見的人工智能。這主要是因為,人工智能會從我們給它的任何東西中學習。這意味着決策的質量取決於訓練數據的質量。

但訓練數據很可能是不完整的、不具代表性的,或許繼承了之前決策者的偏見,也可能只是反映了世界上普遍存在的偏見。在現實中,偏見就像一種病毒,會傳播和複製。 人類的偏見被轉移到人工智能和機器學習應用中,主要是通過被餵養的用以訓練的數據。

人工智能工具的發明者和設計者,很難再以價值中立為自己開脱:這些工具很容易被應用到道德上有問題的實踐中,由於其不可捉摸性,也很容易被濫用,甚至被具有良好意圖的從業者濫用。

計算機視覺就是一個明顯的例子。讓人可以輕鬆地使用無人機圖像繪製街區的技術進步,也可以令權勢者有能力追蹤人們在世界各地移動時的臉。如果你正在研究人臉識別技術,思考這一技術的含義是至關重要的。

機器學習(尤其是深度學習)所創建的模型是難以被真正理解的。然而它卻變成了一把強大的錘子,當你拿着它時,一切都開始看起來像釘子。

數據科學家很容易認為,他們可以隨便涉足一個他們一無所知的領域,然後用一個訓練有素的神經網絡來解決它,比如所謂的智慧城市解決方案。

可是,每當我看到那些雲計算企業對智慧城市的演示,腦海裏卻總會閃過“大數據傲慢”這個詞。像福樓拜這樣的作家是這麼看待城市的:對他來説,城市是人類相撞的地方,個人發現自己的無序是神聖的。而現在,數據科學家卻企圖把城市紛雜迷人的一切都納入一個模型。

他們忘記了,模型的設計本身就可能引入偏差。從算法的角度來看,偏差可以理解為過度簡化。模型可能過於僵化,因此無法把握數據的基本趨勢和複雜性。

然而, 它們還可能對微小的波動非常敏感,以至於它們在捕捉信號的同時,也捕捉到了大量的噪音。

問題在於,偏差不僅會傳遞給算法,而且還會被放大。當有偏見的機器學習算法創建新數據,並作為其持續訓練的一部分重新注入模型時,就會發生這種情況。

當有偏見的算法作為自動決策過程的一部分,每分鐘進行數百萬次預測時,情況就會變得更糟,實際是將偏見重新帶入現實世界,並規模化地運行。

集體行動與延遲滿足

對價值中立性的批判,還可以在另一個維度上展開。

哲學家大衞·莫羅(David Morrow)提出了一種嘗試性論述。他認為, 技術並不總是價值中立的,緣於它們改變了某些選項的成本,從而使得集體行動問題或理性選擇錯誤更有可能發生。

這是個很有意思的角度,瞭解了這個論點,我們就可以看到,要充分區分技術的價值中立和價值負載是多麼困難。

莫羅首先假設人類在做決策時遵循理性選擇理論的一些基本原則。人類存有偏好或目標,他們的行為是為了使自己的偏好或目標滿足度最大化。

這意味着他們在做決策時會遵循一種成本效益分析。如果某項行動的成本超過了它的收益,他們就會傾向於轉到其他更有利的行動上。

相應地, 技術的主要功能之一是降低某些行動的成本 (或使得以前不可能的行動成為可能,負擔不起的行動得以負擔)。人們發明技術通常是為了能夠更有效、更快速地做事。

交通技術就是一個明顯的例子。火車、飛機和汽車都有助於降低個人旅行者的長途旅行成本。成本的降低可以改變人們的行為。

可是,技術雖然改變了行動的成本,但技術的好處卻不是均勻分佈的。它們可以降低一些人的成本,同時提高另一些人的成本。

蘭登 · 温納再次提供了一個精準的例子。温納研究了西紅柿收穫機對大農和小農的影響,發現它主要使大農受益。他們買得起這些機器,收穫的西紅柿比以前多得多。 這增加了總的供應量,從而降低了每顆西紅柿的價格。

這對大農户來説仍然是淨收益,但對小農户來説卻是重大損失。現在,為了獲得同樣的收入,他們不得不以更有限的技術收穫更多的西紅柿。

莫羅的論點是, 技術通過降低成本,可以使得某些選擇對最不在乎體面的人更具吸引力。 他舉了兩個方面的例子。

一個是集體行動問題。人類社會長期被集體行動問題所困擾,即在可以選擇“合作”或“背叛”同胞的情況下,當背叛的利益大於合作的利益,個人就會選擇背叛。

過度捕撈就是如此。某一地區的魚羣是一種自給自足的共同資源,如果當地的漁民每年捕撈有限的配額,就可以分享這種資源;而如果他們過度捕撈,魚羣可能會崩潰,從而剝奪了他們的共同資源。

問題是,很難執行配額制度(以確保合作),個別漁民幾乎總是被激勵過度捕撈。技術可以通過降低過度捕撈的成本轉而加劇這種情況。

畢竟,如果你僅僅依靠一根魚竿,過度捕撈是相對困難的。現代工業化捕魚技術使得挖開海底、刮取大部分可利用的魚類變得更加容易。因此,現代捕魚技術不是價值中立的,它加劇了集體行動問題。

另一個是延遲滿足問題。 我們很多人都面臨着決策,必須在短期和長期回報之間做出選擇。很多時候,長期回報大大超過短期回報,但由於人類推理的怪癖,我們往往會忽略這種長期價值,而偏重於短期回報。

這對個人(如果評估整個的人生跨度)和集體(如果社會上沒有人考慮長遠,就會侵蝕社會資本)都會產生不好的結果。 莫羅認為,技術可以通過降低即時滿足的成本,使我們更難以優先考慮長期回報。

今天這個時代,我想很多人都對莫羅所提到的這個問題有深刻的體會。比如,經常因為被社交媒體和短視頻的短期回報所吸引,而失去了從長遠來看本應去工作的寶貴時間。

莫羅還認為,這兩個方面相互影響, 即時滿足的誘惑,也會加劇集體行動問題。

最後,我想特別指出,如果技術不是價值中立的,那麼它的非中立性就有理由在兩個方向上發揮作用。

技術會使我們偏向於壞的方面,但它當然也可以讓我們偏向好的方面。技術可以降低監督成本,從而使合作協議更容易執行,並防止集體行動問題。同樣,技術可以降低重要商品和服務的成本,從而使其更容易被廣泛分配。

無論如何, 技術是其創造者的偏見和目標的反映,技術的使用可以帶來特定的目的。 這是一個重要的事實。如果我們要在信息時代創造一個更好的社會,每個人都必須認識到這一點。

往 / 期 / 鏈 / 接

追問靈魂的正確姿態:看生態由誰來領導 | 產業 X 透鏡

藥明康德之問:小股東未披露減持應當如何追責

對話中歐丁遠:重申競爭中性  | 馭勢2021

經濟觀察報旗下智庫

管理與創新案例研究院

讓中國商業精英更正確決策

[email protected]

長按二維碼關注

本文為經濟觀察報管理與創新案例研究院原創文章

未經授權請勿轉載