本文來自微信公眾號：

理想國imaginist （ID：lixiangguo2013）

，節選自［美］傑米·薩斯坎德《演算法的力量》，摘編排版：熊Mur，題圖來自：《她（2013）》

繼微博評論區會顯示使用者所屬的IP地址之後，微信、小紅書等社交媒體也跟進了這一功能。在此之前，某些時刻你一定也有被“盯上”的感覺：

比如隨口一說的商品，下一秒就出現在了你的購物首頁裡；打給你詐騙電話的人能夠輕易說出你的名字、畢業學校、身份證號；無處不在的大資料，你的行蹤已不再私密……

這些都是數字生活中難以避免的“審查”，這裡的審查不只限於視覺觀察，

還包括任何收集、儲存和處理有關某人的資訊的方式。

有人說在數字時代生活好比“裸奔”，人們的所作所為越來越難以逃避技術的關注，而完成審查的通常是機器而不是人類，智慧手機、可穿戴裝置和植入式裝置等等，都是審查的工具。

你的每一次消費記錄、健康資料、個人資訊都會被捕捉記錄，

哪怕過了數十年，依然可以被考古出來。

2007年，谷歌承認它儲存了使用者輸入的每條搜尋記錄和他們隨後點選的每一個搜尋結果，每天有超過10億人向谷歌輸入超過35億次的搜尋查詢。那些擁有技術的公司、機構擁有了資料即擁有了權力，控制這些技術的人將越來越多地影響乃至決定我們的生活。

數字生活世界將帶來人類相互監督能力的變革，

它在五個方面與過去不同：

可解讀

耶魯大學政治學教授詹姆斯·斯科特

（James C。 Scott）

在《國家的視角》

（Seeing Like a State，1998）

一書中提出，任何改變人類社會結構的重要努力——他稱之為“大規模社會工程”——

都取決於社會之於統治者在多大程度上是“可讀的”。

斯科特寫道：“我們來想象一個國家，如果它沒有可靠的手段來了解其人口數量和分佈，無法衡量其財富，也不能用地圖形式標示其土地、資源和定居點，那麼這個國家對社會的干預就必然是低劣的。”相反，一個擁有強大手段來完成前述事項的國家，其對社會的干預就可以說是廣泛而深刻的。

在數字生活世界中，人類的生活將是唯一可被解讀的，因此也是唯一易受權力染指的。

我們正在進入一個日益量化的社會，

越來越多的社會活動將被捕獲並作為資訊記錄下來，然後被機器分類、儲存和處理。我們越來越多的行動、表達、動作、關係、情感和信仰將以永久或半永久的形式記錄下來。

在過去的幾年中，機器收集的有關人類自身的資料量激增，主要是因為更多的人類活動以數字媒體技術為中介來進行。在過去的五十年，數字儲存的成本每兩年左右就能減少一半，其密度卻能增加5000萬倍。同時，數字資訊可被複制數百萬次，幾乎沒有任何成本，其質量也不會有什麼損耗，功能日益強大的系統能讓我們更好地處理自己儲存的資料。

其結果是，沒過多久，我們受到的審查將急劇增加。我們去哪裡、做什麼、買什麼、寫什麼、吃什麼、閱讀什麼、何時何處睡覺、說什麼、知道什麼、喜歡什麼和如何工作，以及我們的計劃和野心，都將成為審查的主題，被機器捕獲並處理。

這不是社會第一次從根本上變得更易於解讀，因而也更容易受到控制，但是，

這一次的變化在規模上是前所未有的。

斯科特在《國家的視角》中引用了一些過去的例子，它們有助於我們更好地理解未來。

首先思考一下城市的概念。你在觀賞一幅中世紀定居點的地圖時，映入眼簾的也許只是一些混亂的街巷，沒有固定的街道命名或編號系統。城市佈局似乎是有機地發展起來的，並沒有什麼固定的計劃。如此令人摸不著頭腦的城市景觀，導致外來的精英，如稅吏、徵兵人員或治安調查員等，很難去控制一個自己不熟悉的城市。他們若想尋找當地的人員和地址，就需要有願意幫助他們的當地人。

於是，想要躲避權力觸角的城市人就會發現，

隱藏或消失在這樣的城市裡，簡直易如反掌。

這樣的定居點是神秘的，因為它不容易被外來精英所把握、總結或簡化。

拿這種設計跟費城、芝加哥和紐約等現代城市來比較，現代城市是按照單一設計建造的，又長又直的街道呈網格狀排列，並以直角相交。對全知全能的政權來說，

現代城市是很容易立即就瞭解的

——即便一個對此地不熟悉的政權也不難做到。在曼哈頓，為了更容易定位，街道被連續編號。

重要的是，當你俯瞰這些城市時，就像地方長官注視這些城市的鳥瞰圖，它們是最容易理解的。導航和搜尋在以這種方式組織起來的定居點是很容易的，在處理其人口的識別、徵稅、徵召、逮捕和其他問題時也是如此。

從混亂的中世紀城市到有整體規劃的現代都市的演變，其意義固然重大，但與下一階段的城市進化比起來就相形見絀了：嵌入密集感測器網路的“智慧城市”，允許當局跟蹤一系列眼花繚亂的變數，從噪聲、溫度、光照、空氣中的有毒氣體和基礎設施的使用，到車輛和人的運動、位置和活動。

未來，科技將使當局能夠透過詳細記錄了城市居民活動的監控和反饋系統來監控重大事件和突發事件。即使與過去幾個世紀的電網城市相比，智慧城市的可解讀性也將達到無法想象的程度。

在智慧城市裡，幾乎沒有什麼公共活動是無法追蹤的。

現在想想這些城市的居民的可解讀性。如果你不知道他們是誰，就很難管理他們。我們大多數人都認為，姓氏被用作識別方式是理所當然的，但斯科特觀察到，直到14世紀，大多數普通人都沒有固定的“姓”。一個“名”通常就足以在當地被識別，如果需要更多標識，可以再加上職業

（Smith、Baker和Taylor）

、住處

（Hill和Wood）

、個人特徵

（Strong、Short和Small）

，或者父親的名字

（Robertson）

。

斯科特邀請我們一同設想，如果你是去一個村子收稅的稅吏，結果這裡有90%的男人都叫這六個名字：約翰、威廉、羅伯特、理查德、亨利和托馬斯，你該怎麼辦？

姓氏的引入幾乎是普遍的國家要求，

最早可追溯到公元前4世紀，秦王朝將姓氏強加於其子民頭上。這樣做的目的是讓個人變得更加可捉摸，而不是無差別的群體，這樣官員們就可以更好地追蹤他們的財產所有權，規範繼承權，防止犯罪，徵收稅款，強迫勞動和徵召士兵。幾千年後，我們仍然以姓氏作為可解讀性的工具。

在數字生活世界中，解讀個人將比以前更容易。

身份的驗證將不再關乎姓名、數字這類外化的稱謂，而是直接提取我們的身體資訊，

可以透過面部、指紋、視網膜、虹膜或步態等生物特徵的細節來識別每一個人。在無法透過生物識別技術識別我們的地方，依據由我們的移動、購物行為和同事夥伴排出的

“數字尾氣”

（Digital Exhaust）

，也能很容易地發現我們的動向。

例如，想象一下，一個實行種族滅絕的政府試圖在某一特定地區圍捕某一宗教或種族的全部成員，那麼他們留下的資料會立即洩露其身份：購買記錄、社交媒體上的帖子、相熟的夥伴、智慧手機的移動以及通話記錄等，這些都能顯示出他們屬於被追捕的社會群體。

除了擁有豐富的資料，

數字生活世界還將包含能以前所未有的效率處理這些資料的機器。

研究人員透過人們在Facebook上點的“贊”，猜出某人性取向的準確率為88%，猜出其種族的機率為95%，有85%的可能猜出其政黨歸屬。取得這個成果只是用當前的技術處理了全部可用資料中的一小部分。試想一下，如果用具有超級效能的系統來處理每個人所有生命活動產生的資料，它會被拿來做什麼呢？

然而，我們必須要明白，個人的可解讀性在未來將不僅用於確認我們的身份，發現我們的行蹤，

它事關理解我們的生活、慾望、計劃和目的。

基於這個原因，數字系統將不僅止步於識別有血有肉的個體人類。通常，它們更關注從人們身上收集來的資料說明了人們的什麼資訊。為了這個目的，不存在穩定的、準確定義的“我”或“你”。

正如約翰·切尼·利波爾德

（John Cheney-Lippold）

在

《我們是資料》

（We Are Data，2017）

中的觀察，當涉及對人類生活的處理和分類時，演算法看到的是一個不斷變化和流動的資料集，演算法為了解決它關心的問題，就不斷地解構、重新編譯和分析這些資料集。

一種預測性警務演算法會在檢視關於我的資料後發問：這個人有可能犯罪嗎？抵押貸款演算法則會從另一個角度調查我的資料：這是一個有償付能力的人嗎？美國國家安全域性的演算法可能會檢驗我的資料是否符合他們對“恐怖分子”的預期。營銷演算法可能會注意到我是一個20多歲的千禧一代男性，於是相應地給我推送牛油果和鬍鬚護理油廣告。演算法根據自己的目的來判斷它們想看什麼。

那些仔細審視數字生活世界的人不會在意我們有沒有固定的身份，或者我們觀念中的那種“真實”的自我。

相反，我們會被“數百家不同的公司和機構以數千種競爭的方式識別出來”，“在一天內被審查一千遍”。

回想一下尤瓦爾·赫拉利

（著有《人類簡史》）

的觀察，即寫作一開始是一種反映現實的方式，

但它最終成為一種重塑現實的有力途徑：出於官僚主義的目的，書寫在表格上的內容比“真相”更重要。

在數字生活的世界裡，出於實際目的，無論我們是否樂意，我們都將成為被演算法描述的人。程式碼每一次做出關於我們的決定，都是一個“新生成的演算法真相，它不關心這個真相是否真實，但更介意它是不是一個有效的分類度量標準”。

大多數情況下，我們至多在事後才知道自己被下了何種結論，就像當一個“有針對性”的廣告出現在網上時，我們會感到吃驚：“他們為什麼會認為我對那個東西感興趣？”演算法眼中的我們，有時與我們對自己的認知大相徑庭。

過去，人類生活的不可解讀性被視為一股對抗強權的力量。據說，沒有人能夠完全理解人類社會的複雜性，因此也沒有人能夠完全控制它。而數字生活世界中的管理者，無論是人還是機器，都可以隨時審查社會的方方面面。

私密

2015年11月，在阿肯色州的本頓維爾，維克多·柯林斯的屍體在詹姆斯·貝茨家的熱水浴缸裡被發現。貝茨被指控謀殺了柯林斯。這場謀殺沒有任何目擊證人，據說是在貝茨的家中秘密發生的。案件調查人員對貝茨的“智慧家居”裝置非常感興趣。例如，他的智慧水錶顯示，在柯林斯死亡當晚的凌晨1點到3點，曾有530升的用水量。偵探們推斷，這麼大量的水可能是為了沖洗掉庭院裡的證據。

更有趣的是，貝茨有一臺“亞馬遜回聲”

（Amazon Echo）

，這是一種個人助理系統，可以聽到並執行人類主人的簡單語音指令，比如“點個比薩餅”或“關燈”。當“回聲”處於啟用狀態時，就會監聽並記錄所有對它說的話。警察，當然，還有整個國家都對此感到好奇，也許這個裝置“聽到”了這起所謂的謀殺案的發生。偵探們帶走了“回聲”，試圖從中提取案發當晚的資料。幾個月來，

似乎“回聲”成了審判詹姆斯·貝茨謀殺案的決定性證人。

然而，對他的指控最終卻被撤銷了。

維克多·柯林斯死後一個月，康妮·達巴特在康涅狄格州郊區家中的地下室被槍殺。當警察趕到時，她的丈夫理查德告訴他們，一個蒙面襲擊者闖入並襲擊了他，將他綁在椅子上後還用刀砍傷了他，隨後又開槍射殺了他的妻子。但達巴特夫人的Fitbit

（一種為健康目的收集資料的運動裝置）

卻講述了不同的故事。顯然，在達巴特先生聲稱其妻被槍殺的時候，她已經在房子周圍移動了370米。理查德·達巴特將因謀殺妻子而受審。

一名馬拉松獎牌得主被曝光，因其Garmin運動裝置顯示她並沒有跑完21千米。一名房屋被燒燬的男子被指控縱火和騙保，因為從他的心臟起搏器上收集的資料顯示，其心臟活動與其瘋狂奔向安全地帶的行動並不一致。

裝置對我們的竊聽程度遠遠超過我們的理解能力。

在數字生活世界裡，家也不一定是躲避審查的避難所，

家用技術將能夠收集主人在最私密空間裡的資訊。

而那些悄無聲息地記錄我們生活的行動式技術——智慧手機、可穿戴裝置和植入式裝置——對我們每時每刻所處的位置並不感興趣。

不管我們在不在家，攝像機都是一樣的。如果增強現實和虛擬現實技術取代了“玻璃平板”計算模式，裝置製造商將真正做到“透過你的眼睛看世界”。隨之而來的，至少在這種差別可以在空間上被劃分為“家裡/外”的情況下，

我們也許會變得不太考慮私域和公域之間的差別。

2017年，一家振動按摩器製造商同意向客戶支付賠償金，因為他們的智慧振動按摩器在使用者不知情的情況下跟蹤使用者的使用情況，並將裝置的溫度和振動強度的細節反饋給製造商。

執法官員毫不掩飾他們將物聯網作為資訊收集手段的興趣。美國國家情報總監說：在未來，情報機構可能會利用

（物聯網）

進行身份識別、監視、監控、位置跟蹤和有針對性的徵兵，獲取網路接入或使用者憑證。

不朽

遺忘發揮著重要的社交功能，有時，為了改變和前進，我們需要拋開過去的失敗、遺憾、尷尬和偏見。我們試著放下別人對我們犯下的錯誤，並希望別人也能忘記我們的過錯。對於我們已努力讓自己忘卻的失敗，我們不願意

（討厭）

別人再提起。

正如維克多·邁爾·舍恩伯格和肯尼斯·庫克耶所說，

在人類歷史的大多數時期，遺忘是常態，記住才是例外。

人類所知、所言、所做和所想中的絕大多數從未被記錄下來，它們流失在時間的長河裡。然而，

在數字生活世界裡，情況恰恰相反：人們記住了很多東西，卻很少會忘記。

數字形式的資訊比以往任何形式的資訊都更容易儲存和複製，速度越來越快，且儲存這些資訊的動機一直都存在。資料是一種有價值的商品，其價值只會隨著時間的推移而增長。

在2007年，谷歌承認它儲存了使用者輸入的每條搜尋記錄和他們隨後點選的每一個搜尋結果。每當你問了一個愚蠢的問題，查詢了一個頗為尷尬的醫學症狀，或者漫不經心地輸入了你迷人同事的名字，谷歌就會儲存你搜索的詳細資訊。儘管九個月後這些查詢會被匿名化，但它仍在繼續這樣做。

可以想見，谷歌所有過去和現在的搜尋資料庫為它提供了非同尋常的審查手段。每天有超過10億人向谷歌輸入超過35億次的搜尋查詢

（更不用說它從超過10億的Gmail賬戶中獲取的資料了）

。相比過去任何統治者或精神領袖，谷歌擁有一個更加清晰的視窗，

可以走進人類的內心生活。

現在考慮一下在數字生活世界中收集到的關於你的所有其他資訊，這些資訊可能會以永久或半永久的形式儲存下來，幾十年後還可以被索引、恢復、搜尋和分析。現在說這話還早，但公司已經收集並出售了數以百萬計的普通人的檔案，這些檔案包含了上千個個人資料點，包括社會保險、健康、教育、法庭、犯罪和財產等細節，以及從你的“數字尾氣”中收集到的任何其他資訊。用威廉·福克納

（William Faulkner）

的話來說，在未來，

“過去永不消逝。過去甚至還沒有過去”。

這就是為什麼一些政客支援18歲以下的年輕人擁有刪除他們社交媒體平臺上令人難堪的內容的權利。這也是為什麼歐盟對如何處理個人資料制定了嚴格的、約束性強的法律，而隨著2018年《一般資料保護條例》的出臺，這些法律將進一步收緊。

2014年，歐洲法院要求谷歌刪除馬里奧·科斯特加·岡薩雷斯

（MarioCosteja González）

提出的“不充分、不相關或不再相關以及過度”的搜尋結果，這一決定使歐洲產生了一種所謂的

“被遺忘的權利”

。在《Ctrl+Z》

（2016）

一書中，梅格·利塔·瓊斯

（Meg Leta Jones）

提出了一種“數字救贖或數字再造”的形式，更像是一種被原諒的權利。

資料有時會丟失。不是所有的事情都會被記住。但對審查的規訓功能來說，這真的無關緊要：我們不容易知道哪些資料會丟失或銷燬，因此可能會表現得好像什麼都不會忘記。

可預測

雖然我們大多數人都明白，我們過去和現在的行動可能被其他人審查，但顯然不希望我們在未來也受到同樣的對待。畢竟沒人知道未來是什麼樣。但在數字生活世界中，功能強大的系統將能夠以非凡的廣度和精度來預測我們生活的各個方面。

保險公司已經在用演算法預測投保者是否有可能，或何時會發生車禍事故，以及我們何時會生病，甚至是死亡；僱主預測我們是否會加入競爭對手的公司；金融機構預測我們是否會拖欠貸款；官員預測哪個犯人將會殺人或者被殺；警察利用數字系統預測未來的犯罪，如罪犯和受害者分別是誰；臨床研究人員可以預測我們是否會欺騙配偶或離婚；智慧手機公司能以近乎變態的準確性來預測我們的位置；服務提供商可以預測我們能否將服務帶到其他地方；美國國家稅務局預測我們是否會進行稅務欺詐。

技術支援的預測水晶球，使用的主要是機器學習演算法，

這是一種新的、強大的審查手段。它能讓觀察者可以“看到”尚未發生的事情。這就是它的輔助功能。而它的規訓意義可能更令人印象深刻：人們可以想象，

人類不只是要避免犯罪行為，還要留意完全合法的事情，

例如去碰巧有犯罪記錄的朋友家中做客，透過關聯，系統會預測他們也會像朋友一樣去犯罪。

評分

在過去的幾年裡，

你可能使用過一個線上平臺來“眾包”對某些商品的評級

——電影、Uber司機、酒店、餐館、乾洗店等。你可能沒有想到，在某些時候，

你也可能會成為別人評價的物件。

我們已經被以各種方式排名或評分了——從決定我們是否能夠獲得融資的信用評分，到從網上收集到的資訊編制的“健康評分”。在數字生活世界裡，每個人都有可能背上一份完整的個人評分，打分的人可能是我們的朋友、同事、公司和熟人，打分的指標則是我們的社會價值：可信度、可靠性、吸引力、魅力、智力、力量和健康等。

反過來，

人們的評級可以決定他們能否獲得具有社會價值的東西，比如住房或工作。

這是一個相當嚴峻的前景，像這樣的系統已經成為一些優秀小說的主題，包括2016年拍攝的科幻電視劇《黑鏡》中的一集。

我們可以清楚地看到，在一個日益量化的社會中，我們自身的資料很容易就決定了我們能否獲得有社會價值的東西，

而我們也許對這些資料幾乎沒有控制力。

至關重要的是，

行使這種權力的不一定是國家。

各行各業的服務商都可以堅持一定的評級，這增加了這些服務商的權力，而相應地減少了被評估者的權力。

本文來自微信公眾號：

理想國imaginist （ID：lixiangguo2013）

，節選自［美］傑米·薩斯坎德《演算法的力量》，摘編排版：熊Mur，配圖《一九八四》《黑鏡》《人生切割術》《她》《谷歌與世界頭腦》《阿麗塔：戰鬥天使》