當我開車橫穿整個城市去和朋友共進午餐時，我看到前面一輛 SUV 的保險槓上貼著「讓奧威爾再次成爲小說」的標語。本著尼爾·波茲曼（Neil Postman）的精神，我想，哥們兒，我們應該更關心赫胥黎式的現在，而不是潛在的奧威爾式可能。
我們擔心在這個世界上，我們會因爲與技術和媒體的關係而受到壓迫。我們不喜歡被迫使用監視我們的設備來從事商業活動。我們不喜歡被迫接受以灌輸觀點爲主要目的的內容，比如廣告。我們害怕有惡人利用我們如此癡迷的互聯網技術和社交媒體來壓迫我們。
當然，所有這些擔憂都有道理。各類惡人和操縱者每天都在尋找無數創造性的方法來利用技術壓迫他人。然而，有些人仍然堅持認爲，技術創新一般都是好的，在涉及隱私和其他問題時，新的互聯網技術和功能應該是用一種「無罪推定」來評價。如果說我們從互聯網世界最近的發展中學到了什麼，我們就應該知道，這種技術烏托邦式的觀點說好聽點是不明智的，說難聽點則是愚蠢的。《巨網》（Meganets）一書有助於解釋其中的原因。
該書作者大衛·奧巴赫（David Auerbach）曾是微軟和谷歌的工程師，他的著作對當前有關技術，特別是人工智能的討論產生了重大影響。
在《巨網：我們無法控制的數字力量如何支配我們的日常生活和內心現實》（Meganets: How Digital Forces Beyond Our Control Commandeer Our Daily Lives and Inner Realities）一書中，奧巴赫指出，我們的互聯網技術超出了創造者的控制能力。因此，我們不應該只關心這些技術如何被用來影響我們，而更應該關心這些失控的技術會如何直接傷害我們。
奧巴赫認爲，許多互聯網技術的緊迫威脅在於它們從根本上來說已經無法控制。
美國亞馬遜對該書的介紹如下：
《巨網：我們無法控制的數字力量如何支配我們的日常生活和內心現實》
大衛·奧巴赫
奧巴赫解釋說，「巨網」有自己的生命，它們積極抵制控制它們的企圖，因爲它們積累數據，產生自發的、意想不到的社會群體和反抗，在二十年前這些都無法想像。它們會根據用戶的行爲不斷自我修改，從而產生我們都無法預料或控制的集體創作算法。這些巨大的無形架構對我們的生活施加著巨大的影響，它們是世界的新思想，日益支配著我們的日常生活和內心世界。
公共事務出版社（Public Affairs），352 頁。
從技術上來說，互聯網只是一個由世界各地相互連接並共享數據的計算機組成的網絡。但事實上我們往往不會從這樣的技術角度來看待互聯網——相反，提到互聯網，我們會想到我們經常使用的網站。
「巨網」則更爲複雜。奧巴赫認爲，「巨網是一個持續存在、不斷發展和不透明的數據網絡，它控制著我們看世界的方式。」（45 頁）巨網依賴於互聯網的存在，但又超越了互聯網。
就像讓魚解釋水是什麼很不容易一樣，準確定義巨網也是一項挑戰。「巨網」無處不在，與社會結構緊密交織。網絡革命將幾乎所有事物的方方面面都推向網絡，並將我們生活中的大部分內容都轉化爲數據並且提供給算法，而算法又爲我們提供一系列建議、影響我們的選擇。「巨網」負責接收、消化和轉換這些數據，從而悄無聲息地塑造我們所體驗的數字世界。
「巨網」的存在可以解釋爲什麼一個陌生人在你面前提到一個新的洗髮水品牌，就會導致你訪問的網站上出現一系列該品牌的廣告。並沒有人手動調整任何設定，這些廣告就是專門針對你的。你之所以能看到該新產品的廣告，是因爲有一連串複雜的算法，再加上不知情的營銷助理購買了互聯網廣告投入。
整個廣告週期始於某人在你的智能手機麥克風和允許應用程序監聽的隱私設置（通常無法更改）面前不經意的提及。你對廣告的反應（或沒有反應）提供了數據，這些數據用於創建更多廣告、確定廣告位置，以及更有效地針對你推銷其他產品。你無法逃避巨網。
巨網的持久性「源於它們從不離線，也從未重置。」（45 頁）巨網會不斷進化，「因爲成千上萬甚至數百萬個實體，無論是用戶、程序員還是人工智能，都在不斷修改它們。」巨網是不透明的，因爲「很難甚至經常不可能判斷巨網爲什麼會以某種特定的方式行事。」
奧巴赫在下面列出了巨型網絡的基本要素：
奧巴赫總結道：「巨網既不完全是機器，也不完全是人類，而是兩者前所未有地大規模結合帶來的結果。」（178 頁）
在日常生活中，你可能會遇到或聽到一些巨網的例子，包括 Facebook、YouTube、亞馬遜和加密貨幣。這些事物起初都很簡單，我們中的許多人每天都在使用，但現在卻變得錯綜複雜、瞬息萬變，很難準確解釋它們是如何運作的。幾乎不可能理解它們在如何以微妙的、看似不可抗拒的方式影響著我們的生活。
以下是巨網不斷演變的過程：
當我們繼續使用這些技術及其所承載的內容時，我們就爲數據存儲和傳播的「飛輪」做出了貢獻。飛輪用於儲存機械能，以保持平穩旋轉。隨著飛輪轉速的增加，其中儲存的能量也會呈指數級增長。
數據量如此之大，以至於這些巨網開始失控。奧巴赫認爲，問題非常嚴重，以至於這些網絡的創建者和管理者往往已經不知道如何才能最好地控制它們。
即使沒有惡人蓄意控制我們的生活，我們也可能受到巨網的影響。一旦我們依賴亞馬遜或 Facebook 這樣的服務，其算法就會在很大程度上影響我們購買什麼產品，了解什麼事件。
巨網讓社會變得更加脆弱。算法中的一個小瑕疵就可能造成產品短缺，或掩蓋某些世界性事件。
目前還不清楚，創建這些系統的人除了簡單地關閉電源外，是否知道如何重新獲得控制權。但我們並不想關閉其中的許多系統，因爲它們現在已經與我們的日常生活交織在一起——從查看天氣到購買衛生用品。
如果不完全斷開連接，我們就無法擺脫巨型網絡。但希望還是有的。我們的目標是停止向機器提供過多的信息，並製造動盪，使算法不得不不斷調整。奧巴赫還提出了其他一些大規模的建議，幫助我們抵禦「巨網」對生活的影響。我懷疑其中一些建議是否可行。但我們可以實施他的一些想法來改善我們的數字生活。
他認爲，我們應該在社交媒體上關注與我們想法不同的人，尤其是在文化或政治問題上，從而爲我們的互聯網體驗注入一些混亂。這可以混淆算法，幫助我們避免意識形態泡沫。
此外，奧巴赫還建議建立一個讓網民「輪流」分享內容的系統，在足夠多的人分享內容後，用戶才能再次發佈。這可以讓我們在使用平台時更加深思熟慮。同時，這也會減少巨網所能獲得的信息，從而削弱其影響力。
奧巴赫提出了一種自上而下的解決方案來規範人們的發帖行爲，這不太可能爲許多用戶所接受。不過，我們可以自己實施這種規則。例如，如果我不注意的話，很容易在一天內發 10 條微博。因此，我爲自己設定了個人限制，在一週內發佈推文的次數不能超過幾條。少分享是件好事。哪怕是減少一點使用巨網的方式，也能讓我們與巨網的互動變得更好。
奧巴赫在解釋「巨網」上花了很多時間。他的一些解釋非常詳細，即使是精通技術的讀者也可能難以理解。這將是一個很難進入對話的地方。
不過，這本書爲我們提供了一個重要的窗口，讓我們了解人類在應對似乎已經失控的技術時所面臨的挑戰。重要的是，我們要在事情變得過於失控之前，與這些技術的倫理影響進行搏鬥。
譯：DeepL；校：JFX。原文刊載於福音聯盟英文網站：In Our Pockets, Out of Control.
