浪潮將至-讀書筆記
這本書認為，在人工智能、生物技術和量子計算等領域的推動下，我們正站在人類歷史的一個關鍵節點上，這個節點將塑造我們未來的走向。人工智能已經滲透到我們生活的方方面面，預示着一切都將發生變革。
我們已被人工智能包圍，生活中的一切都將改變。人工智能將組織我們的生活，經營我們的生意，管理核心的政府服務。我們將生活在一個有DNA打印機、量子計算機和機器人助手的能源豐富的世界裡。
作者穆斯塔法·蘇萊曼一直處於這場浪潮的中心。他認為，未來10年將被這一波強大、快速擴散的新技術所定義。這些力量為我們創造巨大的繁榮，但也威脅到作為全球秩序基礎的民族國家。他既引領我們了解激進技術變革的歷史，又引領我們面對深刻的社會挑戰。
比爾·蓋茨說：「在巨浪般的時代，這本書是一部為你指引航向的作品。」作者在一開始告訴我們，技術浪潮影響了我們生活的方方面面，不僅僅能夠帶給我們好的生活，也可能會帶給我們災難。因此，技術浪潮必須進行遏制，那麼具體怎麼做呢？我們來了解一下本書。
認識技術浪潮
作者在書中提到，我們面臨的技術浪潮有三個：人工智能、生物科學和量子計算。書中提到，人工智能的大規模應用已如火如荼。放眼望去，軟件已經深入生活的方方面面，幫助我們搜集和分析海量數據。這些數據正用於訓練人工智能系統，使其能夠在我們日常生活的幾乎每個領域創造出更高效、更精準的產品。
同時，人工智能的獲取和使用也變得日益便捷：因為有了如 Meta 的 PyTorch（一個開源的深度學習框架）和 OpenAI 的應用程序編程接口（API）這樣的工具和基礎設施，非專業人士也能輕鬆掌握尖端的機器學習能力。此外，5G（第五代移動通信技術）網絡和其無所不及的連通性為我們構建了一個龐大且持續在線的用戶群體。
人工智能正逐步從演示階段過渡到現實世界的應用中。
正是因為這波技術浪潮的到來，我們必須面對一個重大的元問題，那就是一場更為廣泛的技術革命已然興起。在這場革命中，人工智能正推動新興的、強大的基因技術和機器人技術突飛猛進。
在這個錯綜複雜、多種技術相互交織的局面下，一個領域的進步會加速其他領域的發展，而這種相互強化的局面已經超出了任何人的直接掌控。
那麼面對這一問題，我們應該怎麼辦？首先我們來了解一下遏制技術浪潮需要面臨的困境。
2大困境
第一，人工智能可能導致大規模的失業。2010 年時，幾乎無人認真探討人工智能。如今，這個曾被視為僅屬於少數研究人員和企業家的研究任務，已經演變為一個吸引全球廣泛參與的宏大領域。人工智能無處不在。無論是在新聞報道中，還是在智能手機中，甚至在股票交易和網站建設的過程中，我們都能見到它的身影。
人工智能強大到什麼程度？比如人工智能可能會助力的網絡攻擊、可能引發國家毀滅的自動化戰爭、人工智能助力的網絡攻擊、可能引發國家毀滅的自動化戰爭等等。
它還能幹什麼？比如管理零售倉庫、提供郵件寫作建議、推薦歌曲、檢測欺詐行為、撰寫故事、診斷罕見疾病，甚至是模仿氣候變化。
你看，我們一些簡單的工作，都可以用人工智能來代替，這也意味着很多崗位已經不需要人來操作，這使我們變得更加高效、快捷，但同時也會帶來失業的風險。
第二，任何人都有可能製造出自然界中任何病原體，更具傳染性和致命性的新型病原體，甚至還可以通過網絡訂購和在家重組DNA的方式完成自治實驗，這也就是我們知道的合成生物學。
聽着好可怕。在合成生物學中DNA是一種生物進化的編碼和存儲系統。現在我們可以改變編碼，引導發展方向。
比如，CRISPR革命。19世紀開啟的對遺傳學和基因學的不斷探索。20世紀50年代，在羅莎琳德·富蘭克林和莫里斯·威爾金斯的研究基礎上，詹姆斯·沃森和弗朗西斯·克里克揭示了DNA的結構，即生物體生產指令的編碼分子。
1973年，斯坦利·科恩和赫伯特·博耶在細菌研究上取得了重大突破，成功地找到了一種生物的遺傳物質轉移到另一種生物中的方法，甚至將青蛙的DNA引入細菌中。這標誌着基因工程時代已經到來。
受這一研究的啟發，博耶於1976年創立了世界上第一家生物技術公司——基因泰克。基因泰克的核心任務就是操控微生物的基因，以開發藥物和治療方法。僅一年時間，就對大腸桿菌實現了基因改造，使之成功分泌出了激素生長抑素。
這也僅僅是一個開端，之後的基因合成，創造了新的生命篇章。作者說 ，技術的嚴格控制可能會催生一個反烏托邦式的全球監控體系，在這個體系下，一切事物和個體都將受到無間斷的監視。人們對預防最極端的潛在後果的渴望為這個監控體系提供了合理化的藉口。
同樣可能出現的是盧德主義式抵抗。一系列針對新技術的抗議、抵制和要求暫停的聲音可能出現。然而，放棄新技術的研發並全面暫停其應用，這可能嗎？答案似乎是否定的。
考慮到新技術所帶來的巨大地緣戰略和商業價值，我們很難想象有誰能輕易說服國家或企業單方面放棄這些技術所帶來的變革力量。此外，試圖阻止新技術的發展本身就是一種危險。歷史上，技術停滯的社會往往不穩定，容易崩潰。這樣的社會最終會喪失解決問題和實現進步的能力。
從當前的視角來看，無論是追求還是避免新技術都存在着巨大的風險。隨着技術變得更加便宜、強大，普及度更高，風險也在逐漸累積。在這些風險中尋找一條安全的「狹窄小道」，以避免陷入技術專制主義的反烏托邦或陷入技術開放可能帶來的災難，變得越來越困難。
然而，放任自流也非明智之舉。儘管我們對技術風險深感擔憂，但我們前所未有地需要即將到來的技術浪潮所帶來的巨大好處。這正是我們面臨的核心困境：新一代的強大技術遲早可能將人類引向災難性或反烏托邦式的局面。
即將到來的技術浪潮對國家的影響
最近的一次技術浪潮以大型計算機、台式計算機、電腦軟件、互聯網和智能手機的出現為標誌，為社會帶來了難以估量的利益。它為現代經濟帶來了新工具，極大地推動了經濟增長，並改變了我們獲取知識、娛樂和相互溝通的方式。
比如，社交媒體。社交媒體平台能夠輕易地觸發我們的本能情緒反應，我們會因感知到威脅信息而大量分泌腎上腺素。人們的情緒尤其是憤怒情緒越強烈，社交媒體上的活躍度就越高。
一項發表在《自然》雜誌上的元分析通過近 500 項研究結果發現，數字媒體使用的增加與人們對政治的不信任、民粹主義運動的興起、仇恨情緒的加劇以及政治極化的上升之間存在顯著相關性。儘管相關性並不等同於因果關係，但這一綜述確實呈現了新技術「對民主制度構成嚴重威脅的明確證據」。
技術已經逐漸侵蝕了民族國家原本穩固的主權邊界，它開啟了人口、信息、思想、經驗、商品、資本和財富的全球化流動，並不斷推動這一趨勢。
技術在地緣政治戰略中占據着舉足輕重的地位，它幾乎滲入了人類生活的方方面面。技術有重要的戰略價值，為數十億人所依賴，它已成為人類社會的一個核心角色，也是國家難以掌控的一股強大力量。
作者說，技術並沒有直接「導致」現代國家的誕生，或創造出現代國家（或任何其他政治結構）。但在這個歷史進程中，技術所釋放的力量絕不是中立的。，技術本身具有政治屬性。
書中提到，技術微妙的政治化影響無處不在，但常常被人們忽視。我們必須正視它。社交媒體就是最新的例證，它提醒我們，技術與政治組織是密不可分的；國家和技術之間緊密相連。
未來趨勢將主要沿着兩個方向發展，並可能產生一系列中間結果。
一方面，某些自由民主國家的內部社會結構會繼續削弱，最終演變為「殭屍政府」。這些國家雖然還保留着自由民主和傳統民族國家的外殼，但其核心功能將逐漸喪失，基本服務的質量持續下滑，政治體制也將變得不穩定。在缺乏可行的替代方案的情況下，這些國家的狀況會持續惡化，功能也越發紊亂。
另一方面，若不經思考地全盤接受即將到來的技術浪潮的某些要素，可能會導致國家控制力過度擴張，進而催生出比歷史上最極端的極權政府還要強大的超級權力體。威權政體同樣有可能陷入殭屍政府的狀態，但它們也有可能選擇加強權力控制，充分利用技術的強化效應，從而演變為純粹的技術獨裁政體。無論選擇哪一種路徑，原本維繫國家穩定的平衡都將被打破，使國家陷入混亂。
無論是國家體系的崩潰，還是威權政體的興起，都是災難性的情況。這不僅對這些國家和社會本身構成災難，對技術的治理同樣是巨大的打擊。我們絕不希望盲目無能的官僚機構、民粹主義的投機者或權力無邊的獨裁者控制那些強大的新技術。上述兩個發展方向無一能幫助我們遏制即將到來的技術浪潮。
在這樣的背景下，我們應當預見到這些技術和工具對經濟、民族國家及與之相關的一切產生的深遠影響。國家與人民之間的大契約已不再穩固，隨着新技術浪潮的洶湧來襲，一系列新的壓力因素將真正動搖其基礎。
對技術的遏制
那麼如何保持對強大技術的掌控和約束呢？作者分析了邁向「遏制」的10個關鍵步驟，為我們應對技術困境提供了可借鑑的路徑。分別是安全、技術命門、政府、企業、文化、開發者、聯盟、運動、狹窄小道和審計。
我們着重來說一下安全、審計和企業。
安全
首先是技術安全問題。很多時候我們會帶有偏見甚至明顯的種族主義傾向的語言，而這些語言可能誘導模型產出令人不悅、有害或者冒犯性的語言。我們需要持有謹慎和負責的態度，糾正這些模型的安全性。
包括，代碼和實驗室的安全。 我們需要提供大量的資源來確保技術安全。作者說，我們需要一個有效的立法提案，從而要求前沿技術企業將研發預算的固定部分，如至少20%，用於技術安全工作，並想政府工作組上報相關實質性研究成果，以支持技術安全工作的進展跟蹤和分享。
審計
知識就是力量，力量就是控制。作者說對技術創建安全的物理或者虛擬隔離是遠遠不夠的。實際上，實施有意義的監督，制定可執行的規則，並對技術執行情況進行審查，這些都非常重要。
因為只有進行審查我們才能驗證技術安全的進步以及監管措施是否能夠按預期發揮作用。
作者說，政府應該出資組建專業的審計團隊，對每個系統進行嚴格攻擊和壓力測試，確保在此過程中獲得洞見能在整個行業內廣泛共享。同時，能夠偵測那些看似無害、實則潛藏巨大風險的木馬攻擊。
企業
我們知道利潤驅動即將到來的技術浪潮。對於人工智能和合成生物學這樣的飛速發展的技術，我們必須探索新的、負責任且包容的商業模式，既要確保安全還要追求利潤。
作者說，傳統的組織架構已經落後了，之後追求的應該是混合型組織結構中找到平衡利潤和社會使命的方法，是應對未來挑戰的最佳途徑。
比如，作者創立Deep Mind公司被谷歌收購時，作者設立了「倫理與安全委員會」來監督技術，將治理範圍擴展到技術人員之外。也就是說，我們需要從不同的角度來控制和使用技術；不僅要管理技術人員，也要控制技術。做到公開透明，要具有法律約束力，要有問責制。
人工智能和生物技術給人類生存帶來了威脅，作者提出了應對這些威脅的實用方案。雖然即將到來的技術浪潮預示着人類將擁有近乎神的創造力，但如果我們處理不當，這股力量也可能毀滅我們自己。
所以，作者認為，我們既要積極擁抱這些技術，又需制定周密的遏制策略和安全措施，以保證新技術的健康發展。
