浪潮将至-读书笔记
这本书认为，在人工智能、生物技术和量子计算等领域的推动下，我们正站在人类历史的一个关键节点上，这个节点将塑造我们未来的走向。人工智能已经渗透到我们生活的方方面面，预示着一切都将发生变革。
我们已被人工智能包围，生活中的一切都将改变。人工智能将组织我们的生活，经营我们的生意，管理核心的政府服务。我们将生活在一个有DNA打印机、量子计算机和机器人助手的能源丰富的世界里。
作者穆斯塔法·苏莱曼一直处于这场浪潮的中心。他认为，未来10年将被这一波强大、快速扩散的新技术所定义。这些力量为我们创造巨大的繁荣，但也威胁到作为全球秩序基础的民族国家。他既引领我们了解激进技术变革的历史，又引领我们面对深刻的社会挑战。
比尔·盖茨说：“在巨浪般的时代，这本书是一部为你指引航向的作品。”作者在一开始告诉我们，技术浪潮影响了我们生活的方方面面，不仅仅能够带给我们好的生活，也可能会带给我们灾难。因此，技术浪潮必须进行遏制，那么具体怎么做呢？我们来了解一下本书。
认识技术浪潮
作者在书中提到，我们面临的技术浪潮有三个：人工智能、生物科学和量子计算。书中提到，人工智能的大规模应用已如火如荼。放眼望去，软件已经深入生活的方方面面，帮助我们搜集和分析海量数据。这些数据正用于训练人工智能系统，使其能够在我们日常生活的几乎每个领域创造出更高效、更精准的产品。
同时，人工智能的获取和使用也变得日益便捷：因为有了如 Meta 的 PyTorch（一个开源的深度学习框架）和 OpenAI 的应用程序编程接口（API）这样的工具和基础设施，非专业人士也能轻松掌握尖端的机器学习能力。此外，5G（第五代移动通信技术）网络和其无所不及的连通性为我们构建了一个庞大且持续在线的用户群体。
人工智能正逐步从演示阶段过渡到现实世界的应用中。
正是因为这波技术浪潮的到来，我们必须面对一个重大的元问题，那就是一场更为广泛的技术革命已然兴起。在这场革命中，人工智能正推动新兴的、强大的基因技术和机器人技术突飞猛进。
在这个错综复杂、多种技术相互交织的局面下，一个领域的进步会加速其他领域的发展，而这种相互强化的局面已经超出了任何人的直接掌控。
那么面对这一问题，我们应该怎么办？首先我们来了解一下遏制技术浪潮需要面临的困境。
2大困境
第一，人工智能可能导致大规模的失业。2010 年时，几乎无人认真探讨人工智能。如今，这个曾被视为仅属于少数研究人员和企业家的研究任务，已经演变为一个吸引全球广泛参与的宏大领域。人工智能无处不在。无论是在新闻报道中，还是在智能手机中，甚至在股票交易和网站建设的过程中，我们都能见到它的身影。
人工智能强大到什么程度？比如人工智能可能会助力的网络攻击、可能引发国家毁灭的自动化战争、人工智能助力的网络攻击、可能引发国家毁灭的自动化战争等等。
它还能干什么？比如管理零售仓库、提供邮件写作建议、推荐歌曲、检测欺诈行为、撰写故事、诊断罕见疾病，甚至是模仿气候变化。
你看，我们一些简单的工作，都可以用人工智能来代替，这也意味着很多岗位已经不需要人来操作，这使我们变得更加高效、快捷，但同时也会带来失业的风险。
第二，任何人都有可能制造出自然界中任何病原体，更具传染性和致命性的新型病原体，甚至还可以通过网络订购和在家重组DNA的方式完成自治实验，这也就是我们知道的合成生物学。
听着好可怕。在合成生物学中DNA是一种生物进化的编码和存储系统。现在我们可以改变编码，引导发展方向。
比如，CRISPR革命。19世纪开启的对遗传学和基因学的不断探索。20世纪50年代，在罗莎琳德·富兰克林和莫里斯·威尔金斯的研究基础上，詹姆斯·沃森和弗朗西斯·克里克揭示了DNA的结构，即生物体生产指令的编码分子。
1973年，斯坦利·科恩和赫伯特·博耶在细菌研究上取得了重大突破，成功地找到了一种生物的遗传物质转移到另一种生物中的方法，甚至将青蛙的DNA引入细菌中。这标志着基因工程时代已经到来。
受这一研究的启发，博耶于1976年创立了世界上第一家生物技术公司——基因泰克。基因泰克的核心任务就是操控微生物的基因，以开发药物和治疗方法。仅一年时间，就对大肠杆菌实现了基因改造，使之成功分泌出了激素生长抑素。
这也仅仅是一个开端，之后的基因合成，创造了新的生命篇章。作者说 ，技术的严格控制可能会催生一个反乌托邦式的全球监控体系，在这个体系下，一切事物和个体都将受到无间断的监视。人们对预防最极端的潜在后果的渴望为这个监控体系提供了合理化的借口。
同样可能出现的是卢德主义式抵抗。一系列针对新技术的抗议、抵制和要求暂停的声音可能出现。然而，放弃新技术的研发并全面暂停其应用，这可能吗？答案似乎是否定的。
考虑到新技术所带来的巨大地缘战略和商业价值，我们很难想象有谁能轻易说服国家或企业单方面放弃这些技术所带来的变革力量。此外，试图阻止新技术的发展本身就是一种危险。历史上，技术停滞的社会往往不稳定，容易崩溃。这样的社会最终会丧失解决问题和实现进步的能力。
从当前的视角来看，无论是追求还是避免新技术都存在着巨大的风险。随着技术变得更加便宜、强大，普及度更高，风险也在逐渐累积。在这些风险中寻找一条安全的“狭窄小道”，以避免陷入技术专制主义的反乌托邦或陷入技术开放可能带来的灾难，变得越来越困难。
然而，放任自流也非明智之举。尽管我们对技术风险深感担忧，但我们前所未有地需要即将到来的技术浪潮所带来的巨大好处。这正是我们面临的核心困境：新一代的强大技术迟早可能将人类引向灾难性或反乌托邦式的局面。
即将到来的技术浪潮对国家的影响
最近的一次技术浪潮以大型计算机、台式计算机、电脑软件、互联网和智能手机的出现为标志，为社会带来了难以估量的利益。它为现代经济带来了新工具，极大地推动了经济增长，并改变了我们获取知识、娱乐和相互沟通的方式。
比如，社交媒体。社交媒体平台能够轻易地触发我们的本能情绪反应，我们会因感知到威胁信息而大量分泌肾上腺素。人们的情绪尤其是愤怒情绪越强烈，社交媒体上的活跃度就越高。
一项发表在《自然》杂志上的元分析通过近 500 项研究结果发现，数字媒体使用的增加与人们对政治的不信任、民粹主义运动的兴起、仇恨情绪的加剧以及政治极化的上升之间存在显著相关性。尽管相关性并不等同于因果关系，但这一综述确实呈现了新技术“对民主制度构成严重威胁的明确证据”。
技术已经逐渐侵蚀了民族国家原本稳固的主权边界，它开启了人口、信息、思想、经验、商品、资本和财富的全球化流动，并不断推动这一趋势。
技术在地缘政治战略中占据着举足轻重的地位，它几乎渗入了人类生活的方方面面。技术有重要的战略价值，为数十亿人所依赖，它已成为人类社会的一个核心角色，也是国家难以掌控的一股强大力量。
作者说，技术并没有直接“导致”现代国家的诞生，或创造出现代国家（或任何其他政治结构）。但在这个历史进程中，技术所释放的力量绝不是中立的。，技术本身具有政治属性。
书中提到，技术微妙的政治化影响无处不在，但常常被人们忽视。我们必须正视它。社交媒体就是最新的例证，它提醒我们，技术与政治组织是密不可分的；国家和技术之间紧密相连。
未来趋势将主要沿着两个方向发展，并可能产生一系列中间结果。
一方面，某些自由民主国家的内部社会结构会继续削弱，最终演变为“僵尸政府”。这些国家虽然还保留着自由民主和传统民族国家的外壳，但其核心功能将逐渐丧失，基本服务的质量持续下滑，政治体制也将变得不稳定。在缺乏可行的替代方案的情况下，这些国家的状况会持续恶化，功能也越发紊乱。
另一方面，若不经思考地全盘接受即将到来的技术浪潮的某些要素，可能会导致国家控制力过度扩张，进而催生出比历史上最极端的极权政府还要强大的超级权力体。威权政体同样有可能陷入僵尸政府的状态，但它们也有可能选择加强权力控制，充分利用技术的强化效应，从而演变为纯粹的技术独裁政体。无论选择哪一种路径，原本维系国家稳定的平衡都将被打破，使国家陷入混乱。
无论是国家体系的崩溃，还是威权政体的兴起，都是灾难性的情况。这不仅对这些国家和社会本身构成灾难，对技术的治理同样是巨大的打击。我们绝不希望盲目无能的官僚机构、民粹主义的投机者或权力无边的独裁者控制那些强大的新技术。上述两个发展方向无一能帮助我们遏制即将到来的技术浪潮。
在这样的背景下，我们应当预见到这些技术和工具对经济、民族国家及与之相关的一切产生的深远影响。国家与人民之间的大契约已不再稳固，随着新技术浪潮的汹涌来袭，一系列新的压力因素将真正动摇其基础。
对技术的遏制
那么如何保持对强大技术的掌控和约束呢？作者分析了迈向“遏制”的10个关键步骤，为我们应对技术困境提供了可借鉴的路径。分别是安全、技术命门、政府、企业、文化、开发者、联盟、运动、狭窄小道和审计。
我们着重来说一下安全、审计和企业。
安全
首先是技术安全问题。很多时候我们会带有偏见甚至明显的种族主义倾向的语言，而这些语言可能诱导模型产出令人不悦、有害或者冒犯性的语言。我们需要持有谨慎和负责的态度，纠正这些模型的安全性。
包括，代码和实验室的安全。 我们需要提供大量的资源来确保技术安全。作者说，我们需要一个有效的立法提案，从而要求前沿技术企业将研发预算的固定部分，如至少20%，用于技术安全工作，并想政府工作组上报相关实质性研究成果，以支持技术安全工作的进展跟踪和分享。
审计
知识就是力量，力量就是控制。作者说对技术创建安全的物理或者虚拟隔离是远远不够的。实际上，实施有意义的监督，制定可执行的规则，并对技术执行情况进行审查，这些都非常重要。
因为只有进行审查我们才能验证技术安全的进步以及监管措施是否能够按预期发挥作用。
作者说，政府应该出资组建专业的审计团队，对每个系统进行严格攻击和压力测试，确保在此过程中获得洞见能在整个行业内广泛共享。同时，能够侦测那些看似无害、实则潜藏巨大风险的木马攻击。
企业
我们知道利润驱动即将到来的技术浪潮。对于人工智能和合成生物学这样的飞速发展的技术，我们必须探索新的、负责任且包容的商业模式，既要确保安全还要追求利润。
作者说，传统的组织架构已经落后了，之后追求的应该是混合型组织结构中找到平衡利润和社会使命的方法，是应对未来挑战的最佳途径。
比如，作者创立Deep Mind公司被谷歌收购时，作者设立了“伦理与安全委员会”来监督技术，将治理范围扩展到技术人员之外。也就是说，我们需要从不同的角度来控制和使用技术；不仅要管理技术人员，也要控制技术。做到公开透明，要具有法律约束力，要有问责制。
人工智能和生物技术给人类生存带来了威胁，作者提出了应对这些威胁的实用方案。虽然即将到来的技术浪潮预示着人类将拥有近乎神的创造力，但如果我们处理不当，这股力量也可能毁灭我们自己。
所以，作者认为，我们既要积极拥抱这些技术，又需制定周密的遏制策略和安全措施，以保证新技术的健康发展。
