【CXO观点】Anthropic 首席执行官CEO Dario Amodei预测：通用人工智能将彻底改变一切！

AI 的发展那么快，我们如何找到一个平衡点？Claude 公司的 CEO Dario Amodei 在他最新的长文《 Machines of Loving Grace 》中，深入探讨了强人工智能对社会的积极影响。凭借他在生物学和神经科学方面的扎实基础，他的论点逻辑严谨，为我们呈现了一个既振奋人心又充满复杂性的未来蓝图。

文章特别指出，AI在生物技术领域的应用，如mRNA疫苗和CAR-T细胞疗法，展现了极高的智力回报潜力，预示着精准医疗的未来。然而，AI的力量并非单纯的福音，它既能推动人类生活质量的提升，也可能引发复杂的道德和社会难题。如何在享受AI带来的便利时，兼顾潜在的风险成为我们必须面临的挑战。文章强调，片面地依赖AI或完全抵制这一技术都是不现实的，我们需要在理性与感性之间找到一个均衡点。

此外，作者提到，强大的AI不仅可以在特定任务中超越人类的智力，还可能在破解经济发展与贫困、和平治理等重大社会问题上发挥关键作用。AI能够通过优化资源分配和提升决策效率，为发展中国家带来前所未有的经济增长机会。这意味着，AI的实际应用需要在政策制定者的支持和跨学科的合作下，推动技术的正向发展。Amodei 在其文章中提出了一系列引人注目的大胆预测，让我们一探究竟：

• 确保可解释性与安全性：Amodei 强调，提升 AI 系统的可靠性与可控性是发展的核心，而 Altman 则着眼于 AI 在商业化进程中的实际应用。
• 强人工智能的崛起：Amodei 预测，强人工智能（AGI）将在 2026 年前问世，这将为人类历史翻开崭新一页。
• 人类寿命的延长：在未来的 5到 10 年内，人类的平均寿命有望显著提升，疾病的治愈率也将大幅改善，健康福利将扩展到更加贫困的地区。
• 精神健康的突破：大多数精神障碍将有望被治愈，体重管理将变得更加高效，使更多人受益。
• 抗击各种疾病：绝大多数传染病与癌症有可能被根除，老年痴呆症的预防也将迎来新的希望。
• 生物医学的迅速进展：强人工智能的引入预计能将 21 世纪 50 到100 年的生物医学演变压缩到短短 5到 10 年，带来人类空前的科技进步。

在这场全新的技术革命中，我们是否已做好迎接未来的准备？本篇文章为您翻译了这篇引人深思的文章，带您一同探索AI的潜力及其深远影响，从而获得新的洞察与思考。

一、AI 如何能改善世界

我经常思考和讨论强大 AI 所带来的风险。我所领导的公司 Anthropic 在降低这些风险方面进行了大量研究。因此，有时人们会得出结论，认为我是一个悲观主义者或“末日论者”，认为 AI 大多数情况下会是坏的或危险的。但我并不这样认为。实际上，我专注于风险的主要原因之一是，它们是我们与我所认为的根本积极未来之间的唯一障碍。我认为大多数人低估了 AI 的潜在好处有多么巨大，就像我认为大多数人低估了风险可能有多么严重一样。在这篇文章中，我试图描绘出那种积极的前景——如果一切顺利，拥有强大 AI 的世界会是什么样子。

当然，没有人能以任何确定性或精确性预测未来，而强大 AI 的影响可能比以往的技术变革更加不可预测，因此这一切不可避免地只能依赖猜测。但我希望至少能提供一些有根据且有用的猜测，捕捉到即使大多数细节最终是错误的情况下将会发生的事情的本质。我之所以包含很多细节，主要是因为我认为具体的愿景比高度保守和抽象的愿景更能推动讨论。首先，我想简要说明一下为什么我和 Anthropic 没有过多讨论强大 AI 的好处，以及我们可能会继续主要关注风险的原因。特别是，我做出这个选择是出于一种愿望：

• 最大化杠杆。AI 技术的基本发展及其许多（但并非全部）好处似乎是不可避免的（除非风险导致一切失控），而这一切基本上是由强大的市场力量推动的。另一方面，风险并不是注定的，我们的行动可以显著改变它们发生的可能性。
• 避免给人宣传的印象。AI 家公司谈论 AI 的种种好处，可能会让人觉得他们在做宣传，或者试图转移对缺点的注意。我认为，从原则上讲，花太多时间“宣传自己的观点”对个人的内心是有害的。
• 避免夸大其词。我常常对许多 AI 公共人物（更不用说 AI 公司领导）谈论后 AGI 世界的方式感到反感，仿佛他们的使命是像先知一样单枪匹马地推动这一进程，带领他们的人民走向救赎。我认为将公司视为单方面塑造世界是危险的，同时将实际的技术目标视为宗教信仰也是危险的。
• 避免“科幻”包袱。虽然我认为大多数人低估了强大 AI 的潜力，但讨论激进 AI 未来的小圈子往往以过于“科幻”的语气进行讨论（例如，涉及上传意识、太空探索或一般的赛博朋克氛围）。我认为这使得人们对这些主张的认真程度降低，并赋予它们一种不真实的感觉。需要明确的是，问题不在于所描述的技术是否可能或可行（主要文章对此进行了详细讨论）——更重要的是，这种“氛围”隐含地带入了一些文化包袱和未表述的假设，关于什么样的未来是理想的，各种社会问题将如何发展等。这个结果常常让人感觉像是一个狭隘亚文化的幻想，而对大多数人来说却显得很不吸引。

尽管有上述所有担忧，我仍然认为讨论一个拥有强大 AI 的美好世界可能是什么样子是非常重要的，同时我们要尽量避免这些陷阱。实际上，我认为拥有一个真正鼓舞人心的未来愿景至关重要，而不仅仅是一个应对危机的计划。强大 AI 的许多影响可能是对立或危险的，但最终，我们必须为某种目标而奋斗，追求一个让每个人都能受益的积极结果，激励人们超越争吵，迎接未来的挑战。恐惧是一种动机，但这还不够：我们同样需要希望。强大的 AI 的积极应用非常广泛（涵盖机器人、制造、能源等多个领域），但我将重点关注一些我认为最有潜力直接提升人类生活质量的领域。我最兴奋的五个类别是：

1. 生物学与身体健康
2. 神经科学与心理健康领域
3. 经济发展与贫困问题
4. 和平与治理的关系
5. 工作与生活的意义

我的预测可能会被大多数标准（除了科幻“奇点”视角）视为激进，但我是真诚和认真地表达这些观点。我所说的一切都可能是错误的（重申我之前的观点），但我至少尝试将我的看法建立在对各个领域可能加速进展的半分析性评估上，以及这在实践中可能意味着什么。我很幸运在生物学和神经科学方面有专业经验，并且在经济发展领域是一个有见识的业余爱好者，但我相信我会犯很多错误。写这篇文章让我意识到，聚集一群领域专家（如生物学、经济学、国际关系等）共同撰写一个更好、更具深度的版本是非常有价值的。我在这里的努力可以视为该小组的一个起点。

二、基本假设与框架

为了使整篇论文更加精确和扎实，明确我们所说的“强大”AI（即 5-10 年计时开始的阈值）是非常重要的，同时也需要建立一个框架来思考一旦出现这样的 AI 所带来的影响。什么样的强大 AI（我不喜欢称其为 AGI）将会出现，以及它何时（或是否）会到来，都是一个庞大的话题。我曾公开讨论过这个问题，未来可能会写一篇独立的文章。显然，许多人对强大 AI 能否很快被开发出来持怀疑态度，甚至有人怀疑它是否会被开发出来。我认为它可能会在 2026 年早些时候出现，尽管也有可能需要更长的时间。但为了这篇文章的目的，我想暂时搁置这些问题，假设它会在合理的时间内到来，并关注之后 5-10 年会发生什么。我还想假设一个这样的系统将会是什么样子，它的能力是什么，以及它是如何进行互动的，尽管在这方面可能存在不同的看法。通过强大的 AI，我设想了一个 AI 模型——可能在形式上与今天的 LLM 相似，但它可能基于不同的架构，可能涉及多个相互作用的模型，并且可能采用不同的训练方式——具备以下特性：

• 从纯粹的智力来看，它在生物学、编程、数学、工程、写作等大多数相关领域的表现都超过了诺贝尔奖得主。这意味着它能够证明未解决的数学定理，创作出极佳的小说，以及从头开始编写复杂的代码库等。
• 除了仅仅是一个“你可以交谈的智能设备”，它还具备人类在虚拟工作中所需的所有“接口”，包括文本、音频、视频、鼠标和键盘控制，以及互联网访问。它能够执行通过这些接口启用的各种操作、沟通或远程任务，包括在互联网上进行操作、给人类指示、订购材料、指导实验、观看视频、制作视频等。它以超越世界上最优秀人类的技能完成所有这些任务。
• 它不仅仅是被动回答问题；相反，它可以接受需要几个小时、几天或几周才能完成的任务，然后像一个聪明的员工一样自主完成这些任务，并在必要时请求澄清。
• 它没有实体形态（除了存在于计算机屏幕上），但可以通过计算机控制现有的物理工具、机器人或实验室设备；理论上，它甚至可以为自己设计机器人或设备来使用。
• 用于训练模型的资源可以重新利用，以运行数百万个实例（这与预计到 2027 年的集群规模相符），而且该模型能够以大约 10 到 100 倍于人类的速度吸收信息并生成行动。然而，它可能会受到物理世界或与之交互的软件响应时间的限制。
• 这百万份副本中的每一个都可以独立处理无关的任务，或者在需要时可以像人类一样协作，可能会有不同的子群体被特别调校，以便在某些特定任务上表现得更出色。

我们可以将其概括为“一个充满天才的数据中心国家”。显然，这样的实体能够非常快速地解决极其复杂的问题，但要准确判断其速度并不简单。两种“极端”观点在我看来都是错误的。首先，有人可能认为世界会在几秒钟或几天内瞬间发生变化（即“奇点”），因为更高级的智能不断自我增强，几乎立刻解决所有可能的科学、工程和操作任务。然而，问题在于，实际上存在一些物理和实际的限制，例如在硬件构建或生物实验方面。

即使是一个天才汇聚的新国家也会面临这些限制。智能可能非常强大，但它并不是魔法。其次，相反地，你可能认为技术进步已经饱和，或者受到现实世界数据或社会因素的限制，而超越人类的智能几乎不会带来什么贡献。在我看来，这同样不太可信——我能想到数百个科学甚至社会问题，在这些问题上，一大群真正聪明的人会显著加速进展，尤其是当他们不仅限于分析，而是能够在现实世界中付诸实践时（我们假设的天才国家正是如此，包括指导或协助人类团队）。我认为真相可能是这两种极端观点的复杂混合，因任务和领域的不同而有所变化，且在细节上非常微妙。我相信我们需要新的框架，以更有效的方式来思考这些细节。

经济学家们常常谈论“生产要素”，例如劳动、土地和资本。“劳动/土地/资本的边际收益”这个短语传达了在特定情况下，某一要素可能是限制性要素，也可能不是——例如，空军需要飞机和飞行员，如果没有飞机，雇佣更多的飞行员也无济于事。我认为在 AI 时代，我们应该讨论智力的边际收益，并试图弄清楚与智力互补的其他要素是什么，以及当智力非常高时，哪些要素会成为限制性因素。我们不习惯以这种方式思考——问“变得更聪明对这个任务的帮助有多大，以及在什么时间尺度上？”“——但这似乎是构想一个拥有非常强大 AI 的世界的正确方式。我猜测限制或补充智力的因素包括：

• 外部世界的速度。智能代理需要在世界中进行互动，以完成任务和学习。然而，世界的移动速度是有限的。细胞和动物以固定的速度运行，因此对它们的实验需要一定的时间，这个时间可能是不可缩短的。硬件、材料科学、与人沟通的任何事情，甚至我们现有的软件基础设施也是如此。此外，在科学研究中，许多实验通常需要按顺序进行，每个实验都在前一个实验的基础上进行学习或构建。这意味着，一个重大项目的完成速度——例如开发癌症治疗方法——可能存在一个不可减少的最低限度，即使智能水平不断提高，这个速度也无法进一步降低。
• 需要数据。有时原始数据不足，缺乏数据时，更多的智能也无济于事。如今的粒子物理学家非常聪明，已经提出了多种理论，但由于粒子加速器的数据非常有限，他们无法在这些理论中做出选择。如果他们变得超级智能，是否会有显著的改善并不明确——除了可能加快建造更大加速器的速度。
• 内在复杂性。有些事物本质上是不可预测或混乱的，即使是最强大的 AI 也无法比今天的人类或计算机更好地预测或解开它们。例如，即使是极其强大的 AI 在混沌系统（如三体问题）中，通常也只能比今天的人类和计算机稍微预测得更远一些。
• 来自人类的约束。许多事情在不违反法律、伤害人类或扰乱社会的情况下是无法实现的。一个对齐的 AI 不会想要做这些事情（而如果我们有一个不对齐的 AI，那么我们又回到了讨论风险的问题）。许多人类社会结构效率低下，甚至可能是有害的，但在尊重法律要求、人民改变习惯的意愿或政府行为等约束条件下，很难进行改变。技术上运作良好的进步例子，包括核能、超音速飞行，甚至电梯，但由于法规或错误的恐惧，其影响大大降低。
• 物理法则。这是第一点的更严厉版本。有些物理法则似乎是不可打破的。无法以超过光速的速度旅行。布丁不会被搅拌。芯片每平方厘米的晶体管数量有限，超过这个数量就会变得不可靠。计算需要每擦除一个比特所需的最低能量，这限制了世界上计算的密度。

根据时间尺度的不同，我们可以进一步区分。在短期内被视为硬性约束的事物，可能在长期内变得更加灵活。例如，智能可以用于开发新的实验范式，使我们能够在体外学习，而不再依赖活体动物实验；或者构建收集新数据所需的工具（例如，更大的粒子加速器）；又或者在伦理限制内寻找绕过人类约束的方法（例如，帮助改善临床试验系统，创建官僚主义较少的新临床试验管辖区，或改善科学本身，以减少人类临床试验的必要性或降低其成本）。因此，我们应该想象一个场景，最初智能受到其他生产要素的严重制约，但随着时间的推移，智能逐渐能够绕过这些要素，尽管它们从未完全消失（例如，物理法则是绝对的）。关键问题在于这一切发生的速度和顺序。在考虑到上述框架的基础上，我将尝试回答引言中提到的五个领域的问题。

1. 生物学与健康

生物学可能是科学进步中最有潜力直接和明确改善人类生活质量的领域。在过去的一个世纪里，一些最古老的人类疾病（如天花）终于被征服，但仍有许多疾病存在，战胜它们将是一个巨大的 humanitarian 成就。除了治愈疾病，生物科学原则上还可以改善人类健康的基本水平，通过延长健康寿命、增强对自身生物过程的控制和自由，以及解决我们目前认为是人类状况不可改变的日常问题。

在前一部分提到的“限制因素”中，直接将智能应用于生物学的主要挑战包括数据、物理世界的速度以及内在的复杂性（实际上，这三者是相互关联的）。在人类的限制方面，尤其是在涉及临床试验时，后期也会产生影响。让我们逐一探讨这些问题。

对细胞、动物甚至化学过程的实验受到物理世界速度的限制：许多生物学实验需要培养细菌或其他细胞，或者只是等待化学反应的发生，这有时可能需要几天甚至几周，而没有明显的方法来加快这一过程。动物实验可能需要几个月（甚至更长时间），而人类实验通常需要几年（甚至几十年用于长期结果研究）。与此相关的是，数据往往缺乏——不是数量上的缺乏，而是质量上的缺乏：总是缺少清晰、明确的数据，这些数据能够将感兴趣的生物效应与其他 10,000 个混杂因素区分开来，或者在特定过程中起到因果干预作用，或者直接测量某种效应（而不是以某种间接或嘈杂的方式推断其后果）。即使是我在研究质谱技术时收集的大量定量分子数据，如蛋白质组学数据，也很嘈杂，且遗漏了很多信息（这些蛋白质存在于哪种细胞中？细胞的哪个部分？在细胞周期的哪个阶段？) 。

这些数据问题部分源于内在的复杂性：如果你曾见过展示人类新陈代谢生物化学的图表，就会知道很难单独分析这个复杂系统中任何部分的影响，甚至更难以精确或可预测的方式对系统进行干预。最后，除了进行人类实验所需的时间外，实际的临床试验还涉及大量的官僚程序和监管要求，这在许多人（包括我）看来，增加了不必要的时间延误，阻碍了进展。

鉴于这一切，许多生物学家长期以来对 AI 和“海量数据”在生物学中的价值持怀疑态度。历史上，过去 30 年来，许多数学家、计算机科学家和物理学家在生物学领域取得了相当大的成功，但并没有实现最初所期望的真正变革性影响。像 AlphaFold（刚刚理所当然地为其创造者赢得了诺贝尔化学奖）和 AlphaProteo11 这样的重大突破在一定程度上减轻了这种怀疑，但仍然有人认为 AI 仅在有限的情况下有用，并将继续如此。常见的说法是“AI 可以更好地分析你的数据，但它无法产生更多的数据或提高数据的质量。” 进垃圾，出垃圾。

但我认为这种悲观的观点是错误地看待 AI。如果我们关于 AI 进展的核心假设是正确的，那么正确理解 AI 的方式不是将其视为数据分析的方法，而是将其视为一个虚拟生物学家，能够执行生物学家所做的所有任务，包括设计和进行现实世界中的实验（通过控制实验室机器人或简单地告诉人类进行哪些实验——就像首席研究员对研究生所做的那样），发明新的生物方法或测量技术，等等。正是通过加速整个研究过程，AI 才能真正推动生物学的发展。我想重申这一点，因为这是我在谈论 AI 的生物转化能力时最常见的误解：我并不是在将 AI 视为仅仅是一个分析数据的工具。根据本文开头对强大 AI 的定义，我是在谈论如何使用 AI 来执行、指导和改进生物学家所做的几乎所有工作。

为了更具体地说明我认为加速可能来自何处，生物学的进展中，令人惊讶的是，绝大部分来自于极少数的发现，这些发现通常与广泛的测量工具或技术有关，这些工具或技术能够对生物系统进行精确、通用或可编程的干预。每年大约有 1 个这样的重大发现，集体上它们可以说推动了生物学进展的超过 50%。这些发现之所以如此强大，正是因为它们突破了内在的复杂性和数据限制，直接增强了我们对生物过程的理解和控制。几十年来的一些发现不仅帮助我们建立了对生物学的基本科学理解，还推动了许多强效的医疗治疗。一些示例包括：

• CRISPR 是一种可以实时编辑活生物体中任何基因的技术（即将任意基因序列替换为其他任意序列）。自从该技术首次开发以来，针对特定细胞类型的靶向、提高准确性以及减少错误基因编辑的持续改进，都是确保其在人体安全使用所必需的。
• 各种显微镜用于精确观察事物的细节：先进的光学显微镜（配备多种荧光技术、特殊光学等）、电子显微镜、原子力显微镜等。
• 基因组测序和合成的成本在过去几十年里大幅降低。
• 光遗传学技术使你能够通过照射光线来激活神经元。
• mRNA 疫苗原则上使我们能够设计针对任何疾病的疫苗，并迅速进行调整（mRNA 疫苗在 COVID 期间变得非常著名）。
• 像 CAR-T 这样的细胞疗法可以将免疫细胞从体内提取出来，并“重新编程”使其能够攻击几乎任何目标。
• 概念性见解，例如疾病的细菌理论或免疫系统与癌症之间联系的认识。

我之所以列出这些技术，是因为我想做一个重要的声明：我认为如果有更多有才华和创造力的研究人员，它们的发现速度可以提高 10 倍或更多。换句话说，我认为这些发现的智力回报非常高，而生物学和医学中的其他内容大多都是基于这些发现的。

我为什么会这样想呢？因为在我们试图确定“智力的回报”时，应该养成问一些问题的习惯。首先，这些发现通常是由少数研究人员做出的，往往是同一群人反复进行，这表明这是技能而非随机搜索（后者可能意味着漫长的实验是限制因素）。其次，这些发现往往“本可以在”几年前就被提出：例如，CRISPR 是细菌免疫系统中自然存在的成分，自 80 年代以来就已知，但人们花了 25 年才意识到它可以被重新用于一般的基因编辑。他们往往因为缺乏科学界对有前景方向的支持而延迟多年（请参见关于 mRNA 疫苗发明者的简介；类似的故事屡见不鲜）。第三，成功的项目往往是临时起意，或者是人们最初并不认为有前景的想法，而不是那些获得大量资金支持的项目。这表明，推动发现的因素不仅仅是资源的集中，还有创造力。

最后，尽管这些发现中有些存在“序列依赖性”（即需要先进行发现 A，才能获得进行发现 B 所需的工具或知识），这可能会导致实验延迟，但许多，甚至大多数发现都是独立的，这意味着可以同时并行进行许多研究。这两个事实，以及我作为生物学家的整体经验，强烈表明，如果科学家们能够更聪明、更善于在我们人类所拥有的庞大生物知识之间建立联系，那么还有数百个这样的发现等待被发掘（再考虑一下 CRISPR 的例子）。AlphaFold/AlphaProteo 在解决重要问题时，比人类更有效，尽管经过数十年的精心设计的物理建模，这证明了一个原则（尽管是在一个狭窄的工具和领域中），应该为未来的发展指明方向。

因此，我猜测强大的 AI 至少可以将这些发现的速度提高 10 倍，让我们在 5 到 10 年内实现未来 50 到 100 年的生物学进展。为什么不提高到 100 倍呢？也许这是可能的，但在这种情况下，序列依赖性和实验时间变得非常重要：在 1 年内获得 100 年的进展需要很多事情第一次就顺利进行，包括动物实验以及设计显微镜或昂贵的实验室设施等。我实际上对这个（也许听起来有些荒谬的）想法持开放态度，即我们可以在 5 到 10 年内获得 1000 年的进展，但我对能否在 1 年内获得 100 年的进展持非常怀疑的态度。另一种说法是，我认为存在一个不可避免的恒定延迟：实验和硬件设计有一定的“延迟”，需要经过一定的“不可减少”的次数进行迭代，才能学习那些无法通过逻辑推理得出的知识。不过，在此基础上可能实现大规模的并行处理。

临床试验怎么样？尽管与之相关的官僚程序和延误很多，但实际上，它们的缓慢（虽然并非全部！）主要源于对那些几乎无效或效果模糊的药物进行严格评估的需要。可悲的是，这在当今大多数疗法中都是如此：平均而言，癌症药物只能延长几个月的生存期，同时伴随有需要仔细评估的显著副作用（阿尔茨海默病药物也有类似的情况）。这导致了大规模的研究（为了获得统计效能）和监管机构通常不擅长做出的复杂权衡，这再次是由于官僚程序和竞争利益的复杂性。

当某项工作进展顺利时，速度会大大加快：有一个加速审批通道，效应越明显，审批的便利性就越高。COVID 的 mRNA 疫苗在 9 个月内获得批准，速度远快于通常的进程。尽管如此，即便在这样的条件下，临床试验仍然显得过于缓慢——mRNA 疫苗实际上应该在大约 2 个月内获得批准。然而，这种延迟（药物的整体周期约为 1 年）与大规模并行化以及适度的迭代需求（“几次尝试”）结合在一起，非常适合在 5 到 10 年内实现彻底的变革。更加乐观地说，启用 AI 的生物科学可能通过开发更精准的动物和细胞实验模型（甚至是模拟）来减少临床试验中的迭代需求，从而更准确地预测人类的反应。这在开发针对衰老过程的药物时尤为重要，因为衰老过程持续数十年，我们需要更快的迭代周期。

最后，关于临床试验和社会障碍的话题，值得明确指出的是，在某些方面，生物医学创新的成功应用记录非常突出，这与其他一些技术形成了鲜明对比。如前言所述，许多技术尽管在技术上表现良好，却受到社会因素的制约。这可能会让人对 AI 的成就产生悲观的看法。然而，生物医学的独特之处在于，尽管药物开发过程非常繁琐，但一旦成功开发，通常能够顺利应用和使用。

总结上述内容，我的基本预测是，AI 技术驱动的生物学和医学将使我们能够在 5 到 10 年内实现人类生物学家在接下来的 50 到 100 年中可能取得的所有进展。我将其称为“压缩的 21 世纪”：这个概念是，在强大的 AI 技术开发之后，我们将在短短几年内取得整个 21 世纪应有的生物学和医学进展。

尽管预测强大的 AI 在未来几年能做什么本质上仍然困难且充满不确定性，但询问“人类在接下来的 100 年中能在没有外部帮助的情况下做些什么？”是一个相对具体的问题。仅仅回顾我们在 20 世纪取得的成就，或者从 21 世纪的前 20 年进行推测，或者考虑“10 个 CRISPR 和 50 个 CAR-T”能带来的成果，所有这些都为我们提供了实用且切实可行的方式来估计我们可能期待的强大 AI 的整体进展水平。

在下面，我尝试列出我们可能的期待。这并不是基于任何严格的方法论，细节上几乎肯定会出错，但它旨在传达我们应该预期的激进主义的一般水平：

• 可靠地预防和治疗几乎所有自然传染病。考虑到 20 世纪在抗击传染病方面取得的巨大进展，想象我们在压缩的 21 世纪“完成这项工作”并不是一个激进的想法。mRNA 疫苗及其相关技术已经为“针对任何疾病的疫苗”指明了方向。传染病是否能在全球范围内完全消除（而不仅仅是在某些地区）取决于贫困和不平等的问题，这些问题将在第 3 节中讨论。
• 消除大多数癌症。过去几十年，癌症的死亡率每年下降约 2%；因此，按照目前人类科学的发展，我们有望在 21 世纪消除大多数癌症。一些亚型已经基本治愈（例如某些类型的白血病通过 CAR-T 疗法），我对那些能够针对癌症早期并防止其生长的非常选择性药物感到更加兴奋。AI 还将使治疗方案能够非常精细地适应癌症的个体基因组——这些在今天是可行的，但在时间和人力专业知识上非常昂贵，而 AI 应该能让我们实现规模化。死亡率和发病率减少 95%或更多似乎是可能的。也就是说，癌症的种类非常多样且具有适应性，可能是这些疾病中最难以彻底消灭的。如果一些罕见且难以治疗的恶性肿瘤仍然存在，那也并不令人意外。
• 非常有效的遗传病预防措施和治疗方法。大幅改善的胚胎筛查可能使我们能够预防大多数遗传病，而某些更安全、更可靠的 CRISPR 后代可能会治愈大多数现有患者的遗传病。然而，影响大量细胞的全身性疾病可能是最后的难题。
• 阿尔茨海默症的预防一直是个难题。我们很难确定阿尔茨海默症的具体原因（虽然它与β-淀粉样蛋白有关，但实际情况似乎非常复杂）。这正是可以通过更好的测量工具来解决的问题，这些工具能够隔离生物效应；因此，我对 AI 解决这个问题的能力充满信心。一旦我们真正理解了病因，最终有很大可能通过相对简单的干预措施来预防阿尔茨海默症。然而，已经存在的阿尔茨海默症造成的损害可能很难逆转。
• 改善大多数其他疾病的治疗。这是一个涵盖多种疾病的总类，包括糖尿病、肥胖、心脏病、自身免疫疾病等。大多数这些疾病似乎比癌症和阿尔茨海默病“更容易”解决，并且在许多情况下已经显著减少。例如，心脏病导致的死亡人数已经下降超过 50%，而像 GLP-1 激动剂这样的简单干预措施在对抗肥胖和糖尿病方面也取得了显著进展。
• 生物自由。在过去的 70 年里，出生控制、肥胖管理等方面取得了显著进展。但我怀疑 AI 加速的生物学将极大地拓展我们的可能性：体重、外貌、繁殖以及其他生物过程将完全由人们掌控。我们将这一概念称为生物自由：每个人都应有权选择自己想要成为的样子，并以最符合自己意愿的方式生活。当然，关于全球平等获取的重大问题依然存在；请参见第 3 节。
• 人类寿命的翻倍。这听起来可能很激进，但 20 世纪的预期寿命几乎翻了一番（从约 40 岁增加到约 75 岁），因此“压缩的 21 世纪”再次将其翻倍至 150 岁是“顺应潮流”的。显然，减缓实际衰老过程所需的干预措施与上个世纪为防止（主要是儿童）因疾病而过早死亡所需的措施不同，但变化的幅度并非前所未有。具体来说，已经有一些药物可以使老鼠的最大寿命增加 25-50%，且副作用有限。而一些动物（例如某些类型的海龟）已经可以活到 200 岁，因此人类显然并没有处于某种理论上的上限。根据我的猜测，最重要的需求可能是可靠的、不会受到 Goodhart 法则影响的人类衰老生物标志物，因为这将使实验和临床试验能够快速迭代。一旦人类寿命达到 150 岁，我们或许能够实现“逃逸速度”，为目前活着的大多数人争取足够的时间，让他们能够活得尽可能长，尽管这在生物学上并没有保证是可行的。

值得关注这个清单，并思考如果在 7-12 年内实现所有这些，世界将会变得多么不同（这与激进的 AI 时间表相符）。显而易见，这将是一个难以想象的人道主义胜利，一次性消除大多数困扰人类数千年的祸害。我的许多朋友和同事正在抚养孩子，当这些孩子长大时，我希望提到疾病时，他们的感觉就像我们提到坏血病、天花或黑死病时的感觉一样。那一代人还将享有更大的生物自由和自我表达，运气好的话，他们也可能能够活得和他们想要的一样长。

很难高估这些变化对除了少数预期到强大 AI 的人以外的每个人来说将是多么令人惊讶。例如，成千上万的经济学家和政策专家目前在美国讨论如何保持社会保障和医疗保险的财务稳定，以及更广泛地如何降低医疗费用（这主要是由 70 岁以上的人群消费，尤其是那些患有癌症等绝症的人）。如果这一切都成真，这些项目的状况可能会得到显著改善，因为工作年龄人口与退休人口的比例将发生剧烈变化。毫无疑问，这些挑战将会被其他挑战所取代，比如如何确保新技术的广泛应用。但值得思考的是，即使生物学是唯一一个成功加速的领域，世界将会发生多大的变化。

2. 神经科学与心理学

在前面的部分，我专注于身体疾病和生物学的内容，没有涉及神经科学或心理健康。然而，神经科学是生物学的一个子学科，心理健康与身体健康同样重要。实际上，心理健康对人类福祉的影响甚至比身体健康更为直接。数亿人因成瘾、抑郁、精神分裂症、低功能自闭症、创伤后应激障碍、精神病或智力障碍等问题而生活质量极低。还有数十亿人面临日常问题，这些问题往往可以被视为这些严重临床疾病的轻微版本。和一般生物学一样，可能不仅仅是解决问题，还能提升人类体验的基本质量。

我为生物学建立的基本框架同样适用于神经科学。这个领域的进展主要依赖于少数几项发现，这些发现通常与测量工具或精确干预有关——在上述列表中，光遗传学是神经科学的一项重要发现，而最近的 CLARITY 和扩展显微镜也是类似的进展。此外，许多通用的细胞生物学方法也直接应用于神经科学。我认为，这些进展的速度将同样受到 AI 的加速，因此“100 年进步在 5-10 年内”的框架同样适用于神经科学，原因与生物学相同。就像生物学一样，20 世纪的神经科学取得了巨大的进展——例如，直到 1950 年代我们才开始理解神经元是如何发射的以及为什么会发射。因此，合理地预期 AI 加速的神经科学将在短短几年内带来快速的进展。

我们应该在这个基本图景中补充一点，那就是在过去几年里，我们对 AI 本身所学到的（或正在学习的）某些知识，可能会推动神经科学的发展，即使这项工作仍然仅由人类来完成。可解释性是一个显而易见的例子：尽管生物神经元的运作方式与人工神经元截然不同（生物神经元通过脉冲进行通信，通常依赖脉冲频率，因此存在一个在人工神经元中不存在的时间因素，还有许多与细胞生理和神经递质相关的细节显著影响它们的运作），但“分布式、经过训练的简单单元网络如何协同工作以执行重要计算”的基本问题是相同的。我强烈怀疑，个别神经元之间的通信细节在大多数关于计算和电路的有趣问题中会被抽象掉。作为一个例子，最近在小鼠的大脑中重新发现了可解释性研究人员在 AI 系统中发现的计算机制。

在人工神经网络上进行实验比在真实神经网络上进行实验要容易得多（后者通常需要切开动物的大脑），因此可解释性可能成为提升我们对神经科学理解的工具。此外，强大的 AI 可能会比人类更好地开发和应用这一工具。

除了可解释性之外，我们从 AI 中了解到的关于智能系统训练的知识应该（尽管我不确定是否已经）引发神经科学的革命。当我在神经科学领域工作时，很多人关注的问题我现在认为是错误的，因为当时并不存在缩放假设或苦涩教训的概念。一个简单的目标函数加上大量数据能够驱动极其复杂的行为，这使得理解目标函数和架构偏见变得更加有趣，而理解涌现计算的细节则显得不那么重要。我最近几年没有密切关注这个领域，但我隐约感觉计算神经科学家们仍然没有完全领会这个教训。对我来说，缩放假说一直是“啊——这是一个高层次的解释，说明了智能是如何运作的，以及它是如何如此轻易地进化的”，但我认为这并不是大多数神经科学家的看法，部分原因是“缩放假说作为智能的秘密”在 AI 内部甚至没有得到完全认可。

我认为神经科学家应该尝试将这一基本见解与人脑的特性（如生物物理限制、进化历史、拓扑结构以及运动和感官输入/输出的细节）结合起来，以解决一些神经科学的关键难题。虽然有些人可能已经在这样做，但我怀疑这还不够，AI 名神经科学家将能够更有效地利用这一视角来加速研究进展。

我希望 AI 能够通过四条不同的途径加速神经科学的进展，所有这些途径都能共同努力，治愈心理疾病并提升功能：

• 传统的分子生物学、化学和遗传学。这与第一部分的一般生物学基本上是同一个故事，AI 可能通过相同的机制加速这一过程。有许多药物可以调节神经递质，以改变大脑功能、影响警觉性或感知、改变情绪等，而 AI 可以帮助我们发明更多的药物。AI 也可能加速对精神疾病遗传基础的研究。
• 精细的神经测量与干预能力。这意味着能够测量大量个体神经元或神经回路的活动，并通过干预来改变它们的行为。光遗传学和神经探针是可以在活体生物中进行测量和干预的技术。此外，还有一些非常先进的方法（如分子计时器，用于读取大量个体神经元的放电模式）也已被提出，并在理论上是可行的。
• 先进的计算神经科学。如前所述，现代 AI 的具体见解和整体观念可能对系统神经科学中的问题产生积极影响，包括揭示复杂疾病（如精神病或情绪障碍）的真实原因和动态。
• 行为干预。我之前没有太多提到这一点，因为神经科学主要关注生物学方面，但精神病学和心理学在 20 世纪确实发展了丰富的行为干预手段；可以合理推测，AI 也能加速这些干预的进展，包括新方法的开发以及帮助患者遵循现有的方法。更广泛地说，一个“AI 教练”的概念非常有前景，他会始终帮助你成为最好的自己，研究你的互动并帮助你学习更有效的方式。

我猜这四条进步路线如果共同作用，就像对待身体疾病一样，预计在未来 100 年内能够治愈或预防大多数心理疾病，即使 AI 没有参与——因此可能合理地在 5 到 10 个 AI 加速的年份内完成。具体来说，我对将要发生的事情的猜测是这样的：

• 大多数心理疾病可能是可以治愈的。我并不是精神疾病方面的专家（我在神经科学领域的时间主要用于构建探针以研究小组神经元），但我认为像创伤后应激障碍、抑郁症、精神分裂症和成瘾等疾病可以通过上述四个方向的某种组合来解决并有效治疗。答案可能是“生化方面出现了问题”（尽管可能非常复杂）和“神经网络在高层次上出现了问题”的某种组合。换句话说，这是一个系统神经科学的问题——尽管这并不否定上述行为干预的影响。尤其是在活体人类中，测量和干预的工具似乎能够促进快速的迭代和进展。
• 结构性很强的条件可能更难以处理，但并非不可能。有证据表明，精神病与明显的神经解剖差异有关——一些大脑区域在精神病患者中显得更小或发育不良。人们普遍认为，精神病患者从小就缺乏同理心；无论他们的大脑有什么不同，这种情况可能一直存在。某些智力障碍的情况可能也是如此，甚至可能还有其他相关的状况。重塑大脑听起来很困难，但这似乎是一项对智力回报很高的任务。也许有某种方法可以引导成年大脑进入一个更早或更具可塑性的状态，从而使其能够被重塑。我对这一可能性感到非常不确定，但我的直觉是对 AI 在这里能创造的成果持乐观态度。
• 有效的基因预防精神疾病似乎是可行的。大多数精神疾病在一定程度上是遗传的，基因组广泛关联研究（GWAS）开始在识别相关因素方面取得进展，这些因素通常数量众多。通过胚胎筛查，可能可以预防大多数此类疾病，这与身体疾病的情况类似。一个不同之处在于，精神疾病更可能是多基因的（多个基因共同作用），因此由于其复杂性，存在无意中选择与疾病相关的积极特征的风险。然而，奇怪的是，近年来的 GWAS 研究似乎表明这些相关性可能被夸大了。无论如何，AI 加速的神经科学可能会帮助我们弄清楚这些问题。当然，胚胎筛查复杂性状会引发许多社会问题，并且会引起争议，不过我猜大多数人会支持对严重或致残的心理疾病进行筛查。
• 我们通常不认为是临床疾病的日常问题也将得到解决。大多数人都有一些日常心理问题，这些问题通常不会被视为临床疾病。有些人容易生气，有些人难以集中注意力或经常感到困倦，还有些人感到恐惧或焦虑，或者对变化反应不佳。如今，已经有一些药物可以帮助提高警觉性或集中注意力（如咖啡因、莫达非尼、利他林），但与许多其他领域一样，未来可能会有更多的可能性。可能还有许多此类药物尚未被发现，也可能会出现全新的干预方式，例如靶向光刺激（见上面的光遗传学）或磁场。鉴于我们在 20 世纪开发了如此多能够改善认知功能和情绪状态的药物，我对“压缩的 21 世纪”充满信心，届时每个人都能让自己的大脑表现得更好，享受更丰富的日常生活。
• 人类的基本体验可以更为丰富。更进一步，许多人曾经历过非凡的启示、创造灵感、同情、满足、超越、爱、美或冥想的宁静。这些体验的性质和频率因人而异，甚至同一个人在不同时间的体验也会有所不同，有时这些体验还可能受到各种药物的影响（尽管通常伴随副作用）。所有这些都表明，“可体验的空间”非常广阔，人们的生活中可能有更大比例的时间是由这些非凡的时刻构成的。此外，改善各种认知功能也是有可能的。这可能是“生物自由”或“延长寿命”的神经科学版。

在科幻作品中经常提到的一个话题是“意识上传”，即将人脑的模式和动态捕捉并转化为软件。这个话题本身就可以写成一篇论文，但可以说，尽管我认为从理论上讲，意识上传几乎是可行的，但在实际操作中，它面临着重大的技术和社会挑战，即使有强大的技术支持，这也可能使其超出我们讨论的 5 到 10 年的时间范围。总的来说，AI 加速的神经科学有望极大改善大多数心理疾病的治疗，甚至可能治愈这些疾病，同时显著扩展“认知与心理自由”以及人类的认知和情感能力。这一变化将与前面提到的身体健康的改善同样具有革命性。虽然外部世界可能不会有明显的变化，但人类的生活体验将变得更加美好和人道，同时也将提供更多自我实现的机会。我还认为，心理健康的改善将有助于缓解许多其他社会问题，包括一些看似政治或经济的问题。

3. 经济发展与贫困问题

前两部分讨论了开发新技术以治愈疾病和提高人类生活质量。然而，从人道主义的角度来看，一个显而易见的问题是：“每个人都能获得这些技术吗？”

开发一种疾病的治疗方法是一回事，而从根本上消除这种疾病则是另一回事。更广泛地说，许多现有的健康干预措施尚未在全球范围内得到应用，非健康领域的技术进步也同样如此。换句话说，世界上许多地方的生活水平仍然非常低下：撒哈拉以南非洲的人均 GDP 约为 2000 美元，而美国则约为 75000 美元。如果 AI 进一步推动发达国家的经济增长和生活质量，而对发展中国家的帮助却微乎其微，我们应该将其视为一种严重的道德失败，以及对前两部分真正人道主义成就的污点。理想情况下，强大的 AI 应当帮助发展中国家追赶发达国家，即便它正在彻底改变后者。

我对 AI 能否解决不平等和经济增长的信心不如对它能发明基础技术的信心，因为技术对智力（包括绕过复杂性和缺乏数据的能力）有明显的高回报，而经济则受到许多人类因素的约束，并且具有很大的内在复杂性。我对 AI 能否解决著名的“社会主义计算问题”持怀疑态度，我认为政府不会（也不应该）将其经济政策交给这样的实体，即使它能够做到。此外，还有如何说服人们接受那些有效但可能让他们感到怀疑的治疗等问题。

发展中国家面临的挑战因私营和公共部门普遍存在的腐败而变得更加复杂。腐败形成了一个恶性循环：它加剧了贫困，而贫困又导致更多的腐败。AI 驱动的经济发展计划需要应对腐败、薄弱的机构以及其他人性化的挑战。

尽管如此，我仍然看到乐观的重大理由。疾病已经被消灭，许多国家从贫穷走向富裕，显然，这些任务所涉及的决策展现出高智力回报（尽管人类面临限制和复杂性）。因此，AI 可能能够比目前的做法更好地完成这些任务。此外，可能还有一些针对性的干预措施可以绕过人类的限制，AI 可以专注于这些措施。更重要的是，我们必须付诸实践。AI 公司和发达国家的政策制定者都需要尽自己的一份力量，以确保发展中国家不被忽视；道德责任实在太重大了。在这一部分，我将继续阐述乐观的观点，但请记住，成功并不是必然的，而是依赖于我们共同的努力。

在这里，我对强大的 AI 开发后，发展中国家在未来 5 到 10 年可能会发生的情况进行了一些猜测：

• 健康干预措施的分布。我对将健康干预措施推广到全球的前景感到乐观。实际上，通过自上而下的运动，某些疾病已经被根除：天花在 1970 年代完全消失，脊髓灰质炎和冈比亚虫几乎被根除，每年病例不足 100 例。复杂的数学流行病学模型在疾病根除运动中发挥着重要作用，似乎有可能出现比人类更聪明的 AI 系统，能够更有效地完成这项工作。此外，分发的物流也可能得到极大的优化。我作为 GiveWell 的早期捐赠者学到的一件事是，一些健康慈善机构的效果远远超过其他机构；希望 AI 加速的努力能更加有效。此外，一些生物学的进展实际上使得分发的物流变得更加简单：例如，疟疾很难根除，因为每次感染该疾病时都需要治疗；而只需接种一次的疫苗则使得物流变得简单得多（目前确实正在开发针对疟疾的这种疫苗）。更简单的分配机制是可能的：一些疾病原则上可以通过针对它们的动物载体来根除，例如释放感染了能够阻止它们传播疾病的细菌的蚊子（这些蚊子随后会感染其他蚊子）或简单地使用基因驱动技术来消灭蚊子。这需要一项或几项集中行动，而不是必须单独治疗数百万人的协调运动。总体而言，我认为 5 到 10 年是一个合理的时间框架，可以让 AI 驱动的健康益处传播到世界上最贫穷的国家，可能达到 50%。一个理想的目标可能是在强大的 AI 之后的 5 到 10 年内，发展中国家的健康状况至少要显著优于今天的发达国家，尽管它仍然落后于发达国家。实现这一目标当然需要在全球健康、慈善事业、政治倡导以及其他许多方面付出巨大的努力，这些都需要 AI 的开发者和政策制定者的支持。
• 经济增长。发展中国家能否在健康和经济各个方面迅速赶上发达国家？这并非没有先例：在 20 世纪的最后几十年，多个东亚经济体实现了持续约 10%的年实际 GDP 增长率，从而赶上了发达国家。人类经济规划者通过拉动几个关键杠杆（如以出口为导向的工业政策，以及抵制依赖自然资源财富的诱惑）做出了这些成功的决策，而不是直接控制整个经济；因此，“AI 财长和中央银行行长”有可能复制或超越这一 10%的成就。一个重要的问题是如何让发展中国家的政府在尊重自决原则的前提下采纳这些措施——有些国家可能对此持积极态度，但其他国家可能会持怀疑态度。从乐观的角度来看，前面提到的许多健康干预措施可能会自然而然地促进经济增长：消灭艾滋病、疟疾和寄生虫将对生产力产生深远的影响，更不用说一些神经科学干预措施（如改善情绪和专注力）在发达国家和发展中国家所带来的经济利益。最终，非健康的 AI 加速技术（如能源技术、运输无人机、改进的建筑材料以及更好的物流和分配等）可能会自然而然地渗透到世界各地；例如，手机就通过市场机制迅速渗透到撒哈拉以南非洲，而无需慈善努力。在更消极的一面，虽然 AI 和自动化带来了许多潜在的好处，但它们也给经济发展带来了挑战，尤其是对尚未工业化的国家而言。在日益自动化的时代，找到确保这些国家仍能发展和改善经济的方法，是经济学家和政策制定者需要面对的重要挑战。总体而言，一个理想的情景——也许是一个追求的目标——是在发展中国家实现 20%的年 GDP 增长率，其中 10%来自于 AI 驱动的经济决策，另 10%则来自于 AI 加速技术的自然传播，包括但不限于健康领域。如果能够实现这一目标，撒哈拉以南非洲将在 5 到 10 年内达到中国目前的人均 GDP 水平，同时将大部分其他发展中国家的水平提升到高于当前美国 GDP 的水平。再次强调，这只是一个理想的情景，而非默认的结果：这是我们所有人必须共同努力使其更有可能实现的目标。
• 食品安全。作物技术的进步，例如更优质的肥料和农药、更多的自动化以及更高效的土地利用，极大地提高了 20 世纪的作物产量，拯救了数百万人的生命。基因工程目前正在进一步改善许多作物。寻找更多的方法来实现这一目标，以及提升农业供应链的效率，可能会为我们带来一个以 AI 为驱动的第二次绿色革命，帮助缩小发展中国家与发达国家之间的差距。
• 缓解气候变化。气候变化在发展中国家的影响将更加显著，阻碍其发展。我们可以预期 AI 将推动技术的进步，这些技术可以减缓或防止气候变化，包括大气中的碳去除技术、清洁能源技术，以及减少我们对碳密集型工厂农业依赖的实验室培育肉。当然，正如前面所提到的，技术并不是限制气候变化进展的唯一因素——与本文讨论的其他问题一样，人类社会因素也至关重要。但是，有充分的理由相信，AI 增强的研究将使我们能够以更低的成本和干扰来应对气候变化，从而使许多反对意见失去意义，并使发展中国家能够实现更大的经济进步。
• 国家内部的不平等。我主要讨论的是全球范围内的不平等现象（我认为这是其最重要的表现），但显然，国家内部也存在不平等。随着先进的健康干预措施，尤其是寿命的显著延长或认知增强药物的出现，确实会有人担心这些技术“只为富人所用”。我对发达国家内部的不平等持更乐观的态度，主要有两个原因。首先，发达国家的市场运作更为高效，市场通常能够随着时间的推移降低高价值技术的成本。第二，发达国家的政治机构对公民的反应更加灵敏，国家在实施普遍获取项目方面的能力也更强——我预计公民会要求获得那些极大改善生活质量的技术。当然，这并不意味着这样的要求一定会成功——在这里，我们集体必须尽一切努力确保社会的公平。此外，财富不平等（与获得救命和提升生活质量的技术的不平等不同）是另一个独立的问题，这似乎更为复杂，我将在第 5 节中进行讨论。
• 选择退出问题。在发达国家和发展中国家，人们选择放弃 AI 所提供的福利是一个共同的担忧（类似于反疫苗运动或更广泛的卢德运动）。这可能导致不良的反馈循环，例如，那些最难做出明智决策的人反而放弃了能够提升他们决策能力的技术，从而造成日益扩大的差距，甚至形成一个反乌托邦的底层阶级（一些研究者认为这将削弱民主，我将在下一节中进一步探讨这个话题）。这将再次给 AI 的积极进展带来道德上的污点。这是一个难以解决的问题，因为我认为强迫人们在伦理上是不合适的，但我们至少可以努力提高人们的科学理解——或许 AI 本身可以帮助我们实现这一目标。一个令人鼓舞的迹象是，历史上反对技术的运动往往只是表面上的抗议：虽然反对现代技术很流行，但大多数人最终还是会接受它，尤其是在个人选择的情况下。个人通常会接受大多数健康和消费技术，而真正受到限制的技术，比如核能，往往是集体政治决策的结果。

总的来说，我对迅速将 AI 的生物技术进展带给发展中国家的人民感到乐观。我希望，尽管没有足够的信心，AI 也能实现前所未有的经济增长率，使发展中国家至少能够超越发达国家目前的水平。我对发达国家和发展中国家的“选择退出”问题感到担忧，但我怀疑这种情况会随着时间的推移而减弱，并且 AI 可以帮助加速这一过程。这个世界不会完美，那些落后的人在最初几年内不会完全赶上。但只要我们付出足够的努力，我们可能能够让事情朝着正确的方向发展，并且速度会很快。如果我们这样做，我们至少可以为每一个地球上的人类所应享有的尊严和平等的承诺支付一部分首付款。

4. 和平与治理事务

假设前三个部分的情况都很顺利：疾病、贫困和不平等显著减少，人类的基本生活水平大幅提高。但这并不意味着所有主要的人类苦难原因都已解决。人类之间仍然存在威胁。尽管技术进步和经济发展带来了民主与和平的趋势，但这一趋势非常松散，且经常出现（最近的）倒退。在 20 世纪初，人们认为他们已经将战争抛在了身后；然而，接下来却发生了两次世界大战。三十年前，弗朗西斯·福山曾写道“历史的终结”和自由民主的最终胜利；但这一切至今尚未实现。二十年前，美国政策制定者认为与中国的自由贸易会随着其富裕而促使其实现自由化；然而，事实并非如此，我们现在似乎正朝着与复兴的威权主义集团的第二次冷战迈进。有合理的理论表明，互联网技术实际上可能更有利于威权主义，而非最初认为的民主（例如在“阿拉伯之春”时期）。理解强大的 AI 如何与和平、民主和自由的问题交织在一起显得尤为重要。

不幸的是，我看不到有力的理由相信 AI 会优先或结构性地促进民主与和平，就像我认为它会在结构上促进人类健康和减轻贫困一样。人类冲突是对抗性的，而 AI 原则上可以帮助“好人”和“坏人”。如果说有什么值得担忧的，某些结构性因素似乎令人不安：AI 可能会使更有效的宣传和监视成为可能，这两者都是独裁者的主要工具。因此，作为个体行动者，我们有责任将事情引向正确的方向：如果我们希望 AI 支持民主和个人权利，我们就必须为此而奋斗。我对这个问题的看法比对国际不平等的看法更为强烈：自由民主和政治稳定的胜利并不是必然的，甚至可能不太可能，这需要我们每个人付出巨大的牺牲和承诺，就像过去常常需要的那样。

我认为这个问题可以分为两个部分：国际冲突和国家内部结构。在国际层面上，当强大的 AI 出现时，民主国家在世界舞台上占据主导地位显得尤为重要。AI 驱动的威权主义令人难以想象，因此民主国家需要能够设定强大的 AI 进入世界的规则，以避免被威权者压制，并防止威权国家内部的人权侵犯。

我目前认为最佳的做法是通过一种“协定战略”，在这种战略中，民主国家的联盟寻求通过确保供应链、快速扩张，以及阻止或延迟对手获取关键资源（如芯片和半导体设备），来获得明显的优势（即使只是暂时的）。这个联盟一方面将利用强大的军事优势（手段），同时向越来越多的国家分配强大的利益（诱饵），以换取他们对该联盟促进民主战略的支持（这有点类似于“和平原子”）。该联盟的目标是争取越来越多国家的支持，孤立我们最强大的对手，最终让他们处于一个更有利的境地，使他们愿意接受与世界其他国家相同的交易：放弃与民主国家的竞争，以获得所有的利益，而不是与更强大的敌人对抗。

如果我们能够做到这一切，我们将迎来一个民主国家在世界舞台上占据主导地位的世界，拥有足够的经济和军事力量来避免被专制政权削弱、征服或破坏，并可能将他们的 AI 优势转化为持久的利益。这可能乐观地导致一个“永恒的 1991”——一个民主国家占据上风、福山的梦想得以实现的世界。再次强调，这将非常困难，特别需要私营 AI 公司与民主政府之间的紧密合作，以及在胡萝卜与大棒之间取得极其明智的平衡。

即使一切顺利，这仍然引发了每个国家内部民主与专制之间斗争的问题。虽然很难预测未来会发生什么，但我对全球环境中民主国家掌握最强大 AI 的情况感到乐观，因此 AI 可能在结构上有利于全球的民主。特别是在这种环境下，民主政府可以利用其优越的 AI 来赢得信息战：它们能够反制专制国家的影响力和宣传活动，甚至可能通过提供信息渠道和 AI 服务，创造一个全球自由的信息环境，而专制国家则缺乏技术能力来阻止或监控这些信息。可能不需要进行宣传，只需反击恶意攻击，确保信息的自由流通。虽然效果不是立竿见影，但这样的公平竞争环境有很大可能逐渐使全球治理向民主倾斜，原因有很多。

首先，生活质量在第 1-3 节的提升应该在其他条件相同的情况下促进民主：历史上，这种情况在某种程度上确实存在。特别是我预计心理健康、幸福感和教育的改善将有助于民主，因为这三者与对威权领导者的支持呈负相关。一般来说，当人们的其他需求得到满足时，他们会希望有更多的自我表达，而民主在某种程度上就是一种自我表达的方式。相反，威权主义则依赖于恐惧和怨恨。

其次，自由信息确实有可能削弱威权主义，只要威权者无法对其进行审查。而未被审查的 AI 也能为个人提供强大的工具，以削弱压迫性政府。压迫性政府通过剥夺人们某种共同知识而生存，使他们无法意识到“皇帝的新装”。例如，帮助推翻塞尔维亚米洛舍维奇政府的斯尔贾·波波维奇，广泛撰写了关于如何在心理上剥夺威权者权力的技巧，打破魔咒并团结反对独裁者的支持。一种超人般有效的 AI 版本的波波维奇（他的技能似乎对智力的回报极高），在每个人的口袋里，独裁者无法阻止或审查，这可能为全球的异议人士和改革者提供助力。再说一次，这将是一场漫长而艰苦的斗争，胜利并不一定，但如果我们以正确的方式设计和构建 AI，至少这可能是一场自由倡导者在各地都能占据优势的斗争。

与神经科学和生物学一样，我们也可以思考，事物如何能够“比正常更好”——不仅仅是如何避免专制，而是如何让民主制度变得比现在更好。即使在民主制度中，不公正的现象时常发生。法治社会向公民承诺，每个人在法律面前都是平等的，每个人都有基本人权，但显然在实践中，人们并不总能获得这些权利。这个承诺即使部分实现，也值得我们感到自豪，但 AI 能否帮助我们做得更好呢？

例如，AI 是否能够通过使决策和流程更加公正来改善我们的法律和司法系统？如今，人们在法律或司法环境中主要担心 AI 系统可能导致歧视，这些担忧非常重要，需要加以防范。同时，民主的活力依赖于利用新技术来改善民主制度，而不仅仅是应对风险。真正成熟和成功的 AI 实施有潜力减少偏见，使每个人都能得到更公平的对待。

几个世纪以来，法律系统一直面临一个困境：法律虽然旨在保持公正，但本质上是主观的，因此必须由有偏见的人来进行解释。试图将法律完全机械化并未成功，因为现实世界复杂混乱，无法总是用数学公式来描述。相反，法律系统依赖一些著名的不精确标准，如“残忍和不寻常的惩罚”或“完全没有补救的社会重要性”，而人类对这些标准的解释往往带有偏见、偏袒或任意性。加密货币中的“智能合约”并没有彻底改变法律，因为普通代码并不足够智能，无法处理所有有趣的事务。不过 AI 可能足够聪明来做到这一点：这是第一种能够以可重复和机械的方式进行广泛模糊判断的技术。

我并不是建议我们真的用 AI 系统来替代法官，但公正性与理解和处理复杂现实情况的能力结合在一起，似乎在法律和正义领域应该有一些重要的积极应用。至少，这样的系统可以作为决策的辅助，与人类协同工作。在任何这样的系统中，透明度都是至关重要的，而成熟的 AI 科学可以提供这一点：这样的系统的训练过程可以被深入研究，先进的可解释性技术可以用来分析最终模型，评估其中的潜在偏见，这在与人类的情况下是根本无法实现的。这些工具也可以用于监测在司法或警察环境中对基本权利的侵犯，从而使宪法更具自我执行力。

类似地，AI 可以用来汇总意见并推动公民之间的共识，解决冲突，寻找共同点，并寻求妥协。在这方面，计算民主项目已经提出了一些早期的想法，包括与 Anthropic 的合作。显然，更加有见识和深思熟虑的公民将会加强民主制度。

还有一个明显的机会，可以利用 AI 来帮助提供政府服务——例如健康福利或社会服务——这些服务原则上是向所有人开放的，但在实际操作中往往严重不足，某些地方的情况甚至更糟。这包括健康服务、机动车辆管理局、税收、社会保障、建筑规范执行等。拥有一个非常周到且了解情况的 AI，他的工作是以你能理解的方式提供你在法律上有权获得的所有政府服务，并帮助你遵守那些常常令人困惑的政府规定，这将是非常重要的。增强国家能力不仅有助于实现法律面前的平等承诺，还能加强对民主治理的尊重。当前服务实施不当是人们对政府感到愤世嫉俗的主要原因之一。

所有这些想法都有些模糊，正如我在本节开始时提到的，我对它们的可行性并没有对生物学、神经科学和减贫进展的信心那么强。它们可能显得不切实际，甚至有些乌托邦。但重要的是要有一个雄心勃勃的愿景，愿意大胆梦想并付诸实践。AI 作为自由、个人权利和法律面前平等的保障者的愿景是一个强大的愿景，值得我们为之奋斗。一个 21 世纪的、AI 赋能的政治体可以更好地保护个人自由，并成为希望的灯塔，帮助实现自由民主成为全世界所渴望的政府形式。

5. 工作与人生意义

即使前面四个部分的内容都很顺利——不仅减轻了疾病、贫困和不平等，自由民主也成为了主导的政府形式，现有的自由民主国家也变得更好——但至少还有一个重要的问题依然存在。“我们生活在一个如此技术先进且公平体面的世界真是太好了，”有人可能会反驳，“但是在 AI 做一切的情况下，人类将如何找到生活的意义？更进一步，他们又将如何在经济上生存？”

我认为这个问题比其他问题更为复杂。我并不是说我对这个问题的悲观态度比对其他问题更强（尽管我确实看到了挑战）。我的意思是，这个问题更模糊，更难以提前预测，因为它涉及到关于社会如何组织的宏观问题，这些问题往往需要时间并以去中心化的方式才能得到解决。例如，历史上的狩猎采集社会可能认为，没有狩猎和各种与狩猎相关的宗教仪式，生活是没有意义的，他们可能会认为我们这个充足的技术社会缺乏目的。他们也可能不理解我们的经济如何能够为每个人提供服务，或者在一个机械化的社会中，人们可以发挥什么样的有用作用。

不过，值得说几句话，同时要记住这一部分的简洁并不意味着我不重视这些问题——恰恰相反，这反映了缺乏明确答案的情况。

关于意义的问题，我认为相信自己所做的任务毫无意义，仅仅因为某个 AI 能做得更好，这很可能是个错误。大多数人并不是在任何领域都处于世界顶尖，这似乎并不会让他们特别困扰。当然，如今他们仍然可以通过比较优势来贡献，并可能从自己创造的经济价值中找到意义，但人们也非常享受那些没有经济价值的活动。

我花很多时间玩视频游戏、游泳、在户外散步和与朋友聊天，这些活动都没有产生任何经济价值。我可能会花一天的时间来提高自己在视频游戏中的水平，或者在骑自行车上山时变得更快，而我并不在乎某个地方有人在这些方面更优秀。无论如何，我认为意义主要来自人际关系和联系，而不是经济劳动。人们确实渴望成就感，甚至是竞争感。在一个后-AI 的世界里，花费数年时间尝试一些非常困难的任务，采用复杂的策略是完全可能的，这与人们今天进行研究项目、努力成为好莱坞演员或创办公司时的做法类似。（a） 某个地方的 AI 原则上可以更好地完成这个任务，以及 （b） 这个任务不再是全球经济中获得经济回报的内容，这些在我看来似乎并不重要。

对我来说，经济问题实际上似乎比意义问题更为复杂。在这一部分中，我所指的“经济”是指大多数或所有人类可能无法在一个足够先进的 AI 驱动的经济中做出有意义的贡献。这是一个比不平等问题更宏观的问题，尤其是关于新技术获取的不平等，这在第 3 节中我有提到。

首先，从短期来看，我同意比较优势的观点，这将继续使人类保持相关性，并实际上提高他们的生产力，甚至在某些方面可能会使人类之间的竞争环境更加平等。只要 AI 在某项工作中只比人类更好 90%，那么那 10%的部分将使人类的价值大幅提升，增加薪酬，并创造出大量新的与 AI 擅长的工作相辅相成的人类职位，从而使“10%”的部分扩展到几乎雇用所有人。实际上，即使 AI 能够在所有方面都比人类做得更好，但如果在某些任务上仍然效率低下或成本高，或者人类与 AI 的资源投入存在显著差异，那么比较优势的逻辑依然适用。人类在物理世界中可能会在相当长的时间内保持相对（甚至绝对）优势。因此，我认为即使在我们达到“数据中心的天才国度”之后，人类经济仍然可能继续有其意义。

然而，我确实认为，从长远来看，AI 将变得非常有效且廉价，以至于这一点将不再适用。到那时，我们目前的经济体系将失去意义，社会需要进行更广泛的讨论，关于经济应该如何组织。

虽然这听起来可能很疯狂，但事实是，文明在过去成功应对了重大的经济转型：从狩猎采集到农业，从农业到封建制度，再到工业化。我怀疑未来会需要一些新的、更奇特的东西，而这种东西今天没有人能够很好地设想。它可能只是为每个人提供一笔丰厚的基本收入，尽管我认为这只会是解决方案的一小部分。它也可能是一个由 AI 个系统构成的资本主义经济，这些系统会根据某种次级经济向人类分配资源（数量庞大，因为整体经济规模将是巨大的），而这些分配是基于 AI 系统认为值得奖励人类的标准（最终基于人类价值观的某种判断）。

 也许经济是基于 Whuffie 积分的，或者人类在某种未被传统经济模型预见的方式上仍然具有经济价值。这些解决方案都存在许多潜在问题，而在没有大量迭代和实验的情况下，我们无法判断它们是否合理。与其他一些挑战一样，我们可能需要为获得良好的结果而努力：剥削性或反乌托邦的方向显然也是可能的，必须加以防范。关于这些问题还有很多可以探讨的内容，我希望在未来的某个时刻能对此进行深入讨论。

三、进行清点

通过上述各种主题，我试图描绘一个愿景：在 AI 一切顺利的情况下，这个世界是合理的，并且比今天的世界要好得多。我不确定这个世界是否现实，即使它是，也需要许多勇敢和奉献的人们付出巨大的努力和奋斗才能实现。每个人（包括 AI 公司！）都需要尽自己的一份力量，既要防范风险，又要充分实现其带来的好处。但这是一个值得为之奋斗的世界。

如果这一切真的在 5 到 10 年内发生——大多数疾病被战胜、生物和认知自由的提升、数十亿人摆脱贫困以共享新技术、自由民主和人权的复兴——我想所有目睹这一切的人都会对其对他们的影响感到惊讶。我并不是说个人从新技术中获益的体验，尽管那肯定会令人惊叹。我是指目睹一套长期以来的理想在我们面前同时实现的体验。我相信许多人会因此感动得流下眼泪。

在写这篇文章的过程中，我注意到了一种有趣的张力。从某种角度来看，这里所描绘的愿景极为激进：这并不是几乎任何人预期在未来十年内会发生的事情，可能会让许多人觉得这是一种荒谬的幻想。有些人甚至可能不认为这是值得追求的；它体现了并非所有人都能认同的价值观和政治选择。然而，与此同时，有一些显而易见的东西——一些过于明确的东西——就像许多不同的尝试去设想一个美好世界不可避免地指向了这里。

在伊恩·M·班克斯的《游戏玩家》中，主角是一个名为“文化”的社会的成员，这个社会的原则与我在这里阐述的原则相似——他前往一个压迫性的军事帝国，在这个帝国中，领导权通过复杂的战斗游戏中的竞争来决定。然而，这个游戏足够复杂，以至于玩家在其中的策略往往反映他们自己的政治和哲学观点。主角成功地在游戏中击败了皇帝，表明他的价值观（文化的价值观）即使在一个由无情竞争和适者生存的社会设计的游戏中，也代表了一种获胜的策略。斯科特·亚历山大的一篇著名文章提出了相同的观点——竞争是自我挫败的，往往会导致一个以同情和合作为基础的社会。“道德宇宙的弧线”是另一个类似的概念。

我认为文化的价值观是一种成功的策略，因为它们是无数小决策的总和，这些决策具有明确的道德力量，能够将每个人团结在同一阵线。人类对公平、合作、好奇心和自主权的基本直觉是难以反驳的，并且以一种我们更具破坏性的冲动所无法比拟的方式不断累积。我们可以轻易地争辩说，如果可以预防，孩子们就不应该死于疾病，进而可以说每个孩子都应该平等地享有这个权利。从这个角度来看，争辩说我们应该团结一致，运用我们的智慧来实现这个目标并不困难。很少有人会不同意，人们应该因无故攻击或伤害他人而受到惩罚，因此，惩罚在不同人之间应该保持一致和系统。这种直觉同样适用于人们应对自己的生活和选择拥有自主权和责任。如果将这些简单的直觉推向逻辑的结论，最终会导致法治、民主和启蒙价值观。虽然这不是必然的，但至少在统计上，这正是人类所走的方向。AI 只是提供了一个更快到达这一目标的机会——使逻辑更加明确，目的地更加清晰。

然而，这是一种超凡的美丽。我们有机会在实现它的过程中发挥一些小作用

CXO UNION（cxounion.cn）转载而成，来源：网络；编辑/翻译：CXO UNIONCXO联盟小C。

如需加入CXO UNION（CXO联盟）高管社群，请联系社群小伙伴哦~

免责声明: 本网站(http://www.cxounion.cn/)内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。

本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。