Image

译文-5：

3.经济发展与贫困

前两节讨论了开发新技术以治愈疾病并提升人类生活质量。然而，从人道主义角度看，一个显而易见的问题是："这些技术会惠及所有人吗？"

开发治疗疾病的方法是一回事，从世界上根除疾病则是另一回事。更广泛地说，许多现有健康干预措施尚未在全球各地推广应用，同样，这一现象也适用于（非健康领域的）技术改进。换言之，世界上很多地方的生活水平仍极度贫困：撒哈拉以南非洲人均GDP约2,000美元，而美国约为75,000美元。如果AI进一步提升发达国家经济增长和生活质量，却几乎不能帮助发展中国家，我们应视之为道德失败，这将玷污前两节中真正人道主义胜利的成果。理想情况下，强大AI应在推动发达世界革命性发展的同时，帮助发展中世界赶上发达世界。

我对AI解决不平等和促进经济增长方面的信心，不如前面几节提到的AI促进基础技术发明。因为技术在智能方面（包括绕过复杂性和数据缺乏的能力）有明显高回报，而经济涉及许多人为制约因素和内在复杂性。我对AI能否解决著名的"计划经济问题"【23】持怀疑态度，也不认为政府会（或应该）将经济政策交由AI掌控，即使它有能力做到。还有个问题，就是如何说服人们接受那些虽然有效但他们不信任的疗法。

发展中世界面临的挑战因公私部门普遍存在的腐败而更加复杂。腐败造成恶性循环：它加剧贫困，而贫困反过来滋生更多腐败。AI驱动的经济发展计划需要应对腐败、脆弱制度和其他极具人性的挑战。

尽管如此，我仍看到些乐观理由。疾病已被根除，许多国家已从贫穷走向富裕，显然这些任务涉及的决策在智能方面有较高回报（虽然存在人为制约和复杂性）。因此，AI可能比现在做得更好。可能还有能绕过人为制约，让AI专注其上的针对性干预。更重要的是，我们必须做些尝试。AI公司和发达国家政策制定者都须尽其所能确保不遗忘发展中世界；道德责任太大了。因此本节中，我会继续阐述乐观观点，但请记住，成功并非必然，取决于我们共同努力。

以下是我对强大AI开发后5-10年内发展中世界可能发展方向的一些猜测：

* 健康干预措施的分配。 我最乐观的领域可能是在全球分配健康干预措施。一些疾病确实已通过自上而下的行动得以根除：天花在1970年代完全消灭，脊髓灰质炎和麦地那龙线虫病几近根除，现在每年不足100例。数学上复杂的流行病学建模在疾病根除运动中发挥了积极作用，超人类智能的AI系统很可能比人类做得更好。医疗资源配送也可能大幅优化。作为有效利他主义组织GiveWell的早期捐赠者，我了解到某些健康慈善机构比其他机构效率高得多；希望AI加速的努力能更加有效。此外，某些生物学进展实际上使医疗资源分配变得更容易：例如，疟疾难以根除是因为每次感染都需要治疗；只需接种一次的疫苗使分配方案简化很多（这类疟疾疫苗实际上正在开发中）。更简单的分配机制是可能的：某些疾病原则上可通过针对其动物载体来根除，例如释放已感染“阻断疾病传播细菌”的蚊子（它们会感染所有其他蚊子）或简单地使用基因驱动技术消灭蚊子。这需要一个或几个集中行动，而不是必须单独治疗数百万人的协调运动。总体而言，我认为5-10年是合理时间，足以让相当比例（可能50%）AI驱动健康的益处传播至世界最贫困国家。一个不错的目标是：强大AI出现5-10年后，发展中世界至少在健康程度上实质性超越今日的发达国家，即使他们在那时仍落后于发达世界。当然，实现这一目标需要全球健康、慈善、政治倡导等领域的巨大努力，AI开发者和政策制定者都应予以协助。

* 经济增长。 发展中世界能否快速赶上发达世界，不仅在健康方面，还包括全面经济发展？这有些先例：20世纪最后几十年，几个东亚经济体持续实现了约10%的年化实际GDP增长，最终赶上了发达世界。人类经济规划者做出了引致这一成功的决策，不是直接控制整个经济，而是拉动几个关键杠杆（如出口导向增长的产业政策，抵制依赖自然资源财富的诱惑）；"AI财政部长和央行行长"可能复制或超越上述的10%成就。一个重要问题是如何使发展中国家政府采纳它们，同时尊重自决原则，某些国家可能热情接受，但其他国家可能持怀疑态度。乐观的一面是，前面提到的许多健康干预会促进经济增长：根除艾滋病/疟疾/寄生虫病，将对生产力带来变革性影响；更不用说一些神经科学干预（如改善情绪和注意力）对发达和发展中世界同样带来经济益处。最后，非健康AI加速技术（如能源技术、运输无人机、改良建筑材料、更好的物流和分配等）可能自然渗透全球；例如，即使是手机也可通过市场机制迅速渗透至撒哈拉以南非洲，无需慈善努力。消极的一面是，虽然AI和自动化有许多潜在好处，但也对经济发展带来挑战，特别是对尚未完成工业化的国家。找到确保这些国家在自动化增长时代仍能发展并改善经济的方法，是经济学家和政策制定者需要解决的重要挑战。总体而言，一个梦想场景，或许是值得努力的目标，是发展中世界实现20%年化GDP增长率，其中10%来自AI支撑作出的经济决策，10%来自AI赋能技术的自然传播，包括但不限于健康技术。若能实现，这将使撒哈拉以南非洲在5-10年内达到中国当前人均GDP水平，同时将大部分其他发展中世界提升至高于当前美国GDP的水平。再次强调，这是梦想场景，不是默认结果：这需要我们所有人共同努力使其更可能实现。

* 粮食安全【24】。 20世纪，农作物技术进步如更好的肥料和农药、更多自动化和更高效土地利用极大提高了作物产量，使数百万人免于饥饿。基因工程目前正进一步改良多种作物。寻找更多方法，使农业供应链更高效，可能带来AI驱动的第二次绿色革命，帮助缩小发展中世界与发达世界间差距。

* 缓解气候变化。 气候变化对发展中世界的影响更强烈，并会阻碍其发展。我们可以预期AI将改进，减缓或防止气候变化的技术，从大气碳移除和清洁能源技术到实验室培育肉类，减少对碳密集型工厂化养殖依赖。当然，如上所述，技术不是限制气候变化进展的唯一因素，如本文讨论的所有其他问题一样，人类社会因素很重要。但有充分理由认为，AI增强研究将提供，成本更低、破坏更小的手段去缓解气候变化，许多反对意见或将变得无关紧要，让发展中国家能取得更多经济进步。

* 国家内部不平等。 前面主要将不平等作为全球现象讨论（我确实认为这是其最重要表现），但当然不平等也存在于国家内部。随着先进健康干预和特别是寿命激增或认知增强药物的出现，人们肯定会担忧这些技术"只为富人服务"。我对发达世界国家内部不平等更乐观，有两个原因。首先，发达世界市场运作更好，市场通常善于随时间降低高价值技术的成本【25】。其次，发达世界政治组织对公民更敏感，有更强国家能力执行普及计划，我预期公民会要求获得如此迅猛改善生活质量的技术。当然，这类诉求能否成功并非必然，这是另一个我们必须尽力确保社会公平的话题。财富不平等（相对于获取救命和提升生活技术的不平等）是个单独问题，似乎更难解决，我将在第5节讨论。

* 选择退出问题。 发达和发展中世界都面临人们选择退出AI的担忧（类似反疫苗运动或更广泛的卢德派运动）。可能出现不良反馈循环，例如，最不能做出良好决策的人选择退出改善他们决策能力的技术，导致差距不断扩大，甚至创造一个反乌托邦底层阶级（一些研究者认为这将破坏民主，我将在下一节进一步讨论）。这再次给AI积极进步蒙上道德污点。对此，我不认为在道德上“强制人们接受”是允许的，但我们至少可以尝试增强人们的科学理解，也许AI本身能帮助我们做到这点。一个抱有希望的迹象是，历史上反技术运动往往雷声大雨点小：抨击现代技术很流行，但大多数人最终会采用它，至少当涉及个人选择时。个人往往采用大多数健康和消费技术，而真正受阻的技术，如核能，往往是集体政治决策。

总体而言，我对迅速将AI生物学进步带给发展中世界人民持乐观态度。我希望，尽管不完全确信，AI也能促成前所未有的经济增长率，让发展中世界至少超越发达世界当前水平。我担忧发达和发展中世界的"选择退出"问题，但可能它会随时间减弱，AI可加速这一过程。世界不完美，落后者不会完全赶上，至少在最初几年内不会。但我们通过强有力的努力，事情就有机会朝正确方向推进，而且发展迅速。如此，我们至少能初步兑现承诺-世界上每个人都平等且应有尊严。

4. 和平与治理
（译者注：略，请关注公众号后台，输入“MLG”，获取全译文PDF）
5. 工作与意义

即使前四部分的内容都顺利实现，我们不仅缓解了疾病、贫困和不平等，而且自由民主成为世界上主导的政体形式，现有的自由民主国家也变得更加完善，但还有一个重要问题仍然存在。"我们生活在技术如此先进且公平体面的世界固然很好"，有人可能会提出异议，"如果AI做了所有事情，人类如何获得意义感？更实际地说，人类如何在经济上生存？"

我认为这个问题更加困难。并非必然悲观（尽管我确实看到一些挑战）。我的意思是，这个问题更加模糊，更难预测，因为它涉及社会组织的宏观问题，这类问题往往只能随着时间以去中心的方式自行消解。例如，历史上的狩猎采集社会可能会认为，没有狩猎和各种与狩猎相关的宗教仪式，生活就毫无意义，对于他们而言，我们这个食物充足的技术社会缺乏目标。他们可能也不理解我们的经济如何能为所有人提供生活所需，或者人们在机械化社会中能发挥什么有用功能。

尽管如此，还是有几句有价值的话。不过在阅读的时候，请牢记接下来的内容虽然简短，但绝不表示我不重视这些问题，恰恰相反，只是因为缺乏明确答案。

关于人类的意义，我认为“仅仅因为AI能做得更好，你从事的任务就变得毫无意义”，这很可能是个错误观点。大多数人在任何事情上都做不到世界最佳，这个事实并不特别困扰人类。当然，今天人们仍可以通过比较优势做出贡献，并可能从他们创造的经济价值中获得意义，但人们也非常享受那些不产生经济价值的活动。我花大量时间玩电子游戏、游泳、户外散步和与朋友交谈，这些都不产生经济价值。我会花一天时间尝试提高游戏技能，或者更快地骑车上山，我并不真正在意世界上某处有人在这些事情上比我强得多。无论如何，我认为意义主要来自人际关系和连接，而非经济劳动。人们确实希望有成就感，甚至竞争感，在后AI世界中，完全可以花数年时间尝试某些非常困难的任务并制定复杂策略，类似于人们今天从事研究项目、尝试成为好莱坞演员或创办公司时所做的那样【28】。事实上，（a）未来，某个AI原则上可以更好地完成这些现在来看，尚为复杂的任务，以及（b）这些复杂任务在未来不再是全球经济中受到经济奖励的要素，对那时的我来说，这些任务似乎也就不那么重要了。

经济问题对我而言实际上比意义问题更难。本节中的"经济"指的是：在足够先进的AI驱动经济中，大多数或所有人类都可能无法做出有意义贡献。这比我在第3部分讨论的不平等问题（特别是获取新技术的不平等）更宏观。

首先，短期内，我赞同比较优势原理，将继续确保人类在经济中发挥作用，并实际提高人类生产力，甚至可能在某些方面为人类创造公平竞争环境。只要AI仅在某工作的90%方面更优，剩余10%将使人类获得高杠杆作用，增加薪酬，实际上创造许多新的人类工作来补充和放大AI擅长的领域，使这"10%"扩展到继续雇佣几乎所有人。事实上，即使AI能在所有方面都超过人类，但在某些任务上仍然效率低下或昂贵，或者人类和AI的资源投入有实质差异，那么比较优势的逻辑仍然适用。人类可能在相当长时间内保持相对（甚至绝对）优势的一个领域，是物理世界。因此，我认为即使在我们达到"数据中心里的天才国度"之后的一段时间内，人类经济仍可能继续有意义。

然而，我确实认为从长远来看，AI将变得如此广泛有效且廉价，以至于刚刚提到的情况不再适用。届时，我们当前的经济设置将不再合理，需要进行更广泛的社会对话，讨论经济应如何组织。

虽然这听起来可能很疯狂，但事实是，文明已经成功度过了多次重大经济转型：从狩猎采集到农业，从农业到封建制度，从封建制度到工业化。我怀疑需要一些更新、更奇特的事物，而且这是当今没有人能思考周全的东西。它可能简单到，为每个人提供大规模全民基本收入，尽管我怀疑这只是解决方案的一小部分。它可能是AI系统的资本主义经济，然后基于某种次级经济（由AI判断哪些人类行为值得奖励，而这种判断最终源自人类价值观。）将资源（巨量资源，因为整体经济蛋糕会非常庞大）分配给人类。也许经济将以Whuffie点数运行。或者也许人类最终仍将具有经济价值，只是以通常经济模型未预见的方式。所有这些解决方案都有大量可能问题，没有大量迭代和实验就无法知道它们是否合理。和其他一些挑战一样，我们可能必须为获得好结果而奋斗：剥削性或反乌托邦显然也有可能，必须加以防止。关于这些问题我可以写更多内容，希望以后找机会写出来。


～完～


感谢阅读，欢迎转发、点赞👍和推荐❤️，谢谢！