二、要点
1.核心内容
技术奇点的概念与时间预测：作者认为技术奇点是人工智能超越人类智能的时刻，这一时刻将引发社会和技术的颠覆性变革，并预测奇点将在 2045 年左右到来。
推动奇点的关键科技领域
基因技术（G）：通过基因编辑和治疗，可改造人类生物学特性，攻克遗传性疾病，延长寿命，增强生理和认知能力，如 CRISPR 技术使基因编辑更精准高效。
纳米技术（N）：能在分子层面制造材料和设备，在医药领域，纳米机器人可进入人体修复细胞损伤等；还可用于制造更高效的能源设备。
人工智能（R）：其发展会使机器具备思考和学习能力并超越人类智能，如在医疗诊断中，能通过分析大量数据更准确地诊断疾病。
人机融合的未来：到 21 世纪 30 年代，脑机接口技术将使人类能将思想上传到云端，实现智力大幅提高，创造全新智能形态，突破生物大脑局限。
技术演进的六个阶段：宇宙创生、生命的起源、大脑的进化、技术的兴起、奇点来临、宇宙觉醒。
2.奇点带来的变革与挑战
变革
生活方式：物质极大丰富，3D 打印技术可低成本制造各种产品，人们能专注于精神追求。
工作方式：AI 取代大部分传统工作岗位，未来工作更注重创造力和创新能力。
寿命：长寿科技取得突破，人们可能实现 “长寿逃逸速度”，活到几百甚至上千岁。
挑战
技术失控风险：纳米技术、基因工程和人工智能可能被滥用，带来资源消耗、人类安全威胁、全球性疫情等灾难。
社会不平等加剧：AI 发展使大量人员失业，贫富差距可能进一步加大。
人类身份认同危机：人机融合模糊了人类与机器的界限，当意识上传云端等情况出现时，会引发对人类身份认同的思考。
伦理和道德困境：机器拥有高智能后，“人” 的定义、人类和机器的道德责任等问题亟待解决。
精神空虚和意义缺失：物质丰富后，人们可能面临精神空虚和人生意义缺失的危机。
三、原文金语：
1. 关于意识
面对意识这一难题，查默斯提出了一种他称之为“泛原心论”(Panprotopsychism)的哲学概念。[插图]泛原心论认为，意识类似于宇宙中的一种基本力量，无法简单地视其为他物理力量影响的结果。可以想象存在一种拥有潜在意识的普遍场域。我对这一观点的解释，是大脑中处理信息的复杂性唤起了我们所熟知的主观体验。因此，无论大脑是由碳还是硅构成的，能让它表现出意识迹象的复杂性，同样也赋予了它主观的内在生命。
2.关于复制人的信息丰富程度
到21世纪20年代末，先进的AI将能够创建非常逼真的复制人，所用的信息提取自成千上万的照片、数百小时的视频、数百万字的文字聊天记录、详细描述个人兴趣和习惯的数据、对朋友和家人的采访资料等。由于文化、伦理或个人原因，人们对此会有不同的看法，但对于那些渴望它的人来说，这项技术是可行的。
3.关于生物脑的缺陷，价值观与身份
虽然我对自己是谁负有一定责任，但我的自我实现仍然受到许多不在我控制范围内的因素的限制。我的生物大脑是针对远古时代的生活环境进化而来的，这使得我会不自觉地形成一些我并不愿意养成的习惯。它无法以足够快的速度学习或者记忆，让我无法掌握所有我渴望了解的知识。我无法对其重新编程，让我从恐惧、创伤和疑虑中解脱出来，这些都在阻碍我实现我想要实现的目标。我的大脑待在一个逐渐衰老的身体里——尽管我在努力延缓这一过程，它的生物学程序注定会破坏雷·库兹韦尔所谓的信息模式。
一旦将人类大脑备份到更高级的数字基底上，我们的自我改造能力就将得以完全释放。我们的行为将能与我们的价值观保持一致，生物学上的缺陷也无法再摧残和缩短我们的生命。最终，我们将可以真正为自己的身份负责。
4.关于技术变革的持久性
经济周期起伏不定，财富可以获得也可以失去。但技术变革本质上是永久性的。
近几十年来，在几乎所有形式的信息技术的指数发展曲线日益陡峭的情况下，这些趋势加速了。正如我在本章中所描述的那样，在未来几十年，我们将进入高速发展阶段。
5.关于技术进步和食品、交通和城市聚居
当人们可以期待长期的安全生活时，他们就有充分的理由进行有利于社会的长期投资。
现在的城市已经非常拥挤了。我的回答是，我们之所以感到拥挤，是因为我们选择了密集地挤在一起。城市的出现就是为了让我们能够一起工作和娱乐。但是，在乘火车去世界上任何一个地方旅行时你会发现，几乎所有适宜居住的土地都还没有被占用，只有1％的土地被开发用于人类居住。[插图]人类直接使用的适宜居住的土地只占地球陆地面积的一半，这一半几乎全部被用于农业。在农业用地中，77％用于饲养牲畜、放牧和种植饲料，只有23％用于种植供人类消费的作物。[插图]人造肉和垂直农业只须使用现在已经在使用的一小部分土地就能满足需求。这将使健康食品更加丰富，容纳不断增长的人口，同时还能释放出大片土地。自动驾驶汽车将通过延长通勤时间来减少交通拥堵。我们将能够在任何想要的地方生活，同时仍然能够在VR和AR空间中一起工作和娱乐。
垂直农业将提供廉价的高质量食物，并释放我们用于水平农业的土地。这样造成的结果是，人类有了更多可食用的食物，几个世纪以来，越来越多的人可以将时间花在其他活动上，如贸易、科学和哲学研究。
全球范围内，土地利用效率的提高大致呈指数级。平均而言，与1961年相比，今天我们种植一定数量作物所需的土地不到之前的30％。[插图]这一趋势对于当时全球人口的增长至关重要，并使人类免于人口过剩造成的大规模饥荒。
6.关于技术进步和经济核算
今天的智能手机在计算和通信方面的功能比1965年要强大数十万倍，并且具有当时任何价格都无法购买的无数功能，但它在经济活动中只被计算为几百美元，因为这是你为购买它支付的金额。
这些影响远远超出了与技术显著相关的领域。技术变革带来了无数没有体现在GDP中的好处，包括减少污染、更安全的生活环境以及更多的学习和娱乐的机会等。
有两大趋势正在重塑工作的性质，但经济统计数据并没有很好地反映这一点。第一个趋势是地下经济的存在，它一直都存在，但互联网极大地促进了其发展。地下经济涵盖多种类型的服务，包括付现金的家政服务、替代性治疗方式等。促进地下经济发展的另一个因素是加密技术（如加密货币）的出现，这使得交易可以隐藏在税收、监管和执法部门的监管范围外。
这种影响也促进了第二个主要趋势：新的赚钱方式并不总是被视为传统的就业方式，其中包括使用网站和应用程序创建、购买、销售和交换物理、数字资产与服务，以及在社交媒体上创建应用程序、视频和其他形式的数字内容。
7.关于技术进步和传统行业的成长
许多传统上不被视为与信息技术相关的其他产品，例如食品、住房和建筑施工，以及其他实物产品，如服装，也将出现类似的变化。例如，AI驱动的材料科学进步将使太阳能光伏发电的成本变得极其低廉，而利用机器人开采资源和自动驾驶电动汽车将大大降低原材料的成本。随着能源和材料成本的降低，以及自动化逐渐完全取代人力劳动，产品或服务价格将大幅下降。随着时间的推移，这种效应将覆盖大部分经济领域，我们将能够消除目前阻碍人们发展的大部分资源的稀缺性。因此，在21世纪30年代，人们将能够以相对低廉的成本过上今天被认为是奢侈的生活。
8.关于大脑扩容后的无法想象的未来
试想一下，如果我们试图向那些错过了200万年前因额叶增大而带来的新皮质进化的灵长类动物解释音乐、文学、YouTube视频或笑话，会是什么情景？这个类比让我们能够想象一下，当我们在21世纪30年代的某个时候开始以数字方式增强大脑皮层时，我们将能够创造出现在无法想象或理解的有意义的表达方式。
9.关于技术进步和结构性失业
适应技术变革的一大挑战在于，它们往往会给广大的群体带来分散的利益，但给小部分群体带来集中的危害。
一个失业的司机不会因为人类整体有望满足更高层次需求的承诺而感到满意，因为作为个人，他可能无法完成这种转变。
这些人是明确的特定群体，他们的生活遭到变故的可能性相当大。当某人处于这种境地时，仅仅知道整体社会利益大于他们个人的痛苦是不够的。我们需要制定政策来帮助减轻他们的经济困难，并帮助他们平缓地过渡到其他能提供意义、尊严和经济保障的事情上。
10.关于延缓衰老
在年轻的时候，我们的身体能够有效地清除这些废物并修复损伤。但随着年龄的增长，我们体内的大多数细胞会不停地复制，错误也会不断积累。最终，损伤堆积的速度超过了身体修复的速度。
我们需要在单个细胞和局部组织层面修复衰老造成的损伤。目前人们正在探索许多可能的方法来实现这一目标，但我认为最有前途的终极解决方案是纳米机器人，它们能够进入人体并直接进行修复。这并不意味着人类将永生不死。我们仍然可能死于意外和灾难，但随着年龄的增长，死亡风险将不再逐年上升。这样一来，许多人就可以健康地活到120岁以上。
这对人类的未来有着深远的影响，如果你还能再活几十年的话，对你个人来说也是如此。记住：有史以来的智力飞跃都发生在自石器时代以来结构未发生改变的生物大脑中。如今，外部技术让每个人都能够访问人类同胞所做出的大多数发现，但我们的意识水平与新石器时代的祖先相比并没有太大变化。当能在21世纪30年代和40年代扩展新皮质本身时，不仅是我们解决抽象问题的能力会增强，我们的主观体验也将得到深化。
11. 关于在“富足而长生”的状态下继续生活/工作
当面对可以延长所有人类寿命的可能性时，他们也没有给出积极的反馈。“生活太难了，不能无限期地延续下去”是一种常见的反应。
12.关于人与AI的替代/融合
卡珊德拉：你预测我们需要数百万个电路才能连接到新皮质的顶层。相比之下，通过外部设备扩展我们的智能需要从键盘输入，速度要慢几个数量级。这肯定会大大影响人机交互的效率。而且，AI为什么会愿意与沟通速度如此之慢的人类打交道呢？它完全可以自己做所有的事情。
库兹韦尔：但是当人们有目标感时，冲突就可以最小化。将我们的新皮质扩展到云端对于人类保持目标感至关重要。就像几十万年前，人类的灵长类祖先的大脑皮层越来越多，可以从思考生存本能提升到思考哲学一样，“进化”的人类将拥有更强的同理心和道德感。
13.《知然岛》节选-未来的牛马，数据捕手
AI将我们的日常工序一道道剥离，只剩下最纯粹、最适合人类的一种工作——数据买手。数据买手就是数据的采购员。按照面试官的说法，在算法统领一切的时代，所谓的市场竞争就是一个激烈的赛马场，每家公司的算法系统就是一匹赛马，而数据则是马匹所吃的草料。因此，数据越是及时可靠，就等于马匹吃的草料越是新鲜与丰盛，那么马匹奔跑起来就越是撒蹄如飞，一骑绝尘。而我们就是这种草料的采购员，游弋在玻璃球中各种公开的草料市场，像果农挑选成熟苹果一样购买数据。
～完～
感谢阅读，麻烦点个👍和❤️，谢谢！
