子川投资笔记微信公众号：“新知”栏目，以人文视角关注AI、脑与认知、前沿科技，力图提供最新和最好的外刊文章中译、导读；“经典”栏目，持续更新“巴菲特致股东信”精译及评注系列；“维特根斯坦”哲学系列；“洞见”栏目：分享关于技术进步、AI哲学与伦理、投资哲学的深度思考。
我们的使命是确保 AGI（通用人工智能）能造福全人类。
能够展现 AGI 雏形的系统已开始显现，因此我们认为理解当下这一时刻至关重要。AGI 是个定义并不严格的术语，但总的来说，我们指的是一个能够在多个领域以人类水平处理日益复杂问题的系统。
人类天生就是工具创造者，具有理解和创造的内在驱动力，这推动着世界不断进步。每一代人都在前人发现的基础上创造出更强大的工具——电力、晶体管、计算机、互联网，很快还将出现 AGI。
随着时间推移，虽有起伏波折，人类创新的稳步前进为人们的生活带来了前所未有的繁荣，几乎改善了生活的方方面面。
从某种意义上说，AGI 只是我们共同构建的人类进步阶梯上的又一个工具。但从另一个角度看，这是一个不得不说"这次真的不同"的开端——我们面前的经济增长令人惊叹，我们现在可以想象一个治愈所有疾病、有更多时间陪伴家人、充分实现创造潜能的世界。
也许十年后，地球上的每个人都能比当今最具影响力的人完成更多的事情。
我们持续看到 AI 开发的快速进展。以下是关于 AI 经济学的三个观察：
1. AI 模型的智能大致等于训练和运行所用资源的对数。这些资源主要包括训练算力、数据和推理算力。显然，投入任意数量的资金都能获得持续且可预测的收益；预测这一点的扩展定律在多个数量级上都是准确的。
2. 使用特定水平 AI 的成本每 12 个月下降约 10 倍，而成本降低会带来使用量的大幅增加。从 2023 年初的 GPT-4 到 2024 年中的 GPT-4o，每个 token 的价格在这期间下降了约 150 倍。摩尔定律以每 18 个月翻倍的速度改变了世界，AI的成本下降速度更加令人难以置信。
3. 线性增长的智能带来的社会经济价值呈超指数增长。因此，我们看不到任何理由认为指数增长的投资会在近期停止。
如果这三个观察持续成立，对社会的影响将十分显著。
我们现在开始推出 AI agents，它们最终会给人一种虚拟同事的感觉。
让我们设想一个软件工程 agent 的例子，这是我们认为特别重要的一类 agent。假设这个 agent 最终能够完成一位顶级公司有几年经验的软件工程师能做的大部分工作，可以处理长达几天的任务。它不会产生最具创新性的想法，需要大量人工监督和指导，在某些方面表现出色，但在其他方面却出人意料地糟糕。
尽管如此，把它想象成一个真实但相对初级的虚拟同事。现在想象有 1000 个这样的 agent，或者 100 万个。再设想在知识工作的每个领域都有这样的 agent。
从某些方面看，AI 在经济上可能会像晶体管一样——一个重大的科学发现，具有良好的扩展性，渗透到经济的几乎每个角落。我们不会过多考虑晶体管本身或晶体管公司，其带来的收益被广泛分配。但我们确实期望我们的计算机、电视、汽车、玩具等能创造奇迹。
世界不会一下子改变，从来都不会。短期内，生活将基本保持不变，2025 年的人们大多会像 2024 年一样度过时光。我们仍会坠入爱河、组建家庭、在网上争论、在大自然中徒步等。
但未来将以一种无法忽视的方式向我们袭来，对社会和经济的长期改变将会巨大。我们会发现可做的新事物，互帮互助的新方式，新的竞争方式，但这些可能与今天的工作大不相同。
主动性、意志力和决心可能会变得极其宝贵。正确决定该做什么以及找出如何在不断变化的世界中前进将具有巨大价值；培养韧性和适应能力将是有益的技能。AGI 将成为人类意志力史上最强大的杠杆，使个人能够产生比以往更大的影响力，而不是更小。
我们预计 AGI 的影响将是不均衡的。尽管某些行业变化很小，但科学进步可能会比现在快得多；AGI 在这方面的影响可能超过其他所有方面。
许多商品的价格最终将大幅下降（目前，智能成本和能源成本制约着许多事物），而奢侈品和一些本质上有限的资源（如土地）的价格可能会更加剧烈地上涨。
从技术角度看，我们面前的道路相当清晰。但公共政策和社会对“如何将 AGI 融入社会”的集体意见非常重要；我们早期频繁推出产品的原因之一，是为了让社会和技术有时间共同演进。
AI 将渗透到经济和社会的各个领域；我们会期望一切都变得智能化。许多人认为我们需要给予人们比历史上更多的技术控制权，包括开源更多内容，并接受安全性和个人赋权之间需要权衡取舍的事实。
虽然我们永远不想鲁莽行事，而且可能会有一些与 AGI 安全相关的重大决策和限制不受欢迎，但方向上来说，随着我们越来越接近实现 AGI，我们认为向个人赋权的重要性成为趋势；我们或许也能看到的另一个路径是另外一些政府通过大规模监控和剥夺自主权来使用 AI 控制其人民。
确保 AGI 的收益得到广泛分配至关重要。技术进步的历史影响表明，我们关心的大多数指标（健康状况、经济繁荣等）从长期平均来看都会改善，但提高平等性似乎并非技术决定的，要做对这一点可能需要新的想法。
特别是，资本和劳动力之间的权力平衡似乎很容易失衡，可能需要做早期干预。我们愿意考虑一些听起来奇怪的想法，比如给每个地球人一些"算力预算"来使用大量 AI。但我们也能看到很多其他方式，例如只要不懈地将智能成本降到最低就能达到预期效果。
2035 年的任何人都应该能够调动相当于 2025 年所有人的智力能力；每个人都应该能够获得无限的天才智慧，按照自己能想象的方式来运用。目前有大量人才缺乏充分发挥自我的资源，如果我们能改变这一点，世界由此产生的创造力将为我们所有人带来巨大收益。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 审阅了本文草稿。
本文使用 AGI 术语仅为表述清晰，并不意味着我们要改变或重新定义与微软的合作关系及相关流程。我们完全期待与微软保持长期合作关系。这个脚注看起来有点傻，但另一方面我们知道一些记者会试图通过写一些傻东西来获取点击量，所以我们在这里预先防范这种傻事……
来源：
Altman, S. (2025, February 10). Three Observations. Retrieved from https://blog.samaltman.com/three-observations
～完～
感谢阅读，欢迎转发、点赞👍和推荐❤️，谢谢！