子川投资笔记微信公众号：“新知”栏目，关注AI、脑与认知、哲学与艺术、前沿科技等领域，力图提供最新和最好的外刊文章中译版；“经典”栏目，持续更新“巴菲特致股东信”精译及评注系列；“维特根斯坦”哲学系列；“洞见”栏目：分享关于技术进步、AI哲学与伦理、投资哲学的深度思考。
译者注：
Hoffman是OpenAI前董事会成员，现任Microsoft董事会成员和Greylock合伙人。是一位极具影响力的美国互联网企业家、风险投资家、播客主和作家。 PayPal 的创始董事之一，并曾担任过该公司的执行副总裁。LinkedIn联合创始人。作为风险投资家，他是格雷洛克合伙公司（Greylock Partners）的合伙人，投资了一系列硅谷的互联网企业，如 Airbnb、Dropbox、Instagram 等，被誉为 “最成功的天使投资人之一”。
在Reid Hoffman的新书《超级能动性:人工智能未来的光明图景》中,这位LinkedIn联合创始人认为，AI可以扩展人类的能动性——给我们带来更多知识、更好的工作和更美好的生活，而不是削弱它。
这并不意味着他忽视了这项技术的潜在负面影响。事实上，Hoffman（与Greg Beato合著此书）将他对AI乃至整个技术领域的观点描述为关注"明智的承担风险"，而非盲目乐观。
"总的来说，每个人都过分关注可能出错的地方，而对可能有什么好的发展关注不够，"Hoffman告诉我。
虽然他表示支持"智能监管"，但他认为更重要的是通过"迭代部署"过程将AI工具投放到每个人手中，然后根据他们的反馈做出响应，这对确保积极成果更为重要。
"今天的汽车之所以能比最初制造时跑得更快，是因为……我们在刹车、安全气囊、保险杠和安全带等方面都有了很多创新，"Hoffman说。"创新并非只是不安全的；它实际上会带来安全。"
Hoffman是OpenAI前董事会成员，现任Microsoft董事会成员和Greylock合伙人。在我们讨论他的书时，我们谈到他已经看到的AI带来的好处、这项技术对气候的潜在影响，以及AI末日论者和AI悲观派之间的区别。
本次采访经过编辑，以确保长度适中和内容清晰。
你已经写过一本关于AI的书《Impromptu》。在《超级能动性》中，你想说些什么是之前没说过的？
"Impromptu"主要是试图展示AI如何能相对容易地放大智能，并通过一系列维度来展示和阐述这一点。"超级能动性"更多地是关于我们的人类能动性如何得到极大提升，不仅仅是通过超能力，这显然是其中一部分，还通过我们的行业、社会的转型，因为我们中的许多人都从这些新技术中获得了这些超能力。
围绕这些事物的一般讨论总是从强烈的悲观开始，然后转变为——可以称之为人类和社会的新的提升状态。AI只是最新的颠覆性技术。"Impromptu"并没有真正解决太多关于如何达到这个更人性化未来的担忧。
Image Credits:Simon & Schuster
你在开篇将对AI的不同观点分为几类——悲观派、末日论者、急进派、乐观派。我们可以逐一讨论，但先从乐观派开始，因为你把自己归类为乐观派。什么是乐观派？为什么你认为自己是乐观派？
我认为乐观派本质上对技术持乐观态度，认为开发技术对我们个人、群体、社会和人类都可能非常有益，但这并不意味着任何可以造出来的东西都很棒。
所以你应该承担风险，但是要明智地承担风险而不是盲目承担风险，并且要参与对话和互动来进行引导。这也是为什么我们在书中大量讨论迭代部署的原因，因为这个想法是，你通过迭代部署与许多人类进行对话。你参与其中是为了说，"哦，如果它有这种形态，对每个人来说都会好得多。它可以使负面因素的普遍性和影响力都限制在一个范围之内。
当你谈到引导时，其中涉及的监管话题我们稍后会讨论，你似乎认为最有希望的是这种规模化迭代部署。你认为这些好处是天生的吗——也就是说，如果我们把AI交到最多人手中，它本质上就是民主的？还是你认为产品需要以一种让人们能够提供意见的方式来设计？
嗯，这可能取决于不同的产品。但我们在书中试图说明的一点是，仅仅是能够参与并谈论产品——包括使用、不使用、以某种方式使用——这实际上就是在互动和帮助塑造它，对吧？因为开发它们的人在看这些反馈。他们在看：你是否参与？你是否不参与？他们在听人们在网上和媒体上说的话，以及其他一切，"嘿，这很棒。"或者，"嘿，这真的很糟糕。"这种自发的用户反馈，不同于数据分析或直接投票等正式反馈机制。
我想更深入地了解这种用户反馈机制。以ChatGPT为例，它现在已经拥有海量用户。在这种情况下，如果我说'我不喜欢ChatGPT的某个功能'或者'我对此有异议，决定不再使用它'，这样的个人意见是否会因为大多数用户的持续使用而显得微不足道？
部分原因是，让数亿人参与并不意味着你要回应每个人的异议。有些人可能会说，"任何汽车都不应该超过每小时20英里。"好吧，很高兴你这么想。
重要的是总体［反馈］。如果你表达了某种挑战，或犹豫或转变，然后其他人也开始表达这一点，那么它更有可能被听到并改变。
而且部分原因是，OpenAI与Anthropic相互竞争。他们不仅仔细倾听现在听到的内容，还……朝着人们想要的有价值的东西引导，同时也远离人们不想要的具有挑战性的东西。
作为消费者，我们可能想要利用这些工具，但它们可能在某些方面具有潜在危害，这些危害不一定对我这个消费者来说是可见的。这种迭代部署过程是否能解决其他可能不会出现在个体消费者身上的担忧，比如社会性的担忧？
嗯，我写这本关于超级能动性的书，部分原因就是让人们也能就社会性担忧进行对话。例如，人们说，"我认为AI会导致人们放弃他们的能动性和［放弃］对自己生活的决定权。"然后人们去使用ChatGPT并说，"好吧，我没有这种体验。"如果我们中很少有人真正经历［那种能动性的丧失］，那这就是对它的准反驳，对吧？
你也谈到了监管。听起来你在某些情况下对监管持开放态度，但你担心监管可能会扼杀创新。你能详细说说你认为有益的AI监管可能是什么样的吗？
我对智能监管持积极态度，特别是在某些关键领域。比如说，当我们需要防范恐怖主义、网络犯罪等严重威胁时，监管的重点就很明确：如何设计足够精准的规则，既能有效防范这些具体威胁，又不会过度限制其他正常活动？
除此之外，还有一章讲述［如何］创新也是安全，因为当你创新时，你会创造新的安全和对齐功能。这也很重要，因为今天的汽车之所以能比最初制造时跑得更快，是因为我们说，"哦，我们在刹车、安全气囊、保险杠和安全带等方面都有了很多创新。"创新不仅仅是不安全的，它实际上会带来安全。
在一个快速发展和迭代的监管环境中，我鼓励人们将你的具体担忧表述为可以衡量的东西，并开始衡量它。因为这样，如果你开始看到这个测量以强烈或令人警觉的方式增长，你就可以说，"好的，让我们探索一下，看看我们是否可以做些什么。"
你还做了另一个区分，在悲观派和末日论者之间——末日论者更关注超级智能的存在性风险，悲观派更关注就业、版权等短期风险。我读到的书中部分似乎更多地集中在回应悲观派的批评。
我想说我试图让这本书面向两个群体。一个群体是介于AI怀疑者——包括悲观派——［和］AI好奇者之间的任何人。
另一个群体是技术专家和创新者，说，"看，对人们来说真正重要的是人类能动性。所以，让我们把这作为一个设计视角来考虑我们为未来构建的东西。通过将其作为设计视角，我们还可以帮助构建更好的增强能动性的技术。"
目前或未来有哪些例子可以说明AI如何扩展人类能动性而不是削弱它？
"超级能动性"这本书试图做的部分是，人们倾向于将其简化为，"我获得了什么超能力？"但他们没有意识到，超级能动性是当很多人获得超能力时，我也从中受益。
一个典型的例子是汽车。哦，我可以去其他地方，但是，顺便说一句，当其他人去其他地方时，医生可以在你不能离开家时来你家出诊。所以你在集体上获得了超级能动性，这也是现在有价值的部分。
我认为，现有的AI工具已经给我们带来了一系列'超能力'，包括强大的学习能力。举个例子，你可以让AI分别用适合5岁、12岁和18岁的方式来解释量子力学。另外，当你用相机对准某个物体问'这是什么'时，AI能帮你识别出那是一朵蘑菇还是一棵树。
当然，AI的语言能力远不止于此。比如在我写《超级能动性》这本书时，虽然我是技术专家和发明家，而不是技术史学家，但在研究和写作过程中，我会让AI帮我思考：'从技术史学家的角度来看，这些内容该如何表述？
你在书中提到，新技术的出现往往会让一些旧技能消失，同时催生新技能。
你在书中说，人们常问'可能会出什么问题？'而你认为我们更应该问'可能会有什么好的发展？'其实这两个问题都很重要：既要看到积极的可能性，也要防范潜在风险。
是的，这就是乐观派的部分特点。你对好的发展非常乐观，但这并不意味着你不与可能出现的问题对话。问题是，总的来说，每个人都过分关注可能出错的地方，而对可能有什么好的发展关注不够。
你在其他采访中谈到的另一个问题是气候，我想你说过AI对气候的影响被误解或夸大了。但你认为AI的广泛采用是否对气候构成风险？
嗯，从根本上说，不会，或者影响微乎其微，原因有几个。首先，你知道，正在建设的AI数据中心都在大力使用绿色能源，一个积极的连锁反应是……像Microsoft、Google和Amazon这样的公司为了实现这一目标，正在大量投资绿色能源领域。
然后是AI直接应用于解决气候问题的情况。例如，DeepMind发现他们可以在Google数据中心节省至少15%的电力，工程师们过去认为这是不可能的。
最后一点是，人们倾向于过度描述它，因为它是当前的热门话题。但如果你看看我们过去几年的能源使用和增长，数据中心只占很小的百分比，而AI占的比例更小。
但部分担忧是，在未来几年，数据中心和AI方面的增长可能会相当显著。
它可能会增长到显著水平。但这就是为什么我从绿色能源这一点开始。
悲观派思维最有说服力的案例之一，也是你在书中引用的，是Ted Chiang的一篇文章，他认为很多公司在谈论部署AI时，似乎采用的是麦肯锡式的思维方式，不是释放新的潜力，而是如何削减成本和裁员。这是你担心的事情吗？
https://www.newyorker.com/science/annals-of-artificial-intelligence/will-ai-become-the-new-mckinsey
嗯，我确实担心——更多是在过渡期而不是最终状态。我确实认为，正如我在书中描述的，从历史上看，我们在经历这些转型时都伴随着很多痛苦和困难，我怀疑这一次也会有痛苦和困难。我写"超级能动性"的部分原因是试图从过去的教训和我们拥有的工具中学习，以更好地驾驭这个转型，但它总是具有挑战性。
～完～
感谢阅读，麻烦点个👍和❤️，谢谢！
