Image

译文-4：

2. 神经科学与心智
在前一节中，我主要关注了生理疾病和一般生物学，没有涉及神经科学或心理健康。但神经科学是生物学的一个分支学科，心理健康与身体健康同等重要。事实上，心理健康对人类福祉的直接影响甚至超过身体健康。数亿人因成瘾、抑郁、精神分裂、低功能自闭症、创伤后应激障碍、精神病态【21】或智力障碍等问题，而只能保持极低生活质量。数十亿人在日常生活中挣扎于这些严重临床障碍的较轻微症状。与一般生物学一样，我们不仅能解决这些问题，还可能提升人类体验的基准质量。

我为生物学制定的基本框架同样适用于神经科学。该领域的推进往往依赖于少数重大发现，这些发现通常与测量或精确干预工具有关，在上述清单中，“光遗传学”就是一项神经科学发现，最近的CLARITY和扩展显微技术也属同类，此外许多通用细胞生物学方法也可直接应用于神经科学。我认为AI将同样加快这些领域发展，因此"在5-10年内实现100年的成就"这一框架基于相同原因同样适用于神经科学。如同生物学领域，20世纪神经科学的进展也是巨大的，例如直到1950年代我们才理解神经元如何以及为什么会激发。因此，可以合理预期AI加速的神经科学将在几年内产生快速突破。

我们需要在这幅基本图景中补充一点：即使神经科学研究仍然只由人类进行，近年来我们对AI本身的一些认识（或正在形成的认识）也可能有助于推进神经科学。可解释性就是一个明显的例子：尽管生物神经元表面上的运作方式与人工神经元完全不同（它们通过峰值和峰值频率进行通信，因此存在人工神经元所没有的时间要素，而且与细胞生理和神经递质相关的许多细节也大大改变了它们的运作），但"简单单元组成的分布式、经过训练的网络如何通过组合线性/非线性运算协同工作以执行重要计算"这一基本问题是相同的。我强烈怀疑在大多数关于计算和回路的有趣问题中，单个神经元通信的细节将被抽象化处理【22】。举一个例子，AI系统可解释性研究人员发现的一种计算机制最近在小鼠大脑中被重新发现。

基于人工神经网络做实验比基于真实神经网络实验要容易得多（后者通常需要切开动物大脑），因此可解释性研究可能成为提升我们对神经科学理解的工具。此外，强大AI本身可能比人类更擅长开发和应用这种工具。

但除了可解释性之外，我们从AI那里学到的关于智能系统如何训练的知识应该（尽管我不确定是否已经）在神经科学领域引发一场革命。在我从事神经科学研究时，很多人关注的“学习”问题，现在我认为问题本身就不对，因为那时还没有扩展假说/痛苦教训（bitter lesson）这样的概念。简单的目标函数加上大量数据可以驱动极其复杂行为这一认识，使得理解目标函数和架构偏差变得更有意义，而理解涌现计算的细节则变得不那么重要。虽然近年来我没有密切关注这个领域，但我隐约感觉计算神经科学家们还没有完全吸收这一教训。我对扩展假说的态度一直是"啊哈，这在高层次上解释了智能是如何运作以及如何轻易进化"，但我认为这并非普通神经科学家的观点，部分原因是即使在AI领域内部，扩展假说作为"智能的秘密"也尚未被完全接受。
（译者注：扩展假说是AI领域的一个重要发现，它指出智能系统的能力主要来自于规模的扩展，而非复杂的算法设计。简单的学习机制配合足够大的数据量和计算资源，往往能够产生超越精心设计的复杂算法的效果。这一假说不仅对AI发展具有指导意义，还为理解生物智能提供了新视角：大脑可能也是通过类似的简单但大规模的学习机制实现复杂认知功能的。这就是为什么作者认为神经科学研究应该更多关注学习的基本机制和架构约束，而不是沉迷于具体的计算细节。）

我认为神经科学家应该尝试将这一基本洞见与人类大脑的特殊性（生物物理限制、进化历史、拓扑结构、运动和感觉输入/输出的细节）结合起来，以解决神经科学的一些关键谜题。可能有些人已经在这样做，但我怀疑还不够，而AI神经科学家将能够更有效地利用这一角度来加速进展。

我预期AI将通过四个不同途径加速神经科学发展，这些途径有望共同作用以治愈心理疾病并改善功能：

* 传统分子生物学、化学和遗传学。这本质上与第一节中的一般生物学相同，AI可能通过相同机制加快这一进程。已有许多药物可以调节神经递质以改变大脑功能、影响警觉性或知觉、改变情绪等，AI可以帮助我们发明更多此类药物。AI可能还能加速对心理疾病遗传基础的研究。

* 精细神经测量和干预。这是指测量大量单个神经元或神经回路的活动，并干预改变它们行为的能力。光遗传学和神经探针是能够在活体生物中进行测量和干预的技术，一些非常先进的方法（如用分子计时器记录大量单个神经元的发放模式）也已被提出，并且原则上看来是可行的。

* 先进的计算神经科学。如上所述，现代AI的具体见解和整体思路都可能有效应用于系统神经科学问题，包括揭示精神病或情绪障碍等复杂疾病的真正成因和动态机制。

* 行为干预。考虑到我们主要关注神经科学的生物学方面，我还没有多提这点，但精神病学和心理学在20世纪当然已经发展出广泛的行为干预方法；AI理所当然也可以加速该领域的突破，包括开发新方法和帮助患者坚持现有方法。更广泛地说，"AI教练"的理念看起来很有前景，它能始终助你成为最好的自己，研究你的互动行为并帮助你学会更有效地行事。

我猜测，即使不涉及AI，这四条发展路线的共同作用，也将有望在未来100年内实现大多数心理疾病的治愈或预防，因此在AI加速下，5-10年内完成是相对合理的。具体而言，我猜测可能发生的情况是：

* 大多数心理疾病可能都得到治愈。我不是精神病学专家（我在神经科学领域的工作是开发研究小群神经元探针），但我猜测创伤后应激障碍、抑郁症、精神分裂症、成瘾等疾病可以通过上述四个方向的某种组合得到理解和有效治疗。答案可能是"生物化学的问题"（尽管可能很复杂）和"神经网络在高层次上出了问题"的某种组合。也就是说，这是一个系统神经科学问题，当然这并不否定上述行为干预的影响。特别是在活体人类中进行测量和干预的工具，似乎可能带来快速迭代和进展。

* 非常"结构性"的状况可能更难处理，但并非不可能。有证据表明精神病态与明显的神经解剖学差异相关，精神病态者的某些脑区只是更小或发育不足。精神病态者也被认为从小就缺乏同理心；他们大脑的不同之处可能一直都存在。这种情况也适用于某些智力障碍和其他状况。重构大脑听起来很难，但这似乎也是一项对智能回报很高的任务。也许有某种方法可以诱导成年大脑回到更早期或更具可塑性的状态，在那里可以重塑。我很不确定这有多大可能，但我直觉上对AI在这方面的发明持乐观态度。

* 有效预防心理疾病在基因层面似乎是可能的。大多数心理疾病都部分具有遗传性，全基因组关联研究开始在识别相关因素方面取得进展，这些因素通常数量众多。与身体疾病类似，通过胚胎筛查可能预防大多数这些疾病。一个区别是精神疾病更可能是多基因的（多个基因共同作用），因此由于复杂性，存在无意中筛选掉与疾病相关的积极特征的风险。然而奇怪的是，近年来全基因组关联研究似乎表明这些相关性可能被夸大了。无论如何，AI加速的神经科学可能帮助我们理清这些问题。当然，对复杂特征进行胚胎筛查会引发一些社会问题并引起争议，不过我猜测大多数人会支持对严重或致残性心理疾病进行筛查。

* 我们暂不认为是临床疾病的日常问题也将得到解决。我们大多数人通常都有些不被认为达到临床疾病水平的日常心理问题。有些人易怒，有些人难以集中注意力或经常昏昏欲睡，有些人恐惧或焦虑，或对变化反应不佳。今天，已经存在帮助提高警觉性或注意力的药物（咖啡因、莫达非尼、利他林），但与许多其他领域一样，可能还有更多可能性。可能还有许多这样的药物尚未被发现，也可能有全新的干预方式，如定向光刺激（见上文光遗传学）或磁场。考虑到我们在20世纪已开发了多少调节认知功能和情绪状态的药物，我对"压缩的21世纪"非常乐观，届时每个人都能让自己的大脑表现得更好，拥有更充实的日常体验。

* 人类基准体验可以更好。更进一步说，许多人都经历过非凡的启示时刻、创造性灵感、同情心、成就感、超越感、爱、美或冥想平静。这些体验的特征和频率因人而异，同一个人在不同时期也会有所不同，有时可以通过各种药物触发（尽管常有副作用）。所有这些都表明"可能体验的空间"非常广阔，人们生活中可以有更大比例由这些非凡时刻组成。可能还能全面提升各种认知功能。这也许是"生物学自由"或"延长寿命"在神经科学上的对应物。

科幻作品对AI的描绘中常出现却未在此讨论的话题是"意识上传"，捕捉人脑模式和动态将其实例化为软件的构想。这本可成为单独一篇论文的主题，但简言之，虽然我认为上传在原则上几乎肯定可行，但在实践中，即便有强大AI的支持，它仍面临重大技术和社会挑战，可能超出我们讨论的5-10年时间窗口。

总之，AI加速的神经科学很可能极大改善甚至治愈大多数心理疾病，同时极大拓展"认知与心理自由"以及人类认知和情感能力。这将与前文所述身体健康的改善一样具有革命性。也许世界表面上看起来没有明显变化，但人类体验的世界将成为更美好、更人道的场所，也提供更多自我实现的机会。我还怀疑，改善心理健康将缓解许多其他社会问题，包括那些看似政治或经济问题。

译者注：


本文为Anthropic CEO Dario 于2024年10月撰写的长文，中译本接近两万六千字。
整个AI行业自2025年始，在应用层面渐渐加速，各类声音频出。是时候将目光放到5-10年的未来，深刻分析真正的机遇与困难是如何呈现的。
回顾近月Dario的讲话和文章，均多次引用本文内容，称其为Dario的核心观点并不为过。本文也代表了一些美国AI科技前沿人士的思考逻辑，具有相当程度参考价值。
中文全译，计划分为七个部分。前六部分为译文，第七部分为导读和全译本下载（因为除技术话题外，本文还涉及与和平、治理、消除贫困有关的探讨，按过往经验，虽无原则问题，但会引起不适，及触发检测）
原文链接：https://darioamodei.com/machines-of-loving-grace

～待续～


感谢阅读，欢迎转发、点赞👍和推荐❤️，谢谢！