子川投资笔记微信公众号：“新知”栏目，以人文视角关注AI、脑与认知、前沿科技，力图提供最新和最好的外刊文章中译、导读；“经典”栏目，持续更新“巴菲特致股东信”精译及评注系列；“维特根斯坦”哲学系列；“洞见”栏目：分享关于技术进步、AI哲学与伦理、投资哲学的深度思考。


近日读到两篇关于AI信任的文章，分别题为《如何在AI时代构建消费者信任？》、《人工智能可以操纵你，但它能赢得你的信任吗？》

第一篇的导读
该文的副标题是“消费者对AI的信任创新低，但企业比以往任何时候都更依赖AI，学会弥合信任鸿沟，培养消费者信心。”。文章以一组对立数据开篇，企业一端，思科数据显示83%的高管将AI视为战略重点。但用户一端，全球范围内，AI信任度从2019年的62%下降到2024年的54%。美国的下降幅度更大，从50%下降到35%。

文章以汽车保险公司滥用数据作为负面例子，以亚马逊（用户体验）、Paypal（防欺诈）为正面例子，阐述了信任与AI的两面性。并给出了一些惯常的负责任战略。例如隐私保护、决策透明度、道德考虑和消费者教育等。

文章最后也指出，虽然围绕AI信任的大部分讨论都集中在技术上，但人类行为起着关键作用。信任通常不是由复杂的算法破坏的，而是由人们如何滥用或管理不当造成的。这一问题恰恰在第二篇文章中有进一步呼应。

第二篇的导读

该文的副标题是“意识之战，企业会助长碎片化还是帮助我们走向整合”。文章谈到的困局是从大数据算法时代开始一脉相承的，主要源自极致的数字化商业逻辑。

企业不断利用人类的成瘾和分心循环来扩大自身企业规模。广告宣传中的“个性化”推荐系统看似是比你更懂自己的朋友，实则构建了一个精密的控制系统。

在AI时代，这种控制比大数据时代更具隐蔽性和系统性，从简单的数据收集演变为主动引导，从表层的行为预测扩展到深层的心理洞察。

文章引用凯文·凯利（Kevin Kelly）的观点，“技术不会创造新的价值，它会放大已经存在的价值。”。并提出，“企业反映了其创造者的意识。如果领导者在恐惧、控制或资源稀缺的情况下运作，他们的系统将把这些品质向外投射，分裂用户并侵蚀信任。”

AI的崛起将这一问题推向到悬崖边缘。一方面，人工智能可以以前所未有的精度自动化操作。现在，算法可以准确预测何时触发通知，哪些标题将推动点击，以及哪些推荐将最长时间吸引用户的注意力。另一方面，每家企业都学着用雷同的技巧榨干用户时间，用户感到越来越疲劳和不信任。技术工具的保鲜期也越来越短。

实际上，大家都不傻，消费者开始知道什么时候自己是被操纵的。他们已经看到了无尽的循环设计，让他们上钩。只是碍于人类先天的认知偏误，还暂时无法控制自己不去参与“砍一刀”游戏。同样，员工也明白自己是剥削他人的系统的一部分。

文章建议以促进企业生态中各个角色的真正合作和增长为目标，并举了Nike的例子。曾经Nike依赖基于绩效的营销（“Just Do It or Fail”），现在则通过Nike Training Club应用程序等工具强调可持续发展，该应用程序支持身心健康。用户返回是因为他们相信耐克会引导他们，而不是利用他们的不安全感。

在文章最后，作者给出了一个可持续生态框架（E.N.G.A.G.E)，非常有建设性，完整附上。

1. 赋能进展（E mpowerment Progress）
指标：追踪显示用户个人成长的里程碑（例如：健身目标、财务稳定性）。
示例：金融应用不仅追踪登录次数等行为目标，还衡量有多少用户实现了无债务状态。

2. 净信任分数（Net Trust Score，NTS）
指标：通过定期调查关注用户福祉来衡量信任度。
示例问题："你在多大程度上相信这家公司会把你的成长置于利润之上？"

3. 行为转变追踪（B e havior Shift Tracking）
指标：长期监测习惯养成和行为改善情况。
示例：健康应用追踪用户在每日冥想后是否报告压力水平降低。

4. 情感分析（Sentiment Analysis）
指标：使用AI分析评论和支持工单中的情感趋势。
目标：检测用户信任和赋能程度的变化。

5. 指导有效性（Guidance Effectiveness）
指标：评估个性化推荐如何引导积极成果。
示例：学习类App衡量定制提醒是否提高了课程完成率。

6. 信任公平性（E quity of Trust）
指标：追踪服务中断后信任恢复的速度。

笔者观点

对于信任的话题，这里由浅到深地给出两层观点。就人类不信任AI的来源，笔者认为主要有以下几点：

- 人类主导的Deepfakes和AI生成虚假信息的扩散；使用语音克隆技术的欺诈和诈骗增加

- AI幻觉产生了大量看似正确，实则瞎说八道的信息，轻则挤占用户心智空间，重则造成决策失误。

- 越来越多的隐私问题，滥用个人资料

- 大众对超人智能的恐惧

- 大众对失业等社会问题的恐惧

- 人类对AI黑箱运作的恐惧


这些因素，使得我们产生了一种深层恐惧，AI是一个被设计来影响我们自身的东西，我们却被教育被诱导与AI建立亲密关系。如果是敌人并不可怕，但AI通常表现出的不是站在你的对立面，而是以朋友的姿态出现，用理解和关怀将你温柔锁住。


问题的核心在于价值观对齐。AI像一个初生的婴儿，它的未来秉性将由每一个参与抚养的人共同塑造。企业追逐利润的本能、用户对便利与隐私的权衡、AI模型厂商的技术理想。真正的信任不是建立在控制与逃脱控制之上。如果我们无法判断他日后的秉性，那么至少，企业、用户、AI模型厂商之间的价值观需要向可以沟通的方向推进。


参考文献：
Heinrich, J. (2025, February). How to build consumer trust in the age of AI. Medium. https://medium.com/@joshrambles/ai-can-manipulate-you-but-can-it-earn-your-trust-49088b256e0d

Arnold, A. (2025, February 5). How to build consumer trust in the age of AI. MarTech. https://martech.org/how-to-build-consumer-trust-in-the-age-of-ai/


～完～


感谢阅读，麻烦点个👍和❤️，谢谢！