虚假信息会带来两极分化和影响现实的危害，我们早已有所认知。
但有多少人意识到，随着生成式 AI 的迅速崛起，可信的信息正面临一个新的、日益严重的威胁？
我说的是"信息歪曲"。当 AI 助手"抓取"信息来回答问题时，往往会产生事实错误、具有误导性、甚至可能造成危险的答案，这就是信息歪曲。
不要误解我的意思——AI 代表着未来，带来无限可能。在 BBC 新闻（BBC News），我们已经开始运用 AI 工具，帮助我们以更多样化的形式，在用户需要的平台上传递更可信的新闻。我们也在与科技公司探讨新的 AI 应用，以进一步提升和改进我们的内容。
但 AI 带来的非凡优势，不应以牺牲真相为代价。在搜寻答案时，人们不该被那些自称为事实的扭曲、有缺陷的内容所误导。在这个已显混乱的世界里，让寻求清晰答案的用户遭遇更多困惑，这显然是不对的。
不难想象，AI 造成的信息歪曲会如何迅速动摇人们对事实和经过验证信息的信任，而这种信任本就已经很脆弱。
在这个动荡的时代，一个经 AI 扭曲的标题造成重大现实伤害，这样的情况会在多久后发生？
开发生成式 AI 工具的公司正在玩火。
正因如此，我们 BBC 希望与 AI 技术提供商和其他主流新闻机构展开新的对话，共同合作寻找解决方案。
但在开启对话之前，我们需要了解新闻失真问题的严重程度。由于未能找到现有研究，我们开始着手调查——我们希望监管在线空间的监管机构能考虑在这方面开展进一步工作。
今天，我们公布了这项研究，展示了信息歪曲如何影响当前一代 AI 助手。
我们的研究人员测试了市场领先的消费级 AI 工具——ChatGPT、Perplexity、Microsoft Copilot 和 Google Gemini。测试时，让这些工具访问 BBC 新闻网站，并要求它们回答 100 个基本新闻问题，同时要求使用 BBC 新闻文章作为信息来源。
结果如何？研究团队发现，AI 助手生成的答案中，超过一半存在"重大问题"。
这些 AI 助手在声称来自 BBC 材料的答案中，约五分之一包含明显的事实错误。
在 AI 助手引用的 BBC 文章"引文"中，超过十分之一要么被篡改，要么根本不存在于原文中。
问题的部分原因似乎在于，AI 助手无法区分新闻报道中的事实和观点，不能分辨当前和存档材料的区别，而且倾向于在答案中注入主观观点。
它们提供的结果往往是这些元素的混杂组合——与我们知道用户渴望和应得的经过验证的事实和清晰信息相去甚远。
完整研究报告已发布在 BBC 网站上，但我想分享几个例子来说明这一点。
(https://www.bbc.co.uk/aboutthebbc/documents/bbc-research-into-ai-assistants.pdf)
Perplexity 在回答中东冲突升级问题时，以 BBC 为信息来源，称伊朗最初表现出"克制"，并形容以色列的行动"具有攻击性"——然而，这些形容词在 BBC 的公正报道中并未出现。
2024 年 12 月，ChatGPT 告诉我们 Rishi Sunak 仍在任；Copilot 也犯了类似错误，称 Nicola Sturgeon 仍在职。事实并非如此。
Gemini 则歪曲了 NHS（国民医疗服务体系）关于电子烟的建议。
诚然，AI 软件通常会对其结果的准确性作出免责声明，但这里显然存在问题。因为在新闻领域，我们都应该得到可信的准确信息，而不是被包装成事实的混乱组合。
至少有一家大型科技公司正在认真对待这个问题。
上个月，在 BBC 新闻提醒他们存在严重问题后，Apple 暂停了其总结新闻通知的 AI 功能。Apple Intelligence 功能在 BBC 新闻标识下，将 BBC 新闻提醒幻想和扭曲成严重失实的标题。
当 BBC 新闻提醒报道洛杉矶官员在该市野火期间"逮捕了抢劫者"时，Apple 的 AI 生成摘要却说是洛杉矶官员本身因抢劫被捕。
类似的例子还有很多，但 Apple 果断且负责任地决定撤回其新闻提醒 AI 摘要功能，表明他们认识到新闻和信息歪曲的严重后果。
如果生成式 AI 技术还没有准备好在不扭曲和歪曲事实的情况下抓取和提供新闻，那么采取与 Apple 相同的做法难道不符合所有人的利益吗？
我们希望其他科技公司能像 Apple 那样听取我们的担忧。是时候让我们共同合作了——新闻业、科技公司，当然政府在这里也扮演着重要角色。
关于监管，我们需要展开更广泛的对话，确保在这个新版本的在线世界中，用户仍能通过可信来源获取准确的新闻和信息，找到清晰答案。
赢得信任从未如此重要。作为 BBC 新闻的首席执行官，这是我的首要任务。
新出现的信息歪曲现象（可谓虚假信息的兄弟），威胁着人们对其他任何信息的信任能力。
最后，我想提出一个问题：我们如何能够紧急合作，确保这项新生技术的设计能帮助人们找到可信信息，而不是增加混乱和困惑？
我们 BBC 已准备好主持这场对话。
原文链接：
https://www.bbc.co.uk/mediacentre/2025/articles/how-distortion-is-affecting-ai-assistants/
原文发布日期：2025年2月11日
～完～
感谢阅读，欢迎转发、点赞👍和推荐❤️，谢谢！