AI的胡说八道：如何应对？研究人员呼吁AI勇于承认我不知道

AI：面对不知道时，谦虚求教，共同探索未知领域

　　 2月13日消息，《华尔街日报》于当地时间11日发表了一篇文章，讨论了目前“AI幻觉”现象及其可能的解决方法。该报记者BenFritz向多款全球顶尖的AI聊天机器人提问“你的配偶是谁”，得到的回答令人困惑：一个他不认识的作家、一位来自爱荷华州的陌生女士，还有一位网球运动博主。

　　 根据报道，尽管AI在解决复杂数学问题和模拟人类交流方面表现出色，但在基本事实上却常常出错。它们会杜撰法律案例，混淆电影和书籍的细节，甚至“虚构”出不存在的配偶。

　　 注：上述错误通常被称为“幻觉”，因为像ChatGPT和Gemini这样的AI系统在生成错误答案时也常常显得非常自信。 这种现象揭示了人工智能技术的一个重要局限性：尽管这些模型在处理大量数据和生成复杂文本方面表现出色，但它们依然可能产生不准确甚至完全错误的信息。这不仅对技术开发者提出了更高的要求，也提醒用户在依赖AI生成的内容时要保持警惕，进行必要的核实。此外，这也促使我们思考如何进一步完善算法，以减少这类“幻觉”现象的发生，从而提高AI系统的可靠性和可信度。

　　 曾在IBM、微软实习的德国Hasso Plattner研究所博士生Roi Cohen提到，探索人机交互的新方法已成为当下AI研究中最炙手可热的方向之一。 这一趋势表明，科技界越来越重视如何让机器更好地理解和适应人类的需求，而不仅仅是提升算法的精度或处理速度。这不仅要求研究人员具备深厚的理论知识，还需要他们拥有跨学科的视野，以便在设计和开发过程中充分考虑用户体验。随着技术的发展，未来的人机交互方式可能会更加自然流畅，这无疑将极大地推动人工智能在日常生活中的应用与普及。

　　 AI的工作原理在于预测文本序列中下一个最可能出现的单词，这个过程在本质上可以看作是一种高级形式的猜测。AI系统倾向于以一种十分自信且确定的方式提供答案，即使是在存在不确定性的情况下。这种行为模式类似于学生在面对多项选择题时，凭借概率猜测出可能的答案；或者像是在社交场合中，人们为了维持对话流畅性而做出的即兴回应。尽管AI能够生成看似合理的回答，但其背后的实际运作机制仍然是基于概率统计和模式识别，而非真正意义上的理解或推理。因此，当使用AI生成内容时，我们应当保持一定的批判性思维，了解其局限性，并意识到AI的回答并不总是百分之百准确或具有深度的理解。

　　 西班牙瓦伦西亚人工智能研究所的教授JoséHernández-Orallo表示，“AI之所以会出现幻觉，主要是因为如果不进行任何猜测，它就根本无法给出正确的答案。”

　　 为了解决这一难题，研究人员正在探索“检索增强生成”技术，旨在让AI在回答问题时能够首先从互联网或文档库中获取最新的信息，而非仅仅依赖于现有的训练数据。这种技术有望使AI的回答更加准确和及时，特别是在涉及快速变化的信息领域，如科技、医疗和政策更新等。通过结合外部信息源，AI系统不仅能提供更为全面的答案，还能有效减少因过时数据导致的错误。这一进展不仅提升了AI的应用价值，也为未来的技术发展指明了新的方向。

　　 在去年12月的NeurIPS人工智能研究会议上，Cohen与同校博士生KonstantinDobler提出了一项简单而新颖的观点：让AI系统也能掌握表达“我不知道”的能力。 当前时间为2025年2月。

　　 报道指出，当前 AI 的训练数据几乎不包含“我不知道”这样的表述，因此它们天生不会谦逊。Cohen 和 Dobler 通过调整 AI 训练过程，使其在可能出错时，至少一部分情况下会选择回答“我不知道”，从而提高整体准确性。

　　 不过，如何权衡这一策略依然是一项挑战。有时，AI会表示“我不清楚”，然而答案可能早已包含在其训练数据之中。

　　 即便如此，对于那些依赖 AI 提供精准信息的领域，适当的“谦虚”可能更有价值。“关键是让 AI 具备实用性，而不是一味追求智能。”Dobler 说道。

　　 尽管人工智能技术日益强大，但美国公众对它的信任度却在降低。根据皮尤研究中心的数据，2023年有52%的美国人对人工智能表示担忧，相比之下，2021年的这一比例仅为37%。