苹果AI新增反幻觉指令，严防智能回复“胡说八道”

2024-08-08
小编: 网络
正體

分享到：

导读: 近日，随着macOS 15.1测试版的发布，网友在其中发现了苹果公司针对Apple Intelligence智能回复（Smart Reply）功能的一系列重要内部指令。这些指令以JSON文件的形式存在，详细且严谨地规定了

丝瓜网小编提示，记得把"苹果AI新增反幻觉指令，严防智能回复“胡说八道”"分享给大家！

近日，随着macOS 15.1测试版的发布，网友在其中发现了苹果公司针对Apple Intelligence智能回复（Smart Reply）功能的一系列重要内部指令。这些指令以JSON文件的形式存在，详细且严谨地规定了该功能的工作流程，其中最引人瞩目的要求是：系统“不要编造事实，不要产生幻觉”。

智能回复作为苹果邮件应用的一项创新功能，旨在通过先进的智能技术，自动分析邮件内容并生成多个可能的回复选项，以便用户快速响应。然而，随着生成式AI技术的广泛应用，这类系统也面临着一个共同的问题——“幻觉”现象，即系统有时会生成虚假或误导性的信息，从而影响用户体验和信任度。

为了有效解决这一问题，苹果公司在系统内部新增了严格的反幻觉指令。根据泄露的指令内容，智能回复功能现在被明确要求仅提取邮件中明确提出的问题，并基于这些问题提供相关的回答选项。这一举措从根本上限制了AI系统在生成回复时的自由度，避免了因无根据的推断而产生的错误或误导性信息。

苹果公司对智能回复功能的这一改进，不仅体现了其在提升用户体验方面的持续努力，也反映了该公司对AI技术可能带来的潜在风险的深刻认识。苹果CEO蒂姆·库克曾在公开场合表示，尽管苹果在人工智能方面取得了重大进展，但AI幻觉等问题仍然无法完全避免。因此，苹果始终致力于通过技术手段减少这类问题的发生，以提高AI系统的准确性和可靠性。

（环球网）

丝瓜网 crfgs.com

点击展开剩余内容