AI可靠性成为企业高管最关注的问题

简要概述：

• 随着企业不再仅仅部署人工智能，高管们努力证明该技术能够可靠地 带来业务成果，根据HFS Research和IT公司TCS周一发布的报告。该报告调查了美国和加拿大的100多位C级高管和技术高管。
• 报告称，只有三分之一的受访者表示，人工智能能够持续交付预期成果、保持可控，并赢得监管机构、客户和高管的信任。与此同时，四分之一的高管表示，他们拥有必要的治理和控制措施来支持企业级扩展该技术，而只有六分之一的高管信任自主人工智能处理关键工作。
• “过去几年，我们一直在问自己能否开始部署这些工具——更难的问题是，我们能否开始依赖它们，”HFS Research的执行研究负责人Dana Daher告诉ESG Dive的姊妹刊物CIO Dive。

深入洞察：

企业对人工智能的依赖能力受到审视，高管们开始采取更加 谨慎的部署方法 ，原因是人工智能支出上升、员工采用滞后以及监管政策变化。

虽然人工智能正在帮助员工获取洞察并与客户建立联系，但该技术并不一定能节省 时间或金钱，根据SAP 7月发布的一份报告所调查的企业。不一致的定价模式和供应商碎片化带来了进一步的成本挑战。

员工对人工智能工具缺乏理解也促使企业采取更务实的人工智能方法。一项 Forrester调查 发现，只有16%的信息工作者对人工智能有高度理解。

然而，HFS Research的报告发现，在有人工参与的情况下，对人工智能的信任和信心仍然最高。报告称，虽然拥有可靠的人工智能并不意味着阻止每一次失败，“它的定义在于企业能够多快地检测、解释和控制失败。”

Daher表示，一个明确定义的人工参与策略，概述问责制和信任级别，对于构建可靠的人工智能和管理业务中断至关重要。

“你需要培训人员，弄清楚他们负责什么，”Daher说。

Daher表示，除了制定清晰的人工问责和监督策略外，构建值得信赖、可靠的人工智能系统还需要根据所交付的业务成果来评估人工智能。然而，报告显示，技术指标（如正常运行时间和准确性）比业务成果更常被跟踪。

最后，随着人工智能变得越来越复杂，高管们越来越难以描述其如何做出决策。 治理 将对人工智能的可靠性至关重要，Daher说。

“在信任方面存在很大的紧张关系，因为我们被要求在工作与生活的方方面面采用人工智能，但我们却不理解这些回应是如何产生的，”她说。