Salesforce调查显示:近50%的人不信任企业会合乎道德地使用AI

文章概要:

1. Salesforce针对1.4万消费者和企业买家调查发现，企业采用AI与消费者之间可能存在着很大的信任差距。

2. 调查显示，尽管客户普遍开放AI用途，但近50%的人不信任企业会合乎道德地使用AI。

3. 调查建议企业提高透明度、人工验证结果、给客户选择权等以赢得消费者信任。

Salesforce最近对来自25个国家的1.4万名企业买家和消费者进行了调查，发现企业在采用人工智能技术的“竞赛”中，可能以客户信任为代价。

调查显示，虽然客户普遍对AI应用持开放态度，以获取更好体验，但近50%的受访者不信任企业会合乎道德地使用AI。

调查重点是企业在推行新型生成AI时需解决的主要问题，以向客户提供最佳AI体验并保持业务增长。对“信任”的理解很复杂，在AI中信任植根于遵循个人权利、隐私和非歧视等伦理原则。调查中，76%的人信任企业提升产品和服务，但近50%不信任它们会合乎道德地使用AI。

受访者最担心的问题是缺乏透明度和人工验证AI输出，超过80%的人要求人工验证。仅37%的人信任AI提供与人一样准确的响应。企业买家对AI的信心较高，73%的企业买家对企业使用AI提升体验持开放态度，而只有51%的消费者这样认为。

调查建议企业提高AI使用透明度和结果验证，49%的受访者希望获得更多选择权，决定AI在接触中的应用方式。其他建议包括:业内标准、征求客户反馈、培训数据集、公开算法等。

在受访者中，企业买家对人工智能的态度比消费者更加乐观，其中73% 的人表示他们愿意企业使用这项技术来获得更好的体验。相比之下，只有51% 的消费者持相同观点。

有趣的是，自2022年生成式人工智能（能够在几秒钟内生成新内容）出现以来，总体情绪似乎仍然有所下降。Salesforce 表示，去年，多达82% 的企业买家和65% 的消费者愿意使用人工智能来获得更好的体验。

在供应商方面，乐观情绪继续保持高涨，大多数处于客户参与前沿的专业人士（从 IT 和营销到销售和服务团队）表示，生成式人工智能将帮助他们的公司更好地为客户服务。