Salesforce发布AI使用指导方针 明确禁用场景

文章概要:

1. Salesforce公布了AI产品（包括生成式AI）的使用政策，禁止用于武器开发、成人内容等用途。

2. 政策遵循Salesforce内部的生成式AI指南，强调透明度和可追溯性。

3. 政策适用于Salesforce所有服务，包括旗舰产品Einstein平台。

Salesforce近日发布了一项人工智能可接受使用政策，对公司AI产品包括生成式AI和机器学习的使用方式进行管制。

鉴于销Salesforce在平台和客户关系管理领域的规模，这项政策具有积极的示范效应。政策内容明确，在AI监管还在讨论制定阶段的背景下，具有指导意义。

该政策由销售力首席伦理和人道主义使用官Paula Goldman监督制定。政策禁止使用销售力AI产品进行武器开发、创造成人内容、基于受保护特征进行定型等。这与销售力此前公布的内部生成式AI指南保持一致，强调准确性、可追溯性、无偏见等原则。Salesforce 的指导方针如下:

准确性、可验证、可追踪的答案。

避免偏见或侵犯隐私。

支持数据来源并包含人工智能生成内容的免责声明。

确定人类与人工智能之间的适当平衡。

通过调整模型规模来减少碳足迹。

政策适用于销售力及其关联公司提供的所有服务。其中包括旗舰产品Einstein平台，如面向客户服务、客户关系管理等不同行业任务的ChatGPT在内的公共和私人基础模型库。

Salesforce高管建议企业要提升员工对生成式AI的技能，特别是提示工程方面的专业技能，并构建可信的基础设施。未来六个月，受监管程度较高的行业可能会采用更多“人际循环”的AI应用方式，而其他行业将更加积极地采用AI。