西工大李学龙团队探索人工智能伦理计算 突破伦理的定量计算瓶颈

要点:

1. 西北工业大学李学龙团队探索人工智能伦理计算，试图建立伦理的定量计算框架，以解决技术伦理问题。

2. 人工智能伦理治理已引起广泛关注，但伦理的抽象性使规范难以付诸实践。

3. 人工智能伦理计算分为高阶伦理认知和低阶伦理认知两种范式，旨在规范机器的伦理行为。

近年来，人工智能的普及已涵盖医疗、教育等多个领域，引发了一系列技术伦理问题的紧迫讨论。然而，伦理问题的抽象性导致了规范的困难，这是人工智能伦理治理的主要挑战之一。

尽管全球已初步达成一些伦理共识，但如何确保智能系统做出公平、善意的决策，如何度量伦理表现，以及如何建立明确的伦理规范仍然是问题。为了应对这一挑战，西北工业大学李学龙团队提出了人工智能伦理计算的概念，将其划分为高阶伦理认知和低阶伦理认知两种计算范式。

论文地址：https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

高阶伦理认知旨在构建伦理推理模块，使机器能够模仿人类的道德决策机制。这对于处理复杂的伦理困境，如自动驾驶决策，提供了一种方法。然而，这一方法也面临复杂的人类伦理决策动机和解释性的挑战。

低阶伦理认知关注于建立伦理度量方法，无需深入理解伦理机制，通过量化伦理概念来约束机器行为。这在公平机器学习等领域具有重要应用，但度量指标的明确定义和适用范围仍然需要解决。

总之，人工智能伦理计算旨在通过定量方法规范机器的伦理行为，无论是高自主性系统还是低自主性系统，都可以从中受益。这一方法有望成为突破人工智能伦理治理困境的关键，为确保智能系统更好地服务人类提供了重要工具。