登陆注册
11137

西工大李学龙团队探索人工智能伦理计算 突破伦理的定量计算瓶颈

站长网2023-10-13 14:16:040

要点:

1. 西北工业大学李学龙团队探索人工智能伦理计算,试图建立伦理的定量计算框架,以解决技术伦理问题。

2. 人工智能伦理治理已引起广泛关注,但伦理的抽象性使规范难以付诸实践。

3. 人工智能伦理计算分为高阶伦理认知和低阶伦理认知两种范式,旨在规范机器的伦理行为。

近年来,人工智能的普及已涵盖医疗、教育等多个领域,引发了一系列技术伦理问题的紧迫讨论。然而,伦理问题的抽象性导致了规范的困难,这是人工智能伦理治理的主要挑战之一。

尽管全球已初步达成一些伦理共识,但如何确保智能系统做出公平、善意的决策,如何度量伦理表现,以及如何建立明确的伦理规范仍然是问题。为了应对这一挑战,西北工业大学李学龙团队提出了人工智能伦理计算的概念,将其划分为高阶伦理认知和低阶伦理认知两种计算范式。

论文地址:https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

高阶伦理认知旨在构建伦理推理模块,使机器能够模仿人类的道德决策机制。这对于处理复杂的伦理困境,如自动驾驶决策,提供了一种方法。然而,这一方法也面临复杂的人类伦理决策动机和解释性的挑战。

低阶伦理认知关注于建立伦理度量方法,无需深入理解伦理机制,通过量化伦理概念来约束机器行为。这在公平机器学习等领域具有重要应用,但度量指标的明确定义和适用范围仍然需要解决。

总之,人工智能伦理计算旨在通过定量方法规范机器的伦理行为,无论是高自主性系统还是低自主性系统,都可以从中受益。这一方法有望成为突破人工智能伦理治理困境的关键,为确保智能系统更好地服务人类提供了重要工具。

0000
评论列表
共(0)条