“道德的人工智能”的伪憧憬

华沙—用“野生”算法测量、量化和优化生活的方方面面引起了越来越多的公众担忧和监管者的日益关注。但应对之道中颇有些不切实际的想法，比如那些打着“道德的人工智能”旗号的措施。

不难理解，公共机关希望减小某些人工智能应用的弊端，特别是那些与加强监控、歧视少数群体和不当治理决定有关的应用。但资金短缺的政府同样也很想采取一切能够在提供公共服务、执法和其他方面带来效率增进的科技。这两项当务之急之间的僵局让争论的主题从法律和决策转向了宣传行业内自愿的最佳实践和道德标准。

目前，领衔推动这场运动的是公共机构众多，包括欧盟委员会和美国国防部等，其主题主要围绕“算法公平”的概念展开。其思想是，人类判断的不完美性课以克服，社会纠纷可以解决，只要有自动化的决策系统即可，在这套系统中，输入变量（数据集）和处理（算法）被优化用来体现某些定义模糊的价值观，如“公平”和“信誉”。换句话说，重点不在于政治，而是调教过的机器，它们能够去除现有数据集的偏误或创造新的数据集。