AI行业的道德反思年

自从深度神经网络在2012年赢得全球最重要的图像识别竞赛以来，每个人都对人工智能可以释放的东西感到兴奋。 但是，在开发新的AI技术和应用程序的竞赛中，可能的负面影响倒退了。

我们现在看到了对AI伦理的更多认识的转变。 在2018年，AI开发人员变得更加意识到自己创作的可能后果。 许多工程师，研究人员和开发人员明确表示，他们不会开发会损害无辜人民生命或对其造成伤害的技术，因此他们拥有自己的公司。

执法中的面部识别

过去，创建面部识别应用程序很费劲，资源密集且容易出错。 但是随着计算机视觉的进步（允许计算机识别图像和视频内容的AI的子集），创建面部识别应用程序变得更加容易，而且每个人都可以触及。

微软，亚马逊和IBM等大型科技公司开始提供基于云的服务，使任何开发人员都可以将面部识别技术集成到他们的软件中。 这解锁了不同领域中的许多新用例和应用程序，例如身份保护和身份验证，智能家居安全性和零售。 但是隐私权活动家对滥用的可能性表示担忧。

2018年5月，美国公民自由联盟透露，亚马逊正在向执法部门和政府机构推广实时视频分析技术Rekognition。 根据美国公民自由联盟的说法，至少三个州的警察正在使用Rekognition对监视视频源进行面部识别。

“借助Rekognition，政府现在可以构建一个自动识别和跟踪任何人的系统。例如，如果警用摄像头配备了面部识别功能，则旨在提高警官透明度和责任感的设备将进一步转变为针对警察的监视机器。公开”，ACLU警告说。 “通过自动大规模监视，像Rekognition这样的面部识别系统威胁到了这种自由，对在当前政治环境中已经成为不公正目标的社区构成了特殊的威胁。一旦建立并部署了此类强大的监视系统，危害将非常难以消除。 ”。

亚马逊员工回响了ACLU的担忧，他们在6月写信给该公司首席执行官Jeff Bezos，并要求他停止向执法部门出售Rekognition。 信中写道：“我们的公司不应该从事监视业务；我们不应该从事警务业务；我们不应该从事支持监视和压迫边缘化人群的人的业务。”

十月份，一位匿名的亚马逊员工透露，至少有450名员工签署了另一封信，呼吁贝索斯和其他高管停止向警方出售瑞肯。 “我们不能以牺牲社区利益为代价从一小部分强大的客户中获利；我们不能将目光从业务的人为成本中转移出来。我们将不会默默地开发技术来压迫和杀害我们国家或其他国家的人民， “ 它说。

Google军事AI项目的影响

亚马逊正在应对这种内部抵制时，谷歌在为美国军方开发名为项目Maven的AI的合同上经历了类似的斗争。

据报道，谷歌正在帮助国防部开发计算机视觉技术，该技术可以处理无人机录像。 无人机每天录制的视频片段太多，人类分析人员无法审查，五角大楼希望自动化该过程的一部分。

谷歌的一位发言人承认该任务的争议性，指出它仅为其TensorFlow（机器学习平台）提供API，以检测视频供稿中的对象。 谷歌还强调，它正在制定政策和保障措施来解决其技术的道德方面。

但是Project Maven与Google员工的关系并不理想-包括数十名工程师在内的3, 000名员工很快签署了一封致CEO Sundar Pichai的公开信，要求终止该计划。

信中写道：“我们认为Google不应从事战争。” 它要求该公司“起草，宣传和执行一项明确的政策，规定Google及其承包商都不会制造战争技术。”

Google员工还警告说，他们的雇主正在损害其声誉以及未来竞争人才的能力。 Google员工强调：“我们不能将我们的技术的道德责任外包给第三方。”

不久之后，由90名学者和研究人员签署的请愿书呼吁Google高层管理人员中止军事技术工作。 签署人警告说，谷歌的工作将为“自动目标识别和自主武器系统”奠定基础。 他们还警告说，随着技术的发展，他们将“离授权无人驾驶飞机自动杀人只有一步之遥，而无需人工监督或有意义的人工控制”。

随着紧张局势加剧，几名Google员工辞职抗议。

技术领导者如何回应

在压力下，谷歌在6月宣布它将在2019年到期后不再与国防部就Maven项目续签合同。

在首席执行官博文（Sundar Pichai）的博客文章中（如下图所示），他宣布了一系列道德原则，这些原则将指导公司AI技术的开发和销售。 根据Pichai的说法，该公司将从现在开始考虑为整个社会造福的项目，并避免开发会加剧现有不公平偏见或损害公共安全的AI。

Pichai还明确表示，他的公司将不会研究违反人权规范的技术。

亚马逊的贝佐斯（Bezos）对Rekognition的愤怒并不感到惊讶。 贝佐斯在十月份在旧金山举行的一次技术会议上说：“我们将继续支持国防部，我认为我们应该这样做。” “即使不受欢迎，高层领导的工作之一就是做出正确的决定。”

贝佐斯还强调，科技界需要支持军队。 他说：“如果大型科技公司拒绝放弃国防部，这个国家将陷入困境。”

微软公司总裁布拉德·史密斯（Brad Smith）在与ICE的合作中遭到批评，他在7月发表了一篇博客文章，呼吁在将敏感技术卖给政府机构时采取谨慎的态度。 虽然史密斯不排除向执法部门和军方出售面部识别服务，但他强调需要在科技领域加强监管和提高透明度。

• 麻省理工学院将斥资10亿美元用于研究人工智能伦理计划麻省理工学院将斥资10亿美元用于研究人工智能伦理计划
• AI真的会说我们的语言吗？ AI真的会说我们的语言吗？
• 分解中国势不可挡的AI工厂分解中国势不可挡的AI工厂

“我们选出的国会代表具有评估这项新技术及其所有后果的必要工具。我们受益于对宪法的制衡，该宪法已使我们从蜡烛时代到人工智能时代。过去有如此多次，我们需要确保新的发明符合法治，为我们的民主自由服务。”史密斯写道。

在2018年，杀手机器人的遥远威胁和大规模失业让位给人们对AI更直接的道德和社会影响的担忧。 从许多方面来看，这些发展趋势表明该行业正在日趋成熟，因为AI算法在关键任务中变得越来越重要。 但是，随着算法和自动化在我们的生活中更加根深蒂固，将会引起更多的争论。