【编者按】面部识别技术在社会管理领域的部署在提高管理效率的同时，也带了伦理和法律方面的风险。证据已经表明面部识别技术应用的结果往往显示出明显的歧视。ACM的声明建议，在通过建立伦理和治理体系避免相关伤害之前，政府与私人组织均应当停止使用人脸识别技术。计算机协会（Association of Computing Machinery）总部位于美国，成立于1947年，是世界上最大的科学性和教育性计算学会。截至2019年已有来自100多个国家和地区的企业、学术机构、政府组织的近100,000名专业会员。计算机协会致力于提高信息技术在科学、艺术等各行各业的应用水平。
（图片来源于网络）
一、核心观点
美国计算机协会的美国技术政策委员会（USTPC）对政府和私营企业应用面部识别（Facial Recognition）技术的现状进行了评估。委员会的结论是：严格的评估证明，面部识别技术所产生的结果往往显示出明显的歧视，且这些歧视与偏见一般来源于民族、种族、性别和其他可被计算机系统识别的人类特征。USTPC指出，这种偏见所导致的后果经常可能并且确实远远超出了“不便利”（inconvenience）的范围，而造成了更加深远的伤害，特别是对特定人群的生活、生计和基本权利造成了伤害，其中就包括了本国社会中最脆弱的一些人群。
这些偏见及其影响在科学意义和社会意义上都是不可接受的。
出于技术和道德的原因，尤其在通过适当、全面的法律和条例来规制其使用、监督其应用和减轻潜在的危害之前，在所有已知或可合理预见会损害既定人权和法律权利的情况下，USTPC敦促私人和政府立即暂停在目前和今后对面部识别技术的使用。
二、具体建议
具体来说，USTPC发现：
1.尽管面部识别技术现在很强大，并在未来可能会更进一步，但面部识别技术还不够成熟和可靠，无法安全、公平地使用，如果没有适当的监管措施，将会对个人，特别是弱势群体造成不利影响；
2.面部识别系统在满足重大社会需求、政治和市场力量方面的潜力，推动了政府和行业在原则和法规发展与完善之前采用面部识别系统，而正是这些原则和法规才能够可靠地确保面部识别技术始终适当和不带偏见地被使用；
3.面部识别技术在应用上可以是良性或有益的，但其使用往往损害了个人的基本人权和法律权利，包括隐私、就业、公平和人身自由；
4.决策者应立即禁止企业和政府使用面部识别技术，直到制定和通过法律标准，使技术的准确性与技术可能对识别错误或未识别的个人造成的潜在危害成比例；
5.必须尽快制定准确、公正地使用面部识别技术的普遍原则和原则性规范；
6.相关标准和法规必须解决面部识别系统的精确度、透明度、治理、风险管理和问责性等问题。
三、指导原则
面部识别技术的相关标准和法规必须解决面部识别系统的精确度、透明度、治理、风险管理和问责性等问题。USTPC提出以下指导原则:
（一）精确度
1.在使用面部识别系统作出或支持可能对个人的人权和法律权利造成严重不利影响的决定之前，必须充分理解这种系统的初始偏差和动态偏差，以及误差的程度和影响。
2.由于每种类型的错误的影响都是依赖于具体的场景，因此必须在设置合法的“可接受”错误率的标准中明确地识别和处理场景界定问题。
3.在报告错误率时，必须酌情按性别、种族和其他与环境相关的人口统计学特征进行分类。
4.每个面部识别系统的准确性都必须是可审计的，以支持第三方监督和政府监管。
（图片来源于网络）
（二）透明
只有在某种有意义的通知公众其部署目的之后，才应启动面部识别系统。一旦开始启动，应在使用节点或线上，持续向公众通报系统部署的意图，并且以切实可行且符合实际情况的方式。
此类通知至少应包含：
1.对用于开发和训练面部识别算法的数据的说明；
2.关于算法实施的足够细节，以便专家能够了解其性能特点、准确性和局限性；
3.关于该算法表现的，以标准化基准为依据的性能报告；
4.一项明确的说明，包括：
（1）该算法将被如何使用，(特别是包括其在任何将影响到个人的决定中的作用的说明，必须说明该决定是完全自动做出的，还是由人类在系统辅助之下做出的)；
（2）人类将在系统的应用中发挥的作用。
（三）治理机制
1.在出台适当政策来管理面部识别系统的使用和系统收集的数据之前，不应该部署面部识别系统。
2.所有政策都应在最大程度上接受公众的意见、审查和监督。
3.数据保留的政策和实践应当是合法的，而且是对公众透明的，并限制数据仅保留在特定的收集目的所必需范围内。
4.系统的设计应尽量减少数据保留的数量和丰富程度。
5.面部识别系统治理机制应特别关注对弱势群体所构成的风险，并因此应提供必要的保护；潜在危害越严重，风险管理方案就应该越严格。
1.部署一个特定的面部识别系统为部署组织、公众和弱势群体带来的收益，应该与使用该系统带来的风险成比例。
2.需要考虑的主要风险必须包括与安保、隐私和一般性安全有关的风险，以及对受保护和弱势群体产生负面性和歧视性的法律和公共政策方面的影响的潜在风险。
3.使用面部识别系统的组织应授权和启用一个合理组成的咨询委员会，此类委员会类似于公民监督委员会或学术机构审查委员会，以评估计划的面部识别系统在批准或部署某一特定用途之前是否可以符合道德地使用。
4.这种审查应包括积极主动的、多因素的影响评估和风险分析。
5.除非能够充分消除或纠正易受伤害群体或整个社会所面临的相关具体风险，否则不应提供或部署面部识别系统。
（五）问责制
1.任何面部识别系统的开发者、操作者和使用者都必须对其组织，并向外部利害关系方和对这种系统的使用和误用所产生的后果负责。
2.当使用这类系统造成损害时，负责部署这类系统的组织、机构或机关必须依法对由此造成的所有外部风险和损害负全部责任。
