研究｜我们该如何应对人工智能带来的伦理挑战？

人工智能的广泛应用对人类社会的不同领域的伦理存在有什么影响？

我们应该制定什么政策来前瞻性地应对人工智能可能带来的伦理挑战？

2022年4月25日，中国发展研究基金会《人工智能时代的伦理：关系视角的审视》报告发布会线上举办，中国发展研究基金会副秘书长俞建拖介绍报告主要内容，多名相关专家学者以报告为基础，围绕上述议题展开深入探讨。

人工智能的伦理影响

《人工智能时代的伦理：关系视角的审视》（下称“报告”）从关系论视角出发，对人类智能、社会与伦理进行概述，解读关系论下人工智能伦理讨论框架，同时从市场经济、家庭、一般社会、国家和社会、国际关系、人与自然六方面分析人工智能的伦理影响，并在此基础上提出面向未来人工智能伦理发展的建议。

报告指出，人工智能在经济社会生活中的全面渗入有助于促进个人和组织的赋能，促进弱势群体的社会参与，扩展人的机会空间和自由，促进经济的繁荣，减少绝对贫困和剥夺，这些可以视为伦理增益。但是，人工智能的使用可能也会带来一系列伦理风险和挑战，包括失控风险、恶意使用、适应性风险、认知风险等，这些风险在不同的领域有不同的表现。

市场经济方面，人工智能在改善劳工工作环境、维护人的尊严、促进人力资本积累和经济繁荣等方面有积极作用，但同时也存在垄断、过度榨取消费者剩余、劳动力替代、阶层分化和固化等问题，并有可能深刻影响市场经济中的雇佣关系、竞争关系、合作模式、所有关系（所有权）以及相关的伦理规范。

家庭关系方面，人工智能的积极成果是使得一些家庭成员得以被解放，从而可以从事对家庭福祉更有益的事，但功能的疏解可能会使家庭成员之间的关系更加疏远、联系更松散。

随着社会需求的多样化，可能会出现人工智能扮演家庭成员角色的需求，如人工智能儿童、人工智能伴侣、人工智能长辈等，当人工智能开始介入家庭内部人际关系，原来用来规范人类家庭成员的伦理很难再直接适用，而且关系身份的传递也可能导致认知上的混乱。

社会伦理关系方面，一方面，人工智能广泛使用，可能会根本上重塑组织性互动，比如学校作为最重要的伦理再生产组织的教学理念、教学内容、教学方式也有可能发生重要变化。

而在一般非组织性的社会活动中，人工智能的应用以及数据信息环境的改变，社会可能更难在什么是真相和真实知识上达成共识，人们更容易陷入“信息茧房”，机器决策可能会产生“无用阶级”，“大数据+人工智能”对个人隐私侵犯也可能会逼迫人们采取面具化生存策略。

国家和社会层面，人工智能可以被广泛用于公共管理以及公共服务供给，使国家治理变得更加具有公平公正、民主参与、透明、负责任以及高效，促进国家的善治。

但是随着人工智能时代的到来以及虚拟生活方式的普遍流行，国家认同可能会被削弱，机器人税和普遍基本收入会被越来越多的考虑，但是也引发政府规模和权力的扩大，以及随之而来的政府与社会关系的调整，譬如公民对政府的高度依赖、政府社会监控的强化以及个人自由空间的压缩等。

来源：央视网

国际关系层面，人工智能正在成为大国竞争的胜负手和重要领域。从全球实现可持续发展目标的需求看，人工智能可以发挥重要的作用，但是地缘政治竞争的加剧可能会制约其潜能的发挥。人工智能在发达国家的开发和应用，也可能导致全球价值链发展趋势被重置，导致发展中国家被边缘化以及对发达国家的依附。

人工智能在军事领域的应用，包括智能武器的开发与部署、智能军事决策系统、非常规智能战争等，可能会引发军事战略的根本性变革，给国际秩序带来巨大的不确定性。

人与自然关系方面，人工智能的发展对提高资源的利用效率和减少攫取、减少对环境的破坏、更好地顺应和应对自然界挑战具有重要的意义。但是人工智能的发展也可能助长人类创造的雄心，特别是人工智能在生物改造领域的应用，对既有生态体系的影响具有很大的不确定性。

真知灼见：如何应对人工智能可能带来的伦理挑战？

来源：央视网

报告发布会上，北京大学哲学系教授何怀宏指出人工智能是一种区别于传统人造物的机器，其能力对人类而言还有很多未被发掘的部分，我们应该进一步思考人和人工智能这一特殊关系，思考如何促进人工智能发展、人工智能如何给人类赋能、如何深入具体地将人工智能运用到各个领域、以及人工智能的运用会带来哪些新的问题。

中国社会科学院哲学所科技哲学研究员、中国社会科学院科学技术和社会研究中心主任段伟文探讨了人工智能伦理治理的主体问题。他指出，当前实践人工智能领域的伦理规范主要是以科技公司为主体，政府也应积极的参与到该领域的伦理治理中，扮演积极的角色，更加灵活地进行适应性治理。

暨南大学教授、海国图智研究院院长陈定定认为当前社会的主要问题是伦理规范泛滥和冲突，应该建立一个通用的、全面的人工智能伦理规范。

武汉大学计算机学院教授、卓尔智联研究院执行院长蔡恒进指出，未来三五年内人工智能会有重大突破，元宇宙和Web3.0可以看作是人工智能的重要进展。在Web3.0时代，个体、企业、国家将会成为机器节点并融合为超级智能，这有可能会对社会伦理关系产生影响。

北京大学法学院副教授、北京大学法律人工智能研究中心副主任江溯指出，随着智能性技术广泛使用，社会可能会慢慢变成“全景敞视监狱”，个人的自由空间可能会被压缩。我们应该在法律领域探讨相关问题，研判人工智能应用的法律限度并加以约束。