亟须制定人工智能伦理规范和政策

　　本报记者 王晶晶

　　当前，人工智能第三波浪潮方兴未艾。和前两次浪潮不同，今天的人工智能已经悄然融入人们的日常生活，网络购物、交通物流、语音助手、社交媒体，处处都有人工智能的影子。人工智能已经在很多领域展示出巨大的应用前景。但是，人们对人工智能带给人类社会的机会和挑战、认识和讨论远未充分。

　　7月9日，中国发展研究基金会和微软公司在北京联合举行《未来基石——人工智能的社会角色与伦理》报告发布会。该报告汇聚了两家机构在人工智能社会角色和伦理方面的思考和洞察，期待能推动社会和公共政策层面对这一问题的讨论，旨在推动人工智能的健康发展，使之更好地服务于人的发展。

　　报告认为，要理解人工智能的社会影响，首先要认识人类智能在社会发展中的独特作用。在人类发展进程中，知识的增长和社会协作体系的扩展起到了十分重要的作用，而这一切都离不开人类大脑提供的智能基础。正是因为智能，才使人类有了“万物灵长”的地位，得以区别和超越地球上的其他动物，取得了非凡的成就。

　　报告指出，人工智能的发展，将带来知识生产和利用方式的深刻变革，提供重大的发展机遇。人工智能不仅是前沿的科技和高端的产业，未来也可以广泛用于解决人类社会的一些长期性挑战，包括克服疑难疾病、提供低成本医疗服务、为穷人和弱势群体提供高质量教育服务、减少能源消耗，使社会发展更加公平而可持续。

　　报告认为，在拥抱人工智能的同时，也要正视人工智能开发和应用中存在的挑战。这些挑战有些是技术性的，包括错误目的的开发、技术上的不透明和不可控、过度追求利润目标而不考虑技术上的平衡以及终端的误用和滥用。更严峻的挑战可能是社会层面的，包括对人自身认知的困境、社会互动协作方式的改变、数据和隐私的侵犯、不对称信息权力的滥用、数据和技术导致的垄断、偏见强化和族群对立、弱势人群的边缘化和贫困化以及人工智能武器和恐怖活动等。不仅如此，我们迄今为止的伦理、法律也还没有为人工智能的大规模应用做好充分准备。这些挑战并不遥远，有些已经真实在发生。

　　考虑到人工智能对未来社会的深远影响，报告呼吁，全社会和各国政府应共同努力，把握人工智能带来的红利，同时也要及早制定人工智能的开发和应用的伦理规范和政策方向，为未来奠定基础。为此，报告提出以下建议。

　　首先，在社会层面，建议高校和研究机构开展前瞻性的科技伦理和哲学研究。同时，政府、产业界、研究人员、民间组织和其他有关利益攸关方之间应就人工智能开展广泛对话和持续合作；鼓励企业和行业协会设立科技伦理部门或委员会；风险投资机构和资本市场应该鼓励和引导企业进行负责任的产品开发；建议社会组织与专业机构合作，发挥自身在社会责任领域的专业优势，积极参与人工智能伦理规范的构建。

　　其次，在政府层面，建议明确人工智能开发和应用的政策准则；支持科技伦理和科技哲学的前沿研究和知识普及。同时，普及人工智能教育；加大基础研究投入；推动人工智能的包容性使用；加强对人工智能开发利用的伦理和法律监管；促进数据共享与合作；在全球范围内，加强国际合作，建立多层次的国际人工智能治理机制，尽早制定并签署《限制人工智能武器开发公约》；中美两国应该在人工智能领域发挥领导力，推动双边政府、企业和社会的多层次交流与合作，共同维护全球网络安全，应对网络恐怖主义，推动人工智能的产业化应用，增进人类福祉。

　　在报告发布会上，来自政府部门、高校、企业、社会组织以及其他人工智能相关的研究者也就报告主题进行了深入的交流和探讨。

　　中国发展研究基金会副理事长兼秘书长卢迈指出，人工智能的兴起恰逢中国经济社会结构的快速调整，人工智能发展将有助于进一步释放中国社会的发展活力。我国应该积极拥抱人工智能，充分利用好人工智能对生产力的解放效应。卢迈认为，把握机遇的前提是要了解并预防风险，这需要我们在伦理学和社会治理方面下功夫。要从法律和政策层面加强对技术的约束和引导，建立合理的监管体系，确保人工智能安全、可靠、可控发展。[page]分页标题[/page]

　　“如何确保设计的人工智能是可信赖的将是全世界面临的长期挑战，需要政府、学界、企业等各利益相关方的共同努力。”微软大中华区总法律顾问关挺立（Tim Cr an? ton）表示，人工智能是人类发展历史上的重要机遇，将创造无限广阔的机会，同时也给我们带来了新的挑战和思考。目前，微软将公平、可靠与安全、隐私与保密、包容、透明、负责这六大道德原则作为人工智能开发的指导原则，并设立了开发和研究人工智能与道德标准（AETHER）委员会来落实这六大原则。

　　清华大学公共管理学院院长、博士生导师薛澜教授认为，人工智能的发展将在创新治理、可持续发展和全球安全合作三方面对现行国际秩序产生深刻影响，需要各国政府与社会各界从人类命运共同体的高度予以关切和回应。只有加强各国之间的合作与交流，才有可能真正构建起一套全球性的、共建共享、安全高效、持续发展的人工智能治理新秩序。