人工智能伦理风险评估纳入治理体系

本报讯（记者雷嘉）北京市科委、中关村管委会会同相关部门制定《关于加强科技伦理治理的实施办法》，以进一步完善北京市科技伦理治理体系，有效防范科技伦理风险，即日起向社会公开征求意见。此次《实施办法》的体例和内容进一步调整完善，增加了人工智能伦理风险评估及人工智能的公平性、可解释性等伦理治理要求。

近年来，我国科技创新快速发展，生物医学等领域面临新的伦理挑战，人工智能、大数据、合成生物学等新兴技术的兴起带来了潜在的伦理风险，对科技伦理治理提出了新要求。近年来，我国科技伦理领域立法步伐不断加快，相关法律法规及政策要求接连出台。目前本市尚缺乏全市层面的管理制度、责任分工体系，有必要制定全市层面关于加强科技伦理治理的实施办法，以更好地统筹和落实科技伦理治理工作。

《实施办法》主要内容共六部分，包括总体要求、健全科技伦理治理体制、加强科技伦理治理制度保障、加强科技伦理审查工作、严格科技伦理监督管理与调查处理、深入开展科技伦理教育和宣传。不仅贯彻落实了国家科技伦理治理政策文件中的相关规定，也借鉴了国际科技伦理治理的核心理念与经验。例如，学习欧盟关于“公众参与”等伦理治理理念、对人工智能领域不同伦理风险分级管理的理念以及风险监管方式等3个方面的经验；在人工智能、生命科学与医学等领域科技伦理治理中区分不同伦理风险等级的科技活动，并将《欧盟人工智能法案》中定义的高风险系统通用大模型等前沿技术列为《实施办法》中人工智能领域的伦理治理重点对象。

《实施办法》充分结合北京市科技创新实际，体现了北京市科技伦理治理特色。例如，治理体制方面，明确提出市作风学风与科研诚信建设联席会议负责全市科技伦理治理工作的统筹协调和宏观指导，明确市属各行业主管部门职责；落实政策方面，深入分析北京现有相关政策文件，推动落实《北京市深化医学伦理审查结果互认有关工作的若干措施》等文件相关要求；发挥优势方面，充分体现了借助首都科技界智力优势，推动多领域专家联合研讨，推动专家复核等机制的落地实施，推动完善科技伦理风险监测预警机制等；发挥平台优势，依托人工智能领域北京市重点实验室、人工智能安全与治理公共服务平台以及北京市医学伦理质量促进中心等，在治理制度建设与完善、风险预警与治理、宣传教育等方面提供支撑。责任编辑：朱佳琪(EN042)