人工智能北京共识
人工智能伦理与规范是未来智能社会的发展基石，为规范和引领人工智能健康发展，为未来打造“负责任的、有益的”人工智能。5月25日，《人工智能北京共识》发布，这一共识提供的“北京方案”，对于实现人工智能“自律”“善治”“有序”具有重要意义。
《人工智能北京共识》是由北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟共同发布。同时，北京智源人工智能研究院人工智能伦理与安全研究中心揭牌成立。
《人工智能北京共识》针对人工智能的研发、使用、治理三方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。
北京智源人工智能研究院院长黄铁军发布《北京共识》时强调：研发方面，提倡要有益于增进社会与生态的福祉，服从人类的整体利益，设计上要合乎伦理，体现出多样性与包容性，尽可能地惠及更多人，要对潜在伦理风险与隐患负责，提升技术水平控制各种风险，并最大范围共享人工智能发展成果。
使用方面，提倡善用和慎用，避免误用和滥用，以最大化人工智能技术带来的益处、最小化其风险，应确保利益相关者对其权益所受影响有充分的知情与同意，并能够通过教育与培训适应人工智能发展带来的影响。
治理方面，对人工智能部分替代人类工作保持包容和谨慎态度，鼓励探索更能发挥人类优势和特点的新工作，广泛开展国际合作，共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度，并开展长远战略设计，以确保未来人工智能始终保持向对社会有益的方向发展。
据介绍，人工智能伦理与规范已经引起了各国政府和学术界、企业界等的广泛关注。欧盟、英国、日本等国际组织和国家，均发布了人工智能的伦理准则。《人工智能北京共识》关注“服务于人”，将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，并强调促进人工智能相关准则的“落地”。
另外，为降低人工智能发展过程中可能存在的技术风险和伦理隐患，北京智源人工智能研究院专门成立人工智能伦理与安全研究中心，中国科学院自动化研究所曾毅研究员任研究中心主任。
曾毅介绍人工智能伦理与安全研究中心的主要研究内容是：“研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究，目前主要包括四大方面：一是低风险机器学习模型与平台的构建，建立机器学习模型安全性的评估体系，并结合具体领域进行验证。二是开展符合人类伦理道德的智能自主学习模型研究，实现人工智能行为与人类价值观的校准，并在模拟环境与真实场景中进行验证。三是建设数据安全示范应用系统，建立数据基础设施、数据分级、权限控制、数据审计，最大限度防止数据泄密，降低风险，探索允许用户撤销个人数据授权的机制及计算平台。四是构建人工智能风险与安全综合沙盒平台，建设自动检测平台，针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面，对人工智能产品及应用进行风险与安全综合检测与评估，引导行业健康发展。”
北京市科委主任许强认为：经过60多年的发展，新一代人工智能正在全球范围蓬勃兴起，深刻地影响和改变了人类的生产生活方式，带动人类社会全面进入智能时代。人工智能涉及范围极广，应对人工智能带来的挑战，不是一个领域、一个城市、一个部门、一个机构能够独立完成的，需要充分汇聚科学家、企业家、产业联盟和社会各界的力量，多方参与、共同努力，持续推动人工智能伦理、规范方面的学术研究与成果转化应用，并不断强化行业自律。
会议倡导北京人工智能领域广大创新主体，积极践行并不断完善共识的内涵，共同营造良好生态，加快人工智能领域基础研究、核心技术创新和高精尖产业发展，让人工智能更好支撑北京高质量发展和创新驱动发展战略实施，并更好造福全人类。
今后，人工智能伦理与安全研究中心将为降低人工智能的风险和伦理隐患提供技术服务，促进人工智能行业的良性健康发展。
一、《人工智能北京共识》发布15条原则规范AI
5月25日，北京智源人工智能研究院联合北京大学、清华大学、中科院自动化研究所、中科院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、院所和产业联盟，共同发布《人工智能北京共识》。同时，北京智源人工智能研究院人工智能伦理与安全研究中心揭牌成立。
北京智源人工智能研究院院长黄铁军介绍，《人工智能北京共识》针对人工智能研发、使用和治理三方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。
其中，在研发方面，《人工智能北京共识》提倡要有益于增进社会与生态的福祉，服从人类的整体利益，设计上要合乎伦理，体现出多样性与包容性，尽可能地惠及更多人，要对潜在伦理风险与隐患负责，提升技术水平控制各种风险，并最大范围共享人工智能发展成果。
在使用方面，提倡善用和慎用，避免误用和滥用，以最大化人工智能技术带来的益处、最小化其风险，应确保利益相关者对其权益所受影响有充分的知情与同意，并能够通过教育与培训适应人工智能发展带来的影响。
在治理方面，对人工智能部分替代人类工作保持包容和谨慎态度，鼓励探索更能发挥人类优势和特点的新工作，广泛开展国际合作，共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度，并开展长远战略设计，以确保未来人工智能始终保持向对社会有益的方向发展。
北京市科委主任许强表示，人工智能伦理与规范是未来智能社会发展的重要基石，已经引起了相关国际组织、政府和学术界、企业界的广泛关注。欧盟、英国、日本等国际组织和国家，均发布了人工智能的伦理准则。
据悉，《人工智能北京共识》关注“服务于人”，将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，并强调促进人工智能相关准则的“落地”，为未来打造“负责任的、有益的”人工智能。这一共识的发布，为规范和引领人工智能健康发展提供了“北京方案”，对于实现人工智能“自律”“善治”“有序”具有重要意义。
为降低人工智能发展过程中可能存在的技术风险和伦理隐患，北京智源人工智能研究院专门成立人工智能伦理与安全研究中心，中科院自动化研究所曾毅研究员任研究中心主任。
曾毅介绍，该研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究。
目前，该研究中心将主要开展四大方面研究。一是低风险机器学习模型与平台的构建，建立机器学习模型安全性的评估体系，并结合具体领域进行验证。二是开展符合人类伦理道德的智能自主学习模型研究，实现人工智能行为与人类价值观的校准，并在模拟环境与真实场景中进行验证。三是建设数据安全示范应用系统，建立数据基础设施、数据分级、权限控制、数据审计，最大限度防止数据泄密，降低风险，探索允许用户撤销个人数据授权的机制及计算平台。四是构建人工智能风险与安全综合沙盒平台，建设自动检测平台，针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面，对人工智能产品及应用进行风险与安全综合检测与评估，引导行业健康发展。
曾毅等与会专家表示，人工智能涉及范围极广，应对人工智能带来的挑战，不是一个领域、一个城市、一个部门、一个机构能够独立完成的，需要充分汇聚科学家、企业家、产业联盟和社会各界的力量，多方参与、共同努力，持续推动人工智能伦理、规范方面的学术研究与成果转化应用，并不断强化行业自律。
《人工智能北京共识》倡导北京人工智能领域广大创新主体，积极践行并不断完善共识的内涵，共同营造良好生态，加快人工智能领域基础研究、核心技术创新和高精尖产业发展，让人工智能更好支撑北京高质量发展和创新驱动发展战略实施，并更好造福全人类。
二、国际人工智能与教育大会在京闭幕，通过成果文件《北京共识》
国际人工智能与教育大会于2019年5月16-18日在北京召开。国家主席习近平向大会致贺信。开幕式上，孙春兰副总理宣读习近平主席贺信并致辞。来自全球100多个国家、10余个国际组织的约500位代表汇聚一堂，共同探讨全球教育的未来发展之路，并通过成果文件《北京共识》。
大会举行期间，在“通过人工智能促进可持续发展目标实现的新兴政策与战略”主题的部长论坛环节，教育部部长陈宝生以《中国的人工智能教育》为题做主旨发言，分享了走向智能时代中国教育的思考和探索。
教育部副部长孙尧在“促进人工智能在教育领域应用的公平性、包容性和透明性”为主题的全体会议环节，做主旨发言，与参会人士交流和探讨了教育扶贫话题。
孙尧表示，教育扶贫承载着阻断贫困代际传递的重大使命，中国教育部坚持精准扶贫精准脱贫的基本方略，深入推进扶智育人教育脱贫攻坚行动，着力构建较为完善的教育扶贫制度体系，着力实施补短兜底的教育扶贫工程项目，着力落实精准到人的学生资助体系，着力推动量身定制的教育扶贫倾斜政策，着力探索“高校品牌”的特色扶贫路径，全力打好教育脱贫攻坚战。
孙尧表示，脱贫攻坚战已进入决战决胜的关键时期，我们将以习近平主席关于扶贫的重要论述为指引，狠抓工作落实，深入推进“人工智能+教育扶贫”，持续拓展教育脱贫攻坚方式，提升教育脱贫攻坚精准度，加大教育脱贫攻坚力度，巩固提升教育脱贫攻坚成果，坚决打赢教育脱贫攻坚战。
教育部副部长、中国联合国教科文组织全国委员会主任田学军在闭幕式致辞中提出，人类正加速迎来、日益走近智能时代，新情况新课题层出不穷，迫切需要国际社会采取负责任态度、坚持人文理念、秉持合作精神。此次大会能够取得圆满成功、成果超出预期，关键在于与会代表展现出了坚定的责任担当、深切的人文关怀以及积极的合作精神。
田学军表示，中国愿意进一步密切与教科文组织和广大会员国合作，落实《北京共识》，继续围绕人工智能与教育搭建国际交流平台，携手共建更加包容、更加公平、更加优质的现代化教育，为全面实现2030年可持续发展目标，为推动构建人类命运共同体做出应有贡献。
教育部副部长钟登华在“展望人工智能时代教育的未来”为主题的主题会议环节，做主题发言，分享了近年来中国政府推动智能教育发展的认识与行动。
钟登华指出，人类社会的发展离不开科技的创新和教育的进步，以人工智能为代表的新一代信息技术的快速发展，将会对传统的教育理念、教育体系和教学模式产生革命性影响，从而进一步释放教育在推动人类社会发展过程中的巨大潜力。近年来，在《新一代人工智能发展规划》《高等学校人工智能创新行动计划》《中国教育现代化2035》等政策文件的指引下，一些地区和学校在提升信息素养、推广智能学伴、构建智能化校园、改革评价方式、促进交叉融合等方面开始了人工智能与教育教学融合的探索。
钟登华表示，智能时代的中国教育发展，将呈现几个新特征：教育改革创新将注入人机协同、共创分享的新动力；教育科学研究将进入交叉融合、集智创新的新阶段；教育发展目标将聚焦更加公平、更有质量的新标准；教育治理体系将面临社会伦理、数据安全的新挑战。他希望，通过多种方式加强与世界各国的交流与合作，在联合国教科文组织的引领下，共同开展相关科学研究，进行理论创新与实践探索，分享发展经验和创新成果，为实现全纳、公平、可持续的优质教育，实现全人类的共同利益贡献力量。
三、服从人类整体利益、合乎伦理，人工智能有了“北京方案”
人工智能的发展关乎全社会的未来，到底该如何促进其健康发展？今天（5月25日）上午，北京智源人工智能研究院联合北京大学、清华大学、中国科学院、新一代人工智能产业技术创新战略联盟等一批高校、科研院所和产业联盟，共同发布《人工智能北京共识》。该共识在人工智能的研发、使用、治理三方面提出15条原则，为规范和引领人工智能健康发展提供“北京方案”，提出“和谐与优化共生”。
人工智能伦理与规范是未来智能社会的发展基石，已经引起全世界广泛关注。欧盟、英国、日本等均已制定人工智能的伦理准则。
《人工智能北京共识》针对人工智能的研发、使用、治理三方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。
其中，研发方面，提倡要有益于增进社会与生态的福祉，服从人类的整体利益，设计上要合乎伦理，体现出多样性与包容性，尽可能地惠及更多人，要对潜在伦理风险与隐患负责，提升技术水平控制各种风险，并最大范围共享人工智能发展成果。
使用方面，提倡善用和慎用，避免误用和滥用，以最大化人工智能技术带来的益处、最小化其风险，应确保利益相关者对其权益所受影响有充分的知情与同意，并能够通过教育与培训适应人工智能发展带来的影响。
在治理方面，对人工智能部分替代人类工作保持包容和谨慎态度，鼓励探索更能发挥人类优势和特点的新工作，广泛开展国际合作，共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度，并开展长远战略设计，以确保未来人工智能始终保持向对社会有益的方向发展。
本次发布的《人工智能北京共识》将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，这为规范和引领人工智能健康发展提供了“北京方案”。
同时，为降低人工智能发展过程中可能存在的技术风险和伦理隐患，北京智源人工智能研究院专门成立人工智能伦理与安全研究中心。
该研究中心主任、中国科学院自动化研究所研究员曾毅介绍，未来，中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究，目前研究内容主要包括四大方面，即构建低风险机器学习模型与平台、开展符合人类伦理道德的智能自主学习模型研究、建设数据安全示范应用系统以及构建人工智能风险与安全综合沙盒平台。
四、《人工智能北京共识》发布，15条原则规范AI研发、使用和治理
由北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所等单位共同制订的《人工智能北京共识》于5月25日发布。针对人工智能研发、使用、治理三方面，《北京共识》提出各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。