7月2日下午，上海市人工智能产业安全专家咨询委员会成立仪式暨第一次会议召开。上海市政府副秘书长陈鸣波出席会议并致辞。会议由市经济信息化委主任吴金城主持。安全专委会主任、中国科学院院士何积丰，安全专委会副主任、东华大学校长蒋昌俊，上海市法学会专职副会长施伟东等专委会委员，以及市委网信办、市发展改革委、市科委有关负责同志出席会议。会议发布了《人工智能安全发展上海倡议》，同时面向全球启动人工智能产业安全创新实践案例和优秀论文征集活动。
上海市人工智能产业安全专家咨询委员会在会上宣布成立。该专委会是在上海市人工智能战略咨询专家委员会基础上成立的，旨在瞄准国际人工智能产业发展前沿，服务上海发展的定位和需求，构建专家协同网络，推动人工智能产业健康发展。安全专委会由来自高校、科研院所和企业的相关专家组成，中国科学院院士何积丰担任主任。秘书处设在上海赛博网络安全产业创新研究院，承担相关日常工作。
陈鸣波副秘书长指出，为履行国家交给上海的使命，落实市委、市府的工作要求，基于上海科技创新、场景丰富和人才集聚的优势，组建成立上海市人工智能产业安全专家咨询委员会，为国家人工智能产业安全发展先行先试。按照技术突破、产业创新和法律研究各方面需求，兼顾地域和领域代表性，召集跨界别的专家、学者和企业精英，探讨“产学研用”深度融合，既推动上海人工智能安全产业蓬勃发展，又进一步推动引领全国人工智能产业安全发展。依托专委会平台，将紧扣国家战略、上海定位和区域需求，围绕中长期战略规划、重大项目评估、重点应用领域安全实践、前沿课题研究等，共商共治、群策群力，为上海探索一条更有包容性、更具开放性的安全发展模式和工作路径。
与会专家围绕推进上海人工智能产业安全发展的主题，从法律支撑体系、保障机制创新、重点领域规范、关键技术研发、参与国际合作等方面展开交流，提出意见和建议。
当前，对人工智能产生的安全风险加强战略性、前瞻性的研究部署，逐渐建立相应的法律法规、伦理规范和政策体系，已经成为国内外的共识。一些国家、地区和国际组织、私营企业、社会团体等积极推动人工智能安全与治理的进程。中国是世界人工智能安全治理的重要参与者，上海正在加快推进人工智能高地建设，此次会议发布的《人工智能安全发展上海倡议》不仅是安全专委会成立后发布的首份倡议文件，更是上海向全国、全世界发出的铮铮宣言。倡议在充分吸纳国内外人工智能安全共识的基础上，从应对人工智能安全挑战，守护智能时代人类未来的主旨出发，包含“面向未来、以人为本、责任明晰、隐私保护、算法公正、透明监管、和平利用、开放合作”等八大目标原则及其基本要求。
会上，安全专委会主任何积丰院士宣布启动2019世界人工智能产业安全创新实践案例征集和优秀论文征集活动。面向全球企业征集人工智能产业安全领域的标准规范、研发成果、产品/服务、解决方案等实践案例，面向全球高校、科研院所、国际组织等机构中从事人工智能安全领域研究的科研人员和青年学生，征集高质量、高水平的学术论文。征集活动的评选成果将在2019世界人工智能大会期间对外公布。
人工智能安全发展上海倡议全文如下：
为了应对人工智能安全挑战，守护智能时代人类未来，上海市人工智能产业安全专家咨询委员会在充分吸纳国内外人工智能安全共识的基础上，联合人工智能安全领域的专家学者和产业界同仁，共同发起“人工智能安全发展上海倡议”，内容如下：
面向未来：人工智能发展需要实现创新与安全的协同，以安全保障创新，以创新驱动安全。在确保人工智能自身安全的同时，积极将人工智能技术应用于解决人类社会的安全难题。
以人为本：国际社会应一道科学规划人工智能的发展路径，确保人工智能按照人类预期并服务人类福祉方向发展，机器自主进化和自我复制等关键进程须进行风险评估和安全监管。
责任明晰：人工智能发展应当建立完备的安全责任框架，需要针对人工智能的应用场景，不断创新法律法规和伦理规范，明确人工智能安全责任认定和分担机制。
隐私保护：人工智能发展需要保障用户的数据安全，人工智能发展不得以牺牲用户隐私为代价，需要加强数据保护立法，丰富人工智能的技术路线，不断强化人工智能应用中的用户隐私保护。
算法公正：人工智能发展应避免由于算法设计对公众产生的危害，须明确算法动机和可解释性，克服算法设计和数据收集引发的不公正影响。
透明监管：人工智能发展应当避免技术黑箱导致的安全风险，需要通过建立可审查、可回溯、可推演的监管机制，确保目标功能和技术实现的统一。
和平利用：人工智能技术应当审慎运用在军事领域，自主化武器的研发和使用须遵循严格的风险评估，避免由于人工智能技术在军事领域滥用对全球和平稳定的威胁。
开放合作：人工智能发展需要各国、各方的协同共进，应当积极在国际范围建立人工智能安全发展的规范和标准，避免技术和政策不兼容导致的安全风险。
上海市人工智能产业安全专家咨询委员会
2019年7月2日
京公网安备 11011202001138号
