让AI帮忙订机票却被幻觉所“骗”，受被“投毒”过的AI推荐购买虚假口碑产品，沉迷于与AI聊天逃避现实生活……近年来人工智能不断加速发展，深刻地改变社会运行及个人生活方式的同时，也带来许多伦理安全挑战。针对AI应用乱象，近日全国网络安全标准化技术委员会发布了《人工智能应用伦理安全指引1.0》（下称《指引》），进一步为完善我国人工智能安全治理体系“添砖加瓦”。

南都记者注意到，《指引》起草单位包括清华大学、中国电子技术标准化研究院、上海交通大学、四川大学、北京科技大学、阿里巴巴集团、华为技术有限公司、北京深度求索人工智能基础技术研究有限公司等。该文件性质上为原则性、参考性技术文件，通过提出人工智能应用伦理安全理念与原则，为组织和个人开展人工智能应用活动提供指导等。

《指引》认为，人工智能应用伦理安全影响主要包括六类。从群体层面看，当人工智能行为超出人类所预设、理解和可控的范围，在对人工智能应用关键节点的监督、干预与纠偏不足时，可能冲击人类在社会运行和治理过程中的主导地位。从社会层面看，当人工智能应用于社会运行和行为决策，在技术快速演化而社会回馈相对缓慢的情况下，可能影响行为规范、市场秩序与社会信任，最终对社会基础公共秩序带来冲击。从个人层面看，人工智能普遍应用形成的新社会环境可能对个体认知与社会价值体系带来冲击，产生人类过度依赖、个体与现实社会脱节等问题。

《指引》从应用开发、服务提供、应用使用三个层面给出安全指引。针对公众感知度较高的AI“幻觉”问题，文件提出应理性认知人工智能应用的技术能力边界与潜力，对缺乏依据或者存在较大不确定性的输出作出必要管控以及提示说明。另外要打破AI技术“黑箱”，在技术可行、符合业界普遍技术水平的前提下，提高开发过程透明度，结合人工智能应用场景和影响程度等方面，制定并提供安全配置、安全部署的操作指南，及时、准确、完整对外说明人工智能应用的功能、局限、安全风险和可能的影响。

在服务提供过程中，《指引》强调，应提供符合科技伦理审查要求的产品或应用，加强人工智能应用全生命周期的跟踪审查。服务涉及国家安全、社会公共权益、组织和个人重大生命财产安全时，人工智能宜仅承担辅助决策作用、不提供直接决策依据。在设置应急处置机制方面，应持续监控服务运行过程，主动识别发现伦理安全风险，及时处置伦理安全问题，确保合法合规应用，必要时采取人工紧急干预、中止应用等手段。

AI发展为生活带来了极大便利，也对人们的科技认知及素养提出了更高要求。《指引》提出正确认知人工智能，学习人工智能伦理安全基本知识，增强对虚假、错误、误导性内容的识别能力，增强对人工智能相关物理安全风险、决策安全风险的认识，形成理性、审慎的使用习惯。同时，不借助人工智能对他人进行误导、骚扰、操纵，不利用人工智能伪造、冒用他人身份或仿冒权威主体等。在使用以人工智能作为辅助真实生活的工具时，避免过度依赖、过度沉迷，避免通过人工智能过多替代现实交往与真实活动。

中国电子技术标准化研究院副院长范科峰撰文提到，《指引》将伦理安全原则进一步转化为开发有遵循、服务有规范、使用有边界的应用指引。此举既有利于推动相关主体在各自环节履行相应责任，也有利于促进应用开发、服务提供和应用使用之间形成衔接配合。未来建议以《指引》发布实施为契机，围绕重点行业、场景和主体，持续完善配套标准、实践指南、评估方法和典型案例等。

采写：南都N视频记者 樊文扬