近日，由江苏省人工智能学会主办的“人工智能伦理跨学科融合发展大会”在南京召开。超过200位来自高校、研究机构以及企业界的代表齐聚，共同探讨推动人工智能伦理治理从原则倡导走向制度化落地。会上，《江苏省人工智能学会人工智能科技伦理审查规范与指南》正式发布。

会议现场

什么是AI伦理审查？

“简单来说，人工智能伦理审查，就是对AI研发和应用全过程中可能出现的道德风险进行提前识别、评估和干预。”江苏省人工智能学会副理事长、人工智能伦理审查委员会主任张燕表示，审查需要回答三个问题：第一，AI该做什么，比如不能歧视、不能泄露隐私；第二，AI不该做什么，包括不能研发有自主意识的强人工智能；第三，怎么做才安全可靠，在算法层面要可解释，一旦出现事故责任要可追溯。

“人工智能伦理准则必须关注机器的行为，而不仅仅是机器周围人类的行为。”南京大学副校长周志华院士表示，人工智能发展的根本目标应是服务人类、赋能社会，在快速发展的同时也必须坚守科技伦理底线。

与传统产品不同，AI系统会动态迭代、自我学习，决策过程往往是“黑箱”。一个贷款审批模型，可能因训练数据中某类人群样本不足而产生歧视；自动驾驶在紧急时刻的选择，背后是价值判断。这些都不是事后法律轻易能追责的，必须在研发阶段就嵌入伦理约束。

国家工业信息安全发展研究中心人工智能所科研部主任张瑶介绍，我国目前的制度设计是“单位自审+专家复核”双层机制。高风险项目（如影响人自主行动的人机融合系统、具备舆论动员能力的算法），还须向行业主管部门申请复核。

审查操作存在短板

理想与现实之间有差距。中国伦理学会会长孙春晨直言：“程序走完了，风险并没有排除。”

他观察到，不少企业提交的伦理自评报告充斥着“遵循公平、透明、可解释”等格式化口号，但对数据来源偏见、算法黑箱、对弱势群体的影响等实质问题一笔带过。审查委员会受限于会议时间和技术壁垒，只能核对材料完整性，“谁填表漂亮，谁就能过关”。

更深层的问题在于“自我审查”。许多企业的伦理委员会由内部人员组成，既当运动员又当裁判员，审查目标主要是规避法律和声誉风险。孙春晨认为，这源于路径依赖，长期套用生物医学的静态、一次性审批模式，无法适配AI动态迭代的特点。同时，兼具技术、伦理、法律的复合型审查人才极度匮乏，基层陷入“不会审、不敢审、不愿审”的困局。

江苏探路第三方复核

今年4月，工信部等十部门联合印发《人工智能科技伦理审查和服务办法（试行）》，加速了人工智能伦理治理制度化落地进程。该办法鼓励地方设立独立的“人工智能科技伦理审查与服务中心”，企业可委托第三方审查，破解“自己审自己”的难题。

作为人工智能产业大省，江苏正在尝试破局。

5月23日，《江苏省人工智能学会人工智能科技伦理审查与服务规范（试行）》正式发布，明确了风险分级和审查程序。南京正在积极申报国家人工智能伦理应用先导区。

江苏省人工智能学会秘书长房伟透露，该学会伦理审查委员会已为申报省科技厅项目的单位完成多个项目的伦理审查。他预测，“未来3到5年内，每一个算法模型、每一个智能体、每一个智能终端，都将需要通过人工智能伦理审查。”

企业端也在行动。江苏运动健康研究院与华为合作推进医疗级可穿戴设备标准化试点。研究院常务副院长于文龙坦言，当前医疗级可穿戴设备多为二类证（辅助诊断），一旦误判，责任归属仍处“模糊地带”。“我们尝试以应用为牵引，边应用边优化规范。”于文龙说。

在南京大学人工智能学院，伦理教育已被前置到课堂。自2018年学院成立起，学院便为第一届学生开设了人工智能伦理课程。周志华院士明确区分：有自主意识的强人工智能与作为工具开发应用的弱人工智能有着本质不同，“对人类无法控制的人工智能体的研究，暂不宜开展”。