重磅！自动驾驶研发首设“伦理红线”

《指引》遵循以人为本、增进福祉，安全优先、尊重生命，公平公正、避免偏见，知情保障、信息公开的基本原则。其中特别强调，在面对不可避免的交通事故或极端行车环境时，应确保驾驶自动化系统能高度尊重生命，积极寻求有效应对方法最大限度降低对人的伤害；与驾驶自动化技术相关的算法、模型等内容应当被清晰记录、随时可查；应避免单一技术路线或单一技术主体造成的技术垄断，确保在驾驶自动化系统设计阶段所有相关群体的利益得到平等考量。

《指引》明确，驾驶自动化技术的研究开发应设计完善的风险监测与应急机制，确保相关责任主体能够及时发现、干预并控制风险，将潜在威胁降至合理可控的范围内；数据采集须限定于实现驾驶功能所需范围，避免留存可识别特定自然人的原始数据；对行踪轨迹、地理环境等敏感信息应通过技术手段实现实时模糊化处理。同时，驾驶自动化技术的研究开发和应用应建立健全数据全生命周期隐私保护机制，严格遵循知情同意、最小必要、去标识化等原则。

《指引》还对不同类型驾驶自动化技术明确了相应的伦理规范要求。

先进驾驶辅助阶段是指2级及以下的驾驶自动化，这一阶段由人类驾驶员与驾驶自动化系统共同完成行车过程中对目标和事件的探测与响应，人类驾驶员完成动态驾驶后援任务，驾驶自动化系统在有限制的设计运行范围内发挥辅助作用。

其责任主体通常是人类驾驶员。

有限制阶段的自动驾驶包括3级和4级驾驶自动化，在这一阶段，自动驾驶系统能够持续完成车辆的横向和纵向运动控制，并承担目标与事件的探测与响应。

责任主体因具体运行场景而异，用户和自动驾驶系统都可能成为责任主体。

无限制阶段的自动驾驶为5级的驾驶自动化，这一阶段由完全自动驾驶系统完成车辆的横向和纵向控制，负责行车过程中对目标和事件的探测与响应，并在紧急情况下采取最小风险策略，以保障车辆及周围环境的安全。

除非特殊情况下有用户主动介入操作，否则，无限制阶段自动驾驶的责任主体以自动驾驶系统为主。当自动驾驶系统作为责任主体时，应当能够根据有关法律法规等向相关自然人主体或法人主体清晰追责。

《指引》还强调，在发布重大研究成果时，相关主体应坚持客观准确、实事求是，不得编造、传播与驾驶自动化系统实际功能和效果不相符的虚假信息。

此外，在研发、生产、推广等过程中，相关主体应向社会公众明确告知并清晰阐释驾驶自动化产品的功能分级、使用条件、使用方式等注意事项，及时澄清和纠正可能导致公众对驾驶自动化技术产生误解的误导性信息。