第454集:“伦理规则”的“小修订”

“当时研讨会的结论是,系统不得执行‘主动伤害乘客’的指令,”陈则打开研讨会纪要,“但如果乘客自己接管方向盘,系统应在确保不伤害第三方的前提下,提供必要的操作辅助——这就要求我们在决策模块里加入‘人工干预的伦理边界检测’。”

林砚立刻开始修改代码。她在决策树的末端添加了一个新的分支:当乘客触发接管请求时,系统需在0.05秒内评估接管操作可能造成的第三方风险。若风险值超过阈值,系统将发出警告并限制操作权限;若风险值在安全范围内,则逐步移交控制权,并实时提供路况预警。

“我们需要做一次真人模拟测试,”林砚保存好代码,抬头看向陈则,“找伦理委员会申请测试名额吧,这次要包含不同年龄、职业的乘客,还要模拟各种极端场景下的人工干预。”

小主,

陈则点点头,拿起手机拨通了伦理委员会的电话。窗外的天色渐渐亮了起来,测试场的指示灯熄灭,第一辆“远航-III”缓缓驶入车库。林砚望着那辆银灰色的汽车,突然想起三年前第一次见到自动驾驶原型车时的情景——那时的系统还只能在封闭路段行驶,而现在,它们已经开始面对复杂的伦理抉择。

三天后的模拟测试场,阳光正好。林砚和陈则坐在监控室里,注视着屏幕上的实时数据。第一位测试者是位58岁的教师,她坐在“远航-III”的主驾驶位上,副驾驶位是伦理委员会的观察员。当模拟场景中出现“前方有行人闯红灯,后方有救护车”的情况时,系统立即发出预警:“检测到紧急情况,建议制动,是否需要接管?”

教师犹豫了两秒,没有接管,系统顺利完成制动。但当第二个场景——“暴雨天,前方有失控的油罐车,左侧是人行道(有3名行人),右侧是护栏”出现时,教师突然按下了接管按钮,试图向左避让。

“系统检测到接管操作可能造成3名行人伤亡,风险值超过阈值,已限制转向角度,”监控屏幕上弹出警告信息,同时车内的语音提示响起,“已为您调整转向轨迹,建议优先选择右侧避让,伤亡风险值降低68%。”

教师愣了一下,最终听从了系统的建议。当车辆平稳停在护栏旁时,她长舒了一口气。测试结束后,她对观察员说:“其实我当时只想着避开油罐车,没注意到人行道上的行人——如果没有系统的提醒,我可能会做出错误的决定。”

接下来的测试中,不同的乘客展现出了不同的决策倾向:年轻的程序员更愿意相信系统的判断,而有十年驾龄的出租车司机则更倾向于自主接管。但无论哪种情况,“远航-III”的V3.8版本都能在0.05秒内完成风险评估,并给出合理的建议。

“看来‘人工干预的伦理边界检测’起到了作用,”林砚看着实时统计数据,脸上露出了笑容,“但还有一个问题——如果乘客是未成年人,或者有精神疾病,系统该如何判断是否允许接管?”