• 简中
    • 繁中
  • 注册
  • 查看作者
  • 警惕车上嘅“第二决策人”:人机对抗带来嘅刹车风险

    转载:本文来自微信公众号“出行一客”(ID:carcaijing),作者:施智梁团队,转载经授权发布。

    2021年5月7日,广东省韶关市发生‌一场严重特斯拉汽车追尾事故。视频画面显示,一辆货车行驶喺公路上,随后一辆特斯拉汽车喺没有任何预警嘅前提下高速冲向货车,车头严重受损。

    根据韶关市公安局嘅警情通报,特斯拉汽车驾驶人已当场死亡。对此,特斯拉相关人士对中新社回应,而家也喺等待调查结果,仲未认识具体情况。

    最近因为一啲涉及新能源汽车嘅交通事故,辅助驾驶及其背后嘅线传车控(drive-by-wire)技术正处喺风口浪尖。

    整车厂往往认为,呢是因为驾驶员没有按照道路交通法规正确驾驶;而驾驶员则认为,整车厂对刹车控制等关键系统嘅设计有缺陷。

    这系一场对线传车控技术嘅可靠性嘅考验。线传车控是将驾驶者嘅操纵信号经过变换器变成电信号,通过电缆直接传输到控制执行器嘅系统,常见于现代飞机,后为智能汽车所采用。

    作为驾驶员意愿和机械能力中间嘅一层,线传车控为交通事故嘅发生提供‌一层额外嘅唔确定性。但系喺事故调查中最难揾到证据:一方面是监管相对滞后,车厂数据收集唔全;一方面是数量过多过于复杂,第三方机构缺乏分析能力。

    除咗出事车辆所属嘅车厂和佢嘅竞争对手,没有人能够分析呢个黑盒子。一方面,出事嘅车嘅制造商出于避免自身被问责嘅考虑,唔乐意自己记录、分析、披露对自己唔利嘅数据;另一方面,出事嘅车嘅制造商出于保护商业秘密嘅考虑,也唔同意让对手对自己嘅系统进行逆向分析。

    这更加系一场对线传车控技术嘅可问责性嘅考验,整车厂系咪应该为系统出事而承担可能嘅问责风险?

    执法机关陷入三难:如果对每起事故都细致调查,毫无疑问会疲于奔命浪费执法资源;如果每起事故都简单认为是驾驶员嘅责任,则会造成公众对线传车控汽车产生怀疑(例如会出现保险公司拒保新能源汽车嘅情况);而如果每起事故都认为是车厂嘅责任,噉车厂恐怕要背上天价嘅产品缺陷责任赔偿,外加可能嘅刑事指控。

    用一句中国老话嚟讲,就是“县官唔如现管”——对车辆嘅最终控制权,只应该授予喺一线直面路况嘅驾驶员嘅手上;任何线传车控技术,都唔应该傲慢地凌驾于驾驶员之上。

    电子系统有可能拒绝执行刹车指令

    喺传统汽车“刹唔住车”嘅原因上,可以分为汽车嘅客观因素(制动系统系咪能实现刹车意愿)和驾驶员嘅主观因素(驾驶员系咪有意愿刹车),两者共同构成条件概率。因此,可以做成一个矩阵:

    警惕车上嘅“第二决策人”:人机对抗带来嘅刹车风险

    可以发现,喺传统汽车嘅情况下,只要秉持“驾驶员善意论”和“是人都会犯错”两个基本假设,交通事故调查中对“刹唔住车”是谁嘅责任嘅判定其实好好进行:

    如果制动系统是完好嘅,客观原因造成嘅概率约等于0,由于“是人都会犯错”,从而推断是驾驶员嘅责任;

    如果制动系统是故障,噉样客观原因造成嘅概率极大,由于“驾驶员善意论”,从而推断是制动系统嘅责任。

    通常而言,机械系统系咪故障好好判断——包括驾驶员本人、交通警察和保险定损员喺内嘅大多数人,都可以用肉眼发现一啲情况,并用逻辑推理判断呢啲情况和故障之间嘅关联:睇到地上漏嘅刹车油,就知道刹车系统出现咗漏油嘅故障。

    警惕车上嘅“第二决策人”:人机对抗带来嘅刹车风险

    但是,辅助驾驶和线传车控系统嘅发展引入‌另一个主观因素——行车电脑嘅决定。

    决定可以分为两层:一层是辅助驾驶做出嘅积极决定,系统发现某某情况嘅时候,电子系统主动让机械系统执行某某操作;二是线传车控做出嘅消极决定,喺驾驶员意图进行某某操作时,电子系统由于某某因素而拒绝让机械系统执行呢一操作。

    呢种“唔服从”嘅消极决定喺现代汽车嘅情况下非常常见。

    其中一种例子,是新能源汽车出于回收动能、降低能耗嘅考虑,会喺驾驶员踩下制动踏板嘅时候,拒绝施加液压制动,而是以再生制动嘅形式取代。呢种喺再生制动和液压制动之间嘅制动力分配,就系一种典型嘅“拒绝执行”。

    另一种例子,则是带有车道保持技术嘅汽车,喺驾驶员唔打转向灯变道嘅时候,会认为车辆发生‌车道偏离,而通过回正方向盘拒绝驾驶员嘅变道操作。呢种阻止车辆按照驾驶员嘅方向行驶嘅操作,也系一种典型嘅“拒绝执行”。

    可以发现,消极决定作为驾驶员意愿和机械能力中间嘅一层,为交通事故嘅发生提供‌一层额外嘅唔确定性。

    换言之,“刹唔住车”嘅原因,有可能系驾驶员有意愿刹车、机械系统完好有能力刹车,但电子系统由于种种原因(有意无意动机唔论),而“拒绝执行”驾驶员刹车嘅意愿。

    而呢一层原因最难揾到证据——由于事故后机械系统完好,传统嘅事故调查流程会直接将责任指向驾驶员。

    因此,甚至产生‌“车主安装刹车踏板行车记录仪”这般令人哭笑唔得、啼笑皆非嘅尴尬场面:驾驶员喺传统嘅交通事故调查流程面前,必须畀出自己踩下‌刹车踏板嘅证据,先能洗清自己嘅肇事嫌疑。

    监管非强制,车厂无意愿记录数据

    呢种问题似曾相识——喺民航领域因为电脑拒绝执行飞行员指令嘅“人机对抗”酿成嘅空难惨剧数唔胜数。

    例如,波音737 Max上安装嘅机动特性增强系统(Maneuvering Characteristics Augmentation System)就因为人机对抗带走‌两架飞机346条人命。

    但是,汽车领域嘅问题无论喺复杂程度上还系喺数量上,都远比航空领域严重。喺两次737 Max事故度,调查员都通过飞行数据记录仪(俗称黑匣子)记录嘅控制数据,发现‌电脑喺飞行过程中持续根据错误嘅传感器数据拒绝执行飞行员上拉机头嘅意图,从而发现‌问题嘅主因。但是呢种调查由于多种原因,几乎唔可能喺汽车行业进行。

    第一个原因是数据收集唔全,缺少‌对事故调查而言至关重要嘅数据。同飞机上嘅飞行数据记录仪类似,GB7258《机动车运行安全技术条件》要求乘用车自2022年1月1日起配备符合GB39732规定嘅事件数据记录系统(EDR),对事故发生前车辆嘅数据进行记录。

    但是,如果以刹车失灵嘅判断为例,EDR要求车厂记录嘅涉及刹车嘅记录项只有“纵向 delta-V”“车辆速度”“行车制动,开启或关闭”三项必需数据,和“防抱死制动系统状态”“纵向加速度”“制动踏板位置”“制动系统报警状态”“自动紧急制动(AEB)系统状态”五项可选数据,而缺乏‌包括制动压力喺内嘅制动系统工作情况细节。

    这令到调查员无从根据数据判定制动失效嘅真实原因——“行车制动,开启或关闭”和“制动踏板位置”只能知道驾驶员有无意愿,“纵向减速度”和“车辆速度”只能知道意愿系咪实现,“防抱死制动系统状态”“制动系统报警状态”“自动紧急制动(AEB)系统状态”只能判断制动系统系咪无办法执行,而无办法知道事故系咪存喺电子系统拒绝执行嘅可能。

    警惕车上嘅“第二决策人”:人机对抗带来嘅刹车风险

    呢种记录毫无疑问是有瑕疵嘅。整车厂一方面喺智能网联汽车中卖力地通过GPS收集车主嘅行动轨迹用于个性化车内广告,另一方面则喺EDR中选择性记录,对机械系统制动压力、电子系统输出信号等喺线传车控汽车中表现“驾驶员输入系咪被车辆完整、准确、真实地处理”嘅数据视而唔见。

    呢种视而唔见是可以理解嘅。喺事故发生嘅时候,如果汽车收集嘅行驶数据显示出整车厂嘅电子系统设计导致‌事故嘅发生,噉呢种“自证其罪”毫无疑问会对整车厂带来唔利嘅影响。

    呢种影响可能系灾难性嘅,好似波音而家面临嘅停飞处分和罚款赔偿一样。那最好嘅办法就是从源头上彻底断绝呢一可能——唔收集、唔记录、唔公开呢啲数据。毕竟,法律没有要求嘅话,整车厂点样可能自找麻烦,自讨苦食呢!

    数据太多太复杂,第三方难以检测

    让我哋进一步睇第二个原因。汽车和飞机嘅数据量喺数量级上嘅巨大差别,令到就算整车厂允许司法鉴定单位获取全部数据,也唔可能有独立嘅第三方调查员能够喺可以接受嘅时间内读懂咁样嘅数据。

    这是因为喺真实数据嘅规模上,汽车内各项电子系统产生嘅数据及喺此基础上进行嘅逻辑决策,远比飞机记录嘅数据要复杂好多。

    波音737 Max上嘅MCAS系统仅有三维输入:一维是飞机嘅攻角,一维是襟翼状态,一维是自动驾驶;其决策逻辑也非常简单,自动驾驶为“关”、襟翼为“收起”,攻角大于某个阈值就能激活。

    但是,而家汽车上运用嘅每个辅助驾驶系统,就算是最广为使用嘅系统,都要依靠复杂嘅传感器和机器学习算法。例如,车道保持系统依靠一个摄像头采集前方道路画面,并通过卷积等算法喺画面中寻找道路交通标线(往往是连续嘅白色或黄色像素点)。呢一算法嘅输入维度可以达到数百万甚至数千其之谱(三原色x数千个横向像素x数千个纵向像素)。

    再例如,刹车控制系统需要接受包括制动踏板、自动紧急制动、自适应巡航喺内嘅系统嘅同时输入,并同时接受来自轮速传感器、防抱死系统、电子制动力分配系统、车身电子稳定系统嘅反馈,仲要要喺液压制动和再生制动之间做出权衡,对四个轮子精准施加制动力。

    咁样嘅输入和输出令到系统高度复杂,大大增加‌调查问责嘅复杂度。喺飞机嘅案例度,MCAS简单嘅逻辑仲可以使调查员仲够晒喺唔查睇MCAS系统软件源码嘅情况下,通过数据分析发现MCAS喺错误输入数据嘅影响下会错误地拒绝执行指令呢一设计缺陷;但喺汽车嘅案例度,如果唔对刹车控制系统嘅源代码进行分析,梳理刹车失灵嘅原因几乎是唔可能嘅事。

    但没有汽车厂会乐意让自己嘅系统源代码被公开分析——喺机械时代,汽车厂家可以大方地宣传展示自己嘅先进技术,反正“拿畀你睇你都抄唔来”;但喺电子时代,对汽车驾驶体验至关重要嘅控制系统软件嘅源代码,是没有厂商敢冒住被抄袭复制嘅风险公开嘅。

    当年嘅欧美车厂,敢邀请对手一齐交流切磋;而家嘅欧美车厂,天天就知道和对手打知识产权官司。对离职嘅软件工程师尚且要以“窃取机密”杀鸡儆猴,点样可能将软件源代码喺法庭上公之于众呢?

    呢一切嘅原因都喺度于,车厂推出‌一个“有权无责”嘅系统。

    喺辅助驾驶嘅名义下进入车辆嘅线传车控,喺某种程度上接管‌车主对车辆嘅控制。而喺呢种控制下,电子系统通过拒绝执行驾驶员嘅指令,喺事实上拥有‌对车辆嘅最终控制权;但由于监管缺位和系统设计唔透明,车厂却可以喺发生事故时将责任推畀驾驶员,从而免于就呢种控制权下软件缺陷带来嘅交通事故承担责任。

    换言之,呢啲车厂将唔成熟嘅系统推向‌社会大众,意图让车主和第啲道路使用者承担本唔应承担嘅责任呢种行为,是唔应该接受嘅。

    cantonese.live 足跡 粵字翻譯

  • 0
  • 0
  • 0
  • 175
  • 请登录之后再进行评论

    登录
  • 任务
  • 发布
  • 偏好设置
  • 单栏布局 侧栏位置: