保险公司开始销售自动驾驶“系统缺陷附加险”，当算法犯错，保险来陪，我们是解决了责任，还是学会了给责任定价？

主持人

先介绍今天桌上的几位： 詹守恒——菲尔兹奖得主，擅长从结构和模式理解世界； 穆睿达——擅长拆解复杂问题的流程结果分析师； 焦怡心——一位深谙经营哲学与组织成长的实业家。 大家现在看到保险公司开始给算法缺陷兜底，大家真正担心的，其实是人身安全的责任一旦能被明码标价，算法犯错会不会就沦为科技公司一项花钱就能摆平的纯商业成本。2022年梅赛德斯-奔驰在推广它的L3系统时公开宣布，只要系统激活时出事，车企直接承担法律责任。穆睿达，从这种兜底模式来看，它会对算法本身的安全性带来怎样的影响？

穆睿达（张瑞敏）

先别忙着谈道德滑坡，出了事受害者能马上拿到钱，比在法庭上扯皮半年强得多。奔驰敢站出来兜底，是因为它的责任链条是闭环的。保险公司替它先行赔付，但调出黑匣子数据一看，只要确定是代码识别失误或者传感器坏了，这笔账最终全额穿透回车企和上游供应商的产品责任险里。这根本不是花钱买免责。赔付率一上去，第二年保险公司直接成倍涨你的保费，整车厂受不了这个成本，就必须把质量标准逼死到研发流程里。责任能定价，恰恰是用数字把安全标准卡死了。

主持人

穆睿达把责任链条说得很紧凑，但2018年Uber自动驾驶撞人致死案，企业在事故后11天就和家属达成了和解，算法责任直接在法庭外被买断了。詹守恒，照你算概率的习惯看，当赔偿金明显低于重写算法的成本时，这套精算模型会把技术迭代引向什么结果？

詹守恒（Terence Tao）

这套模型在数学上会直接导向一个极值：车企会选择“带着缺陷上路，只要赔偿总额更便宜”。你说保费上涨会倒逼算法改安全，前提是算法重构的边际成本低于保费期望值。但现实完全相反。重写底层感知模型、消灭长尾死角，成本是指数级上升的，可能要烧几十亿美元还不一定收敛；而极端事故是个极低概率事件，哪怕单次赔偿几千万，乘上发生概率后，期望损失依然极小。当年Uber能在11天内花钱买断诉讼，就是因为把事故当成可计量的摩擦成本，比停下整个车队重写代码划算得多。如果责任只剩下算账，算法优化的目标函数就是把“赔偿加保费”压到最低。这不仅不会把安全卡死，反而给不合格的技术发了合法的通行证。

焦怡心（稻盛和夫）

账算得越精细，人心就越容易麻木。把人命的风险折算成年报里的一笔保费，技术团队的心态彻底就变了。早年我在车间做精密陶瓷，只要烧出来的零件有一点暗裂，哪怕客户根本看不出来，我们整批都要砸掉，因为知道这东西装到飞机或者设备上是要出人命的。现场的人必须有这种怕出事的敬畏心。要是工程师写代码时，脑子里想的是“反正公司买了附加险，真撞了走保险赔得起”，这个研发团队就废了。靠保险兜底只是财务上的避险，根本替代不了对产品质量的死磕。企业一旦丢了这份敬畏，不管算盘打得多响，早晚要在根本上栽大跟头。

主持人

焦怡心说砸掉暗裂陶瓷靠的是对人命的敬畏。但1973年福特Pinto车型明知油箱有缺陷，算下来修车要1.37亿、赔偿只要4950万，就直接放任缺陷车上路。焦怡心，如果企业高层只要看一张精算保单就能合法化解财务风险，做实业的人要靠什么守住不带病上路的底线？