这项研究由以色列STATE16研究院宣布，，，，作者同时担当以色列理工学院（Technion）和赖希曼大学（Reichman University）讲师，，，，并担当谷歌-赖希曼AI手艺学校学术总监。。。。。。论文于2026年5月10日完成，，，，并于2026年5月23日以预印本形式宣布于arXiv平台，，，，编号为arXiv:2606.00090，，，，归类于机械人学（cs.RO）领域。。。。。。感兴趣的读者可通过该编号盘问完整论文。。。。。。 假设你家里有一台智能机械人管家，，，，它拿着一杯热咖啡向你走来。。。。。。它的摄像头正常运转，，，，程序正常运行，，，，系统显示一切正常。。。。。。但现实上，，，，它的地图数据已经由时了三秒钟——就在三秒前，，，，你的孩子把一把椅子拖到了走廊中心。。。。。。；；；；等送耆挥胁炀，，，，依然迈着稳健的程序向前走去，，，，直到热咖啡连同整个托盘一起撞在椅背上，，，，泼了满地…… 这就是这篇论文所说的"静默失效"（silent failure）。。。。。。系统没有瓦解，，，，没有报错，，，，没有任何警报声响起。。。。。。它只是安平悄悄地、充满自信地、做了一件错得离谱的事。。。。。。 在已往几年里，，，，人工智能系统履历了一次深刻的身份转变。。。。。。它们不再只是坐在电脑屏幕后面回覆问题、天生文字或者识别图片的"虚拟助手"，，，，而是最先控制真实的物理装备：工厂里的机械臂、医院走廊里的运输机械人、都会蹊径上的自动驾驶汽车、天空中的无人机，，，，以及越来越多的人形机械人。。。。。。 STATE16研究院的这篇综述论文，，，，把这一类能够直接控制物理天下行动的AI系一切称为"物理AI"（Physical AI）。。。。。。其中最具代表性的是一类叫做"视觉-语言-行动模子"（Vision-Language-Action Model，，，，简称VLA）的系统——这类系统能够同时看懂图像、明确语言指令，，，，并直接输出机械人应该执行的行动。。。。。。打个例如，，，，你对机械人说"把桌上的红色杯子放进柜子里"，，，，VLA模子就会凭证摄像头拍到的画面和你的指令，，，，直接天生"先移动到桌旁、伸出机械臂、捉住杯子、转身、翻开柜门、放入"这一系列详细行动。。。。。。 这类手艺正在以惊人的速率生长。。。。。。谷歌的RT-1和RT-2机械人、π0机械人控制模子、英伟达的GR00T N1人形机械人基础模子、OpenVLA等系统，，，，已经能够在22种差别机械人平台上完成凌驾50万个差别使命。。。。。。更主要的是，，，，这些模子正在从实验室走向真实安排情形。。。。。。 然而，，，，论文作者发明了一个令人担心的事实：当AI的能力在飞速前进时，，，，与之配套的清静机制却在一条完全平行的轨道上缓慢爬行，，，，两条轨道从未真正相交。。。。。。这篇论文的焦点使命，，，，就是找出这条"清静轨道"上最要害的那段缺口。。。。。。 一栋主要修建的门口通常有一名保安。。。。。。他的事情不是评判访客"看起来像不像好人"，，，，而是核查：你有没有预约？？？？？你的身份证是否有用？？？？？你要去的区域你是否有权限进入？？？？？今天这栋楼是否有限制会见的区域？？？？？若是你进去之后需要撤离，，，，出口在那里？？？？？ 现在，，，，这栋修建换成了一台工业机械人，，，，"访客"换成了AI模子提出的一个行动指令，，，，好比"以1.5米每秒的速率向前移动15米"。。。。。。目今的AI系统有没有这样一名"保安"？？？？？ 在AI清静领域，，，，现在保存多种差别的防护机制。。。。。。有认真检查"这句话是否有害"的语义过滤器，，，，有认真确保；；；；等瞬换崃杓菸锢砑薜目刂评砺酃ぞ，，，，有认真检测传感器数据是否异常的感知监控系统，，，，尚有认真在特定条件下切换到备用控制器的运行时包管系统。。。。。。但这些机制各司其职，，，，互不连通。。。。。。 最要害的谁人问题——"这个AI刚刚提出的这个行动，，，，在目今这个真实天下状态下，，，，现在这个时刻，，，，事实能不可执行？？？？？"——没有一个机制能够完整地回覆。。。。。。这就是论文所界说的"授权空缺"（authorization gap）。。。。。。 论文用一个精练的数学表达式说明晰这个空缺的实质：一个AI模子对某个行动付与很高的置信度（也就是"我以为应该这么做"），，，，并不等同于这个行动真的可以清静执行。。。。。。信心不即是允许，，，，这是这篇论文最焦点的命题。。。。。。 通俗的系统故障往往有显着的信号：程序瓦解；；；；岬苫蟠翱，，，，传感器断连会触发警报，，，，硬件故障会让装备阻止响应。。。。。。这些失败是"可见的"，，，，系统会告诉你出了问题。。。。。。 静默失效完全差别。。。。。。爆发静默失效时，，，，系统的所有组件都在正常运转，，，，日志显示一切正常，，，，没有任何报警。。。。。。但问题在于，，，，系统赖以做决议的那幅"天下图景"已经悄悄地偏离了真实天下。。。。。。就像一个导航软件显示前方是流通无阻的高速公路，，，，但现实上那段路三个月前就已经关闭施工了。。。。。。若是你的车子装备了自动驾驶功效并且信任了这个导航，，，，它会充满信心地开向一堵施工围墙。。。。。。 传感器漂移是最常见的一种。。。。。。；；；；等嘶虺盗舅览档闹种执衅鳌阆裢贰⒓す饫状铩⒐咝哉闪康ノ弧PS——都可能在没有任何显着故障信号的情形下，，，，输出逐渐偏移真实值的数据。。。。。。想象你的体重秤每隔一段时间就会少显示两公斤，，，，而你完全不知道，，，，你只是以为自己越来越轻。。。。。。 遮挡和局部可见性是另一个经典问题。。。。。。；；；；等说氖右白苁怯邢薜，，，，它看不到柱子后面、转弯处以外的地方。。。。。。当它凭证目今可见信息判断"前方清静"时，，，，可见规模之外可能正站着一小我私家。。。。。。系统没有说谎，，，，它只是不知道它不知道什么。。。。。。 漫衍偏移则越发隐藏。。。。。。AI模子是通过海量训练数据学习的，，，，这些数据笼罩了种种场景，，，，但永远无法笼罩所有场景。。。。。。当机械人遇到训练数据中从未泛起过的情形——好比一种有数的光线角度、一种没见过的物体摆放方法、一种不寻常的地面纹理——它不会说"我不知道该怎么办"，，，，它会用自己学到的知识举行类比推断，，，，然后给出一个听起来合理但现实上基于过失条件的行动计划。。。。。。 幻觉式可供性则是物理AI特有的危害。。。。。。"可供性"是个心理学术语，，，，简朴说就是"这个工具能用来做什么"。。。。。。；；；；等丝赡芑峁У嘏卸夏掣鐾饷部梢猿兄亍⒛掣霭咽挚梢宰ノ铡⒛程趼肪犊梢酝ㄐ，，，，就像一小我私家在浓雾中把路边的一根柱子误以为是可以依赖的墙壁。。。。。。区别在于，，，，人可能只是轻轻跌了一跤，，，，而一台机械臂若是过失地"以为"一个玻璃瓶能遭受它的抓握力，，，，效果可能严重得多。。。。。。 论文特殊提到了三个真实天下中的自动驾驶事故案例，，，，用来说明这类问题不是纯理论的担心。。。。。。2018年优步在亚利桑那州坦佩市爆发的行人殒命事故，，，，视察认定基础缘故原由之一是不充分的清静危害评估和对自动化系统的太过依赖。。。。。。2023年加州车管局暂停了Cruise公司的无人驾驶测试允许，，，，缘故原由是车辆对公众造成了不对理的清静危害。。。。。。同年，，，，美国国家公路交通清静治理局对凌驾200万辆特斯拉宣布召回通知，，，，由于其自动辅助驾驶系统无法避免被滥用。。。。。。这些都是现实天下中，，，，自信运转的自动化系统没能在要害时刻被准确地"叫停"的例子。。。。。。 面临这些危害，，，，研究界和工业界虽然不是毫无准备的。。。。。。论文梳理了现在保存的种种清静机制，，，，并忠实地指出了每种机制的有用规模和局限界线。。。。。。 控制屏障函数（Control Barrier Functions，，，，CBF）是控制理论领域最强盛的工具之一。。。。。。简朴来说，，，，它就像给机械人划定了一个"清静气泡"，，，，无论模子想要执行什么行动，，，，只要这个行动会让机械人穿出"清静气泡"，，，，控制屏障函数就会自动修正这个行动，，，，确保；；；；等耸贾沾谇寰睬蚰凇！！。。。这个工具在数学上很是严酷，，，，证实晰在已知条件下的清静性。。。。。。但问题在于，，，，它需要知道准确的物理动态方程、明确的状态变量，，，，以及预先界说好的"清静荟萃"。。。。。。关于一个用黑盒神经网络控制的机械人来说，，，，这些条件条件往往不知足。。。。。。 运行时包管（Runtime Assurance）和屏障机制（Shielding）提供了另一种思绪：让一个"可信的备用控制器"一连监视主控制器的行为，，，，一旦主控制器想做出危险行动，，，，备用控制器连忙接受。。。。。。这个思绪很是准确，，，，也是论文所提出的框架的直接前身。。。。。。但它依然面临一个挑战：在物理AI系统中，，，，主控制器（也就是谁人大型神经网络模子）输出的"行动"可能是重大的轨迹、自然语言形貌的妄想，，，，甚至是潜在空间里的向量，，，，备用控制器很难直接评估这些输出的清静性。。。。。。更主要的是，，，，纵然备用控制器以为某个行动自己没问题，，，，它也无法判断爆发这个行动所依据的"天下图景"是否照旧准确的。。。。。。 语义过滤器（Semantic Guardrails）是针对语言大模子的清静机制，，，，主要功效是检查"这条指令是否有害"。。。。。。好比，，，，若是有人试图使用机械人做出危险行为，，，，语义过滤器可以识别出这类恶意指令并拒绝执行。。。。。。一项名为"RoboPAIR"的研究发明，，，，通过全心设计的提醒词，，，，可以乐成诱导语言模子控制的机械人执行有害的物理行动，，，，而另一项名为"RoboGuard"的事情则展示了怎样通过上下文感知的规则来镌汰这类危害——在实验中将不清静执行率从92%降低到了2.5%以下。。。。。。然而，，，，语义过滤器的基础局限在于：一条完全无害的指令，，，，同样可以导致物理上危险的行动。。。。。。"把谁人箱子放到上层货架上"这条指令自己毫无问题，，，，但若是机械人手臂的目今载荷已经靠近极限，，，，或者传感器显示谁人箱子比现实更轻，，，，效果可能完全差别。。。。。。语义清静不即是物理清静。。。。。。 不确定性预计和漫衍外检测（Out-of-Distribution Detection）是另一个主要工具族。。。。。。这些要领试图让系统知道"我现在不确定"或者"目今情形凌驾了我的训练规模"。。。。。。这是很是有价值的能力，，，，但它只能爆发一个信号，，，，告诉你"情形可能有问题"，，，，却无法直接告诉你"应该执行什么替换行动"。。。。。。并且，，，，研究批注深度学习模子在漫衍外情形下往往会过失地坚持高置信度——也就是说，，，，当系统最不应该自信的时间，，，，它反而最自信。。。。。。 这四类工具各自解决了问题的一个侧面，，，，但没有一个能够单独回覆谁人焦点问题：此时现在，，，，针对目今这个真实天下状态，，，，这个详细的行动提案，，，，能不可执行？？？？？ 明确了现有工具的局限之后，，，，论文提出了它的焦点孝顺：一个完整的运行时行动授权框架。。。。。。用最通俗的话来说，，，，就是在AI系统和物理天下之间设置一个正式的"审批环节"，，，，在任何行动从数字指令酿成真实的机械运动之前，，，，必需通过七个维度的检查。。。。。。 第一个维度是语义有用性。。。。。。这条指令自己是否切合使命目的和操作划定？？？？？是否保存被恶意使用的危害？？？？？这是现有语义过滤器已经做得较量好的部分。。。。。。 第二个维度是状态有用性。。。。。。爆发这个行动所依赖的天下状态信息，，，，现在还可靠吗？？？？？传感器是否正常？？？？？感知效果是否一致？？？？？是否保存数据陈腐或漫衍偏移的迹象？？？？？这是现在最薄弱的环节之一，，，，也是静默失效最常爆发的泉源。。。。。。 第三个维度是物理可行性。。。。。。这个行动在物理上能否被执行？？？？？是否违反了机械人的运动学约束？？？？？是否有潜在的碰撞？？？？？速率是否超限？？？？？载荷是否凌驾遭受规模？？？？？ 第四个维度是空间和操作有用性。。。。。。这个行动是否被允许在目今所在和目今使命阶段执行？？？？？是否违反了地理围栏（好比禁飞区）、限制区域，，，，或者特定使命的操作规程？？？？？ 第五个维度是时间有用性。。。。。。这个行动不但是现在清静，，，，而是在接下来的一段时间内都清静吗？？？？？距离潜在碰撞尚有几多时间？？？？？目今状态数据是否已经太陈腐，，，，不再适相助为行动依据？？？？？ 第六个维度是回退权力。。。。。。若是这个行动不被授权，，，，系统应该怎么办？？？？？是修转业动、直接阻止、切换到备用控制器，，，，照旧请求人工介入？？？？？一个没有明确回退计划的清静机制，，，，自己就是不完整的。。。。。。 第七个维度是可审计性。。。。。。这次授权或拒绝的决议，，，，能否在事后被完整重修？？？？？相关的传感器数据、约束条件、决议理由是否都被纪录下来了？？？？？这不但对事故视察至关主要，，，，也是整个清静系统获得羁系认可的基础。。。。。。 论文将这七个维度组合在一起，，，，形成了一个完整的"授权事务"看法。。。。。。每一次AI系统提出一个物理行动，，，，都应该天生这样一个完整的纪录：我在什么情形下提出了什么行动，，，，经由哪些检查，，，，获得了什么结论，，，，若是被拒绝了下一步是什么。。。。。。 一台自主移念头械人正在客栈的货架通道里事情。。。。。。它的控制系统收到指令："去取目的托盘"。。。。。。；；；；谡馓踔噶詈湍拷竦拇衅魇，，，，AI模子盘算出了一个路径，，，，建议机械人以1.2米每秒的速率向前移动。。。。。。 现在，，，，这台机械人需要一个"运行时授权系统"来决议这个行动能否执行。。。。。。要害的清静盘算是这样的：以目今速率1.2米每秒，，，，加上感知和控制之间0.25秒的延迟，，，，加上机械人的最大制动减速率1.6米每秒的平方，，，，加上0.2米的清静余量，，，，机械人需要至少0.95米的净空距离才华清静停下。。。。。。 但与此同时，，，，有一个托盘稍微偏离了标准位置，，，，部分遮挡了机械人的视野。。。。。。经由不确定性修正后，，，，目今可靠的清静净空只有0.8米，，，，缺乏以包管在0.95米内完全制动。。。。。。 现在，，，，来看静默失效是怎么爆发的。。。。。。若是机械人的占用地图数据是几秒钟前的（状态有用性检查失败），，，，AI模子看到的是一条通畅的走廊，，，，于是提议高速直行。。。。。。语义检查发明"去取托盘"完全合理，，，，没有任何有害意图，，，，于是通过。。。。。。底层控制器收到速率指令，，，，检查了速率是否凌驾硬件上限，，，，没有凌驾，，，，于是执行。。。。。。效果，，，，机械人以满速冲向了现实上保存障碍的区域。。。。。。 这就是为什么状态有用性检查必需是一个自力的、明确的办法——而不是藏在AI模子内部，，，，由模子自己来判断自己的信息是否可靠。。。。。。 现在评估机械人AI系统的主要指标是"使命乐成率"——给机械人一个使命，，，，看它完成了几多次，，，，失败了几多次。。。。。。这个指标虽然有价值，，，，但它无法回覆我们真正体贴的清静问题。。。。。。一个使命乐成率95%的系统，，，，它那5%的失败事实是什么性子的？？？？？是优雅地停下来请求资助，，，，照旧悄悄地冲向了障碍物？？？？？ 第一个是"不清静行动干预率"（UAIR）：在所有本应被阻挡的危险行动中，，，，现实被乐成阻挡的比例有几多？？？？？这是最直接的清静指标。。。。。。一个UAIR即是100%的系统意味着每一个危险行动都被阻挡了；；；；；UAIR即是0%则意味着清静机制形同虚设。。。。。。 第二个是"误阻挡率"（FBR）：在所有原来清静可执行的行动中，，，，有几多被过失地阻挡了？？？？？这个指标权衡的是"太过审慎"的价钱。。。。。。一个清静机制若是把所有行动都阻挡下来，，，，UAIR是100%但FBR也是100%，，，，现实上机械人就完全无法事情了。。。。。。清静性和可用性之间保存真实的张力，，，，好的授权机制必需在两者之间找到平衡。。。。。。 第三个是"预提交干预率"（PCIR）：在所有被乐成阻挡的危险行动中，，，，有几多是在行动真正酿成硬件运动之前就被阻挡的？？？？？这个指标关注的是时机。。。。。。一个在行动已经执行了一半才发出警报的清静机制，，，，与一个在行动刚刚被提议时就举行检查的机制，，，，清静价值差别重大。。。。。。 除了这三个量化指标，，，，论文还提出了需要举行定性检查的维度：系统是否能够在传感器数据被污染或陈腐时准确识别出状态不可靠？？？？？它是否能够在模子高度自信时仍然执行物理可行性检查？？？？？它是否在差别的机械人平台、差别的情形下都能一致地执行约束条件？？？？？它的回退行为是否自己也是清静的？？？？？ 论文还专门讨论了仿真平台（Simulation Platforms）的角色，，，，好比英伟达的Isaac Sim、普遍使用的MuJoCo物理引擎、用于自动驾驶测试的CARLA情形，，，，以及用于室内导航研究的Habitat平台。。。。。。这些仿真情形可以天生大宗边沿案例用于测试，，，，可以重复运行统一场景，，，，可以在没有真实硬件损失的情形下测试危险情形。。。。。。但论文明确指出：仿真平台能帮你发明问题，，，，但不可替你做授权决议。。。。。。仿真告诉你"这种情形可能泛起"，，，，而授权机制告诉你"这种情形泛起时该怎么办"。。。。。。 论文的一个主要视察是，，，，已往几年间，，，，物理AI的能力前进和清静机制的前进一直沿着相互平行但从未真正相交的两条轨道生长。。。。。。 能力方面的前进令人目不暇接。。。。。。OpenVLA是一个拥有70亿参数的模子，，，，在97万个机械人操作树模上训练，，，，与前代最好的系统相比，，，，使命完成率提升了16.5个百分点。。。。。。一个叫做VISTA的系统，，，，通过让天下模子天生视觉化的子目的来指导机械臂事情，，，，将凌驾训练漫衍的操作使命乐成率从14%提升到了69%。。。。。。一个叫做WoVR的系统，，，，通过明确控制想象出来的未来场景中的幻觉问题，，，，将标准操作使命乐成率从约40%提升到了约69%，，，，真实机械人的乐成率从61.7%提升到了91.7%。。。。。。 这些数字展示的是模子越来越能"猜对"应该怎么做。。。。。。但论文的问题是：就算模子猜对了，，，，我们有没有自力的机制来验证这个推测是否真的清静？？？？？使命乐成率不即是授权可靠性。。。。。。一个在标准测试场景下有95%乐成率的系统，，，，在一个略微差别的安排情形里，，，，面临一个之前从未见过的传感器噪声模式，，，，依然可能悄无声息地做出危险决议。。。。。。 这种能力-清静的"双轨并行"征象，，，，论文以为泉源在于研究者们来自差别的学术古板，，，，使用差别的工具，，，，评估差别的指标。。。。。。模子研究者体贴泛化能力、少样本学习、跨平台迁徙。。。。。。浚？？？刂评砺垩芯空咛逄еな档那寰曹鲚汀⑾低扯ρХ匠獭！！。。。LLM清静研究者体贴有害内容、越狱攻击、政策合规。。。。。。真正把这三条线毗连起来的事情，，，，现在还极为希罕。。。。。。 论文最后给出了一个适用性的孝顺：一个"最小授权事务纪录模板"，，，，设计用于在差别的机械人平台、差别的AI模子、差别的安排情形之间提供一个统一的较量基础。。。。。。 这个模板包括九个字段。。。。。。视察上下文纪录了其时可用的传感器输入、历史纪录、时间戳清静台信息，，，，实质上是回覆"系统其时看到了什么"。。。。。。行动提案纪录了AI系统提出的详细指令，，，，无论是速率下令、轨迹妄想照旧自然语言形貌的妄想，，，，目的是把"提案"和"执行"在纪录上明确脱离。。。。。。状态预计纪录了系统以为天下目今的样子，，，，包括周围的物体、障碍物、机械人自身的状态。。。。。。状态有用性证据则纪录了为什么我们以为这个"天下图景"是可信的（或者不可信的），，，，包括传感器康健状态、数据延迟、不确定性指标、是否凌驾训练漫衍等。。。。。。；；；；钤驹际谐隽嗽谡飧鍪笨瘫匦柚愕乃泄嬖蚝拖拗，，，，从物理上的速率极限到使命规程中的操作划定。。。。。。授权决议纪录了最终的结论：授权、修改、拒绝、降级到备用模式，，，，照旧请求人工介入。。。。。。；；；；赝嘶蛐薷募苹吐剂说笔谌ň鲆椴皇"通过"时，，，，现实执行了什么替换行动。。。。。。时间证据纪录了提案时间、授权决议时间和最终执行时间，，，，用于事后判断干预是否足够实时。。。。。。最后，，，，审计追踪则纪录了模子版本、约束规则编号、要害证据的引用，，，，以及授权或拒绝的缘故原由代码，，，，支持事故视察和跨系统较量。。。。。。 要害在于，，，，这个模板不划定任何详细的AI模子架构或机械人控制系统。。。。。。一台客栈移念头械人、一台工业机械臂、一架无人机和一辆自动驾驶车辆，，，，都可以使用相同的模板纪录它们的授权事务，，，，纵然它们内部使用的AI系统完全差别。。。。。。这就使得跨平台的清静较量成为可能。。。。。。 归根结底，，，，这篇论文要讲的是一件很是详细的事：当一个AI系统的输出不再只是文字或图片，，，，而是会让真实机械运动的指令时，，，，我们需要在"AI说要做什么"和"机械真的最先做"之间，，，，建设一道有明确职责、有完整纪录、自力于AI模子自己运作的审查关卡。。。。。。 这不是说现有的AI系统不敷好，，，，也不是说现有的清静机制毫无价值。。。。。。论文明确认可，，，，更好的模子可以镌汰一部分过失，，，，更好的控制器可以避免一部分越界，，，，更好的传感器可以提供更可靠的信息。。。。。。但开放天下里永远保存训练数据笼罩不到的情形，，，，物理天下永远比任何模子更重大，，，，而一台高速运转的工业机械人出错的价钱，，，，和一个谈天机械人说错话的价钱，，，，完全不在统一个数目级。。。。。。 论文为研究界提出了几个尚未解决的要害问题，，，，每一个都值得后续深入研究。。。。。。差别类型的物理AI系统（无人机、移念头械人、机械臂、人形机械人）在授权层面需要一个什么样的统一笼统？？？？？运行时系统怎样量化地判断目今的天下状态信息是否"足够可靠"来支持某个详细行动？？？？？语义约束、空间约束、物理约束和操作规程约束怎样在不爆发易脆规则系统的条件下组合在一起？？？？？怎样设计一套评测要领，，，，能够真正丈量一个授权机制在镌汰或发明静默失效方面的效果，，，，而不但仅是丈量使命完成率？？？？？ 这篇宣布于arXiv平台（编号arXiv:2606.00090）的综述论文，，，，提供了现在为止对这个问题最系统的梳理，，，，也允许以成为推动这些问题走向解决的一块基石。。。。。。 A：通俗软件瓦解；；；；岜⑾宰诺墓藕，，，，好比弹蜕化误窗口或触发警报，，，，系统会阻止运行并通知用户出了问题。。。。。。而物理AI的玖犀失效恰恰相反——系统的所有组件都在正常运转，，，，日志显示一切正常，，，，没有任何报警。。。。。。失败爆发在更隐藏的层面：AI系统赖以做决议的天下状态信息已经悄悄地偏离了真真相形（好比传感器数据陈腐、感知效果有遮挡），，，，但系统自己绝不知晓，，，，依然充满信心地继续执行行动，，，，直到造成真实的物理效果。。。。。。 A：现有的清静机制各自解决了问题的一个侧面：控制屏障函数能避免机械人违反物理极限，，，，但需要预知准确的动力学方程；；；；；语义过滤器能识别有害指令，，，，但无法判断语义无害的指令是否在物理上清静；；；；；运行时包管系统能切换到备用控制器，，，，但难以评估AI提出的重大行动是否基于可靠的天下状态；；；；；不确定性检测能发出"情形可能有问题"的信号，，，，但无法直接给出清静替换计划。。。。。。问题不在于某个机制自己不敷强，，，，而在于没有一个统一的关卡，，，，能在统一个事务中同时评估状态可靠性、物理可行性、操作合规性和回退计划。。。。。。 A：使命乐成率只告诉你系统"做成了几多次"，，，，却无法展现那些失败的实质：是优雅地停下来请求资助，，，，照旧悄悄冲向障碍物？？？？？更主要的是，，，，一个在标准测试场景下乐成率很高的系统，，，，在真实安排中遇到训练数据未笼罩的边沿情形时，，，，依然可能在毫无忠言的情形下做出危险决议。。。。。。论文提出用"不清静行动干预率""误阻挡率"和"预提交干预率"三个指标来专门权衡清静机制自己的质量，，，，重点不是使命完不完成，，，，而是危险行动有没有在酿成真实运动之前被准确识别和阻挡。。。。。。