第12章　论断：2007年前后（约 2007 年）

机器人不是人。这个判断在2007年听起来几乎像是废话。没有任何一个司法管辖区的法律将机器人视为法律主体，没有任何一家法院判决一台机器为其行为承担刑事责任或民事赔偿，没有任何一份保险合同将机器人列为被保险人。但在这一年，正是这个看似不言自明的前提，开始在全球多个法律和监管体系中同时承受压力。压力并非来自某个颠覆性的理论突破，而是来自一系列非常具体的问题：当一台手术机器人撕破了患者的输尿管，而操作日志显示主控台指令与机械臂实际动作之间存在无法解释的偏差时，谁该负责？当一台自主移动机器人在仓库里撞伤了工人，而事故原因是传感器在某个特定角度存在五毫米的盲区——一个连设计工程师都未曾注意到的盲区——时，谁该负责？当一台四足机器人在测试中失去平衡踢伤了旁边的操作员，而那一脚是算法在恢复平衡过程中自主计算出的最优解时，谁又该负责？这些问题在二十年前根本不存在。不是因为机器人不会造成伤害，而是因为旧有答案曾经足够清晰。

在长达四十多年的工业机器人历史中，责任归属的逻辑从未构成真正的难题。FANUC的黄色机械臂从1984年起在汽车焊接线上工作，它们被钢铁围栏包围，执行完全预编程的动作序列，速度、轨迹、焊点坐标在作业开始前就已被工程师一行行写入控制器。如果焊接点偏移了目标位置半厘米，调查路径只有三条：程序代码是否有误、机械结构是否磨损、操作员是否输入了错误参数。每一条路径的尽头都站着一个人——一个可以被传唤、被起诉、被判赔的人。这是产品责任法与侵权法的经典疆域，法律不需要思考“机器人做了什么”，只需要回答“人做错了什么”。这个清晰的疆域之所以能够维持，依赖两个在2007年前后同时瓦解的技术前提。第一个前提是物理隔离。围栏不仅是安全措施，也是法律装置——它将机器人活动空间界定为“禁止人类进入的区域”，从而将事故场景简化为围栏是否合规、警示是否充分、程序是否被遵守这类可以在既有法律范畴内回答的问题。第二个前提是行为确定性。

工业机器人的每一个动作都有确定的、可追溯的人类来源，不存在算法自主生成人类设计者未曾预料的行为这种可能性。到2000年代中期，这两个前提都在被技术扩散所侵蚀。达芬奇手术机器人的机械臂不是从围栏后面伸出来触碰钢板的，它们直接进入人体腔道，在距重要器官毫米级的位置进行由主控台遥控但经过算法滤波和力反馈调整的操作。iRobot公司的Roomba扫地机器人在2002年上市后累计销量在2007年前后突破三百万台，这意味着有数百万个自主移动设备在人类的客厅里做着实时避障决策，其中任何一个决策出错都可能撞倒花瓶、绊倒老人或咬住宠物尾巴。

波士顿动力公司的BigDog四足机器人——由美国国防高级研究计划局出资、波士顿动力与福斯特-米勒公司、喷气推进实验室和哈佛大学康德菲尔德研究站于2005年共同研发——则展示了另一种图景：一台没有轮子也没有履带、仅靠四条机械腿和一套包括关节位置传感器、立体视觉系统和激光陀螺仪在内的传感套件就能在冰面、碎石和斜坡上自主维持平衡的机器。这台旨在为士兵驮运物资的“机械骡”长一米，高0.7米，重75千克，能以每小时5.3公里的速度穿越粗糙地形并负载154千克的重量。2008年3月18日，波士顿动力发布了一段测试录像，画面中的BigDog在结冰地面上步态踉跄，被测试人员从侧面猛踹一脚，四条腿在一阵急促的重新找位后恢复平衡，继续向前行走。这段视频在YouTube上被播放了数百万次，观众的反应混杂着惊异和不安——惊异于机器的运动能力已经接近生物水平，不安于这台机器在被踹之后的“恢复”动作并非来自任何人的遥控指令，而是它自己的控制系统在实时计算身体姿态、各关节扭矩和地面反力后自主生成的序列。这种不安的根源，恰恰是BigDog与FANUC机械臂之间最根本的技术断裂。

FANUC的机械臂如果被外力撞击偏离预设轨迹，它会停止运转并报警，等待人类来处理。BigDog不会停止——它的控制算法被设计成能够在受到外部扰动后主动恢复平衡，而不是退出运行。这意味着它可以在没有人类指令的情况下产生一系列人类无法在事前精确预见的动作。当测试人员踹出那一脚时，他不可能知道BigDog哪条腿会往哪个方向移动多大距离来恢复平衡，因为那取决于算法在那一瞬间读取到的关节角度、陀螺仪信号和足端压力分布，而这些变量在每一次测试中都会有所不同。这就是自主性在工程技术层面的核心含义：系统能够在给定的目标函数下，根据环境反馈自行生成行为序列，而这些行为序列在设计阶段无法被穷举预判。当这种自主性从军事测试场扩散到民用手术室和日常家庭时，法律体系遭遇的压力就不只是理论上的。美国FDA的制造商与用户机构设备体验数据库（MAUDE）中，与达芬奇手术机器人相关的不良事件报告在2007年前后出现了一个数量级的变化。

报告数量的增加本身并不说明安全性在恶化——装机量的快速增长和报告意识的提高都可以解释一部分增幅。真正让监管机构和法律界感到不安的是报告内容的性质变化。早年的报告大多涉及明确的机械故障或明显的操作失误，责任归因相对清晰。但在2007年前后，开始出现一批让事故调查陷入三方僵局的案例：术后发现输尿管或肠道灼伤，外科医生辩称自己严格按照标准流程操作主控台，医院出具了完整的设备维护和消毒记录，制造商Intuitive Surgical公司提交的操作日志显示机械臂忠实执行了主控台发出的指令。三个主体都没有“做错”，但损伤确实发生了。问题的症结藏在操作日志与机械臂实际物理运动之间的那层算法中介里。达芬奇系统不是外科医生手部动作的简单遥控延伸。

外科医生在主控台前操作手控装置，其手部动作被数字化为一组指令，这些指令在传递给机械臂之前会经过多个算法层的处理：震颤过滤算法会去除外科医生手部的自然微颤，运动缩放算法会将主控台上的大幅动作转换为机械臂末端毫米级的精细移动，力反馈算法会根据机械臂末端传感器检测到的组织阻力调整动作速度和力道。这意味着机械臂最终执行的动作，是外科医生初始输入与多个算法层叠加之后的产物。如果术后出现了组织损伤，要确定“原因”是什么，就需要回答：损伤是由外科医生在主控台上的某一个操作造成的，还是由震颤过滤算法将某个有意的精细动作误判为震颤而滤除造成的，还是由力反馈传感器在某一个瞬时的信号噪声被控制系统误读为组织阻力变化而诱发补偿动作造成的？这些可能性对应着不同的责任主体——外科医生的操作精度、制造商的算法设计、医院的传感器标定——但在大多数情况下，即使调取完整的操作日志和传感器数据，也无法唯一确定是哪一个因素触发了损伤。

因为在这个算法中介层中，人类输入和机器响应已经融合成一个无法拆解的因果混合体。德国法学家安德烈亚斯·马蒂亚斯在2004年首次将这种现象命名为“责任缺口”，到2007年，这个词已经频繁出现在侵权法学者、医学伦理学家和机器人工程师的交叉讨论中。责任缺口并非哲学家的抽象构造，它在实际的制度层面制造了切实的困境。传统的产品责任法建立在两个路径之上：过失责任和严格责任。过失责任要求证明产品的设计、制造或警示存在“不合理”之处，即设计者或制造者未尽到合理的注意义务。严格责任则不论是否存在过失，只要产品存在“不合理危险的缺陷”并造成了损害，制造商就要承担责任。但在达芬奇案例所代表的新型事故中，这两个路径都遭遇了困难。无法证明设计存在“不合理”之处——因为震颤过滤和力反馈算法正是为了提升手术安全性而设计的，它们本身不是缺陷。但也很难说产品不存在缺陷——因为损伤确实发生在一个设计者和使用者都未能预见的场景中。

这种两难不是法律条文模糊性的产物，而是自主系统内在特征的必然结果：当算法能够在运行过程中生成设计者未曾枚举的行为序列时，出厂前的“合理设计”判断就丧失了预判力。各国政府在这个问题上的回应，从一开始就呈现出不同的制度偏好，而这些偏好在2007年前后开始凝结为可辨识的路径。FDA的反应集中在上报制度的技术性强化。2007年至2009年间，FDA发布了一系列针对手术机器人不良事件报告的指南文件，其核心要求并非重新定义责任归属，而是要求制造商在报告中提供更细粒度的数据：力反馈传感器的标定记录、控制算法的版本号和参数设置、主控台输入与机械臂实际运动之间的时间序列对比。这套措施的逻辑是把未来的责任界定建立在事实密度的提高之上。FDA的法定权限是确保医疗器械安全有效，不是为侵权诉讼提供法律原则，但它通过强制数据记录要求所做的，实际上是为法庭提供了一个越来越接近航空黑匣子的事故还原能力。

如果数据足够密集，“发生了什么”可以从三方各执一词的僵局转化为一个可被工程分析验证的技术问题。日本经济产业省在2007年发布的《下一代机器人安全性确保指南》则朝另一个方向迈出了一步。这份文件不再将机器人视为传统工业设备，而是创造了一个新的法律概念——“准自主系统”。这个概念承认了一个在旧框架中被回避的事实：机器人在运行过程中可能做出设计者和使用者均无法完全预见的动作。指南由此提出了三层安全框架：预防层要求通过传感器和算法尽可能避免危险；缓解层要求当危险无法避免时将损害降到最低；追溯层要求通过数据记录还原事故经过以便确定原因和防止重复。三层框架的逻辑核心在于，安全不再是一个可以通过出厂前测试一次性确认的状态，而是一个需要在运行过程中持续管理的过程。这与协作机器人领域从“围栏即安全”到“共融即安全”的范式转换在逻辑上完全平行，只是前者发生在制度设计层面，后者发生在工程设计层面。韩国的路径更具宣言性质。

2007年，韩国产业资源部联合学术界和产业界启动了“机器人伦理宪章”草案的起草工作。这份草案试图在机器人技术大规模进入韩国社会之前，预设一套基本原则：人类必须保留对机器人的控制能力，禁止开发可能造成伤害的自主武器机器人，机器人应当具备透明性——即人类能够理解机器人在做什么以及为什么这样做。草案在2007年并未正式颁布，但它的条款在此后数年被反复引用。韩国选择的这条路径与美国和日本的不同之处在于，它是原则先行的——试图通过宪章式的伦理宣告建立社会共识的前置框架，而不是等待事故数据积累后再倒逼制度调整。这三种路径——美国的数据驱动渐进主义、日本的概念创新、韩国的原则先行——在2007年前后并非互斥，而是形成了一种罕见的全球性制度实验的同步性。推动这种同步性的，是机器人技术扩散本身的结构性力量。手术机器人、扫地机器人和BigDog在技术细节上毫无共同之处，它们分属不同的专利池、供应链和监管机构。

但它们共享一个特征：机器人在没有人类实时操控的情况下，做出了影响物理世界的行为，而这些行为造成的后果无法在旧的责任框架内被消化。当一个技术特征出现在足够多样的应用领域中时，它所引发的制度回应就不再是行业性的，而是跨部门的、系统性的。在军事领域，同样的问题以更尖锐的形态浮现出来。“有意义的人类控制”这个原则在2007年前后开始进入国际人道法的话语体系，其主张看似简单明了：在任何使用武力的决策链条中，必须保留一个人类判断的实质节点，这个节点不能被算法架空。但在操作层面，这个原则立刻暴露出诠释上的分歧。美国空军自2001年开始在阿富汗和伊拉克使用MQ-1捕食者无人机执行侦察和打击任务，到2007年，这类系统的飞行控制已经高度自主化——自动起飞降落、自动航路规划、自动目标跟踪——唯有人类操作员在决定按下导弹发射按钮的那一刻，才出现了人类判断的介入。这个介入是否构成“有意义”的控制？

如果操作员的态势感知完全来自算法筛选和优先级排序后的信息画面，如果目标识别算法已经在显示屏上圈出了“建议打击区域”而操作员的任务只是在几十秒内决定是否确认，那么这个人类判断在多大程度上是实质性的，又在多大程度上退化为对算法推荐的形式确认？韩国部署在朝韩非军事区的三星SGR-A1哨兵机器人将这个问题推向了更极端的场景。这种固定式哨所机器人配备了热成像仪和自动目标检测软件，理论上可以在检测到入侵者后自主判断是否开火。韩方对外始终坚称开火指令在实际部署中需要人类确认，但该系统在技术架构上确实具备全自动模式。“有意义的人类控制”在这里面临的不再是诠释问题，而是可验证性问题：在一个封闭的军事系统中，外界如何知道人类确认这个环节是真的存在，还是仅存在于新闻发布稿中？如果无法验证，那么“人类控制”本身就成了一个信任命题而非事实命题。BigDog的出现为军事领域的这场辩论提供了一个看似间接但实则关键的案例。

与无人机和哨兵机器人不同，BigDog没有配备武器，它的任务是在崎岖地形上跟随步兵分队驮运物资。但它的控制架构揭示了一个在军事自主系统中被有意模糊处理的层级区分：BigDog的自主性体现在运动控制和平衡恢复这些“低层级”功能上，而“高层级”的作战决策——往哪里走、运送什么、执行什么任务——仍然由人类决定。这种层级区分为“有意义的人类控制”提供了一种技术上的诠释路径：也许问题的关键不在于机器自主性的存在本身，而在于人类保留控制权的是哪些层级的决策。但BigDog在冰面上的表现也同时展示了这个层级区分的脆弱性。当它被侧踹后踉跄恢复平衡时，它的四条腿中哪一条在什么时刻着地、以多大的力量和角度蹬踏地面，这些都是低层级的自主决策。这些低层级决策在绝大多数情况下无关伦理，但如果那个踉跄恢复的动作恰好踢中了一名士兵的头部呢？一个为恢复平衡而自主生成的腿部动作，造成的伤害在道德和法律上算是什么性质的伤害？

是一个意外、一个操作事故、还是一种新型的、没有对应法律范畴的损害？这个问题在2007年并没有得到回答，但它推动了一个在随后几年中逐渐成形的重要技术方向：机器人数据记录器的标准化。民航客机的飞行数据记录器（俗称黑匣子）是一个成熟的法律技术装置。当一架客机坠毁后，黑匣子提供的飞行参数、驾驶舱语音和系统状态数据可以将事故调查从“谁的回忆更可信”的证词博弈转化为“数据说了什么”的工程分析。到2007年，随着固态存储成本的骤降，在机器人控制系统中集成类似功能的记录器在技术上已经完全没有障碍。麻省理工学院和斯坦福大学的多个机器人实验室开始讨论为自主机器人配备标准化数据记录器的可行性，记录内容包括传感器原始数据、算法决策的中间变量、执行器指令序列和通信日志。

这些讨论的目标非常具体：如果未来某一天，一台自主移动机器人在仓库里撞伤了工人，或者一台手术机器人在手术中发生了原因不明的组织损伤，数据记录器应该能够提供足够的信息来重建事故发生前机器人“看到了什么”、“想”了什么（即算法做了哪些计算）以及“做”了什么——从而将目前三方各执一词的僵局转化为一个可被独立技术鉴定所裁定的事实争议。但数据记录器的技术方案在2007年也暴露出了它自身的制度难题。数据所有权属于制造商还是用户？如果一台日本公司生产的机器人在美国仓库中发生事故，数据应该存储在哪个司法管辖区的服务器上？记录格式是否需要国际标准化，否则韩国法庭如何审查一份以日本工业标准编码的操作日志？最重要的是，强制记录会不会产生“自证其罪”的效应——制造商如果知道自己的机器人会将每一次异常动作都记录在案并可能成为未来诉讼中的不利证据，他们是否会因此在算法中写入更保守、更不透明、更难被外部审计的决策逻辑？

这些问题在2007年没有一个得到了明确的制度安排，但它们被识别出来，被写成会议论文、政策建议书和标准草案，进入了此后十年机器人治理的议程清单。正是在这里，2007年前后的制度博弈与第11章叙述的协作机器人安全标准研制产生了内在的呼应。在前一章中，我们看到ISO 10218标准的修订过程如何将“机器人与人可以离得多近”从工程问题转化为一系列可测试的技术指标——限制速度和力量、要求力觉传感器、规定停止模式。那一整套标准的核心哲学是：安全可以通过事先的设计验证来保证，只要机器人本体满足某些参数门槛，它就可以被视为“本质安全”的。但在手术机器人、自主移动机器人和军事机器人领域中上演的责任归属争论，暴露了这种“设计安全”哲学的边界。设计安全只能保证机器在已知和可预见的场景中是安全的，它无法覆盖自主系统在开放环境中生成的新行为。这就是日本经济产业省要引入“运行安全”概念的真正原因——它承认了可预见性的极限。

但承认可预见性的极限，就意味着承认法律责任的界定不可能完全倚赖事前的设计规范。它必须引入一个新维度：事后追溯能力。黑匣子的功能正是为事后追溯提供事实基础。从“设计安全”到“运行安全”再到“数据追溯”，这三个概念构成的序列在2007年前后尚处于碎片化状态——美国强化了追溯能力但对概念框架保持沉默，日本更新了概念框架但追溯能力尚未标准化，韩国提出了宏大的伦理原则但既没有可操作的安全框架也没有强制性的追溯工具。三个国家各自在三角形的不同顶点上用力，没有形成一个闭环。这个未闭合的三角，就是2007年留给此后十年的制度遗产。保险业最先感受到了这个未闭合三角的商业后果。2007年前后，全球主要的工业保险公司开始收到来自机器人制造商和大型医疗机构的新型询价请求：能否为手术机器人在手术中造成的、无法在现有产品责任框架内明确归因的组织损伤提供责任保险？能否为自主移动机器人在仓库环境中与人类工人碰撞造成的工伤提供覆盖？

这些询价请求在精算层面面临同一个难题：没有足够的历史数据来计算风险概率和平均损失金额。传统产品责任保险依靠大数法则——保险公司可以根据数十年的索赔数据计算某一类产品在每百万使用小时中的平均事故率和平均赔付额。但自主机器人的大数法则在2007年完全不存在：达芬奇系统的历史不过七年，全球装机量不过千台级别，而且不良事件的报告标准在各国之间缺乏一致性；自主移动机器人的商业部署规模更小，事故记录分散在零星的新闻报道和内部安全报告中，谈不上统计显著性。没有统计数据，就没有精算模型；没有精算模型，保险公司就无法给出合理保费；没有保费报价，保险公司要么拒绝承保，要么在合同中加入大量除外条款，将被保险人重新抛回风险敞口中。这种不可保状态带来的连锁效应是：没有保险覆盖，医院可能拒绝采购新的手术机器人系统，仓库运营商可能放弃自主导航叉车而继续使用人工驾驶车辆，技术创新者在风险不可量化的环境中趋于保守。

这种保险困境在2008年爆发的全球金融危机中以一种戏剧性的方式被急剧放大。当雷曼兄弟的破产重创了全球信用市场，制造业的订单断崖式下跌，机器人产业的外部需求环境在数月之内恶化到了数年未见的程度。但金融危机的冲击只是需求侧的故事，产业在2007年前后积累的制度性不确定性——责任归属悬而未决、保险精算没有基础、数据追溯尚未标准化——是一个供给侧的、结构性的约束。这两个力量在2008年下半年的合流，将机器人产业带入了一场深度洗牌，其烈度和后果远远超出了单纯的周期性衰退所能解释的范围。那些在危机前被视为不可撼动的巨头，将在这种结构性脆弱中暴露致命弱点；而那些在危机前处于产业边缘的力量，则将在洗牌中获得定义下一个十年产业格局的资格。