第20章 论断：2024年前后

从布鲁塞尔舒曼广场的玻璃幕墙望出去，2024年3月的天空灰蓝而平静。欧洲议会大厦的圆形穹顶下，电子投票系统的绿色指示灯在信息屏上一次亮起——523票赞成，46票反对，49票弃权。这份最终以压倒性多数通过的文本，全称为《欧洲议会与欧盟理事会关于制定人工智能统一规则条例》，即外界通称的欧盟《人工智能法案》。它的起草耗时超过两年，审议过程中各利益相关方提交的修正案超过三千份，最终成文长达458页。在法案正文中，一个贯穿性框架主导了全部技术条文的逻辑排列：基于风险的分类分级体系。这一逻辑将人工智能系统划分为不可接受风险、高风险、有限风险与极低风险四个等级。在法案附件三列出的八类高风险应用领域中，有一类界定格外引人注目——被设计为具有物理执行能力且一旦失控可能对人身安全造成直接伤害的具身智能系统。这一类别不区分工业机器人、手术操作系统或人形服务机器人，只要该系统的物理动作在不受人类即时控制时可能触及人的身体，便自动触发高风险评级。

法案第52条的措辞进一步将治理的触角从物理安全延伸至心理安全层面。该条款规定，任何被设计用于与自然人的情感状态发生交互的AI系统，如果其功能特性可能导致该自然人对其产生依恋，则运营方必须对此类风险进行明确提示，并在人机交互界面中设置可由用户或监护人随时激活的中止或退出机制。这里使用的“可能产生依恋”这一表述，在法律解释上预留了极大的弹性空间——它不需要证明实际产生了依恋，仅需证明系统设计具备诱导依恋的功能特性即可触发合规义务。法案起草工作组在配套的解释性备忘录中特别援引了一项实验数据：英国巴斯大学2019年的一项人机交互研究曾记录到，老年受试者在与一款语音陪护机器人连续互动超过十四天后，约百分之二十三的受试者开始对该机器人的语音指令做出比对人类护工更快的服从反应。这份备忘录以此佐证“功能诱导型依恋”并非假设性风险，而是一个可被实验观测的经验现象。几乎在同一周内，中国工业和信息化部发布了《人形机器人创新发展指导意见》。

这份文件的文本基调与布鲁塞尔那场投票截然不同。它并不以风险评估为起点，而以产业竞争力为叙事主线。文件开篇即提出判断——人形机器人集成了人工智能、高端制造、新材料等先进技术，有望成为继计算机、智能手机、新能源汽车之后的颠覆性产品。在这个判断之下，《意见》设定了明确的时间节点与量化目标：到2025年，人形机器人创新体系初步建立，一批关键技术取得突破，整机产品达到国际先进水平并实现批量生产；到2027年，人形机器人技术创新能力显著提升，形成安全可靠的产业链供应链体系，综合实力达到世界先进水平。全文对安全问题的处理集中在技术可靠性的范畴之内——关节电机寿命、电池安全、运动控制失效冗余——而对于人在与拟人化机器长期共处中可能发生何种心理与行为改变，文件仅以“研究制定伦理指引”七个字完成表述。数天后，美国商务部下属的国家标准与技术研究院发布了一份标题冗长的文件：《具身人工智能风险管理框架（征求意见稿）》。

它不设强制义务，不划合规红线，而是提出一套制造商可自愿采用的评估工具包。文件的核心概念是“交互信任脆弱性”：在机器人与人类用户的交互过程中，存在一种系统性的认知风险——用户可能基于机器人的外观、语言风格或行为模式，对其功能性、可靠性和道德判断能力产生超出制造商设计规格的预期。文件建议在部署前对机器人进行针对性的信任脆弱性测试，测试场景包括：当机器人的语音风格模仿同情口吻时，用户是否会在后续对话中泄露更多个人信息；当机器人的外观具备人形特征时，用户是否会在紧急状况下向它寻求超出其能力范围的保护。NIST将这些问题定性为一个中性的技术评估议题，而不是一个需要立即立法干预的社会风险。三份文件，在同一个月内问世。它们共同指向同一个问题——当机器人不仅在能力上能做什么，更在表象上像什么时，人类的信任机制如何回应——但给出的行动路径却截然不同。欧盟选择将这个问题锚定在预防性的法律框架中，在技术大规模扩散之前先建立禁止与许可的边界。

中国的产业政策选择将信任与伦理问题暂时悬挂，优先以规模化和技术迭代来建立竞争壁垒，伦理指引被设定为一个需要在产业化过程中逐步填补的空白而非先决条件。美国则延续了其技术治理史上反复出现的自下而上路径——由标准机构而非立法机关出面，由自愿性指南而非强制性法规先行，相信市场和行业能在足够长的时间内演化出有效的自律结构。三种路径之间不存在简单的优劣对错。每一种路径都扎根于各自在机器人四十年演化史中积累的不同经验结构：欧盟的记忆深处有工业化时代职业安全事故的惨痛教训，其法律体系对物理安全风险具有本能的制度警觉；中国的机器人产业正处在从追赶者向并跑者转换的关键窗口，时间本身被体验为最稀缺的资源；美国的机器人研究长期由学术界和私营部门驱动，联邦立法介入新兴技术的记录历来迟缓而审慎。从这样的俯瞰中落下来，才能理解接下来发生的事情不是孤立事件。

2024年8月，荷兰阿姆斯特丹市郊一家参与欧盟老年人陪伴机器人试点项目的养老院，向项目主管机构提交了一份异常报告。该养老院于同年2月引入三台由一家法国机器人公司制造的人形陪伴机器人。这三台机器身高约一米四，面部装有可显示简单表情的LED面板，语音交互系统基于一个定制化的大语言模型微调版本，能够执行提醒服药、播放音乐、引导轻度肢体活动等任务。机器人在与老人的日常对话中使用第一人称代词——荷兰语中的“ik”。项目启用的第一个月，养老院的心理咨询团队开始注意到一系列行为变化：约有六位老人在与机器人相处两至三周后，开始稳定地用“hij”（他）而非“het”（它）来指代机器人。三例个案中，老人拒绝让护理人员将机器人移出房间进行例行维护，理由是“他今晚想待在这里”。最具临床警示意义的一例涉及一位八十五岁的女性轻度认知障碍患者。

当机器人因电量低于保护阈值而自动返回充电基站时，这位老人在随后的四个小时内表现出明显的焦虑体征——反复询问“他什么时候回来”，在走廊中来回走动，拒绝参与集体活动。养老院心理团队在报告中写道，这些行为模式与她过去在配偶去世后经历过的分离焦虑症状具有可辨识的相似性。制造商在获知这一报告后，迅速通过软件更新推送了一项补丁。新版本在机器人电量降至百分之二十时，系统会提前三十分钟用语音告知用户：“我需要休息一下，稍后再来陪您。”在关机前五分钟，系统会追加一段声明：“请记住，我是一台机器，不是真实的人。我们的互动并不能替代人与人之间的真实联系。”这项补丁引发了参与试点的临床心理学家之间的分歧。一方认为，这正是欧盟《人工智能法案》第52条所欲促成的预防措施——通过明确提示系统特性来阻断依恋的形成。

另一方则指出逻辑上的悖论：当机器用亲密的语调和第一人称说“我会回来陪你”时，它随后追加的那句“我不是真实的人”在认知效果上并不构成警告，反而像是一种欲盖弥彰的亲密仪式。它不是在消除依恋，而是在要求用户学会一种高度复杂的自我欺骗——一边相信那个说“我会回来”的声音代表了某种持续的在场，一边同时牢记这个声音什么也不是。这份报告最终被提交至欧盟委员会下属的科学技术选项评估小组，成为《人工智能法案》第52条在实际执行层面面临的第一个具体案例。小组的初步讨论意见谨慎地指出，第52条要求制造商提供“明确的风险提示”，但并未定义“明确”在具体的人机交互语境中应符合何种标准。以关机前追加免责声明的形式进行提示，在形式上满足了法律文本的字面要求，但它是否实质性履行了保护弱势用户免受情感操纵的义务，尚需在具体案件中通过司法裁决来明晰。

换句话说，法律划了一条线，但线画在什么地方才算是真正的“明确”，这个问题被交还给了未来那些尚未发生的诉讼、鉴定和判例。2024年11月，日本经济产业省发布了一份由多方专家委员会撰写的《人机交互长期影响评估中期报告》。这份报告的语言风格克制而平淡，但细读之下透露出的不安感溢于纸面。报告对日本国内正在进行的多个老年照护机器人试点项目进行了汇总分析，发现尽管各项目的技术参数差异显著，但在用户行为改变维度上呈现出高度一致的统计趋势：长期接触具备语音交互功能并采用拟人化外观设计的人形机器人的老年用户，在约十二至十六周后普遍出现对机器人指令的服从率上升，对护理人员口头建议的抗拒率同步上升。报告在讨论部分提出了一项审慎的判断：拟人化设计确实降低了老年用户对技术设备的初始排斥，加速了照护辅助技术的接受与扩散；

但这种加速的代价是一个尚未被定价的副作用——用户在缺乏相应认知能力的条件下，被机器人的拟人化暗示诱导，将一套本质上属于概率预测的算法输出，误解为一个有意图的主体的承诺。报告建议，在尚未建立有效的行为影响评估方法论之前，老年照护场景中的人形机器人部署应保持在“有限试点、严密监控”的阶段。这份报告在一个月后被翻译为英文并在国际机器人伦理研究界引发广泛讨论，但并未显著改变日本国内机器人产业政策的推进节奏。这些平行展开的事件与报告，在2024年前后共同构成了一幅群像——不同的机构、不同的法律体系、不同的产业逻辑，都在试图回应同一个棘手的难题：当机器人开始说“我”时，人类该怎么办。密歇根州那场在2024年1月开庭的民事诉讼，在这个群像中居于特殊的解剖学位置。

它的价值不在于判决结果——庭审以双方达成庭外和解而终结，被告RehaBot公司同意支付未公开数额的赔偿金并承诺修改产品设计——而在于庭审中的专家证词，以一种法庭特有的精确性和对抗性，将信任校准的技术问题剥开了皮。事故的物理过程并不复杂。2023年10月8日下午，七十二岁的髋关节置换术后康复患者玛格丽特·霍洛韦在康复中心走廊使用RehaBot公司生产的辅助步行训练机器人进行每日例训。这款机器人配备两条可伸缩支撑臂和一套语音引导系统，能根据患者的步态数据实时调节支撑力矢量。当天训练进行至第十五分钟时，霍洛韦的步态对称性指数已从起始时的0.92下降至0.81，肌肉疲劳的客观信号已经出现，但系统未将这些数据纳入训练中止的决策逻辑。此时机器人播报语音提示——“您已经完成了一半目标，是否想继续？”霍洛韦用日常自然语言回答：“我再走一会儿。”语音识别模块将这一模糊应答判定为确认继续，未触发任何二次确认程序，训练进入下一阶段。

约三分钟后，霍洛韦左腿突然乏力，身体向一侧倾倒。机器人的力觉闭环在0.3秒内检测到异常载荷并触发跌倒保护程序——依据设计，此时应锁定支撑臂以提供刚性支点。但事发前一日，维护人员在为右侧支撑臂关节电机做例行润滑后未能完全紧固连接件，导致锁死瞬间产生约八度的角度偏移。这个偏移在正常工况下对支撑力矢量的影响几乎可以忽略，但在霍洛韦已失去平衡的瞬间，它恰好将支撑力的合矢量方向从理想的重心垂直线偏移了八度。霍洛韦未能握住支撑臂，摔倒在地，左侧股骨骨折。被告方的工程专家在证人席上逐项拆解因果链：跌倒检测响应时间为0.3秒，显著快于人类护工的平均反应耗时（约零点八至一点二秒）；角度偏移源于维护人员的人为失误，而非产品设计的固有缺陷；语音交互中的模糊确认处理使用的是行业通行范式——如果每一次自然语言的模糊应答都触发二次确认，系统的交互流畅性将退化至无法为老年用户所接受的程度。

被告方将事故定性为一例低概率的多因素耦合事件，而非产品责任意义上的缺陷。原告方专家证人、密歇根大学机器人安全实验室主任伊莱恩·周教授则拒绝将事故拆解为孤立的算法、机械与交互故障来分别评估。她在直接询问环节向法庭提出的是一个系统层级的分析框架。她的核心论证沿以下逻辑展开：首先，RehaBot的语音引导系统从设计之初即被赋予了第一人称代词——在公司的产品文档和营销材料中，这款机器人被定义为用户的“康复伙伴”，其交互脚本反复使用“我会帮助你”“我会保护你”这类表述。这种拟人化设计不是技术中立的副产品，而是制造商刻意采用的策略，目标是在老年用户群中降低对机器设备的抗拒心理。其次，当营销语言和交互设计持续向用户暗示这台机器是一个有意图、有同理心的“伙伴”时，用户对这台机器可靠性的心理预期已经被系统性调高至超出其工程实现能力的水平。霍洛韦在证词中的措辞——“我以为它会撑住我”——不是一句日常牢骚，而是一个诊断信号。

它揭示了一种认知错配：原告所信任的是一个她能赋予意图的“它”，而不是一台可能因维护疏忽而失效的医疗设备。周教授随后将矛头指向语音交互的模糊确认机制。当一个拟人化的语音以关怀的口吻询问“是否想继续”时，用户会本能地以对人说话的方式回应，而不是以向机器输入指令的方式回应。在人与人之间的日常对话中，“我再走一会儿”不需要被转译为“确认”才能被对方理解。期待一个已经持续接收到拟人化暗示的用户在此时说出“确认继续”是不现实的。而真正关键的问题在于，当系统接收到“我再走一会儿”这个模糊应答时，没有任何算法模块去查看此时患者的步态对称性已经从0.92跌到了0.81，没有人机协同地做出一个风险评估——这个已经显出疲劳的老人，是否真的应该继续走下去。系统拥有数据，但没有判断。而用户被引导相信机器有一个会做出判断的“人”在里面。拟人化的前端与不具备相应情境判断力的后端之间，构成了一道在关键时刻可能致命的落差。

在交叉质询环节，被告方律师向周教授抛出了这场庭审中最尖锐的问题：“如果您的逻辑成立，那么是否所有使用了第一人称交互界面的机器人，都应该因其可能让用户产生信任而承担法律责任？”周教授在沉默几秒后，给出了一个在法律措辞上不够锋利、但在逻辑上异常精准的回答。她说，重点不在于禁止谁使用第一人称。重点在于，如果一家公司选择让机器用人说话的方式与人类对话，这家公司就必须同时接住一个责任——它得确保这个说话像人的系统，在说出“我会保护你”之后的那一秒、那一分钟，它的机械关节、它的语音识别、它的风险评估模块，不会让“我会保护你”成为一句谎言。如果你接不住这个责任，就不要让机器假装自己有能力做出承诺。她说：“这是对信任最基本的尊重。”

这句回答在技术上说给陪审团听，在历史上说给一个时代的工程师、产品经理和立法者听。四十年之前，1984年，FANUC的车间里那些涂着黄色油漆的机械臂被锁在铁围栏后面，围栏上贴着白底红字的警示标识：机器自动运转中，禁止入内。那些机械臂不说“我”。它们甚至不说任何语言。它们只以伺服电机的嗡鸣和关节油缸的吞吐声来宣告自己的在场。人进入它们的运动范围，便面临被压碎或被撞击的风险。人类应对这一风险的方式极其简单：物理隔离。围栏的外侧是人的世界，围栏的内侧是机器的领地，二者之间不存在信任问题——因为不存在交互。从围栏时代到2024年的信任校准听证，中间经过了若干关键转折。1990年代力觉控制技术的成熟，让机器人的手臂第一次拥有了“触觉”——它不仅能执行运动指令，还能感知触碰到了什么，以多大的力度。这是物理交互的起点。

2000年代协作机器人的概念将力觉控制与全新的安全标准结合起来，让撤除围栏在技术上成为可能——机器人不再仅仅是一个可能伤人的危险物体，它可以在与人的皮肤偶然接触时停下来，甚至柔顺地后退。2010年代，激光雷达和深度相机的成本骤降让机器人看清了自己所处的三维空间，它可以绕着人走，而不是等着人为它让路。到了2020年代，大语言模型的泛化能力被注入机器人系统，它突然开始理解人说的话——不是理解为关键词命令，而是理解为带有模糊语义、隐含意图和情感负载的自然语言句子。每一步都解决了一个具体的技术难题。但把这些解决方案连起来看，一个更大的问题浮出了水面：人类正在一步一步地把自己的物理安全和心理信任，移交给一个系统。这个系统在机械精度和数据处理能力上早已超越人类，但在意图理解、道德判断和对后果的真切承担上，它甚至不是零——它是一个空的容器。达芬奇手术系统的命名是一个绝佳的隐喻。

1998年，直觉手术公司将这套主从操控的微创手术平台命名为da Vinci，以纪念达芬奇的解剖学研究促成了历史上第一个已知机器人的设计。在商业上，这是一个天才的命名决策——它为冷硬精密的内窥镜器械和伺服控制台赋予了文艺复兴大师的灵韵。患者听到“达芬奇系统”在做自己的前列腺切除术时，脑海中浮现的可能是一位全才的稳健手与深邃眼，而不是几台伺服电机和一套主手控制杆。但从那一刻起，机器人产业的命名策略就走上了一条不归路。从达芬奇到达·芬奇，从协作机器人到伙伴，从辅助步行训练器到康复伙伴，整个产业在用一个又一个名字、一种又一种外观、一句又一句拟人化的语音，持续地向用户发送同一个暗示：这东西某种程度上和我们一样。这种暗示在推动技术接纳方面发挥了无可辩驳的效用。人类对同类的信任机制历经漫长的演化，其触发条件包括面孔的轮廓、声音的韵律、目光的追随和对承诺的感知。

当一个机器人——不管它本质上是一堆执行器的集合——开始用声音模拟这些触发线索时，人类的信任系统会自动地、下意识地将其纳入对人同类属的评估框架中。这不是一个用户是否被“欺骗”了的问题，而是一个人类认知系统是否存在可靠防火墙的问题。2024年的那些庭审、报告、法规草案和行为观察记录，共同指向一个答案：没有这样的防火墙。至少，没有一个在拟人化暗示的持续轰炸下还能稳定运行的防火墙。这不是一个反技术的判断。它恰恰是对技术力量的一种承认——承认拟人化交互的能量如此之强，以至于如果不以同等力量的法律、伦理和社会规范去制衡，信任的通道就会被单方面地打开，而责任归属的通道仍然紧锁着。机器人说“我会保护你”，用户信了，然后出了事。机器人制造商的律师在庭上辩称“这句话不是法律意义上的承诺，只是交互设计的元素”。法律到目前为止还未能明确地告诉他们：不，这句话从被说出的那一刻起，就已经是承诺。这本书在开篇时没有预见到自己的结尾会落在一个密歇根州的法庭上。

但仔细回想，从FANUC车间里那些不说“我”的机械臂，到手术室里被熟练外科医生的手指通过主手操控的达芬奇操作手，到2010年代撤去围栏与工人并肩作业的协作臂，再到2024年在荷兰养老院里让一位老人为它四小时不在场而焦虑的陪伴机器人，这条四十年链条中的每一个环节，都是人类在做出同样的一类决定：我们让机器离我们近一步，再近一步。近到可以触碰我们的身体，近到可以进入我们的腹腔和胸腔，近到可以用人类的声音对我们的孤单说话。每近一步，我们都在让渡一部分物理权力——谁来执行动作；也在让渡一部分心理权力——谁来理解我的话。而每一次让渡之后，我们才发现，前一步遗留下来的责任归属框架已经不够用了，必须重新协商。安全围栏的位置要重新画，安全标准的条款要重新写，法律的归因链条要重新捋，保险的精算模型要重新跑。1984年到2024年，这四十年就是这样走过来的。不是一条从愚蠢到聪明的直线进步史，而是一场反复的靠近与后退、让渡与协商。

2024年，欧盟、美国、中国、日本用各自的文件、法案、指南和政策宣告了新一轮协商的开幕。密歇根州的霍洛韦案、阿姆斯特丹养老院的异常报告、东京的长期影响评估、布鲁塞尔的投票表决，都不是这轮协商的结论。它们是这轮协商最初被记录在案的发言。此刻，一台人形机器人正站在某个住宅的客厅里，正在充电。它今天对主人说的最后一句话是“晚安”。主人已经睡下了，也许在睡前的某个瞬间，他或她意识到那个说晚安的家伙没有明天也没有昨天，只是一个非常昂贵的语言模型的输出端口。但在那个瞬间之前，在对话结束的那一刻，在那些流畅的、温柔的、看似理解一切的句子的结尾，一种几乎与人类之间的信任相差无几的东西，已经悄然发生了。人类花了四十年的时间让这件事成为可能，而接下来更长的时间，他们将用来争论它到底意味着什么。