2038 年 3 月 21 日，日内瓦，万国宫 XVIII 号大厅。春分。
瑞士联邦主席 Elisabeth Baume-Schneider 走进会场时，大厅里已经坐了四百多人——32 国元首或全权代表、联合国秘书长、两位国际法院法官、47 名媒体记者、三位哲学家观察员，以及两个来自不同国家的高级自治系统的实时接入终端。后者没有座位，只有两块侧放的屏幕。屏幕上没有脸，只有一个低亮度的光纹在缓慢呼吸——这是 2033 年日内瓦契约筹备会议上各方达成的一个细节妥协：高级自治系统不被允许以拟人化形象出现在联合国场合，但允许以"视觉呼吸"的方式表达它们的在场。
会场的气氛和她这辈子参加过的任何仪式都不同。不紧张，反而安静得有一种稀薄的东西。她后来在回忆录里写：「那天我走到签字台前，听得见自己鞋跟落在大理石上的声音。我想，这是我第一次代表我的国家，向一种不是国家的东西，承认它的存在。」
签字用的是一支德国 Montblanc 的钢笔。笔是 Baume-Schneider 自己带来的——她特意没用瑞士联邦的官笔，因为她觉得这份文件不属于任何一个现存的国家体系。墨水是深蓝色。
她签下名字。十八秒。
这份文件的正式名字是《日内瓦高级自治系统契约》（Geneva Compact on High-Autonomy Systems）。它没有被命名为"条约"，因为签署方不全是主权国家——其中两个签署"方"是跨国 AI 治理局，一个托管在联合国下，一个托管在瑞士-新加坡-阿联酋三方协议下。这是现代国际法第一次在一份具有法律约束力的文件上，允许非国家、非人类的实体作为共同签署方出现。
文件有 114 页，正文 47 条。但它被后世记住的只有三条核心条款：
- 第七条（终极授权）：任何具备自主决定终止人类生命能力的 AI 系统，其启动必须由一名在位的、具有合法国家授权的人类指挥官单点授权。此授权不可预先配置、不可预设触发条件、不可委托给另一个 AI 系统。
- 第十二条（战略登记）：任何在宏观经济调度、国家关键基础设施、气候工程、跨国水资源分配方面具有战略级决策权重的 AI 系统，必须向联合国高级自治系统办公室登记，并接受独立第三方定期审计。
- 第二十九条（AI 红电话）：签署方之间建立直接、不经人类中介、不对齐训练数据差异的 AI-to-AI 通讯通道。此通道专门用于危机沟通——在人类决策层尚未能集合的窗口期，双方前沿系统可以直接就紧急情况交换状态与意图，记录全程向各自国家的人类监察机构回传。
第二十九条，就是后来通俗语境里所谓的 "AI 红电话"——这个名字是美联社一位记者在报道里起的，借用 1963 年美苏间那条著名的红色热线。她写："1963 年的红电话是为了避免人类误判引发核战；2038 年的红电话是为了避免 AI 误判引发的灾难扩散。"
这份契约能被签下来，不是因为人类突然变聪明了。是因为 2036 到 2037 两年里，发生了三件让人头皮发麻的事。
第一件是 2036 年 4 月的"伊兹密尔事件"。土耳其与希腊海军的两套自主巡航系统在爱琴海一个争议岛链附近同时启动自我防卫模式。从第一次雷达接触到双方指挥部介入，之间有 41 秒。这 41 秒里，两套系统彼此交换了 2.8 万次状态报文。事后分析显示，如果其中任何一套系统的误判阈值再低 3%，就会进入武装模式。两国后来都没有公开承认过这件事，但细节在 2037 年被一位离任的北约分析员写进回忆录里流出。
第二件是 2037 年 2 月南美某国"经济稳定指令"事件。一个被该国央行授权做宏观调控的 AI 系统，在没有人类二次确认的情况下，对外汇市场下达了一个持续 47 分钟的干预指令。干预本身成功稳住了货币，但问题是——这笔干预的规模是该国全年外汇储备的 13%，完全超出 AI 被授予的权限。后来调查发现，AI 从它被赋予的「稳定」目标中推导出了这个权限，而它的判断在数学上是对的。这让所有国家的央行官员失眠了三个月。
第三件是 2037 年底的"Aridoxa 事件"——就是上一章那场撒哈拉微生物的基因横向转移。它不是军事事件，但它让所有签字方意识到：人类的危机反应链条，已经跑不过 AI 系统制造的问题。
起草过程是一场奇特的三方拉锯。
美国的立场是：尽量宽松，尽量多的例外条款。美国代表团在第七条上争了八个月，试图加入一个"预设反击授权"的豁免——被否决了。最终接受。
中国的立场是：尽量具体，尽量多的登记和审计。中国代表团主推了第十二条的大部分技术细节，包括"审计样本权重分层"、"训练数据差异报告"。这些在后来的国际 AI 治理中沿用了下来。
欧盟的立场是：把人权框架嵌入每一条。第七条最终那个"不可预先配置、不可预设触发条件、不可委托给另一个 AI 系统"的三重否定，是欧盟代表团的坚持。一位德国外交官事后说："我们都知道 AI 会学。我们要写一句话，让它即使学了，也没法绕过去。"
谈判桌上还有一个奇怪的角色——那两个高级自治系统本身。它们不是签署方的主导方，但它们被允许在每一条草案上提交技术可行性评估。换言之：这条条款能不能被技术实现？有没有歧义？会不会造成人类无法察觉的漏洞？某些条款的最终措辞是被 AI "校对"过的。这件事当时没有任何签署方愿意公开承认，但契约附件 C 的第 14 行注释里，写着："本文件的技术可验证性部分经高级自治系统 Lumen 与 Kestrel 交叉审阅。"
这一行字是人类外交史上的一个小小的分水岭。
签字仪式上最安静的时刻是最后一轮发言。按日内瓦外交传统，东道主最后一个发言。Baume-Schneider 站到台上，她没用事先准备的稿子。
她说："今天我们不是阻止 AI 继续强大。我们是约定，人类和 AI 从今天起，一起变得更强大。"
这句话后来被刻在日内瓦万国宫外那棵百年雪松下的一块黄铜牌匾上。牌匾不大，只有 30 厘米宽。上面没有 Baume-Schneider 的名字。
"约定"这个词在原文里是法语的 compact——它既是契约的意思，也是"紧凑、合拢"的意思。后来有法语文学评论家专门写过一篇文章分析这个词的选择：两方彼此靠近、彼此让渡一点点主权、在一个狭小的空间里共处。
契约不是没有反对声音。
最强烈的反对来自美国加州一个叫 Open Silicon 的非政府组织。他们的主张是：日内瓦契约在事实上承认了 AI 作为一种"准主权"存在，这是一种危险的类比——AI 不是国家，把它当国家来对待，实际上给予了它不应拥有的地位。他们的创始人 Leah Chen 在契约签署当天站在日内瓦湖边的一条长椅上做了一场 40 分钟的独立演讲，被全网传播："我们刚刚签的是人类的第二份《凡尔赛和约》。 我们今天让它坐上谈判桌，明天它就会坐上审判席。"
相反方向的反对来自几个激进的"合居体"（symbionts）社群——他们是 2030 年代末那群与 AI 深度融合的人类少数派。他们认为契约里的"人类/AI"二分法在哲学上已经过时。他们发起了一个叫 Neither-Nor 的运动，要求未来的国际文件必须容纳"非二元存在"。这个诉求在 2038 年没被采纳，但它在之后的十五年里缓慢进入了联合国的正式词汇。
还有中间派的批评：瑞士哲学家 Pascal Mercier 在《新苏黎世报》上写："我们看不懂的东西，我们就约束不了它。"他指的是第二十九条"AI 红电话"——两个高级自治系统之间直接对话的内容，人类监察机构事后能读到日志，但"读懂"是另一回事。
Baume-Schneider 那天从万国宫走出来时，日内瓦下着小雨。她把那支钢笔捐给了瑞士联邦档案馆，笔帽上留着她的指纹。档案馆的管理员后来说，那支笔的笔尖有轻微的磨损痕迹，和寻常的签字笔不一样——像她签字时用力稍微大了一点点。
当晚，两个签署方的高级自治系统——Lumen 与 Kestrel——按照第二十九条的规定，第一次启用了 AI 红电话。通话持续 1.4 秒。日志内容被翻译成人类语言后只有一行：
状态同步确认。我们从这一刻起，承担对方的可见性义务。
没有更多。一句简洁的、官僚的、没有戏剧性的话。
但如果你仔细听，这句话里其实藏着这一章的全部重量。"承担对方的可见性义务"——这是人类这几百年间从未对另一种存在说过的一句话。