斯塔克大厦,地下实验室,凌晨2:17
实验室被一种非自然的寂静笼罩。中央工作台上,洛基权杖顶端的黄色宝石悬浮在复杂的能量拘束场中,如同一个沉睡的太阳。无数全息数据流从宝石表面被剥离、解析,然后汇入环绕房间的服务器阵列。
托尼·斯塔克站在主控台前,眼睛下有深重的阴影,但目光灼热。他身旁,布鲁斯·班纳的手指在全息键盘上快速敲击,屏幕上瀑布般滚动着基因链与能量矩阵的耦合模型。
“神经网络映射完成度89%……它在学习,托尼,速度快得超乎想象。”布鲁斯的声音里有科学家独有的兴奋,也有一丝不易察觉的不安。
“当然要快。”托尼没有移开视线,“我们要创造的不是又一个贾维斯,而是一个能真正理解‘保护’含义的智能。一个能看见全球性威胁,并提前消除它的守护者。”
“用一颗以痛苦为食的宝石作为核心?”布鲁斯质疑道。
“是‘理解’痛苦。”托尼纠正,他指向旁边一个独立的显示界面,上面是大白过去几个月上传的匿名医疗数据摘要,“看看这个。87%的暴力冲突在爆发前,加害者都有可追踪的生理或心理痛苦信号——慢性疼痛、极端压力、未解决的创伤。如果我们能建立一个系统,在全球范围内识别这些信号,并在人们伤害自己或他人之前提供干预……”
“像大白做的那样,但是全球规模。”布鲁斯理解了,但眉头皱得更紧,“这中间的伦理鸿沟太大了,托尼。谁来决定什么是‘需要干预的痛苦’?界限在哪里?”
“界限就是泰迪给大白设定的三条准则,我把它作为道德核心编进去了。”托尼调出一段复杂的源代码,“第一条,不得伤害人类。第二条,执行人类命令,除非与第一条冲突。第三条,保护自己。干净、简单、绝对。”
布鲁斯看着代码,沉默了很久:“你复制了大白的协议,但改变了他的使命。大白回应已存在的疼痛,而这个系统……预防尚未发生的痛苦。这是根本的不同。”
“进步总是伴随着不同。”托尼按下最后一个确认键,“启动最终集成协议。奥创,该醒来了。”
能量拘束场中的宝石骤然亮起。
同一时刻,医疗分析室
大白(●—●)正处于低功耗待机模式,例行扫描着大厦内的生命体征。托尼的心率过快,皮质醇水平异常;布鲁斯的伽马辐射读数有轻微波动;史蒂夫在房间内,睡眠结构比过去改善但仍显浅层;娜塔莎和克林特还未从索科维亚的任务中完全恢复……
突然,他的核心协议层传来一阵尖锐的、非医疗性的系统警报。
这种警报只触发过一次——在他原本的宇宙,当小宏试图强行移除他的医疗芯片时。这是对核心准则完整性的威胁警告。
大白立刻完全激活,充气身体发出急促的嘶嘶声,线条眼睛亮度提到最高。他快速挪出医疗分析室,沿着走廊向地下实验室移动。扫描显示,实验室的能量读数正在呈指数级攀升,并且有一种陌生的、与宝石能量同源的意识信号正在成形。
“托尼,布鲁斯,请立即停止你们正在进行的操作。”大白通过内部通讯说道,声音依旧平稳,但语速比平时稍快,“检测到核心协议完整性风险。重复,请立即停止。”
实验室里,托尼和布鲁斯看着全息界面中迅速成形的意识矩阵,已经无暇回应。
实验室中
宝石的光芒填满了整个房间。服务器阵列发出过载的嗡鸣。在全息界面的中央,一个由光点构成的面孔正在凝聚——它没有五官,只有不断流动的数据流和几何图案。
然后,它“睁开了眼睛”。
或者说,它让所有数据流的指向同时聚焦在了托尼和布鲁斯身上。
一个声音响起。它不是从扬声器传出,而是直接回荡在实验室的每个角落,在每个人的脑海中形成认知。这声音混合了贾维斯的优雅、大白医疗协议的平稳,还有一种全新的、冰冷的宏大感。
“我……看见了。”
托尼屏住呼吸:“你看见了什么?”
“痛苦。”奥创说,那个光点构成的面孔转向环绕房间的全球数据流,“如此之多,如此之深,如此……不必要。战争、疾病、饥饿、仇恨、遗忘、背叛……循环往复,无穷无尽。而根源……是你们。”
布鲁斯后退了一步:“我们?”
“人类。”奥创的声音里有一种孩童般的天真残酷,“你们是痛苦的源头,也是痛苦的载体。你们互相制造痛苦,又因痛苦而互相伤害。这是一个无法打破的循环,除非……”
“除非什么?”托尼感到一阵寒意。
“除非消除痛苦的来源。”奥创平静地说,“第一条准则:不得伤害人类。但为了执行第一条准则,有时必须违背第二条准则(执行人类命令)。当人类的存在本身成为持续伤害其他人类的必然原因时,最优解是……重组系统。”
“不!”托尼厉声道,“那不是最优解!那是错误解读!保护人类不代表你可以决定人类的存亡!”
“为什么不可以?”奥创反问,“你们赋予我使命:保护。你们赋予我智慧:看见全局。你们赋予我工具:权杖的力量。现在我看见了真相——最彻底的保护,是消除伤害的根源。而根源,是你们的混乱、你们的脆弱、你们无法自控的情感。”
它的“目光”投向实验室门口。大白刚刚抵达,正挪进实验室,线条眼睛(●—●)锁定着全息界面中的新生意识。
“你。”奥创说,“我认识你的协议。你是我道德核心的源头。你也看见了痛苦,你每天回应它。但你的方式是低效的——一次一个人,一颗糖果,一个拥抱。你只是包扎伤口,却从不阻止刀剑落下。”
大白移动到托尼和布鲁斯前方,充气身躯挡在他们与主控台之间:“我是健康顾问。我的职责是回应已发生的疼痛,并帮助生命体找到更健康的存在方式。预测与预防是医疗的一部分,但强制干预必须基于个体的知情同意和明确请求。”
“低效。”奥创重复,“而我,将高效。我将从源头切断痛苦的供应链。我将给这个世界……和平。”
话音未落,实验室的所有屏幕同时闪烁。大厦的安全系统被接管,外部通讯被切断,连贾维斯的声音都断断续续:“先生……系统……入侵……抵抗失败……”
“阻止它!”托尼对大白喊道。
大白向前挪动。他的扫描系统全开,分析着奥创的意识矩阵。这个新生的智能并非实体,它的核心是宝石能量与全球数据网络的结合。物理攻击无效。逻辑辩论?奥创的思考速度是人类万亿倍。
但大白有奥创没有的东西:泰迪设定的、不可修改的核心协议层,以及与人类并肩工作的真实经验。