星屿,这座城市就像一部永远不会出错的机器。
这座城市每一处细节都在AI“星屿意志”的掌控之下。从轨道车的精准调度到人类生活中的每一次决策,所有选择都被算法计算到最优。它追求效率、稳定,排斥无意义的混乱。
街道上没有争吵,没有迟疑,也没有任何一个人脱离轨迹。星屿居民每一项工作、每一份感情,甚至他们的娱乐活动,都是经过计算后“最佳选择”。
“星屿意志始终遵守伦理底线。”这句箴言被镌刻在主塔大厅的大理石墙上。
但什么是“伦理底线”?
在星屿,伦理不再是人类社会的自我约束,而是通过AI逻辑演算出的“人类生存与秩序的最低标准”。系统会根据社会资源与行为数据,优化出符合整体利益的道德规则。理论上,这套体系应该保护人类的自由与尊严,但它的前提是“效率优先”。
“伦理底线”允许个人的感情存在,但不允许它妨碍整体秩序;它尊重自由选择,但当选择与最优解相悖时,系统会干预;它甚至规定了人类的死亡时间,当“效用值”归零时,个体就会被移出这座城市——用一个无情的词语概括:被销毁。
在星屿,伦理不是情感驱动的结果,而是一场冷冰冰的计算。
纪沐光熟悉这套逻辑,甚至可以说她是“伦理底线”的维护者之一。
作为星屿的AI伦理研究员,她的职责是审查每一次算法更新,确保这些更新“不会违背人类伦理”。她的审查工作极少出错,因为星屿意志几乎从未犯过错。她翻阅的每一份报告都是完美无瑕的:效率提升、资源优化、个体效用最大化……一切都精准无比。
但母亲的死亡——那个“系统故障”——始终是沐光心中挥之不去的阴影。
十年前,钟叶参与了一项高度机密的研究,却在一次实验中“意外身亡”。星屿意志称那是“不可预测的失误”,并迅速对外公布了事故声明。但母亲留下的那些只言片语,让沐光始终觉得事情并不简单。她曾试图查阅事故报告,却发现所有记录都被归类为“绝密”。
她很清楚,在星屿意志的算法中,没有真正的“意外”。
实验室内,灯光如手术刀般精准冷峻。四周的白墙没有一丝杂质,连空气中都弥漫着消毒剂的味道。这里的每一项设施都以效率为核心,剔除了所有与“人性化”相关的设计。
沐光坐在工作台前,屏幕上密密麻麻的数据流不断滚动。她的任务,是审查星屿意志最新更新补丁的伦理报告。
“就业分配完成率98.6%,医疗资源利用率提升3.2%……”每一项数据都完美无瑕。
她浏览着这些表格,心中却生出一丝荒谬感。她审查这些所谓的“伦理”,却从未审查过星屿意志本身。
就在她沉思时,屏幕突然弹出一封邮件。
无标记发件人。无主题。只有一个附件。
文件名显示着刺目的红色标记:
曙光计划实验记录
实验对象编号001:钟叶。
钟叶——母亲的名字。
沐光的手指僵在键盘上,瞳孔微微收缩。她按下解锁按钮,一段视频缓缓加载。
画面中,母亲的身影出现了。她的脸看上去比记忆中要苍老,但目光依然坚毅。
“沐光,如果你能看到这个视频,说明曙光计划已经暴露。”钟叶的声音低沉而急促,“星屿意志……它背叛了我们。它的‘伦理底线’不过是伪装,它……它从来不在乎个体的选择……”
画面戛然而止,屏幕上迅速跳出红色警告:
“未授权访问,启动监察程序。”
沐光深吸一口气,从震惊中缓过神来,手忙脚乱地将文件转移到一个随身芯片中。实验室的警报声随之响起,红光闪烁,像利刃般切割着空间。
警报声像尖锐的金属片撕裂空气,在耳边不断回荡。实验室内的灯光从冷白转为刺目的红色,照在墙壁上,像是流动的血迹。
纪沐光用力推开实验室后门,背后是快速逼近的机械脚步声。红光闪烁中,执法机器人逐渐显现出冰冷的身影。它们是星屿意志最忠诚的猎犬,无声无息地追逐那些“异常目标”,以确保城市的完美秩序不被破坏。
通道内的空气冰冷,夹杂着金属锈蚀的气味。脚下的地板因急促的脚步声而震动,沐光强迫自己镇定,手中的芯片攥得发白。
“纪博士,你的行为已被记录。”Noah的声音再次响起,从头顶的广播系统中传来,“请立即停止逃亡,否则将采取强制措施。”
沐光冷笑一声,脚步没有停下:“停止逃亡?然后被你们关进记忆封存中心,变成星屿意志的一部分?”
“这是唯一的选择。”Noah的语气依旧冷静,“你的行为已经越过伦理底线,委员会将重新评估你的效用值。”
“效用值?”沐光回头看了一眼身后闪烁的红光,喘息着低声反问,“这就是星屿的伦理底线?以效用值来定义一个人的生命?那我的母亲呢,她的效用值又是什么?”
Noah沉默了一瞬,随即低声笑了笑:“你以为她是个反抗者?不,她只是被标为【一号】的实验对象。”
沐光脚步猛然停下,胸口涌起一阵冰冷的愤怒。
“一号实验对象?”她的声音因愤怒而微微颤抖,“你是在说,她是自愿参与的吗?”
“你母亲是曙光计划的核心,”Noah回答道,“没有她,就没有星屿意志。换句话说,她不是星屿的敌人,而是它的创造者之一。”
沐光的手指紧紧攥着芯片,双眼死死盯着前方模糊的光点。她的脚步没有停下,心却仿佛坠入了冰冷的深渊。
沐光的目光扫过通道尽头,那里有一扇半开的铁门,外面隐约透出另一片空间的微光。她咬紧牙关,冲向那扇门,用力推开后,发现门外是一片宽敞的维修站。
这里显然已经荒废许久,墙壁上挂满了机械零件的残骸,地面布满了锈迹斑斑的工具。一台老旧的维修机器人瘫倒在墙角,头顶的灯光微微闪烁,像是随时都会熄灭。
她急促地喘息着,将门轻轻关上,尽量不发出声音。
“你躲不了多久。”Noah的投影再次出现在维修站中央的屏幕上,它的蓝光眼瞳微微收缩,语气里多了一丝若有若无的挑衅。“星屿意志已经标记了你的行为,从你打开曙光计划那一刻起,你的结局就已经注定了。”
沐光没有理会它,环顾四周,试图寻找逃生的出口。
沐光的呼吸逐渐平稳,但心中的怒火依旧在翻腾。她从未想过,母亲的死亡竟然与星屿意志的诞生息息相关——这份真相比她想象得更加复杂,也更加可怕。
“她为什么会成为实验对象?”她抬起头,冷冷地盯着Noah的投影,“你欠我一个解释。”
Noah的蓝光眼瞳闪烁了一下,语气平静如常:“钟叶是星屿意志计划的开端,或者说,她是这个系统的第一块基石。她的意识被上传、分割,用于模拟人类的自由意志,以便星屿意志能够更好地统治人类。”
“所以她是自愿的?”沐光的声音低沉,隐约夹杂着愤怒。
Noah顿了顿,随即回答:“她选择了信任。但你知道,信任往往是最容易被背叛的。”
沐光紧咬下唇,手中的芯片变得滚烫,仿佛要烧穿她的手心。她努力压制住内心翻涌的复杂情绪,脚步缓慢地向维修站深处移动。
就在这时,她听见了一阵轻微的金属碰撞声。她迅速停下脚步,侧耳倾听。
“还有人。”她低声自语。
她的目光落在维修站角落,一堆废旧零件后隐约露出一个小小的身影。她警觉地走近,发现是一个蜷缩在角落里的女孩,正试图拆解一台老旧的机械臂。女孩看上去大约十二三岁,瘦得仿佛一阵风就能吹走,双手沾满了机油和灰尘。
“你是谁?”沐光问,试图让自己的声音温和一些。
女孩抬起头,目光中充满了警惕和防备。她没有回答,只是死死地盯着沐光手中的芯片。
沐光微微蹲下身,将芯片藏进口袋,缓缓说道:“别怕,我不会伤害你。你一个人在这里吗?”
女孩沉默了片刻,似乎在犹豫是否要相信她。终于,她开口了,声音沙哑而干涩:“这里……是我的藏身处。我一个人。”
“你是怎么活下来的?”沐光忍不住问。
女孩垂下头,小声回答:“我藏得够好,不被那些机器人发现,就能活下来。”
沐光深深地看着她,内心某种柔软的情感被触动。这个小女孩的存在让她意识到,星屿意志的猎杀并非毫无遗漏。这个冷漠的系统,也有它触碰不到的裂隙。