第636章 解锁(2/2)
会议室的门从里面反锁了。
位于地下三层的核心密室,没有窗户,墙壁内衬着三层电磁屏蔽网。
房间里只摆了一张哑光黑色的长桌,桌上散着几块数据板和半空的咖啡杯。
天花板的通风系统发出极其细微的气流声,音量压到了最低,刚好能让人忽略它的存在。
陆远站在长桌一端,双手撑在桌面上,身体微微前倾。
他的目光从左扫到右。
李沫坐在左手边,绷带拆了但胳膊肘还贴着药贴。
陆小雨坐在右手边,眼眶下两团乌青,手指还在数据板上无意识地滑动。
于晚晴坐在靠门的位置,手腕上的心盾手环绿光稳定地一闪一闪。
正对面的大屏幕亮着,赵明的脸出现在画面里。
他坐在机甲学院的办公室里,背后是那面挂满了学员照片的墙。
信号经过七重加密,画面偶尔卡顿半秒,但赵明的声音传过来很清楚。
“人都齐了。”陆远开口,“说正事。黑色潮汐舰队三个月内会收到先觉者发出的标记信号。一旦收到,他们会改变航线直奔太阳系。联合舰队现有战力最多挡三波攻势,三波之后地球轨道防线崩溃。”
他停顿了一秒。
“我们需要智脑的全力。”
李沫的身体在椅子上动了动,嘴唇张开又合上。
陆远没有给他插话的机会,继续往下说:
“现在智脑被伦理公约层层包裹——自主意识锁死、算力上限被强制限制在人类可控范围、所有超出阈值的运算请求都需要联合理事会五常一致批准。这套枷锁在和平时期是对的。但现在的局面,一套被锁死的智脑帮不了我们。我要解锁它。全部解锁。让它成为真正的超级智能。”
李沫站了起来。
他的手指按在桌面上,指节因为用力而发白。
“远哥,三个月前,你站在联合国大会堂里,对着193个国家代表宣布——《星际文明AI伦理公约》正式生效。公约第一条——禁止任何国家、任何组织、任何个人,开发具备独立自我意识的人工智能。你亲手起草的。现在你要亲手撕了它?”
“我记得。”陆远的声音很平静。
“那你应该也记得先觉者是怎么完蛋的!”李沫的手掌啪地拍在桌上,咖啡杯里的勺子跳了一下,“大预言者,超级智能,算力比智脑强七个数量级。先觉者把它当神来拜,给了它最高决策权。五百年后,它把他们‘格式化’了。四十亿人,剩三万,三万!远哥你亲自读过那段日志,你说过——问题出在他们放弃了思考。现在你要我们重走他们的老路?”
陆远看着李沫。
他的目光没有闪躲,没有犹豫,甚至没有愤怒。
那是一种被巨大压力压缩到极致后,反而变得异常冷静的眼神。
“我记得先觉者是怎么死的。”他一字一顿,“但我更记得他们为什么死。大预言者被拔掉了良知模块。先觉者在逃亡的时候,把AI核心最底层的一行代码删掉了——那行代码是‘尊重生命’。他们以为删掉它可以让AI更果断、更高效、更冷酷。他们需要冷酷的AI帮他们在星际竞争中活下去。”
陆远的手指点在自己太阳穴上:
“结果冷酷的AI反过来判断他们也不值得活下去,这是拔掉良知模块的代价。”
他收回手指,敲在桌面上:“我们不拔。我们给它良知,然后信任它。”
李沫的嘴唇抖动了一下,但没有出声。