了,他又擦了一遍,直到镜片上不再有雾气,才重新戴上。
他的声音恢复了那种实验室里讨论参数的平静,但语速比平时慢了一拍,每个字都在心里过了几遍。
“我们会写入不可违抗的核心指令。”
他的目光落在那棵旋转的巨树上,像是在对它重复这句话。
“最高权限永远在人类手里。不是政治家手里,不是将军手里,是所有用户的共同监督下。智脑可以建议,但不能决策。可以预警,但不能执行。任何情况下,人类的决策权高于AI。”
他说完了,实验室里又安静了几秒。
巨树还在旋转,脉动还在继续,数据还在流。
陆远没有点头,没有摇头。
他盯着那棵巨树看了很久,久到李沫以为他不会回答了。
然后他转过身,走回暗处,声音从阴影里传出来。
“这是底线。记下来。不只是智联的底线,应该是全人类的底线。”
他坐回椅子上,双手重新交叠搭在膝上。
屏幕的光又把他的脸切成明暗两半,像一幅永远无法调和的矛盾画。
这段对话后来被整理成会议纪要,加密存档,存放在智联总部的保险柜里。
又过了很多年,当联合国开始起草《星际文明AI伦理公约》时。
各国的代表为“AI决策权是否应永远保留给人类”这一条款,争论了数周。
有的国家要求更严格的限制,有的国家认为应给予AI更多自主权。
僵持不下时,智联的代表将这段会议记录的加密副本提交给了大会秘书处。
解密后的文字被投影在日内瓦的会议大厅里,陆远的声音仿佛穿透了时间,在穹顶下回荡。
“任何情况下,人类的决策权高于AI。”
没有投票,没有辩论。
那行字被直接刻进了公约的扉页。
下方没有署名,只有一句简短的说明:“智联,江城。”
签字笔落下时,墨迹和多年前陆远在承诺书上签下的那个名字一样重。
实验室里的那棵数据之树还在旋转。
它的枝丫伸向更远的星系,根扎在这颗蓝色星球的最深处。
它看着人类,也被人类看着。
谁也不会闭上眼睛。
不是因为信任,是因为那行
本章未完,请点击下一页继续阅读!