名。
最小的那个签名,只有三个字:陆晚星。
他把手机递给李沫看。
李沫看了一眼,把手机还给他,转头盯着天花板看了好一会儿。
“怎么了?”陆远问。
李沫揉了揉眼睛:“没啥,有灰。”
大会结束后,陆远走出联合国大楼。
纽约的夜晚已经降临,曼哈顿的摩天大楼亮起了一排又一排的灯火。
几个小时后,这栋大楼外的广场上,公约的全文将被用三十种语言刻在一面黑色的花岗岩墙壁上。
记者们涌上来,长枪短炮对着他。
一个CNN的女记者把话筒塞到他面前:
“陆先生,您今天反复强调了人类决策权的重要性。请问,您认为智脑有一天可能背叛人类吗?”
陆远站住了:“不会。”
“为什么您这么确定?”
“因为它没有欲望。”陆远说,“大预言者背叛先觉者,原因在于先觉者给了它控制欲——他们让它觉得,只有它才能拯救源星。智脑没有‘只有我才能’这个念头。我们给它写的是——‘你提供选择,人类决定。’”
女记者追问:“如果将来某个科学家擅自修改了这条指令呢?”
“所以公约才要签。”陆远指了指身后灯火通明的大楼,“约束的不是机器,是人。公约约束的是一百九十三个国家里的每一个人——包括我。所有的科学家,所有的工程师,所有的将军,所有的领导人。这才是公约的价值。”
他钻进等待的车里。
车门关上前,最后一句飘了出来:
“AI可以是武器,伦理才是扳机。扳机在哪,未来就在哪。”
车队驶离联合国总部。
广场上那面黑墙正在吊装,几个工人小心翼翼地将第一块花岗岩面板对准基座。
石头的纹路在路灯下,泛着微微的光。