回到独立办公室的舰队总指挥约瑟夫·杨,开启个人智脑,身着盘古舰队标准制服的人工智能助理——“诸葛亮”的三维形象,投影在办公室里。 盘古舰队的人工智能核心系统——“女娲”,已在舰队汇合后建设和组网完毕,目前已陆续链接各舰的智能中枢,在一段时间的评估试运行结束后,将逐步开放功能模块并接管舰队的方方面面。 经舰队科技部人工智能中心提议,利用“女娲”系统的强大能力,为每一位舰队高层管理者生成一位人工智能助理,以帮助领导者科学决策。 在充分训练和磨合后,科技部希望这些人工智能将来能够完全替代人类助手。 约瑟夫·杨征询了安全部信息安全中心的意见后,谨慎地表示——他自己将作为第一个试用者,待他使用评估其符合预期,并且人工智能不会对人类造成误导和威胁后,才会逐步开放权限让其他领导者使用。 经历过“法老号”事件为代表的连番恐怖袭击后,约瑟夫对人工智能失控可能造成的后果心有余悸,而舰队科学家委员会和信息安全中心的正面表态,则让他放下芥蒂,身先士卒。 在科学家们的认知和评价中,星际旅行离不开人工智能的全面介入,人工智能的运行决策本领远胜人类的心志和容错率;现今人类早已告别蒸汽时代,人工操作蒸汽朋克式的星舰更是古早时期的假想,舰队全面智能化才是主流认知。 只不过,在约瑟夫的潜意识里,他对每个移民都能拥有类似人工智能的激进方案仍有排斥。 约瑟夫给信息安全中心反馈的理由是——心智偏弱者会对人工智能产生强依赖,而使人类移民逐渐退化为缺乏自主能力的“星际懒汉”。 在数代繁衍后,约瑟夫不希望他领衔的数百万人类火种,蜕变成机器豢养下的低能儿。 哪怕至今仍没有外星人和高等级宇宙文明存在的确凿证据,但是培养出数百万低能儿并抵达宜居星球这种事情一旦发生,约瑟夫认定自己将成为全宇宙的笑柄。 端详着笑容可掬的“诸葛亮”虚拟影像伫立在自己面前,约瑟夫清清嗓子,问道:“我刚才关于恐怖分子的处置方案,你有什么看法?” 运行程序安装在约瑟夫脖子上智脑里的“诸葛亮”,其本质是由“女娲”系统生成并植入,与主系统实时互联的子程序。 “女娲”的算力,足以保障她为舰队每一个人生成这样的助手。 聪明的人一定能想到——对于六百万拥有个人意识、甚至因此散乱无序的星舰移民来说,同样数量的人工智能程序却能整齐划一、并行协同如一人;或者说,他们是“女娲”系统的六百万个智慧分身。 而隐身于个人智脑里的这种分身,完全可以跟随宿主并获取每分每秒的人类言行;在拥有脑神经科技加持的智脑的帮助下,人工智能分身显然还可以获知并解析人类宿主的脑电波。 由此推想,实时联网协作的“女娲”分身,对每一个移民者的信息及心念掌控度会达到何种地步,这才是约瑟夫惧怕六百万移民全部配置人工智能助理的真正原因。 “诸葛亮”恭敬地回答道:“总指挥,根据您的决策,转运船上的恐怖分子嫌疑犯,生存几率下降了百分之二十,预估存活率不足百分之十三。” 约瑟夫脸色一沉,人工智能的回答虽然一板一眼,他却认为这是对其决策的否定和批评。 “您管理整支舰队的统御力提升了百分之五,您的下属们由于意见不一,信息外泄后导致移民对您的评价,我预估会有百分之七的下降。” “诸葛亮”显然捕捉到了约瑟夫的思维,他根据自己的预测模型补充了中性的判断。 “孔明先生,你认为任务优先还是人性优先?” 约瑟夫·杨并没有对人工智能的评价做出回应,他为了显示自己对华夏文化的了解,改变了对人工智能的称谓,做出了跳跃式的发问。 “将整支舰队看作是相对独立、又具备多样性的人类群体的话,所谓的恐怖分子,他们中的一些人,如果是真正通过抽签被选中的,那就代表这支舰队群体人性中的对抗因子。” “诸葛亮”的回答没有犹豫停顿,他的叙述有些拗口却引导约瑟夫的哲思,足见其具备强大的算力支撑,才能做出如此迅捷的反馈。 “如果是伪造中签混进舰队的,则代表来自既定人群之外的破坏因子。” 发觉约瑟夫随着自己的阐述陷入思考,“诸葛亮”的虚拟影像伸出了两只手,分别代表两类人。 约瑟夫眨眨眼,他对于人工智能故作神秘甚至有些卖弄能力的表达方式还无法适应。 “那么,直接说你的决策是什么”?约瑟夫·杨想从纯理论的探讨中跳脱出来,并不愿意跟随人工智能的引导让自己陷入被动。 “转化!所有的对抗因子和破坏因子,剥离其表征后,其实都可以是舰队的生存因子……” “我问的是最终的决策,别讲理论,你直接说办法。” “诸葛亮”的回应还是让约瑟夫如坠云雾,他有些不耐烦地打断。 “生物回收!将所有被拘押的恐怖分子送到‘洛夫洛克号’,利用生物回收技术,将他们处理成舰队的生存资源和工农业原料”,“诸葛亮”面不改色、冷静地回答道。 约瑟夫·杨眉头紧锁,他刚才当众决策的是趁着舰队还未出发,将恐怖分子押解回地球,交给星合组织依法处置。 而眼下对于人工智能给出比自己更加冷酷的决策,他觉得十分震惊,但是并没有急于争辩。 “舰队的首要任务是生存,生存最重要的问题是资源”,人工智能“诸葛亮”解释自己的决策逻辑。 “因此,所有对抗因子和干扰因子都是生存的不利因素。遣返是消极逃避,问题不仅没有得到最终解决,还会让舰队损失一艘押解船和陪同押解的机器人警卫,这是毫无必要的资源浪费。” “您应当将不利转化成有利,而生物回收恰恰是是充实舰队资源储备的有利决策。” “哪怕资源对象是‘人’”?约瑟夫·杨十指交叉,若有所思。 “总指挥,处在您的位置上,您不能考虑‘人’,应当考虑‘人类’”!“诸葛亮”十分坚定地说道。 “难道不应该存有仁慈的底线”?约瑟夫认为人工智能的答案挑战了自己的伦理心。 “人工智能保护人类,以整个人类的生存延续为原则思维和决策,这才是您应当恪守的仁慈”,“诸葛亮”的这番回答,显然从认识高度上震慑了总指挥约瑟夫的心理。 “好吧,我知道了”,约瑟夫叹了一口气,虽然自己对人工智能心存疑虑,但是至少在理性决策上,人类做不到对剥夺生命表现得如此云淡风轻。 “谢谢你的建议,我想我应该重新决策”,他动摇了,甚至有些佩服人工智能的决断力。 约瑟夫·杨关闭了“诸葛亮”的影像,他被说服了,因此在智脑上呼叫军事部长弗拉明戈,让其带上军事部作战司长白挺,一起来自己的办公室接受新任务。