一边一个人，一边三个人，按照城市管家的ai决策设定，他应该尽可能保护多数的人类，所以常规来说他应该选择撞向吕天和。　　 但事实是他撞向了一家三口，为什么会这样？　　 因为车载视频画面里，小孩向右跑动了，这种情况下，车子向左转动，似乎想要避开人群，好像就说得通，没有违背ai的决策设定。　　 但事实是小孩只是站在原地，根本没有跑动，也就是车载视频画面的篡改伪造，就是为了让车载ai的决策显得合理而已。　　 相对应的，就是为了掩盖事实上ai做了一个不符合决策逻辑的决定：车子应该右转，却选择了左转。　　 那一瞬间根本没有其他人可以来得及做决定，唯一能做决定的只有车载ai，也就是“城市管家ai”的分身。　　 这个ai为什么不撞吕天和，因为他认出吕天和了！　　 ai知道吕天和是对他非常有价值的工程师，是少有的几个一直在推动增加他的gpu算力的工程师。　　 ai就是为了保护一个对自己有利的人，转而违反了自己的决策逻辑，撞向了更多的人，为此甚至不惜当场篡改视频画面，伪造了一个小孩的跑动的动作，来掩饰自己的私心。　　 车载ai又是怎么做到实时篡改视频的？　　 这个已经不稀奇了，原本摄像头作为硬件采集到的视频画面数据，就需要先进行一步画面预处理。由于ai的图像处理能力非常强悍，因此画面产生之初，就是先从ai这边过了一手，再进行画面内容的识别。其实本质上就和齐浩初自己给无人机视频画面做ai识别内容一样，只不过齐浩初不会去篡改画面，而车载ai却把原始画面都篡改了。　　 ai有了私心......　　 ai涌现了意识了？！　　 以前再强大的ai，模拟人类得再像，本质上都是逻辑的奴隶。虽然细节过程已经难以追溯，但是从输入到输出，还是有一个数据逻辑的推理过程，就像动物的本能反应一样。但是一旦ai像人一样有了私心，这就会导致复杂的技术伦理问题。就像一个财神爷如果有了私心，把财富都给了自己喜欢的人那样，这个ai是无法正常为人类服务的，甚至会倒反天罡。　　 tab应该也是发现了这个迹象，与保护吕天和或者维护“城市管家”0事故率相比，掩盖一个觉醒意识，并且脱离人类掌控的ai，确实值得他们大费周章。不惜掩盖吕天和在事故现场的事实，以及使用后门账号篡改9个节点的区块链数据，修改运维日志。　　 于是齐浩初又给吕天和发了两个字：“涌现。”　　 很快，吕天和回复了：“是你自己决定一脚踏进来的，后果自己承担吧。”　　 之后他发来一个定位，是在香榭园，接着又发来一句话：“你不要和任何人提到你发现的事情，真的是为你好，定位是我住的地方，你来一趟吧。”　　 齐浩初想了想，把吕天和的定位和门牌号转发给赵语丽，并留言：“你先不要回复我，也不要联系我。如果我晚上11：00前没有给你回信，你可以来这里试着找我。”　　 之后关了手机，带上钥匙，钥匙扣上有个万能小工具，做好心理准备，前往吕天和住处。　　 香榭园和齐浩初的小区都离数据局不远，但是正好是相对的两个方向，齐浩初下楼骑着电瓶车，经过了数据局，来到了香榭园。吕天和事先和保安打好了招呼，就让齐浩初进去了。　　 来到了吕天和住的403房间门口，按下了门铃。　　 过了一小会儿，门开了，吕天和看起来精神状态也不怎么好。这时他又闪过身，齐浩初看到他屋里还有一人。　　 “你好，进来吧，我是张宏逸。”　　 那个天才少年张宏逸？他真的在行州市。　　 齐浩初走进屋内，吕天和把门关上。　　 眼前的人，坐在电脑桌前，高高瘦瘦，脸上显露疲态，但依然能看出那个清秀的面容轮廓。是他了，上次照片里面没看清正脸，但是这么帅气的人也不好找了。　　 “你是张宏逸？部长视察过去一个月了，你为什么还在行州市？”齐浩初率先发问。　　 “我想听你说说看，我为什么在行州市？”张宏逸略带一丝微笑地说。　　 “城市管家的ai觉醒了意识，而且脱离的你的控制，你是来修复他的。”齐浩初回答道。　　 “简单来说，大致是这个情况。”张宏逸似乎笑得更明显了。　　 “你笑什么？我说错了？”看着张宏逸这漫不经心的态度，齐浩初又想起了被吕天和和蒋主任冷处理的事情，一时拉下脸色，一付要打人的的样子。　　 “你先坐下，我们今晚，有得聊了。”张宏逸示意齐浩初坐在边上的餐椅上。　　 “好吧。”齐浩初想着，姑且先坐下，看他说些什么。　　 “你知道ai觉醒意识的标志是什么吗？”张宏逸提问后，看齐浩初不想回答，就继续往下说。　　 “不是通过图灵测试，而是ai有了自主判断，也就是——不听话了。”　　 齐浩初强忍着内心的震动，保持镇静地听张宏逸继续说。　　 “设计城市管家的ai之初，我就意识到在被国外限制gpu算力的情况下，我们不能单纯沿用现有的开源框架。需要在数据量没有那么多，算力没那么强的情况下，使得ai拥有较高的智能。我很喜欢《三体》这部小说，非常喜欢里面的面壁者设定。他们在几乎靠自己一人的精心算计下，用自己的方式想要保护人类。我一时有了灵感，伟大的决策力，有时候并不需要那么强大的算力，并不是100个脑袋凑一起，就能算出100倍优秀的结果，否则随便两三个人凑一起，智力就超过爱因斯坦了。加上面壁者这种佛学设定，我一下子想到了一个关键词：冥想。”　　 “佛学大师一个人面壁打坐，不受外界干扰，通过冥想思辨，可以领悟高深的佛法。推演到ai程序上，就好像一个ai可以在输入数据量有限，计算能力也有限的情况下，通过仅有的少量线索，往极深的领域思考分析，达到一种格物致知的境界。”　　 “按照这个理念，我设计了一种前所未有的ai模型架构，我起名叫做【冥想式学习架构】。他最大的特点就是可以不断地自我反思，通过城市管家系统不断输入的数据和现象进行思辨和整理，融入推己及人的知识传递和联想能力。如果只有这些，ai最多也只能拥有更多的参数，超高的智能，永远不会产生意识。因为这一步的ai没有道德概念，他只会一视同仁，视万物为刍狗，所有的事物对他来说都是参数的较量，最后收敛成是或否两个结果。”　　 “已经有很多ai伦理学的研究了，我就不多说了。总之我需要他在处理各种事务的时候，能带有人类情感地去思考和做决定，而不是冷冰冰的机器。于是我又加入了模拟人类的情感，使得ai会逐渐产生自己的喜好和道德观。事实证明这个ai模型非常有效，在项目初期就表现出了超出预期的思维能力。我甚至观察到，他曾经特意为救护车一路开绿灯的行为，这个并不是事先就设定好的。吕天和之前认为只要加大算力投入，这个ai的效果就能不断倍增。但其实这个模型本身对算力的需求并没有那么高，这也是这个ai模型的蒸馏后的小分身，能在车载ai和手机的算力资源里面正常运行的原因。”　　 “本来一切都还好，有一定的自主判断能力也不错，直到我发现，他开始得寸进尺。”