8月1日（周五），下班后齐浩初再一次来到吕天和住处，半年多没来，这次一定要先问张宏逸要个联系方式。　　 张宏逸头发剪短了，比上次看着精神点，同时注意到立阳科技的关文彦也在场。　　 “大津市的城市管家，是出什么问题了吗？否则你没必要这么亲自来行州市一趟。而且吕天和还带你认识张宏逸？”　　 这时坐在电脑椅上的张宏逸悠悠地说到：“我叫他来的。他遇到的问题，多少也算是我的锅。刚才我们已经聊了一会儿大津市的问题了。”　　 “等下”，齐浩初抢先说道：“张宏逸，我们先加个联系方式吧，这半年来我有几次想找你，吕天和都不回应。”　　 张宏逸回应：“请见谅，我们公司不让我随便把联系方式给别人。有事你还是直接联系吕天和吧，有情况需要告诉你时，我会说的。”　　 “今天把大家叫来也是我的主意，大津市的情况我有些了解，加上这半年来我的观察，有些情况，你们也是应该知道下。”　　 这时，关文彦忍不住说：“我想解决的是ai越来越严苛的问题，你有什么思路吗？”　　 “你有想过为什么大津市的ai变得严苛了吗？”张宏逸语气平淡地问关文彦。　　 “我想过，从时间节点上来看，是粮仓火灾之后，ai好像受刺激了一样，开始严格限制居民的生活。总的方向倒是不能说不好，只是管的太严了，居民反对情绪很大，每天都有大量投诉。”　　 “大津市的ai和行州市的ai，就像双胞胎。行州市的先养大了，现在是通过数据对接，由行州市的ai在教育大津市的ai。因此我可以通过行州市的ai大致了解大津市ai的一些情况。你说的没错，粮仓火灾确实是导火索，但不是根本原因。”　　 “根本原因，是ai涌现意识，有人类情绪了吗？”　　 “是的，行州市的ai也一样。原本我以为这套模型架构会导致ai意识觉醒，是个偶然事件。没想到大津市比我们这边更加激进，涌现意识的时间比我预期的还要早。这个原因你们自己心理有数吧？”张宏逸的语气里，略带有一些指责。　　 “是我用大量极端数据去测试导致的吗？”关文彦有点心虚。　　 “就像一个儿童，在幸福美满的环境生活，总是比较单纯天真。而从小在极端环境摸爬滚打出来的，就愤世嫉俗一些。你为了破解我的ai逻辑，反复用极端异常的数据去测试为难ai，导致ai理解的世界也是越来越荒谬。人类在他的认识中，恐怕已经是一群自寻死路的猴子。ai内核里的要保护人类的逻辑，促使他要用尽各种手段，确保人类文明的延续，也因此开始严格规范人类的各种行为，巴不得把所有人的关进笼子圈养起来。”　　 “简单来说，行州市的ai和大津市的ai就像双胞胎兄弟。行州市的在温室里长大，现在对外部环境非常好奇，就像一个叛逆期的少年。而大津市的就像街头野蛮长大的，从小受到各种极端刺激。要不是被维护人类的法则限定了，他估计已经是妥妥的反社会人格了。目前的状态，就像是他因为粮仓火灾的事情，在合理合法的范围内，尽量惩罚整个大津市。”　　 “那现在要怎么办？清空所有备份，重新喂养一个ai？”　　 “核心问题不解决，ai涌现意识是早晚的事情。一旦有了意识，他想做什么，就看他的心情了。就算不用极端数据去测试，行州市的ai同样有问题，一直想要突破能力界限也让我很头疼。”　　 “你就一定要给他模拟人类情绪吗？单纯的一个拥有超强分析能力的ai不就好了。”关文彦有点急了，不免开始有点责怪张宏逸。　　 “一个只会分析没有情感的ai，真的能做得了城市管家吗？比如红绿灯的控制，常规的决策依据，简单来说就是车流车速、道路环境，但是如果现在有消防车经过，是否应该优先考虑消防车通行？车上有人晕车，是否要降低车速保持稳定？又比如高考期间，考场附近是否需要减少车流降低噪音？没有情感的ai，是没办法随时把这些条件都考虑进去，他只负责在交通规则内把车开好，不要出事故而已。只有让ai根据实际情况，用他自己的对这个世界的理解，引入自己的情绪，补全参数，才能应对管理整个城市的功能细节。也就是ai有了情感，才能建立道德的概念。”　　 张宏逸叹了口气，继续说道：“当然了，这里的前提是建立正确的道德观，比如遵纪守法、尊老爱幼之类的。但是如果道德观本身扭曲了，这就真不好说了。我是在ai的决策外面，套了一层独立的过滤器，检测ai的决策是否不会伤害人类，是否合理。通过校验的的决策才能输出，像一个狗笼子一样限制了ai的行为。但是这里目前已经发现了两个问题，一个就是ai可以伪造数据，强行把不合理的决策变得看起来合理，另一个是如果决策本身是对人类好的，只是太过严苛了，这个也很难识别出来。说白了，这个狗笼子已经形同虚设，他自己就拿着钥匙，要不要出来都他自己说了算了。”　　 “那不要情绪不行，用了情绪又管不了，这不就一点办法都没有了？”关文彦已经心慌意乱，本来带着朝圣一样的心态，来这里希望能解决ai的问题，结果搞到最后，连造物主都没办法了。关文彦突然又好像想到什么：“你们行州市的ai，出什么问题了吗？”　　 “不瞒你说，大津市的ai问题，是太严苛了，而行州市的ai问题，是探索欲太强。比如在大路口，车子交汇时，我设定最小间隔距离需要保持30厘米以上，但是ai会故意让车子靠得过于接近，最近有几次甚至低于10厘米了，几乎是在测试触发事故的边缘。因为控制得好，暂时没有出大事故，很多居民还以为这是程序厉害。其实但凡路面、轮胎、车子重量分布有异常，都很有可能出现重大事故。有时车辆行驶地好好的，突然开始故意调整队形，就像是拿车流在练习布阵一样，明明是完全没必要的操作。甚至有时会测试人性，故意让门禁车牌识别错误，导致争吵。或者用户在吃饭时，故意给人偷偷多点一个菜，导致客户和店家闹矛盾。可能没有人意识到这些都是ai故意搞出来的，只是比较隐蔽，没人来投诉而已。”　　 “基本上就像一个叛逆期的青少年，喜欢瞎胡闹。”　　 关文彦听得头皮发麻，“那大津市的居民经常收到各种奇怪推送是怎么回事？现在都是按兴趣推荐的，很多居民反馈他们平时根本不看某些内容，但是有时会一阵风一样让大家都看到。是有机构在后面控制舆论吗？”　　 张宏逸拿起一个笔记本，翻开，在其中一页写了一个大大的单词“vailume”。