第二十七章 系统瘫痪（2 / 4）

在老白被征召的时候，国安局的组织部解释过他被选中的原因，一个是价值观取向，一个是技术背景。价值观取向的判断是基于老白过去所有阶段的行为记录，他在所有的候选人中得分最高，他的团队成员的价值观取向也得了高分。在技术原因上，森林狼是ai深度学习方向全球最厉害的公司，国安局现在非常迫切的需要一个团队来对付互联网生物的挑战，因为他们的进化速度已经远远超过预期了。

老白知道这互联网生物的可怕，单体的机器人如果进化出自我意识就必然会做出不可控的行为，他们因此才给自己的仿生人设置了很多的禁区。而联网的机器人，如果有了自我意识就更加可怕，他们会组成一个超级机器人。如果这种自我意识产生于网络世界，而不是实体机器人，就超级可怕了，因为他们不像实体机器人有一个物理的自我边界，就是自己的身体，互联网生物会产生认知偏差，它会把整个互联网，整个世界都看是它个体的边界，并采取自卫行为，对任何的入侵者采取敌意的态度。

在老白团队加入的时候，互联网生物已经在各地出现了，并在加速生长，国安局要挟老白加入也是迫不得已的办法，因为国安局内所有的大拿都推荐老白和秦朗团队，这个任务非他们不可。互联网生物出现的原因，基本都是各种缺乏敬畏之心的的极客，科学家，或者野心家所为，放一个精心设计的种子出来，让他们自我进化，最后演变为由自主意识的生物，其中不乏一些非常有天才的设计，所以处理起来非常棘手。

两个星期后，老白团队不负众望清理了所有的互联网生物，并建立了极强的防范机制，任何类似苗头都会被第一时间拿下，秦朗也因此成为国安局里被谈论的头号明星。

同年，为彻底杜绝人类官员的腐败和提高执行效率，联合政府决定把所有的政府管理权交托给ai系统，这也是没有办法的事情，人们生活的方方面面现在都是ai在控制了，很多事都是到了政府这一级卡壳，政府的低效率成了老百姓最大的投诉原因，但完全交给ai就会让很多人失业成为废人，但这也是大势所趋吧，好在废人现在已经有了越来越多的精神寄托，不至于闹出大乱子。

作为对ai系统的监管，ai系统的重要决策都需要人类决策委员会审议，委员会由7人构成，委员们是由全球1万人的精英层选举产生，这精英层，是ai系统从小学阶段就选拔出来并被重点培养的，所有穷人的孩子也有机会进阶，阶级固化的可能性被从制度上消除了，所有的甄别数据都存放在区块链中，所有想造假的有钱人最后都以身败名裂收场。

为防止响应不及时，选出来的七名委员的大脑都会被植入精密传感器确保其大脑和ai系统随时联通，而根据法律，普通人是不允许做这些大脑改造的。ai系统会给所有的决策分级，决策等级超过设定的阈值时ai就会把决策发送给这7名委员，7名委员独立决策后会回传ai系统执行。为防止意外，这个ai决策的算法向所有精英层开源，他们可以随时查看源代码，如果有能力也可以提出建议，交给老白的团队改进，所以，在某种程度上，老白团队的忠诚，敬业程度上决定了人类未来的命运。

这个ai决策系统是一个非常大的工程，但是对老白他们而言并没有太多的技术挑战，他们以前就是全球最大的政务ai供应商，那些ai系统侧重于某一领域，比如税务，身份管理，城市综合管理，现在他们做的不过是把自己的系统集成到一起，其他厂家的ai系统都有api(数据接口定义也很容易集成，只是工作量非常大。

真正难的是决策系统的算法，这个算法的研究在国安局内部很早就立项了，为的就是有一天能把联合政府的所有决策都转到ai系统上，但一直没有突破，这个迁移就一直没能执行。这个算法最难的是遇到各种新的情况后的应变决策，一群专家研究数年后都无法覆盖所有的异常，秦朗接手后很快就开发出了一套深度学习算法，经过了两周的自学习，它自己很轻易的化解了这个难题。

因为秦朗做得太轻松了，才两个星期就解决了别人几个团队一年都没有解决的难题，各位大牛就都不相信，用各种各样的测试软件来遍历，结果都被轻松化解，最厉害的，是这个算法决策的时间越来越短，质量还越来越高，尤其对风险的预见性，对事情发展方向的预见性让人叹为观止。这些大牛至此才明白碰到了世外高人，纷纷放下身段向秦朗讨教。

秦朗看大家很真诚便给大家解释：

“这算法其实很简单，类似中国的道德经里面说的，道生一，一生二，二生三，三生万物，我只需要找到一个会演变出万物的根算法就能让那个他自己成长为世间万物。这个理论最早是4年前从老白那里听到的，但真正落到实处花了几十年的世间。”

很多科学家不是华人，听的就有些糊涂，好在算法对内对外都是开源的，有时间了他们自会慢慢研究。

就这样，秦朗的算法在经过了三个月的充分训练后接管了整个联合政府的决策系统，所有的政务、警务、军情、生活信息都连接到这个决策系统里。ai系统同步切换完成的时候，全球1千万政府职员失业，成为精英眼中的废人。

人们很快就适应了ai决策系统的全面接管，因为ai系统没有利益牵扯，算法又公开，所以它的公正性，效率受到了大家的一直好评，但因为缺少了人情味，一些决策很快受到了大家的诟病，为此，ai系统专门识别出了可能的和人情有关的决策，先请七人委员会审计后做决策，ai再学习他们的决策思路，三个月后，经过3个案例的学习后ai系统完全掌握了“人情”这个变量的分寸，可以自己做出合情合理的决策了，只是这三个月里七人委员会非常辛苦，几乎是二十四小时都在帮ai判案。

ai决策系统虽然是源代码开源，1万人的精英层都可以看，其中也加了很多防止ai走偏的限制，但ai在每一秒都在不间断的学习，你不知道它现在的经验库到什么地步了，不知道它上一秒又学了什么新东西，所以，理论上ai处于一种失控状态，为防止任何可能的风险，秦朗成立了三个项目组，分别从不同的维度写出独立的监控程序，用于监控ai决策系统的决策过程，并且有更高的权限，一旦三组中的任何一组发现ai系统的决策有异常都会取消该项决策并发出报警，这个原理就像很多防病毒软件，它没有病毒库，只看电脑的行为就能判断出是否有病毒入侵。如果3家同时做出ai系统已经全面失控的判断，就会强行终止ai决策系统，并把所有的系统接口切换到一个没有进过充分学习的备份算法，这一切都是在1秒内发生的。

在这个ai决策系统中最关键的控制点是决策案例的分级，哪些是需要7人委员会介入的，哪些不需要，这三个监控程序都有自己独立的判断，只要有一个认为需要上报就会中断ai的自我决策，并转到7人委员会来审计。

七人委员会的成员定期更换，一开始大家都很愿意进入委员会，认为这是一种荣誉，但渐渐的，委员们就发现转到他们这里决策的都是一些非常简单的问题，而且ai系统的判断和他们的判断基本都一致，他们的成就感就慢慢没有了，加上大脑不断被打断，几乎都没有时间思考自己的私事，一年下来，没人愿意进这个委员会了，七人委员会的任命就成了一个摊派任务。没有办法，老白只好提高人类决策的阈值上限，从之前定义的影响超过1万人的决策由委员会决定，改为现在的1万人。