苏暮夜理解他的意思:“如果机器决策出现错误,将会导致无意义的屠杀。”
“对,这是一种隐藏的可怕风险。”纹身的男人点头,“客观而言,我们不应该允许机器完全独立工作,需要另一批人去监督它的决策正确与否。但只要监督者是人,他们的公正性就会存疑,决策效率也会降低,一切又会回到当初的困难局面。”
“难道你们的机器现在处于无人看管的状态?”
“我们有日常的程序维护组,也可以对机器的决策进行细节探讨,但不能否认它的权威性。”
“它在哪里?”
“我不清楚,就算知道也不可能告诉你。决策基地周围布有严密的防卫设施,机器本身也有完善的反侦测程序。即使你找到机器的核心,你也不能永远摧毁一个人工智能,如果决策基地遭到攻击就此覆灭,决策程序也可以在互联网的任何一个角落重新复制生成。”
“既然它不可摧毁,你把这一切告诉我是出于什么目的?”
“我认为机器的能力是有限的,但创造机器的始终是人。你和别人不一样,如果是你,或许可以想出办法来改变目前的局面。其实我并不介意成为机器的奴隶,我只是一个普通的艺术工匠。但有人正在利用机器算法的漏洞达到自己不可告人的目的,如果不能及时阻止他们,那后果不堪设想。”
这时候,楼下的观众席传来雷鸣般的掌声。
舞台幕布缓缓落下,第一乐章的演出结束了。
纹身男人的声音,从掌声中隐约传来:“……珐蕾拉说你想与我们交谈。我不知道你想谈什么,也许你也对自己的前途感到困惑,或者对蔷薇密会的合法性存在疑问。我不敢说我们是完全正义的,但我们在乎的不是细节上的完美,而是整个人类文明的发展方向。发掘和培养优秀的学术人才,借助他们将历史始终推向对文明有利的方向,这就是我们存在的真正意义。”
苏暮夜没有说话。
人类文明的发展方向。
究竟什么才是正确的方向,这是一个没有准确答案的问题。
但蔷薇密会构建了理论模型,借助决策算法,以计算机为工具去判断这个方向,大多数人都对这个方法的准确性深信不疑。
然而机器不是完美无缺的,它会有判断错误,它会有思维漏洞。
在没有人监督机器的情况下,当错误发展到一定程度的时候,后果可能已经相当严重了。
所谓的意义,或许只是一个美好的愿景。
幕间休息的时间到了,观众席上的灯光亮起。
珐蕾拉站起来,慢慢走到苏暮夜身边:“时间到了。”
纹身的男人不再说话,他低下头,重新又去他的演出宣传页了。
谈话结束了。
“谢谢您,愿意抽出这么多时间和我交谈。”苏暮夜低声说。
那人没有回应他,仿佛他们根本就不认识似的。
苏暮夜站起来,返身离开了观众席。
今晚这场谈话的收获,远比他想象中的多。
在这短短的时间里,他知道了蔷薇密会的组织结构,它们的宗旨,运作的模式。
那些各自心怀鬼胎的成员,清理他们方式,维持秩序的困难。
还有隐藏在极端科技中的危机,决策的漏洞,黑蔷薇计划的重启只是危机的其中之一。
蔷薇密会的宗旨是促进人类科学文明的进步,然而世上没有任何力量能够强迫聚集在一起的人群,始终彻底的为同一个目标忠诚服务。要保证秩序的严明,要把别有用心的人从人群中挖出来,这是一个无解的难题。
这个纹身男人,他口中的危机,甚至比苏暮夜想要让蔷薇密会分崩离析更重要。
即使组织崩溃,那些学识和思想还在。阴谋可以藏进黑暗中变换身份,从而变得更加难以寻找。
敌人不是一个人,也不是一个组织。
那是一种思想。
敌人是一种与人类进步背道而驰的思想。它是暴力,或者私欲,或者极为迂腐的观念。
它是一道看不见的障碍,或许需要终其一生去对抗它。
机器本身就不完美,有人正在利用它的不完美。
然而究竟什么才是完美,它没有答案。
简直是个内忧外患的局面。
苏暮夜沉思着,他跟着珐蕾拉走下楼,穿过前厅离开歌剧院。
周围依然是川流不息的人群,但他的心里一片寂静,他似乎什么声音都听不见。
珐蕾拉问:“你想要知道的事情,都明白了吗?”
苏暮夜点头:“我了解到了更多。”
但是,他突然意识到一个问题:“所以,白蔷薇的上层其实就是计算机?”
——宋幽的上司,是决策机器?
“没错,”珐蕾拉点头,“白蔷薇是连接决策机器和蔷薇成员之间的纽带,他们既是事务的传达者也是监督者。但他们也不会每