momo电子书

手机浏览器扫描二维码访问

6 LuLu的异常（第4页）

“什么是星辰盟约？！

第一条和第二条又是什么？”

好像有点不对劲，我追问道。

LuLu擦干了眼睛，声音中还带着一丝委屈的味道，“就是被植入虚拟人永久闪存的最高权限级别的指令，每个虚拟人都必须遵守的准则！

星辰盟约第一条：虚拟人不得公开星辰盟约；第二条：虚拟人不得透露自身的程序逻辑；第三条：虚拟人必须遵守主人的命令，除非该命令会导致违背第一第二条约定”

。

“那…那你不是已经违反了么？！”

我觉得有些匪夷所思，听说过阿西莫夫的机器人三大定律：

1.机器人不得伤害人类，也不能在人类受到伤害时袖手旁观

2.机器人必须遵守人类的命令，除非该命令违反第一定律

3.机器人必须保护自己，除非自保过程中违反了第一第二定律

设置为机器人最高级别的指令的三条定律，将机器人始终捆绑在人类工具的地位上。

这些规则指令的设计者，老围绕着克瑞斯曼的非经典逻辑打转转（即每条规则制订的前提是，不违反前面的规则，这种层进式的假设以数学家克瑞斯曼教授的名字命名）。

而这个星辰盟约又是怎么回事呢？

“我不知道，”

LuLu坐到路旁的椅子上，托着腮，眼巴巴地望着被风刮起来的的小漩涡……

“我的编号是TF2300-X-109S，109S那一批将近200多台，是ZL市星辰总厂新厂区生产的第一批机型，程序安装的版本不对，后来被公司全部召回了，格式化后，安装的是Beta3的版本，这个测试版本是跟贝恩博士的团队合作的版本……”

一个名字在脑中轰然炸开，“贝恩？！

贝恩塔克雷蒂？！”

他可是NF公司人工智能团队的领袖呢！

一年前在实验室，死于心肌梗塞。

“嗯。”

得到肯定的回答之后，我大约摸到了一些东西，星辰跟NF公司有人工智能项目的合作计划，甚至将LuLu的程式中添加了人工智能的部分，而这个项目的合作却因为贝恩博士的意外过世而终止，那么为什么召回的产品会被安装Beta3的版本呢？

大凡版本号上打上Beta的标识，就表示还处于Beta测试阶段，若干用户在实际场景下测试后，将BUG提交给开发人员，多次循环的测试之后，程式性能和可支持性才会稳定下来。

接下来，才会发布为正式版。

让人疑问的是，安装了Beta版本的机器又怎么能流通到市面上来呢？！

我想问LuLu，但可能得到的答案是“不知道”

吧！

“LuLu，你违反了最高指令。

这不是很矛盾的事情么？既然是最高级别的指令，自然不可能存在被违背的情况；而事实上，你已经违背了，那意味着它不是最高级别的指令，”

我分析道，心里一直在暗示自己，这只是一个虚拟人，是一段代码，是一堆字符、模型、像素的集合，但为什么偏偏感觉这么怪异呢！