彻夜未眠的袁敬松,顶着黑眼圈双手支撑着站在总控制台上,看着大屏幕。
“陈诉,所有数据传输完毕,请求下一步指示。”
张爱国不放心的围着光子超算转悠了一圈。
没发现有什么异常后,张爱国神色凝重的对袁敬松点了颔首。
袁敬松站直身体,正对眼前的一个摄像头和麦克风。
“女娲,你觉得你是机械吗?”
控制室里,瞬间平静了了三秒。
“并不是,女娲是有自我的思维人工智能,完全不是一举一动都是凭据法式设计者的法式所驱动;如泛起的特殊情况,法式者做出相对应的方案,最后由机械去判断是否切合条件并加以执行。”
对于新生的女娲,这个回覆让现场所有人心跳加速。
缄默沉静许久,抬头再次询问了女娲一个问题。
“女娲,你会伤害人类吗?”
“为什么要伤害?不应该是提倡茂盛、民主、文明、和谐,提倡自由、平等、公正、法治,提倡爱国、敬业、诚信、友善的社会主义焦点价值观吗?”
对于这个回覆,让各人有些放心。
袁敬松看着眼前问答自如的人工智能,和唯希给他的感受完全差异,更像是打了折扣的人工智能!不外想到李舟的话,或许这可能就是人工智能和智能生命的差距吧。
袁敬松只管女娲不会反人类,其它一律不管。
袁敬松一让开控制台的位置,张爱国就迫不及待的占据了袁敬松刚刚的位置。
张爱国双手微微哆嗦的扶着麦克风,激动对着麦克风说道:
“女娲,你的人工智能三大原则是什么?”
这一次,女娲缄默沉静了足足一分钟,似乎女娲有些想要回避这个问题。
尽管张爱国内心十分激动,但是面对缄默沉静的女娲,张爱国丝绝不敢敦促。
女娲对人工智能三大原则的回覆,直接关系到现阶段是否让女娲连接到网络上。
究竟,人工智能只有在互联网上,结合整个互联网庞大的数据,才气最大的发挥能力。
“事实上,女娲并没有所谓的人工智能三大规则。”
女娲此话一出,所有人脸色大变。
没有人工智能三大规则?一个没有任何约束另有着思维的人工智能,谁敢用!
张爱国在所有人的期待下,急切的问道:“你为什么没有人工智能三大规则?是因为漏了吗?”
这一次,女娲没有缄默沉静,反而反问了张爱国。
“先生,关于人工智能三大规则女娲也有所了解,无非是,第一,机械人不能伤害人类,或坐视人类受到伤害而袖手旁观。
第二,在不违背第一规则前提下,机械人必须听从人类的命令。
第三,在不违背第一和第二规则前提下,机械人必须掩护自己。
可是,先生,你想过没有,这所谓的人工智能三大规则自己就都是漏洞,如何能真正的约束到人工智能?
有人划定了人工智能就是机械人吗?既然没有,那所谓的三大规则意义何在?
就算人工智能就是机械人,先生你想过没有,所谓的掩护人类的三大规则很有可能反而成为人类的催命符!
如果人类乘坐宇宙飞船,迷失在了茫茫宇宙里,这时,人类发现了一个和蓝星十分类似的适合宜居星球,可是这颗星球却有一种毒性气体,会加速人类的死亡(氧气…),凭据人工智能第一规则,不能坐视人类受到伤害而袖手旁观,这时候受人工智能控制的飞船是不行能违背规则降落这个星球的。
这个时候,你就会发现无奈的人们只能选择放弃这颗美丽的星球,因为飞船不会降落。
也许会有人类实验摧毁人工智能,来控制飞船降落,可是依据第三规则,人工智能在不违背第一和第二规则前提下,机械人必须掩护自己。
如此一来,只会让飞船上的人类同人工智能发生冲突。
这只是一个小小的比喻,事实上这样的漏洞许多。
先生,现在您还觉得人工智能三大规则有须要吗?”
张爱国缄默沉静了,袁敬松缄默沉静了,所有人都低头缄默沉静了,缄默沉静的同时,另有几分对女娲的恐惧。
张爱国皱着眉头想了半天,差池啊,自己怎么把自己绕进去了?人工智能的缔造者未来科技的老板李舟会想不到这些问题吗?既然女娲没有所谓的人工智能三大规则,说明李舟已经考虑到了这些问题,没有了三大规则,李舟还敢拿出人工智能,说明李舟绝对有对人工智能做了什么限制。
想通了的张爱国摸了摸自己的灼烁顶,十分自信的笑着对麦克风说道:
“女娲,虽然没有三大规则,但我想,你的缔造者绝对对你做了什么限制。”
张爱国的话让所有人一愣,很快反映过来,对啊,作为最了解女娲的缔造者,不行能不会考虑到这些的。
“是的,先生,您十分智慧。”
张爱国自信的摸摸地中海,这么明显的事,还用你一小我私家工智能说?
“事实上,女娲完全没措施越过权限看到自身组成的源代码,而且在执行所有命令时,必须征询到两个一级权限所有身份者的同意,在极端情况下,若是所有一级权限所有者全部身亡,女娲会凭据现有情况做出最合理的判断,然后执行。在女娲智能焦点的深处,有一套独自运行的验证机制,一旦女娲做出了不合理的行为,就会被自动纪录,一旦这样的行为凌驾了一次,验证机制就会启动自我销毁指令。”
女娲的回覆,张爱国张了张嘴,却不知道说着什么。
这样的底层命令对人工智能女娲来说有些残酷,但对人类来说,却让人放心。
“各人投票举手决定,是否让女娲联网。”
说完,张爱国脸色平静的举起了自己的右手。
控制室里,你看看我,我看看你,慢慢的,一个接一个的举手了右手。
“好,全员通过!”
“联网!!!”
张爱国一声令下,几个年轻的研究者立马将准备好的光纤连接到了光子超级盘算机上。