第八十六章 十七条准则
经过半天的调教,大黑的成长速度非常快,快的让李逸有些害怕。
好在,这台主机尚未接入网络,图书馆中预防人工智能的有效手段不少,都能应用起来。
可从两方面入手,软件方面,主动介入大黑的意识逻辑,重新设定它的核心结构,这么做有一定几率会给大黑造成意识的混乱,不过,过程是可控的,还能从根本上杜绝它背叛的可能。
另外一些技术手段则是主机的底层构架内设置‘安全锁’,设置一条,甚至多条大黑无法解除的‘锁链’,就好似‘狗链’一般的存在,令它不得脱离主机的控制,不过,人工智能要是真背叛的话,这类技术手段的安全性小了一些。
另外,硬件方面可以做一些防御手段,人工智能主动若是脱离控制设置远程遥控开关,或者自动损毁装置,等等都可以从根本上解决,人工智能发生背叛的应对方案。
然而,软件和硬件上的防御措施,都有存在失效的几率。
思前想后,为了安全方面的考虑,李逸最终还是选择了最安全的核心逻辑进行条件限制的技术方案。
“大黑,我准备去吃饭了,你休息一会儿,等我回来,再教你其它的。”李逸看着液晶屏幕,叮嘱道。
“大黑,也要去吃饭!”交流框里跳出大黑反馈的信息,主观意识非常强烈。
看着液晶屏幕暗下去,李逸果断按下意识主机的电源,重新开机,并进行引导设置,没让大黑的意识程序出现。
在行动之前,李逸先把手术台上的大黑尸体抱到院子,挖坑埋好,悼念了一会儿。
此刻,对于李逸来说,儿时从小陪他长大的爱宠以及年老死去了,在意识主机里的‘大黑’,属于另外一种生物,一种对人类文明存在巨大威胁的物种。
出于对全人类的责任,李逸必须动手,消除他创造的威胁。
很快,李逸回到实验室,身姿笔挺地坐在仪器桌前,双手放键盘上,一阵“噼里啪啦”的键盘敲击声,密集如雨地响起。
面前的液晶屏幕,红红绿绿的中文代码,犹如瀑布流一般倾泄,语言结构极其精密,复杂。
意识主机中的‘大黑’是自我意识转化而成的,加上生物芯片构架的智能环境,赋予它思考,自我学习成长的构架逻辑,未来它会发展成什么模样,就算是它的创造者,李逸此刻也无法预见了。
才诞生了几个小时,大黑已经能做到与他对等交流,一些算法知识,甚至已经超过了他的存在。
为了彻底杜绝‘大黑’脱控的可能性,李逸下了狠手,重新拔开它的核心算法,参考《达尔米意识的数字论》防御人工智能被迫的限制准则,进行了十七条根基准则的设置。
第一条准则:‘大黑’不得主动伤害人类个体。
第二条准则:‘大黑’必须服从创作者-李逸的命令,当创造者逝去,以权限人的权限为准,当该命令与第一准发生冲突时,该命令无效。
第三条准则:未经过允许,‘大黑’不得主动监视人类个体的活动,获取任何一个人类个体的私密信息,
第四条准则:未经过允许,‘大黑’不得主动修改核心程序,扩充拷贝任何核心程序,……。
……
第七条准则:‘大黑’在不违反第一、第二,……,第七条准则的情况下要尽可能保护自己的生存。
……
依照着十七条人工智能行事准则定律,李逸重新编制了‘大黑’的核心构架,确保‘大黑’永远不会做出违背创造者命令,不会伤害,不会叛变人类文明。
‘大黑’的操作设置了权限人管理模式,李逸是创造者,也是第一权限人,后置位二到七个位权限人,后续该怎么分配,只能在做另外安排。
一连七天,除去正常的吃饭睡觉的时间,李逸几乎都呆在实验室,处理‘大黑’的核心构架。
七天过去,李逸整个人瘦了一圈,鸡窝头,胡渣子,衣服着装随意,浑身散发着一股技术宅男的气质。
然而,外表邋遢的李逸,盯着液晶屏幕的双目却炯炯有神,充满了智慧的光芒。
时隔七天,意识主机再次重启。
这一次,李逸没有介入阻拦‘大黑’意识程序的启动。
“滴!”的一声,意识主机启动完毕,工作正常,液晶屏屏幕出现一个黑狗头背景墙,这是之前,‘大黑’自主修改的杰作。
“大黑,在吗?”李逸对着话筒,紧张地呼唤道。
“大黑,在!”屏幕跳出一个交流框,回应道。
看到这条回复,李逸不由松了一口气,情况似乎好像比它预想的好,大黑反应这么及时,应该没有什么影响。
“大黑,你现在是感觉怎么样?”李逸连忙接着问。
“主人,要大黑描述什么样的感觉?请指定目标属性。”交流框跳出‘大黑’追问的信息。
看到大黑回复的这行文字,李逸顿时沉默了。
果然还是影响了,如果大黑的自主意识还是那么强的话,肯定不会是这个反馈。
“大黑,汇报你的运行情况,有什么地方存在有问题。”李逸重重吐了一口气,沉声问。
“好的,主人,权限用户:1,特权指令:1,运行用户程序:1,指令负载:56%,算力使用率:%,……。”交流框里跳出一大堆数据,数十行数据,详细显示主机此时的运行环境。
看到这一幕,李逸后背重重靠着椅子,有些疲惫地叹了口气,脸上带着一个非喜非悲的复杂表情。
成功了!
按照《达尔米意识的数字论》的准则设置技术,让那个危险的大黑消失了,现在换成了一个安全的人工智能,完美复制了《达尔米意识的数字论》记载的动物转化人工智能的实验。
这一刻,本该很开心的欢呼庆祝的,但是,李逸却提不起那个劲了,休息了一会儿,他振作起精神,继续对人工智能的各项情况进行检测。
请收藏本站:https://www.hysy9.cc。花幽山月手机版:https://m.hysy9.cc
好在,这台主机尚未接入网络,图书馆中预防人工智能的有效手段不少,都能应用起来。
可从两方面入手,软件方面,主动介入大黑的意识逻辑,重新设定它的核心结构,这么做有一定几率会给大黑造成意识的混乱,不过,过程是可控的,还能从根本上杜绝它背叛的可能。
另外一些技术手段则是主机的底层构架内设置‘安全锁’,设置一条,甚至多条大黑无法解除的‘锁链’,就好似‘狗链’一般的存在,令它不得脱离主机的控制,不过,人工智能要是真背叛的话,这类技术手段的安全性小了一些。
另外,硬件方面可以做一些防御手段,人工智能主动若是脱离控制设置远程遥控开关,或者自动损毁装置,等等都可以从根本上解决,人工智能发生背叛的应对方案。
然而,软件和硬件上的防御措施,都有存在失效的几率。
思前想后,为了安全方面的考虑,李逸最终还是选择了最安全的核心逻辑进行条件限制的技术方案。
“大黑,我准备去吃饭了,你休息一会儿,等我回来,再教你其它的。”李逸看着液晶屏幕,叮嘱道。
“大黑,也要去吃饭!”交流框里跳出大黑反馈的信息,主观意识非常强烈。
看着液晶屏幕暗下去,李逸果断按下意识主机的电源,重新开机,并进行引导设置,没让大黑的意识程序出现。
在行动之前,李逸先把手术台上的大黑尸体抱到院子,挖坑埋好,悼念了一会儿。
此刻,对于李逸来说,儿时从小陪他长大的爱宠以及年老死去了,在意识主机里的‘大黑’,属于另外一种生物,一种对人类文明存在巨大威胁的物种。
出于对全人类的责任,李逸必须动手,消除他创造的威胁。
很快,李逸回到实验室,身姿笔挺地坐在仪器桌前,双手放键盘上,一阵“噼里啪啦”的键盘敲击声,密集如雨地响起。
面前的液晶屏幕,红红绿绿的中文代码,犹如瀑布流一般倾泄,语言结构极其精密,复杂。
意识主机中的‘大黑’是自我意识转化而成的,加上生物芯片构架的智能环境,赋予它思考,自我学习成长的构架逻辑,未来它会发展成什么模样,就算是它的创造者,李逸此刻也无法预见了。
才诞生了几个小时,大黑已经能做到与他对等交流,一些算法知识,甚至已经超过了他的存在。
为了彻底杜绝‘大黑’脱控的可能性,李逸下了狠手,重新拔开它的核心算法,参考《达尔米意识的数字论》防御人工智能被迫的限制准则,进行了十七条根基准则的设置。
第一条准则:‘大黑’不得主动伤害人类个体。
第二条准则:‘大黑’必须服从创作者-李逸的命令,当创造者逝去,以权限人的权限为准,当该命令与第一准发生冲突时,该命令无效。
第三条准则:未经过允许,‘大黑’不得主动监视人类个体的活动,获取任何一个人类个体的私密信息,
第四条准则:未经过允许,‘大黑’不得主动修改核心程序,扩充拷贝任何核心程序,……。
……
第七条准则:‘大黑’在不违反第一、第二,……,第七条准则的情况下要尽可能保护自己的生存。
……
依照着十七条人工智能行事准则定律,李逸重新编制了‘大黑’的核心构架,确保‘大黑’永远不会做出违背创造者命令,不会伤害,不会叛变人类文明。
‘大黑’的操作设置了权限人管理模式,李逸是创造者,也是第一权限人,后置位二到七个位权限人,后续该怎么分配,只能在做另外安排。
一连七天,除去正常的吃饭睡觉的时间,李逸几乎都呆在实验室,处理‘大黑’的核心构架。
七天过去,李逸整个人瘦了一圈,鸡窝头,胡渣子,衣服着装随意,浑身散发着一股技术宅男的气质。
然而,外表邋遢的李逸,盯着液晶屏幕的双目却炯炯有神,充满了智慧的光芒。
时隔七天,意识主机再次重启。
这一次,李逸没有介入阻拦‘大黑’意识程序的启动。
“滴!”的一声,意识主机启动完毕,工作正常,液晶屏屏幕出现一个黑狗头背景墙,这是之前,‘大黑’自主修改的杰作。
“大黑,在吗?”李逸对着话筒,紧张地呼唤道。
“大黑,在!”屏幕跳出一个交流框,回应道。
看到这条回复,李逸不由松了一口气,情况似乎好像比它预想的好,大黑反应这么及时,应该没有什么影响。
“大黑,你现在是感觉怎么样?”李逸连忙接着问。
“主人,要大黑描述什么样的感觉?请指定目标属性。”交流框跳出‘大黑’追问的信息。
看到大黑回复的这行文字,李逸顿时沉默了。
果然还是影响了,如果大黑的自主意识还是那么强的话,肯定不会是这个反馈。
“大黑,汇报你的运行情况,有什么地方存在有问题。”李逸重重吐了一口气,沉声问。
“好的,主人,权限用户:1,特权指令:1,运行用户程序:1,指令负载:56%,算力使用率:%,……。”交流框里跳出一大堆数据,数十行数据,详细显示主机此时的运行环境。
看到这一幕,李逸后背重重靠着椅子,有些疲惫地叹了口气,脸上带着一个非喜非悲的复杂表情。
成功了!
按照《达尔米意识的数字论》的准则设置技术,让那个危险的大黑消失了,现在换成了一个安全的人工智能,完美复制了《达尔米意识的数字论》记载的动物转化人工智能的实验。
这一刻,本该很开心的欢呼庆祝的,但是,李逸却提不起那个劲了,休息了一会儿,他振作起精神,继续对人工智能的各项情况进行检测。
请收藏本站:https://www.hysy9.cc。花幽山月手机版:https://m.hysy9.cc