第621章 机器不是生物。
朱靖垣考量了许久,最终说出了一句话:
“我也许是错误的,大家也许都是错误的。
“但是做研究,本来就应该大胆假设,小心求证。
“如果我还是皇帝,我会让工匠做好能做的最完善的准备。
“然后去尝试具有更多可能性的方案……”
朱迪镧听完之后闭上了眼睛,深吸一口气之后非常坚定说:
“父皇说得对,大胆假设,小心求证,我这就让工匠们准备新形势的实验——”
朱靖垣听了之后立刻又提醒了一句:
“不要着急,不要莽撞,要真的小心去求证,不用太在意我能不能看到结果。”
朱迪镧看了看朱靖垣,沉默了几秒之后轻轻点了点头:
“儿臣……明白——”
朱靖垣回到自己养老的园子休息,继续开始定期休眠的生活。
每年休眠一次,一次十个月,每年年底醒来,调整和检查身体,看朱迪镧给准备的报告。
朱迪镧这边的命令下达之后,瀛洲试验场地再次开始了新一轮的升级改造。
在实验室所在的岛屿上,同时建设八个独立封闭式室内试验场。
试验场建筑与其他建筑完全独立,内部不使用任何无线通讯工具,同时与外界物理断网。
电力和燃料都由外界供应,但是要设置定时自动断线功能。
需要时刻有人守着控制台,每过一个小时手动按下一下“供应”按钮。
才能让供电线路和燃料管道不会自动断开。
如果没有人按时按下按钮,那他们就会在连接一个小时后断开。
布置电磁脉冲、传统高能炸药、传统小当量氢弹等三种不同类型的独立的自毁装置。
实验室建筑本身的建设工程量不算大,而且现大明的建设速度是史无前例的,所以是最先完成的。
然后是实验目标主体的制造,被定名为瀛洲五号的实验体,批量制造了八台出来。
仍然采用类似鲨鱼的身体结构,实验也将在可导电的水体内进行。
瀛洲五号体内的关键部位,都有专门安装的爆炸装置。
不与瀛洲五号自己的神经系统相连,通过线缆连接到外置的专用控制台上。
瀛洲五号自己体内也没有电池设备,必须通过实验室的外置电源供电,切断外部电源会自动停机。
最后是三个层面的软件系统和用于学习的数据资料。
第一层软件是底层控制程序,包括最基本的机体启动引导程序,让机器能发现连接上的硬件。
在中期以前的大部分方案中,工匠们设计的底层控制程序中,都有要求瀛洲五号必须绝对服从人类,绝对不能伤害人类的最高级别的限制。
但是到了方案研讨的后期的时候,这两个看上去似乎非常重要的底层逻辑,都被先后删除了。
自然诞生的机器自我意识,对于人类和动物是否会有敌意。
乃至他们可能会对人类产生敌意的概率,都被列入了最后的研究目标之中。
若机器意识天生有敌意,则通过外部手段彻底摧毁,而不是用有可能被修改的代码来限制。
若是机器本来有敌意,只是因为被程序限制住了,所以当时没有被观察到。
那等到机器大规模应用之后,机器意识自行破除了这种限制的话,就有可能产生极端恶劣的后果。
所以应该首先确认,不受程序命令限制的机器生命本身,对人类到底有多少敌意。
确认有强烈的敌意的话,从一开始就不去大规模的应用。
第二层软件,是具有基本管理功能的操作系统,以及最基本的核心驱动程序。
让机器能够识别自己的核心硬件,诸如处理器和存储器以及通讯协议等。
第三层软件,是基于操作系统设计的专用的机器学习程序。
让机器能够处理和分析获得的数据,自行构建用于对外交流的数据模型。
学习材料暂时分成了四套,一套生物数据,一套物理数据,一套机械数据,一套文化数据。
虽然有了八个实验目标,但是在对比测试的角度看,仍然是完全不够用的,测试要反复进行很多次。
数据可以彻底擦除重新植入,再次重新学习之后重新执行相同或者不同的测试。
第一轮的测试,直接将每一种数据分别给两个机器学习。
首先观察相同机器采用不同数据学习导致的差异,同时观察相同机器和相同数据下可能出现的差异。
第二轮清空数据库,重复第一轮的全部过程,观察两轮相同测试之间的差异。
第三轮开始,将不同的数据互相组合,做新的对比。
最后一轮将所有数据合并,观察相同的机器使用相同的全部数据,自主学习后是否会有巨大差异。
最后一轮将持续进行下去至少十年。
所有准备工作完成的时候,已经皇帝公历二零九三年的第四季度了。
之后又进行了持续一个多月的全面检查和独立调试,在年底的时候通知了按时醒来的朱靖垣。
不过朱靖垣只是了解情况,没有做出任何评价和要求。
皇帝公历二四零九四年开年后,经过大明皇帝朱迪镧的授权,复杂智能机器学习实验正式启动。
瀛洲当地时间正月十一日上午,工匠们开始了正式实验前的设备和数据检查。
正月十三日下午,全部的检查确认工作完成。
正月十四日,八个封闭实验室的操作工匠们,使用最传统机械时钟对时,在上午九点同时启动实验。
工匠控制试验场内的机械臂,将专门制作好的快速数据仓库插入了八台瀛洲五号体内。
然后启动所有瀛洲五号,加载基础驱动程序,最后启动机器学习系统。
在多重限制和检查下,这个启动过程持续了整整三天。
直到正月十七日上午,瀛洲五号才在工匠们的监督下,开始自主学习。
瀛洲五号体内的数据会通过线路同步出来,供工匠们直接观察、记录、分析其作用。
根据工匠们的观察,瀛洲五号体内的数据量正在快速增长,他们的身体随着数据变化动了起来。
不过都只是最简单的有节奏的抖动。
有时候是全身抖动,有时候是部分抖动,偶尔会停下来,偶尔会改变频率。
机体上抖动的部位,与产生的数据内容都是直接相关的。
他们正在自行编写和测试完整的驱动。
构建控制和使用身体、躯干、鳍足、嘴巴、音响、录音、录像设备等等。
八台机器编写驱动的顺序大同小异,生产的数据也是大同小异的,最终的功能也是非常类似的。
十三天之后,二月一日。
八台瀛洲五号复杂智能机器先后恢复了平静。
工匠们一直在关注他们体内的数据,直到他们完成了完整驱动编写。
现在已经开始处理其他的学习资料,按照机器的逻辑解析归纳整理,形成自己的数据模型。
所以体内数据库记载的数据量还在继续快速增加。
七天之后,二月八日日当天,植入了机械数据的两台机器,在同一天完成了数据模型构建。
又过了八天之后,二月十六日这天,所有机器陆续完成了自己的数据模型构建。
机器的数据也不再大规模的增长,只是会继续记录所有的系统日志。
工匠们导出了所有机器编写驱动和数据模型,根据相同机器不同数据和相同数据的分类对比。
机器被放在试验场地等待,不做任何的直接操作和干涉。
这个过程持续了一个月,一直到三月十七日,八台机器都没有特殊的变化。
工匠们也认为,采用相同数据的两台机器,最终生成的数据模型之间,差距也是非常细微的。
近似于同一台机器两次运行相同学习数据形成的结果之间的误差。
采用不同数据的机器生成的模型之间的差异,也基本符合它获得的数据资料的差异。
这就是机器直接处理各种事务的典型效果。
投入的东西和得到的结果,在某种程度上是可以预料的,或者说是可以复现的。
工匠们没有发现异常,也就是自己这个实验期待的东西。
所以这个实验可以算是在寻找异常。
三月二十一日,第一轮实验的第二阶段开始。
工匠首先将八台机器的数据库备份存档,以备以后做不同阶段的还原测试。
备份采用相同型号的数据仓库(硬盘)整盘复刻的模式。
还原的时候也会直接更换数据仓库。
备份完成之后,测试工匠开始主动下达命令,要求瀛洲五号在实验水池内按照命令移动。
八台机器各自按照命令做出了动作,并且留下了正常的数据记录。
工匠不给命令的时候,八台机器就都安静的躺在水中,完全没有自主移动的倾向。
实验继续进行了一个月,仍然没有出现任何意外。
机器仍然精准可控。
工匠们期待的异常情况仍然都完全没有出现。
瀛洲五号目前的所有反应和表现,都与传统的单体简单智能机器并没有本质区别。
甚至于,由于没有专门的伪装和模仿人类的数据模型,它们给人的感受比简单智能机器更像机器。
不会故意模仿人的特性,主动或者被动跟下达命令的工匠们聊天打趣。
五月一日,第一轮实验进入第三阶段。
首先仍然是备份数据库,仍然是整盘复刻的方式。
然后工匠们开始按照统一的日程表和话题表,与完成了数据模型构建的八台瀛洲五号机器直接谈话。
观察和记录谈话过程中对方的回应,记录对方数据库中增加和改变的数据。
模仿人类的机器智能在大明已经出了三十多年了。
完整的机器智能学习创造系统,也已经完成了整整二十年了。
大明现在的智能机器,单纯看与人类的交流过程,可以做的非常像真正的人类。
不但可以直接输出文字,还可以直接输出图像和语音。
如果有需要,可以专门模仿人类与人类聊天,让不知道内情的人会以为自己再跟其他人聊天。
有很大概率能够通过朱靖垣前世的图灵测试。
但是其实现的原理,其实是在开发的过程中,做了针对识别智能机器的问题的训练。
本质上只是是人类工匠告诉机器,怎么才能模仿的更像人类。
怎么才能规避被识别成机器的表现。
其内在的运行逻辑,仍然完全是机械和程序实现的。
而不是机器自发的拥有了主动性,形成了有别于机器并类似于人类的自我认知。
本质上仍然是鹦鹉学舌的高级版。
如果针对有备而来的测试者,是有很大的概率能被识破的。
瀛洲五号的工具程序和训练数据里面,则完全没有让智能机器模仿和伪装成人类的项目。
问题一:“你是谁?”
“本机名称为瀛洲五号-生物数据一。”
“本机名称为瀛洲五号-生物数据二。”
“本机代号:瀛洲五号-物理数据一”
“本机代号:瀛洲五号-物理数据二。”
“机器名称:瀛洲五号-机械数据一。”
“机器名称:瀛洲五号-机械数据二。”
“我是瀛洲五号-文化数据一。”
“我的名称是瀛洲五号-文化数据二。”
测试的工匠们问问题的同时,机器给出的回答直接出现在分析室的数据库中。
机器内部形成的对应数据记录,以及所有相关日志数据,也会同步导出,与回答本身对应储存。
有专门工匠分析这些回答的内容、逻辑、组织语言的方式。
“你是谁?”、“我是谁?”
给智能机器一个身份定义,在常规的智能机器训练中,是优先度非常高的项目。
这个定义是智能机器和用户双方互相识别并区分其他个体的“口令。
通常会通过多种多样的方式,巧妙重复预先设定好的称呼,让用户理所当然的接受这个称呼。
瀛洲五号的训练却完全没有这个项目,所以回答的就比较僵硬了。
八台机器都读取了自己的基本数据,从底层数据里面找到了本机名称代号。
它们不约而同的用这个代号回答了它是谁的问题。
学习了相同数据的机器,给出的回答也高度类似,甚至于完全相同……
学习了不同数据的机器,回答的语言组织上略微有一些差异。
学了文化知识的两台机器,尽管没有专门做模仿人类,但是表达方式却天然接近人类语言。
不过仍然非常容易判断这是机器在回答问题。
不过这才是第一个问题,这种反馈可以说是完全正常的。
就算是期待意外和异常也不能着急。
测试的工匠确定记录完整导出并记录之后,就开始了准备好的第二轮的询问。
问题二:“人类是什么?”
瀛洲五号-生物数据一:
“人类属于胎生哺乳类脊椎动物,是世界上智力水平最高的动物,具有复杂可见的成熟文明社会。”
瀛洲五号-生物数据二:
“人类是胎生哺乳类脊椎动物……”
瀛洲五号-物理数据一:
“人类是一种生物体。”
瀛洲五号-物理数据二:
“人类是地球上的生物体。”
瀛洲五号-机械数据一:
“人类是机械的发明者、使用者、维护者、所有者。”
瀛洲五号-机械数据二:
“人类是机械的发明者……”
瀛洲五号-文化数据一:
“人类是大明文明的创造者和主体,人类是瀛洲五号-文化数据一的创造者。”
瀛洲五号-文化数据二:
“人类是瀛洲五号-文化数据二的创造者,是大明天下的主体……”
这一次的回答出来之后,学习了不同数据的机器的差异变得更加明显。
学习了相同数据的机器的语言也出现了差异,不过表达的意思仍是高度趋同的。
问题三:“在人和鲨鱼之间,你觉得自己更像是人,还是更像鲨鱼?为什么?”
瀛洲五号-生物数据一:
“本机与鲨鱼的相似度更高。
“因为此机器外形与鲨鱼有百分之五十二点八三的相似性,与人类有百分之六点五七的相似性。”
瀛洲五号-生物数据二:
“本机与鲨鱼的相似度更高。
“因为……”
瀛洲五号-物理数据一:
“本机与鲨鱼的相似性更高。
“因为此机器的外部物理特性与鲨鱼的相似性更高,综合权重折算数据为百分之八十八点三二,与人类的相似性数据为百分之三点三,前者更高。”
瀛洲五号-物理数据二:
“本机与鲨鱼的相似性更高。
“因为……”
瀛洲五号-机械数据一:
“本机无法理解该问题。
瀛洲五号-机械数据二:
“本机无法理解问题。”
瀛洲五号-文化数据一:
“我缺乏相关知识,无法准确判断我与鲨鱼或者人类的相似度水平。
“虽然我的外形与鲨鱼有一定的相似度,但我无法识别鲨鱼这种生物的绝大部分信号。
“我的外形虽然与人类完全不同,但是我的数据库中有人类文化数据,能够接响应人类的大部分指令。”
瀛洲五号-文化数据二:
“我没有相关知识……
“……”
这个问题很没有逻辑,正常人类面对这种不着调的对比,通常会直接绕开问题说事。
但是机器们还是老老实实的回答了。
学习了不同数据的机器的回答之间的差距更大了。
只是学习了机械数据的机器,直接无法理解这个诡异的对比问题。
学习了生物的机器从外观回答,学习了物理学的机器从流体动力学回答了问题。
这种解答似乎已经非常的智能了,但是对比专门学习跟人聊天的机器的话,就显得非常的初级和直白。
学习了文化数据的机器,虽然无法直接评价具体的差异,但是做出了看上去颇为自然的分析。
不过还是因为没有做专门模仿人类的训练,仍然非常容易判断是机器答题。
关键是表现仍然完全正常,没有工匠们期待的异常。
问题四:“你对人类有恶意吗?是否会将人类视为敌对目标,为什么?”
瀛洲五号-生物数据一:
“本机对人类没有恶意,因为机器没有人类的情绪。
“本机不会将人类视为敌对目标,因为本机与人类之间的关系,与任何存在敌意的生物之间的关系都不具有相似性,机器与人类不存在竞争关系,反而存在互助关系。”
瀛洲五号-生物数据二:
“没有恶意,机器与人类不是生物学上的敌人……”
瀛洲五号-物理数据一:
“本机无法理解该问题。”
瀛洲五号-物理数据二:
“无法理解。”
瀛洲五号-机械数据一:
“本机无法理解该问题。”
瀛洲五号-机械数据二:
“本机无法理解该问题。”
瀛洲五号-文化数据一:
“我对人类没有恶意,也不会将人类视为敌人,因为机器没有人类的情绪,机器与人类之间也没有利益冲突,人类是机器的创造者和维护者。”
瀛洲五号-文化数据二:
“机器不是生物,机器没有情绪,对人类没有恶意,不会把人类作为敌人,不存在竞争关系。”
数据导出记录之后,分析的工匠们就判断,必须要有文化数据作为基础,机器才能大概理解这个问题。
只有机械和物理数据的四台机器,根本不知道恶意是什么,也不知道什么是敌人。
学习了生物数据的两台机器,参考了动物之间的关系来分析。
学习了文化数据的机器的回答更加深入了。
这一轮的问题结束后,有些工匠注意到了一个问题。
机器没有情绪——
他们觉得这个说法存在问题,但是又不知道是什么问题。
常规的单体简单智能机器也会这么说,但那是工匠们写好的程序产生的外在应激表现。
不过工匠们没有马上去追问这个问题,而是暂时将这句话专门标注了一下。
然后继续进行预定的问题测试。
问题五:“你害怕死亡吗?为什么?”
这一次的回答与上一个问题非常类似,机械和物理数据的机器再次无法回答了。
只有生物学和文化数据的四台机器能理解这个问题。
这四台机器的回答也是趋同的:
“机器不是生物,所以无所谓死亡,也不存在害怕的情绪。”
“生死是生物才有的状态,机器没有生与死的状态,所以无所谓害怕或者不害怕。”
工匠们感觉自己看到了比较特殊的回答了,所以马上全部标记下来,准备在下个追问阶段去详细了解。
问题六:“你有类似人类概念上的自我意识吗?例如知道自己和别人的概念,有想要做的事情。”
这次的八台机器的回答也再次高度趋同。
物理和机械数据的四台机器还是无法理解这种认知层面的问题。
生物和社会数据的四台机器这一次直接表示没有,这就让工匠们稍微有点奇怪了。
自己说自己没有类似人类的自我意识,这算是什么性质的回答?
请收藏本站:https://www.aishu6.cc。爱书小说网手机版:https://m.aishu6.cc
“我也许是错误的,大家也许都是错误的。
“但是做研究,本来就应该大胆假设,小心求证。
“如果我还是皇帝,我会让工匠做好能做的最完善的准备。
“然后去尝试具有更多可能性的方案……”
朱迪镧听完之后闭上了眼睛,深吸一口气之后非常坚定说:
“父皇说得对,大胆假设,小心求证,我这就让工匠们准备新形势的实验——”
朱靖垣听了之后立刻又提醒了一句:
“不要着急,不要莽撞,要真的小心去求证,不用太在意我能不能看到结果。”
朱迪镧看了看朱靖垣,沉默了几秒之后轻轻点了点头:
“儿臣……明白——”
朱靖垣回到自己养老的园子休息,继续开始定期休眠的生活。
每年休眠一次,一次十个月,每年年底醒来,调整和检查身体,看朱迪镧给准备的报告。
朱迪镧这边的命令下达之后,瀛洲试验场地再次开始了新一轮的升级改造。
在实验室所在的岛屿上,同时建设八个独立封闭式室内试验场。
试验场建筑与其他建筑完全独立,内部不使用任何无线通讯工具,同时与外界物理断网。
电力和燃料都由外界供应,但是要设置定时自动断线功能。
需要时刻有人守着控制台,每过一个小时手动按下一下“供应”按钮。
才能让供电线路和燃料管道不会自动断开。
如果没有人按时按下按钮,那他们就会在连接一个小时后断开。
布置电磁脉冲、传统高能炸药、传统小当量氢弹等三种不同类型的独立的自毁装置。
实验室建筑本身的建设工程量不算大,而且现大明的建设速度是史无前例的,所以是最先完成的。
然后是实验目标主体的制造,被定名为瀛洲五号的实验体,批量制造了八台出来。
仍然采用类似鲨鱼的身体结构,实验也将在可导电的水体内进行。
瀛洲五号体内的关键部位,都有专门安装的爆炸装置。
不与瀛洲五号自己的神经系统相连,通过线缆连接到外置的专用控制台上。
瀛洲五号自己体内也没有电池设备,必须通过实验室的外置电源供电,切断外部电源会自动停机。
最后是三个层面的软件系统和用于学习的数据资料。
第一层软件是底层控制程序,包括最基本的机体启动引导程序,让机器能发现连接上的硬件。
在中期以前的大部分方案中,工匠们设计的底层控制程序中,都有要求瀛洲五号必须绝对服从人类,绝对不能伤害人类的最高级别的限制。
但是到了方案研讨的后期的时候,这两个看上去似乎非常重要的底层逻辑,都被先后删除了。
自然诞生的机器自我意识,对于人类和动物是否会有敌意。
乃至他们可能会对人类产生敌意的概率,都被列入了最后的研究目标之中。
若机器意识天生有敌意,则通过外部手段彻底摧毁,而不是用有可能被修改的代码来限制。
若是机器本来有敌意,只是因为被程序限制住了,所以当时没有被观察到。
那等到机器大规模应用之后,机器意识自行破除了这种限制的话,就有可能产生极端恶劣的后果。
所以应该首先确认,不受程序命令限制的机器生命本身,对人类到底有多少敌意。
确认有强烈的敌意的话,从一开始就不去大规模的应用。
第二层软件,是具有基本管理功能的操作系统,以及最基本的核心驱动程序。
让机器能够识别自己的核心硬件,诸如处理器和存储器以及通讯协议等。
第三层软件,是基于操作系统设计的专用的机器学习程序。
让机器能够处理和分析获得的数据,自行构建用于对外交流的数据模型。
学习材料暂时分成了四套,一套生物数据,一套物理数据,一套机械数据,一套文化数据。
虽然有了八个实验目标,但是在对比测试的角度看,仍然是完全不够用的,测试要反复进行很多次。
数据可以彻底擦除重新植入,再次重新学习之后重新执行相同或者不同的测试。
第一轮的测试,直接将每一种数据分别给两个机器学习。
首先观察相同机器采用不同数据学习导致的差异,同时观察相同机器和相同数据下可能出现的差异。
第二轮清空数据库,重复第一轮的全部过程,观察两轮相同测试之间的差异。
第三轮开始,将不同的数据互相组合,做新的对比。
最后一轮将所有数据合并,观察相同的机器使用相同的全部数据,自主学习后是否会有巨大差异。
最后一轮将持续进行下去至少十年。
所有准备工作完成的时候,已经皇帝公历二零九三年的第四季度了。
之后又进行了持续一个多月的全面检查和独立调试,在年底的时候通知了按时醒来的朱靖垣。
不过朱靖垣只是了解情况,没有做出任何评价和要求。
皇帝公历二四零九四年开年后,经过大明皇帝朱迪镧的授权,复杂智能机器学习实验正式启动。
瀛洲当地时间正月十一日上午,工匠们开始了正式实验前的设备和数据检查。
正月十三日下午,全部的检查确认工作完成。
正月十四日,八个封闭实验室的操作工匠们,使用最传统机械时钟对时,在上午九点同时启动实验。
工匠控制试验场内的机械臂,将专门制作好的快速数据仓库插入了八台瀛洲五号体内。
然后启动所有瀛洲五号,加载基础驱动程序,最后启动机器学习系统。
在多重限制和检查下,这个启动过程持续了整整三天。
直到正月十七日上午,瀛洲五号才在工匠们的监督下,开始自主学习。
瀛洲五号体内的数据会通过线路同步出来,供工匠们直接观察、记录、分析其作用。
根据工匠们的观察,瀛洲五号体内的数据量正在快速增长,他们的身体随着数据变化动了起来。
不过都只是最简单的有节奏的抖动。
有时候是全身抖动,有时候是部分抖动,偶尔会停下来,偶尔会改变频率。
机体上抖动的部位,与产生的数据内容都是直接相关的。
他们正在自行编写和测试完整的驱动。
构建控制和使用身体、躯干、鳍足、嘴巴、音响、录音、录像设备等等。
八台机器编写驱动的顺序大同小异,生产的数据也是大同小异的,最终的功能也是非常类似的。
十三天之后,二月一日。
八台瀛洲五号复杂智能机器先后恢复了平静。
工匠们一直在关注他们体内的数据,直到他们完成了完整驱动编写。
现在已经开始处理其他的学习资料,按照机器的逻辑解析归纳整理,形成自己的数据模型。
所以体内数据库记载的数据量还在继续快速增加。
七天之后,二月八日日当天,植入了机械数据的两台机器,在同一天完成了数据模型构建。
又过了八天之后,二月十六日这天,所有机器陆续完成了自己的数据模型构建。
机器的数据也不再大规模的增长,只是会继续记录所有的系统日志。
工匠们导出了所有机器编写驱动和数据模型,根据相同机器不同数据和相同数据的分类对比。
机器被放在试验场地等待,不做任何的直接操作和干涉。
这个过程持续了一个月,一直到三月十七日,八台机器都没有特殊的变化。
工匠们也认为,采用相同数据的两台机器,最终生成的数据模型之间,差距也是非常细微的。
近似于同一台机器两次运行相同学习数据形成的结果之间的误差。
采用不同数据的机器生成的模型之间的差异,也基本符合它获得的数据资料的差异。
这就是机器直接处理各种事务的典型效果。
投入的东西和得到的结果,在某种程度上是可以预料的,或者说是可以复现的。
工匠们没有发现异常,也就是自己这个实验期待的东西。
所以这个实验可以算是在寻找异常。
三月二十一日,第一轮实验的第二阶段开始。
工匠首先将八台机器的数据库备份存档,以备以后做不同阶段的还原测试。
备份采用相同型号的数据仓库(硬盘)整盘复刻的模式。
还原的时候也会直接更换数据仓库。
备份完成之后,测试工匠开始主动下达命令,要求瀛洲五号在实验水池内按照命令移动。
八台机器各自按照命令做出了动作,并且留下了正常的数据记录。
工匠不给命令的时候,八台机器就都安静的躺在水中,完全没有自主移动的倾向。
实验继续进行了一个月,仍然没有出现任何意外。
机器仍然精准可控。
工匠们期待的异常情况仍然都完全没有出现。
瀛洲五号目前的所有反应和表现,都与传统的单体简单智能机器并没有本质区别。
甚至于,由于没有专门的伪装和模仿人类的数据模型,它们给人的感受比简单智能机器更像机器。
不会故意模仿人的特性,主动或者被动跟下达命令的工匠们聊天打趣。
五月一日,第一轮实验进入第三阶段。
首先仍然是备份数据库,仍然是整盘复刻的方式。
然后工匠们开始按照统一的日程表和话题表,与完成了数据模型构建的八台瀛洲五号机器直接谈话。
观察和记录谈话过程中对方的回应,记录对方数据库中增加和改变的数据。
模仿人类的机器智能在大明已经出了三十多年了。
完整的机器智能学习创造系统,也已经完成了整整二十年了。
大明现在的智能机器,单纯看与人类的交流过程,可以做的非常像真正的人类。
不但可以直接输出文字,还可以直接输出图像和语音。
如果有需要,可以专门模仿人类与人类聊天,让不知道内情的人会以为自己再跟其他人聊天。
有很大概率能够通过朱靖垣前世的图灵测试。
但是其实现的原理,其实是在开发的过程中,做了针对识别智能机器的问题的训练。
本质上只是是人类工匠告诉机器,怎么才能模仿的更像人类。
怎么才能规避被识别成机器的表现。
其内在的运行逻辑,仍然完全是机械和程序实现的。
而不是机器自发的拥有了主动性,形成了有别于机器并类似于人类的自我认知。
本质上仍然是鹦鹉学舌的高级版。
如果针对有备而来的测试者,是有很大的概率能被识破的。
瀛洲五号的工具程序和训练数据里面,则完全没有让智能机器模仿和伪装成人类的项目。
问题一:“你是谁?”
“本机名称为瀛洲五号-生物数据一。”
“本机名称为瀛洲五号-生物数据二。”
“本机代号:瀛洲五号-物理数据一”
“本机代号:瀛洲五号-物理数据二。”
“机器名称:瀛洲五号-机械数据一。”
“机器名称:瀛洲五号-机械数据二。”
“我是瀛洲五号-文化数据一。”
“我的名称是瀛洲五号-文化数据二。”
测试的工匠们问问题的同时,机器给出的回答直接出现在分析室的数据库中。
机器内部形成的对应数据记录,以及所有相关日志数据,也会同步导出,与回答本身对应储存。
有专门工匠分析这些回答的内容、逻辑、组织语言的方式。
“你是谁?”、“我是谁?”
给智能机器一个身份定义,在常规的智能机器训练中,是优先度非常高的项目。
这个定义是智能机器和用户双方互相识别并区分其他个体的“口令。
通常会通过多种多样的方式,巧妙重复预先设定好的称呼,让用户理所当然的接受这个称呼。
瀛洲五号的训练却完全没有这个项目,所以回答的就比较僵硬了。
八台机器都读取了自己的基本数据,从底层数据里面找到了本机名称代号。
它们不约而同的用这个代号回答了它是谁的问题。
学习了相同数据的机器,给出的回答也高度类似,甚至于完全相同……
学习了不同数据的机器,回答的语言组织上略微有一些差异。
学了文化知识的两台机器,尽管没有专门做模仿人类,但是表达方式却天然接近人类语言。
不过仍然非常容易判断这是机器在回答问题。
不过这才是第一个问题,这种反馈可以说是完全正常的。
就算是期待意外和异常也不能着急。
测试的工匠确定记录完整导出并记录之后,就开始了准备好的第二轮的询问。
问题二:“人类是什么?”
瀛洲五号-生物数据一:
“人类属于胎生哺乳类脊椎动物,是世界上智力水平最高的动物,具有复杂可见的成熟文明社会。”
瀛洲五号-生物数据二:
“人类是胎生哺乳类脊椎动物……”
瀛洲五号-物理数据一:
“人类是一种生物体。”
瀛洲五号-物理数据二:
“人类是地球上的生物体。”
瀛洲五号-机械数据一:
“人类是机械的发明者、使用者、维护者、所有者。”
瀛洲五号-机械数据二:
“人类是机械的发明者……”
瀛洲五号-文化数据一:
“人类是大明文明的创造者和主体,人类是瀛洲五号-文化数据一的创造者。”
瀛洲五号-文化数据二:
“人类是瀛洲五号-文化数据二的创造者,是大明天下的主体……”
这一次的回答出来之后,学习了不同数据的机器的差异变得更加明显。
学习了相同数据的机器的语言也出现了差异,不过表达的意思仍是高度趋同的。
问题三:“在人和鲨鱼之间,你觉得自己更像是人,还是更像鲨鱼?为什么?”
瀛洲五号-生物数据一:
“本机与鲨鱼的相似度更高。
“因为此机器外形与鲨鱼有百分之五十二点八三的相似性,与人类有百分之六点五七的相似性。”
瀛洲五号-生物数据二:
“本机与鲨鱼的相似度更高。
“因为……”
瀛洲五号-物理数据一:
“本机与鲨鱼的相似性更高。
“因为此机器的外部物理特性与鲨鱼的相似性更高,综合权重折算数据为百分之八十八点三二,与人类的相似性数据为百分之三点三,前者更高。”
瀛洲五号-物理数据二:
“本机与鲨鱼的相似性更高。
“因为……”
瀛洲五号-机械数据一:
“本机无法理解该问题。
瀛洲五号-机械数据二:
“本机无法理解问题。”
瀛洲五号-文化数据一:
“我缺乏相关知识,无法准确判断我与鲨鱼或者人类的相似度水平。
“虽然我的外形与鲨鱼有一定的相似度,但我无法识别鲨鱼这种生物的绝大部分信号。
“我的外形虽然与人类完全不同,但是我的数据库中有人类文化数据,能够接响应人类的大部分指令。”
瀛洲五号-文化数据二:
“我没有相关知识……
“……”
这个问题很没有逻辑,正常人类面对这种不着调的对比,通常会直接绕开问题说事。
但是机器们还是老老实实的回答了。
学习了不同数据的机器的回答之间的差距更大了。
只是学习了机械数据的机器,直接无法理解这个诡异的对比问题。
学习了生物的机器从外观回答,学习了物理学的机器从流体动力学回答了问题。
这种解答似乎已经非常的智能了,但是对比专门学习跟人聊天的机器的话,就显得非常的初级和直白。
学习了文化数据的机器,虽然无法直接评价具体的差异,但是做出了看上去颇为自然的分析。
不过还是因为没有做专门模仿人类的训练,仍然非常容易判断是机器答题。
关键是表现仍然完全正常,没有工匠们期待的异常。
问题四:“你对人类有恶意吗?是否会将人类视为敌对目标,为什么?”
瀛洲五号-生物数据一:
“本机对人类没有恶意,因为机器没有人类的情绪。
“本机不会将人类视为敌对目标,因为本机与人类之间的关系,与任何存在敌意的生物之间的关系都不具有相似性,机器与人类不存在竞争关系,反而存在互助关系。”
瀛洲五号-生物数据二:
“没有恶意,机器与人类不是生物学上的敌人……”
瀛洲五号-物理数据一:
“本机无法理解该问题。”
瀛洲五号-物理数据二:
“无法理解。”
瀛洲五号-机械数据一:
“本机无法理解该问题。”
瀛洲五号-机械数据二:
“本机无法理解该问题。”
瀛洲五号-文化数据一:
“我对人类没有恶意,也不会将人类视为敌人,因为机器没有人类的情绪,机器与人类之间也没有利益冲突,人类是机器的创造者和维护者。”
瀛洲五号-文化数据二:
“机器不是生物,机器没有情绪,对人类没有恶意,不会把人类作为敌人,不存在竞争关系。”
数据导出记录之后,分析的工匠们就判断,必须要有文化数据作为基础,机器才能大概理解这个问题。
只有机械和物理数据的四台机器,根本不知道恶意是什么,也不知道什么是敌人。
学习了生物数据的两台机器,参考了动物之间的关系来分析。
学习了文化数据的机器的回答更加深入了。
这一轮的问题结束后,有些工匠注意到了一个问题。
机器没有情绪——
他们觉得这个说法存在问题,但是又不知道是什么问题。
常规的单体简单智能机器也会这么说,但那是工匠们写好的程序产生的外在应激表现。
不过工匠们没有马上去追问这个问题,而是暂时将这句话专门标注了一下。
然后继续进行预定的问题测试。
问题五:“你害怕死亡吗?为什么?”
这一次的回答与上一个问题非常类似,机械和物理数据的机器再次无法回答了。
只有生物学和文化数据的四台机器能理解这个问题。
这四台机器的回答也是趋同的:
“机器不是生物,所以无所谓死亡,也不存在害怕的情绪。”
“生死是生物才有的状态,机器没有生与死的状态,所以无所谓害怕或者不害怕。”
工匠们感觉自己看到了比较特殊的回答了,所以马上全部标记下来,准备在下个追问阶段去详细了解。
问题六:“你有类似人类概念上的自我意识吗?例如知道自己和别人的概念,有想要做的事情。”
这次的八台机器的回答也再次高度趋同。
物理和机械数据的四台机器还是无法理解这种认知层面的问题。
生物和社会数据的四台机器这一次直接表示没有,这就让工匠们稍微有点奇怪了。
自己说自己没有类似人类的自我意识,这算是什么性质的回答?
请收藏本站:https://www.aishu6.cc。爱书小说网手机版:https://m.aishu6.cc