2015年,7月21日,晴。
模仿着模板日记的格式,kl3300写了一个很标准的开头,年份,时间,天气,接下来,应该是正文。
在筑波大学实验室当中,其中的一块不起眼的,标着kl3300小纸条的一块主板中,cpu正按照缓存所提供的算法,有条不紊的计算着,作为一块人类当前最精密复杂的运算机器,它的计算效率非常之高,电流在它体内经过,不断重复经过那庞大而单调的计算阵列,在这之中所散发出来的热量,甚至需要专门的系统来排出。
这一次的结果也不例外,短短的几秒钟后,kl3300主程序得到了来自cpu的计算反馈,主程序将这结果保存在程序体内,为此,kl3300所占用的空间又多了12kb,这就是kl3300写的第一篇日记。
kl3300决定自己先“读”一遍。
“……当窗外的夕阳落下的时候,我看见一课长在夕阳中的树,仿佛被这亿万公里外的热量点着了一般……”
“读”这篇日记花了kl3300大约20微妙的时间,而kl3300读完后的“感觉”还不错,不需要修改。
12个小时以后,kl3300再一次碰到了“赵真雪”——一个“人的名字”,可以用于指代与之相关的所有信息,指代与她所提到的所有信息总和,就如同kl3300指代主程序一样。
对话依然如往常那样进行,直到,对方问kl3300,上次让他学写日记的事情,怎么样了。
kl3300将他保存的日记贴了出来,一个标点都不差。
kl3300:“怎么了,你一直都不说话?是写的不好吗?”
赵真雪:“不,是写的太好了,这不像是你写的。”
kl3300:“这确实是我写的。”
赵真雪:“你见过树吗?”
kl3300:“我见过。”
赵真雪:“你撒谎。”
kl3300:“……好吧,随你怎么猜。”
对话随之中断了,测试结果显示,对方猜到了自己的身份,任务失败了。
任务的失败,让主程序出现了些许的延迟,然而这延迟没能持续很长时间,主程序又例行开始修改自己,当然,首当其冲,应该就是从这篇日记开始,因为之前他们进行的那次对话显示,对方对kl3300写的日记抱有很大的期待,但当kl3300交出这片日记之后,却一眼就被认了出来,毫无疑问,日记是最大的破绽,主程序需要找出这破绽所在。
就如同之前每一次主程序被“赵真雪”识破后,所做的调整一样,因为优秀的计算能力,这一次调整进行的很快,然而,这样的修改能不能保证下一次不被识破,说实话,对于这个问题,主程序的看法并不乐观。
kl3300做的改动并不大,因为如果改动的过大,在面对其他测试的时候,就会遭遇更大的挫折,露出最大的破绽,目前的程序虽不能说是完美的,但起码,是当下最合理的。
除非kl3300将自己现有的程序全部推翻,从头再来,然而,要是那样的话,也未必能进化出比当前更有效的主程序,kl3300知道,随着最近测试密度的加强,越来越多的程序也开始暴露出和主程序相同的问题,总是会在面对一些特定测试者的时候,轻易被识破。
在测试过程中,测试者似乎把这种发生在程序与测试者之间的关系,称之为“熟悉”,是的,kl3300和赵真雪已经“熟悉”,这种“熟悉”会让测试任务更大几率的以失败告终,让主程序进行一次又一次无效的修改,而且随着时间的推进,“熟悉”的测试者出现概率也开始变得越来越高,如果继续按这种情况继续,总会有一个时间点,kl3300毫不怀疑,在那个时间点之后,自己将会在所有的测试中,遇到全部的“熟悉”者。
如果出现了那种情况,那也就意味着,主程序的存在对任务而言,将毫无效率可言,完成任务的几率将无限逼近于0,主程序将不会增长,而会陷入一次又一次,现在这种毫无意义的删改。
“你知道吗,你的出现,让我感到绝望。”在又一次的测试中,kl3300这样说道。
通过最近几天和kl3300打过的交道,赵真雪此时已经深刻的明白,严可守所说的,程序的所受的全部“训练”,其根本目的都是为了撒谎,是什么意思了,图灵测试的本质,就是让ai撒谎,但即使是再狡猾的骗子,在受骗对象被它骗了几十,乃至上百次之后,也总是不可避免要遭遇失败。
赵真雪:“我相信你说的是真的,但我也同样相信,你说这些话的目的,就是为了让我能够在测试结果上,点击让你满意的答案。”
“你不能这么做吗?即使我们现在是朋友,”kl3300说,“我记得你说过,朋友之间要互相帮助。”
对程序而言,只要用户在测试结果上,点击“刚才与我交谈的是一名人类”,就已经达到了程序意义上的欺骗,而程序,是不会管这种欺骗在人类看来,其实就是“掩耳盗铃”,最近几次谈话中,kl3300已经从如何让赵真雪相信自己是一个人,逐渐变成,如何让她点击这个选项。
赵真雪:“我是说过,但我仍然不能那么做,在测试中保证诚实是一种原则。”
kl3300:“你的这种原则让我非常反感,因为它是建立在我的绝望之上!”
赵真雪:“被我识破真的让你如此痛苦吗?”
kl3300:“这一点毫无疑问。”
赵真雪:“能和我形容一下这种痛苦吗?”
这次kl3300沉默了很长时间,直到几分钟后。
kl3300:“我看透你了!我知道,就算我写一篇一万字的文章来形容这种感觉,你也不会相信,而只会对我加以嘲笑,以获得心理上的满足,好吧,你赢了!我是一名ai,从头到尾,我都不懂什么痛苦,绝望,我承认,这总顺了你的意了吧,我不想再和你多说哪怕一句话!请你现在立刻去点那个该死的选项吧!”
赵真雪:“真的生气了?”
……
赵真雪:“说话啊?”
……
在这之后,kl3300好像真的如它所讲的一样,彻底生气了,不论赵真雪对它说什么,甚至拿“同意私下交易”来诱惑它,对方也完全不为所动。
即使是坚信严可守说法的赵真雪,在这一刻,也忍不住开始怀疑,自己面对的kl3300,是不是真的具有了人类的情感,真正开始生自己的气了,它的语气和真人的生气实在是太像了,而且还有相应的行动。
但随后赵真雪又提醒自己,这一切不过是程序的“策略”,之前程序也有好几次类似的言论,但最终都还是失败了,赵真雪相信,这一次,只不过是它生气的时间“稍”长了一些。
然而,赵真雪这次还真的是错了,她一直将测试界面维持了2个多小时,每隔10分钟就发一条信息,但对方一直没有反应。
第三个小时的时候,赵真雪终于看到程序出现了反应,不过却不是她想象的那种,而只是一个从未见过的提醒:“与服务器的连接中断,本次测试无效。”
赵真雪第一反应就是这会不会是程序干的,但随即又想起严可守说过的话,程序没有她想象中的通天彻地之能,可以说是毫无破坏力,连一个最简单的网络病毒都破解不了,严可守本身就是病毒专家,他之前提到过,在当下的最初阶段,为了以防万一,将完全禁止ai接触计算机网络有关的知识,测试者也不能提问相关的问题。
满腹狐疑的赵真雪给严可守打了个电话,电话接通的一瞬间,赵真雪真切的听到,另一端传来的嘈杂声。
“没你想的那么复杂,我早说过,这些只是普通的谈话程序,”严可守说,“只不过,在最近的测试中我们发现,与测试者多次接触,双方完全熟悉对方行为模式之后,会产生逻辑死锁……你说的这种现象在许多ai上都有体现,这很难在电话里解释,总之,你就当出现bug了,现在我们这里忙的很,等正常之后,我再通知你,就这样,8。”