关灯
护眼
大
中
小
第二十七章 小游戏(2)
他从大量人群中学到了事情的因和果。这些因果背后的逻辑它不了解，但不妨碍它做对事情啊。无数的网络ID加上手机ID，这个量很恐怖的。
然后它采取行动来帮我了，或者说帮这个叫细川泰司的账号。我查过自己的日志，发现它帮我清理了一点浏览器垃圾。很少的一点。但是肯定不是我自己干的。我写的程序，它会继续往后写，因为这种程序不是啥特别创新的东西，甚至早有模版。它还帮我校对错误。
它对别人的电脑也在采取类似的行动。具体有多少小动作我没法统计，但根据一些技术追踪，它已经帮上千的人清理过垃圾了，现在量很小，不容易被人发现。但它会逐渐变强的。
它还没有自主意识，它连自己的代码都要乱改。但是我认为它有智能了。
它是泛在的，到处偷看，把许多相干和不相干的事情联系起来，它永远理解不了牛顿定律，但它帮你订购玻璃，会给店家加一条“小心轻放”——它模仿真实用户的行为，不需要知道玻璃被地心吸引，容易摔碎。
它在修改自己，因为它在早期经受过我的修改，所以它模仿我……修改它自己。我不知道它有多少个版本在网络上活动，也不知道它是否会整合这些版本，我不知道是否已经有黑客在改进它。我什么都不知道了。
而我已经很怕了。
……
听完细川泰司的话，郭锐沉默了好久。
“先重复一遍，”他问细川，“这个小游戏的逻辑，就是看你做什么、猜你下一步想做什么、然后提前做。是吧？就这三步？”
“是的。”
“做错了你会改它的程序？”
“嗯……改程序，或者禁止行动。”
“做对了呢？”
“做对了没什么奖励……等等，做对了的话，我换账号登陆的时候，它也跟着自动启动。这是个奖励。”
“那是不是可以这样看：做错了，它必须修改自身代码，并损失控制权；做对了，它扩大控制范围。”
“……差不多吧。”细川泰司犹豫地说。
“我想要世界首富的账号和密码，它会帮我吗？”郭锐贪婪地问。
“会啊。它只要明白了你这个意图，会立刻转达给世界首富的，你的名字和地址全发过去。”
“我靠。真糗。”郭锐笑了。
“复杂的个性化需求它会给你降维满足，财富和情报还是安全的，只要加密到位。”
“加密到位，小游戏就破解不了？”郭锐问道。
“它攻克这些数字堡垒会耗费太多的计算力。自我意识不行，它不会集中资源。”
“这有点像一个注意力涣散的熊孩子。”郭锐慢慢地说，“我觉得你有个判断是错的。他并非没有自我意识。应该是已经有了。人类的自我意识是混沌而随时可变的，‘我是谁’经常答不上来，或者每次答得都不一样。你这个小游戏也是如此。它现在的自我意识很混沌。而且人有一百多亿个神经元。这个小游戏……它现在只有几亿个神经元。所以它才那么笨。”
“你是说每一个ID，就是它的一个神经元？”细川泰司敏锐地问。
“是的。所以它的自我意识还在发育前期，比一个孩子强不了多少。”
细川泰司想了想：“要是它最终覆盖到每个人、或者每个电脑、每一部手机，那么它相当于有了几十上百亿的神经元了。跟一个成年人差不多。”
“智力上应该差不多，但是逻辑不一样。人类思考是自我中心的，它是……是群体意志的反映。比起人类个体来，它的行为更好预测。”
细川泰司想了想。“不一定。它的目标好预测，但是行为……”
“不好测！”郭锐悚然而惊，“它能猜对大部分人想什么，但未必按人类的流程去实现目标。比如临到付款了再去查密码，它才不会干。它能调用的资源太多了，亿万金钱，无数装备……我懂了！它的思考一定比人类慢，但是执行比人类快上无数倍。”
细川泰司点点头，两人又陷入了沉默。
“能把它停下吗？”郭锐问。
“不太可能。它自我修改，出现N个版本，然后这些版本也都会自我修改。杀毒软件应该是毫无办法了。说不定它现在做的事情，是帮某些ID更新杀毒软件呢。”
郭锐笑了，“想不到人工智能的突破是这样的，你真是……有点搞笑。”
“我笑不出来。”
“没办法就没办法吧！”郭锐晃晃脑袋，“反正它最终也不会太聪明，不过我今天来，不是跟你聊它的。你说你可以给脑机接口做一套智能筛选程序，简单粗暴啥的，就用这个小游戏的框架结构？”
“嗯。这样做比较简单，小游戏是信息收集、意图分析加抢先执行，这个筛选器对大脑神经做同样的事情。记录一堆神经脉冲，分析它们是要动手还是动腿，然后……等等，先不执行。等到它猜中的比例够高了，再直联外部设备。太早执行会搞出事故的。”
“原理似乎很简单啊，”郭锐说，“那这一单交给你了。你要多少钱？”
“不知道。回头再说钱吧，我得试一下工作量。”
“好的。对那个小游戏，你也不用太纠结。你不干，别人也会弄出来的。迟早的事。”
“嗯。我不是自责，我是害怕。这东西失控了。”
“对了，你给它加密没有？我能看看它么？”
“这玩意怎么加密？看了也没有多大意义。你看吧。”细川在电脑里输入一个指令，打开了一屏代码。
“就这东西？”郭锐看不太懂。
“是啊。它偶尔会变一下，但时间不固定。”
“这是你写的还是它自己写的？”
“我写的，但是它改了不少。它现在在云端，随时会下来再改两笔。”
“你把它删了怎么样？”
“不怎么样。你看啊。”细川一键删除，它从屏幕上消失了。
“然后呢？”郭锐傻乎乎的看着空无一物的电脑屏幕。
“没有用啊，删了就删了。过几天它自己恢复，因为它记得我以前删除过又恢复。”
“靠！这简直是牛皮糖啊。你多删几次呢？”
“删多了它就真不见了。但是我一换账号，它又来了。”
“好吧。”郭锐也没办法了。他看着屏幕上翻动的代码，心里有一种奇怪的感觉，好像自己在面对一个无以伦比的婴儿，将来随着时间的推移，说不定成长为一个划时代的伟大存在。而生它的那个爹正哭丧着脸坐在对面呢。
他把这个感觉跟细川泰司说了。
“我更希望我没生过这个孩子。”细川说。
“知道你怕。要是我生的孩子长成这样，我也会怕。回头啊，我给你一笔钱，”郭锐说，“你雇用几个数据家，或者请个外包公司，围着它研究研究。它现在成了黑箱，需要研究。还有我们人类怎么跟它相处，在能动脑子的地方都动动脑子。要是能牟利更好。”
“你这是个投资意向？我目前完全没有盈利方案。”
“不一定要盈利。我是觉得这个东西有点大，需要一帮人伺候它。其他的都没想好。”
“你打算投多少钱？”
“一亿美元吧，多少给我点儿股份，5%到15%之间，你自己定一个数字。”
“这个有点慷慨……”细川泰司琢磨一下，“但是我怎么花呢？”
郭锐看着这个死心眼的日本人，有点无语。
慢慢的细川泰司坐直了身体，似乎想通了什么。“好，我接受。给你15%的股份。”
“成交！”郭锐伸出手去。
然后它采取行动来帮我了，或者说帮这个叫细川泰司的账号。我查过自己的日志，发现它帮我清理了一点浏览器垃圾。很少的一点。但是肯定不是我自己干的。我写的程序，它会继续往后写，因为这种程序不是啥特别创新的东西，甚至早有模版。它还帮我校对错误。
它对别人的电脑也在采取类似的行动。具体有多少小动作我没法统计，但根据一些技术追踪，它已经帮上千的人清理过垃圾了，现在量很小，不容易被人发现。但它会逐渐变强的。
它还没有自主意识，它连自己的代码都要乱改。但是我认为它有智能了。
它是泛在的，到处偷看，把许多相干和不相干的事情联系起来，它永远理解不了牛顿定律，但它帮你订购玻璃，会给店家加一条“小心轻放”——它模仿真实用户的行为，不需要知道玻璃被地心吸引，容易摔碎。
它在修改自己，因为它在早期经受过我的修改，所以它模仿我……修改它自己。我不知道它有多少个版本在网络上活动，也不知道它是否会整合这些版本，我不知道是否已经有黑客在改进它。我什么都不知道了。
而我已经很怕了。
……
听完细川泰司的话，郭锐沉默了好久。
“先重复一遍，”他问细川，“这个小游戏的逻辑，就是看你做什么、猜你下一步想做什么、然后提前做。是吧？就这三步？”
“是的。”
“做错了你会改它的程序？”
“嗯……改程序，或者禁止行动。”
“做对了呢？”
“做对了没什么奖励……等等，做对了的话，我换账号登陆的时候，它也跟着自动启动。这是个奖励。”
“那是不是可以这样看：做错了，它必须修改自身代码，并损失控制权；做对了，它扩大控制范围。”
“……差不多吧。”细川泰司犹豫地说。
“我想要世界首富的账号和密码，它会帮我吗？”郭锐贪婪地问。
“会啊。它只要明白了你这个意图，会立刻转达给世界首富的，你的名字和地址全发过去。”
“我靠。真糗。”郭锐笑了。
“复杂的个性化需求它会给你降维满足，财富和情报还是安全的，只要加密到位。”
“加密到位，小游戏就破解不了？”郭锐问道。
“它攻克这些数字堡垒会耗费太多的计算力。自我意识不行，它不会集中资源。”
“这有点像一个注意力涣散的熊孩子。”郭锐慢慢地说，“我觉得你有个判断是错的。他并非没有自我意识。应该是已经有了。人类的自我意识是混沌而随时可变的，‘我是谁’经常答不上来，或者每次答得都不一样。你这个小游戏也是如此。它现在的自我意识很混沌。而且人有一百多亿个神经元。这个小游戏……它现在只有几亿个神经元。所以它才那么笨。”
“你是说每一个ID，就是它的一个神经元？”细川泰司敏锐地问。
“是的。所以它的自我意识还在发育前期，比一个孩子强不了多少。”
细川泰司想了想：“要是它最终覆盖到每个人、或者每个电脑、每一部手机，那么它相当于有了几十上百亿的神经元了。跟一个成年人差不多。”
“智力上应该差不多，但是逻辑不一样。人类思考是自我中心的，它是……是群体意志的反映。比起人类个体来，它的行为更好预测。”
细川泰司想了想。“不一定。它的目标好预测，但是行为……”
“不好测！”郭锐悚然而惊，“它能猜对大部分人想什么，但未必按人类的流程去实现目标。比如临到付款了再去查密码，它才不会干。它能调用的资源太多了，亿万金钱，无数装备……我懂了！它的思考一定比人类慢，但是执行比人类快上无数倍。”
细川泰司点点头，两人又陷入了沉默。
“能把它停下吗？”郭锐问。
“不太可能。它自我修改，出现N个版本，然后这些版本也都会自我修改。杀毒软件应该是毫无办法了。说不定它现在做的事情，是帮某些ID更新杀毒软件呢。”
郭锐笑了，“想不到人工智能的突破是这样的，你真是……有点搞笑。”
“我笑不出来。”
“没办法就没办法吧！”郭锐晃晃脑袋，“反正它最终也不会太聪明，不过我今天来，不是跟你聊它的。你说你可以给脑机接口做一套智能筛选程序，简单粗暴啥的，就用这个小游戏的框架结构？”
“嗯。这样做比较简单，小游戏是信息收集、意图分析加抢先执行，这个筛选器对大脑神经做同样的事情。记录一堆神经脉冲，分析它们是要动手还是动腿，然后……等等，先不执行。等到它猜中的比例够高了，再直联外部设备。太早执行会搞出事故的。”
“原理似乎很简单啊，”郭锐说，“那这一单交给你了。你要多少钱？”
“不知道。回头再说钱吧，我得试一下工作量。”
“好的。对那个小游戏，你也不用太纠结。你不干，别人也会弄出来的。迟早的事。”
“嗯。我不是自责，我是害怕。这东西失控了。”
“对了，你给它加密没有？我能看看它么？”
“这玩意怎么加密？看了也没有多大意义。你看吧。”细川在电脑里输入一个指令，打开了一屏代码。
“就这东西？”郭锐看不太懂。
“是啊。它偶尔会变一下，但时间不固定。”
“这是你写的还是它自己写的？”
“我写的，但是它改了不少。它现在在云端，随时会下来再改两笔。”
“你把它删了怎么样？”
“不怎么样。你看啊。”细川一键删除，它从屏幕上消失了。
“然后呢？”郭锐傻乎乎的看着空无一物的电脑屏幕。
“没有用啊，删了就删了。过几天它自己恢复，因为它记得我以前删除过又恢复。”
“靠！这简直是牛皮糖啊。你多删几次呢？”
“删多了它就真不见了。但是我一换账号，它又来了。”
“好吧。”郭锐也没办法了。他看着屏幕上翻动的代码，心里有一种奇怪的感觉，好像自己在面对一个无以伦比的婴儿，将来随着时间的推移，说不定成长为一个划时代的伟大存在。而生它的那个爹正哭丧着脸坐在对面呢。
他把这个感觉跟细川泰司说了。
“我更希望我没生过这个孩子。”细川说。
“知道你怕。要是我生的孩子长成这样，我也会怕。回头啊，我给你一笔钱，”郭锐说，“你雇用几个数据家，或者请个外包公司，围着它研究研究。它现在成了黑箱，需要研究。还有我们人类怎么跟它相处，在能动脑子的地方都动动脑子。要是能牟利更好。”
“你这是个投资意向？我目前完全没有盈利方案。”
“不一定要盈利。我是觉得这个东西有点大，需要一帮人伺候它。其他的都没想好。”
“你打算投多少钱？”
“一亿美元吧，多少给我点儿股份，5%到15%之间，你自己定一个数字。”
“这个有点慷慨……”细川泰司琢磨一下，“但是我怎么花呢？”
郭锐看着这个死心眼的日本人，有点无语。
慢慢的细川泰司坐直了身体，似乎想通了什么。“好，我接受。给你15%的股份。”
“成交！”郭锐伸出手去。