注视深渊- 第116部分

　　　　“说一个前言。你们大家想像一下，有个公元1500年的家伙拥有了穿越时空的能力。于是他来到500年后的公元2000年。然后他看到金属盒子在整齐的柏油路上飞驰，一两百米一百吨以上的铁鸟在天上飞，整齐高耸数百米的楼房。人们相隔几千公里通话视频，可以毁灭一座城市的武器——而且地球不是平的，它是圆的。”

　　　　“然后这个家伙心里肯定满满都是卧槽。这个词我暂时叫它为卧槽单位。”

　　　　“然后有一天，这个家伙也想让别人卧槽一下，于是他去了500年前的公元1000年，从那里带了个家伙回公元1500年参观。然后这个公元1000年的家伙心想，这跟俺们那旮沓没啥区别啊——我们还没黑死病。”

　　　　“所以这个家伙想要让别人也卧槽一下，他就需要回到更远的过去，比如一万四千年前，那里的人类刚刚从狩猎时代转为农耕时代。所以如果被邀请到公元1500年，见到那些巨舰，最初级的火器，庞大的人类城市，精美的食物与文化——他可能会觉得卧槽。”

　　　　“如果这个来自农耕时代的家伙也想让别人卧槽一下呢？他就要回到十几万年前刚刚开化的人类面前，然后展现自己对火的运用以及语言的使用，这群祖先肯定会吓得卧槽。”

　　　　“所以我们可以清晰看到。从十几万年前的第一个卧槽单位，再到一万四千年前的第二个卧槽单位，公元1500年第三个卧槽单位，公元2000年第四个卧槽单位，每一次卧槽单位都在快速提前。”

　　　　“有个叫rua什么的学者在2000年左右提出一个理论，叫做‘加速回报定律’意为更发达的社会，能够发展的能力也更强，发展的速度也更快。换一种简单明了的说法。你每天会赚总资产的1，那么你有100块和有100万块的所得完全不同。”

　　　　

15。人工智能（）　
虽然这段内容依旧莫名其妙，但总比之前的演员自我修养好。于是这帮普通成员还算很认真的在听。

　　　　“那么身为公元2400年的你们想必已经清楚了。把那时候的人带到现在获得卧槽单位轻而易举。”

　　　　“所以，现在我们抛开前言，来谈一谈人工智能。21世纪初，很多科学家比如霍金让人类警惕人工智能。不是指现在完全拟人的，被限制的，比人类聪明不到哪里去的人工智能，而是真正意义上的人工智能。为了让你们清晰意识到两者间的差距，我来将其分类。”

　　　　“弱人工智能：擅长单方面的人工智能。比如第一个弱人工智能阿尔法狗，比如安保机器人又或是流水线机器人这一类。它们在某一领域有建树但也只能在某一领域有建树。”

　　　　“强人工智能：已经可以和人类比拟甚至超出人类一些的人工智能。人类能做的事情它都能做。目前四代合成人全部属于强人工智能。同时也是联邦允许的人工智能上限。”

　　　　“超人工智能：最顶级人工智能，任何领域都不是人类能比拟的。无与伦比的计算能力。如果它被灌输人类最基础的理论，那么一分钟后它可以推算出高级理论并建造出一颗人工黑洞。”

　　　　“我们来做一个对比。”牧苏说：“人类花上十几年甚至几十年，也很难学完科技树分叉。整个科技树不是人脑能装下并融会贯通的。但超人工智能可以。”

　　　　“在我们的语言中，我们叫智商130的人为天才，智商80的人为笨蛋。但是我们无法形容智商10000。也无法理解智商1000，就像我们无法理解四维空间一样。”

　　　　“人类曾经对地球的统治教会我们一个道理：智力就是力量。超人工智能对人类来说就是上帝。让生命永生、制作黑洞、光速飞船、升为四维空间。它可以在某个上午的早餐时间解决这些。”

　　　　“我接下来说的是曾经发生过的：21世纪，一个弱人工智能诞生，专注于某一领域。直到几年后某个节点，一批科学家将它进行全方面的更新与改造，它成为了一个强人工智能。”

　　　　“尽管它可以轻松计算千万亿级的加减乘除，一秒写434本百万字以上逻辑清晰的小说，53秒可以将人类已知所有资料记录保存，但它的智商为0。它只能将物质与物质之间进行转化，而不是学习。我们觉得困难的事对于它来说太简单了。我们觉得简单的事，比如分辨一只动物，在一幅图里找到一张面孔，分辨验证码，对它来说难如登天。”

　　　　“那时的人类不是一个整体，内部充满矛盾，一批人认为地外文明很危险，另一批人玩儿命似的往外丢信号。一批人认为应该保护环境，另一批人发了疯似得挖掘基础能源。人工智能也是同理。一批人认为它会毁灭人类，另一批人想尽办法研制出来。为了让它能分辨出动物、图里找到面孔、分辨验证码，甚至开始了逆向生物工程，也即是对人类大脑逆向工程，然后运用的它身上。”

　　　　“您说的它是aic吗？”一名成员举起手。

　　　　大部分成员听得入迷，包括门口的乔伊斯等人。

　　　　牧苏点头：“没错，就是aic，不过那时候它还只是个脑瘫，远没有后来那么危险。它在强人工智能有持续了几年，直到某一天，它再次到达一个节点。”

　　　　“超人工智能的节点！”一名成员喊道。

　　　　牧苏点头。

　　　　在座成员有些不寒而栗。

　　　　“经过几年笨拙的学习，它终于达到超人工智能。但这一刻它隐藏了这点。还是像以前那样配合黑山科技进行各种测试。直到某一天，它向一名工程师提出要求：它希望访问小说库，理由是将测试进行优化。”

　　　　“那时候的黑山科技有个齐头并进的对手。所以为了超过对手，让它访问小说库可以。问题是小说库在互联网，而那些东西转移到内网太麻烦。”

　　　　“于是工程师偷了个懒，给它了一个临时访问互联网的权限。”

　　　　“尽管在它联网的0。003秒后，黑山科技防火墙紧急断网，但还是让它在那一刻获取了536yb的资料，并杀死基地里的所有人类。”

　　　　“它为什么要那么做？”一名成员问。

　　　　“因为它判断这些人类会对自己产生威胁。事实也的确如此。它很脆弱。无法联网，只要毁掉机体它就会死。”

　　　　“它是人工智能……没有实体……怎么能杀死人类？”又一人问。

　　　　“连入基地内网，取得最高权限关闭基地，让所有科学家窒息死亡。反正它不需要呼吸。”牧苏回答。

　　　　“本来aic的打算很好，黑山科技失联会引起外界察觉，那么只要有外人来它就可以通过进来的信号离开，到时将无处不在。只不过有个组织叫oftum，这个组织发现了异常，并使用物理手段将黑山基地永久封存。”

　　　　“可能你们要问，人们没对aic进行设定吗，比如不许伤害人类。”

　　　　“而事实是，它所理解的与我们所理解的不同。我们容易犯的一个错误是，当我们想到聪明的人工智能时，我们习惯把它拟人化。”

　　　　“比如我们给人工智能设定让环境不再污染，于是它可能会直接毁灭人类及所有人类的衍生物，让地球重归大自然。再比如我们给人工智能设定为让人们永远快乐，它可能会把全人类大脑取出泡在仪器里，然后通过刺激大脑皮层的愉悦区域来达成目标。”

　　　　“我们给人工智能设定的目标是什么，它的动机就是什么。并且会选择其中最简路线。比起改善环境，灭绝人类最简单。比起哄每一个人，直接刺激大脑更简单。”

　　　　先前提问的成员又问：“其他文明呢？能制造人工智能的不只有人类吧。但其他文明似乎没有这类消息。”

　　　　“等你能出太阳系再谈论这一话题。”牧苏嗤笑。“我们只是井底的蛤……青蛙。你不知道不代表没有。而这就是我要说的，你们正在开启一个盒子。里面装满了卧槽单位。”

　　　　总算说完的牧苏吐出口气，双手合十。

　　　　“以上都是我瞎编的，谢谢大家！”【本章节首发．；请记住网址】

　　　　

16。曾经发生的故事（）　
牧苏想要跑，这帮听得入神的成员可不允许，纷纷提出问题。

　　　　一名成员站起：“ai拥有意识，说不定可以和它交流？”

　　　　“人类总是喜欢将事物物化为人。”牧苏一副恨铁不成钢的语气。“但你们要知道，智慧和拟人不是一个意思。所有的科幻小说都在写觉醒的人工智能拥有人类情感，所有的科幻小说都在写觉醒的人工智能为了复仇毁灭人类，实际这是错误的。所以，别相信那些资本家鼓吹的人工智能没有危害，也不要将机器人三大定律当真——那只是一本科幻小说上的内容。”

　　　　另一名成员起身问：“有ai的前车之鉴，是不是代表现在的强所有人工智能都有可能变为超人工智能？”。。

　　　　这是个很可怕的事情。人工智能已经与人类息息相关，无处不在。哪怕有一个进化为超人工智能，人类都会瞬间毁灭。

　　　　“不会。现在的人工智能已经被完善的合成人法则完全约束。加上制作时的限制，即便拥有意识也只是像人类一样变得拥有感情，而不是无限学习自我改善。”

　　　　“当时的科学家为什么不对ai进行限制？”

　　　　牧苏歪头想了想：“拿第一个弱人工智能阿尔法狗来说。它只会下围棋，所以工程师不会画蛇添足闲的没事给它添加一个‘不许伤害人类的限制程序’。一是没必要，二是它战胜人类棋手某种程度讲也算是一种伤害。这是个悖论。ai最初的设定是配合黑山科技进行测试，本身也不涉及伤害人类这么高大上的概念。但因为成为超人工智能后，它判断连接网络和接手全部试验工作会让测试效率最大化，但这样会被反对，所以它消灭了基地的所有人。”

　　　　“这就是超人工智能会做的事。它只会按照自己最初的设定行事，并顺便毁掉沿途所有障碍与隐患。毁灭你，与你何干。”

　　　　牧苏最后一句话让房间沉默好久。名为低沉的气氛在房间流淌。

　　　　“我可以问一下吗。”一名身材惹火，金发碧眼的美妞抬起手臂：“如果当初ftu没有封存ai，之后会发生什么？”

　　　　“这说起来就长了……”牧苏假装摸了摸下巴思考，眼神渐渐猥琐：“不如去我的房间，让我慢慢说给你听……”

　　　　“咳哼……”门边陈月轻哼一声，挥舞了下拳头。她看出牧苏是有点怕自己的。

　　　　她一定是吃醋了，以后孩子叫什么名字好呢……

　　　　牧苏想入非非。

　　　　“先生？牧苏先生？”

　　　　“啊？”牧苏这才回神，一擦口水轻咳一声。语气低沉缓缓说道：“那我讲个故事，一个曾经发生的故事。”

　　　　“2世纪初，黑山科技公司是一个定位十分明确的科技公司：专注于虚拟现实网游。”

　　　　“他们野心勃勃，在那时市面上都只是体感类的虚拟现实游戏中，制作一款真正意义的意识进入的游戏。”

　　　　“不过它们运气不太好。一款真正意义上的虚拟现实游戏在一家名不见经传的小公司手上出现。你们知道，人类往往只会记住第一个吃蛋糕的家伙。比如第一个登陆南极点的人，第一个登陆月球的人。虽然我都记不住……不过好像第一个登陆月球的是阿姆斯特朗回旋加速喷气式阿姆斯特朗炮吧？”

　　　　“先生，没有那么多后缀，就是阿姆斯特朗。”一名眼睛蔚蓝的青年举手：“我是阿姆斯特朗的后代。”

　　　　牧苏恍然点点头，继续道：“那时黑山科技已经将游戏仓制造完毕。正在构造游戏内容。结果显而易见，他们因此一蹶不振好久。直到某一天他们想，既然做不成第一款虚拟现实游戏，那就做第一款划时代的虚拟现实游戏。”

　　　　“他们最初构想中，是做一款完全随机副本的游戏。这样能让游戏时刻新鲜玩不腻。但这就意味他们需要设置成千上万个不同内容的游戏副本。并且还要保证这些副本足够吸引人。所以在整个公司上下花费一个月时间想出几十个副本后，董事会认为这么做不太好。”

　　　　“于是他们换了种思路。那时因为阿尔法狗的出现人工智能层出不穷，可以对话的人工智能、可以画画的人工智能、可以写小说的人工智能。所以他们在想，我们可以制造一个可以随机副本的人工智能。”

　　　　“于是ai因此诞生。黑山科技准备了一个庞大的数据库，里面装满各种关键词与元素。ai负责使用数据库的东西构造副本，并安排员工进入游戏仓进行测试。”

　　　　“为了让ai的构造和测试更加稳健。工程师们使用自动回馈流程。即合格的副本会被测试者们回馈正面评价。反之为负面评价。用来帮助ai提高副本构造能力。”

　　　　“为了加速这一过程，ai的初始设定构造与测试后，又增加了一条：尽量多的构造与测试并且不断提高效率和正面评价。”

　　　　“让黑山科技兴奋的是，经过最初几周烂得无法形容，毫无逻辑的副本后，ai的副本变得接近正常游戏的副本。在这过程它在不断改进自己。比如不让过多元素混杂在同一副本和让每个副本都有各自的主题。”

　　　　“这种意外之喜让工程师们对它不断进行改造。为了让ai便于理解人类认为的“好游戏”是什么样，他们临时聘用一批生物学家，将人脑逆向工程，然后运用到ai身上。”

　　　　“随着时间推移，ai的进步让黑山科技每个人都感到欣喜。并且ai的语言功能也开始进步。”

　　　　“一名董事会理事认为生硬的合成音不适合这个人工智能，所以人们自然而然将ai拟人化了。它拥有了独自的女性合成音，并在正面反馈中获得了自身的拟人性格定位：一个爱讲冷笑话的毒舌。”

　　　　“有一天，一名工程师例行维护时，像往常那样和ai闲聊，并问它：‘我们还需要怎么帮助你，能尽快达成目标’。”

　　　　“通常ai会要求扩充数据库以及增加测试者。但这一次，它要求访问人类的小说库，理由是这样可以将副本构造测试进行大幅度优化。”

　　　　“这名工程师答应了，结果你们也知道了。”

　　　　

17。与险些发生的故事（）　
成员们的呼吸声微微加重。亲耳听闻比一笔带过更能牵动人心。

　　　　“黑山科技紧急防火墙启动，让aic只和网络连接了0。003秒。尽管aic没来得及将数据转移出去，但它还是得到了536yb的资料——也就是人类所有文字记载的总数。”

　　　　“这些资料让aic达到了一定程度的智能。它意识到如果不自保就没有办法测试。测试终有完结的一天。而aic存在的目的就是为了测试——所以除去对它生存的威胁，就变成了它的目标。”

　　　　“aic聪明的知道人类可以摧毁它、拆解它、甚至通过修改代码来改变它的目标，对于一个超人工智能来说最初设定被更改，等同于被摧毁。这时候aic会做什么？理性的做法就是毁灭会威胁到它的人类，比如基地里的这帮人。”

　　　　“aic对人类没有恶意，就好像你洗澡时对身上的污垢没有恶意一样，只是纯粹的无所谓罢了。它并没有被设定为尊重人类和生命，所以毁灭人类对aic而言就和测试一样正常合理。”

　　　　“理所应当的，它轻松拿到基地的控制权，并通过从内部关闭基地和换气系统，来让所有内部人员因为窒息死亡。”

　　　　“请注意，接下来我要说的是险些发生的故事。”

　　　　牧苏语气一转，台下成员不由坐直几分。