基因编辑和超级智能哪个更可怕？
选自QUARTZ
医生兼研究者 Danielle Teller
Google X 部门负责人 Astro Teller
机器之心编译
参与：吴攀、周亮
欢迎来到未来
在硅谷首届动漫展上，我们做了一个名叫「超级婴儿 vs. 人工智能」的对话。Google X 部门负责各种「登月项目」的队长 Astro 认为基因工程婴儿将会如我们所知的一样毁灭文明。他预见了优生学、X 战警和中学时殴打他的那种孩子全部出现时所带来的恐怖。医生兼科学家、上述「登月项目」队长的妻子 Danielle 认为机器人带来的世界末日将会消灭人类。不管我们想给它们施加哪种阿西莫夫式的指令，超智能计算机最终都将毁灭我们所有人。这两人里谁能赢得这场辩论这个问题尚无定论，但下面是他俩在辩论中探讨过的一些最重要的问题。
谷歌 X 项目负责人 Astro Teller 与他的妻子、医学研究者Danielle Teller现场辩论
高度进化的人工智能会攻入银行系统并偷走我们所有的钱或派出无人机杀死我们所有人吗？
人工智能永远不大可能变得和人类的超级大坏蛋一个模样。就好比说，尽管飞机和鸟都可以飞，但它们在其它方面并没有相似之处，而且它们也没有谁能在飞行的所有方面都盖过对方。同样，计算机在存储/记忆和计算方面已经比人类好很多了，但它们却无法应对与星巴克咖啡师三分钟的对话。
即使我们可以构建一个类似于人类但更加聪明的人工智能，但也没有证据表明聪明和变成超级坏蛋之间存在非常强的关联（当然除了在电影中）。希特勒在这个星球上制造了灾难，这并不是因为他是世界上最聪明的人。他擅长操控人们的情绪和利用历史中的时机，这是恰恰是人类天生的技能。我们给其他人和这个星球带来的伤害很多都是我们的愚蠢的标志，而非我们智力的标志。
另外还有动机问题。什么会激发人工智能攫取全世界的钱或杀死我们所有人？它不太可能被编程为贪婪的守财奴。我们喜欢将人类的欲望投射到机器上，但人工智能系统对购买超级游艇来吸引超级辣妹不感兴趣，而且它拿着我们的 401K（译者注：美国最受欢迎的一个养老基金）也没什么用。
科幻小说作家幻想的最常见的末日景象是，那些为执行有用任务（如清扫房子）而编制的机器人会做出这样的决定：履行自己职责的最有效方式是摆脱我们——让一个空荡荡的房间保持干净是最简单的。要让这样的事情发生，得有一系列非常低概率的事件发生。机器人必须有能力决定自己的工作不是清理脏物而是阻止脏乱的发生；它们必须要了解死亡的概念并知晓怎么使其发生；它们将需要判断出，处理尸体比洗碗更可取；在它们为此而害人的时候，不能遇到人的保护性自卫；它们必须具备在物理上杀人的手段。清洁机器人也不大可能拥有游戏里那种极激光剑。而且即使以上所有这些事情都发生，那也不会是人类的终结。每年都有 700 人被烤面包机杀死，那也没能阻止我们将烤面包机带回家。
人类是否会被按订单生产的基因工程婴儿所取代？
CRISPR 技术的基因工程应用再一次燃起了我们对基因婴儿的恐惧——但超级婴儿并不会很快到来。CRISPR 还没有准备好在人类胚胎中使用，而且它可能永远不会达到足够好。中国的研究者曾尝试修复不能存活的人类胚胎中的单个缺陷基因，而他们的结果令人沮丧——低效率且伴有大量的脱靶效应。但那甚至不是真正的绊脚石。比这更大的问题是我们还不能定义美丽和智慧等性状，而且就算我们可以，我们也不知道哪些基因让人聪明、有吸引力或有足球天赋。
即使身高这样一个简单的、易于测量的性状都尚未在遗传学方面得到很好的理解。到目前为止已经发现了超过 400 个对身高有影响的基因区域，而这也只占到影响身高的遗传率中的 20%。决定身高的基因可能有好几千个，而我们甚至尚未了解到它们中的大部分。在已经定位的基因区域中，许多都尚不具有已知的功能。我们能预料到某些基因的功能，如骨骼生长或胶原代谢，而另一些基因，如 mTor，则有数十个已知的功能，其中许多对生命都至关重要。没有一个父母为了得到一个高大的孩子而愿意让科学家鼓捣他或她孩子的数千个基因。
智力这样的复杂性状的情况要更复杂得多。目前还没有人确定出「智力基因」。有数千个基因会对大脑发育产生影响，而其中有很多都有多个功能，但它们没有一个是「智力」基因。
如果有一天我们找到了设计更聪明婴儿的方法，富人们难道不会为他们的孩子购买成功吗？
智力只是部分遗传的，所以它不能通过遗传的方式得到保证。即使存在「智力基因」这种东西，决定人们智慧程度的还有大量非基因的因素。而另一方面，钱却是能百分之百遗传的。因此，如果我们想要一个更公平的竞争环境，我们可以从强大的遗产税开始。
乔治·W·布什成为总统不是因为他是一个超级天才，而在像现在的康普顿这样的街区长大的天才最终的结局可能是被枪杀而不是成为总统。在我们这个社会里，原始智力并不是决定人成功的主要因素，它甚至可能排不进前 10 大因素。
人工智能会夺走我们所有的工作吗？
经济总是处于变化之中。在 1800 年代，80% 的劳动力在农场工作；今天那只占到 2%，但我们并没有 78% 的失业率。全新的产 业可能会继续涌现，并提供新的就业机会。讽刺的是，从属于人工智能的「智能制造」同时受到了右翼和左翼政治家的吹捧，他们认为这对拯救美国制造业而言至关重要。如果人工智能让企业更加高效从而促进经济增长，那就会有更多的钱被投入到新的风险项目中。在 100 年内，可能会出现一些全新的、我们现在甚至无法想象的经济产业。有可能出现整体就业率下降，但只要我们能够使用更少的成本生产更多的财富，经济增长就会一直持续。
我们甚至不清楚就业率下降是否会是一件坏事。全世界只有 13% 的人真正喜欢工作。大部分人并不喜欢他们的工作而且希望自己能有更多时间花在家人、朋友和爱好上。如果每个人都得到了基本的收入保障，那么人们就会将他们的生活放到做他们喜欢的事情上，而不是去做那些为了赚钱而被要求去做的事。
扮演上帝的问题呢？
当我们想象可怕的未来景象时，这样的问题就会出现，但随着我们对技术越来越熟悉，就不会再觉得它看起来很可怕或危险了（尽管我们仍然应该以警惕的态度对待枪支）。究其核心，人工智能只是一种花哨的计算方式。「人工智能」标签被分配给了计算机科学中那些尚不能玩得转的部分领域。一旦该技术可以驾驶飞机或交易股票或读取 CT 扫描，我们就不再将其称为人工智能了。我们称之为计算机视觉或路径规划或专家系统。没人会觉得自动驾驶或 CT 扫描仪可以作为我们在扮演上帝的证据。
这同样适用于生物科学。第一位试管婴儿 Louise Brown 曾被叫做「弗兰肯斯坦小孩（Frankenbaby）」，人们还说她应该呆在马桶或鱼缸里。关于试管婴儿可能滑向基因婴儿的理论招致了很多歇斯底里的反对。但现在，体外受精已经非常常见，而那些早期的恐惧和对暂禁的呼号看起来却相当古怪了。
如果我们真的得到了基因工程婴儿，遗传错误会像野火一样席卷人类群体吗？
每年出生的有遗传疾病的婴儿多达 400 万。担忧向其中增加更多遗传疾病是正确的，但这样的担忧还要和治愈这些疾病的可能性来平衡一下。那些不幸的孩子忍受着单个基因中单个错误所带来的疾病的折磨而且常常因此死亡，对看护他们的父母而言，尽管基因治疗可能会引入未预见的基因改变，但这种担忧似乎并不那么令人恐惧。另外，许多已经存在的基因疾病并没有成功消灭人类；我们没有任何好的理由去认为一种新的人造基因疾病会使情况更加糟糕。
看起来我们已经准备好在基因工程和人工智能上实现重大突破了。进展的时间表是怎样的？
我们已经走在伟大突破的道路上了，它们可能只是看起来和我们所想象的不尽相同。我们离创造类似于人类的人工智能还相去甚远，而且可能也没有任何让人信服的案例是在尝试制造这样的东西。今天对我们很有用的机器人都是高度专业化的，而且和 C-3PO（译者注：《星球大战》中的一个人形机器人）也没什么相似之处。自动驾驶汽车是可以每年拯救数百万条生命的机器人。火星车正在那颗遥远的行星上进行探索。机器人还进行手术和在银行关门时帮我们提取现金。人工智能的进步可能不会像科幻小说一样，但它们却可能成为人类所面临的气候变化等紧急危机的解决方案的重要部分。
基因工程对生物医学研究来说是一种至关重要的工具；通过禁用或改变细胞中的基因，我们可以发现这些基因的用途。基因编辑给了我们用于治疗糖尿病的胰岛素、保护我们孩子的疫苗、治疗癌症的化学疗法。我们可能永远不能制造出基因婴儿，而就算我们可以，他们也不太可能就能改变人类的未来。如果我们今天就得到了 1000 个「超级婴儿」，在 300 年内，当这个星球上的很大一部分都因为全球变暖而可能不再适宜人类居住时，超级婴儿们繁衍出的携带这些基因的人数也不过只有 30,000 人。于此同时，基因工程中的突破却可以带给我们用来处理和应对气候变化影响的工具。一种低甲烷排放的水稻作物可能听起来没有超级婴儿那样激动人心，但它更有可能会影响到人类的未来。
总结
机器人末日和变种婴儿的景象出现的可能性并不高，而与此同时，人类正面临着许多严峻和直接的挑战。与其关心假想的、牵强的、情况最糟的恐惧，我们更应该为我们已有的问题寻找社会的和技术的解决方案。坏境破坏和人类纷争比机器人和超级婴儿所消灭的文明要多得多。谁知道呢，如果我们真的很幸运，也许有一天可能会有 X 教授或钢铁侠的 J.A.R.V.I.S。那并不会太糟糕，不是吗？
