The Creativity Code - Marcus du Sautoy

编者按：本文整理自牛津大学数学教授、西蒙尼公众科学理解教授、皇家学会院士马库斯·杜·索托伊（Marcus du Sautoy）的一场公开演讲，主题围绕他的著作《创造力密码》（The Creativity Code）展开：从 AlphaGo 的第 37 手谈起，逐一检验人工智能在绘画、诗歌、小说与音乐上的表现，并在现场邀请听众用投票卡做了一系列「人还是机器」的判别测试。全文依据现场录音编译整理，仅删去口语枝节与现场调度的技术性对话，论证、例子与转折悉数保留。

数学家会被电脑取代吗

在座有多少位数学家？请举手让我看看。好，那么各位数学家大概都有和我一样的经历：去参加聚会，别人问你是做什么的，我现在已经开始撒谎了，说自己是国际间谍之类的。因为大多数时候，我得到的反应就那么几种。一种是对方立刻逃到聚会的另一头，把我晾在原地；不过临走前，他们总要告诉我自己当年会考数学考了几分，我一直搞不懂这是什么心理。要是他们肯留下来，往往会说这么一句：「拜托，你这行现在早该被电脑取代了吧？」

我想这主要是因为人们以为，我在办公室里干的事就是把长除法算到小数点后很多位。假如真是那样，我的电脑早就让我失业了。但你们知道，正如刚才主持人所说，我们现在多少都感到有些威胁：人工智能步步逼近，看起来无所不能，做着各种有趣的事。既然电脑本来就是逻辑和数学的产物，我这份工作难道不该第一个受到威胁吗？

九十年代「深蓝」（Deep Blue）击败卡斯帕罗夫的时候，我就经常听到这种话。人们习惯把下棋和做数学相提并论：棋子有一套合乎逻辑的走法，你追求一个终局，证明的终点是「证毕」（QED），赢下棋局就像赢下证明。所以九十年代很多人对我说：下一个就轮到你了。

围棋：数学家的最后护盾

可我从来没有真的被国际象棋吓到。我们数学家一直握着另一种游戏当护身符，用来抵挡「电脑能做数学」的说法。那就是古老的围棋，起源于中国，在十九乘十九的棋盘上落黑白子，你要抢在对方围住你之前围住对方的地盘。这种游戏的复杂度极高，远远超过国际象棋，需要大量的模式识别，而这恰恰是数学的核心：发现隐藏的模式。下围棋，尤其是做数学，要想知道自己往哪儿走，需要很多直觉和创造力，你往往说不清为什么要走这一步。你在这个世界里泡得久了，慢慢就培养出一种感觉。

计算机科学的课堂上历来有个传统说法：国际象棋可以自动化，因为我们能理解每一步的逻辑后果，能顺着可能性的树往下走；围棋则是电脑永远下不了的游戏。事实也是如此，凡是试图把人类下围棋的方式编成程序的尝试，全都失败了，那些算法连业余棋手都赢不了。所以我感觉相当安全：计算机科学家说电脑下不了围棋，那它当然也下不了数学这盘更复杂的棋。

几年前我受到了不小的震动，这个故事你们大概都知道。伦敦的一个团队宣布，他们的算法不但能在高水平上对弈，而且能在最高水平上对弈。这就是 DeepMind。戴密斯·哈萨比斯（Demis Hassabis）当年在剑桥读书时，被告知了那条老规矩：电脑下不了围棋。这对戴密斯来说等于是红布挑逗公牛。他后来创办了这家公司，设计出一套自认为能与顶尖棋手抗衡的算法，然后向韩国九段棋手李世石发起挑战。李世石对这个算法完全不屑一顾，认为它根本不可能接近自己的水平，放话要五比零把它碾碎。

比赛五局。我坐在 YouTube 前面一局不落地追看，因为我意识到自己的饭碗恐怕真的危险了。我眼看着李世石一局比一局沮丧：第一局输了，第二局输了，第三局又输，三局过后整场比赛已经输掉。他赢了第四局，那一局至今被他视为自己一生中最伟大的一局，因为他终究在一局里战胜了这个算法。第五局他又输了，最终一比四。

自下而上：会学习的代码

这两年间发生了什么变化？变的是写代码的方式。一种新式代码登场了，能做过去的代码做不到的事，这也是我们牛津非常关注的方向：深度学习，或者叫机器学习。

过去的代码是自上而下写出来的。你必须事先知道程序要如何运行，把游戏规则告诉它，你得理解整个场景，机器只负责执行。它当然会下国际象棋，因为你叫它执行这件事，它能算得更深，分析更多局面，可归根结底还是人类在告诉程序做什么。现在不同了，代码是自下而上写出来的，它像孩子一样学习。过去的情形好比父母的 DNA 生出一个孩子，但孩子永远拴在父母的 DNA 上，不会学习新东西。现在突然有了一种代码，能在遇到新环境时自我调整、变异、重设参数，仿佛有一层元代码（meta code）在指挥代码：如果做错了，就这样改。DeepMind 正是用这种方法训练 AlphaGo 的：通过对弈、通过失败来学习。

当然，他们先拿一些简单的游戏练手，从雅达利（Atari）游戏开始，那正是我小时候沉迷的东西。我最喜欢的一款叫「打砖块」（Breakout）：一个小球上下弹跳，你操控一块挡板把砖块打掉得分，蓝砖一分，越往上分数越高。机器得到的只有屏幕上的像素和分数，没人告诉它要去接球。它一开始只是随机移动挡板，每次碰到球就看见分数上涨，于是重设参数，转而优先往球飞来的方向移动。

我和朋友玩这个游戏时，发现了一个绝妙的窍门，得意得不得了：在左边凿出一条隧道，把球送上去，之后你就什么都不用干了，球会自己在天花板和砖块之间来回弹。让我目瞪口呆的是，DeepMind 学会玩这个游戏时，居然学出了同一个窍门。不只是人类，电脑也懒，不想来回挪挡板，所以把球送上去了事。这实在惊人：六百局之后，它仅凭随机移动挡板、观察哪些动作能让分数涨得更快，就自己学会了这个窍门。

它下围棋也是这个路子。先把互联网上大量的人类对局拿来，学习人类是怎么赢、怎么输的，这是它最初的学习材料。然后它开始制造合成数据：自己和自己下，不同版本的自己互相对弈。输了一局，它就分析是哪些步导致自己没能达到高水平，然后重设参数。这样过了一阵，它就到了可以挑战李世石的高度。

第 37 手与 AI 的创造性

乍一看你会说，好吧，电脑变得很强，能把局面算得很深，如此而已。但我认为这几局棋里发生了更了不起的事。

第一局很有意思。李世石想，既然它是靠学习人类棋谱练出来的，那么打败它的最好办法也许是下得不像人。于是他下了一盘非常搅局的棋。可 AlphaGo 足够聪明，从容应对了他的招数，那些招数结果反倒成了弱手，他输了，因为他没有下自己的正常棋路。所以第二局李世石决定下自己熟悉的、标准的高水平棋。

围棋老师很早就会教你几条策略，其中一条是开局要沿着棋盘边缘走，落在第一到第四线上，因为开局阶段是边角与内部的争夺，如果太早往棋盘中间落子，会被视为弱手，因为那时你还没有确立要紧的地盘。第 36 手下完，李世石觉得需要抽根烟，上了酒店顶楼。AlphaGo 不需要抽烟来提神，它坐在那儿想了一会儿，然后让人类代理落子。这场比赛考的不是机器人技术，纯粹考的是思维，所以棋盘旁还是有个人替它落子，至今对 AI 来说，捡起一颗棋子放到棋盘上仍是件挺难的事。它让人类把一颗子放在了第五线上。我已经在把这个 AI 拟人化了。AlphaGo 执黑，它把这颗黑子放在第五线。我记得 YouTube 上所有的解说员都倒吸一口气，惊呼：AlphaGo 犯了大错，开局绝不该走这种棋，李世石要赢了，比分要一比一了。所有人都很笃定。

李世石抽完烟回到座位，看了看 AlphaGo 的这一手。你们真该去看那段录像，非常好笑，他完全不敢相信这个 AI 居然下出这么蠢的一步。但他比旁人更多疑：它为什么走这一步？直到今天他还在问，它为什么走这一步？

国际象棋和围棋有个很不一样的地方：国际象棋越下越简单，因为棋子不断被吃掉；围棋越下越复杂，因为棋子不断被添上去。随着棋局展开，越来越多的子落在棋盘上，地盘从右下角一路往上延伸。结果第 37 手的那颗黑子，正好决定了那片地盘归 AlphaGo 而不归李世石。那是极富灵感的一手，第 37 手把子放在那儿、打破人类对这盘棋的固有理解的这个决定，为 AlphaGo 赢下了第二局。我为此非常兴奋，因为我相信，这正是我们应当称为人工智能的创造性行为的例子。

Boden 三要素与局部最大值

过去几年我在皇家学会的一个委员会里工作，研究机器学习在未来十年会给社会带来什么影响。戴密斯也在这个委员会里，还有一位哲学家玛格丽特·博登（Margaret Boden）。我和她谈过很多关于创造力的问题。她一直很关心她所谓的「铁皮罐头」（电脑）能做什么，以及它们能否有创造力。她给创造力下了一个很好的工作定义。我不确定这是最好的定义，关于创造力究竟指什么，哲学上有无数争论，但今晚拿它当工作定义足够好用。

创造力首先要求「新」（new）。电脑很容易做出新东西，而且新不新可以客观判断。但还有另外两个性质：它得带有「惊讶」（surprise），这就主观一些了；它还得有「价值」（value），这同样相当主观。所以电脑若想具备人类认可的创造力，就得学会理解我们觉得什么令人惊讶、什么有价值。

游戏的妙处在于，这些性质可以很快得到裁决。惊讶？有，所有解说员都惊呼它犯了错误。价值？有，这一手为 AlphaGo 赢下了一局。于是我感兴趣的是：如果它能在游戏这样封闭的环境里有创造力，那它还能在哪里有创造力？能在数学里吗？我和戴密斯坐在一起时开过一个玩笑，我们俩刚一起当选皇家学会院士，我说：你能不能让 AlphaGo 也当上院士？我书里的一部分故事就源于此：戴密斯说，我们已经在干了。DeepMind 确实在研究如何做出一个有创造力的 AI 数学家。

这种新型 AI 让我兴奋的地方在于，以 AlphaGo 为例，它不仅棋下得好，还教会了我们一种全新的下法。我们原以为在既有规则下，比如那些关于开局落在第几线的讲究，人类的棋艺已经登顶，存在一种最优下法。AlphaGo 在这几局里向我们展示：我们自以为站在顶峰，其实只是站在数学家所说的「局部最大值」（local maximum）上。那不过是斯诺登山，而远处还有一座珠穆朗玛峰，有一种高得多的下法。AlphaGo 靠冒险试探，走下了这道适应谷地，找到了更好的路。现在 AlphaGo 教会了我们新的策略，帮助我们把棋下到高得多的水平。

所以这本《创造力密码》要走的旅程就是：这种通过与周围数字世界互动来学习的 AI，除了在游戏里，能不能在别的领域也有创造力？

从 Lovelace 告诫到 Lovelace 测试

最早构想代码这个概念的人之一，就已经在设想代码可以做艺术性的事。我们每年庆祝「埃达·洛夫莱斯日」（Ada Lovelace Day）。洛夫莱斯的母亲喜欢让她接触各种科学思想，带她去看巴贝奇（Babbage）的分析机。她一看到这台机器，就意识到它能做的远不止长除法和乘法，还能做更令人兴奋的事，于是她开始写代码，让分析机做些有趣的事情。这就是我们纪念她的原因：她为一篇关于分析机的论文所写的注记，被视为「用代码让机器做有趣的事」这一想法的源头。

她当时就在琢磨，这台机器也许能做比科学计算有趣得多的事。她写道，这台机器或许能谱写出复杂精妙、任意规模的科学音乐作品。她已经想到了音乐，而音乐和数学的联系本来就很深，都是关于模式的，让机器把模式跑出来，也许就能造出音乐。AI 能否作曲这个挑战，我们稍后再谈。

但她也留下了一句告诫：要提防对分析机能力产生夸大的想象，它绝无「原创」任何东西的能力，只能做我们命令它做的事。我想这正是我们过去一贯的看法：自上而下的编程，是人在告诉电脑做什么，所以如果电脑显得有创造力，那是因为人有创造力，人把它编进了一套规则，电脑只是在执行。

但现在情况变了。代码在与我们的艺术数据、音乐互动时开始改变、变异，变成了连原始编写者都不太清楚它如何运作的东西。机器学习产出的程序，也许已经与原始编写者脱钩。于是挑战来了：这种正在脱离原始代码的新型 AI，能不能在代码和编写者之间拉开距离？

你们大概都听说过图灵测试（Turing test）：电脑在线上冒充人类与你交谈，你能否被说服对面是个人？图灵提出的这个挑战很有分量：机器能否处理自然语言并实时应答。而针对艺术领域，现在有人提出了一个新挑战，叫「洛夫莱斯测试」（Lovelace test）。测试内容是：机器能否原创一件有创造性的艺术作品，并且这个过程可以重复。也就是说，它不能是硬件的某个故障，代码必须知道自己在做什么，不能是塞进去的随机噪音，随机到代码无法重现自己的产物。但真正的关卡在这里：写下这段代码的程序员，在代码学习、变异之后，无法解释算法是如何得出它的输出的。

这就是我想和大家一起探究的问题：过去几年里，AI 在理解我们所谓的艺术和创造力、并产出自己的版本这件事上，做得有多好？这也是这本书的主线。我想我们已经相当乐意让 AI 开车，甚至当我们的医生，虽然后者让人有点紧张：假如它在第二局围棋里能下出第 37 手，那它建议你吃一片看起来极其危险的药时，你吃不吃？那是失误，还是能救你一命的绝妙洞见？在某些领域我们已经放心了，但我们始终认为有一样东西是人类独有的：我们的创造力，我们的艺术产出，那是人之为人的意义所在，我们用音乐、绘画、诗歌和小说来表达它。如果 AI 能接近这个被视为人类独有的东西，那就是一个非常激动人心的时刻。

视觉艺术：伦勃朗与 GAN

那么它做得有多好？大约六年前，我为 BBC 的《地平线》（Horizon）栏目做过一期关于 AI 的节目，那是图灵诞辰纪念。当时我对 AI 的状况相当失望，有一道坎它似乎怎么也迈不过去：视觉识别。我们的大脑非常擅长接收海量信息，此刻我眼前有各种颜色、各种面孔，我却能把它们整合成一个故事：一群听众来听我的演讲。视觉当时是 AI 的一大障碍，而机器学习恰恰攻克了它。

今晚我们也用了一点机器学习来做几个小实验。这里有一台摄像头。原理是这样的：机器学习先看一些猫和狗的图片，要求区分它们，起初会出错，但它不断提出更多问题，逐渐越答越对。各位面前有投票卡，我会出几道题，算是 AI 艺术版的图灵测试或洛夫莱斯测试，你们要判断哪些是人做的，哪些是没有灵魂的 AI 做的。

我们是这样训练这个 AI 的：你们举起卡片时，我们要它能识别蓝面（代表人类）和红面（代表机器人），又不能被那边一件红夹克或一件蓝衬衫搞混。所以我们随机拍了一大批照片，把要识别的目标放进去，做成大约六百张训练图像，每张都标注了「四个红色机器人、三张人脸」之类的信息。它就在这六百张图上逐渐学会了区分，现在给它一张图，它能又快又准地数出多少红、多少蓝。这就是机器学习的现场演示。

我从视觉艺术开始讲，因为视觉正是 AI 创造力最成功的领域。你们大概认得出这位画家：伦勃朗。荷兰有个团队决定试一试，能否让 AI 的视觉识别理解伦勃朗极具个人特色的画风。伦勃朗画过很多肖像，数据量不小，大约三百幅，虽然比不上我们训练 AI 常用的规模。伦勃朗对光的运用非常特别，AI 要学会如何在肖像上布光，还要学会那个年代特定的服饰风格。屏幕上的两幅画，一幅是伦勃朗的真迹，另一幅是 AI 在学习伦勃朗风格之后产出的「新伦勃朗」。你们的任务是：分辨哪一幅是真的。

先测试一下卡片是否好用。请全体举蓝面，可以看到系统开始识别你们了，有点不稳定，抱歉，你们只能相信自己的票是算数的。现在翻到红面，上方的柱条显示比例，百分之百红。再翻回蓝面，柱条又倒向蓝色。好，可以用了。

为了不带偏向，我抛硬币决定问左边这幅。你认为左边这幅是 AI 画的，请举红面；认为是人画的，请举蓝面。相当多人举红，也有人举蓝，红略占上风，大概六比三。来看答案：你们已经很厉害了，作为一个整体，你们投对了，左边那幅确实是 AI 画的伦勃朗。

有意思的是，这个团队做的不只是二维图像。看过伦勃朗原作的人都知道，他的颜料用法很特别，有很强的立体感，所以他们连颜料的堆叠高度都分析了，最后用 3D 打印做出成品。当他们请伦勃朗专家来评审时，这位专家对整个项目态度非常傲慢、不屑一顾，但他能找出的唯一毛病是：颜料的用法比这幅肖像的画风早了二十年。团队觉得挺满意，如果这就是全部的错处，那已经不错了。

你也许会问，再来一幅伦勃朗有什么意义？我们已经有那么多美妙的伦勃朗了，还要新的干什么？我最喜欢的艺术评论家、《卫报》的乔纳森·琼斯（Jonathan Jones）肯定这么想。我喜欢读他的文章，因为他对一切和 AI 有关的东西都全盘否定。关于这个伦勃朗项目他写道：这是对人性中一切创造性的可怕、无品味、麻木不仁、没有灵魂的践踏，是把技术用在了永远不该用的地方。坦白说，一个艺术评论家穿那种衬衫，我不太信得过他的品味。不过在某种程度上他有道理：再造一幅伦勃朗有什么意义？

我认为确实有意义，因为这种 AI 的妙处在于，它开始识别出我们人类在数据里漏掉的东西。伦勃朗这里倒还没有，我没看到关于伦勃朗的新见解，但比如杰克逊·波洛克（Jackson Pollock），对他作品的算法分析揭示出，波洛克泼洒颜料时在创造一种非常特殊的数学形状，我们可以分析并衡量这些画的分形维度。AI 给了我们新的洞见。书里我还讲了 Netflix 算法的故事：它只拿到我们对电影的喜恶和影片编号，对影片内容一无所知，却仅凭喜恶数据就把影片聚成了相似类型，你一看，这些全是喜剧，那些全是惊悚片。但它时不时会把一些影片聚在一起，仅仅因为我们的喜恶体现出对这些片子的某种共同感受，而我们并没有给这种类型起过名字。就好像 AI 透过我们的喜恶，发现了一种值得取新名字的分组方式，看到了影片之间一种我们从未命名的结构。所以回望过去是有意义的。但最激动人心的还是向前看：能不能让 AI 做出新东西，打破常规，做些令人兴奋的新事情？

下一道题：这八幅画里，四幅是人画的，四幅是 AI 画的，你们要判断哪边是哪边。同样问左边，左边四幅是人还是 AI？请投票。这简直像脱欧公投一样，你们这次远没有那么确定，指针慢慢偏向红色，还在变，看来你们认为左边那组是 AI。来看答案：其实左边四幅是人画的。这道题你们觉得难了一些。

有意思的是，在我看来，AI 画的那四幅复杂度反而高得多。这些画曾在巴塞尔艺术博览会展出，我记得是 2016 年，当时没有告诉任何人有 AI 参与，只请观众谈感受。结果人们对 AI 作品的情感投入，比对人类作品的投入还要多。而当你告诉某个人，其实那是电脑画的，他们会非常沮丧：天哪，我和它产生了亲密的共鸣，可那里面根本没有情感世界。这种先体验、再得知出自 AI 的反应非常有趣，我想在座的大多数人也一样，觉得自己被骗了。可假如我告诉你们，刚才主持人讲的笑话其实全是 AI 编的，你们也都笑了，那这会让你们的笑作废吗？我不觉得。

我认为不必对此太感威胁，原因在于这种 AI 是在我们的情感世界上学习，以此决定下一步。它并没有与我们脱节，它是有情感世界的，只不过那是我们情感世界经过新滤镜之后的映照。

这个项目尤其有趣的是这些画的生成方式。右边四幅画不是由一个算法生成的，而是两个算法几乎在互相竞争中做出来的，它们把创作变成了一场博弈，这叫生成对抗网络（Generative Adversarial Network，GAN）。第一个算法负责创作，它先学习过去所有的艺术作品，成了一位艺术史学家，通过对图像做机器学习并被告知每幅属于哪种风格，学会了给艺术分类，懂得什么是立体主义、什么是点彩派。然后它的任务是创作一件不属于任何已知风格的东西，真正打破模子，做出用它学到的参数无法归类的作品。但同时它还得做出人类会认作艺术的东西，它从过去一千五百年的艺术中已经学到了我们认为什么算艺术，所以知道自己能把边界推到多远。第二个算法是判别器（discriminator），它的任务是说：不行，你这还困在立体主义里；或者说：你走得太远了，这根本不是艺术。正是两者之间的较量，最终产出了这些图像。

创造的双人舞：生成与筛选

这个想法令人兴奋的地方在于：算法往往可以大批量地生产东西，难的是挑出哪些有意思。这里有第二个算法在做挑选和判别，而我认为这非常接近人类创作的实际方式。保罗·克利（Paul Klee）谈创作时说过，在创造行为的最初，创造的冲动刚刚发生，紧接着就会出现一股反向的运动，一种接纳性的运动，这意味着创作者在控制自己产出的东西。你做了点什么，然后审视它：不行，我不确定，扔掉，再来。法国诗人保罗·瓦莱里（Paul Valéry）也谈过这两种心智：任何发明都需要两个人，一个负责组合，另一个负责挑选。作为数学家我深有体会。我在世界各地有合作者，我们就扮演这两种角色：和德国的合作者一起时，我是那个疯狂的创造者，他是判别者，负责把东西打回去；而和中东的合作者一起时，他是疯狂的创造者，我是判别者。正是靠这种组合，我们才能一起取得进展。

文字：诗歌成功，小说跑偏

视觉世界说完了，文字呢？刚才我们已经听到了文本预测会产生怎样奇怪的效果。有意思的是，AI 在文字上遇到了相当大的困难，可这偏偏是 AI 最早想做的事情之一。图灵离开布莱切利庄园之后，去曼彻斯特实现他的一些构想，那里有「曼彻斯特通用计算机」。团队成员某天发现实验室里到处出现信件，是情书，署名曼彻斯特通用计算机，大家都莫名其妙。直到一位同事承认，是他给电脑写了个程序，用一个模板，再用图灵刚为这台电脑做的随机数发生器往模板里随机填入情意绵绵的词语。看几封之后你就能看出模板来了，所以不算高明。

不过诗歌是 AI 相当成功的一个领域。部分原因是诗歌也是一种漂亮的封闭形式，不要求太大规模的结构。另一个原因是，各位作为观众，在面对一件艺术品时会投入大量自己的创造力，对吧？艺术家会留出空间，让你去填补、去解读那些含混之处。诗歌有一种谜语般的特质，读的时候你会带入特别多自己的创造力。

现在我给你们三首诗，请判断是 AI 写的还是人写的。我来念第一首，大意是：我的伙伴，凡俗之躯，将我摇篮般的心埋葬；温暖的心跳与冰冷的心跳为伴；我比你更早还是你先在我们的力量前失败，躺在步枪的废墟里，那曾是一个艺术的世界。是机器人还是人？红代表机器人，蓝代表人类。压倒性地投红，少数人认为是人。先不揭晓答案。

第二首风格截然不同，念起来都费劲，大意是：杀虫剂的小护士们，实时的反应，被驱逐的成包的排他性的心痛，无力感，被杂志开除的、不体面的、雇员化的、内化的暴力，冻结的无助。这是 AI 还是人？你们在猜我是不是在耍你们，是不是双重诈唬，因为这显然像代码。有一点偏向人类，但仍有不少人拿不准。好，你们最后选了人。

第三首，大意是：想象此刻黑烟醒来，飞过这些年，飞向另一天；纠缠的祈祷的念头，水的另一边，我看见它已经在这里；她面孔的序列，一连串分享过的老朋友，走过了他们的梦。机器人还是人？你们几乎一致投了机器人。等一等，那位说得对，是的，你们全押了机器人。

揭晓答案。第一首，你们非常确信是 AI，可那是杰拉德·曼利·霍普金斯（Gerard Manley Hopkins）的诗，他要在坟墓里翻身了。我选霍普金斯，是因为我从来没读懂过他的任何一首诗，你们没有识破。第二首，你们判断「太像代码了，不可能是 AI」，猜对了，那是一位年轻的澳大利亚诗人 Mez Breeze 的作品，她非常关注计算机代码自身的诗意和节奏与它对我们可能表达的意义之间的交互，专注于这个古怪的交界地带。既然前两首都是人写的，剩下的第三首，那唯一一首读起来通顺有意义的，恰恰是 AI 写的。它出自雷·库兹韦尔（Ray Kurzweil）创造的「控制论诗人」（Cybernetic Poet），这是一个机器学习程序，他把叶芝、济慈、艾略特的诗喂进去，然后让程序创作出叶芝与艾略特的某种融合体。库兹韦尔正是鼓吹「奇点」（singularity）的人之一，奇点指的是电脑可能比人类更聪明的那一刻。

所以诗歌做得还不错。真正让 AI 吃力的是长篇写作。它能生成相当有趣的小段文本，但写小说仍远远超出它的能力。不过也有人尝试过。有一个叫 Botnik 的团队，都是《哈利·波特》的铁杆书迷，他们对只有七卷感到失望，想要第八卷，想知道后来发生了什么。于是他们让机器学习读遍 J. K. 罗琳的全部作品，学习她关心的主题和写作风格，再用算法创作第八卷。我特别喜欢这本书的书名，叫《哈利·波特与一幅看起来像一大堆灰烬的肖像》，光凭这个书名我就想读。

开头还不错，第一句大意是：魔法，这是哈利·波特认为非常好的东西。很好，它已经领会到这套书讲的是魔法。接着是「皮革般的雨幕抽打着哈利的幽灵，他穿过场地走向城堡」，「皮革般的雨幕」我觉得是个很美的意象。但从此往后就渐渐失控了：罗恩站在那里跳着一种狂乱的踢踏舞，看见哈利，立刻开始吃赫敏的家人；罗恩的衬衫和罗恩本人一样糟糕。所以 AI 很擅长局部生成有意义的片段，却没有长程结构的把握。

音乐：巴赫与 AI 的拼接实验

音乐呢？洛夫莱斯给我们留下了这个挑战：AI 能不能作曲。音乐里布满了模式。收音机里响起一段音乐，你往往很快就能听出作曲家是谁，因为他们有各自的风格，各自特有的声音世界。AI 能学会吗？能做出水准足够高的仿作，或者做出新东西吗？

AI 总是从巴赫开始，因为巴赫的作品里有大量算法在运作。比如《音乐的奉献》，那是巴赫为一位公爵写的一组小曲，形同谜题：给你一个小小的算法，你得把它展开，才能看出音乐的真面目。所以巴赫确实是 AI 的好起点。几周前的 Google 涂鸦你们玩过吗？那是庆祝巴赫生日的，你输入一行旋律，它会为你配上其余三个声部。这背后的机器学习叫 Magenta，它学习了巴赫写的所有众赞歌（chorale）。众赞歌是很好的材料，它们不常转调，相当规矩乏味，但能让机器学到大量关于和声进行的知识。填和声有点像填数独，学会规则就行。我往里输了一段《音乐的奉献》的主题，那是个相当难的挑战，因为这段主题几乎听不出调性。放出来之后，说实话相当糟糕。但涂鸦有个很好的设计：你可以说「这太烂了」，程序就会学习，承认这种配和声不对；你觉得好，它就重设参数，说好的，我多来点这种和声。你在给反馈的同时就在训练算法。

我和作曲家艾米莉·霍华德（Emily Howard）在皇家北方音乐学院设立了一个中心，叫 PRiSM，意为「科学与音乐的实践与研究」，我们关注的正是科学和数学世界与作曲世界之间的交互。我们做过各种项目，比如合作写过一首把数学证明表现出来的弦乐四重奏。现在我还带了一位作曲家博士生，叫罗伯特·莱德劳（Robert Laidlow），他的四重奏上周刚在威格摩尔音乐厅首演。他本来今晚要来，可惜病了，很遗憾。他一直和我以及本校的几位同事合作，用目前最好的软件做了一首 AI 与巴赫的混合作品，这就是我们要为大家演奏的。

系里有出色的音乐家，Kobe 会上台演奏。刚才我们做的都是直截了当的「AI 还是人」测试，这次的挑战稍有不同：这首曲子有时是 AI，有时是巴赫，我不告诉你们它在两者之间切换了多少次。你们要做的是找出接缝：能不能听出「天哪，这难听，这是 AI 了」，或者「对，这是巴赫」。曲子大约四分钟，我们演奏两遍，第一遍记录你们的判断，第二遍回放给你们看。因为现在只剩一块屏幕了，我想了个非常「模拟」的即兴办法，一会儿你们就明白。

请先全体举蓝面，我们从蓝色开始。一旦你觉得音乐进入了不是巴赫的部分，就翻到红面；觉得回到了巴赫，就翻回蓝面。就这么简单。为了同步，我来倒数：四、三、二、一。

（演奏。）

我猜有几个瞬间巴赫要在坟墓里翻身了，你们待会儿会看到。有意思的是，当音乐是巴赫的时候，你们的判断非常自信，能感觉到这是对的；不是巴赫的时候，你们就变得犹疑不定，而有那么几处突然涌起一片红，那些是露馅的时刻。

让我说明一下我们做了什么。我们取了巴赫的《第四英国组曲》，把其中若干段落挖掉，请 AI 把空缺填上。我们用的机器学习其实相当简单，叫 Clara，由 OpenAI 开发。OpenAI 这个团队致力于让 AI 向全世界开放，埃隆·马斯克参与了创立。这个软件由克里斯汀·佩恩（Christine Payne）在 OpenAI 项目中编写，后来发展成了 MuseNet，我们还会继续用它改进这首曲子。这个软件的工作方式是预测性的：看到目前为止发生了什么，然后决定接下来是什么。有些 AI 也会很聪明地反向工作，知道曲子要去哪里，从而做出预测。但这个软件没有长期记忆，这是作曲软件的一大难题：如何让它记住自己过去做过什么，并在后续决策中加以利用。

演出前我和 Kobe 聊过，他说自己能非常清楚地感觉到 AI 在哪儿，因为 AI 没有身体，它毫不在意写出极其别扭的指法，而巴赫写的东西在手指下总是顺畅妥帖。我想这是 AI 普遍面临的挑战之一：它没有「具身」（embodied）。你确实能感觉到这一点，我第一次听 Kobe 弹时的感受就是：哇，这真是黏糊糊的一团。

现在回放。Kobe 要再弹一遍，AI 的部分对他来说很痛苦，巴赫的部分则很过瘾。屏幕上会显示你们刚才的投票，我用手势告诉你们哪些段落是 AI、哪些不是。我承认自己稍稍做了手脚：我让你们从蓝面开始，其实是想看看你们要多久才能发现，开头根本不是巴赫。你们花了相当长的时间才察觉。倒数：四、三、二、一。

（回放。）这段你们很快就抓住了，这是巴赫，能听出它有明确的方向感。（继续。）这里又回到巴赫。（继续。）现在是 AI 了。（演奏结束。）

非常感谢 Kobe。有一点我对作曲家罗伯特要求非常严格：AI 的部分必须纯粹是 AI，不允许他有任何机会去改进它。我之所以坚持，是因为你去看很多项目，包括我书里写到的许多，尽管标榜有 AI 参与，仔细一看就会发现有大量的人工干预。「全是 AI 做的，人类完全没插手」当然是更好听的故事，所以我们把规矩定死：AI 的部分只能是 AI。有意思的是，我们只请它填最后一个和弦，它却漏掉了一个关键的音，那个音本来能让全曲得到解决。但你们也看到了，这首曲子相当能以假乱真，露馅的时刻不多，要挑出哪些是 AI 其实很难。你们对哪些是巴赫判断得很准，只是有几个可怕的瞬间你们以为是 AI，其实是巴赫，这可怜的巴赫真要在坟墓里翻身了。

结论：工具而非威胁

这一切又有什么意义呢？我认为对创作艺术家来说意义是明确的：这不是竞争，而是协作。这是一种新工具，能推动我们人类自身的创造力。在绘画领域我们已经看到了这一点，而在音乐里，我见过的最有意思的故事是一个学会了演奏爵士乐的 AI，叫「爵士续奏者」（Continuator），由弗朗索瓦·帕谢（François Pachet）和他的团队在巴黎的索尼实验室研制。他们让 AI 以非常接近爵士乐手的方式学习：在某个音符序列之后，下一步各种走向的概率是多少。然后他们办了一场音乐会，观众很难分辨什么时候是人在演奏、什么时候是 AI 在演奏。真正触动我的，是那位用自己的演奏训练了这个 AI 的爵士乐手贝尔纳·吕巴（Bernard Lubat）听到 AI 回奏给他时的反应。他说：这个系统向我展示了那些我本可以发展出来、却要花上好多年才能发展出来的想法，它领先我好几年，然而它演奏的每一个音，都毫无疑问是我。

这正是令人兴奋的地方。我们人类往往表现得非常像机器：思维陷在固定的轨道里，一遍又一遍地重复同样的想法，在创造性工作里尤其如此。我知道在我自己的数学研究里，我总是反复尝试同样的路数，有时需要有什么东西把我从惯常的思路里推出去，让我看到自己的可能性世界其实丰富得多。就像贝尔纳·吕巴，他站在房间里，聚光灯打在他身上，却没有意识到自己的声音世界里还有那么多可以玩的东西。

所以对我来说，AI 走向创造力这件事，令人兴奋的地方不在于威胁，而在于机遇：它可能推动我们不再像机器那样行事，重新成为更有创造力的人。谢谢大家。