「深度好文」怎样用可交互对立网络增强人类创造力

发布时间：2025-04-22　点此：768次

集智翻译组新智元今日

新智元引荐

本文经授权转载自集智沙龙（ID：swarma_org)

作者：Shan Carter，Michael Nielsen

编译：集智翻译组

【新智元导读】核算机不只可所以处理数学问题的东西，还可所以具有实时交互才干，帮忙人类处理问题，乃至完结发明性作业的辅佐体系。具有可交互界面的的机器学习东西，可以协助人类更高效地规划字体、制造图片，乃至发明出艺术著作。人工智能可以大大增强人类智能，本文详细介绍了这方面的一些探究。本文作者是谷歌大脑团队科学家Shan Carter和物理学家、YC Research的Michael Nielsen，英文原文宣布于可视化机器学习渠道Distill。

原文地址：https://distill.pub/2017/aia/

译文地址：https://zhuanlan.zhihu.com/p/38102140

核算机可以被用来做什么？

在前史上，这个问题的不同答案——即对核算的不同见地——有助于启示和树立终究树立的人性化核算体系。前期的电子核算机 ENIAC，是国际上第一台通用电子核算机，它的意图是为美国军队核算火炮射击表。其他前期的核算机也被用于处理数值问题，如模仿原子弹爆破、猜测气候、规划火箭的运动。在批处理办法下运转的机器，运用粗糙的输入和输出设备，并且没有任何实时的交互。这种观念把核算机看作是数值处理机器，用于加快在之前要花费数周、数月或需求一个团队人力才干完结的核算使命。

在 20 世纪 50 时代，对核算机用来做什么的另一个不同的观念开端开展起来。在 1962 年，当 Douglas Engelbart 提出核算机可以被看作一种增强人类智能 [1] 的办法时，这个观念开端变得清晰起来。在这种观念下，核算机不是首要处理数值核算问题的东西，而是实时交互的体系，有着丰厚的输入和输出，使得人类可以一同作业来支撑和扩展他们自己处理问题的进程。

这种智能增强（Intelligence Augmentation，简称 IA）的观念深深地影响了许多其他人，包含研讨员如施乐帕克研讨中心（Xerox PARC 的 Alan Kay 和企业家如苹果的 Steve Jobs，并且导致了许多现代核算体系的要害主意的发生。这个观念相同深深地影响了数字艺术与音乐，还有交互规划、数据可视化、核算发明力和人机交互等范畴。

IA 范畴的研讨常常和人工智能（Artificial Intelligence，简称 AI）的研讨相互竞赛：在研讨经费上的竞赛，招引有才干的研讨员上的竞赛。尽管这两个范畴之间总是存在着穿插，可是 IA 一般专心于构建体系使人类和机器可以一同协作，而 AI 则专心于将智能使命彻底外包给机器。特别是，AI 的问题一般专心于匹配或许逾越人类水平：在象棋或围棋上打败人类；学会像人类相同辨认语音和图画或翻译言语；等等。

本文描绘了一个新的范畴，这个范畴来自于 AI 和 IA 的归纳。咱们建议将这个范畴命名为人工智能增强（artificial intelligence augmentation，简称 AIA）：运用 AI 体系协助开发智能增强（IA）的新办法。这个新范畴引进了新的重要的根底问题，这些问题无法相关到任何的父范畴中。咱们信任 AIA 的原理和体系将会与大大都存在的体系彻底不同。

咱们的文章开端于对近期技能作业的查询，这些作业隐含了人工智能增强技能，包含生成式界面（generative interfaces）的作业——可用于探究和可视化生成机器学习模型。这样的模型开展出一种生成模型的制图学，使人们可以用于去探究模型以及从模型中构建意义，并且交融模型知道的信息到他们发明性的作业中。

本文不只仅是技能作业的总述。咱们信任这是个好的时刻点，在这个新范畴的树立中辨认出一些广泛而底子的问题。这些新东西可以多大程度激起发明力？他们能被用于生成令人惊讶的新的主意吗？仍是说这些主意只是老生常谈，是依据现存主意的无价值的再结合？这样的体系能被用于开展出根底性的新的接口基元吗？这些新的基元将会怎么改动和扩展人类考虑的办法呢？

运用生成模型发生有意义的构思操作

让咱们看一个比方，机器学习模型使一类新的接口成为或许。为了了解接口，幻想你是一个字体规划师，正在发明一种新的字体。在描绘了一些开端的规划后，你希望用粗体、斜体和紧缩的变体进行试验。让咱们看看一个东西，能从初始规划中生成和探究这些变体。成果的质量是适当粗糙的，咱们将在稍后解说详细原因，请谅解。

当然，改动粗度（如分量）、斜度和宽度只是改动字体的三种办法。幻想一下不是结构特定的东西，而是用户可以只是经过挑选现存的字体样例来结构他们自己的东西。比方，假定你想改动字体的衬线的程度。在下面，请在顶部的盒中，挑选 5 至 10 个无衬线字体，然后拖到左面的盒子；接着挑选 5 至 10 个衬线字体，拖到右边的盒子。当你在操作时，运转在浏览器中的机器学习模型将会主动从这些比方中，估测出怎么在衬线或无衬线的方向上对初始字体进行调整：

原文中的控件 1 截图（可点击阅览原文操作）

实践上，咱们运用这个相同的技能结构了上面的粗体、斜体和浓缩东西。为了完成东西，咱们运用了下面的比方：粗体和非粗体、斜体和非斜体、浓缩和非浓缩字体：

为了构建这些东西，咱们运用了生成模型（generative model），详细运用的是 James Wexler[2] 练习的模型。为了了解生成模型的用法，幻想一下描绘一个字体本来好像需求许多的数据。比方，假如字体是 64x64 的像素，那么咱们需求 64x64=4096 个参数去描绘单个字形。可是咱们可以运用生成模型找到一个更简略的描绘。

咱们经过构建一个神经网络来完成，它只运用了少数的输入变量，叫隐变量（latent variable），来发生整个的字形输出。在咱们运用的模型中，隐变量空间维度是 40 维，并将其映射到 4096 维可以描绘一切字形像素的空间中。换句话说，这个主意是将一个低维的空间映射到一个高维空间：

咱们运用的生成模型是一类叫做变分自编码器（variational autoencoder, VAE）[3] 的神经网络。对咱们的意图来说，生成模型的细节并不是很重要。重要的是，经过改动作为输入的隐变量，可以得到不同的字体作为输出。所以隐变量的一种挑选将会发生一种字体，可是另一种挑选将会发生另一个不同的字体：

你可以把隐变量看成是一种紧凑的、高层次的字体标明。神经网络输入高层次标明，并且转化成全像素数据。值得留意的是，咱们只需求 40 个数字就能捕捉一个字形的外表杂乱性，而开端需求 4096 个变量。

咱们运用的生成模型是从 Bernhardsson[4] 在揭露网页搜集的逾越 5 万个字体的练习会集学习到的。在练习中，网络的权重和偏置被调整，只需隐变量被恰当地挑选，就能使得网络输出对恣意练习集字体的近似。在某种程度上，模型在学习一个一切练习集字体的高度紧缩的标明。

实践上，模型不只重现了练习字体，并且能泛化、发生练习会集没有的字体。经过被强制寻觅练习样本的一个紧凑描绘，神经网络学习到了一个笼统的、更高层次的字体表征模型。更高层次的模型使得在已知的练习样本上的泛化成为或许，能发生具有实在感的字体。

抱负状况下，一个好的生成模型在面对少数练习样本时，可以运用它泛化到一切或许的人类可辨认的字体的空间。对恣意或许的字体——现已存在的或或许在未来可幻想的——咱们或许找到正好对应那个字体的隐变量。当然咱们运用的模型还远达不到抱负的效果——一个十分严峻的失利是许多模型生成的字体遗漏了大写字母 “Q” 的尾部（你可以在上面的比方中看到）。可是，记住一个抱负的生成模型能做什么仍是有用的。

在某些办法上，这些生成模型相似于科学理论的效果办法。科学理论常常极大地简化对呈现的杂乱现象的描绘，把许多的变量削减为只是很少的变量，并从中可以推导出体系行为的许多方面。并且，好的科学理论有时可以被一般化来发现新的现象。

作为一个比方，考虑一般的物体。这些物体有着物理学家称为相（phase）的东西——它们或许是液态、固态、气态或有时或许更独特，像超导体或波尔 - 爱因斯坦凝聚态。起先，这样的体系看起来极端杂乱，触及到 10^23 或更多的分子。可是热力学规律和统计力学使咱们找到一个更简略的描绘，把杂乱性削减为只是几个变量（温度、压力等等），可是包含了体系的许多行为。

并且，有时或许被一般化来猜测意想不到的新的相态。例如，在 1924 年，物理学家运用热力学和统计力学猜测了一个显着的新的相态，波尔 - 爱因斯坦凝聚态，其间一切原子或许悉数处于相同的量子状况，导致惊人的大规模量子干与效应。稍后咱们在关于发明性和生成模型的谈论中会回到这种猜测才干上的话题上来。

回到生成模型的详细细节上来，咱们怎么运用这种模型做依据样例的推理，像上述东西所展现的？让咱们考虑粗体东西的景象，在那个比方中，咱们别离对一切用户指定的粗体字体和非粗体字体取均值。然后，咱们核算这两个均值向量的差：

咱们把它成为称为粗体向量（bolding vector），为了使给定的字体变粗，咱们简略地参加一点粗体向量到相关的隐变量中，参加粗体向量的量操控着成果的粗度：

这个技能是由 Larsen 等人 [5] 提出的，相似粗体向量的向量有时叫做特点向量（attribute vectors）。相同的主意被用于一切上述的东西的完成中。所以，咱们运用样例字体发生一个粗体向量、一个斜体向量、一个紧缩向量和一个用户自界说的衬线向量。所以，这个界面供应了在这四个方向上隐空间的一个探究办法。

咱们展现的东西有许多的缺乏。比方，咱们从中心的样例字体开端，别离向右或向左，增加或减小字体的粗度：

查看在左面和右边的字体，咱们看到许多不幸的变形。特别最右边的字体，边际开端变得粗糙，衬线开端消失。一个更好的生成模型会削减这些变形。这是一个好的长时间的研讨项目，它展现了许多风趣的问题。可是即便是其时的模型，生成模型的运用相同有着引人留意图优势。

为了了解这些优势，考虑一种简略的加粗办法，咱们简略地参加一些额定的像素在字体的边际，使其变厚。尽管这种加厚或许契合一种非专家的考虑字体规划的办法，可是专家会做更多深化的作业。下面，咱们展现了这种简略加厚程序成果和 Georgia 和 Helveticade 所做的字体的比较：

正如看到的，简略的加粗办法在两种景象下都发生了适当不同的成果。例如，在 Georgia 的成果中，左面笔画只加粗改动了一点点，而右边的笔画极大地被增大，可是只在一边。在两种字体中，加粗不会改动字体的高度，可是这种简略的办法会改动。

如这些比方展现的，好的加粗办法不是一个简略的加厚字体的进程。专业的字体规划师有许多关于粗体的启示式，这些启示是从许多曩昔的试验中和前史样例的细心研讨中揣度出来。在传统程序中捕捉这些启示是个深重的作业。运用生成模型的优点是它可以主动学习许多的启示。

例如，一个简略的粗体东西会在字母 “A” 的关闭的上部区域，快速地填充关闭的负空间。字体东西不会这样做，它会保存关闭的负空间，向下移动 "A" 的横杆，比较于外部愈加缓慢地填充内部笔画。在上述比方中，这个准则是显着的，特别对 Helvetica ，它也被看成是字体东西的操作：

保存关闭负空间的启示不是一个显着的先验直觉，可是，它在许多专业的字体规划中被选用。假如查看上面的比方，你会简略知道为什么：它提高了清晰度。在练习中，咱们的生成模型从它看过的样例中主动估测出这个准则，并且咱们的加粗界面将其供应给用户。

实践上，模型捕捉到许多其他的启示。比方，在上面的比方中，字体的高度是简直不变的，这是专业字体规划中的标准。相同，粗体操作不只仅是将字体的加粗，而是运用了一个从生成模型估测出的更奇妙的启示。这些启示式可以被用于发明带有特点的字体，而这些特点是之前用户简直不或许想到的。所以，这个东西扩展了一般人类在有意义的字体空间中的探究才干。

字体东西是认知技能的一个比方。特别，它包含的底子操作可以内化为用户考虑办法一部分。在这儿，它相似于一个 Photoshop 或 3D 图形软件。它们都供应了一组别致的界面基元，这些底子元素能被用户内化为他们考虑进程中底子的新元素。新元素内化是许多智能增强范畴作业的根底。

字体东西中的主意可以扩展到其他范畴。运用相同的接口，咱们可以运用一个生成模型来操作人脸图画，如依据表情、性别或头发色彩等特点；或依据长度、挖苦或口气操作语句；或依据化学性质操作分子：

原文中的控件 2 操作演示

该生成接口供应了一种生成模型的绘图法，一种人类运用生成模型探究和发明意义的办法。

咱们之前看到字体模型主动地推理出关于字体规划的相对深化的准则，并供应给用户。可是这样的深化准则能被推理出来是很好的，可是有时，模型估测出一些过错或令人不快的东西。例如，White 指出 [6] 一些脸部模型中浅笑向量的参加将会使脸部不只仅呈现更多浅笑，并且变得更女人化。为什么呢？由于在练习数据中，浅笑的女人比浅笑的男性更多。所以，这些模型不只仅学习到关于国际的深化现实，并且一同内化了成见或过错的崇奉。一旦误差被知道，一般它是或许被纠正的。可是为了找到那些成见需求对模型进行细心的审阅，并且迄今咱们仍不清楚怎么确保这些审阅是彻底的。

更广泛地说，咱们可以问为什么特点向量有效果，它们什么时候起效果，什么时候不起效果？现在，咱们对这些问题的答案了解甚少。

为了使特点作业，咱们需求输入恣意开端字体，经过在隐空间中参加相同向量来结构相关的粗体版别。然后，咱们知道，没有理由运用单个常量向量的移动才会作业，或许咱们应该用许多不同的移动办法。比方，用于粗体衬线和无衬线字体的启示是适当不同的，所以好像应该运用十分不同的移动办法：

当然，咱们可以做比运用单个常量特点向量更杂乱的作业。给定一对样例字体（非粗体，粗体），咱们可以练习一个机器学习算法，输入非粗体版别的隐向量，输出粗体版别的隐向量。给出更多字体权重的练习数据，机器学习算法能学习生成恣意权重的字体。特点向量只是一种完成这类操作的极端简略的办法。

由于这些原因，特点向量将不太或许作为一种终究的操作高层次特征的办法。在未来几年，更好的办法将会开展出来。可是，咱们仍可以希望接口可以供应广泛地相似于上面描绘的操作，可以操作高层次的和潜在的用户界说的概念。接口办法不再依赖于特点向量的技能细节。

交互生成对立模型

让咱们看另一个运用机器学习模型增强人类发明力的比方。它是 2016 年，Zhu 等人 [9] 提出的交互生成对立网络（interactive generative adversarial networks）或 iGAN。

这篇文章中的一个比方是在一个接口中运用 iGAN 生成消费品的图片，如鞋子。传统上，这个接口需求程序员编写一个包含许多鞋子相关常识的程序：鞋底、鞋带、鞋跟等等。Zhu 等人没有这样做，而是运用从 Zappos 下载的 5 万张鞋子的图片，练习了一个生成模型。然后他们运用这个生成模型构建了一个界面让用户可以大约地描绘鞋子的形状、鞋底、鞋带等等：

视觉效果并不是太好，部分由于 Zhu 等人运用的生成模型在现代（2017）的标准中是过期的——运用更现代的模型，视觉效果会更好。

可是视觉效果不是要点。在这个原型中，许多风趣的作业正在发生。比方，留意当鞋底被填满时，鞋子的全体形状会怎么显着地改动——它变得更窄和更润滑。许多小的细节被填满，像白色鞋底上方的黑条，和鞋子上部处处填满的赤色。这些和其他的现实是主动从底层的生成模型中揣度出来的，咱们将会简略描绘该办法。

相同的界面或许被用于描绘景色。仅有的差异是背面的生成模型运用的是景色图片来练习，而不是鞋子的图片。在这种景象下，只描绘和景色相关的色彩变得或许。例如，这是用户在描绘一些绿色的草、山的归纳、一些蓝天和山上的雪：

在这些接口中运用的生成模型不同于咱们的字体模型，不是运用变分自编码器，而是依据生成对立网络（generative adversarial networks, GANs）。可是背面的主意依然是找到一个低维的隐空间，可以标明一切的景色图片，并且将该隐空间映射到相关的图片中。相同，咱们可以以为隐空间中的点是描绘景色图片的一种紧凑的办法。

大约来说，iGAN 的作业办法如下所示。不管其时的图片是什么，它相关到隐空间中的一些点：

假定，如之前视频中发生的，用户现在用笔划描绘山的形状归纳。咱们可以以为笔划是图片上的一个束缚，在隐空间中挑选一个子空间，该子空间由匹配归纳的图片的一切隐空间中的点组成：

接口作业的办法是找到隐空间中一个间隔其时图片最近的点，所以图片不只改动很大，一同也挨近满意强制的束缚。这是经过优化一个方针函数完成的，该方针结合了到每个强制束缚的间隔和偏移其时点的间隔。假如只要单个束缚，比方，关于山的笔划，它看起来如下图：

然后，咱们可以把它看作是一种运用对隐空间的束缚，用有意义的办法移动图片。

iGAN 和咱们之前展现的字体东西有许多一同点。它们的操作都编码了许多关于国际的精密的常识，比方当它学习了解山看起来是什么或加粗字体时，估测出关闭负空间应该保存。iGAN 和字体东西都供应了了解和在高维空间导航的办法，使咱们坚持在字体、鞋子或景色的天然空间中。

如 Zhu 等人说到的：

对咱们大大都人，Photoshop 中简略的图片处理呈现了不可逾越的困难。任何不那么完美的修正马上使图片看起来彻底不实在。换另一种办法，传统的视觉操作范式不会避免用户 “掉落” 天然图片的流形。

像字体东西相同，iGAN 是一种认知技能。用户可以内化界面的操作为他们考虑中的新的底子元素。比方，在鞋子的比方中，他们可以学习用他们想要运用的差异来考虑，如参加鞋跟或更高的顶部或特别的高亮。这比传统办法中非专家对鞋子的考虑（“尺码 11，黑色” 等等）愈加丰厚。

在非专家用更杂乱的办法考虑的规模——“使顶部更高点或更润滑”——他们在这种考虑办法下得到的经历很少，或很难看到他们挑选的成果。像这样的界面使探究、开展风格的才干、规划的才干、和朋友交流主意等等都更简略。

核算的两种模型

让咱们从头审视本文开端的问题，核算机可以被用来做什么？它和智能增强有什么联系。

核算机的一个常见概念是——它们是处理问题的机器：“核算机，在这样或许那样的风向下（等等状况）下发射炮弹的成果是什么？”；“核算机，在未来 5 天东京的最高温度是多少？”；“核算机，当围棋棋盘处于这个方位时，最好的挑选是什么？”；“核算机，这个图片该怎么分类？” 等等。

在核算机作为数字运算机器的前期观念中，还有许多 AI 上的作业中，在前史和今日的观念中，这是一个很常见的概念。这个模型是核算机作为一种外包认知的办法。在 AI 未来的或许估测上，这种外包认知模型在 AI 的视角下常常作为先知呈现，可以以比人类更好的水平处理一些大类问题。

可是关于核算机为了什么这个问题，一个十分不同的概念是或许的，一个和智能增强的作业更共同的概念。

为了了解另一个观念，考虑咱们关于考虑的片面经历。对许多人，这个经历是口头上的：他们用言语考虑，在头脑中构成单词链，相似于讲演或写在纸上的语句。关于另一些人，考虑是一个愈加视觉的体会，处理像图和地图的标明。依然有些人混合了数学到他们的考虑中，运用代数标明或图表技能，比方费曼图和彭罗斯图。

在每种景象下，咱们都运用了他人发明的标明来考虑：单词、图、地图、代数、数学图表等等。跟着生长，咱们内化了这些认知技能，并且运用它们作为咱们考虑的一种基底。

在大大都前史中，可获取的认知技能的规模是缓慢、逐步改动的。一个新的单词或一个新的数学符号将被引进。更少见的，一个急进的新的认知技能将会被开展。例如，在 1637 年，笛卡尔宣布了他的《办法论》，解说了用代数标明几许观念，反之亦然：

这使得咱们在对代数和几许的考虑办法发生了底子上的改动和扩展。

前史上，耐久的认知技能很少被发明出来。可是现代核算机是元 - 前言（meta-medium），使得许多新的认知技能被快速发明出来。考虑一个相对往常的比方，例如 Photoshop，精于 Photoshop 的用户常常呈现之前不或许有的主意比方：“让咱们对这个的层运用克隆图书印章”。这是一个更一般的考虑类型的比方：“核算机，【新式动作】这个【新幻想的方针类的新式标明】”。当它发生时，咱们在运用电脑扩展咱们可以考虑的主意规模。

这种认知转化模型（cognitive transformation model）成为了许多智能增强范畴中那些深化作业的根底。不只仅是外包认知，它改动了咱们用于考虑的操作和标明；它改动了思想自身的基底。并且尽管认知外包很重要，这种认知转化观念供应了一种对智能增强更有意义的模型。在这种观念下，核算机是改动和扩展人类思想的东西。

前史上，认知技能是人类发明家开展出来的，从在苏美尔和中美洲的写作的发明，到现代界面的规划，如 Douglas Engelbart，Alan Kay 和其他规划师。

本文描绘的比方标明，AI 体系推动了新的认知技能的发明。字体东西不只仅是当你需求一个新字体时可以咨询的先知。并且，它们可以被用于探究和发现，供应新的标明和操作，可以被内化为用户考虑的一部分。尽管这些比方只处于前期阶段，可是它们预示着 AI 不只仅是关于认知外包。关于 AI 的一个不同观念是，它协助咱们发明新的认知技能，转化咱们考虑的办法。

本文中，咱们会集于少数比方，更多触及隐空间的探究。有许多其他人工智能增强的比方，举一些，但不全面：sketch-rnn system[11]，用神经网络辅佐画画；Wekinator[12]，运用户快速树立新的乐器和艺术体系；TopoSketch[13]，经过探究隐空间生成动画；机器学习模型规划整个印刷排版 [15]；出产模型能在乐句间插值[15]。在每种景象下，体系运用机器学习把新的元素整合到用户的考虑中。更广泛地，人工智能增强将会开辟像核算发明性[16] 和交互机器学习 [17] 这样的范畴。

寻觅强壮的思想新基元

咱们以为机器学习体系能有助于发明标明和操作，作为人类考虑中的新基元。在这些新基元中咱们应该寻觅什么样的性质？这是一个太大的问题，无法在一篇短文中全面地答复。可是咱们将会简略地探究一下。

前史上，重要的新前言办法刚引进时一般看起来很古怪。许多这样的故事传到盛行文明中：“斯特拉文斯基 Stravinsky 和尼金斯基 Nijinksy 的《春之祭》的首映礼的暴动”；” 前期立体画派引起的惊惧，纽约时报对其谈论：‘他们在表达什么？这些画的作者是否失掉沉着？这是艺术仍是张狂？谁知道呢？’”。

另一个比方来自物理学。在 20 世纪 40 时代，量子电动力学的理论设想独登时由物理学家朱利安 · 施温格 Julian Schwinger、朝永振一郎 Shin’ichirō Tomonaga 和理查德 · 费曼 Richard Feynman 开展出来。在他们的作业中，施温格和振一郎运用传统代数的办法，沿着其他物理学家相似的道路。而费曼运用一个更急进的办法，依据现在有名的费曼图，用于描绘光和物质的交互：

开端，施温格和振一郎的办法更简略被其他物理学家了解。当费曼和施温格在 1948 年谈论会上展现他们的作业时，施温格马上遭到赞扬。相反，费曼的作业使观众感到困惑。

如 James Cleick 在他的费曼列传 [19] 中写到：

这冲击了费曼，每个人都有一个喜爱的原理或定理，他其时悉数违反了它们... 费曼知道他失利了。其时，他极端苦楚。后来，他简略地说：“我的东西太多了，我的机器来自太悠远的当地。”

当然，只是是由于古怪的古怪是没有用的。可是，这些比方暗示了在标明上的重大突破在一开端常常显得古怪。还有其他正确的潜在原因吗？

部分原因是由于假如一些标明是十分新的，那么它看起来会和你之前见到的作业不同。费曼图、毕加索的画、斯特拉文斯基的音乐都提醒了实在的有意义的新办法。好的标明能让你敏锐地洞悉事物，协助使了解的事物尽或许生动地展现出新事物。可是由于对不了解的着重，标明会看起来很古怪：它展现了你之前从未见过的联系。在某种程度上，规划师的使命是辨认出要害的独特，然后尽或许地扩大它。

独特的标明常常是难以了解的。开端，物理学家们喜爱施温格 - 振一郎的办法甚于费曼的。可是，跟着费曼的办法渐渐被物理学家了解，他们意识到尽管施温格 - 振一郎的办法和费曼的在数学上是等价的，费曼的办法愈加强壮。

如 Gleick 所说：

施温格的学生们在哈佛处于竞赛的下风，一如别处的同僚们与之而言，同僚们置疑他们是不是在偷偷地运用着费曼图。这有时是正确的，默里盖尔曼之后花了一个学期待在施温格的家里，后来喜爱说他现已查找了费曼图的每个当地，他没有找到什么，除了一个现已被锁上的门...

这些主意不只对前史上的标明是正确的，对核算机的接口相同是。可是咱们对古怪的建议违反了许多传统界面的才智，特别是被广泛持有的信仰，它们应该是 "用户友爱" 的，如简略、初学者能马上运用。

这常常意味着界面是陈腐的，是用传统元素以标准的办法结构而成。可是尽管运用陈腐的界面或许是简略和风趣的，它轻松的像阅览一部公式化的浪漫小说。它意味着界面没有提醒任何关于主题区域的实在别致的东西。所以它简直不能加深用户的了解，或改动他们考虑的办法。对一般的使命是没问题的，可是对更深化的使命，在更长时间上，你想要一个更好的接口。

抱负上，界面能展现主题下的更深的准则，向用户提醒一个新的国际。当你学会这个界面，你能内化这些准则，具有更强壮的对国际的推理才干。这些准则是你了解中的扩散器，它们是你实在想看见的悉数，其他都是处于最好的支撑或最坏的不重要的碎渣。最好的界面的意图在浅层意义上不是用户友爱的，它是更强意义上的用户友爱，是详细化有关国际的准则 [20]，使它们成为用户日子和发明的作业环境。在那时，一旦看起来古怪的反而变得舒畅和了解，变成考虑办法的一部分。

在智能增强上运用 AI 模型意味着什么？

咱们希望，如咱们看到的，咱们的机器学习模型将会协助咱们构建接口，用对用户有意义的办法使深化准则详细化。为了完成它，模型有必要发现关于国际的深化准则、辨认出这些准则、并且尽或许用一种用户了解的办法，生动地在接口中体现出来。

当然，这是离谱的要求，咱们展现的比方只是只是一个开端。的确咱们的模型有时能发现深化的准则，像在加粗字体时对关闭负空间的保存，可是这只是隐藏在模型中。可是，咱们现已构建了能运用这些准则的东西，假如模型能主动地估测出重要的准则，并找到办法清晰地体现出这些准则（鼓舞进程朝着 infoGAN[21] 的成果行进，它运用了信息论的主意找到隐空间的结构），这就更好了。抱负地，这样的模型开端得到实在的解说，不只仅静态的办法，还有动态的办法，用户可以操作的。可是咱们离那一点还有很长的路要走。

这些交互界面会按捺发明力吗？

置疑咱们现已描绘的界面的表达丰厚性，是件诱人的作业。假如一个界面束缚咱们只探究图片的天然空间，是否意味着咱们只在做被希望的作业呢？是否意味着这些接口只能被用于生成视觉的老生常谈呢？它会阻挠咱们生成实在新的东西、做实在有发明性的作业吗？

为了答复这些问题，辨认出立异的两种不同的办法是有协助的。这两种办法的模型是过于简化的：发明力并不能很好地分为这两类。尽管如此，这个模型仍是澄清了在发明性作业中新接口的人物。

发明的第一个办法是一个工匠每天从事作业的发明性。比方，一个字体规划师的许多作业是由最好的现存经历从头组合而成。这样的作业一般是许多发明性的挑选，以满意预期的规划方针，而不是开发要害的新的内涵准则。

关于这样的作业，咱们一向谈论的生成接口是有远景的。尽管它们现在有许多局限性，但未来的研讨将发现并处理许多缺乏。这在 GAN 身上发生得很快：开端的 GAN 有许多束缚 [10]，但很快又呈现了更适合图片的模型 [22]，改进了分辨率，削减了工件等等。有了满足的迭代，这些生成界面将成为工艺作业的强壮东西。

第二种发明办法的意图是开展新的准则，从底子上改动发明性表达的规模。人们可以在毕加索或莫奈等艺术家的著作中看到这一点，他们违反了现存的绘画准则，开展出新的准则，使人们可以以新的办法看到事物。

在运用生成接口时，是否有或许做这样的发明性作业呢？这样的接口会不会束缚咱们在天然图片或天然字体的空间，因而阻挠了咱们积极地在发明性作业中探究风趣的方向？

状况比这更杂乱。

在某种程度上，这是一个关于咱们的生成模型的才干的问题。在某些状况下，模型只可以生成现存主意的从头组合。这是抱负的 GAN 模型的束缚，由于一个经过完美练习的 GAN 生成器将仿制练习数据的散布。这样的模型不能发明一个新的底子准则来直接生成图片，由于这样的图片无法从在练习数据中得来。

像 Mario Klingemann 和 Mike Tyka 这样的艺术家现在用 GAN 来发明风趣的艺术品。他们运用的是 “不完美的” GAN 模型，他们好像能用来探究风趣的新准则；或许欠好的 GAN 比抱负的 GAN 模型在艺术上更风趣。此外，没有说接口只能帮咱们探究隐空间。或许可以增加一些操作，成心将咱们带出隐空间，或许削减天然图片空间的或许性（以及更令人惊讶的）部分。

当然，GAN 不是仅有的生成模型。在一个满足强壮的生成模型中，模型发现的归纳或许包含了逾越人类发现的思想。在这种状况下，对隐空间的探究或许使咱们可以发现新的底子准则。模型会比人类专家发现更强的笼统。幻想一下，在立体画派呈现之前，一个专门研讨绘画的生成模型；或许经过探究这个模型，咱们就有或许发现立体主义吗？正如本文之前所谈论的，这将是相似于对波尔 - 爱因斯坦凝聚态猜测的类比。这种发明逾越了当今的生成模型，但好像是对未来模型的一种有价值的巴望。

到现在为止，咱们的比方都是依据生成模型的，可是有一些启示性的比方不是依据生成模型的。考虑由 Isola 等人 [23] 提出的 pix2pix 体系这个体系练习成对的图片，例如体现猫的边际和实践的猫。一旦经过练习，就可以显现一组边际，并要求它为生成实践对应的猫的图片，它常常体现得很好：

在不寻常的束缚条件下，pix2pix 可以发生惊人的图片：

这或许不是毕加索式的高档发明力，但仍是惊人的。这当然不像咱们大大都人曾经见过的图片。pix2pix 和它的用户是怎么到达这种效果的呢？

与前面的比方不同，pix2pix 不是生成模型。这意味着它没有隐空间，也没有对应的天然图片空间。而是一个神经网络，令人困惑地被称为生成器——这与咱们前期的生成模型并不同——它以束缚的图片作为输入，并生成填充的图片。

出产器的练习和判别器网络的练习是对立的，判别器的作业是区分出从实在数据中生成的图片组和由生成器生成的图片组。

尽管这听起来很像传统的 GAN，可是有一个要害的差异：生成器中没有隐向量输入，相反，这儿只要一个输入束缚。当人输入一种与练习数据不相同的束缚时，网络就被逼即兴发挥，尽其所能地依据之前所学的规矩来解说这个束缚。发明力是由练习数据揣度出的常识与用户供应的束缚一同效果的成果。因而，即便是相对简略的主意——比方面包或眼睛猫——也能发生引人留意图新式图片，这些图片并不在咱们之前以为的天然图片的空间中。

总结

传统观念以为人工智能将改动咱们与核算机交互办法。不幸的是，人工智能社区中的许多人大大轻视了接口规划的深度，往往将其视为一个简略的问题，首要是重视于怎么使事物变得美丽或易于运用。从这个视点来说，接口规划是一个交给他人的问题，而深重的作业是练习一些机器学习体系。

这种观念是不正确的，接口规划最深层的意义是开发人类考虑和发明的底子要素。这个问题的常识来源可以追溯到字母表的发明者、制图学的发明者、音乐符号的发明者以及现代的伟人如笛卡尔、普莱菲尔、费曼、恩格尔巴特和凯。这是人类所面对的最困难、最重要、最底子的问题之一。

如前所述，在人工智能的一个遍及观念中，咱们的核算机将持续在处理问题方面做得更好，但人类底子坚持不变。在第二种常见的观念中，人类将在硬件层面进行修正，或许直接经过神经接口，或许直接经过全脑模仿。

咱们描绘了第三种观念，AI 实践上改动了人类，协助咱们发明晰新的认知技能，扩展了人类思想的规模。或许有一天，这些认知技能将反过来加快 AI 的开展，构成良性循环：

它不会是机器中的奇点，相反，它将是人类思想中的一个奇点。当然，这个循环现在只是只是一个估测。咱们所描绘的体系可以协助开发更强壮的思想办法，但至多有一种直接的感觉，即这些思想办法被用来开发新的 AI 体系。

当然，从长时间来看，机器在一切或大部分认知使命上都有或许逾越人类。即便如此，认知转化仍将是一个有价值的方针，值得咱们自己去寻求。学习下象棋或围棋是风趣和有价值的，即便机器做得更好。而在比方讲故事之类的活动中，好处往往更多地来自建构故事和人物联系这一进程，而非终究的产品。个人的改动和生长还具有内涵的价值，除了东西性利益以外。

咱们谈论的面向接口的作业超出了用来点评 AI 中大大都现有作业的叙说。它不触及打败某个分类或回归问题的基准。它无需非得在比方围棋这样的竞赛中，打败人类的冠军。相反，它触及一个更为片面和难以衡量的标准：它是否有助于人类以新的办法考虑和发明？

这给这类作业带来了困难，特别是在研讨环境中。比方，这应该宣布在哪里呢？它归于什么社区呢？应该用什么标准来评判这样的作业呢？好的作业和坏作业的差异是什么？

咱们信任，在未来几年内，将呈现一个可以答复这些问题的社区。它将举行研讨会和会议。它将在相似 Distill 等当地宣布作业。它的标准将来自许多不同的社区：有艺术社区和音乐社区的讨论；有数学社区的对笼统的品尝及 “好” 的界说；以及现有的 AI 和 IA 社区（包含核算发明力和人机交互的作业）。

对成功的长时间测验将是开发被发明者广泛运用的东西。艺术家们是否在运用这些东西来开发不同寻常的新风格？其他范畴的科学家是否用它们来开展用其他办法不或许取得的了解？这些都是巨大的抱负，需求一种树立在传统人工智能上的办法之上，但也包含了十分不同的标准。

参考文献

[1] Augmenting Human Intellect: A Conceptual Framework Engelbart, D.C., 1962.

[2] deeplearn.js font demo [link] Wexler, J., 2017.

[3] Auto-encoding variational Bayes Kingma, D.P. and Welling, M., 2014. ICLR.

[4] Analyzing 50k fonts using deep neural networks [HTML] Bernhardsson, E., 2016.

[5] Autoencoding beyond pixels using a learned similarity metric Larsen, A.B.L., Snderby, S.K., Larochelle, H. and Winther, O., 2016. ICML.

[6] Sampling Generative Networks [PDF] White, T., 2016.

[7] Writing with the Machine [link] Sloan, R., 2017. Eyeo.

[8] Automatic chemical design using a data-driven continuous representation of molecules [PDF] Gómez-Bombarelli, R., Duvenaud, D., Hernández-Lobato, J.M., Aguilera-Iparraguirre, J., Hirzel, T.D., Adams, R.P. and Aspuru-Guzik, A., 2016.

[9] Generative visual manipulation on the natural image manifold Zhu, J., Krhenbühl, P., Schechtman, E. and Efros, A.A., 2016. European Conference on Computer Vision (ECCV).

[10] Generative adversarial nets Goodfellow, I.J., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A. and Bengio, Y., 2014. Advances in Neural Information Processing Systems (NIPS), pp. 2672-2680.

[11] A Neural Representation of Sketch Drawings [PDF] Ha, D. and Eck, D., 2017.

[12] Real-time human interaction with supervised learning algorithms for music composition and performance. Fiebrink, R., 2011. Princeton University PhD Thesis.

[13] TopoSketch: Drawing in Latent Space Loh, I. and White, T., 2017. NIPS Workshop on Machine Learning for Creativity and Design.

[14] Taking The Robots To Design School, Part 1 [link] Gold, J., 2016.

[15] Hierarchical Variational Autoencoders for Music [PDF] Roberts, A., Engel, J. and Eck, D., 2017. NIPS Workshop on Machine Learning for Creativity and Design.

[16] Computational creativity: the final frontier? Colton, S. and Wiggins, G.A., 2012. ECAI.

[17] Interactive machine learning: letting users build classifiers Ware, M., Frank, E., Holmes, G., Hall, M. and Witten, I.H., 2001. International Journal of Human-Computer Studies, Vol 55, pp. 281-292.

[18] Eccentric School of Painting Increased Its Vogue in the Current Art Exhibition — What Its Followers Attempt to Do[link] 1911. The New York Times.

[19] Genius: The Life and Science of Richard Feynman Gleick, J., 1992. Vintage Books.

[20] Thought as a Technology [HTML] Nielsen, M., 2016.

[21] InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets Chen, X., Duan, Y., Houthooft, R., Schulman, J., Sutskever, I. and Abbeel, P., 2016. NIPS.

[22] Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks [PDF] Radford, A., Metz, L. and Chintala, S., 2016. ICLR.

[23] Image-to-Image Translation with Conditional Adversarial Networks [PDF] Isola, P., Zhu, J., Zhou, T. and Efros, A.A., 2017.

原文地址：https://distill.pub/2017/aia/

告发/反应