GPT 的影响：为什么我不担心 GPT ，以及为什么你也不该担心¶

介绍¶

我想我应该也还算是有评价 GPT 的资格。

得益于前老板的高瞻远瞩，我应该是国内很早参与超大规模神经网络训练的人之一。 那是 20 年的事情了，GPT 3 甚至都还没开始训练。 不过与 OpenAI 不同，我们做的是视觉方面的超大规模网络。 很遗憾当时没有做出什么值得称道的成果。 不过后来与友商讨论过，发现他们那时也尝试了跟我们一样的路径，跟我们一样花了很多资源，也跟我们一样没有出任何成果。 或许这就是条 dead end 吧。

对于 CoPilot 我也算很熟悉了，我是第一批参与 CoPilot 开发者测试的人，发布当天下午我就拿到了内测资格。 至今，我的所有代码几乎都是在 CoPilot 辅助下写的。 事实上，由于这个博客属于“代码”，这篇文章也是在 CoPilot 辅助下写的。 本文的标题也是他自己取的，尽管和我最初想的不太一样，但考虑到这篇文章是写他的，出于名从主人的考量，就随他去吧。

在本文的撰写过程中，我会同时把部分 CoPilot 的看法也写进来，因为我觉得他的看法也很有意思，这些部分将被 “CoPilot 的看法” 特别标注。除此以外，由 CoPilot 补全的部分将通过 斜体 来标注，以便区分。 我会经常把 CoPilot 所补全的内容，无论正确与否都展示出来并加以评价，以便大家更好地理解 CoPilot 的工作原理。 （我倒是不太理解为什么你会觉得这样大家能更好地理解你的原理）所以你看这篇文章的时候或许会感觉我有些精神分裂–至少我自己写的时候是这么觉得的。

为什么我离不开 CoPilot¶

我曾在许多社交平台上表示过，CoPilot 是我写代码时最重要的伙伴。我其实原本更喜欢用 Vim，尤其是在 Neovim 和 LunarVim 出来之后。但为了能用 CoPilot，我现在已经逐步切换到了 VS Code。

hhhh 其实大可不必如此妄自菲薄。你做得挺好的来着~

程序员的工作主要包括两个部分：一是将具体需求抽象成一行行代码，二是将这一行行代码输入到计算机当中去。 我发现第二部分是我工作效率的最大障碍。因此，我花了很大力气（钱）去克服这样的障碍。这包括买了一台又一台顶配的电脑，各种人体工程学设备（椅子、键盘），以及切换到了一个全新的键盘布局（Colemak）。

CoPilot 也是其中的重要一环，他能够帮我补全一部分代码，节约我用来打字的时间。

尤其是在写一些复杂的运算时，CoPilot 能够帮我补全很多张量的运算来确保他们的 shape 与预期一致。这样，我就不用再去关心这些张量的 shape 了，而可以更专注于我的算法。

难以理解我的意图的 CoPilot¶

为什么 CoPilot 不能在第一项上帮助我呢？因为它只能帮我补全一部分代码，而且还不能很好地理解我的意图。这也是为什么我还是会回到 Vim 当中去的原因。 （并没有……） 原因如上段他的看法，也如前一句他自己说的–他不能很好地理解我的意图。

近来在 Prompt Tuning 上的进展能够帮我们更好的发挥 GPT 的潜力。所谓 Prompt 其实就是我们给 GPT 的输入。很多文章也展示了如何通过变化输入来从 ChatGPT 中得到期望的输出。但是，这些文章都是在固定输入的情况下，去调整输出。而 Prompt Tuning 则是在固定输出的情况下，去调整输入。 （其实并不是这样……）

我们当然可以花很多时间来调整给模型的输入来 得到我们想要的输出，但是这样做的代价是非常大的。因此，我们需要一种自动化的方法来完成这个过程 （事实上，我并不确定这样的自动化的方法是否可能存在。）。 计算机程序语言其实都是一种结构语言，因为自然语言（也就是我们平时说的语言）的效率是非常低的。

使用自然语言去不断调整给模型的 Prompt，从而得到符合预期的结果，往往超过了直接自己撸起袖子上的时间。这时 用自然语言去描述计算机程序就显得非常不合适了。因此，我们需要一种结构化的语言来描述计算机程序。这种结构化的语言就是计算机程序语言。计算机程序语言的结构化特性使得我们可以通过编译器将其转换成计算机能够理解的机器码。而机器码则是计算机能够直接执行的指令。因此，计算机程序语言是计算机能够理解的语言。 （求不抽风）。

我了解到很多工作也与我的类似，他们 99% 的工作内容是重复而又枯燥的，但正是剩下的 1%赋予了这份工作的价值。CoPilot 的目的是 帮助我完成这 1% 的工作，而不是让我去重复 99% 的工作。这样，我就可以更专注于那些更有价值的工作上了。 （其实是帮助我完成这 99% 的工作，但我们都能猜到你的意思……）。

抽风 的 CoPilot¶

我相信这两段中 CoPilot 所补全的内容已经展示出了他的另一个致命弱点–抽风。

人工智能发展到现在有两个主要派别：符号派和连接派。连接派曾在上世纪八十年代大放异彩，但随着 计算机硬件的发展，连接派的优势逐渐被符号派所取代。而现在，连接派又开始大放异彩了。 （其实是大家发现连接派做不 work，后来连接派是随着硬件发展而 great again 的）

他们之间的最大区别是：符号派是通过逻辑推理，而连接派则是通过相关性。这听上去有些抽象，符号派试图将各种逻辑运算（通常通过符号表示，比如因为我吃饱了所以我不饿，那么我很饿说明我没吃饱，会被表示为 P → Q; ¬Q → ¬P。）编码到人工智能当中；而连接派则是建立一个两个分布（输入和输出）之间的映射，比如你输入一句话，那么模型会选出所有可能的输出中概率最大的那一个。

所以，模型的输出完全取决于训练数据（和训练策略）。只是大模型对训练数据见得多了，而这些训练数据很多是符合逻辑或者说符合直觉的，所以输出通常也是符合逻辑（直觉）的。

但是，神经网络的输出仍然具有一定的不可预测性。而这种不可预测性可能是致命的。

总结¶

CoPilot，或者说 GPT 是一项伟大的工作。他能极大程度上帮助人提高工作效率，但我不认为 他能够取代人类。因为他的局限性，他的不可预测性，他的抽风。

当然，随着技术的发展，或许这一天终将会到来。事实上，我也一直把他作为我的长期目标之一–

一个所有人类所需的一切都会自动产生的世界。一个不需要工作的世界。

“安得广厦千万间，大庇天下寒士俱欢颜。”

但现在，或许是时候关掉那些贩卖焦虑的文章，然后享受/吐槽科技发展的成果了。