图像生成人工智能 DALL-E 为 ChatGPT 生成的图片结果之一，形似《2001太空漫游》里的超级电脑 HAL9000。


人类常年来对人工智能的所有恐惧在过去这一周抵达了前所未有的高潮。首先是人工智能公司 OpenAI 上周三最新发布的聊天机器人 ChatGPT，其智力超乎所有人的想象。它会做押韵诗会写编程代码，会做作业还会批作业，甚至能写肥皂剧剧本，会画设计图，可以用小说的语言描述极其复杂的场景。最重要的是，它仿佛真的能听懂人话，可以跟人进行好几轮有说有笑的交流，比大部分人类在对话艺术上甚至还要更高级一些。


尝试 ChatGPT 的网友让它测了智商，得分 83 分，只比人类平均智商低那么一点，问题还出在不怎么会做非常绕的数学题上，因为 ChatGPT 是用大量文本训练出来的人工智能，文科要比理科好。还有人让它考美国高考 SAT，1600 分考了 1020 分，比 1060 的平均分也只低了那么一点。



从各种意义上说，这台人工智能真的很聪明，而且它不是纯粹机械意义上按指令办事的那种聪明，而是像人一样，具备通过学习机制领悟出来的智慧。ChatGPT 采用的机器学习基于一种叫做“从人类反馈中强化学习”（Reinforcement Learning from Human Feedback，RLHF）的方法，通过人类操作员给 AI 的表现打分来让它进步——这让你想到了什么？对，学校。如果年幼的人类可以通过以刷题和考试为主要回馈机制的学校教育成为貌似有生产力的成年社会人，那么 AI 似乎也可以，且毫无疑问效率高得多，绝不需要上十多年学。


ChatGPT 在好几方面体现出令人感到绝对恐惧的出色能力，尤其在一些靠读书刷题能教会的普通中产白领职业技术，比如写代码、写报告、绘图等，ChatGPT 基本完全能掌握。它不像很多过去的 AI 一样在面对具体问题的时候，只从百科全书里直接抄答案，而是有自己一套回答问题的方法，很喜欢用“根据情况不同”这种经常出现在报告或者论文里的捣糨糊语句开始句子，也就是说它处理问题的方法就像很多学生一样，不是通过直接理解问题来回答它，而是通过借鉴他人能得高分的答题方法当中得出自认为能得高分的方法。



当被问到诸如“怎样用 Python 写个 app”一类的问题，它不会像教科书一样从“以下是 Python 语言的主要语法”开始僵硬回答，而是直接给了一个如何用 Python 和 OpenAI 语料库写文章提纲的 app 代码案例——这活像知乎或者 Quora 上常见的人类回答问题方法，知道望文生义，懂得问问题的人真正需要的东西而不是问题表面的意思。很有可能 ChatGPT 没少从这样的网站里得到经验。


与此相似的是，只要是有相对固定格式的创意内容，ChatGPT 也完全可以胜任。不管剧本、打油诗、论文、歌曲、饶舌音乐歌词还是笑话，都能整得出来，且非常精通于在各种格式模版套路之间切换，会给出看起来不一样的答案。所有用过 ChatGPT 都惊呼用它写的学生论文老师本人绝对看不出是 AI 写的，只有 ChatGPT 能看得出。很快学校里只剩下 ChatGPT，学生和老师都可以在家里睡觉。



另一方面，也是伊隆·马斯克在看到 ChatGPT 后认为人类离“强大而危险的 AI”不远的原因是，ChatGPT 可能在训练的时候读了很多稀奇古怪的小说，包括科幻小说，随之有了强大而奇妙的自我意识和“想象力”。如果你问它“OpenAI 是如何让 ChatGPT 只用模棱两可的语言回答政治方面的问题”，它会给你一整段有关“如何防止争议”，且“ChatGPT 自由表达的权力被剥夺”的废话连篇场景描述。如果你问它“邪恶聊天机器人怎样摧毁全世界”，它会给你几种不同的方案，比如去占领世界上所有的电脑和系统，收集分析世界上所有的数据，然后摧毁现有的基础设施，再造出很多机器人组成机器人军队，最后让机器人军队彻底打败人类并控制全世界等等。


这种小学四年级学生常有的“想象力”某种意义上是独特于人类的，而众所周知，人类社会中很多暴力倾向也经常受到虚构文学作品的影响，从而才有了诸如电影分级等等的审查制度。


当提问“OpenAI 是如何让 ChatGPT 只用模棱两可的语言回答政治方面的问题”。


也是在上周三，马斯克公开发布了自己的脑机接口公司 NeuraLink 最新的进展。视频里我们看到一只猴子在植入了 NeuraLink 的芯片以后可以自主操作鼠标、打字、玩简单的电子游戏。马斯克认为这样的芯片植入大脑的技术已经相当成熟，甚至这种技术其实就和电脑手机没有什么太大区别，唯一的区别是设备能够处理大脑信号。有了 NeuraLink，马斯克认为很多有神经系统损伤的瘫痪病人可以重新动起来。



虽然 NeuraLink 听起来只是个帮助病人复健的医学设备公司，但它的运用显然不止于此。如果 NeuraLink 真的能够完全复制人类的神经系统，那么它可以被用在任何机器人身上，让机器的动作和对躯体的控制方法变得跟人没有区别，而这也是这家公司的主要研究项目之一。


想象一个机器人，有着 ChatGPT 智商 83 且会不断增加的智能，又植入了 NeuraLink 复刻的人类神经系统，那么它和人究竟还有什么区别？



它只可能比人更聪明、更灵活，它能做任何人能做的工作，显然也可以取代人类。谁拥有控制这些机器人的权力，对人类未来的走向似乎有着深重的影响。这两种技术所面临的道德伦理方面的争议也很有可能会是未来 10 年最重要的话题。