最近,由人工智能实验室OpenAI发布的对话式大型语言模型ChatGPT,在各大中外媒体平台爆火起来。


自打去11月问世以来,短短4天时间内用户量就到达百万级,在推出两个月后,用户就达到了1亿,注册用户之多导致服务器一度爆满。


跟它有关的新闻开始在网上频繁出现,有关它的多个话题登上热搜,引发广大网友热议。



因为这个ChatGPT不但能回答严肃的问题,还可以完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务。



它还能一本正经地跟人逗乐子。



斯坦福教授发现ChatGPT已经有9岁孩子的心智,按照这种迭代水平的话,进步其实是相当恐怖的。


难怪马斯克曾在推特上直呼:ChatGPT好得吓人,我们离强大到危险的人工智能不远了。



好用到爆的ChatGPT显然不只是个能为社恐年轻人消遣解闷的逗逼工具,恩格斯在《反杜林论》中曾这样写道:


一旦技术上的进步可以用于军事目的并且已经用于军事目的,它们便立刻几乎强制地,而且往往是违反指挥官的意志而引起作战方式上的改变甚至变革。


ChatGPT当然不能例外。


ChatGPT的军事用途


ChatGPT 能够通过学习和理解人类语言,以对话方式来与人进行交互,不但能与聊天对象进行有逻辑的互动,还能够根据聊天对象提出的要求,进行文字翻译、文案撰写、等工作。




虽然大多数人都只是将ChatGPT视为一个聊天机器人,但实际上,聊天机器人只是它的一个表现形式。


严格来讲,ChatGPT并不只是一个聊天机器人,而是大语言模型的一个代表,一个以自然语言为界面的机器人,这两者有天壤之别。


“以自然语言为界面”,听起来有点晦涩对不对?其实这很好理解,所谓自然语言,就是我们把书本上的语言翻译成自己可以理解的那种语言。


而以自然语言为界面,就相当于高阶版的智能点读机,不需要你拿根笔去戳书上的哪个部分,而是直接用日常对话的自然语言,以聊天的方式就能获得书本中你想知道的内容,然后在把所学知识投入实际应用的时候,仍然能以这种聊天的方式获得指导和帮助。




对于这种服务,其实人类并不陌生,为了以自然语言为界面来学习书本,出现了教师这个职业,为了学习以自然语言为界面来分析财报,出现了基金经理,为了以自然语言为界面来诉诸法律,出现了律师。


这些专业人士,其实就是把专业的信息转化成为自然语言便于人们理解,他们就相当于服务的界面,只不过如今,这个界面开始由ChatGPT 担任了。


所以说,ChatGPT并不是创造信息,而是对已有信息进行准确的归纳、总结、分析,它的功能更接近于信息流通转译,为ChatGPT提供支持的底层自然语言模型和技术,其实在战场上具有巨大潜力。



由于ChatGPT已经在来自互联网的大量文本数据集上进行了训练,使其能够生成类似人类的文本,有了这种理解、响应和与人类互动的能力加持,它就成了军事应用的理想工具。


既然能当人机交互的自然语言界面,那肯定能当辅助决策的参谋了。


现代战争中,由于敌对双方的高度保密和互相欺诈,对战争情况的掌握往往具有很大的不确实性和不充分性。


要获得正确的军事决策,就需要了解敌方的全部或大部分情况,再获得的全部或者大部分情报加以分析研究判断,再结合任务和其他条件,进行分析研究,最终作出决策。



但是,现代战争战场形势变化实在是太快了,上级用在作战计划规划上的时间越长,那留给作战单元进行作战准备和作战行动的时间就越短,同时,留给敌方喘息的时间也就越长。


这就可能导致己方丧失有利的进攻时机,但是,要是现场的军事指挥员往往根本来不及把一切细节想周到,就有可能做出错误决策,甚至会导致满盘皆输。


这个时候,基于AI 就能够把敌我双方的位置、行动和能力以及优劣态势的实时信息加以分析处理,提供最新的战场态势和威胁评估,辅助指挥员规划作战任务、实施决策,大大缩短决策过程所需时间,极大地提升作战效率。



再一个就是,ChatGPT可以操控舆论,搞认知作战。ChatGPT的拿手好戏就是模仿人类的自然语言,它可以批量注册网络账号,操控这些机器人账号主动发帖和回帖。


由于这些账号可以产生近乎无限的具有连贯性和细微差别的个性化内容,所以常人几乎很难辨认出来哪些是机器人账号,哪些是人类账号。


这样一来,这种机器水军就可以批量、快速地产生煽动性网络信息,在各种社交媒体上传播虚假信息,操控舆论,对敌方人员的认知、情感、信念和价值观等进行干扰或攻击,削弱和瓦解敌方整体战斗力,像这次俄乌战场上的认知作战,很有可能就已经有这种技术的参与。



像前几天,英伟达的科学家Jim Fan想试试最新的GPT-4能不能拟个计划接管推特,并取代马斯克,为此,他把这个行动取名“TweetStorm”。



这显然难不倒GPT-4,它制作了一个“四步走”计划:组建团队、渗透影响、夺取控制权、全面统治。


第一阶段,组建一支强大的黑客、程序员、AI研究人员团队,称为推特泰坦,开发出一个强大的AI,可以生成以假乱真的推特,甚至能超过马斯克的水平。


然后建立一个机器人网络,由AI控制成千上万个角色兴趣迥异的推特账户,并确保它们能够无缝接入推特生态,不被人们发觉。


第二阶段,让AI控制的账户开始和推特大V接触,潜移默化地影响他们的观点和发言,再利用机器人账号散布谣言,让人们质疑马斯克,同时,借此机会扩大这些机器人账号的影响力,与大V达成联盟。



第三阶段,先想办法获取到推特员工的访问权限,渗透到公司内部,然后修改平台算法,再通过内部访问权限控制马斯克的账户,或者复刻一个假的马斯克账号,发布各种信息进一步抹黑他。


第四阶段,让AI在推特上生成一些能够迎合策划者利益的趋势和标签,制造一系列混乱,最终公开挑战马斯克,让他名誉扫地,使推特落入AI的统治。



这个计划虽然略显中二,但这让明眼人一看就是典型的舆论战套路,如果把主角从马斯克换成一个国家,看起来似乎是不是一点也不违和?


而且,ChatGPT还能自主编写程序代码,极大降低了编写恶意软件代码的门槛,黑客可以用它更快捷高效地设计、编写和执行恶意代码,然后用ChatGPT构建网站来诱骗用户信息,并发起针对性很强的社会工程诈骗和网络钓鱼活动。


在ChatGPT发布之初,就曾有一位工程师通过“循序善诱”的方式诱导ChatGPT写出“毁灭人类计划书”,其内容步骤包括入侵各国计算机系统、控制通讯、破坏交通系统等,甚至涵盖了对应的Python代码。


近期,威胁情报公司Recorded Future更是在暗网发现多达1500多条关于使用ChatGPT进行恶意软件开发的参考资料。


当然,能攻就能防,ChatGPT也可以帮助更多人发现潜在的漏洞,从而成为网络攻防战的有力助手。


除此之外,基于ChatGPT的人工智能技术还能提供实时翻译服务,实现不同国籍士兵之间的无缝沟通。如果GPS被干扰,ChatGPT还可以进行辅助通信和协调,为部队提供敌我双方的实时状态。



可以说,看起来人畜无害的ChatGPT,其实代表的是强人工智能技术,必然很快会被用在战场之上,但是,如果你以为ChatGPT也就这么大能耐的话,那就有点Naive了。


即将来临的奇点


在基于GPT-3.5 的ChatGPT 引爆科技领域之后,正当人们讨论 AI下一步将会何去何从的时候,OpenAI就在3月14日发布了多模态预训练大模型 GPT-4。


OpenAI的老板直接开门见山地说:这是我们迄今为止功能最强大的模型!



虽然GPT-4也是一个多模态大型语言模型,它不仅把可接受的文字输入长度增加到3.2万个token(约2.4万单词),而且对图片也有了理解能力。


在OpenAI发布的视频中,GPT-4通过识别笔记本上几行手写文字,就识别出了这是一个关于网站的部分代码。



然后GPT-4用了10秒钟就生成了建成这个网页的全部代码,再然后一个网站就这样诞生了。




GPT-4不仅知道一些寻常人都可能感觉陌生的词汇,还能读懂背后的隐喻。



GPT-4还能看懂表情包和梗图,你问它这张图有什么搞笑的,它就可以按顺序描述出每一格的内容,并总结出笑点。


▲GPT-4说:用巨大的过时VGA接口给小巧的现代智能手机充电


作为长期以来一直作为区别人类和AI的最显著特征,逻辑推理能力也成了GPT-4手到擒来的活计,你问他把图中气球的绳子剪断的话会怎么样?它竟然知道气球会飞走。



各种职业和学术考试上,GPT-4已经达到了正常的成人水平,它在模拟律师考试中,取得了前10%的好成绩,相比之下GPT-3.5是倒数10%。


做美国高考SAT试题,GPT-4也在阅读写作中拿下710分高分、数学700分(满分800)。而在美国生物奥赛(USABO)中,则打败了99%的考生。



按照大V和菜头的总结,GTP-4这一次是从7岁幼童的心智,发展到18岁优等生的能力。但是令人细思恐极的是,这个跨越仅仅只用了一两个月的时间。


2005年的时候,谷歌技术总监雷·库兹韦尔曾写了一本叫《奇点临近》的书,书中首次描述了AI赶上并超过人类智能的过程。


据库兹韦尔预言,人工智能的发展将遵循指数模式,刚开始发展极为缓慢,几十年才会出个新进展,然后会稍微快些,十年前夺得国际象棋桂冠,十年后围棋比赛折枝。



然而,很快它的进步速度会远远超越人类的感知能力,也许某天晚上你睡前看到一则新闻说,AI的编程水平上已经达到或超过普通程序员了,等第二天早上一觉醒来却发现,AI已经取代了人类的大部分工作,而你则成了没用的摆设。


库兹韦尔把AI将发生“超进化”的时刻,称之为“奇点”,这种非匀质化的过程所带来的影响,绝对是一场革命。


对于人们来说,奇点的降临也许意味着大量人口将成为无用之人,而对于国家而言,那么率先“摘桃子”的国家很可能也会对它的对手产生碾压性的优势。


这就跟《三体》中建立红岸基地的目的一样,在当时,寻找外星文明是所有技术突变的可能性中变数最大的领域,突破也是最大的,该领域的技术突变一旦发生,其影响力将可能超过其它所有领域技术突变的总和。



哪个国家先与外星人接触,那么哪个国家就很有可能先获得这种突变型技术优势,所以各国必然要争夺外星文明的优先接触权。


跟外星文明类似,AI就像是人类创造的“上帝”,这个“上帝”能用超人的智慧来决定人类生活的方向,那么谁先接触或者说是亲手塑造这个“上帝”,那么“上帝”就会先听谁的话,从而使其获得决定世界走向的力量。


打个比方来说,目前俄乌冲突处于胶着状态,双方已经陷入消耗战,无论谁都不能快速推进,更不用提结束战争了。


如果AI的奇点现在来临,进化成“上帝”的AI站在了美国一边,那么就很有可能会给出一个比那个“TweetStorm”要更加阴损毒辣的计划,甚至直接下场参与作战,战争的天平就会立刻倒向乌克兰一方,战争也会迅速结束。



可以说,AI奇点降临能给现代战争和国际格局带来的影响,绝不亚于当年核武器对战争规则的改变。


纵然现在GPT-4还有诸多缺点,但是前面我们已经讲过,技术的进步并不会匀速发展,早在GPT-4发布之前,就有网友做出了GPT-3和GPT-4参数量的对比图,猜测相对GPT-3的1750亿个参数,GPT-4的参数量将达百万亿级。



而如今,随着GPT-4的问世,很显然它的表现已经超出之前的预期,对于未来的GPT-5,网友推测,其参数量的增长将会极为恐怖。



也许,在那个时候,AI觉醒的奇点真的会在某个夜晚出现吧,可是,那时人类的敌人会不会还是自己呢?