茕茕 发自 凹非寺
量子位 报道 | 公众号 QbitAI

我,一个科技小编,最近在跟国外大佬的邮件交流中,感到飘过六级后的自己英语写作水平那真是日渐捉急。

从句怎么用?时态对不对?看着对面主编犀利的目光,那一瞬间,真想问问自己为什么不good good study, day day up。

于是,我决定了,我要好好学习英语写作!

想要提升水平,不自己动笔写总是差那么点意思。

那么,问题来了:写的好不好,谁来帮我批改呢?

其实,打从小学开始学英语,小学、中学、四六级、雅思托福……英语作文怎么提高从来都是一个难题。

尤其是各类考试,有严格的评分标准,可身边哪能时时有经验丰富的阅卷老师帮忙有针对性地修改提高呢?

听闻我的烦恼,一位网易有道的胖友向我招了招手:你看我手机里这个红色的App,里面最新上线了一只AI,能帮你批改英文小作文哟。

对啊,如果AI真的能准确评分,甚至给出修改意见,那像我一样的同学们不就能随时随地把英语作文练到飞起了吗?

略一调研,我发现,现在有AI批改英语作文功能的产品还真不少:网易有道词典、微软爱写作(小英)、批改网、Grammarly……

想到现在宅在家里的大朋友、小朋友可能也有同样的困扰,我决定亲自测试一下这些AI们到底靠谱不靠谱。

AI批作文,到底哪家强?

初筛一番,我挑选出了几个免费、容易上手使用的选手参与测评,分别是:网易有道词典AI作文批改,微软爱写作,以及Grammarly免费版。

那么,话不多说,让我们直接进入比赛。

Round 1:手写识别

像小学中学英语考试、四六级以及考研英语、雅思托福考试,实际应试时都需要在纸面上进行写作,因此在练习时,同学们也往往会选择手写。

写完一遍,再打一遍字,未免有些麻烦,如果拍张照,AI就能自己识别我到底写了什么,那就方便多了。

有道AI作文批改和微软爱写作均支持图片识别功能。而Grammarly……由于没有这一功能,这位选手选择暂时退场。

我使出洪荒之力,用非标准应试字体誊写了一篇作文,测试两位选手。

先来看有道AI作文批改的表现:

识别得相当准确,有涂改的地方也没有出现误识别的情况,为数不多的几个需要手动修改的地方,基本上都是手写时字母和字母之间空格太大,因此识别时成了两个单词。

再来看一下微软小英的结果:

由于我没写标题,小英强制把第一段都识别成了标题。忽略掉这一点的话,识别准确率也很高。但对于标点符号的识别不及有道AI作文批改敏感(上图红色标注处)。

还有个小问题:如果你把两个词写得比较开,小英会识别出多余的空格,检查得不仔细的话,会影响下一步评分的准确性。


另外,相比于只有网页版的微软爱写作,手机端的有道词典可以直接拍照识别,无需再倒一手把照片传到电脑上,还是要方便一些。

Round 2:纠错能力

如果说OCR只是影响用户使用方便与否的细节,那AI批改作文的重点,当然在于能不能准确抓住作文中的bug。

有道AI作文批改、微软小英和Grammarly都有识别文中语法错误并给出修改意见的功能。

这一轮,我们用一些单句来测试一下谁的Debug能力更强。

例句一:When the girl will leave, she fount an old begger in the tree and looked at angry and cold.

有时态错误,也有拼写错误。

有道揪出了4处错误:

具体的判断是:①疑似用词不当,建议将「will leave」修正为「left」;②疑似动词时态错误,建议将「fount」修正为「found」;③疑似名词误用,建议将「begger」修正为「beggar」;④疑似介词「at」冗余,建议删除。

把问题抛给微软小英,它也同样找出了这4处错误,并给出了一个单词替换建议。

具体判断是:①错误动词时态,将「will leave」改为「left」;②动词用法错误,将「fount」改为「found」;③单词拼写错误,将「begger」改为「beggar」;④冗余,删除「at」;⑤建议将「cold」换成「bitter」、「hard」、「mean」。

最后看一下Grammarly的判断。

Grammarly免费版指出了一处单词拼写错误,并建议我升级付费版。

同样,在「But this stress didn’t stop me from thinking to attend the biggist activity in our school」这个句子中,有道和小英都指出了3处错误:

介词「to」改「about」;动词「attend」改「attending」;「biggist」拼写错误,改为「biggest」。

而Grammarly免费版还是仅仅指出了「biggist」这个拼写错误。

看来,就免费体验来说,Grammarly的语法修改偏于简单了

最后,给有道AI作文批改和微软小英出一个加试题。

例句二:On a cold morning, while I was watching a girl buy bread and milk in the fiont for me.

对于AI而言,这个句子的识别难点在于,同一个对象涉及了多个错误,「fiont」这个拼写错误后面,紧跟着「for」这个介词使用错误。

面对这一题,有道成功把「in the front of」这个整体识别了出来,既指出了拼写错误,也发现词组中介词的错误。

而微软小英的改法令人有些看不懂,难道是感应到了句子里主人公的内心戏?

这轮比拼结束,小小总结一下。

同样是免费,Grammarly免费版相比于两位中文世界的选手,差距有点大

不过,Grammarly有插件版本,直接写邮件的时候,能够边写边纠错。

但如果是想要在AI的帮助下提升英语写作能力,Grammarly免费版恐怕不是上佳选择。

而有道AI作文批改和微软小英,都更符合国内的英语学习路径,总体表现都还不错。不过,在错误复杂度提高的时候,有道的表现略胜一筹

Round 3:评分准确度

另一个重点,是评分的准确度。

毕竟,考试都有严格的评分标准,能否依据标准给出准确的打分,对于广大有应试需求的同学们而言还是非常重要的参考指标。

有道AI作文批改和微软爱写作,都支持多学段英语作文批改,涵盖小学、初中、高中、四六级、雅思托福和考研英语

至于Grammarly,作为一款“舶来”应用,并不是很适合我考试大国的风格,没有推出打分功能,亦无法区分学段和考试类型。

不过,使用Grammarly,也可以针对自己的情况进行一些个性化设置,包括Audience(受众)、Formality(正式程度)、Domain(领域)。

问题还是,免费版选择有限。

我在网上找了一篇 7.5 分的雅思范文,人类老师对这篇作文的评价是:词汇丰富、语法点丰富,并且论证全面。

那么AI会如何评价这篇作文呢?

还是先来看看有道AI作文批改的答卷。

有道给这篇作文打了8分,并且就词汇、结构、语法和内容都给出了评级。

点击查看点评,还能看到AI阅卷官从词、句、篇章着手,对作文的总体评价,一些更高级词汇的推荐,以及好词的巩固。

……词汇量较为丰富……文章较为流畅……词汇基础扎实。

这样的评语,与人类老师的判断基本一致。

同样一篇文章,我们来看看微软小英怎么说。

同样给出了8分,比较特别的是,小英会统计作文中所使用的考纲词汇、逻辑连词和从句数量。

与有道给出的总体评价报告不同,小英给出的是文章结构、句间关系、切题程度、展开程度4个评价指标。

需要注意的是,如果想参考文章内容中切题程度这个指标,必须填写文章标题。而展开程度这个指标,我反复试了多篇作文,从高考范文到雅思范文,都是稳定一星……

这轮比拼结束,同样做个小结。

总体而言,有道和小英的评分结果都根据考试类型的不同,与考试评分标准对齐,具有参考价值

在细节上,有道会根据字数、词汇使用情况、语句逻辑及衔接等方面给出综合评价,微软小英则是分点给出建议,主要集中在文章结构句间关系两个方面。

不过,在测试中微软小英出现了一些小bug。

比如六级作文的满分是15分,但在得分界面其最高分却是25分。

背后技术

看来有道词典批改作文的AI,确实有两把刷子。

出于科技小编的好奇心,我向文章开头给我推荐软件的胖友打听了一下,在这背后究竟是怎样的技术。

以有道为例,其英语作文批改分为三个核心模块:评分模块 + 评语模块 + 纠错模块。

评分模块负责提供总分,及词汇、语法、结构得分,采用的是传统方法 + 深度学习方法。

评语模块提供全文评语、词汇推荐、范文推荐。

纠错模块提供14个类别的语法错误识别及修正,包括浅层的拼写错误、深层的语法错误等。

其中,拼写纠错运用的是基于BERT的NER实体识别技术。

语法纠错,则被定义为序列到序列的生成问题。核心基于Transformer架构。

核心模型所做的事,其实类似于翻译:将语法错误的句子翻译成语法正确的句子

此外,在语法纠错中,还采用了迁移学习和对抗学习。用真实语料和基于真实用户错误分布生成的海量伪语料,不断提升模型能力。

以上是网易有道词典的质量评估结果。P值为精确率(Precision),R值为召回率(Recall),F0.5为P值与R值的调和平均,其值越高,通常表示算法性能越好。

可以看到,有道AI作文批改的测试结果已达行业领先水平。

好啦,看罢这一篇试用报告,不知道正备考四六级、雅思托福、考研英语的你愿意pick AI为你免费批改作文吗?

今天先酱,有其他烦恼需要评测AI工具,也可以留言区跟我说哦~

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态