vlambda博客
学习文章列表

用图像识别技术学习词汇


 内容简介

本文介绍的是利用智能图像识别转换文字技术把照片识别为对应词汇,从而学习者在真实情景中掌握词汇的一项研究。本研究题目为Using image-to-text recognition technology to facilitate vocabulary acquisition in authentic contexts(真实情景下以图文转换技术促进词汇习得的研究),2020年2月发表于ReCALL期刊,作者是南京师范大学Rustam Shadiev教授等。

本研究主要探讨在运用图像识别转换文字的技术辅助下,学习者的词汇习得效果、学习者对此技术的态度以及此技术的功能效用。研究对象是40名俄罗斯小学生,辅助学习工具为作者团队自己开发的安卓版学习系统。


工具介绍

研究中采用的工具利用了谷歌图像搜索,相对于传统的文字检索形式,使用者可以直接利用图片网络检索内容。该学习工具主要有四种功能:

1. 相机:对身边感兴趣的物体拍照,创建学习内容。

2. 图像识别:系统可把图中物体识别为英语词汇标签。

3. 笔记:在系统内通过文字、图片等形式记录个人体验。

4. 教材:系统内置了教材内容供学习者阅读。


研究过程

本研究将被试随机分为两组,实验分为3个主要阶段(如下图所示)。被试在主题为“在市场”的英语课堂教学中,学习相关的词汇、语法和句型知识,课后完成一项操练任务,将课堂上所学知识运用于描述学习者最近的一次购物经历。

其中,控制组依靠课本上提供的图片提示完成纸笔写作,实验组利用本APP对真实市场环境中的物体进行拍照识别,并在APP上完成写作。

用图像识别技术学习词汇


研究结果

1. 两组在前测时表现出的词汇能力并无明显差异,然而在后测和延迟后测中,实验组的成绩显著地高于控制组。结果表明学习者使用图像识别转换文字的技术比起使用传统方法更有利于词汇的习得和保持。

2. 实验组在实验后接受的问卷包括四个方面:搭载图像识别技术的工具易用性、工具的有效性、学习者继续使用该工具的意愿和学习者对该工具的满意度。问卷分析结果表明,被试对于使用图像识别技术工具的学习体验在以上四个方面都持有积极的态度。

3.通过分析实验组在实验后接受的访谈可知,学习者认为该工具主要具有技术支持、学习性和真实性三个方面的效用。


研究结论


使用图像识别工具的学习活动能帮助学生更有效、更有相关性、更有意义地习得词汇,因为学习者可以更加主动地学习,在现实世界中可以从周围的语境中利用自己感兴趣的无限学习资源。


技术延伸

该研究所使用的工具基于谷歌图片搜索的“按图片搜索”即识图功能,这种对图片进行识别的技术已成为很多搜索引擎的必备功能,如百度、夸克等搜索引擎的图片搜索也有一样的功能。使用者可以上传已有的图片,来找类似的图片,也可以在手机搜索引擎app中对着物体拍照,经过识别后可以呈现物品的信息及类似的图片。

用图像识别技术学习词汇

用图像识别技术学习词汇

与这些搜索引擎不同的地方在于,本研究所使用的app能把谷歌搜图的结果识别为英文词汇标签。虽然这个app没有在应用市场公开发布,但是我们可以找类似功能的app,如同时具备相机识别+翻译功能的,如Q translator、OCR Object、CamStrans,或者为有视力障碍人士开发的app如“悦声”等,后者可以把识别的英语词汇朗读出来。

下图所示的是使用CamStrans对物体拍照后识别为英文界面。识别结果有多个词汇列出可供选择。教师可以基于这个词汇列表开展词汇的评价活动。

用图像识别技术学习词汇用图像识别技术学习词汇

    下图所示的是Q translator识别后的结果。该app在识别后具有AR视觉效果,识别的文字会直接贴在物体上,即使移动相机镜头,词汇也会固定在物体处。不足之处是识别准确性有待提高,且无多个词汇可供选择,如下图的茶杯被识别为teapot(茶壶),但教师也可以以此开展批判性的词汇学习活动,如词汇纠错等。

用图像识别技术学习词汇

另外,我们还可以使用另外一款智能搜索APP 夸克 自带的翻译功能,它能将识别后打开的中文网页翻译成英文。夸克还具有云笔记功能,不仅可以让学生运用图片、文字多种模态进行记录,学生还可以同时用英语语音输入转换成文字。教师可以在此基础上组织类似的教学活动。如下图是对pear相关页面的翻译截图。

用图像识别技术学习词汇

【特别说明】

本文初稿由华南师范大学外文学院学科教学(英语)硕士生陈一莹撰写,经刘晓斌修改。本文所得赞赏将全部奖励给陈一莹同学,欢迎读者支持鼓励。

本文相关的词汇多模态、真实语境等学习方法,在我们的《外语教育技术》公益慕课中有所涉及,欢迎读者扫描以下二维码或点击文末的原文链接免费参加学习。



THE END