交换单词的软件现在可以欺骗Alexa和Siri背后的人工智能

给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解，所以边肖也在网上搜集了一些关于手机和互联网的相关知识与大家分享。希望大家看完之后会喜欢。

名为TextFooler的软件可以通过用同义词替换句子中的一些单词来欺骗NLP系统，从而被误解为文本。在测试中，它可以显著降低三个最新的自然语言处理系统的准确性。例如，谷歌强大的BERT神经网络在确定Yelp上的评论是正面还是负面方面要差5-7倍。

工作原理：

该软件由麻省理工学院的一个团队开发，用于找到句子中对NLP分类器最重要的单词，并用人们会发现自然的同义词替换它们。比如把“不可能之下塑造的人物与现实完全疏离”这句话改成“不可能之下塑造的人物与现实完全疏离”，我们的阅读风格并没有真正的区别。但这些调整让AI对句子的解读完全不同。

为什么重要：

我们已经看到了许多这种对抗性攻击的例子，其中大多数是在图像识别系统中进行的，输入中的微小变化都会混淆人工智能，使人工智能对看到的内容进行错误分类。TextFooler显示，这一攻击还打破了NLP、虚拟助手(如Siri、Alexa和Google Home)背后的AI，以及垃圾邮件过滤器和仇恨语音检测器等其他语言分类器。研究人员说，像文本编辑器这样的工具可以通过揭示自然语言处理系统的弱点来帮助它变得更加强大。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！