您的位置首页 >企业 >

巴比伦健康对AI聊天机器人的安全问题提出了强烈要求

导读 给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解,所以边肖也在网上搜集了一些关于手机和互联网的相关知识

给大家分享一篇关于互联网和手机的文章。相信很多朋友对互联网和手机还是不太了解,所以边肖也在网上搜集了一些关于手机和互联网的相关知识与大家分享。希望大家看完之后会喜欢。

有争议的医疗应用制造商巴比伦健康(Babylon Health)批评了这位医生,他首先对自己的AI聊天机器人的安全性提出了担忧。

巴比伦健康公司的聊天机器人可用于该公司的GP at Hand应用程序,这是卫生部长马特汉考克倡导的数字医疗解决方案,自去年以来也已集成到三星健康中。

聊天机器人的目的是通过自动分诊来判断家里是否有人可以治疗。GP需要网上或亲自预约或直接去医院,减轻了GP和AE部门的负担。

推特用户在2018年第一次以墨菲博士的化名联系我们,声称巴比伦健康聊天机器人正在提供不安全的建议。墨菲博士最近被揭露为大卫沃特金斯博士,并在皇家医学协会的《2020年人工智能和数字健康的最新发展》中发表了他的发现,还出现在BBC新闻之夜的报道中。

在过去的几年里,沃特金斯博士提供了许多聊天机器人提供的危险建议的例子。在一个例子中,一个肥胖的48岁老烟枪被建议有胸痛,他建议“在接下来的几个小时内”咨询。任何有常识的人都会告诉你立即打紧急电话。

这个特殊的问题已经得到了纠正,但沃特金斯博士多年来强调了许多其他例子,这些例子清楚地表明存在严重的安全问题。

在周一的一份新闻稿中,巴比伦健康中心称沃特金斯博士为“巨魔”。他“针对我们的员工、合作伙伴、客户、监管机构和记者,并发布了关于我们的诽谤性内容”。

根据新闻稿,沃特金斯博士对聊天机器人进行了2400次测试,以抹黑这项服务,同时改进了“他认为涉及的测试结果不到100个”。

根据巴比伦自己的“高级临床医生小组”,巴比伦健康声称只有20例沃特金斯医生发现了真正的错误,而其他的都是“错报”或“错误”。

在接受TechCrunch采访时,沃特金斯博士表示,巴比伦的说法“完全是胡说八道”,并质疑这家初创公司从哪里获得的数据,因为“绝对没有2400份完成的分类评估”。

沃特金斯博士估计,他已经进行了800到900次综合分类,其中一些是重复测试,看看巴比伦卫生局是否解决了他之前强调的问题。

医生承认巴比伦健康的聊天机器人有所改进,出现问题的概率约为三分之一。2018年,沃特金斯博士第一次联系我们和其他机构时,他说比例是“一比一”。

本文就为大家讲解到这里了。

标签:

免责声明:本文由用户上传,如有侵权请联系删除!