您的位置: 主页 > N家生活 >IBM Watson 爆出致命 Bug:开错药给病人,医死人 >

IBM Watson 爆出致命 Bug:开错药给病人,医死人


2020-06-07


IBM Watson 爆出致命 Bug:开错药给病人,医死人

作者:量子位/郭一璞  问耕

IBM 的 AI 系统 Watson(华生)捅了一个天大的篓子:给患者开错了药。

刚被曝光的 IBM 内部文件显示,许多医生在使用 Watson 时,发现 AI 给出了「多个不安全、不正确的治疗意见」,甚至在极端的诊断案例中,Watson 给有出血症状的癌症病人开了容易导致出血的药品,严重时可致患者死亡。

去年,在美国临床肿瘤学会年会上发表的研究表明,IBM Watson 非常擅长为癌症患者制定治疗计画。然而,事实证明人工智慧仍然远非完美。

可能你还不知道,明显存在 bug 的 Watson 系统并不是一个实验室中样品,这个可能会治死人的 Watson 已被全球超过 230 家医院使用,其中包括中国北大肿瘤医院、宣武医院等 67 家医院,分布在全中国 22 个省份。

IBM 内部文件曝光,华生的「医死人」医嘱

IBM Watson 爆出致命 Bug:开错药给病人,医死人

掀起热议的「Watson 开错药」消息,最早来自美国医学媒体 STAT。

STAT 拿到了 IBM 公司内部的机密文件,来自时任 IBM Watson Health 副首席健康官的 Andrew Norden,只有 IBM 的管理层有权限查看。

Norden 在 2017 年 6、7 月间给出的报告显示,正在使用 Watson for Oncology(Watson 肿瘤解决方案)的医生们对它提出了强烈的批评:数个例子表明,Watson 经常提出不準确的医疗建议,「在给出意见的过程和底层技术上存在严重的问题」。

文件中一个严重的例子是:

一名 65 岁的男性被诊断出患有肺癌,而同时,该患者也似乎有严重的出血症状。Watson 给这名患者的诊疗建议是:

1、接受化疗;
2、使用治疗癌症的药物贝伐单抗(Bevacizumab,商品名 Avastin 阿瓦斯汀)。

而贝伐单抗这种药物可能导致的副作用之一,正是容易导致出血。在美国卫生系统药剂师协会对该药物的描述中,这种药物有时会发生严重乃至致命的出血事件,所以该协会建议不要给严重出血的患者服用。

IBM Watson 爆出致命 Bug:开错药给病人,医死人

Watson 系统给出的诊疗意见忽视了这个可能导致该患者死亡的问题,开了错误的药品。

不过,好在这个「65 岁男性肺癌患者」并非真实存在,并没有人因此而吃错药。 负责训练 Watson 肿瘤系统的纪念斯隆-凯特琳癌症中心对此回应道,这名「65 岁男性肺癌患者」是癌症中心的医生在训练 Watson 时给出的虚构病例,只是为了训练 Watson 的诊断能力。

这家医院还发出声明说,在实际运用中,医生们会接受该癌症中心的医生给出的指导建议,而不是完全听信 Watson 系统的诊疗判断。

给 Watson 一个负评,「这玩意儿什幺都做不了!」

虽然纪念斯隆-凯特琳癌症中心认为医生们给人看病的时候不傻,不会完全听信 Watson,但医生们的怀疑和抱怨却并不会因此消减。

首先这个案例说明:Watson 的训练,是通过假设性的癌症病例,而不是真实的患者数据来进行。而此前 IBM 的高管一再告诉客户:「Watson for Oncology 的建议是基于真实的患者数据,全世界的医生都喜欢这种工具」。

这让外界对 Watson 的有效性进一步产生了质疑。

IBM Watson 爆出致命 Bug:开错药给病人,医死人

佛罗里达州的邱比特医院就是愤愤不满的客户之一。在这份 IBM 的机密文件中,邱比特医院的一位医生愤怒的说:「这玩意简直就是一坨屎!我们买 Watson 来,是因为它的营销搞的很厉害,让我们觉得能靠它来实现一些愿景。结果买来之后呢?这玩意儿什幺都做不了!」

事件曝光后,科技媒体 Gizmodo 採访了邱比特医院的肿瘤科医生 Sujal Shah。这位医生表示,只有当邱比特医院的医生们对两种不同的治疗方案无法达成一致的时候,医生们才会看看 Watson 站哪边——大概就是「现在 5:5 平手,Watson 你来投个票吧」。

STAT 此前的一项调查显示,Watson for Oncology 其实没有达到 IBM 的预期,而这次曝光的文件表明,IBM 的高管们知道自家产品给出的治疗建议与国家治疗指南相冲突,以及医生认为这套系统作用不大。

当然,一直以来 IBM 高管都对 Watson 讚誉有加。

被曝光的文件中还显示,有几位 IBM 员工对 Norden 直言,Watson 这套产品的能力「非常有限」。

在给 STAT 的声明中,IBM 表示已经根据客户反馈、新的科学进展、新的癌症治疗方案等,学习和改进了 Watson Health。

动荡中的 Watson

这已经不是 Watson 今年第一次遭遇危机了。

Watson 最早进入公众视野是在 2011 年,它当时在电视智力节目《危险边缘》中击败了人类。之所以实现这一创举是因为这套系统具备强大的自然语言处理能力,因而可以理解现场的複杂问题,然后对庞大的数据库进行扫瞄,最终给出答案。

两年之后,IBM 宣布 Watson 将在医疗领域找到第一个杀手级应用。这似乎是理所当然的:随着医院和医生逐步採用电子病历了解病人的状况,Watson 这样的机器也可以提供数据检索服务。

2016 年 8 月,在与日本东京大学医学院的合作中,Watson 通过医生上传的 DNA 数据,在不到 10 分钟的时间内给一个 50 多岁的女性做出了继发性白血病的正确诊断。

去年 2 月,Watson 在中国天津市第三中心医院出诊,在不到 10 秒钟的时间,给一名胃癌局部晚期的患者开出了诊疗方案,跟肿瘤科主任的判断一致。

IBM Watson 爆出致命 Bug:开错药给病人,医死人

当然,质疑的声音一直存在。

除了上面提过的 STAT 批评,IEEE Spectrum 也曾报导称,IBM 向 Watson 业务投入数十亿美元,但「Watson 医生」尚未给医疗行业带来革命。

今年 5 月底,Watson 医疗健康部门发生了一次震动行业的裁员,估计有 300 人离开了 IBM。一位被扫地出门的工程师表示,IBM 针对「认知计算」平台的推广,掩盖了他们在利用人工智能盈利的过程中遇到的真正困境。

「IBM 华生拥有了不起的人工智慧技术。」这位匿名的工程师说,「这就像有一双好鞋,但却不知道怎幺走路 —— 你必须搞清楚怎幺使用它。」

来自华尔街的分析师们,也并不是都对 IBM Watson 持有积极看法。Jefferies 去年 7 月发布的研报认为,儘管 IBM 对 Watson 展开大举投资(该分析师估计 2010 至 2015 年间的投资总额为 150 亿美元,约为台币 4500 亿元),但这个部门却很难盈利。

即使 IBM Watson「仍是市场上最有竞争力的现成人工智慧平台之一」,但用户在把 Watson 与现有的数据和分析系统整合的过程中仍然面临严重困难。他举了德克萨斯州(德州)MD Anderson 癌症中心的例子,该中心投入了 6200 万美元(约为台币 18.9 亿元)之后却取消了他们的 Watson 项目。

Watson 也进入诸多中国医院

IBM Watson 爆出致命 Bug:开错药给病人,医死人

令人担忧的是,这个被爆出会开错致命药的医疗 AI,已经投入使用,被不少医院运用在对真实病人的诊断治疗中。

IBM 发言人说,Watson 肿瘤系统受过训练,可帮助肿瘤科医生治疗 13 种癌症,并被全球 230 家医院使用,「支持超过 84000 名患者的护理」。

而这 230 家医院中,至少有 67 家中国医院(截至 2018 年 7 月 5 日)。

根据 IBM Watson 在中国的代理官网信息,及中国信息产业网-人民邮电报、比特网等媒体的报导,量子位粗略的整理了部分已经引入 Watson 肿瘤系统的医院。

患者到这 67 家医疗机构找 Watson 看病似乎也不便宜。根据亿欧报导,IBM 代理商百洋董事长付钢在去年 10 月表示:「目前,Watson for Oncology 的服务多为患者自付费,平均每人 5000 元左右。」

参与训练 Watson 的纪念斯隆-凯特琳癌症中心回应此事称:「虽然 Watson 肿瘤系统提供安全的治疗选择,但治疗决策最终需要主治医生的参与和临床判断,没有任何技术可以取代医生的工作,也没有任何技术可以取代医生对自己病人的了解。」

─ ─

推荐阅读:

台湾填鸭教育製造太多考试机器,关于长大后的生活孩子一无所知



上一篇:
下一篇:
菲律宾申博太阳城_2017大神娱乐老版本|提供生活常识|各方面新闻信息网|网站地图 申博官网备用网址_申博sunbet管理网 申博官网备用网址_永利279999