为什么需要谨慎处理癌症识别人工智能

如今，算法似乎每时每刻都在超越医生的诊断，识别危险的病变和狡猾的痣，并且具有只有机器才能召集的无误一致性就在本月，谷歌的一项研究引起了一波头条新闻，该研究表明其人工智能系统可以比医生更准确地在乳房 X 光照片中发现乳腺癌

但对于医疗保健领域的许多人来说，这些研究表明的不仅仅是人工智能的前景，还有它的潜在威胁他们说，尽管算法具有处理数据的所有明显能力，但护士和医生基于判断的微妙技能并不那么容易数字化在一些科技公司正在推动医疗人工智能的领域，这项技术可能会加剧现有的问题

发现更多癌症的危害

对于谷歌的乳房 X 光检查论文，主要的批评是该公司试图自动化一个已经有些争议的过程正如克里斯蒂·阿施万登本月早些时候在《连线》杂志上指出的那样，多年来，医生们一直在争论，乳腺癌的早期扫描可能有害无益，而人工智能的引入可能会打破平衡

社会上有这样一种想法，即发现更多癌症总是更好，但这并不总是正确的。

社会上有这样一种想法，即发现更多癌症总是更好，但这并不总是正确的，戴尔医学院皮肤科医生兼助理教授 Adewole Adamson 告诉The Verge我们的目标是发现更多实际上会杀死人的癌症 但问题是癌症的构成并没有黄金标准

正如研究发现的那样，你可以向一组医生展示相同的早期病变，并得到关于它是否是癌症的完全不同的答案即使他们确实同意病变所显示的情况——而且 他们的诊断是正确的 ——也无法知道这种癌症是否对某人的生命构成威胁这会导致过度诊断，亚当森说:如果你不去寻找它们，就不会伤害人们一生的癌症

一旦您确实将某些东西称为癌症，它就会触发一系列医疗干预，这些干预可能是痛苦的，代价高昂的并且会改变生活就乳腺癌而言，这可能意味着放射治疗，化疗，从乳房中切除组织或完全切除一个或两个乳房这些不是仓促的决定

谷歌的算法可以比一些医生更可靠地在乳房 X 光照片中发现病变，但应该如何应用呢。

但是这种诊断的复杂性在谷歌的研究中没有得到应有的重视，亚当森说首先，该公司的研究人员在已经被确定为癌变的图像上训练他们的算法但由于癌症诊断没有黄金标准，尤其是早期癌症，因此此类训练数据是否提供了良好的基线尚有争议其次，谷歌的算法只产生二元结果:是的，它是癌症，或者不是，它不是正如亚当森在最近的一篇论文中所说，需要有不确定性的空间，第三种选择代表诊断的灰色区域，延长辩论而不是结束辩论

谷歌称该论文是早期研究

当被问及这些问题时，谷歌的团队告诉The Verge，他们的算法降低了误报率将减少过度诊断的威胁他们还强调，该论文是早期研究，他们将在未来调查亚当森提倡的那种非二元分析

这正是我们下一步将与合作伙伴进行的那种研究，谷歌健康发言人说我们希望在许多其他领域探索工作流考虑因素，用户界面考虑因素

可是，对于亚当森来说，这些挑战比一篇论文还要大他说，过度诊断是许多不同癌症的问题，用于前列腺癌，黑色素瘤，乳腺癌，甲状腺如果人工智能系统在发现越来越小的病灶方面变得越来越好，你就会制造出很多患有‘疾病’但实际上不会杀死他们的假病人

不那么过时的放射科医生

将人工智能集成到医学中时，过度诊断是一项挑战，但对于一些医生来说，问题的根源更深它们不是在特定的论文或算法中被发现，而是在人工智能世界的信心中，即它可以取代整个医疗工作类别:放射学

2016 年，人工智能先驱 Geoffrey Hinton表示:人们现在应该停止培训放射科医生很明显，在五年内，深度学习将比放射科医生做得更好 2017 年，Google Brain 的联合创始人 Andrew Ng在评论一种通过 X 射线检测肺炎的算法时重复了这一点:放射科医生应该担心他们的工作吗

最近几年来，这种言论已经平静下来，但对于真正的放射科医生来说，这些声音听起来总是被误导并且有点侮辱性尽管算法当然能够像医生一样发现医学图像中的特定特征，但这还很难因为能够穿上长袍并开始在病房里行走而哭泣

放射科医生和健康技术顾问休哈维说，问题的核心是放射科医生不只是看图像这是对放射科医生所做工作的完全误解 他说，这份工作更像是读一本小说，并试图写出它的概要

一些专家声称人工智能将取代放射科医师，但放射科医师表示他们不了解这项工作的意义。

人工智能真的无法取代放射科医生在任何有意义的意义上所做的工作。该项目似乎非常适合谷歌云，谷歌的人工智能技术有助于检测异常交易，因而吸引了德意志银行，汇丰银行和纽约梅隆银行等客户。

正如 Harvey在 2018 年的一篇博客文章中指出的那样，它涉及安排和准备患者，以各种方式收集数据，将其与诊断的其他部分相关联，并参与各种辅助任务，如教学，培训和审核他人的工作在任何有意义的意义上，人工智能确实无法取代放射科医生所做的工作，哈维说它可以找到难以找到的东西，并将它们展示给放射科医生以征求意见，但仅此而已

人工智能世界过度自信的根源不在于对放射科医生的任何特定仇杀，而在于人工智能本身的结构亲和力迄今为止，机器视觉已被证明是深度学习的最大优势，也是人工智能的主导风格这是一项图像识别测试，在 2012 年开启了当前的人工智能热潮，深度学习视觉算法支撑了其最强大的应用程序，从自动驾驶汽车到面部识别

正因为如此，人工智能研究人员在将相对标准的视觉算法应用于医疗数据集方面取得了很大进展这产生了许多第一次，因为 AI 学会了在数据 Y 中发现特征 X 并创造技术进步快速膨胀的印象医生们说，这些应用程序中最像工具的——那些简单地标记数据中的特征以供医生验证的应用程序——是最有用的但是，尝试做出自己诊断的更复杂的诊断不一定能应对潜在的医学挑战当许多创建头条新闻的算法尚未集成到临床环境中时，尤其如此

正如 Harvey 所说:深度学习被用作锤子，科技公司正在寻找钉子，但有些钉子——它们并不完全正确。。

重塑人工智能和医疗保健的叙述

如果在人工智能和医学的边界上可以找到一个一致的主题，那就是问题并不像最初看起来那么简单。

医疗保健记者 Mary Chris Jaklevic 在最近的一篇文章中指出，这里的许多错误信息源于在如此多的人工智能研究和随后的报道中发现的机器与医生的叙述这样的叙述既点击又具有粘性，吸引了读者对当下的兴趣，并塑造了他们对未来辩论的理解但它也是一维的，将医学诊断的复杂性降低到几个数字这样做没有考虑到医疗保健工作中不太容易量化的部分

人工智能的扩展能力是其潜力和危险的基础

尽管如此，参与这项工作的大多数专家——无论是程序员还是医生——仍然对人工智能在医疗保健领域的潜力持谨慎乐观态度正如亚当森所指出的，正是人工智能的扩展能力使其如此强大，并赋予它如此多的希望，同时也要求谨慎

他指出，一旦算法经过彻底审查，并且解决了它如何适应诊断过程的复杂性，它几乎可以在世界任何地方快速轻松地部署但是，如果这些测试很仓促，那么过度诊断等不良副作用就会以同样的速度成倍增加

我不认为人工智能应该被扔进垃圾箱，恰恰相反，亚当森说如果设计得当，它有可能做好事我关心的不是人工智能作为一种技术，而是我们将如何应用它

。