人工智能新奖的获得者说：我们还没有为人工智能的到来做好准备

麻省理工学院计算机科学与人工智能实验室（CSAIL）的教授Regina Barzilay是“松鼠AI造福人类的人工智能奖”的首位获奖者，该奖项是对人工智能领域杰出研究的新奖项。Barzilay的职业生涯始于自然语言处理。在2014年罹患乳腺癌后，她将重点转移到了用于检测癌症和设计新药的机器学习算法上。该奖项将于2021年2月由人工智能促进协会（AAAI）颁发。

我们先前撰写的由中国在线教育公司Squirrel AI提供的100万美元奖金，使该奖项的财务水平与计算机科学的诺贝尔奖和图灵奖相同。

祝贺这个奖项。这对您和整个AI意味着什么？

谢谢。您知道，在很多领域，AI仍然没有改变，但可能会有所改变。我们一直都在使用机器翻译或推荐系统，但是没有人认为它们是花哨的技术，也没有人问他们。但是，对于生活中其他对我们的幸福至关重要的领域（例如医疗保健），人工智能尚未获得社会的认可。我希望这个奖项以及随之而来的关注有助于改变人们的想法并让他们看到机会，并推动AI社区采取下一步行动。

什么样的步骤？

当技术从蒸汽动力转变为电力时，将电力投入工业的最初尝试并不十分成功，因为人们只是试图复制蒸汽机。我认为AI现在正在发生类似的情况。我们需要研究如何将其集成到许多不同的领域：不仅是医疗保健，还包括教育，材料设计，城市规划等。当然，在技术方面还有很多工作要做，包括制定更好的算法，但是我们正在将该技术引入高度规范的环境中，而我们并没有真正研究如何做到这一点。

目前，在失败成本非常低的地方，人工智能正在蓬勃发展。如果Google发现您的翻译错误或链接错误，那就可以了；您可以转到下一个。但这对医生来说是行不通的。如果您给患者错误的治疗或错过诊断，那确实有严重的意义。实际上，许多算法可以比人类做的更好。但是我们总是相信自己的直觉，我们的想法，而不是我们不了解的东西。我们需要给医生理由以信任AI。FDA正在研究这个问题，但我认为它在美国或世界其他任何地方还远远没有解决。

2014年，您被诊断出患有乳腺癌。这改变了您对工作的看法吗？

哦，是的，绝对。当我接受治疗并在医院花费大量时间时发生的事情之一是，我一直在从事的工作现在变得微不足道。我以为：人们在受苦。我们可以做点什么。

当我开始治疗时，我会问像我这样的患者，我的肿瘤类型和年龄以及这种治疗方法会怎样。他们会说：“哦，有这项临床试验，但您并不完全适合。” 而且我认为，乳腺癌是一种非常常见的疾病。有这么多患者，积累了太多数据。我们怎么不使用它呢？但是在美国医院，您无法轻松地从系统中获取此信息。它在那里，但是在文本中。因此，我开始使用NLP进行访问。我无法想象人们会自愿丢弃其他可用数据的其他领域。但这就是医学上正在发生的事情。

医院是否抓住了更多利用这些数据的机会？

花了一些时间找到可以和我一起工作的医生。我告诉别人，如果您有任何问题，我会尽力解决。我不需要资金 给我一个问题和数据。但是我花了一段时间才找到合作者。你知道，我不是一个特别受欢迎的角色。

然后，从这项NLP工作中，我开始通过乳房X线照片预测患者风险，使用图像识别来预测您是否会得癌症，即疾病可能如何发展。

如果这些工具在您被诊断出对您可用时会有所作为吗？

绝对。从诊断之前，我们就可以在乳房X线照片上运行这些东西，并且它已经存在-您可以清楚地检测到它。这不是奇迹，癌症从昨天到今天都没有增长。这是一个相当长的过程。组织中有迹象，但是人眼检测到可能很小的图案的能力有限。就我而言，两年前就已经可见。

医生为什么看不到它？

这是一项艰巨的任务。每个乳房X光照片都有可能会或可能不会癌症的白点，医生必须决定需要对哪些白点进行活检。医生需要在进行直觉与通过不必要的活检来伤害患者之间取得平衡。但这正是数据驱动型AI可以帮助我们以更加系统化的方式做出决策的类型。

这使我们回到了信任问题。我们是否需要技术修复，使工具更易于解释，还是需要对使用工具的人员进行教育？

这是一个很好的问题。有些决定真的很容易向人类解释。如果AI在图像中检测到癌症，则可以放大模型进行预测时要看的区域。但是，如果您要求一台机器（我们正在越来越多地）做人类无法做的事情，那么该机器将向您显示什么？这就像一条狗，它的气味比我们好得多，解释了它如何闻到某种气味。我们只是没有这种能力。我认为随着机器变得更加先进，这是一个大问题。如果您自己不能解决此任务，那么什么解释会说服您？

那么，我们应该等到AI能够完全解释自己吗？

不，想想我们现在如何回答生死攸关的问题。大多数医学问题，例如您对这种治疗或药物的反应方式，都会使用可能导致错误的统计模型来回答。他们都不是完美的。

人工智能也是如此。我认为等到我们开发出完美的AI并没有什么好处。我认为这不会很快发生。问题是如何利用其优势而避免其劣势。

最后，为什么AI尚未对covid-19产生太大影响？

人工智能不会解决我们遇到的所有大问题。但是有一些小例子。当今年早些时候所有不必要的临床服务规模缩减时，我们使用了AI工具来确定波士顿哪些肿瘤患者仍应该去做乳房X光检查。

但是AI不再有用的主要原因不是缺乏技术而是缺少数据。您知道，我在MIT AI卫生保健中心J-Clinic的领导团队中工作，我们四月份有很多人说：我们真的想做点什么—在哪里可以得到数据？但是我们做不到。这是不可能的。即使是六个月后的现在，我们如何获取数据也并不明显。

第二个原因是我们还没有准备好。即使在正常情况下，当人们没有压力时，也很难在流程中采用AI工具并确保对其进行适当的监管。在当前的危机中，我们根本没有这种能力。

你知道的，我理解为什么医生很保守：人们的生活越来越快。但是我确实希望这将是对我们如何对新威胁做出快速反应的准备。我认为人工智能是未来的技术，除非我们弄清楚如何信任它，否则我们不会看到它向前发展。