医疗保健行业的生成式人工智能需要一定程度的可解释性

基于文本的生成人工智能工具能够以惊人的速度完成高级写作和通信任务，引起了公司和消费者的共鸣。但实现这些令人印象深刻的功能的幕后流程可能会给敏感的政府监管行业（如保险、金融或医疗保健）带来风险，因为在不谨慎行事的情况下利用生成式人工智能。

一些最具说明性的例子可以在医疗保健行业找到。

此类问题通常与用于训练大型语言模型 (LLM) 的广泛且多样化的数据集有关，大型语言模型是基于文本的生成人工智能工具用来执行高级任务的模型。如果没有程序员明确的外部干预，这些法学硕士往往会从互联网上的各种来源不加区别地抓取数据，以扩展他们的知识库。

这种方法最适合低风险的面向消费者的用例，其中的最终目标是准确地引导客户获得所需的产品。然而，大型数据集和人工智能模型生成输出的混乱路径越来越模糊了医院和医疗保健提供者追踪和防止潜在错误所需的可解释性。

在这种情况下，可解释性是指理解任何给定法学硕士逻辑路径的能力。希望采用辅助生成人工智能工具的医疗保健专业人员必须有办法了解他们的模型如何产生结果，以便患者和工作人员在整个决策过程中拥有完全的透明度。换句话说，在像医疗保健这样危及生命的行业中，对于专业人士来说，曲解用于训练人工智能工具的数据的风??险太大了。

值得庆幸的是，有一种方法可以绕过生成式人工智能的可解释性难题——它只需要更多的控制和关注。

神秘与怀疑

在生成式人工智能中，理解法学硕士如何从 A 点（输入）到 B 点（输出）的概念比沿着更多设定模式运行的非生成算法要复杂得多。

生成式人工智能工具在从输入到输出的过程中建立无数的连接，但对于外部观察者来说，它们如何以及为何建立任何给定的一系列连接仍然是一个谜。由于无法了解人工智能算法所采用的“思维过程”，人类操作员缺乏彻底的方法来调查其推理并追踪潜在的不准确之处。

此外，机器学习算法使用的不断扩展的数据集使可解释性进一步复杂化。数据集越大，系统就越有可能从相关和不相关的信息中学习，并产生“人工智能幻觉”，即偏离外部事实和上下文逻辑的谎言，无论多么令人信服。

在医疗保健行业，这些类型的缺陷结果可能会引发一系列问题，例如误诊和不正确的处方。除了道德、法律和财务后果之外，此类错误很容易损害医疗保健提供者及其所代表的医疗机构的声誉。

因此，尽管它有潜力加强医疗干预、改善与患者的沟通并提高运营效率，但医疗保健中的生成式人工智能仍然受到怀疑，这是正确的——55% 的临床医生不相信它已经准备好用于医疗用途，58% 的临床医生不信任完全是这样。然而，医疗保健组织正在积极推进，其中 98% 的组织正在整合或规划生成式人工智能部署策略，以试图抵消该行业持续劳动力短缺的影响。

控制源头

在当前的消费者环境中，医疗保健行业经常陷入困境，这种环境重视效率和速度，而不是确保铁定的安全措施。最近关于培训法学硕士的近乎无限的数据抓取陷阱的新闻，导致版权侵权诉讼，使这些问题成为人们关注的焦点。一些公司还面临指控，称公民的个人数据被挖掘来训练这些语言模型，这可能违反隐私法。

因此，高度监管行业的人工智能开发人员应该对数据源进行控制，以限制潜在的错误。也就是说，优先从受信任的、经过行业审查的来源提取数据，而不是在未经明确许可的情况下随意抓取外部网页。对于医疗保健行业来说，这意味着限制常见问题解答页面、CSV 文件和医疗数据库以及其他内部来源的数据输入。

如果这听起来有些限制，请尝试在大型卫生系统的网站上搜索服务。美国医疗机构在其平台上发布数百甚至数千个信息页面；大多数都埋得很深，患者永远无法真正接触到它们。基于内部数据的生成式人工智能解决方案可以方便、无缝地将这些信息传递给患者。这对各方来说都是双赢的，因为卫生系统最终从这些内容中看到了投资回报，患者也可以立即轻松地找到他们需要的服务。

受监管行业中的生成式人工智能的下一步是什么？

医疗保健行业将从多种方面受益于生成式人工智能。

例如，考虑一下最近困扰美国医疗保健行业的普遍倦怠——预计到 2025 年，接近 50%的劳动力将辞职。由人工智能驱动的生成式聊天机器人可以帮助减轻大部分工作量，并保留过度扩张的患者访问团队。

在患者方面，生成式人工智能有潜力改善医疗保健提供商的呼叫中心服务。人工智能自动化能够通过各种联系渠道解决广泛的询问，包括常见问题解答、IT 问题、药品补充和医生转介。除了等待等待带来的挫败感之外，只有大约一半的美国患者在第一次通话时成功解决了他们的问题，导致放弃率很高并且获得护理的机会受到影响。由此产生的低客户满意度给该行业带来了进一步采取行动的压力。

为了使该行业真正受益于生成式人工智能的实施，医疗保健提供者需要促进其法学硕士访问的数据的有意重组。