人工智能正在进入医疗实践领域。医院利用人工智能为不断增长的特定患者体开发途径。但是人工智能在医疗领域的发展暗藏着一个问题：资源匮乏的环境与资源丰富的环境在患者体和可用的资源上存在差异，而可用数据的不一致使得人工智能难以说明这种差异存在的原因。资源丰富的训练环境与资源匮乏的配置环境之间转换的脱节，可能会导致算法建议的质量可预见地降低，从而限制了医疗人工智能真正发挥其长处的可能性。 情境性偏差是一种未得到充分解决的偏差问题。不同于源数据造成的偏差，情境性偏差出现在将算法从一种情境转换到另一种情境的过程中。在资源丰富环境下提供的可能是一流的并且没有被人类偏见影响，但这种偏差仍然会出现。 文章分为六个部分。第一部分为前言。第二部分简要描述了人工智能在医学领域的前景。第三部分探讨了在医疗资源丰富情境下开发医疗人工智能的激励因素。第四部分列举了在资源丰富情境中训练出的医疗人工智能在资源匮乏环境中配置时可能会出现的不同类型的错误。第五部分提出了一个重要问题，由于医疗人工智能
增白皂通常是不透明的，导致所产生的情境性偏差尤为隐蔽，且隐藏了可能产生的消极影响。第六部分讨论了可行的解决方案。文章指出政策制定者不应该被完美主义谬误所误导，一些形式并不完美的医疗人工智
能都有望为得不到充分服务的患者带来实质性利益，在等待完善的同时，不应当限制该领域的发展。
表1 医疗人工智能黑箱模型的前景
黑箱医疗算法主要是在资源丰富的医疗环境下合作开发的。典型的安排是，人工智能系统开发人员与资源丰富型医院合作，通过协议使用资源丰富型医院的数据来训练和开发新的医疗算法。算法
开发人员选择与资源丰富型医院合作，其技术、法律和商业原因有不同的组合形式。首先也是最重要的是，资源丰富型医院更有可能拥有庞大、高质量的数据集。其次，利用来自资源丰富型医院的数据训练算法，可能有助于使潜在客户或保险公司相信算法是高质量的并且值得出钱投资。第三，在资源丰富医院数据中训练算法，会降低三种法律程序带来不利后果的风险：获得监管部门的批准、避免使用该算法后对潜在问题承担侵权责任、以及从付款人处获得抵扣。文章的下一部分探讨了将来自资源丰富型医院的数据所训练出的算法适用于精英化程度较低的医疗服务环境所面临的挑战。
测脑龄想要通过利用人工智能实现提高普通医生的水平和改善医疗服务等目标，就需要在那些普通的环境中实际配置算法。这种转换可能主要在两个领域出现问题: 质量和成本。在资源相对匮乏的环境应用那些由资源丰富医院开发的算法，算法可能会在资源相对匮乏的情况下给出系统性次优的诊断和建议。在成本方面，在资源丰富型医院中训练医疗人工智能也可能使训练出的算法偏向于选择更昂贵的程序。
烷基叔丁基醚文章强调所有的医疗都是情境性的，黑箱医疗也是如此。但是，考虑到黑箱医疗的普及专业知识的能力、不透明性以及在情境性偏差以外其他方面的自我改进能力，黑箱医疗中的偏差需要特别关注。
涤纶编织物浸水性能试验
文章第六部分提出了可能存在的解决方案并逐一进行分析，其中两种高质量的解决方案可能更有前途。第一种，对数据基础设施的公共投资可以通过提高医疗人工智能训练所涉及数据的代表性来协助解决前端问题。第二种，提出监管要求，要求至少出具一些跨情境性效力的证据，将减少开发人员只在资源丰富情境性下开发医疗人工智能的动机。此外，这一部分简要地讨论了如何通过解决成本问题来进行思考以及需要避免的陷阱。氯离子含量测定方法
表2 情境性偏差的解决方案及存在问题
pvc胶粒
医疗人工智能有着巨大的前景，可以为那些可能无法得到这种的人们提供优质的医疗服务。然而，将黑箱算法从资源丰富的情境转换到资源匮乏情境会带来产生问题的风险：在一种情境中运行良好的算法在另一种情境中可能不起作用。如果我们要降低在资源匮乏环境中损害医疗的风险，现在是考虑如何开发医疗人工智能的时候了，不仅是为了那些已经获得优质医疗的人，更是为了那些可以从这种新技术的出现中获益最多的人。
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议