医学的机器学习问题
Warning: Can only detect less than 5000 characters
Warning: Can only detect less than 5000 characters
从那时起，我经历了危及生命的脑部感染和第二次脑部手术，并且我继续长期受益。我最初的急诊就诊只是我被医疗专业人员开除的很多次。大量的患者账目和研究证实了我的经验并非独一无二。奥布里·赫希（Aubrey Hirsch）在一部有力的漫画中分享了她的经验，等待了6年，才能准确诊断出格雷夫斯病。在此期间，她的骨骼，眼睛和心脏受到永久性损伤。她经历了使人衰弱的症状，但是许多医生认为她只是个“焦虑”的年轻女人。
这种说法在医学史上并非例外，但更像是一条规则，包括从消除妇女的疾病作为歇斯底里症到塔斯基吉梅毒试验等一切事情，在该试验中，黑人被剥夺了数十年的行之有效的治疗方法。历史的线索一直延续到现在。仍有多少患者没有准确的诊断？仍有多少人被解雇和不相信？又有多少患者没有资源去接受额外的急诊室，以在多年解雇后继续寻找医生？所有这些形式的无知和偏见都反映在医学数据中。机器学习系统必须考虑它们如何与已经存在缺陷且令人困扰的医疗系统交互。
领域专业知识对于任何应用的机器学习项目都是至关重要的。例如，从事深度学习的放射科医生发现了带有错误标记的胸部X射线的数据集问题，而那些没有医学背景的放射线将无法自行识别。但是，通常认为对于医学来说，医生的知识和经验是唯一的领域专业知识。这是错误的。尽管医生的知识当然是必不可少的，但患者具有一套独特但必不可少的技能和专长。病人知道自己正在经历的事情：感到疼痛的感觉，驾驭士气低落的医疗保健系统的感觉。作为患者，不是您自己的痛苦或症状本身重要，而是您可以在多大程度上使服务提供者及其使用的工具清晰易懂。患者必须经常制定策略，以设法避免症状消失：看起来很恶心，但不能以医生认为自己是假冒的方式出现。种族，性别，阶级，体重，性别和许多其他因素会影响患者的感知方式，以及可能需要采取哪些扭曲才能认真对待。
许多患者，特别是患有罕见病或未被广泛理解的疾病的患者，会积极阅读医学论文，并且在某些情况下，与某些医生相比，他们对最新的相关医学文献更为熟悉。例如，COVID-19长途运输机中的许多人具有数据科学家和研究人员的经验，他们在4月自行组织了自己的研究，结果发现直到六个月后才发现主流医学研究。由于对专业领域以外的近期发展不太熟悉，并且由于不合理的时间限制常常使医生无法充分综合病史的详细信息，因此医生可能会无意间提供不准确的信息。医疗机器学习冒着将假设和当前的知识编码方式编码到系统中的风险，这些信息以后将很难改变。机器学习革命正处在一个关键的转折点，在这里，现在做出的决定将在未来数十年中产生影响。
即使揭露了机器学习的问题，开发人员也经常提出“解决方案”，仅涉及对代码的调整，而无法考虑正在发挥作用的动力，也不包括受影响最大的人员。
幸运的是，通过研究人员，记者和活动家的努力，例如哈里·约翰逊的报告和今年夏天在国际机器学习大会上举办的“参与式机器学习方法”（PAML）研讨会，这些权力和参与概念得到了越来越多的关注。首屈一指的学术机器学习会议。正如PAML研讨会的组织者所说：
算法公平性和以人为中心的[机器学习]领域通常集中在集中式解决方案上，这为系统设计人员和操作员提供了越来越多的功能，而给用户和受影响的人群则少了一些。 。 。我们希望针对更加民主，合作和参与性的[机器学习]系统，为机器学习社区考虑一套新的技术公式。
该领域的研究人员已经讨论了超越可解释性（寻求算法决策方式的解释），求助（给予他们可能采取的改变结果的具体行动）以及超越透明性（洞察如何算法有效）到可竞争性（允许人们挑战它）。在最近的《自然》杂志上，人工智能研究人员Pratyusha Kalluri敦促我们代替“这个AI公平吗？”这个问题。提出问题：“这将如何转移力量？”
这些问题在医学领域尤为重要，在该领域，已经有很多患者失去了权力，而进一步集中权力的风险可能会造成巨大伤害。虽然机器学习确实可以帮助为医学带来巨大的好处，但患者必须居于中心，必须密切听取他们的专业知识。正如AI研究员Inioluwa Deborah Raji在7月份有力地写道：“数据不是要堆叠的砖块，不是要钻探的石油，不是要开采的黄金，不是要收获的机会。数据是人类所看到的，也许是人们喜欢的，希望它们得到照顾。”我们必须坚持现在要确保权力和参与的机制，以确保医疗机器学习革命不会进一步侵蚀医疗保健中人的一面。
...我们需要你的帮助。面对COVID-19的许多挑战-从医学到经济，从社会到政治-要求我们能够集会的所有道义和审议上的明确性。在《大流行的思考》中，我们组织了医生和流行病学家，哲学家和经济学家，法学家和历史学家，活动家和公民的最新论据，因为他们不仅考虑到这一刻，而且超越了这一刻。尽管仍有很多不确定因素，但波士顿评论对公众理性的责任是肯定的。因此，您永远不会看到付费专区或广告。这也意味着我们依靠您（我们的读者）获得支持。如果您喜欢在这里阅读的内容，请做出可抵税的捐款，保证您的捐款对所有人免费。
