联合健康公司(UnitedHealth)两名已故前受益人的家属对这家医疗巨头提起诉讼，指控该公司故意使用一种有缺陷的人工智能算法，拒绝为老年患者提供医生认为必要的延长护理。

上周二在明尼苏达州联邦法院提起的诉讼称，联合健康公司非法拒绝“老年患者根据医疗保险优势计划获得的护理”，该公司部署了一种人工智能模型，该模型的错误率为90%，推翻了患者医生认为这些费用是医疗必要的决定。

据美国医疗保险和医疗补助服务中心(U.S. Centers for Medicare and Medicaid Services)说，由联合健康(UnitedHealth)等私人医疗保险公司管理的医疗保险优势计划(Medicare Advantage plans)是由医疗保险批准的、面向老年人的保险计划，是传统联邦医疗保险计划之外的一种选择。

诉讼称，使用NaviHealth开发的所谓有缺陷的人工智能模型“nH Predict”，使保险公司能够“过早地、恶意地停止”向老年受益人付款，给他们带来医疗或经济困难。

投诉称:“全国各地的老年人被过早地赶出护理机构，或者被迫耗尽家庭积蓄来继续接受必要的医疗护理，这都是因为(联合健康的)人工智能模型与他们现实生活中的医生的决定‘不一致’。”

NaviHealth的发言人亚伦·奥尔布赖特(Aaron Albright)告诉CBS MoneyWatch，这种人工智能驱动的工具不是用来确定保险范围的，而是“帮助(联合健康)告知供应商……关于病人可能需要什么样的帮助和护理。”

奥尔布赖特说，保险范围的决定最终是“基于CMS的覆盖标准和会员计划的条款”，并补充说，这起诉讼“没有任何价值”。

然而，在他们的投诉中，这些家庭指责联合健康公司使用错误的人工智能来拒绝索赔，这是一项财务计划的一部分，目的是收取保费，而不必为它认为缺乏知识和资源的老年受益人“对错误的人工智能决定提出上诉”。

联合健康公司继续“使用他们有缺陷的人工智能模型系统性地否认索赔，因为他们知道只有极少数投保人(大约0.2%)1会对被拒绝的索赔提出上诉，而绝大多数人要么支付自付费用，要么放弃他们规定的剩余急性期护理。”

该家庭的律师正在寻求代表“在提起诉讼之前的四年里，所有从被告那里购买医疗保险优势计划健康保险的人。”

咨询公司麦肯锡(McKinsey)去年表示，实施人工智能算法可以帮助医疗保险公司自动化50%至75%的批准保险请求的手工工作，例如收集医疗信息和与患者记录交叉验证日期，从而加快周转时间，这可能会使受益人受益。

尽管如此，一些医疗专业人士还是建议健康保险公司控制对人工智能在健康保险行业中的应用的期望。

今年6月，美国医学协会(AMA)称赞使用人工智能“加快了事先授权程序”，但呼吁医疗保险公司在拒绝为受益人提供医疗服务之前，要求对患者记录进行人工检查。

“人工智能不是灵丹妙药，”美国医学协会董事会成员、医学博士玛丽莲·海涅在一份声明中说。

根据ProPublica的一篇评论，在使用人工智能的审查过程中，医疗保险公司信诺(Cigna)的医生在两个月的时间里拒绝了30多万份索赔。