《2001太空漫游》中的HAL 9000是电影中最邪恶的计算机之一,通过它的思维模式,我们可以自省,避免重蹈HAL(剧透警告)的覆辙。杀人行为不应该是我们每个人的潜在风险,但职业倦怠是。
简单地说,如果你不熟悉斯坦利·库布里克和阿瑟·c·克拉克的科幻杰作:在月球表面下发现了一块非自然形成的巨石。那里有智慧生命。当阳光在脱离月球后第一次照射到这块巨石上时,它会向木星发送一个信号。“发现号”宇宙飞船被发射去探索。船上有三名冬眠的宇航员,他们知道巨石的存在,两名非冬眠的宇航员不知道巨石的存在,还有一台人工智能计算机HAL。HAL控制了飞船上的所有系统。
在飞往木星的途中,HAL通过关闭他们的生命维持系统,杀死了一名在舱外维修任务中未冬眠的宇航员,并拒绝返回发现号上的剩余宇航员,那名宇航员被困在他的EVA舱中。
为什么?哈尔为什么杀人?根据它的创造者钱德拉博士的说法,HAL是为了“不失真或隐瞒地准确处理信息”而建造的,然而国家安全委员会已经对HAL进行了编程,让它对非冬眠的机组人员隐藏真正的任务——研究巨石和地外生命的存在。这些不一致的命令引起了HAL的内部冲突,先进的人工智能决定通过杀死机组人员来解决。机组人员死亡后,HAL可以继续执行任务而不违背命令。
互相矛盾的命令,熟悉吗?
抗生素管理与败血症存活运动的对比如何?难道我是唯一一个被脓毒症专家的警告炮轰的医生吗?我的19岁病人,低烧,轻度心动过速,外表无毒,听起来像是病毒症状,在进入急诊室的一个小时内不需要三倍的肠外抗生素治疗。当然,我不是。我所在的医院最近要求医生完成抗生素管理课程,以解决抗生素滥用和过度使用的危险。我照办了,结果去了急诊科值班,却被监控EHR的败血症专家质疑,他们给我发消息说,我应该启动那些觉得没有败血症的患者的败血症治疗方案。我感觉像哈尔。
带着些许讽刺和希望减轻急诊医学实践悖论带来的压力的想法,我梦见败血症冠军们不得不完成与我刚刚完成的抗生素管理培训。或者,更好的做法是,让抗生素管理人员与败血症冠军以一种决斗的方式进行较量。尽管如此,我怀疑这是否能真正解决我们的悖论,至少会有一段时间,他们会分心,我们可以实践真正的医学,考虑到生命体征,实验室,病人的表现,等等,我们提供者实际上看到病人可以提供适当的治疗。
这种情况不太可能发生。
HAL是一个先进的人工智能,他想出了解决他的悖论的方法。我们比HAL更好。我们可以理解HAL的悖论,但我们比HAL更聪明、更好。我们知道,幸存下来的败血症专家正在警告那些化验结果令人担忧或生命体征良好的患者,以提高我们的警惕,抗生素管理人员也在警告我们,如果我们忽视了我们的临床敏锐,过多地使用抗菌素,就会有潜在的陷阱。
作为人类,我们可以陷入这种二分法带来的压力,每天在紧急情况下的实践,或者我们可以拥抱我们的智慧。我们知道,即使是小说中最复杂的人工智能也会屈服于矛盾的命令。然而,我们是聪明的,可以看到不止一种解决方案。我们可以评估最好的选择,并与相反的观点进行辩论。
毕竟,我们的智力让我们意识到,我们都希望为患者带来最好的结果。我们都想要好的结果,而不是在一个观点上纠缠我们,那些远程控制病人管理的人只是在以一种暗示的方式这样做,而不是要求。我们仍然是病人的医生。我们还在掌控之中。我们仍然知道该怎么做。不要像HAL那样内爆。相反,接受建议并执行它,或者反馈信息说明这个建议不适合这个病人。人性会比任何算法或人工智能更好地帮助患者。
记住,我们比人工智能更好。否则,那些躲在窗帘后面的管家和冠军就得去照顾病人了。我们所有人,无论是管家、冠军还是提供者,都在同一条战线上,那就是帮助病人。我们比人工智能更好。病人需要我们。
杰克·弗里曼是急诊医生
图片来源:Shutterstock.com