人工智能正在改变精神卫生行业,隐私和安全隐患是大问题!

时间:2023-04-19  来源:   点击数:

自去年11月底出台以来,ChatGPT就开始引领人们对互联网的想象力了。这个OpenAI开发的人工智能聊天机器人在信息生成方面似乎用途无限,它绝对不会止步于撰写论文和求职信。

现在,人们也开始把它当作治疗师来使用。

它是怎样工作的呢?ChatGPT 以对话方式提供信息,如果你问它一个与你对未来的绝望感和恐惧感有关的问题,它可以为你迅速提供小而实用的建议。它可能不是一个真人,但它给你准确地提供你所需要的信息,无需你去一页一页地筛选网页信息,也不会让你坐等与真人(或线上)治疗师的面谈。

唯一的问题是,ChatGPT 并不是作为治疗师而设计的,也没有在 2021 年之后更新。不言而喻,从一个没有上过医学院的人工智能机器人那里获取健康建议存在诸多风险,但它确实在人工智能在心理健康领域中的潜在应用方面引发了更广泛的讨论——在应用得当的前提下。

ChatGPT及其影响的讨论实际上可以开启更多机会,” Wysa(一款用于心理健康支持的应用程序——译者注)临床开发和研究主管Chaitali Sinha解释说。现在人们不是担心而是期望聊天机器人可以被用来产生积极影响。人们对人工智能的期望比以前更高了。

人工智能在治疗环境中的潜在好处

即使我们先暂时给ChatGPT的作用打个折扣,在心理健康与人工智能方面它仍然有长足的进步。

Wysa这样的平台和应用程序正在帮助我们改变人们对心理健康的看法——正如Sinha所说,在手机上安装并在手中拥有一个心理健康应用程序应该是一件很正常的事,就像你有其他任何应用程序一样正常

人类治疗师是人类,他们可能会有偏见,即使是潜意识的。一位治疗师可能是种族主义者、同性恋恐惧症者或残疾人歧视者。使用人工智能治疗师可以消除与不适合的人类治疗师碰面的风险。

或者,人们可能会担心他们的治疗师评判自己或不愿与他们分享隐私信息,或者可能感觉还没有准备好与真人谈论敏感话题——特别是当他们过去有过负面的治疗经历的时候。

不仅如此,有时治疗师可能会生病,或者其本人的生活中发生了一些事情,这意味着他们需要取消或推迟预约的面谈。他们可能会筋疲力竭,或者无法在面谈时处于最佳状态(注1)。相比之下,人工智能治疗师不会有这些问题。

未来,基于人工智能的工具很可能能够通过利用各种数据点(如生活习惯、病史等)为患有各种心理健康问题的个人提供更加个性化和量身定制的治疗。

— ERGO SOORUDRHOUS首席执行官

而且通常等待治疗的名单很长。人类治疗师一次只能与一个人或一组人面谈。他们也需要睡眠、午餐和请假。人工智能治疗师能否缩短等待名单,或者成为那些为治疗费而发愁的人们更实惠的选择?

人们不会在'方便'的时候才陷入挣扎体验,”Shinha说。他们的心理健康事宜总是存在,更具有挑战性的时候是当问题发生的时候,而不是当最容易获得帮助的时候。

但到目前为止,我们所拥有的治疗机制实际上都不是为心理健康患者已有的生活体验而设计的,而人工智能正在弥合这个差距。

她谈到,通常人们每周预约一次,而他们可能在其他时间也需要支持。她将人工智能描述为正在弥合人们需求的差距,这是人类无法做到的。

人们不太可能每晚都拨打危机热线,但可以每晚都从Wysa等应用程序获得帮助,治疗专业人员可以提供Wysa,使患者能在面谈间隙中使用,因此人们不会得不到帮助。

人工智能的缺点

人工智能治疗也有潜在的缺点。

隐私和安全隐患是一个大问题。当你与人工智能治疗师共享信息时,这些信息会去哪里?例如,是否存在黑客攻击的风险?事实上,关于人工智能在精神卫生保健中的伦理问题之前有过讨论,研究人员在更个性化的护理与对隐私、自主和偏见的担忧之间进行权衡(注2)。

此外,人际关系在治疗中非常重要。尽管这是一种医患关系,但面对面的互动是使治疗生效的一个重要因素,它是人们敞开心扉的原因。

基于人工智能的治疗无法解释非语言线索,而这些线索对成功的治疗关系至关重要,”DrHouse的联合创始人兼首席执行官Ergo Sooru说。他们也无法提供与人类同等水平的情感支持和理解。

人工智能治疗师的发展当然令人兴奋。但我们还有不短的路要走。即使是最好的人工智能治疗师也达不到优秀、合格和能干的人类治疗师的标准。

这对你意味着什么?

精神卫生保健的未来,可能性巨大,人工智能可能是一个可行的选择。但是目前人们应该警惕通过聊天工具获得心理健康建议的诱惑。该项技术尚未实现。即使有一天它真的实现了,面对面的治疗也不能被替代。这项技术的目标应该是补充护理,而不是替代与执照专业人士——他们是人类——的交谈。

将人工智能纳入精神卫生保健

人类治疗和人工智能治疗相结合可能是未来的最佳选择。在急需时用它提供快速帮助,但人类治疗师仍是主要的持续护理解决方案。毕竟,人各不相同,对于一些人来说,人类治疗师可能是他们唯一的选择。其他人可能更能接受人工智能治疗。

Sooru说,人工智能治疗应该有很大程度的人为干预,以确保患者得到最好的护理

但人工智能仍然可以用于心理健康护理,即使治疗师本身不是人工智能。2019 年有一项研究,用人工智能对治疗师在长达 9万小时的在线认知行为疗法 CBT 治疗中产生的数千份陈述进行分类,其结果支持CBT 与患者症状改善有关联的观点(注3)。

像这样的研究表明,人工智能可以用其他方式支持心理健康护理,特别是随着技术的不断进步。

心理健康和人工智能的未来

与心理健康相关的人工智能仍处于早期阶段,尽管显然变化正在发生着,”Sinha说。但我们看到的是对数字解决方案的渴望。Wysa可能是人工智能,但其背后的团队是人类,他们带来了丰富的专业知识和经验,以确保Wysa提供同理心和同情心。

我们想要的是根据人们的条件为人们提供适合他们的工具。

未来,基于人工智能的工具很可能能够通过利用各种数据点(如生活习惯、病史等)为患有各种心理健康问题的个人提供更加个性化和量身定制的治疗,”Sooru补充道(注4)。

总体而言,基于人工智能的工具可能有助于辅佐心理健康,但目前,它们不应被用作传统治疗形式的替代品。




1-4:

Yang Y, Hayes JA. Causes and consequences of burnout among mental health professionals: A practice-oriented review of recent empirical literature. Psychotherapy. 2020;57(3):426-436. doi:10.1037/pst0000317

Rubeis G. iHealth: The ethics of artificial intelligence and big data in mental healthcare. Internet Interventions. 2022. doi:10.1016/j.invent.2022.100518

Ewbank M, Cummins R, Tablan V, et al. Quantifying the association between psychotherapy content and clinical outcomes using deep learning. JAMA Psychiatry. 2020;77(1):35-43. doi:10.1001/jamapsychiatry.2019.2664

Koutsouleris N, Hauser TU, Skvortsova V, De Choudhury M. From promise to practice: towards the realisation of AI-informed mental health care. The Lancet Digital Health. 2022;4(11):e829-e840. doi:10.1016/S2589-7500(22)00153-4



原标题:Chat Bots and AI Are Changing Mental Health Care, Beware

原文链接:https://www.verywellmind.com/artificial-intelligence-is-changing-mental-health-care-7112883

作者:Adam England



关闭