ますます多くのメンタルヘルス専門家が AI ツールを使用して、予定を記録し、メモを取り、管理タスクを実行しています。
フィオルダリソ/ゲッティイメージズ
キャプションを隠す
キャプションを変更する
フィオルダリソ/ゲッティイメージズ
モリー・クインは 2 年間、他の人には決して話さなかったことをセラピストに打ち明けました。
そのため、セラピストがメモをとるために人工知能ツールを試してみると話したとき、ケビンさんはすぐにはノーとは言えませんでした。アーカンソー州フェイエットビル在住の31歳の図書館司書は、まず調査を依頼した。
彼女は、自分の言葉がどこに行くのか、ローカルに残るのか、それともクラウドのどこかで処理されるのかを理解したいと考えていました。
頭の中で会議を再現している
その日会議は進みましたが、途中でケビンは何かが違うことに気づきました。
「彼女はいつものようにメモを取っていませんでした」とケビンは言います。 「iPadはちょうど置かれたところです。」
その後、ケビンは会議が録音されていることに気づきました。
クインさんは少し固まったと言う。しかしその後も彼女は話し続けた。
彼女がセラピストのオフィスを出るまで、その重みは消えました。
「考えれば考えるほど、お腹が痛くなり始めました」と彼女は言う。 「私が非常にプライベートで非常に強い感情を持って信頼できるはずの人が、私が不快に思ったことを完全に無視しました。私は完全に侵害されたと感じました。」
彼女は車で家に帰り、頭の中で会議を繰り返しましたが、次に何をすればいいのかわかりませんでした。
モリー・クインさんは、人工知能ツールが自分の言語療法セッションの内容をキャプチャしていることに気づき、動揺しました。
女王一家
キャプションを隠す
キャプションを変更する
女王一家
新しい会社の新しいツール
米国全土で、対面を自動的に記録し、記録を作成し、臨床メモを作成する人工知能ツールを実験するセラピストが増えています。ソフトウェア会社は、これらのツールにより毎週何時間もの管理作業を節約できると述べている。
ある企業、Berrys は、セラピストがクライアントにもっと集中し、より良いワークライフ バランスを達成できるよう、事務処理を簡素化する方法として自社のプラットフォームを販売しています。
同社の共同最高経営責任者（CEO）タル・サルマン氏はNPRに対し、「Berryは治療体験自体を妨げることなく、管理上の負担を軽減するように設計されている」と語った。 「臨床医がクライアントに対してより臨場感を持てるようサポートします。」
システムが起動されると、会話が記録され、文字に起こされて、セラピストが確認するための臨床メモの草案が作成されます。介護者はドラフトを編集、変更、または削除できます。医療記録に記録することもできます。
プライバシー規則
サルマン氏によると、音声はリアルタイムで処理され、すぐに削除され、トランスクリプトは医療情報の公開を制限する連邦法であるHIPAAに準拠した米国のサーバーに保存されるという。同氏は、同社は人工知能モデルのトレーニングに治療コンテンツを使用していないと付け加えた。
「治療セッションの内容は非公開であり、再訓練を目的としたものではありません」とサルマン氏は言う。 「臨床医は患者の治療と最終的な文書作成に対して全責任を負います。」
メンタルヘルスセラピストに同様のサービスを提供する他の企業には、SimplePractice と Blueprint があります。企業は通常、月額 19 ドルから 99 ドルの料金を請求しており、管理業務に忙殺されがちな個人開業医にとっては魅力的です。
研究によると、患者は治療において AI ツールを受け入れる可能性があるものの、快適さには限界があることが示されています。 YouGov の全国世論調査によると、アメリカ人は依然としてメンタルヘルスケアに人工知能を使用することに躊躇していることがわかりました。喜んで利用すると答えたのは約 11% だけで、信頼できると答えたのは 8% だけでした。回答者のほぼ半数は、このテクノロジーの使用に消極的であると回答しました。多くの人が、不正確なアドバイスやプライバシーへの懸念とともに、人間の理解の欠如が大きな懸念事項であると指摘しています。
こうした懸念は治療そのものを超えたものです。
健康研究機関 KFF による別の調査では、アメリカ人の約 77% が自分の健康情報が人工知能システムによってどのように保存され、使用されるかについて懸念していることがわかりました。
研究者らによると、会話が極めて個人的なものとなる心理療法では、好奇心と信頼の間のギャップがさらに顕著になるという。そして、患者がこのテクノロジーを喜んで試してみたとしても、多くの人は依然として人間の介護者の安全を好むと彼らは指摘しています。
ニューヨーク・グロスマン医科大学の医療倫理助教授ケリー・エバンス氏は、HIPAA準拠などのプライバシー保護によって侵害の可能性が排除されるわけではないと言う。
「私たちがどのような保護を行っているかに関係なく、データがハッキングされないという意味ではありません」とエバンス氏は言います。 「HIPAA に完全に準拠しているにもかかわらず、依然として大規模なデータ侵害が発生しているシステムが数多くあります。」
彼女によると、患者が非常に個人的な情報を共有する治療においては、リスクが特に敏感だという。
重要な合意?
エバンス氏は、技術的なリスクを除けば、書面による同意書だけでは十分ではない可能性があると述べています。
「私たちは、同意書自体が人が情報に基づいた選択をしていることを意味しないことを示す幅広い研究を行っています。」と彼女は言います。 「人々はスクロールして読んだり、同意するようプレッシャーを感じたりします。」
エヴァンス氏は、録音については常に直接話し合うべきだと主張する。
「会話を録音するたびに、口頭での会話を録音する必要があるはずです」と彼女は言います。
彼女によれば、効果的なメンタルヘルスケアの基礎となるのは信頼と心理的安全性です。
「プライバシーが侵害されたと患者が感じれば、治療関係に大きなダメージを与える可能性があります」とエバンス氏は言う。
モリー・クインにとって、これらのリスクは抽象的なものではありません。
医療システムや大企業は近年、度重なるデータ侵害に直面しており、ケビンは、新たなテクノロジー層を追加することで、いつか非常に個人的な会話が暴露される可能性が高まるのではないかと懸念しています。
「牛に会いに行きます」と彼女は言います。 「もしかしたら明日ではないかもしれないし、来週ではないかもしれません。でも、数年後？私たちは彼らに会えると思います。そして、私のセラピーセッションがその一部にはなりたくないのです。」
AI リスナー、異なる体験
一部のセラピストにとって、懸念はサイバーセキュリティだけではありません。
ニューヨークの結婚とセックスのセラピストであるマリサ・コーエンは、たとえテクノロジーが背景に消え去ったとしても、セラピーに AI を導入すると体験が変わると述べています。
「AI の存在でさえ、治療体験は変わります」とコーエン氏は言います。 「顧客は、他の何かが自分の話を聞いていることを知っているか、感じています。この認識により、顧客の露出が微妙に変化する可能性があります。」
彼女によれば、この治療は絶対的なプライバシーの概念に基づいているという。
「電子的に保存されているものを提示すると、信頼性とセキュリティについてさらなる疑問が生じます」とコーエン氏は言います。 「実は第三者なんです。」
コーエン氏は精度も重視しています。
「間違いが発生し、臨床医がメモを厳密にチェックしなかった場合、その間違いは記録の一部になります」と彼女は言います。 「これらのメモが召喚状に出されれば、それは誰かの歴史の一部になります。」
一部の介護者に祝福を
この技術を歓迎する医師もいます。
ネット上で自らを「旅するセラピスト」と名乗っているキム・トルソンさんは、30年間修行しており、現在は完全にリモートでビジネスを運営しており、フルタイムで旅行しながらバージニア州の顧客に会いに行っている。彼女は、人工知能の記録および文書化システムを使用して、彼女が言うところの重い管理ワークロードを管理しています。
「ほとんどの臨床医は管理業務に週に約 10 時間を費やしており、そのうちの 5 ～ 7 時間は文書作成です」と、ベリーズ社のコンサルタントとして働くトルソン氏は言います。 「人工知能システムのおかげで、以前は 15 ～ 20 分かかっていた顧客 1 人あたりの対応に約 2 分かかるようになりました。」
20 ～ 30 人のクライアントを担当するセラピストにとって、その違いは重大だと彼女は言います。
「おかげで私は人生を取り戻せました」とトルソンは言う。 「私を追いかけるメモはありません。私を追いかけてください。クライアントに会った後、メモを確認し、署名して終わりです。」
トルソンさんは、その柔軟性のおかげで、より健全なワークライフバランスを維持でき、事務手続きよりもクライアントに集中してより多くの時間を費やすことができるようになったと語ります。彼女によると、多くのクライアントは彼女のモバイル ライフスタイルに好意的な反応を示しており、約束の際にどこから仕事をしているのかよく尋ねられます。
医療の他の分野における研究では、大幅な時間の節約が可能であることが示唆されています。 The Permanente Medical Group の AI ライターによる大規模な分析では、医師は 1 年間でほぼ 16,000 時間相当の文書作成時間を節約し、およそ 1,800 労働日を節約し、患者の満足度と対話が向上したと報告しています。この研究はセラピストではなく臨床医に焦点を当てていますが、これらのツールが対処しようとしている管理上の負担を浮き彫りにしています。
トルソン氏は、事前にクライアントとレコーディングのプロセスについて詳しく話し合っており、参加は任意であることを明確にしているという。また、AI が生成した各メモを医療記録の一部になる前にレビューします。
「妄想になることもあります」と彼女は言う。 「臨床医は細心の注意を払う必要があります。二重三重にチェックする必要があります。」
トルソン氏は、完全にリスクのないデジタル システムは存在しないことを認めていますが、このツールを電子医療記録と同じように快適に使用できると感じていると述べています。
別の臨床医とやり直してください
モリー・クインさんにとって、AI によるメモ取りについての話題はいつも 11 月のセッションに戻ります。そのセッションでは、彼女は自分が同意なしに録音されていることに気づきました。
その後、彼女は次の約束をキャンセルしました。
彼女のセラピストは、このツールの使用をやめてもよいと言いました。しかし、その時までに、関係に何かが壊れたと感じたとケビンは言います。
「信頼はなくなってしまった」と彼女は言う。
次の数週間で、彼女は新しい人を探し始めました。 1月に彼女は別のセラピストを見つけ、最初からセッションに人工知能を使いたくないことを明確にしていました。
この経験によって彼女は治療自体から遠ざかることはなかったが、彼女は自分の限界については頑固であった。
「それはプライベートな会話です」とケビンは言います。 「テクノロジー企業はこの部屋にいるべきではない。」
