テネシー州の病院で看護師がフェンタニルを盗み、AIが見逃したと州記録が明らかに – KFFニュース
テネシー州看護委員会の同意法令によると、チャタヌーガ最大の病院であるアーランジャー・バロネスでは、約1年前、手術センターで勤務中に看護師がろれつが回らなくなり、起きていようと苦労していることに麻酔チームが気づいた。 令状によれば、その後数日間に看護師は薬物検査に不合格となり、解雇されたという。この看護師は後に、命令に従って、手術で残ったフェンタニルを数か月間、時には毎日、略奪し乱用していたことを認めた。 ほとんどの状況では、これは医療施設から規制薬物を違法に持ち出す、いわゆる「医薬品横流し」の日常的なケースとなる。非常に一般的であるため、米国のほぼすべての病院で発生していると考えられている。 しかし、アーランガー氏のケースは、ハイテク監視機関が監視しているはずだったために際立っている。 この病院は、薬剤の流用に対する最新の防御線である Sentri7 を使用しています。Sentri7 は、人間よりも早く不足している薬剤を特定するように設計された人工知能を活用した薬剤監視ソフトウェアです。しかし、アーランジャーでは数か月間、セントリ7は警報を発することができず、「警告されるべきだった」薬の不足やその他の「矛盾」を無視したと看護委員会の命令は述べている。 これまで報道されていなかったアーランジャーの事件は、米国の何百もの病院で透明性や監視がほとんどない状態で使用されている人工知能による薬剤転用ソフトウェアの明らかな失敗を、まれに垣間見ることができる。医療施設は、そのようなソフトウェアの実装を開示したり、誤動作を誰にも報告したりする義務がないため、これらのプログラムがどのように使用され、どの程度の頻度で失敗するかについて完全な説明はありません。 アーランジャー・メディカル・センターとしても知られるアーランジャー・バロネスは、セントリ7や処方薬の使用についてコメントを拒否した。 Sentri7を開発したオランダのテクノロジー企業Wolters Kluwer社の健康部門の広報担当アンドレ・レベッロ氏は、アーランガーで何が起こったのかについての質問には答えることを拒否したが、同社は依然として「当社のソフトウェアに自信を持っている」と述べた。 透明感が少ない ジョンズ・ホプキンス大学の神経内科医で医療AI研究者のデビッド・レストール氏は、AI技術は専有物であり、病院関係者はAI技術がどのように機能するのかを理解していないことが多いため、透明性の欠如によりエラーが修正されるのではなく埋もれてしまうと述べた。これは、他の病院でも間違いが繰り返される可能性があることを意味する、と同氏は述べた。 「患者、介護者、病院システムにとって理想的なのは、AIが何らかのエラーを犯したとき、それが非常に透明性が高く公開されることだ」とレストール氏は語った。 麻薬取締局は病院に対し、医薬品の紛失または盗難を内密に報告することを義務付けています。病院は盗まれた医薬品を州保健機関に報告することもでき、州保健機関は医療専門家に認可を与え、不正行為を調査する。 しかし、薬物転用防止の専門家3人へのインタビューによると、これらの報告書には、関与する人工知能ソフトウェアの詳細を含める必要はないという。インタビューでは全員が、アーランガーで見られたような人工知能の障害がこれほど公に文書化されたのを見たことがないと述べた。 ジョンズ・ホプキンス医科大学で医薬品の安全性を担当する薬剤師のジェイコブ・スミス氏は、セントリ7の明らかな失敗について、「これらの技術がこのように具体的に呼ばれているのを見たことがない」と語った。 「どうしてそれを見逃したのか、私には理解できません。」 スミス氏や他の専門家らは、残留薬物の盗難は最もよく知られた流用方法の一つであるため、アーランジャー事件も疑問を投げかけていると述べた。また、ヘロインの…