近年、診断、リスク予測、臨床意思決定支援、リソース管理などの医療アプリケーションでの人工知能ツールの使用に対する関心が高まっています。患者の電子医療記録 (EHR) や管理データベースに存在する膨大な量のデータ内に隠れたパターンを見つけることができるこれらのアルゴリズム ツールは、患者ケアの世界全体に普及しています。多くの場合、医療 AI アプリケーションには、医療行為をより良く、より安全で、より公平なものにする可能性があるという保証が伴います。

しかし、現実はさらに複雑であることが判明しました。

「医療用 AI は、一種の『西部開拓時代』を迎えています」と、Duke AI Health ディレクター兼データ サイエンス担当副学部長の Michael Pencina 博士は言います。 「多くの病院や医療システムは独立してシステムを構築または購入し、独自のデータに基づいて運用していますが、ほとんど監視されていない場合もあります。」

医療業界の最も厄介な問題のいくつかに AI ツールを適用するという熱意が、比較的最近まで医薬品や医療機器に日常的に適用されるような厳密な検査を受けていなかったテクノロジーの導入を促進するのに役立っています。そして、ますます多くの医療従事者や医療システムにとって、これらのツールの一部（その多くは以下のように設計されている）についての懸念が高まっています。 不可解な「ブラックボックス」 システムが正常に動作していない可能性があります。

これらの懸念は最近、ミシガン大学の研究者らによって広く一般に知られるようになりました。 アルゴリズムツールのパフォーマンスを調査しました 重篤な病状である敗血症の可能性を臨床スタッフに警告するように設計されています。研究者らは、このツールのパフォーマンスが実際の患者ケアの世界では予想よりも悪く、存在しない敗血症症例にフラグを立てたり、実際の敗血症症例を見逃したりしていることに気づきました。このような誤ったアルゴリズムの例をきっかけに、専門家は AI ツールの誤動作によって品質や安全性が損なわれたり、既存の不平等が強化されたりする可能性についての懸念を強めています。

アルゴリズムによる監視の必要性

AI システムのパフォーマンスが低下する理由は数多くありますが、その多くはシステムの設計段階で行われた決定に遡ることができ、最も重要なのは、システムのトレーニングに使用されるデータとシステムのデータの種類の間の違いにあります。それがクリニックに適用されると、出会います。このため、アルゴリズム ツールは作成時に慎重に検証され、ライフサイクル全体にわたって綿密に精査され、展開後は継続的に監視される必要があります。

「現在の状況を変えなければならないことが非常に明らかになりました」とペンシーナ氏は言い、AI ヘルスケア ツールを規制するための共有のベスト プラクティスや共通のアプローチを確立することへの関心がここしばらく高まっていると指摘します。

実際、Duke ではその懸念が AI ツールのガバナンスと監視のシステムの構築に反映されました。と呼ばれる アルゴリズムベースの臨床意思決定支援 (ABCDS) の監視 委員会はペンシーナとデューク・ヘルス最高医療情報責任者のエリック・プーン医学博士が共同議長を務め、ABCDS監視はデューク大学とデューク大学医療システムの両方にまたがる協力を代表する。

「ABCDS 監視により、Duke Health で開発または使用されるすべてのアルゴリズム ツールに品質と公平性が組み込まれていることを保証できます」と Poon 氏は言います。 「私たちは、AI、臨床専門業務、IT、規制など、あらゆる関連分野の専門家を招集するアプローチを進化させてきました。これらの専門家は、モデル開発の初期段階で意見や指導を提供します。その目的は、ツールが患者ケアの提供方法を改善するという重要な目標に確実に影響を与えることを保証することです。」

全体像への貢献

デューク社がアルゴリズム監視に対する厳格なアプローチを早期に採用したことを考えると、デューク社が新たな全国的コンソーシアムで役割を担うことになるのは驚くべきことではありません。 健康 AI 連合 (CHAI)、それは、健康とヘルスケアのための AI ツールの倫理的かつ公平な使用に関連する緊急の問題を解決するために、学界、業界、規制機関の専門家を招集しています。その主なものは、報告基準に関する複数の競合する推奨事項を調和させる必要性と、医療 AI システムに公平性と公平性を根本から組み込む必要性です。

これらは非常に重要な考慮事項です。共有の基準やガイドラインが明確に理解されていない場合、あるいはさらに悪いことに、まったく理解されていない場合、エンドユーザー、患者、消費者は AI システムを信頼しない可能性があるからです。透明性と信頼性は、医療 AI の実践を効果的に適用して、十分なサービスを受けられず、過小評価されている患者や、不公平の影響を最も受けているコミュニティへのケアを改善するための鍵となります。

「AI とデータ サイエンスのコミュニティが連携して、高品質で公正かつ信頼できる医療 AI の基準とレポートを調整しているのを見るのは刺激的です。これらの AI システムを評価し、その信頼性を高めるために、学術医療システム、医療機関、業界パートナーの専門家も、データ サイエンティスト、政策立案者、医療分野で AI を開発および使用している広範なコミュニティの間の点と点を結びつけています」と ABCDS の監視は述べています。所長のニコレータ・J・エコノモウ・ザブラノス博士は、CHAIの取り組みの共同主導者でもある。 「私たちはまた、これらの AI テクノロジーの影響を直接受けている人々の洞察からも恩恵を受けています。 CHAIは、すべての利害関係者にテーブルの席を与え、これらの信じられないほど強力なツールをどのように管理するかについての議論に発言権を与えることに全力で取り組んでいます。」

Coalition for Health AI は、「ガイドラインとガードレール」を実現することで、「信頼性・公平性・透明性」のある健康AIシステムの開発が可能となります。この目標に向けた最初のステップは、エンドユーザーや患者を含むパートナーや利害関係者間の議論と合意を通じて到達したフレームワークです。このフレームワークは、医療分野で AI システムを開発、導入、使用する担当者が、特定のアプリケーションのライフサイクル全体にわたってパフォーマンスを監視および評価するために使用する重要な原則、標準、および基準を定義します。

CHAI の当面の目標の 1 つは、高品質のケアを推進し、ユーザー間の信頼性を高め、医療ニーズを満たすことができる医療 AI システムを実現する基準を設定することです。次の 最初の発表 CHAIはグループの結成と意図について、ここ数ヶ月を費やして考えてきた。 一連のバーチャル会議を開催するでは、テスト容易性、使いやすさ、安全性、透明性、信頼性、モニタリングのテーマに焦点を当て、例示的なユースケースを通じて健康 AI の関心のあるさまざまな分野を探求しました。

これらの会議は、（AI に関するパートナーシップからの支援とゴードン＆ベティ ムーア財団からの資金提供により）対面と仮想のハイブリッド会議で最高潮に達し、一連のガイドラインと推奨事項を作成するための準備が整いました。各会議には、 「読み上げ」紙 会議のプレゼンテーションやディスカッションをキャプチャします。つい最近、連合は 医療向けの信頼できる AI 実装ガイダンスと保証のための青写真草案 そして 一般からのコメントやフィードバックを募集する.

「CHAI について本当に興味深いのは、関係者が集まり、AI があらゆるレベルで真に有益な方法で使用されることを保証するフレームワークを中心にコンセンサスを構築する機会となることです」と、MPP のデューク AI ヘルス アソシエート ディレクターのアンドリュー オルソン氏は述べています。 。

で CHAI Web サイトで最近共有されたブログ投稿、共同議長のマイケル・ペンシーナ氏は、連合の「ヘルスケアにおけるAIのために我々が構築しようとしている倫理的枠組みの基礎を公平性にするという強いコミットメント」を強調した。 Pencina 氏はさらに、医療 AI の影響を受けるすべての利害関係者と有意義に関わる能力が、このようなツールへの信頼を育むために不可欠であると指摘しました。

Duke AI Health に加えて、CHAI のパートナーのリストには、スタンフォード大学、カリフォルニア大学サンフランシスコ校、ジョンズ・ホプキンス大学、カリフォルニア大学バークレー校、メイヨー・クリニック、MITRE Health、Change Healthcare、Microsoft Corporation、SAS、Google などが含まれており、そのリストは増え続けています。最近の CHAI 会議には、特定の基準を満たす医療 AI アプリケーションを規制監督する米国食品医薬品局、国立衛生研究所、国家医療情報技術調整官事務所のオブザーバーも出席しました。

CHAI とそのパートナーによる取り組みが継続する中、連邦レベルでも補完的な取り組みが進行中であり、FDA は 最終ガイダンス 臨床意思決定支援ソフトウェアと AI 権利章典の青写真 ホワイトハウス科学技術政策局が発行。

「私たちはヘルス AI において、本当にエキサイティングな瞬間にいます。患者、臨床医、医療システムなど、すべての人がこれらの機能から恩恵を受ける可能性は非常に大きくあります」と Pencina 氏は述べています。 「しかし」と彼は付け加えた。「誰もがその恩恵を確実に共有できるようにする必要があり、そうするための鍵は、私たちが作成したツールが患者ケアに有意義な改善をもたらすことを保証することです。」

元の記事の出典: デューク AI ヘルス