AI ツールにおけるデジタル信頼の構築

クレジット: WHYFRAME/Shutterstock

英国国家標準化団体 BSI は、医療機器からスマートフォンのチャットボットや家庭用監視ツールに至るまで、患者の診断や治療に使用される AI 製品に対するデジタルの信頼性を高めることを目的としたガイダンスを公開しました。

より革新的な AI ツールの登場により、臨床医や医療提供者は、病気への介入、予防、治療のための情報に基づいた診断上の意思決定を効率的に行う機会が得られ、最終的には患者の生活の質を向上させ、社会に利益をもたらすことができます。

BSIの基準局長であるスコット・スティードマン氏は、「新しいガイダンスは、患者と患者を診断し治療する専門家に多大な潜在的利益をもたらす最先端ツールに対するデジタルの信頼を築くのに役立ちます。」と述べた。

AI の適切な使用に関する議論が世界的に続く中、医療における AI の使用に関する検証フレームワーク – 仕様 (BS 30440) が公開され、ツールが安全で効果的な方法で開発されたという臨床医、医療専門家、臨床提供者の信頼を高めることができます。そして倫理的な方法。 世界中で使用できる監査可能な基準は、治療、診断、または健康状態の管理を可能または提供することを主な機能とする製品を明確に対象としています。

予測によると、世界のヘルスケア AI 市場規模は 2030 年までに 1,879 億 5,000 万ドルを超える可能性があります。医療提供者や臨床医は時間と予算の制約に直面しているか、AI 製品の評価を実施する社内の能力や能力が不足している可能性があるため、仕様は意思決定をサポートできます。どのようなツールを使用するかについて。 これは、臨床上の利点、パフォーマンスの基準、臨床作業環境への成功した安全な統合、倫理的配慮、社会的に公平な結果などの基準を考慮して、臨床医と患者がヘルスケア AI 製品を評価するのに役立ちます。

規制対象の医療機器（医療機器としてのソフトウェアなど）だけでなく、ユーザー向け製品（画像ソフトウェアなど）や患者向け製品（AIを使用したスマートフォンのチャットボットなど）に至るまで、さまざまな環境で使用されるヘルスケアAI製品をカバーしています。 これには、家庭 (モニタリング製品など) や地域社会、一次、二次、三次医療の現場で使用される AI 製品も含まれます。 この仕様は、機械学習を含む AI の要素を使用する製品、モデル、システム、またはテクノロジーに適用され、AI システムのサプライヤーおよび製品監査人にも関連します。

この文書は、臨床医、ソフトウェア エンジニア、AI 専門家、倫理学者、医療リーダーを含む、ベスト プラクティスを特定するために提携する専門家パネルによって作成されました。 既存のガイダンス文献と優れた実践例をまとめて、複雑な機能の評価を、AI システムの適合性を評価できる監査可能なフレームワークに変換します。 医療機関は、調達プロセスの要件として BS 30440 認証を義務付けることができ、これにより、これらのシステムが既知の基準を満たしていることが保証されます。

Jeanne Greathouse 氏、BSI グローバル ヘルスケア ディレクター 「この規格は、医療分野の組織とそれに関わる組織に非常に関連性があります。 AI が標準になるにつれて、医療に変革をもたらす可能性があります。より革新的な AI ツールの登場と、大量のデータを消化して正確に分析する AI アルゴリズムの機能により、臨床医や医療提供者は、情報に基づいた診断上の決定を効率的に下して病気の介入、予防、治療を行うことができ、最終的には患者の生活の質を向上させることができます。 」

この仕様は、医療における AI 開発と臨床評価のための合意された検証フレームワークのニーズに応えます。 これは、ガイズ・アンド・セント・トーマスがんセンターの専門家によって最初に試行され、その後の AI および機械学習の分野に携わる関係者との議論を通じて改訂されたフレームワークに基づいて構築されています。 並行して、BSI は規制当局、医療機関、その他の団体と協力して、医療における AI の規制とガバナンスをサポートする際の標準の役割を検討してきました。