浅きを去って深きに就く

人間の関与と理解、説明が必要

科学文明論研究者　　橳島　次郎

医療への人工知能の活用㊤

エックス線写真やCT、MRIなどの画像から、患者のどこにどれだけ特定の病気や損傷があるかを人工知能（AI）に判定させる医療機器が、医療現場で使われ始めている。日本国内では、２０２２年11月までに、２４種の人工知能を活用した医療機器の製造販売が承認されている。肺炎、大腸ポリープや乳がんの幹部、肋骨の骨折箇所などを見つける機種がある。

これらはみな、人間の医師による診療を補助する機能という位置付けだが、さらに進んで、患者からの質問に答え、診断や治療の方針を示す医療機器も開発されている。最近評判になっているチャットGTIと同じ技術を、医療に応用したものだ。ある研究によれば、人工知能の回答のほうが、医師による回答よりも適切だと判定されたという。

では、人工知能が今後もっと発達したら、医師に代わって診療を行えるようになるのだろうか。人間の生命と健康を左右する医療行為を、どこまで人工知能に任せてよいのだろうか。

この問題にいち早く取り組んだフランスでは、2,019年に議会の透明委員会が出した報告書で、医療者が守るべき基本原則が示された。

第一に、人工知能が保健医療情報を取得する際には、必ず人間が関与するように求めている。

人工知能は与えられた使命を果たすために、インターネットなどを通じて関連情報やデータを検索して集め、学習する。そうした情報の取得を人工知能が自動的に行うに任せてしまうと、プライバシーが惨害されたり、集められる情報に偏りが生じ誤った結果が導かれたりするおそれがある。

医療情報は最も保護が必要なプライバシーに属するものなので、その収集が適切に行われるよう人間が監視することが不可欠になる。

また情報を取得され利用される患者側からも、臨めばいつでも人間の医療者に説明を求めることができるようにするべきだともしている。

第二に、医療者は、人工知能がどのようにして診断結果や治療方針の判断を出したのか、理解しておくよう求められる。そのために、人工知能医療機器の設計・開発者は、その利用にかかわる医療者に人工知能がどのようなプログラムで動くか、その仕組みを説明できるようにしなければならない。この点は、21年に、法律で義務化する規定が設けられた。

人間の関与と理解と説明が必要だというのが、フランス議会の報告書の提言である。

【先端技術は何をもたらすか—1—】聖教新聞2023.7.18