第三次AIブームの流れに乗り、機械学習が注目されるとともに医療への応用が現実のものなった。そして医師の仮説的演繹法に似た方法でEHRを照会し、これまでの統計的手法では見つけられなかった関連性を発見し、小児疾患の診断において経験豊富な小児科医に匹敵するAIも出た。DeepSOFAと呼ばれる試みはICUで発生する大量のバイタルデータを学習し、どの患者に救命処置が必要かをいち早く示すことで医師の治療の時間を稼ぐ能力があるという。しかし、画像認識領域のAIは、結果精度に関する治験を行うことで診断根拠とし、追加学習は考慮されない。医師の代用判断するものは、専門家不足を補うものであり必ずしも求められるものとは限らないだろう。AIの判断がブラックボックで、根拠を説明できないのであれば、そもそも利用できるかは不透明だ。

AIによる回答と説明
追加学習を容認し環境変化に対応可能で、判断をブラックボックス化せず、思考根拠を示すことができて、かつ医師が求めるAIとは何か。その答えを求めるためには、実際に段階を踏んで臨床現場での試行が必要と考えた。そこで当院の取り組みを示す。検査結果や機器からの測定結果から直接臨床判断を行うのではなく、モジュールに分割した。モジュール間の連携は要約された情報で行ない、元の情報へのアクセスを制限した。そのため患者がもつコンテキストを考慮する必要があった。この時の動作過程をコンテキストと合わせて保存し、説明に利用した。
例えば生体モニターの出力は人と同じアルゴリムでフィルタリングを行ない、統計学的機械学習によるノイズ除去を経て採用した。同時に患者基本情報やカルテ記載の文脈解析でコンテキストを用意、ソースを合わせて保存した。大量データを俯瞰して判断する時、最終判断を行うヒトが納得できるように途中結果を説明し、機械の誤りをヒトが判断できるAIが求められると考える。