Japan Association for Medical Informatics

[3-G-4-01] オンプレミス型大規模LLMモデルを用いた自動サマリ生成の可能性の検討

*Tadamasa Takemura1, Kohei Yamashita1, Yusuke Kadono1, Noriko Kumekawa2, Sakamoto Kyoko3, Yamamoto Tsuyoshi3, Nakai Takashi1, Kishimoto Kazumasa4 (1. 兵庫県立大学大学院情報科学研究科, 2. 兵庫医科大学情報センター, 3. 大阪警察病院, 4. 京都大学医学部附属病院)

LLM, Generation-AI, summary

ChatGPTに見られるような生成AIを用いることで、診療現場におけるサマリ作成などのこれまで医療従事者が行ってきたタスクを自動的に行える可能性がある。しかし、多くのLLMモデルの実装はクラウド上で行われており、またユーザーがタスクのために入力した様々なデータは再利用される場合があったり、また再利用を行わないことが謳われていてもその保証がないのが現状である。そのため、医療機関においてChatGPT等のようなクラウド上のLLMモデルを用いるのは現実的にはハードルがあるのが現状である。一方で、某国内ITベンチャーが作成した68億パラメータといった大規模な日本語LLMが公開されたり、400億パラメータのLLMも公開されており、ローカル環境・オンプレミス環境での実装が可能になりつつある。
 本研究では、現在2023年春に公開されているオンプレミス型のLLMモデルを用いて、電子カルテのSOAP記載から実際に要約タスクを与えることで作成した「サマリ作成タスク」について、実用性を踏まえた検証を試みた。結果は、ChatGPTのような現状で公開されているクラウド型の高性能な要約タスクを行えているとは言えない反面、病名をある程度予測するなどの結果が得られた。今後は、診療データ等も十分に含むLLMの構築によって、サマリ作成やその他のタスクも実用化できる可能性があることが示唆された。