ChatGPTを医療・クリニックで使うには|使える業務と、入力してはいけない情報

ChatGPTを医療・クリニックで使うには|使える業務と、入力してはいけない情報(ソクラクのコラム/医療DX・業務効率化)

ChatGPTは医療の現場でも使えます。ただしクリニックで使うときは、「何に使うか」より先に「何を入力してよいか」を決める必要があります。患者さんの情報をそのまま入れると、個人情報の扱いとして問題になるおそれがあるからです。逆に、患者情報を含まない事務作業なら、今日からでも業務効率化に使えます。
この記事では、クリニックでChatGPTを使える業務と使ってはいけない使い方、入力してよい情報の線引き、院内ルールの作り方を整理します。

目次

ChatGPTは、クリニックの何に使えるのか

扱う情報のリスクで3段に分けると、どこから始めればよいかが見えます。下の段から順に広げていくのが安全です。

リスク扱う情報使える業務の例
低患者情報を含まないメールの下書き、求人原稿、SNSの下書き、議事録、マニュアルの叩き台、表計算の分析
中院内の情報(マニュアル、施術・商品の情報、院内ルール)院内ナレッジの検索、スタッフ向けFAQ、問い合わせへの返信案
高患者に関わる情報問診の整理、診療に関わる文書の補助。一般向けのChatGPTにそのまま入力しない

「低」の段だけでも、事務作業にかかっている時間の使い方は変わります。まずここで院内にAIを使う習慣を作り、そのうえで「中」「高」に進むかを決めます。

ChatGPTに入力してはいけない情報は、何か

個人情報保護委員会は2023年6月、生成AIサービスの利用について注意喚起を出しています。事業者が個人情報を含むプロンプト(指示文)を入力する場合は、利用目的の範囲内かを十分に確認すること、本人の同意なく入力した個人データが応答以外の目的で扱われると法に違反するおそれがあることが示されています。

クリニックでは、次の情報を一般向けの生成AIサービスにそのまま入力しないことを、院内ルールの出発点にします。

  • 患者さんの氏名、生年月日、連絡先、保険証やマイナンバーの情報
  • カルテの内容、検査結果、病名、処方の内容
  • 問診票の回答、相談の内容
  • 予約の情報(誰がいつ来るか)
  • スタッフの個人情報、人事評価

名前を消せば安全、とは限りません。日付、年齢、症状、来院の経緯などを組み合わせると、誰のことか分かってしまう場合があります。

サービスや契約によって、何が違うのか

生成AIは、同じ「ChatGPT」でも、使うサービスや契約の形によって、入力した内容がどう扱われるかが変わります。入力内容が学習に使われるか、どこに保存されるか、誰が見られるかは、利用規約と契約で確かめる必要があります。

使い方確かめること
スタッフ個人のアカウント誰が何を入力したか、院として把握できない。業務では使わない前提にする
法人向けの契約入力内容が学習に使われないか、保存期間、管理者がアカウントと権限を管理できるか
API経由で院内の仕組みに組み込むデータの扱いの取り決め、ログの残し方、つなぐ先のシステムの安全管理
院内で動くAI(ローカルLLM)情報を院内・閉域の中だけで扱える構成か。性能と使いやすさとのつり合い

厚生労働省の「医療情報システムの安全管理に関するガイドライン」(第6.0版)のQ&Aでも、生成AIサービスに医療情報を入力する場合の考え方が取り上げられています。患者情報を扱う段に進むときは、ガイドラインの考え方を踏まえて構成を決めます。

入力してよい情報を決めてから、徹底的に使う

ソクラクは自院のクリニックでAIを使いながら、院内ルールと仕組みを作ってきました。入力された内容を院内の判断基準で判定し、患者に関わる情報は院内で完結するAIへ、そうでないものはクラウドのAIへ振り分ける仕組みもお出ししています。

  • 院内のAI利用ルールを、スタッフが読んで分かる形で作ります
  • クラウドAI・API・ローカルLLMを、業務ごとに使い分ける環境を組みます
  • 受付・看護師・医師・事務など、職種ごとの業務を題材に研修します

クリニックのAI導入について見る

診断や治療の判断をAIに任せるサービスではありません。医療従事者の業務を支える範囲での導入です。

院内のAI利用ルールは、何を決めればよいのか

ルールは長く書くほど読まれなくなります。最初は次の5つが決まっていれば動けます。

  1. 使ってよいサービス。院が契約したもの以外は業務で使わない
  2. 入力してはいけない情報。上のリストを、院の業務に合わせて具体的に書く
  3. 出てきた答えの扱い。生成AIは間違えることがある。患者さんに出す文書や院外への発信は、必ず人が確認してから使う
  4. アカウントと権限。誰がどのサービスを使えるか。退職したらすぐ止める
  5. 困ったときの相談先。「これは入れていいのか」を聞ける人を決めておく

ルールを紙で配って覚えてもらうだけでは、忙しい時間帯に守られなくなります。迷わずに済む仕組みにしておくほうが確実です。決まった手順の繰り返し作業は、AIよりRPAのほうが確実なこともあります。使い分けはクリニック・病院・介護施設のRPAで書いています。

ChatGPTを、診断や治療の判断に使ってよいのか

使わないでください。生成AIはもっともらしい間違いを出すことがあり、診断や治療の判断は医師が行うものです。診断や治療に使うことを目的としたソフトウェアは、医療機器としての規制の対象になることもあります。クリニックでの生成AIは、医療従事者の事務や文書の作業を支える範囲で使うのが基本です。

よくある質問

無料版のChatGPTを業務で使ってもよいですか

患者情報を含まない作業であれば使えなくはありませんが、スタッフ個人のアカウントでは、誰が何を入力したかを院として把握できません。業務で使うなら、院が管理できるアカウントと、入力してよい情報のルールを先に用意することをおすすめします。

患者さんの名前を消せば、カルテの内容を入力してもよいですか

名前を消しただけでは安全とは言えません。日付や年齢、症状の組み合わせで個人が分かることがあります。カルテの内容をAIで扱いたい場合は、院内で完結する構成なども含めて、扱い方を個別に設計します。

クリニックでChatGPTを使うと、何の業務が楽になりますか

患者情報を含まない文書作業が最初に効きます。メールや求人原稿の下書き、議事録、マニュアルの叩き台、SNSの下書き、集計の分析などです。院内のマニュアルを検索できるようにすると、スタッフ同士の問い合わせも減らせます。

スタッフがAIを使ってくれるか不安です

使い方を教えるだけの研修では、数週間で元に戻りがちです。実際の院内業務を題材にして、テンプレートと環境を用意し、その業務のやり方そのものを置き換えるところまで進めると定着しやすくなります。

関連ページ

参考:個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日)、厚生労働省「医療情報システムの安全管理に関するガイドライン 第6.0版」およびQ&A。サービスの利用規約や契約条件は変わることがあります。導入の前に最新の内容をご確認ください。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!
目次