その介護記録、個人のスマホの生成AIにそのまま貼っていませんか

夜勤明けのフロアで、ある職員がスマートフォンを取り出し、無料の生成AIアプリに介護記録を貼り付けて「読みやすくまとめて」と入力する。悪気はない。むしろ記録業務を早く終わらせたい一心での行動だ。だが、このやり取りを事業所側が把握しているケースは少ない。問題は生成AIを使うこと自体ではない。事業所が把握していない場所で、利用者の情報が外部のAIサービスへ送られていることにある。

「あとで読みやすく」のひと手間が、記録を事業所の外へ運んでいる

介護記録を読みやすい文章に整える、長い申し送りを要約する、サービス提供責任者がご家族向けの報告書を作る、外国人スタッフ向けにやさしい日本語へ変換する——生成AIはこうした作業を数分で終わらせる。事業所としてAIサービスや入力ルールを決めていない場合、職員は自分のスマートフォンや個人アカウントで、身近な無料AIにそのまま記録を貼り付けることになる。組織が把握・承認していないAIを職員が業務で使う状態は、一般に「シャドーAI」と呼ばれる。便利さを理由に単純に禁止するだけでは、事業所から見えない場所での利用をかえって後押ししてしまう。

氏名を消しても、地域と年齢と要介護度を並べれば本人は分かる

「氏名だけ消せば入力してよい」と考える職員もいるかもしれない。だが、次の仮想例を見てほしい。「宇都宮市在住の82歳女性。独居で要介護3。長女は東京在住。先月、自宅玄関で転倒し右大腿骨を骨折した。」——氏名は一度も出てこない。それでも、地域・年齢・性別・要介護度・家族構成・事故内容を組み合わせれば、本人や関係者を特定できる可能性がある。医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンスが対象とするのは、他人が容易に知り得ない詳細な個人情報だ。入力前に問うべきは「氏名が入っているか」ではなく、「その情報は本当にAIの処理に必要か」である。

AIに入力した瞬間、その情報は一度、事業所の外に出る

生成AIへの入力は、多くの場合そのままサービス提供事業者のシステムへ送信される。保存されるのか、学習に使われるのか、再委託先があるのかはサービスごとに異なり、同じサービスでも無料プランと有料プランで扱いが変わることもある。個人情報保護委員会は2023年6月、生成AIに個人情報を含むプロンプトを入力する場合、特定した利用目的の範囲内であることを十分に確認するよう注意喚起した。「有名なサービスだから」「有料プランだから」ではなく、契約内容とデータの扱いを確認したうえで、事業所として使ってよいAIを決めることが出発点になる。

「住民第一」を「利用者第一」に置き換えて読む

一般財団法人行政管理研究センター傘下のAIガバナンス自治体コンソーシアムがまとめた「自治体向けAIガバナンスガイドライン」は、「住民第一」を理念に掲げ、人間中心の考え方のもとで人間の尊厳を守りながらAIを活用することを自治体に求めている。AIの出力を人や集団の評価に使う場合は、人間による合理的な判断と説明責任が必要だとも述べる。これを介護・医療現場に置き換えれば「利用者第一」になる。記録時間の短縮だけを目的にせず、AIの出力を職員が確認し、なぜその内容にしたのかを説明できる状態を保つということだ。

生成AIの回答は、常に正しいとは限らない。個人情報保護委員会も出力内容に不正確さが含まれ得ることを踏まえた確認を求めている。AIが作った文章を正式な記録として使う前には、必ず人の目を通す必要がある。

AIは記録を「整える」過程で、書いていないことを足すことがある

生成AIは自然な文章を作るのが得意な分、元の記録にない内容を補ってしまうことがある。「昼食は半量摂取。水分摂取を促した。」という記録が、AIの手を経て「食欲低下がみられ、脱水の可能性があるため水分摂取を促した。」に変わることもある。「食欲低下」も「脱水の可能性」も、元の記録にはどこにも書かれていない。この文章がそのまま正式な記録として保存されれば、事実と推測の境界が消える。ケース記録や業務日誌のように後から監査や事故検証で参照される文書ほど、この境界は重い意味を持つ。

明日からできる一歩

禁止するか、黙認するかの二択で悩む必要はない。まず1枚の紙に、使ってよいAIサービスの名前、入力してよい情報の範囲、最終確認をする人、この3点だけを書き出してみる。それだけで、シャドーAIの多くは防げる。完璧なルールを最初から作る必要はない。決めて、使ってみて、直す。その繰り返しが、記録業務の負担軽減と利用者情報の保護を両立させる最短距離になる。

画像：AI生成によるイメージ