AI活用

介護事業所のAI活用、始める前に決める3つのこと|個人情報の線引きから

介護事業所がAI活用を始める前に決めておきたい3つのこと

ChatGPTの画面を一度は開いてみた。けれど、入力欄を前にして何も打てないまま閉じてしまった。

介護事業所の管理者の方から、こうしたお話を伺うことが増えました。

使い方が分からなかったわけではないと思います。分からなかったのは、そこに何を入れていいのかのほうです。

手元にあるのは、利用者さんの記録、職員の情報、ご家族とのやりとり。どれも、軽い気持ちで貼り付けられるものではありません。

この記事では、介護事業所がAIを使い始める前に決めておきたいことを、3つに絞って整理します。あわせて、「個人情報を含まない仕事」で止まらずに、条件を整えて使える範囲を広げていく道筋もお示しします。

先にお伝えしておきます。この記事は、AI導入をお勧めするためのものではありません。読み終えて「うちはまだ使わない」と決めていただいても構いません。

判断するための材料をお渡しすることが、この記事の役割です。

専任の担当者を置ける事業所は多くありません。管理者が現場と兼務したまま、隙間時間で進められる範囲に絞ってお伝えします。


ChatGPTを開いて、そのまま閉じた

入力欄の前で手が止まったのは、AIに詳しくないからではありません。人の情報を預かる仕事をしているからです。

まず、そこから確認させてください。

入力欄の前で手が止まったのは、慎重だからです

夜、事務所に残って、話題になっていたAIの画面を開いてみる。真っ白な入力欄が出てきて、カーソルが点滅しています。

何を打とうか考えて、手元の書類に目をやる。今日の記録、来月のお知らせ、書きかけの求人票。どれも、そのまま貼り付けていいものには見えません。

結局、何も打たないままタブを閉じる。数十秒の出来事です。

この数十秒を、「よく分からなかった」で片づけないでいただきたいのです。

手が止まったのは、入力欄に入れるものが人の情報だと分かっていたからです。操作を知らなかったのではなく、預かっているものの重さを知っていた。順番としては、こちらのほうが正確だと思います。

何も考えずに記録を貼り付けてしまう人のほうが、事故には近い場所にいます。止まった方は慎重なのであって、遅れているわけではありません。

「うちみたいなところには、まだ早い」で止まっている

会議で「AI活用」という言葉が出た。同業の管理者が「使っていますよ」と話していた。ニュースでも見かける。

気にはなっています。けれど調べようとすると、出てくるのは大きな法人の導入事例か、ツールの紹介記事ばかり。自分の事業所の話には見えません。

そのうち、「うちみたいな小さいところには、まだ早い」という言葉が浮かんできます。この一言は便利です。口にした瞬間、考えなくてよくなります。

ただ、これは判断ではありません。判断を先送りにしている状態です。

「使わない」と決めたのなら、それは立派な判断です。けれど多くの場合、決めたのではなく、決められないまま置いてある。この違いは、あとで効いてきます。

先送りが続くと、次に考えるきっかけが訪れるのは、たいてい誰かが勝手に使い始めたときです。そのときには、線を引く前に事実のほうが先に進んでいます。

この記事は、使うかどうかを決めるための材料です

ここで、この記事の立ち位置をはっきりさせておきます。

これは、AIを導入しましょうとお勧めする記事ではありません。読み終えて「うちはまだ使わない」と決めていただいて構いません。使わないと決めるのも、材料を見たうえでの判断です。

お渡ししたいのは、その材料のほうです。何が危ないのか、どこまでなら危なくないのか、広げるには何が要るのか。ここが分かれば、進むか止まるかをご自身で選べます。

もうひとつ、期待値も合わせておきます。AIは、介護の判断を代わりに下してくれる道具ではありません。

アセスメントの判断、ご家族への説明の重み付け、職員同士の申し送りの機微。この部分は、現場を知っている人にしか扱えません。

AIに向いているのは、白紙から文章を起こす手間を減らすこと、長い資料を要約すること、言い回しを整えること。この範囲です。

「AIを入れれば業務が楽になる」と考えて始めると、期待と実際の差に失望して終わります。「白紙から書く時間だけを減らす」くらいの見立てのほうが、結果的に続きます。

何が怖いのかを、5つに分けてみる

怖さは、漠然としているあいだは手の打ちようがありません。中身を分けると、打つ手が見えてきます。

「利用者の情報を入れて何かあったら」。この一言のなかには、性質の違う不安がいくつも入っています。ひとつずつ取り出してみます。

入れた情報が、どこへ行くのか分からない

入力した文章は、その場の返答に使われて消えるのか。それとも、どこかに残り続けるのか。ほかの人への返答に使われることはあるのでしょうか。

画面を見ているだけでは分かりません。行き先の分からないところへ人の情報を渡すのは、気持ちが悪い。この感覚は正しいものです。

ただ、これは確認できる項目でもあります。あとで詳しく触れますが、規約と設定画面を見れば、ある程度は分かります。分からないから怖いのであって、確認すれば減らせる不安です。

漏れても、気づけない

おそらく、これがいちばん重い部分です。

書類を置き忘れたのなら、なくなったことに気づきます。メールの誤送信も、送信済みフォルダを見れば分かります。

けれどAIに入力した情報は、どこへ行ったのかを追う手立てがありません。何かが起きたとしても、起きたこと自体に気づけません。

気づけないものには、対応も謝罪もできません。

「何かあったら」の「何か」を具体的に想像できないのは、そのためです。姿の見えない相手は、いちばん怖い。

ご家族に説明できない。本部に報告する場面が浮かぶ

もし何かが起きたとして、そのあとの場面まで想像が進みます。

ご家族に向かって、「AIに入力していました」と伝える場面。そこから先は、何を言っても言い訳に聞こえます。長い時間をかけて築いた信頼が、その一言で崩れる。

法人本部に報告する場面も浮かびます。「誰の判断で使ったのか」と聞かれ、「私です」と答えるしかありません。

職員の顔も浮かびます。日ごろ「記録は丁寧に」と言っている自分が、その記録を外のサービスに渡していた。そう受け取られたら、示しがつきません。

利用者ご本人に、申し訳が立たない

そして、いちばん奥にあるのがこれだと思います。

病歴、排泄の状況、家族関係。利用者さんが、進んで人に話したい内容ではありません。

それでも話してくださったのは、ケアに必要だからと信じてくださったからです。預かった、という言葉がいちばん近いと思います。

その情報を、事務作業を早く終わらせるために外へ出した。そう自分で思ってしまったら、ご本人の顔をまっすぐ見られません。

ここは制度の話ではなく、仕事の筋の話です。

5つのうち4つは、入力しなければ起きない

並べてみます。

・どこへ行くのか分からない
・漏れても気づけない
・ご家族に説明できない
・本部に報告することになる
・ご本人に申し訳が立たない

ここで、確かめておきたいことがあります。この5つのうち4つは、入力しなければ起きないものです。

漏れて気づけないことも、ご家族に説明する場面も同じです。本部への報告も、ご本人への申し訳なさも、すべて利用者さんの情報を入力したあとに続きます。入力しなければ、起きる余地がありません。

残るひとつ、「どこへ行くのか分からない」だけは性質が違います。こちらは入力する前に、規約と設定を見て確かめられるものです。

つまり怖さの大部分は、入力するかしないかという一点に集まっています。そこを決めて守れていれば、残りの4つは連鎖して起こりません。

このあとお話しする線引きは、「あれもこれも禁止」という制約ではありません。

この線の内側で使っているかぎり、いま挙げた4つは起こらない。そう言える範囲を、自分の手で確保する作業です。

もっとも、線を守れているかどうかは、渡す材料そのものを見て確かめる必要があります。

禁止事項を増やす話ではなく、安心して手を動かせる場所をつくる話。そういう順番でお読みください。

決めること① どこまで入力してよいか、線を引く

この節で決めることは、ひとつだけです。どこまで入力してよいか。それだけです。

この先、見出しが7つ続きます。決めごとが7つあるという意味ではありません。1本の線を引くために、順を追って見ていくだけです。

並びはこうなっています。

・枠組みを知る(3つの段階)
・いまの位置を確かめる(段階1)
・広げるための条件を知る(段階2)
・進むか、いまは進まないかを決める
・決めたことを職員に伝える

最後の「職員に伝える」まで来て、ようやく線が引けたことになります。自分の頭のなかだけにある線は、まだ線として働きません。

まず3つの段階に分けて考える

「利用者の情報は入れない」と一律に決めてしまうと、使える場面が事務仕事だけに限られます。そこで止まってしまう事業所は少なくありません。

実際には、条件を整えれば広げられる領域があります。入口を狭くするのではなく、段階を分けて、自分の事業所がいまどこにいるかを把握するところから始めます。

情報の扱いは、次の3段階に分けて考えると判断しやすくなります。

段階1:まず試しやすい仕事──個人情報を含まない文書。今日から始められます(出力の最終確認は人が行います)
段階2:条件を整えれば広げられる領域──条件を満たせば、記録の下書きなどにも段階的に広げられる
段階3:条件を整えても慎重にすべきもの──要配慮個人情報の生データなど

多くの事業所は段階1にいます。止まる理由は、段階2に進むための条件が整理されていないからです。

利用者の情報は入れない、から始める

個人情報保護法には「要配慮個人情報」という区分があります。本人の人種、信条、社会的身分、病歴、犯罪の経歴などが含まれる個人情報で、取扱いに特に配慮を要するものとされています。政令で定める記述等には、身体障害・知的障害・精神障害などの心身の機能の障害があることも含まれます。

介護事業所が日常的に扱う情報は、この要配慮個人情報にあたるものが少なくありません。介護記録、アセスメントシート、サービス担当者会議の記録、ご家族から伺った病歴。いずれも慎重な取扱いが求められる情報です。

そのため、出発点はシンプルに置くことをお勧めします。利用者・ご家族・職員個人が特定できる情報は、AIに入力しない。ここから始めれば、判断に迷う場面はかなり減ります。

先ほど挙げた5つのうち4つは、この一行を守れば起きなくなります。線を引くことの効き目は、思っているより大きいものです。

あわせて、渡す材料そのものも見てください。案内文のもとにしたメモ、研修資料に貼りつけた資料。こうしたものに個人情報が紛れていないかは、入力の前に毎回確認する必要があります。

名前を消せば安全、とは限らない

「氏名を伏せ字にすれば大丈夫でしょうか」というご質問をいただくことがあります。

氏名を消すこと自体は意味のある対応です。ただし、それだけで特定できない情報になるとは限りません。

小規模な地域では、年齢・性別・疾患名・利用日といった要素の組み合わせから、誰のことか分かってしまうことがあります。

匿名化や仮名化をどう扱うかは、加工の程度や情報の性質によって判断が変わる部分です。自己流で線を引くのは避けてください。

個人情報保護委員会と厚生労働省は「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」を示しています。まずはこれを確認し、判断に迷う場合は専門家に相談することをお勧めします。

病歴や心身の機能の障害といった要配慮個人情報の生データは、条件を整えたうえでも慎重な扱いが必要な段階3にあたります。ここは無理に広げず、ガイダンスの確認と専門家への相談を挟んでください。

無料で使えるサービスほど、入力内容の扱いを先に確認する

「どこへ行くのか分からない」という不安に、ここで手を打ちます。

個人情報保護委員会は、令和5年6月2日に「生成AIサービスの利用に関する注意喚起等」を公表しました。そのなかでは、個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合の考え方が示されています。

特定された利用目的を達成するために必要な範囲内であることに加えて、サービスの提供事業者が、入力された個人データを応答結果の出力以外の目的(学習等)に取り扱わないことを、十分に確認したうえで入力する必要がある、という内容です。

利用規約とプライバシーポリシー、学習利用に関する設定を確認し、判断に迷う場合は個人データを入力しないでください。

あわせて公表されているリーフレットでも、注意が促されています。入力した内容が、AIの学習データとして利用される場合があるという点です。

無料で使えるサービスは試しやすい反面、入力内容の扱いが有料プランや法人向けプランと異なることがあります。事業所として使うのであれば、使い始める前に利用規約と設定画面を確認してください。

学習への利用をオフにできるかどうか、履歴を残さない設定があるかどうかは、確認しておきたい項目です。

ここまでが、いまの位置の確認です。ここから先は、広げるための条件に移ります。

段階2に進む4つの条件

ここまでが段階1の話です。記録の下書きのように個人情報が絡む業務へ進むには、次の4つを揃えます。どれか1つでも欠けたまま個人データを扱うのは避けてください。

介護のAI活用でよく挙げられる、個別支援計画やアセスメントなどの書類の下書きも、この段階2にあたります。

最初に取り組むのではなく、条件を整えてから取り組む仕事だとお考えください。

条件1:入力内容が学習等に利用されない設定・契約のサービスを選ぶ

事業者向けのプランや、学習利用のオプトアウト設定が用意されているサービスがあります。利用規約と設定画面で、入力した内容が応答の生成以外の目的に使われないことを確認してください。無料アカウントのまま個人データを扱うのは避けます。

お使いのサービスの設定画面とヘルプで、少なくとも次の3点を確認してください。入力内容が学習・改善に利用されるか(オフにできるか)、事業者向けプランでは学習利用が既定で無効になっているか、入力データの保存期間。

条件2:入力してよい情報の範囲を、規程・ルールで先に決める

どの業務で、どこまでの情報を入力してよいかを文書で定めます。職員個人の判断に委ねないことが要点です。

条件3:仮名化・最小化してから入力する

氏名や住所など特定につながる情報を外し、判断に必要な要点だけを入力します。ただし、消しただけでは特定できない情報になるとは限らない点は、先に述べたとおりです。

条件4:扱える職員と用途を限定する

誰が、どの業務で使えるのかを決め、範囲外の利用が起きない状態にします。

この4つは、段階2を検討するための出発点です。4つを満たしたからといって、それだけで個人データを入力してよいとは判断できません。実際にどの業務でどこまで入力するかは、利用目的との整合や利用サービスの取扱いを踏まえて、事業所ごとに判断します。

条件とは別に、確かめておきたいことがあります。使うサービスの提供事業者が、入力したデータを自分たちの目的で利用する場合があるという点です。

この場合は、原則として本人の同意を要する第三者提供にあたります。同意を得ていない個人データは、入力しないでください。

契約や利用規約をどう読むか、委託にあたる場合の整理をどう進めるか。ここはシリーズ第5回「記録・報告の下書きと線引き」で扱います。記録業務への具体的な広げ方も同じ回です。この記事では、進むための条件を確認するところまでとします。

判断に迷う場合は、個人データを入力せず、専門家にご相談ください。

それでも、この4つを揃え、いま挙げた確認を通せば、道筋は見えてきます。記録の下書きや、長い文書の要約といった業務です。

今はまだ進まない、も判断です

4つの条件を読んで、「うちでは無理だ」と思われたかもしれません。

法人本部の決裁が下りない。契約するプランをこちらで選べない。規程に手をつける時間が取れない。職員の範囲を限定できるほど人がいない。

どれも、管理者おひとりの努力では動かない部分です。

その場合は、いまは段階1にとどまると決めてください。これは負けでも、遅れでもありません。条件が揃っていないと分かったうえで進まない。判断としては、こちらのほうが正確です。

危ないのは、条件が揃っていないことに気づかないまま進んでしまう状態のほうです。4つを読んで「まだだ」と分かったのなら、その時点で危険はかなり遠ざかっています。

そのうえで、ひとつだけ記録しておいていただきたいことがあります。どの条件が欠けていて止まっているのかです。

「本部の決裁待ち」なのか、「サービスの契約形態が分からない」なのか、「規程に手をつけられていない」なのか。ここが書けていれば、状況が変わったときに再開できます。

本部に相談するときも同じです。「AIを使わせてほしい」では通りにくくても、「この条件を満たすために、この契約が要る」なら話が進みやすくなります。

それに、段階1でできることは思っているより広い範囲です。次の節で具体的に挙げますが、お知らせ文、研修資料、求人票の下書き。ここだけでも、白紙から書く時間はかなり減ります。

段階2に進めないことは、AIを使えないことと同じではありません。

職員に伝える一文をつくる

線を引いたら、最後に職員へ伝えます。ここまで来て、ようやく決めたことになります。

この場面で管理者の方が引っかかるのは、たいてい同じ点です。自分がよく分かっていないものを、職員に使わせてよいのか。聞かれても答えられないのではないか。

この心配は、伝える内容を絞ると小さくなります。全部を説明する必要はありません。入れてはいけないものと、迷ったときの行き先。まずはこの2つが伝わっていれば、動き出せます。

朝礼や連絡ノートでそのまま使う形にすると、こうなります。

文章づくりをAIに手伝ってもらうときは、利用者さん・ご家族・職員の名前や、その人だと分かる内容は入力しないでください。迷ったときは入力せず、私に声をかけてください。

2文です。これ以上増やすと、読まれません。

ただし、これで周知が終わりという意味ではありません。あとで触れる規程の確認まで含めて一式です。

「私に声をかけてください」の一文は、外さないでください。ここがあると、判断が職員個人に降りていきません。

禁止事項だけを並べると、迷った職員はその場で自分で判断します。それが、いちばん避けたい状態です。

掲示物として貼っておくなら、次の3行を足しておくと迷いが減ります。

・利用者・ご家族・職員個人が特定できる情報は入力しない
・判断に迷ったら入力せず、管理者に確認する
・使ってよいサービスと、使ってよい業務を事業所で決めておく

「自分が理解してから伝えよう」と考えると、いつまでも共有できません。上の2文であれば、AIの仕組みを説明できなくても伝えられます。

説明できることと、線を引けることは別です。

制度の面からも触れておきます。個人データを取り扱う事業者には、平時から、その取扱いに必要かつ適切な安全管理措置と従業者への周知・教育が求められます。

AIを用いることで入力先や取扱方法が変わる場合は、利用してよいサービス、入力を禁止する情報、利用できる職員の範囲、確認手順、事故時の連絡体制について、既存の個人情報取扱規程や運用手順で十分かを確認し、必要に応じて見直してください。

いきなり規程を書き直す必要はありません。まず一文を配り、そのうえで既存の規程で足りるかを見ていく。この順番で構いません。

こんな場面で起きる──実際の事例と、想定される場面

情報が外に出るのは、悪意のある操作ではなく、日常の作業のなかで起こります。

条件を整える前に起きた事例と、介護の現場で起こりうる場面を見ておきます。

実際に報じられた事例

海外の大手電機メーカーで、2023年3月11日に社内での生成AI利用が認められたと報じられています。その後まもなく、機密情報が入力される事案が3件確認されたという内容です。

内訳は、半導体設備に関するソースコードが2件と、社内会議の録音を文書化したものが1件です。韓国の経済メディアが同年3月30日に報じ、国内でも報道されました。

さらに同年5月初旬の報道によれば、その後この企業は、従業員に対して生成AIの利用を原則禁止する方針を通知しています。

業種は介護とは異なります。ただ、「使ってよい」とだけ伝えて、入力してよい範囲を決めなかった。この起点は、どの業界にも共通します。

(出典:PC Watch 2023年4月4日Forbes JAPAN 2023年5月3日

介護の現場で想定される場面

以下は実際に起きた事故ではなく、想定例です。ただ、どれも起こりうる場面だと考えています。

想定例1:ご家族への連絡帳の下書きを頼むとき、利用者の氏名と病状をそのまま入力してしまう
想定例2:研修資料を作るとき、実際のヒヤリハット報告書をそのまま貼り付けてしまう
想定例3:無料アカウントのまま、入力内容が学習に使われる設定かどうかを確認せずに使い続ける

いずれも「悪いことをしよう」として起きるものではありません。手元にある材料をそのまま渡すほうが早いから起こります。

だからこそ、個人の注意力に頼るのではなく、段階と条件を先に決めておくことで防ぎます。

決めること② 個人情報を含まない仕事から順に試す

いきなり記録業務から始めると、たいてい途中で止まります。

記録は、個人情報を扱う業務であると同時に、書き方の作法が決まっている業務でもあります。最初の一歩には向きません。順番を選ぶことが、続けられるかどうかを分けます。

最初の3つ──お知らせ文、研修資料のたたき台、求人票の下書き

始めやすいのは、個人情報を含めずに作成できる次の3つです。入力するメモや参考資料に利用者・ご家族・職員などの個人情報が含まれていないことを確認したうえで試してください。

失敗しても実害が比較的小さく、できあがりが目に見えやすい業務です。

ご家族向けのお知らせ文:行事の案内、感染症流行時の面会ルールの変更、料金改定の連絡など。伝える内容を箇条書きで渡し、案内文の形に整えてもらう
研修資料のたたき台:テーマと対象者と時間を伝え、目次案と説明の骨組みを作ってもらう
求人票の下書き:仕事内容や条件のメモを渡し、読みやすい文章に整えてもらう

とくに求人票は、書き慣れていないと手が止まりやすい文書です。下書きが数分で出てくるだけでも、着手のハードルは下がります。

この3つのうち、求人票については実際の手順まで別記事にまとめています。渡す材料の作り方から、人が確認する項目までを追った内容です。介護の求人票、AIに下書きしてもらう手順をご覧ください。

求人票そのものの書き方については、デイサービスの求人票の書き方完全ガイドで解説しています。

記録・報告の下書きは、線引きとルールが固まってから

記録業務にAIを使いたい、というご相談は多くいただきます。手間が大きい業務なので、当然の発想だと思います。

ただ、記録は利用者の心身の状態を扱う業務です。要配慮個人情報にあたる内容が含まれることも珍しくありません。

事業所としての線引きと入力ルールが固まる前に手を付けると、判断が職員任せになってしまいます。

先に挙げた3つで使い方に慣れ、段階2の4条件が揃ってから検討する順番をお勧めします。

その際も、4条件を満たすことと、個人データを入力してよいかの判断は別です。利用するサービスの提供事業者が、入力データを自分たちの目的で利用する場合があります。これは原則として本人の同意を要する第三者提供にあたるため、入力しないでください。

契約や利用規約の読み方は、シリーズ第5回で扱います。

専任者を置かずに回すなら、1人が1業務を3回を目安に試す

AI導入というと、研修を開いて全職員に広める形を思い浮かべるかもしれません。専任の担当者を置けない事業所では、この進め方は負担が大きくなります。

現実的なのは、まず1人が、1つの業務で、3回を目安に試すことです。

1回目は、思ったものが出てこないかもしれません。2回目で頼み方を変え、3回目でようやく「これなら使える」という手応えが出てきます。1回で判断して「使えない」と結論を出すのは早すぎます。

3回試して形になったら、その頼み方をメモにして次の人に渡す。これを1業務ずつ広げていくほうが、一斉研修より定着しやすいと考えています。

決めること③ 最後に確認するのは人、という順番を崩さない

AIの文章は下書きであって、事業所の文書ではありません。

この順番を崩さないことが、3つ目の決めごとです。仕組みとして決めておかないと、忙しい日に飛ばされます。

出てきた文章は「事実」と「基準」の2つで確認する

確認するポイントは、大きく2つに分けられます。

ひとつは事実です。日付、金額、人数、制度の名称、加算の要件。AIは、それらしい形式で誤った情報を出すことがあります。数字と固有名詞は、元の資料に戻って突き合わせてください。

もうひとつは基準です。介護の文書には、運営基準や解釈通知で求められる要素があります。文章として読みやすいことと、基準を満たしていることは別の話です。

研修記録、訓練記録、重要事項説明書。これらの合格ラインを決めるのはAIではなく、自事業所に適用される基準と指定権者の取扱いです。読みやすくなった文章を、基準の観点でもう一度読み直す工程を残してください。

複数回チェックしても、誤りは残ることがある

ここで押さえておきたいのは、確認を重ねれば誤りがなくなる、というものでもないという点です。

人が何度読み返しても、見慣れた文章の誤りは目に入りにくくなります。同じ内容が本文と見出しと添付資料に散らばっていると、本文だけ直して見出しに古い記述が残る、という取り残しも起こります。

AIにチェックさせた場合も同じで、書いたAIと同じ考え方でチェックすれば、同じ思い込みが残ったままになりがちです。

だからこそ、単独の目を信用しないという考え方が要ります。書く人と確認する人を分ける。チェックする側には、事実の裏付けを一次情報で示してもらう。そのうえで、最終的にどう直すかは人が判断する。

この順番を決めておくことが、確認を回数だけの作業にしないための備えになります。

文書の責任は、AIではなく、文書を出した事業所にある

AIが作った文章に誤りがあったとしても、その文書を利用者やご家族、行政に出したのは事業所です。

提出する前に内容を確認し、最終的な文書として出すかどうかを判断するのは、事業所の仕事です。

この点を職員と共有しておくと、「AIが書いたので」という説明が通らないことが自然に理解されます。

もうひとつ、口に出しにくい引っかかりについても触れておきます。AIに書かせるのは、手を抜くことにならないか。この気持ちです。

介護は手間をかける仕事だと思ってやってきた。職員には「記録は丁寧に」と言っている。それなのに自分だけ機械に任せるのは、筋が通らないのではないか。

そう感じる方は少なくありません。

ここは、気持ちの持ちようではなく工程で見てください。

AIに何を伝えるかを選ぶのは人です。出てきた文章のどこが違うかを判断するのも、人がやります。事実を元の資料と突き合わせるのも、基準に照らして直すのも、最終的に出すと決めるのも人です。

AIがやっているのは、白紙を埋める部分だけです。判断の部分は、ひとつも渡していません。

むしろ、白紙を埋める時間が減ったぶん、確認に時間を回せます。手を抜いたのではなく、手をかける場所を移した。そう説明できる工程になっていれば十分です。

次はどの業務から始めるか

準備に時間をかけるより、1つの文書で試すほうが早く分かります。

3つの決めごとが固まったら、次の順番で動いてみてください。

1日目:「利用者・ご家族・職員個人が特定できる情報は入力しない」の一文を決め、職員に共有する
2日目:ご家族向けのお知らせ文を1本、AIに下書きしてもらう
3日目:出てきた下書きを自分で直し、どこを直したかを見返す

3日目の「どこを直したか」が、いちばん学びになる部分です。事実の誤りだったのか、言い回しの硬さだったのか、事業所らしさの不足だったのか。ここが分かると、次の頼み方が変わります。

このシリーズでは、今回の3つの決めごとを土台に、業務ごとの進め方を順に取り上げていきます。

採用文書介護の求人票、AIに下書きしてもらう手順(公開中)
SNS・広報:投稿文と広報物の下書き
研修・会議:資料と議事のたたき台
記録・報告:段階2に進むための線引きと、委託の扱い
BCPなどの計画類:ひな形からの書き起こしと見直し

どの回でも、入力してよい情報の線引きと、人が最終確認する順番は変わりません。

ご自身の事業所でいちばん手が止まっている業務から読んでいただくのが、近道だと思います。

BCPについては、すでに作って終わりのBCPを動く計画に変えるで見直しと訓練の進め方を解説しています。計画類の作成にAIをどう組み合わせるかは、シリーズの後の回で扱います。

よくある質問(FAQ)

Q. 介護事業所でChatGPTなどのAIを使っても問題ないのでしょうか?

業務でAIを使うこと自体が禁じられているわけではありません。ただし、個人情報保護委員会は、生成AIサービスに個人データを含むプロンプトを入力する場合、特定された利用目的の範囲内であることに加え、提供事業者がその個人データを応答結果の出力以外の目的に取り扱わないことを、十分に確認したうえで入力する必要があるという考え方を示しています。まずは個人情報を含まない業務から始め、利用してよいサービスと業務を事業所で決めたうえで使うことをお勧めします。

Q. 利用者の名前を消せば、介護記録をAIに入力してもよいですか?

氏名を消すことは意味のある対応ですが、それだけで特定できない情報になるとは限りません。年齢・性別・疾患名・利用日などの組み合わせから個人が分かってしまう場合があります。記録をAIで扱う場合は、氏名を消すことだけに頼らず、入力内容が学習等に利用されない設定・契約のサービスを選ぶ、入力してよい範囲を規程で決める、要点だけに絞る、扱える職員と用途を限定する、という条件を揃えたうえで、利用目的との整合や利用サービスの取扱いを踏まえて事業所ごとに判断し、段階的に進めてください。ただし、これらの条件を満たすことと、個人データを入力してよいかの判断は別です。利用するサービスの提供事業者が入力データを自分たちの目的で利用する場合は、原則として本人の同意を要する第三者提供にあたるため、入力しないでください。病歴や心身の機能の障害など要配慮個人情報にあたる生データは、条件を整えたうえでも慎重な検討が必要です。「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」を確認し、判断に迷う場合は専門家にご相談ください。

Q. AIの利用について、事業所内ではどんなルールを決めておくとよいですか?

まずは「利用者・ご家族・職員個人が特定できる情報は入力しない」「判断に迷ったら入力せず管理者に確認する」「使ってよいサービスと業務を事業所で決めておく」の3点を決めて共有するところから始めてください。個人データを取り扱う事業者には、平時から、その取扱いに必要かつ適切な安全管理措置と従業者への周知・教育が求められます。AIを用いることで入力先や取扱方法が変わる場合は、利用してよいサービス、入力を禁止する情報、利用できる職員の範囲、確認手順、事故時の連絡体制について、既存の個人情報取扱規程や運用手順で十分かを確認し、必要に応じて見直してください。あわせて、利用するサービスの規約と設定を確認し、入力内容が学習に使われる設定になっていないかを見ておいてください。

Q. AIを使うと、どのくらい業務時間を減らせますか?

削減できる時間は、対象とする業務、扱う文書の種類、使い方の習熟度によって大きく変わるため、一律の数値はお示ししていません。まずは1つの業務で3回を目安に試し、下書きにかかる時間と、人が直した箇所を記録してみてください。自事業所での効果を見てから対象を広げる進め方をお勧めします。

まとめ──順番を守れば、使える範囲は広げられる

介護事業所のAI活用は、入力してよい情報の線引き、試す順番、人が最終確認する体制。この3つを決めるところから始まります。

どれも高度な準備ではありません。一文を決めて職員に配り、お知らせ文を1本作ってみて、自分で直す。ここまでなら、専任の担当者がいなくても今日から始められます。

逆に、この3つを飛ばして使い方だけを広げると、順番が崩れます。個人情報の扱いが職員任せになったり、確認されないまま文書が外に出たりする恐れがあります。順番を守ることが、遠回りに見えてリスクを抑えながら進めるコツです。

そして、順番さえ守れば、使える範囲は段階1で止まりません。4つの条件を揃え、契約と利用規約の確認を通せば、記録の下書きのような手間の大きい業務へ広げていく道筋は見えてきます。

ただし、条件を満たすことと、個人データを入力してよいかの判断は別です。提供事業者が入力データを自分たちの目的で利用する場合は入力しない。この線は外さないでください。

もちろん、条件が揃わないうちは段階1にとどまる。その判断も、この記事でお伝えしたかったことのひとつです。

大事なのは、決めないまま置いておかないことです。

最初にお話しした、入力欄の前で手が止まった夜。あのとき止まったのは、慎重だったからでした。

いまは、どこまでなら入れてよいかの線があります。線の内側でなら、迷わずに進められます。

RadiantCoCoでは、介護・医療事業所向けのAI導入支援を行っています。どの業務から手を付けるか、事業所内のルールをどう決めるか、といった段階からのご相談も承っています。進め方に迷われている場合は、お気軽にお声がけください。

【参考資料】

・個人情報保護委員会「「要配慮個人情報」とはどのようなものを指しますか。」(https://www.ppc.go.jp/all_faq_index/faq4-q011/)

・個人情報保護委員会・厚生労働省「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」(https://www.ppc.go.jp/personalinfo/legal/iryoukaigo_guidance/)

・個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/)

AIの使いどころや事業所内のルールづくりについてのご相談は、お問い合わせフォームからお気軽にご連絡ください。

Webのお悩み一緒に解決しませんか

30分Zoom無料相談を予約する →