生成AIを巡る期待と現実【第6回】

生成AI導入のGMPリスクとセキュリティ管理ポイント

これまでの連載では、生成AIをめぐる期待と限界、経営層・マネジメント・現場・医薬品ユーザーそれぞれの視点を整理してきました。共通して見えてきたのは、生成AIは人の判断を置き換えるものではなく、情報を整理し、判断の質とスピードを高めるための補助ツールだということです。

最終回では、その前提に立って、GMP領域で生成AIを使う際のセキュリティを考えます。ここでいうセキュリティは、単に外部からの不正アクセスを防ぐ話にとどまりません。製造条件、バッチ記録、逸脱・OOS情報、変更管理、バリデーション資料、供給計画、苦情・副作用に関連する情報など、品質と患者安全に直結する情報を、誰が、どこで、どの目的で、どの範囲までAIに扱わせるのかを設計することです。

一般的な企業秘密であれば、情報漏えいによる競争上の損失が主な懸念になります。
しかしGMP領域の情報の利活用によるリスクは単純な損失だけではありません。古いSOPを根拠にした回答、未承認の逸脱情報を含む要約、変更前後の条件が混在した説明が現場に流れれば、誤った作業や判断につながる可能性があり、すなわち情報の取り扱いの誤りによる逸脱の発生が懸念されます。
つまり、製薬メーカーにおけるAIセキュリティは、機密性だけでなく、正確性、完全性、最新版性、追跡可能性を守る取り組みを重視する必要があります。
特に生成AIでは、入力した情報がサービス側に保存されるのか、学習に利用されるのか、どの国・地域のクラウドに保管されるのか、委託先や再委託先が関与するのかを確認しなければなりません。公開型サービスに、製造パラメータ、未公開の品質トラブル、個人情報、供給上の制約、査察対応資料を安易に入力する運用は必ず避ける必要があります。

リスクは「入力」と「出力」の両方にある
生成AIのリスクは、情報を入れる瞬間だけではありません。出力された文章が社内で再利用されることで、誤った情報が正式文書や教育資料に紛れ込むリスクもあります。もっともらしい表現であっても、根拠が承認済み文書か、最新のSOPか、原記録と整合しているかは別問題です。

RAGのように社内文書を検索して回答させる仕組みでも同じです。参照先に旧版SOP、ドラフト、部門限定資料、アクセス権のない記録が混在していれば、AIはそれらを自然な文章にまとめてしまいます。したがって、AIの前に文書管理とアクセス制御があります。どの文書をAIに参照させるのか、版管理はどうするのか、ユーザー権限に応じて検索範囲を制限できるのか。この基盤が曖昧なままAIだけを導入すると、便利な検索窓が新しい情報漏えい経路になってしまう可能性があります。

管理すべきセキュリティのポイント
まず必要なのは、利用環境の選定です。法人向け環境、入力データを学習に使わない契約、保存期間、暗号化、アクセスログ、SSO・多要素認証、権限管理、データの保管地域、障害時・解約時のデータ削除条件を確認します。主体となるのはIT部門かもしれませんが、IT部門だけで完結する話ではなく、QA、製造、QC、CSV、法務など関係する部署が自分事として考え、共同でリスク評価すべき項目です。

次に、入力ルールを業務別に定義します。「社外秘は入力禁止」という抽象的なルールでは現場は判断できません。たとえば、承認済みSOPの一般的な要約は可、バッチ固有の製造条件や未クローズの逸脱情報は不可、個人情報は匿名化後のみ可、といった具体的な線引きが必要でしょう。