生成AIを巡る期待と現実【第1回】

GMP適用が難しい背景

はじめに
近年、「生成AI」、「ChatGPT」といった言葉が急速に広まり、医薬品業界においてもその活用可能性が盛んに議論されるようになりました。一方で、GMPという厳格な規制環境においては、「本当に使えるのか？」、「使ってはいけないのではないか？」という両極端な受け止め方が混在しているのが実情です。
今回の連載では、生成AIに対する過度な期待や誤解を排し、医薬品に携わるすべての人が生成AIに「何を期待し、何を期待すべきでないのか」を俯瞰して捉えることで、GMPの議論に耐える生成AI活用の共通理解を作ることを目指します。
第1回では、その前提となる技術的背景と、GMPとの間に存在する構造的なギャップを整理します。

AIの歴史と生成AIの位置づけ
人工知能（AI）の研究は1950年代から始まり、これまでに複数回のAIブームを経験してきました。初期のAIは、あらかじめ人が定義したルールに基づいて動作するルールベースAIが中心でした。しかし、複雑な現実世界をすべてルール化することは困難であり、期待ほどの成果を出せずに停滞期を迎えます。
その後、統計的手法を用いる機械学習、さらに大量のデータと計算資源を前提とした深層学習（ディープラーニング）が登場し、画像認識や音声認識の精度が飛躍的に向上しました。そして現在注目されている生成AIは、こうした深層学習技術を基盤としつつ、文章を生成することに特化した大規模言語モデル (LLM) を中心としています。
重要なのは、生成AIは「考えている存在」ではなく、「大量のテキストデータから学習した言語の統計的パターンを用いて、もっともらしい文章を生成する仕組み」であるという点です。この前提を誤解すると、GMP領域では致命的な認識のズレが生じます。

GMP領域に生成AIの導入が難しい理由
生成AI活用がGMP領域で慎重に扱われる理由の一つが、「正しさ」と「それらしさ」の違いです。生成AIは文章として自然な出力を得意としますが、その仕組み上、内容が事実として正しいかどうかは保証されません。一方、GMPでは医薬品の品質を保証する上で「なぜそう判断したのか」、「根拠は何か」を説明できることが求められます。
また、再現性の問題も重要です。同じ質問をしても、生成AIは必ずしも同一の回答を返すとは限りません。これは作業手順や品質判断の標準化を前提とするGMPの考え方と相性が良いとは言えません。さらに、AIがどのような根拠でその回答に至ったのかを説明することが難しい点は、説明可能性を重視する規制環境において大きな課題となります。
ここで重要なのは、生成AIが未成熟だから使えないのではなく、GMPが前提とする考え方と、生成AIの性質が根本的に異なる部分があるという点です。この違いを理解しないまま導入を進めると、便利そうだから使ってみたが、実運用に耐えうる活用方法に落とし込めないという事態を招きかねません。

回答の正確性を補完する技術
こうした課題に対する一つの技術的アプローチとして、RAG（Retrieval Augmented Generation）が注目されています。RAGは、生成AIが回答を作成する際に、信頼できる規制文書や社内文書、SOPなどを検索し、その情報を参照しながら文章を生成する仕組みです。
RAGの仕組みをより一般的な例で考えてみます。