ドマさんの徒然なるままに【第88話】 GMPハルシネーション

第12章：なぜ都合のいい解釈をしたがるのか？
さて、本話での本題は、AIのハルシネーションではなく、現実のGMP運用におけるハルシーションである。では、「人はなぜ都合のいい解釈をしたがるのか？」という疑問から整理しよう。一番分かり易いのは、SNSでの“バズり”であろうか。そもそもで申し訳ないが、「自分が知りたい情報だけを検索している」という状態になっていませんか？ ネットで得た情報が自分の考えに都合よくマッチするものばかりであれば、それはバイアスがかかっている可能性がある。このような情報収集を「エコーチェンバー現象」^＊３と呼び、自分に都合の良い情報だけを集めることで、物事の本質を見失うことがある。フェイクニュースの拡散などはその例である。また、その際のバイアスを心理学的には「認知バイアス」という。心理学における「認知バイアス」とは、人間が情報を処理するときに偏りが生じる現象を指す。「認知バイアス」は、さらに「確証バイアス（confirmation bias）」、「自己奉仕バイアス（self-serving bias）」ならびに「楽観バイアス（optimism bias）」に分類される^＊４。

GMPにおけるハルシネーションは、今まで述べてきたように、「思い込み」「過剰解釈」「根拠なきルール化」といった実際のリスクより形式や伝説を優先したときに起こりやすいと言える。一方で、GMPの本質は患者リスクを品質リスクとして捉え、科学的・合理的に管理できているか否かが問われる。では、どうすればGMPハルシネーションを回避 or 低減できるのだろうか。

第13章：GMPハルシネーションを回避 or 低減するために
「インターネットも使わず、ましてAIも使わないで、自分で調べて考えなさい！」なんて、身も蓋もない言い方をしたら叱られるでしょうね。インターネットは強力な情報源であり、AIは業務効率を上げるのに役立つのは事実である。使い方によっては、かなりの部分をAIに任せることも可能であろう。ただ、一度その利便性を味わってしまうと、どんどん深みにはまり、手放すことは出来なくなってしまうのが人間の性である。

問題は、それをどう活用するかである。情報の信頼性を確認し、バイアスを避けるように意識することが求められるということである。情報を正しく収集するために、その元情報や出典を遡及して調査し、冷静になって他の視点を取り入れることが、より深い知識を得るための鍵となる。コンピュータについてもAIについても全くの素人の筆者ではあるが、ちょっと調べてみた。現時点では、以下のようなやり方があるようだ。

例えば、対策アプローチとしては、RAG（Retrieval-Augmented Generation：検索拡張生成）^＊５といった情報検索と生成AIを組み合わせることで、自社データを根拠にした高精度な回答を実現する技術もある。GMPで言えば、AIに自分の知識で答えさせるのではなく、社内の信頼できるSOP（元がいい加減であれば、当然ダメである）や規制ガイドラインのみを参照して回答させる技術である。

また、プロンプトエンジニアリング^＊６といった生成AI（ChatGPTなどの大規模言語モデル）に対して、適切な指示や条件を与えることで、期待するアウトプットを得るためのスキルや技術もある。要は、「わからない場合は『わからない』と答えること」「必ず参照元の条文を明示すること」といった制約をAIに与えることで精度を上げることである。ついでに言えば、評価用データセットの作成として過去の正解データを用いて、AIがどの程度の頻度で誤情報を出すかを定量的に検証（性能評価）といったことも考えられる（まさにPerformance Qualificationである）。

さらに、human-in-the-loop（HITL）^＊７と称される、AIシステムにおいて人間がプロセスに介入して適切な判断を行うことで、AIの学習データを増やし、システムの精度を継続的に向上させる仕組みもある。GMPで言えば、AIの回答をそのままプロセスに流さず、必ずその道の専門家やQAなどが照査・承認する工程を設けるといったことも考えられる（QAの業務が益々増えるが、その質が問われると思ってくださいな）。

終章
以上、現実のGMPの世界におけるハルシネーションについて述べた。一方で、AIの世界、生成AIのみならず、自立型AIや自律型AI^＊８も出現し、実際の製造現場でも一部活用されているようだ。人工知能AI、確かに便利なツールである。しかし、便利だから使うということと、自分で考え、判断し、決定するという本来の人間としての頭脳を使うということとをごちゃ混ぜにして欲しくない。GMPの世界において、AIをどんなに活用したとしても、AIを使うということの判断や決定は、ご自身に委ねられており、最終的な責任は常に人間（製造販売業者や製造業者など）に帰属し、その結果は自身に降りかかるということを忘れないで欲しいし、それを願っている。

ちなみに、今回の検索において、Geminiは最後に『AIの出力を「鵜呑みにしない」仕組みづくりが、ハルシネーション対策の第一歩です。』と答えてきた。まだ救いがあると感じている。

では、また。See you next time on the WEB.